💵, liebe Cruncher! 

Ein kleines Update aus der X-Welt von Elon Musk: Seit gestern Abend gibt’s eine neue Privacy Policy bei der Social Media Plattform.

In Short: Auch Drittparteien dürfen jetzt LLMs auf X-Posts von Nutzern trainieren.

Macht Sinn: X verdient nicht mehr genügend Geld mit Werbung – jetzt soll der Weiterverkauf von Daten an LLM-Entwickler helfen.

Wir fragen: Gibt’s auf X eigentlich noch echte Menschen, oder sind da nicht sowieso inzwischen fast alle Botposts?

Let’s go!

before the bell

*Stand: Vortag, 22 Uhr - was diese Zahlen bedeuten 📊

big tech

Meta vs. OSI: Llama nicht so Open Source, wie behauptet

Was ist passiert: Die Open Source Initiative (OSI) hat Meta dafür kritisiert, dass der Konzern seine Llama-KI-Modelle als “Open Source” labelled

• Laut OSI: Verwässert Meta den Begriff und schadet dem Vertrauen in wirklich offene Technologien 🔥

Die Details: Meta beschreibt sein Llama-Modell als Open Source - lässt jedoch wichtige Elemente wie die zugrundeliegenden Algorithmen oder den vollständigen Zugriff auf Trainingsdaten aus

• A Step Back: Metas LLM-Familie Llama gibt’s seit 2023 – seitdem wurden die Modelle >400 Mio. Mal heruntergeladen

• Meta: Erzählt stolz, dass das Modell im Gegensatz zu den Modellen des Hauptkonkurrenten OpenAI komplett Open Source sei – was das bedeutet

• Open Source 101: Open Source bedeutet eigentlich, dass der gesamte Code –inklusive der Lernalgorithmen – öffentlich zugänglich ist und, gemeinsam mit Infos zu den genutzten Daten, der Entwickler-Community zur Verfügung steht

• Open-ish Source: Meta bietet aber nicht Algorithmus & Datensatz, sondern “nur” eine Übersicht zu den genutzten Parametern

• On Top: Gibt’s strikte Einschränkungen für die Weiternutzung der Informationen, besonders durch direkte Konkurrenten

• Not Good Enough: Sagt OSI – und greift damit Llamas Alleinstellungsmerkmal an

Warum das wichtig ist: Die Open Source Debatte ist der Kern der ethischen KI-Debatte – gehört die KI einzelnen Firmen, oder profitiert die Menschheit von offener, kollaborativer Entwicklung? 🤷

• Eine Antwort: Gibt’s von uns nicht – aber von Institutionen wie der EU, die explizit Open Source KI-Entwicklung fördern will

• Was die Debatte OSI vs. Meta zeigt: Damit das klappt, braucht es klare Standards, was Open Source eigentlich genau bedeutet

• Next Up: OSI wird nächste Woche eine offizielle Definition für Open-Source-KI veröffentlichen, um Klarheit zu schaffen und Missbrauch des Begriffs zu verhindern.

Further Reading: Financial Times, MIT Tech Review

partner

big bets

Mistral: Neue KI-Modelle für Laptops und Smartphones 💻

Was ist passiert: Das französische KI-Startup Mistral hat seine ersten generativen KI-Modelle vorgestellt, die speziell für den Einsatz auf Edge-Geräten wie Laptops und Smartphones entwickelt wurden

• Bonjour: Die neue Modellfamilie trägt den Namen „Les Ministraux“ und zielt darauf ab, KI auf Geräten lokal statt über die Cloud zugänglich zu machen

Die Details: Die „Ministral“-Modelle sind speziell darauf ausgelegt, rechen- und latenzarm zu arbeiten – also ideal für Anwendungsfälle wie Offline-Übersetzungen, lokale Analyse oder autonomes Fahren

• Mistral 101: Das Pariser Startup ist Europas #1 KI-Hoffnung – im September 2023 stellten die Franzosen mit “Mistral 7B” ihr erstes LLM vor, das in Tests etwa auf das Niveau von GPT3.5 und Llama 2 kam

• Support Local: Mit den Modellen „Ministral 3B“ und „Ministral 8B“ ermöglicht Mistral jetzt eine leistungsfähige KI auf kleineren Geräten, die Daten lokal verarbeiten kann – was besonders bei Anwendungen Sinn macht, die auf Datenschutz oder schnelle Reaktionszeiten angewiesen sind

• By the Numbers: Mistral 8B kostet 10 Cent pro Million Tokens, während Ministral 3B bei 4 Cent liegt – beide Modelle haben ein Kontextfenster von 128.000 Tokens (~50 Seiten eines Buches)

• Und ab wann gilt das? Beide Modelle sind ab sofort für Forschungszwecke verfügbar und können über die Mistral-Cloud-Platform für kommerzielle Zwecke lizensiert werden

Warum das wichtig ist: Weil der Trend klar zu kleineren, lokalen Modellen geht 👇

• Neben Mistral: Baut auch Google seine Gemma-Familie aus, Microsoft entwickelt mit Phi neue Modelle und auch Meta hat mehrere kleine Versionen von Llama veröffentlicht 

• Dahinter steht: Der Wettkampf um den Hardware-Markt – wer vorinstalliert ist, gewinnt 🤷

Further Reading: TechCrunch, Hackster, The Information

3 top reads

• ChatGPT kommt jetzt auf Windows

  🔎 OpenAI hat eine frühe Version der ChatGPT-App für Windows vorgestellt, die derzeit nur für Plus-, Team-, Enterprise- und Edu-Nutzer verfügbar ist. Die App ermöglicht es, Dateien und Fotos hochzuladen und auf das neueste Modell „OpenAI o1-preview“ zuzugreifen. (TC)

• TSMC: Börsensprung dank KI

  💾 Während der niederländische Chipausrüster ASML am Dienstag mit seinen aktuellen Quartalszahlen schockte, kann TSMC-Chef C. C. Wei dank des KI-Booms einen weiteren Gewinnsprung vermelden – von >50% im vergangenen Quartal. Die Anleger sind erleichtert. (HB)

• Kann KI Afrika helfen, seine Entwicklungslücke zu schließen?

  🌍 KI wird auch auf Entwicklungsländer einen transformativen Einfluss haben. Doch die Frage ist: Verstärkt oder schließt die neue Technologie die bestehende digitale Kluft zwischen Entwicklungs- und Industrieländern? (FT)

community corner

Cruncher der Woche: Vielen Dank an Vincent, der vergangene Woche die meisten Leser:innen auf den AI Crunch aufmerksam gemacht hat (Share-the-Newsletter-Funktion ⬇️)

Umfrage der Woche: Unseren Karriereplan (morningcrunch groß machen, Springer übernehmen, Weltherrschaft) kennt ihr ja - aber was ist eigentlich eurer?

watchlist

insights 💡

• Tesla Robotaxi: Musk zeigt Video, um Kritiker zu entkräften (BBG)

• Sicherheitslücke: Neue Angriffsmethode extrahiert persönliche Daten aus Chatbots (WIR)

• Atom-Revival: KI-Player wie Amazon, Google und Microsoft investieren massiv in Atomkraft (NYT)

• Forscher: Zweifeln an der "Denkfähigkeit" von KI-Modellen - weil sie nach wie vor mit leichten Matheaufgaben überfordert ist (TC)

• KI-Stromnachfrage: Unternehmensberatung Bain prognostiziert, dass steigende Nachfrage das Angebot übersteigen wird (FT)

• Adobe: “Content Authenticity”-Programm soll Urheberrechte von Künstler:innen schützen (T3N)

tools 🔧

• Anthropic: Message Batches API (ANTH)

• Google Gemini Live: Jetzt auch auf Deutsch verfügbar (GOOG)

• Salesforce Generative Canvas: Dynamische UX durch KI (SF)

• Zoom: Ermöglicht bald KI-Avatare für Meetings (TV)

• Hotshot: Kreative KI-generierte Videos (HS)

jobboard

📌 Kleinanzeigen: Head of Marketing, Berlin

📌 Blinkist: Finance Director, Berlin

📌 Microsoft: Partner Development Manager, München, Berlin, Frankfurt

📌 DeepL: Product Marketing Manager, Köln

📌 Urban Sports Club: Programme & Business Development Manager, Berlin, Madrid

📌 Voiio: Chief Product Officer, Berlin

📌 Nelly: Business Development Manager, Berlin, Heidelberg, Stuttgart, München

☕️ Lap Coffee: Chief of Staff, Berlin

*Liebe Arbeitgeber - sucht ihr smarte Young Professionals? Dann 📩 uns

what do you meme?

crunching on