#73: OpenAI vernachlässigt Sicherheitstests, Nate-Gründer betrügt Investoren

🥪, liebe Cruncher!

Und grüezi an die Schweizer Kollegen von Supermarktkette migrolino – die haben neuerdings ein Chicken Sandwich in der Kühlauslage (jaja, wir haben „Die Discounter“ geschaut) liegen, dessen Rezept von einer KI stammt.

Das „Truly Good“-Sandwich ist übrigens nicht das erste Lebensmittel, das mit „made by AI“ überzeugen will. Vivi Kola hatte bereits 2023 das KI-Getränk „Vivi Nova“, Cocal-Cola ein weiteres KI-Getränk „Y3000“ in die Supermarktregale gebracht.

Was die beiden neben KI-Rezeptur gemeinsam haben? Sie sind mittlerweile aus den Regalen verschwunden.

Before The Bell

*Stand: Vortag, 22 Uhr – was diese Zahlen bedeuten 📊

UNSER PARTNER: NAO 

Börsenchaos: Wie schauen Experten auf die neue Volatilität?

Worum geht’s: Um das Auf und Ab der letzten Wochen – und die Strategien, mit denen Profis jetzt auf die Chancen und Risiken schauen.

Ganz konkret: Am Montag, 14. April 2025 um 18 Uhr berichten Robin Binder, CEO von NAO und Hendrik Schmidt, Head of Growth bei NAO, über sinnvolle Portfoliokonstruktionen und den Einfluss der neuen Zölle auf die Private Equity Branche.

Wir: Haben uns schon Plätze gesichert 🤝

Hier geht’s zur Anmeldung!

Big Tech: OpenAI kürzt Sicherheitstests drastisch

Was ist passiert: OpenAI will sein neues KI-Modell „o3“ offenbar schon nächste Woche veröffentlichen – doch interne Tester hatten nur wenige Tage Zeit, um Risiken zu bewerten

• Zum Vergleich: Für GPT-4 wurden noch sechs Monate für Sicherheitstests eingeplant

• Meanwhile: Sammelt Ex-OpenAI-Mitgründer Ilya Sutskever mit seinem neuen Startup Safe Superintelligence (SSI) €2 Mrd. ein – mit explizitem Fokus auf ausführliche Sicherheitstests und bei einer Bewertung von €32 Mrd. 

Die Details: OpenAI testet laut Insiderangaben nicht mehr gründlich – bei „o3“ liefen Evaluierungen nicht nur in Rekordzeit, sondern teils nur mit älteren sog. Checkpoints, nicht finalen Versionen, die später noch einmal geupdated werden

• Speedrun statt Safety: Bei älteren Modellen führte OpenAInoch komplexe Sicherheitstests durch, um Missbrauch zu verhindern (think: sensible Infos zu Viren und anderen Pathogenen könnten zur Anwendung von Biowaffen genutzt werden) – bei „o3“ fehlt der Nachweis

• Big Tech, bigger Pressure: Der Druck zur schnellen Veröffentlichung kommt vor allem durch Big-Tech-Konkurrenten wie Meta, Google und xAI – die versuchen sich bei Performance, Features und Marktanteilen gegenseitig zu überholen

• Mini-Modell als Alibi: OpenAI veröffentlichte zuletzt nur Sicherheitsberichte zu abgespeckten Varianten wie „o3-mini“ – wie sich das große Modell unter Extrembedingungen verhält, bleibt unklar

• Automatisiert ≠ abgesichert: Laut OpenAI sollen automatisierte Tests die neuen Prozesse effizienter machen – Tester warnen jedoch, dass kritische Schwachstellen so leichter übersehen werden

Warum das wichtig ist: Mit wachsender Leistung von KIs steigt auch das Risiko von Missbrauch – doch ohne verbindliche Standards bleibt es den Unternehmen selbst überlassen, wie (und ob) sie ihre Modelle auf Sicherheit testen

• Blindflug beim Release: Wenn nur Vorab-Versionen getestet werden, kommt das finale Modell potenziell mit ungeprüften Risiken am Markt

• Regelwerk erst ab Herbst: Erst mit Inkrafttreten des EU-AI-Acts wird es (in der EU) verpflichtende Risikobewertungen für große Modelle geben – bis dahin regiert das Vertrauen

• Mission vs. Markt: OpenAI versprach einst, die Entwicklung einer KI, die der Menschheit zugutekommen werde, sicher und vorteilhaft sei – heute sehen kritische Stimmen ein Unternehmen, das in Rekordzeit Produkte raushaut, um so seine $300-Mrd.-Bewertung zu rechtfertigen

Further Reading: Financial Times, Golem, The Decoder, morningcrunch

Ergebnis sofort: Hol’ Dir jetzt bei Carwow basierend auf Marktdaten eine Bewertung für Dein Auto.

Was ist passiert: Carwow bietet Dir den kostenlosen Preis-Check für Dein Auto – mit Sofortergebnis innerhalb von wenigen Minuten

Warum das wichtig ist: So bekommst Du transparent und schnell ein Angebot und kannst entscheiden, ob Du verkaufen willst oder nicht. Der ganze Prozess ist so simpel wie möglich und dauert wenige Minuten.

Das Beste: Carwow prüft seine Händler und stellt sicher, dass Du einen marktgerechten Preis bekommst. Heißt: Datenvorsprung zum Nulltarif.

Hier geht’s zur kostenlosen Bewertung!

Big Bets (Crime Edition): $40 Mio. für nichts – Gründer täuscht Investoren mit Fake-KI

Was ist passiert: Der Gründer des Shopping-Startups Nate, Albert Saniger, wird in den USA wegen Betrugs angeklagt – er hatte behauptet, sein Tool nutze KI für One-Tap-Onlinekäufe

• In Wahrheit: Klickten hunderte Menschen in philippinischen und rumänischen Callcentern

Die Details: Laut FBI (hier die Anklageschrift) lag der tatsächliche Automatisierungsgrad der App bei exakt 0 % – das Start-up hatte keinerlei funktionierende KI, obwohl genau diese das zentrale Verkaufsargument war

• Nate 101: Das 2018 gegründete Startup versprach eine „One-Tap“-Shopping-App auf KI-Basis – die KI, so das Versprechen, suchte in unterschiedlichsten Onlineshops etwa die passende Größe aus, ebenso trug sie die Lieferadresse und weitere Daten ein 

• Nur: Statt automatisiertem Checkout klickten sich eifrige Callcenter-Mitarbeiter bei allen Käufen per Hand durch

• Fake it till you jail it: Der Gründer Albert Saniger soll mit Präsentationen, KPIs und Demos ein KI-Märchen verkauft haben – und dafür mehr als $40 Mio. von namhaften VCs kassiert haben

• Manpower statt Machine Learning: Bereits 2022 deckte The Information auf, dass Nate kaum echte KI einsetzte – 2023 war das Geld weg und die App offline

• Clickbait mit Konsequenzen: Die US-Justiz wirft Saniger nun systematischen Betrug vor – bei Verurteilung drohen ihm bis zu 20 Jahre Haft (die wäre dann aber echt)

Warum das wichtig ist: Der Fall Nate zeigt, wie leicht sich mit KI-Versprechen Millionen einsammeln lassen – auch von hart gesottenen Investoren

• Wir dachten: Das ginge nur bei Krypto (unvergessen bleibt Carlos Matos von Bitconnect und die Cryptoqueen von Onecoin)

• Täuschung mit System: Aber nach dem Frank-Skandal um Charlie Javice reiht sich Nate in eine wachsende Liste von Startups ein, die Technologie-Führerschaft nur vorgaukelten – von Biotech-Scam Theranos bis KI-Betrug DaveAI (es geht also auch mit AI)

Further Reading: TechCrunch, Fortune, The Economic Times, The Information

Top Reads

📉 Meta erlebt einen Rückschlag mit seinem KI-Modell Llama 4 Maverick. Nach Vorwürfen der Manipulation rund um die Angabe von Leistungs-Benchmarks rangiert die unmodifizierte Version im LLM-Ranking von LM Arena nur noch auf Platz 32 - weit hinter Rivalen wie GPT-4 und Claude 3.5 Sonnet. Meta erklärt, das Modell sei für Gespräche optimiert, nicht für Benchmarks. Der Fall zeigt die Tücken bei der Bewertung von KI-Leistung. (Deep Dive)

📱 ChatGPT wurde im März zur weltweit meist heruntergeladenen App (ohne Spiele). Mit 46 Mio. Downloads überholte sie Instagram und TikTok. Neue Funktionen wie Bildgenerierung im Studio-Ghibli-Stil trugen zum 28 % m/m-Wachstum bei. ChatGPT wird zunehmend zum Synonym für KI, was Konkurrenten wie Claude oder Grok das Wachstum erschwert. (Deep Dive)

🔀 OpenAI wird GPT-4 am 30. April in ChatGPT durch GPT-4o ersetzen. Das neue Modell übertrifft seinen Vorgänger in Schreiben, Coding und Logik. GPT-4, das +$100 Mio. kostete, bleibt via API verfügbar. Gleichzeitig plant OpenAI neue Modelle wie GPT-4.1 und verbesserte Reasoning-Modelle. Der Wechsel erfolgt inmitten laufender Urheberrechtsstreitigkeiten mit Verlagen. (Deep Dive)

ANZEIGE

Headlines

• Alibaba Cloud: Präsentiert neue KI-Produkte für globale Expansion – internationale Entwickler erhalten Zugriff (Deep Dive)

• Cathie Wood: Tech-Investorin erhöht NVIDIA-Anteil trotz Nasdaq-Turbulenzen (Deep Dive)

• Helsing: KI-Defence-Startup plant KI-Drohnenwall an NATO-Ostflanke für +€5 Mrd. (Deep Dive)

• Meta: KI-Button in WhatsApp zeitweise verschwunden, technisches Problem wird behoben (Deep Dive)

• MIT-Studie: KI-Tools ändern Meinungen leicht, haben kein festes Wertesystem (Deep Dive)

• NRW-Justizminister: Will KI-Manipulationen Grenzen setzen (Deep Dive)

• YouTube: Hostet Tausende KI-erstellte MAGA-Videos, die Fehlinformationen verbreiten (Deep Dive)

Tool Updates

• Amazon Nova Sonic: Neues Foundation-Modell für natürliche Sprachinteraktion (Deep Dive)

• Canva: Visual Suite 2.0 - Verschmelzung von Kreativität und Produktivität? (Deep Dive)

• ChatGPT: Verbessert Gedächtnisfunktion für personalisiertes Antworten (Deep Dive)

• Claude: Führt Max-Plan ein, bis zu 20x-Nutzungslimit (Deep Dive)

• Gemini: Jetzt auch mit Kamera- und Bildschirmfreigabe verfügbar (Deep Dive)

• Orpheus Multilingual: Hochwerte Sprachmodelle für mehrere Sprachen (Deep Dive)

• Runway ML: Veröffentlicht Gen-4 KI-Videogenerator mit besserer Konsistenz (Deep Dive)

• Simular Browser: Erster agentischer Browser, um digitale Aufgaben eigenständig zu lösen (Deep Dive)

• Wielder: Erstellt Spiele mit KI (Deep Dive)

• WordPress: Veröffentlicht eigenen AI Website Builder (Deep Dive)

Job Board

🔥 Top Job: Dein Lieblings-Deliverydienst Wolt sucht ein:e Product Lead für Conversational AI, Standort: Berlin. Wir freuen uns dann schon auf das AI-Feature (Auto-Vervollständigung von Sushi-Bestellungen?).

📌 Uber: Senior Operations Manager, Berlin

📌 Delivery Hero: Director Product Analytics, Berlin

📌 Crypto.com: Strategy Director, Berlin

📌 PartsCloud: Junior Product Manager, Berlin

📌 Enpal: COO Associate, Berlin

📌 WENVEST Capital: Venture Capital Intern, München

📌 Figma: Account Executive, Berlin

📌 Zürich RE: Associate Director Private Equity, New York / Zürich

📌 Notion: Startup Program Manager, München

What Do You Meme?

CRUNCHING ON

Markets Crunch: Dein kompaktes Börsen-Daily. ➡️ Hier anmelden

Crypto Crunch: Tägliche Updates zu BTC, ETH & Co. – nicht nur für HODLer! ➡️ Hier anmelden

Deals Crunch: Tägliche News aus PE, M&A und VC. ➡️ Hier anmelden

Automotive Crunch: Personal-Ticker und Updates aus Deutschlands größter Branche, jeden Montag um 6:00 Uhr. ➡️ Hier anmelden

Immo Crunch: Unternehmen, Projekte, Personalien – Fachwissen für die Immobilien-Branche, jeden Montag um 6:00 Uhr. ➡️ Hier anmelden

Pharma Crunch: Egal ob genAI oder Generika – jeden Montag um 6:00 Uhr die wichtigsten News für Pharma-Entscheider. ➡️ Hier anmelden

✏️ Wurde dir diese E-Mail weitergeleitet? Dann melde dich hier an, um aicrunch werktäglich um 6:00 Uhr in deiner Inbox zu haben.