• AI Crunch
  • Posts
  • #135: Kalifornien will Gesetz gegen KI-Katastrophen

#135: Kalifornien will Gesetz gegen KI-Katastrophen

🏴󠁧󠁢󠁷󠁬󠁳󠁿, liebe Cruncher! 

OpenAIs neues Voice Interface läuft gut an – besonders in Großbritannien. Kleines Problem: Bis Samstag beantwortete der Bot englischsprachige Anfragen noch auf Walisisch.

Wir sagen: Cael dechrau gwych i'ch diwrnod!

Oder auf Deutsch: Happy Monday.

In eigener Sache: Der AI Crunch hat ein kleines Upgrade erfahren - sagt uns gern in der Umfrage unten, wie ihr AI Crunch 2.0 findet 🤝

Let’s go!

before the bell

*Stand: Vortag, 22 Uhr - was diese Zahlen bedeuten 📊

big tech

SB 1047: Gesetz soll KI-Katastrophen verhindern – aber wie? 👨‍⚖️

Was ist passiert: Kalifornien steht kurz davor, ein Gesetz (Kürzel: SB-1047) zur Vermeidung von KI-Katastrophen zu verabschieden

  • Unhappy Valley: OpenAI & Anthropic hatten beide im Vorhinein massiv protestiert – und mit ihrem Protest noch deutliche Änderungen am Gesetz erwirkt

Die Details: Firmen, die Modelle für >100 Millionen USD entwickeln (aka alle Top KI-Player) sollen neuen Regeln unterliegen

  • Genauer: Diese neuen Regeln beinhalten Test-Regularien, einen “Emergency Stop Button” und Third-Party Auditors (also wie E&Y für KI), die Modelle überprüfen sollen

  • “KI-Katastrophen”: Sind laut SB-1047 Cyberattacken mit einem Schaden von >500 Millionen USD und die Herstellungen von Waffen, die zu Todesfällen führen

  • Last Minute Intervention: OpenAI & Anthropic haben Im Grunde noch drei Dinge geändert

    •  1️⃣ Hat der Generalstaatsanwalt kein Recht mehr, KI-Firmen präventiv zu verklagen (sondern nur noch nach Zuwiderhandlung)

    • 2️⃣ Wurde die neue Regierungsbehörde, die das Gesetz überwachen sollte, gestrichen

    • 3️⃣ Müssen LLM-Entwickler nur noch öffentliche Erklärungen zu ihren Sicherheitspraktiken abgeben, und nicht mehr ihre gesamten Testergebnisse veröffentlichen

Warum das wichtig ist: Kaliforniens KI-Regulation ist entscheidend – weil fast alle Top-Modelle in dem Bundesstaat entwickelt werden

  • Big, Big Question: Ob das neue Gesetz die Balance zwischen Sicherheit & Innovation gefunden hat – und welchen Einfluss es damit auf die Entwicklung von KI hat

  • Next Steps: SB-1047 wird nun im kalifornischen Parlament zur endgültigen Abstimmung vorgelegt. Falls es durchkommt, liegt die Entscheidung bei Gouverneur Newsom – ob er das Gesetz unterzeichnet oder ein Veto einlegt, bleibt spannend

Further Reading: TechCrunch, New York Times 

partner

desktoptimertrk_px

big bets

CodeRabbit: Sammelt 16 Mio. USD in Series A 🐰

Was ist passiert: CodeRabbit hat 16 Millionen USD von CRV, Flex Capital und Engineering Capital eingesammelt

  • What they do: Das Silicon Valley Startup hat eine AI-basierte Plattform entwickelt, die Code Reviews automatisieren soll

Die Details: CodeRabbit behauptet, dass seine Plattform durch "fortschrittliches AI-Reasoning" den Code versteht und Entwicklern menschenähnliches Feedback gibt

  • Wer dahinter steht: Gründer Gill war vorher Technologiechef bei Nutanix, das seine Firma Netsil 2018 übernommen hat, Mitgründer Singh leitete zuvor Entwicklungsteams bei Alegeus – beide also Tech-Profis

  • Wachstumschancen: Mit 600 zahlenden Kunden und Pilotprojekten bei Fortune 500-Unternehmen könnte CodeRabbit ein Vorreiter in der Automatisierung von Code Reviews werden.

  • Und das neue Cash? Mit dem neuen Kapital plant CodeRabbit, seine Sicherheitsanalyse-Funktionen zu verbessern und Integrationen mit Plattformen wie Jira und Slack zu vertiefen.

Warum das wichtig ist: Weil die Diskussion um den Einsatz von AI im Software-Engineering immer intensiver wird 🤖

  • Erster Concern: Trotz der Versprechen gibt es Bedenken – Studien zeigen, dass AI-basierte Code Reviews häufig fehlerhaft sind

  • Zweiter Concern: Während AI-Lösungen wie CodeRabbit die Effizienz steigern könnten, bleibt fraglich, ob sie das Lernen und die Wissensvermittlung innerhalb von Teams gefährden – und damit auch die Qualität vom Code selbst

Further Reading: TechCrunch

3 top reads 

  • Norwegens Staatsfonds: Fordert mehr KI-Kompetenz in Vorständen

    🇳🇴 Unternehmen müssen ihre Kompetenz im Bereich Künstliche Intelligenz auf Vorstandsebene ausbauen, fordert der Fonds, der Anteile an fast 9k Unternehmen hält. (RTRS)

  • SoftBank: Beendet Pläne für KI-Chip-Kooperation mit Intel

    💔 Laut Financial Times scheiterte die Partnerschaft, weil Intel nicht in der Lage war, die Anforderungen von SoftBank zu erfüllen. SoftBank konzentriert sich nun auf Gespräche mit TSMC. (FT)

  • Anthropic: Fordert Gericht auf, Klagen der Musikverlage abzuweisen

    🎧 Anthropic hat ein kalifornisches Bundesgericht gebeten, einige Urheberrechtsklagen von Musikverlagen abzuweisen. Die Verlage werfen Anthropic vor, Liedtexte ohne Erlaubnis zur Schulung seines Chatbots Claude verwendet zu haben. (RTRS)

community corner

Cruncher der Woche: Vielen Dank an Nina, die vergangene Woche die meisten Leser:innen auf den AI Crunch aufmerksam gemacht hat. (Share-the-Newsletter-Funktion ⬇️)

Umfrage der Woche: Ihr seht - AI Crunch 2.0 ist ab heute live. Wie findet ihr das Upgrade?

📊

Login oder Abonnieren um an umfragen teilzunehmen.

watchlist

insights 💡

  • Chinas Video KI: Weckruf für’s Silicon Valley (BBG)

  • Neues KI-Startup: Fei-Fei Lis “World Labs” erreicht Einhorn-Status nach 100-Millionen-USD-Finanzierung (TC)

  • Vietnam: Wird Hub für KI-Chip-Designer (FT)

  • Midjourney: Stellt neuen Web-Editor vor (MJ)

  • BMW: Erfolgreicher Einstz von humanoiden Robotern (BMW)

tools 🔧

  • Google: Startet Gemini Live (TC)

  • Gen-3 Alpha Turbo: 7x schnellere Videoerstellung zum halben Preis (RUNWAY)

  • Anthropic: Prompt Caching sammelt jetzt alle Prompts, um daraus einen ganzen Kontext zu entwickeln (ANTHROPIC)

  • Audible: Baut mit Maven seine KI-getriebene Suche aus (TC)

  • Miro: AI Sidekicks Ermöglicht es Entwicklen, direkt in ihren Boards Feedback zu generieren (MIRO)

jobboard

📌 Vorwerk Ventures: Chief of Staff, Berlin

📌 ESMT Berlin: Venture Manager – Next Generation Computing, Lissabon

📌 TradeRepublic: Growth Manager, Berlin

📌 Flink: Growth Manager, London

📌 HV Capital: Finance Manager, Düsseldorf

📌 Techstars Berlin: Visiting Associate, Berlin

📌 Charles: Founders Associate, Berlin

📌 Startup Insider: Chief of Staff, Hamburg

*Liebe Arbeitgeber - sucht ihr nach smarten Young Professionals? Dann 📩 uns

what do you meme? (KI-Katastrophen Edition) 🤙

crunching on

Markets CrunchDu willst in <5 Minuten wissen, was heute die Börsen bewegt? Dann abonniere jetzt Markets Crunch.
Deals CrunchDu willst wissen, was heute in VC, PE und M&A wichtig wird? Dann abonniere jetzt Deals Crunch.