- AI Crunch
- Posts
- #135: Kalifornien will Gesetz gegen KI-Katastrophen
#135: Kalifornien will Gesetz gegen KI-Katastrophen
🏴, liebe Cruncher!
OpenAIs neues Voice Interface läuft gut an – besonders in Großbritannien. Kleines Problem: Bis Samstag beantwortete der Bot englischsprachige Anfragen noch auf Walisisch.
Wir sagen: Cael dechrau gwych i'ch diwrnod!
Oder auf Deutsch: Happy Monday.
In eigener Sache: Der AI Crunch hat ein kleines Upgrade erfahren - sagt uns gern in der Umfrage unten, wie ihr AI Crunch 2.0 findet 🤝
Let’s go!
before the bell
*Stand: Vortag, 22 Uhr - was diese Zahlen bedeuten 📊
big tech
SB 1047: Gesetz soll KI-Katastrophen verhindern – aber wie? 👨⚖️
Was ist passiert: Kalifornien steht kurz davor, ein Gesetz (Kürzel: SB-1047) zur Vermeidung von KI-Katastrophen zu verabschieden
Unhappy Valley: OpenAI & Anthropic hatten beide im Vorhinein massiv protestiert – und mit ihrem Protest noch deutliche Änderungen am Gesetz erwirkt
Die Details: Firmen, die Modelle für >100 Millionen USD entwickeln (aka alle Top KI-Player) sollen neuen Regeln unterliegen
Genauer: Diese neuen Regeln beinhalten Test-Regularien, einen “Emergency Stop Button” und Third-Party Auditors (also wie E&Y für KI), die Modelle überprüfen sollen
“KI-Katastrophen”: Sind laut SB-1047 Cyberattacken mit einem Schaden von >500 Millionen USD und die Herstellungen von Waffen, die zu Todesfällen führen
Last Minute Intervention: OpenAI & Anthropic haben Im Grunde noch drei Dinge geändert
1️⃣ Hat der Generalstaatsanwalt kein Recht mehr, KI-Firmen präventiv zu verklagen (sondern nur noch nach Zuwiderhandlung)
2️⃣ Wurde die neue Regierungsbehörde, die das Gesetz überwachen sollte, gestrichen
3️⃣ Müssen LLM-Entwickler nur noch öffentliche Erklärungen zu ihren Sicherheitspraktiken abgeben, und nicht mehr ihre gesamten Testergebnisse veröffentlichen
Warum das wichtig ist: Kaliforniens KI-Regulation ist entscheidend – weil fast alle Top-Modelle in dem Bundesstaat entwickelt werden
Big, Big Question: Ob das neue Gesetz die Balance zwischen Sicherheit & Innovation gefunden hat – und welchen Einfluss es damit auf die Entwicklung von KI hat
Next Steps: SB-1047 wird nun im kalifornischen Parlament zur endgültigen Abstimmung vorgelegt. Falls es durchkommt, liegt die Entscheidung bei Gouverneur Newsom – ob er das Gesetz unterzeichnet oder ein Veto einlegt, bleibt spannend
Further Reading: TechCrunch, New York Times
partner
big bets
CodeRabbit: Sammelt 16 Mio. USD in Series A 🐰
Was ist passiert: CodeRabbit hat 16 Millionen USD von CRV, Flex Capital und Engineering Capital eingesammelt
What they do: Das Silicon Valley Startup hat eine AI-basierte Plattform entwickelt, die Code Reviews automatisieren soll
Die Details: CodeRabbit behauptet, dass seine Plattform durch "fortschrittliches AI-Reasoning" den Code versteht und Entwicklern menschenähnliches Feedback gibt
Wer dahinter steht: Gründer Gill war vorher Technologiechef bei Nutanix, das seine Firma Netsil 2018 übernommen hat, Mitgründer Singh leitete zuvor Entwicklungsteams bei Alegeus – beide also Tech-Profis
Wachstumschancen: Mit 600 zahlenden Kunden und Pilotprojekten bei Fortune 500-Unternehmen könnte CodeRabbit ein Vorreiter in der Automatisierung von Code Reviews werden.
Und das neue Cash? Mit dem neuen Kapital plant CodeRabbit, seine Sicherheitsanalyse-Funktionen zu verbessern und Integrationen mit Plattformen wie Jira und Slack zu vertiefen.
Warum das wichtig ist: Weil die Diskussion um den Einsatz von AI im Software-Engineering immer intensiver wird 🤖
Erster Concern: Trotz der Versprechen gibt es Bedenken – Studien zeigen, dass AI-basierte Code Reviews häufig fehlerhaft sind
Zweiter Concern: Während AI-Lösungen wie CodeRabbit die Effizienz steigern könnten, bleibt fraglich, ob sie das Lernen und die Wissensvermittlung innerhalb von Teams gefährden – und damit auch die Qualität vom Code selbst
Further Reading: TechCrunch
3 top reads
Norwegens Staatsfonds: Fordert mehr KI-Kompetenz in Vorständen
🇳🇴 Unternehmen müssen ihre Kompetenz im Bereich Künstliche Intelligenz auf Vorstandsebene ausbauen, fordert der Fonds, der Anteile an fast 9k Unternehmen hält. (RTRS)
SoftBank: Beendet Pläne für KI-Chip-Kooperation mit Intel
💔 Laut Financial Times scheiterte die Partnerschaft, weil Intel nicht in der Lage war, die Anforderungen von SoftBank zu erfüllen. SoftBank konzentriert sich nun auf Gespräche mit TSMC. (FT)
Anthropic: Fordert Gericht auf, Klagen der Musikverlage abzuweisen
🎧 Anthropic hat ein kalifornisches Bundesgericht gebeten, einige Urheberrechtsklagen von Musikverlagen abzuweisen. Die Verlage werfen Anthropic vor, Liedtexte ohne Erlaubnis zur Schulung seines Chatbots Claude verwendet zu haben. (RTRS)
community corner
Cruncher der Woche: Vielen Dank an Nina, die vergangene Woche die meisten Leser:innen auf den AI Crunch aufmerksam gemacht hat. (Share-the-Newsletter-Funktion ⬇️)
Umfrage der Woche: Ihr seht - AI Crunch 2.0 ist ab heute live. Wie findet ihr das Upgrade?
📊 |
Login oder Abonnieren um an umfragen teilzunehmen. |
watchlist
insights 💡
Chinas Video KI: Weckruf für’s Silicon Valley (BBG)
Neues KI-Startup: Fei-Fei Lis “World Labs” erreicht Einhorn-Status nach 100-Millionen-USD-Finanzierung (TC)
Vietnam: Wird Hub für KI-Chip-Designer (FT)
Midjourney: Stellt neuen Web-Editor vor (MJ)
BMW: Erfolgreicher Einstz von humanoiden Robotern (BMW)
tools 🔧
Google: Startet Gemini Live (TC)
Gen-3 Alpha Turbo: 7x schnellere Videoerstellung zum halben Preis (RUNWAY)
Anthropic: Prompt Caching sammelt jetzt alle Prompts, um daraus einen ganzen Kontext zu entwickeln (ANTHROPIC)
Audible: Baut mit Maven seine KI-getriebene Suche aus (TC)
Miro: AI Sidekicks Ermöglicht es Entwicklen, direkt in ihren Boards Feedback zu generieren (MIRO)
jobboard
📌 Vorwerk Ventures: Chief of Staff, Berlin
📌 ESMT Berlin: Venture Manager – Next Generation Computing, Lissabon
📌 TradeRepublic: Growth Manager, Berlin
📌 Flink: Growth Manager, London
📌 HV Capital: Finance Manager, Düsseldorf
📌 Techstars Berlin: Visiting Associate, Berlin
📌 Charles: Founders Associate, Berlin
📌 Startup Insider: Chief of Staff, Hamburg
what do you meme? (KI-Katastrophen Edition) 🤙
crunching on
|
|