• AI Crunch
  • Posts
  • #205: OpenAI fördert KI-Moral-Forschung, Nebius wieder gelistet

#205: OpenAI fördert KI-Moral-Forschung, Nebius wieder gelistet

🌃, liebe Cruncher! 

Seit der US-Wahl wächst BlueSky als Alternative zu X mit ~100k neuen Nutzern täglich – und verspricht offene Diskussionen und echten Austausch. Also genau dasselbe, was X auch verspricht.

Nicht so gut: Die EU hat jetzt Bedenken angemeldet, dass BlueSky sich nicht an den Digital Services Act hält.

Wir sagen: Schlechte Nachrichten kommen oft aus blauem Himmel oder, 🥁, wenn man gerade fundraisen will.

before the bell

*Stand: Vortag, 22 Uhr - was diese Zahlen bedeuten 📊

partner nao

Ja, ist denn schon Weihnachten? Bei NAO schon

Was ist passiert: Unser treuer Partner NAO hat zum Black Friday eine besondere Aktion. Nämlich: €100 auf Dein erstes Investment. Denn: Bei den anstehenden Weihnachtsausgaben können die €100 sicher nicht schaden.

Wieso NAO? Bei NAO kannst Du ab €1.000 in Private Markets Assets wie Private Equity oder Hedgefonds investieren. Ganz neu: Der US Equity Flex (S&P 500 Investment mit Outperformance Strategie) – eigentlich erst ab €1 Mio. investierbar.

€100 sichern: Hier die NAO App herunterladen, den Code CRUNCH eingeben, investieren und €100 Bonus erhalten - aber Achtung, Aktion gilt nur bis zum 03.12. 🤝

*Kapitalanlagen bergen Risiken

big tech

OpenAI: Fördert Forschung zu KI-Moral mit $1 Mio.

Was ist passiert: OpenAI investiert $1 Mio. in ein Forschungsprojekt, in dem Algorithmen zur moralischen Entscheidungsfindung entwickelt werden sollen ⚖️

Die Details: Das Projekt “Research AI Morality” der privaten Duke University im US-Bundesstaat North Carolina soll bis Ende 2025 laufen - das Forschungsteam um Walter Sinnott-Armstrong und Jana Borg will eine “moralische KI” entwickelt

  • Flashback: Die beiden Projektleiter haben bereits ein Buch und mehrere Studien über das Potenzial von KI als „moralisches GPS“ verfasst, das Menschen unterstützen soll, bessere Entscheidungen zu treffen

  • Aber: Über das Projekt, das von OpenAI gefördert wird, sind nur wenige Details bekannt

  • Herausforderung: Zudem stellt sich die Frage, ob aktuelle Algorithmen überhaupt in der Lage sind, ein so komplexes und vielschichtiges Konzept wie Moral abzubilden – eine Herausforderung, die in der grundlegenden Arbeitsweise moderner KI-Systeme begründet liegt

  • Denn: Modelle für Maschinelles Lernen sind im Grunde nicht mehr als statistische Maschinen - sie werden mithilfe großer Datenmengen aus dem Internet trainiert, um Muster zu erkennen und darauf basierend Vorhersagen zu treffen

Warum das wichtig ist: Weil eine moralisch wertvolle Entscheidung sich nicht allein darauf begründet, wie präzise sie einen Durchschnittswert vorher getroffener moralischer Entscheidungen trifft (oder, liebe Deontologen?)

  • Wir sagen: Mit $1 Mio. ist die Förderung ein Mini-Aufwand für OpenAI – und wohl eher ein PR-Erfolg

  • Im Hintergrund: Steht die größere Debatte beim KI-Leader, wie sich das Unternehmen zum Thema KI-Sicherheit positioniert. Und da scheint es intern unterschiedliche Meinungen zu geben - in den vergangenen Monaten verließ ein bedeutender Teil des KI-Sicherheits- & Ethik-Teams OpenAI – Miles Brundage im Oktober, Lilian Weng kurz darauf

Further Reading: TechCrunch, Futurism 

anzeige

desktoptimertrk_px

big bets

Nebius: Seit einem Monat (wieder) an der Börse

Was ist passiert: Nebius ist jetzt seit einem Monat wieder am Nasdaq gelistet – und plant erste Schritte in den USA 🇺🇸

Die Details: Bisher taucht Nebius – trotz Nasdaq-Listung – kaum in Diskussionen zu KI-Infrastruktur auf

  • Das hat einen Grund: Das Listing im Oktober 2024 war kein IPO, sondern ein Re-Listing, denn eigentlich ist Nebius seit 2011 an der Börse 

  • Yandex-Background: Damals war Nebius noch die niederländische Holding-Company für den russischen Internetkonzern Yandex, der zu Spitzenzeiten (2021) mal ~$31 Mrd. wert war

  • Rebranding: Jetzt ist das Unternehmen als KI-Infrastruktur-Anbieter unterwegs und plant Investitionen zwischen $600 Mio. und $1,6 Mrd. in Rechenzentren

  • Bisher: Hat Nebius alleine im vierten (fiskalischen) Quartal 2024 ~$387 Mio. in Nvidia-Chips und Infrastruktur investiert

Warum das wichtig ist: Yandex war einst Russlands Vorzeige-Firma – das Rebranding als KI-Firma ist jetzt eher Rettungsmaßnahme als große Strategie

  • Kein Kreml-Freund: Gründer Volozh hatte bereits 2014 die Annexion der Krim kritisiert und 2022 den Überfall auf die Ukraine als “barbarisch” bezeichnet

Further Reading: TechCrunch, Nebius

3 top reads

  • Anthropic: Neuer Standard für KI-Datenintegration

    ⛓️ KI-Startup Anthropic hat das sog. Model Context Protocol (MCP) eingeführt - einen Open-Source-Standard, der KI-Modellen den Zugriff auf Daten aus verschiedenen Quellen ermöglicht. MCP erleichtert so die Integration von Datenquellen und KI-Anwendungen, was die Effizienz und Relevanz von KI-Assistenten verbessert. Unternehmen wie Block und Apollo nutzen MCP bereits. (TC)

  • Umfrage: KI-Nutzung in Unternehmen hat sich fast verdoppelt

    📈 In einer Erhebung des Statistischen Bundesamtes gab jedes fünfte Unternehmen (20%) an, KI zu nutzen. Bei der Befragung im vergangenen Jahr waren es noch 12%. (HEI)

  • Amazon: KI-Assistent Rufus kommt nach Deutschland

    🛍️ Nach erfolgreichen Tests in den USA und Großbritannien hat Amazon seinen KI-gestützten Shopping-Assistenten Rufus in Deutschland und Österreich eingeführt. Wie der Konzern in einer Sonderseite mitteilt, ist der neue digitale Helfer als Beta-Version in der Amazon-App verfügbar. (TON)

community corner

Umfrage der Woche: Weil wir Partner-Angebote gern maßgeschneidert ausspielen wollen und gerade verschiedene Immobilienportale bei uns anklopfen, haben wir eine Frage an euch: Was sind eure Immobilien-Pläne für die nächsten drei Jahre? 🏡

📊

Login oder Abonnieren um an umfragen teilzunehmen.

watchlist

insights 💡

  • Promise: Neues KI-basiertes Filmstudio nimmt Betrieb auf (PROM)

  • NVIDIA: Führt KI-gestützten Physiksimulator ein (NVID)

  • Perplexity: Führt Shopping-Funktion für Pro-Nutzer ein (TC)

  • Apple: Plant verbessertes Siri - Ziel ist es, mit OpenAIs ChatGPT zu konkurrieren (Bloomberg)

  • KI-Experte: Warnt vor AGI - “Man hat nur eine Chance, Gott zu bauen” (RED)

tools 🔧

  • DeepSeek-R1: Chinas KI-Herausforderung an OpenAI (HEI)

  • Suno v4: Produziert KI-Musik, die kaum von menschlicher Musik zu unterscheiden ist (SUN)

  • Black Forest Labs: Veröffentlicht mit FLUX.1 leistungsstarke Suite neuer Bildgenerierungs-Modelle (BFL)

  • HeyGen: KI-Avatar-Generator jetzt als App verfügbar (APP)

  • GeminiAdvanced: Jetzt mit Memory-Funktion verfügbar (X)

jobboard

🔥 Top Job: Uber baut seine Präsenz in Deutschland weiter aus – und sucht eine:n Country Manager mit Fokus auf Rides. Die Stelle ist bis zu 50% remote, mindestens 50% im Berliner Office.

📌 Koro: Senior Tech Product Manager, Berlin

📌 Wyden: Product Owner, Zürich

📌 Mistral: Account Executive, London

📌 KfW Capital: Investment Associate, Frankfurt

📌 Apoleo: Product Manager Fiscal & Legal, Berlin

📌 Carlsquare: M&A Associate, Hamburg

📌 World Fund: Impact Analyst, Berlin

📌 ETH Zürich: Entrepreneurship Coordinator, Zürich

*Liebe Arbeitgeber - sucht ihr smarte Young Professionals? Dann 📩 uns.

what do you meme?

crunch portfolio

Markets Crunch (+20.000 Abonnenten): Dein kompaktes Börsen-Daily. ➡️ Hier anmelden

Deals Crunch (+10.000 Abonnenten): Tägliche News aus PE, M&A und VC. ➡️ Hier anmelden

Immo Crunch: Unternehmen, Projekte, Personen - Fachwissen für die Immobilien-Branche. ➡️ Waitlist

Consulting Crunch: Personal-Ticker und Updates für alle mit Senator-Status. ➡️ Waitlist

Automotive Crunch: Personal-Ticker und Updates aus Deutschlands größter Branche. ➡️ Waitlist