• AI Crunch
  • Posts
  • 💡 Nightshade: Tool zur "KI-Vergiftung"

💡 Nightshade: Tool zur "KI-Vergiftung"

🦁, liebe Cruncher! 

Falls euch nochmal jemand sagt, dass es mit KI-generierten Fake News schon nicht so schlimm wird, hier ein kleines Goldstück aus Argentinien:

Ganz richtig, ihr seht: Politiker Sergio Massa. Mit Airpods im Ohr. Im Sattel. Auf einem Löwen.

Let’s go!

AI Stocks (05:59 Uhr, CET)

TOP-STORY

KI-Vergiftung: Neues Tool soll Urheberrechte von Künstlern schützen

Was ist passiert: Seit gestern ist die Nightshade-Software frei zum Download verfügbar und kann ausprobiert werden - der Clou: Mit Nightshade kann man Fotos und Kunstwerke so bearbeiten, dass sie für KI-Modelle nicht mehr lesbar sind

  • Rationale: Das soll Künstler schützen - und KI-Entwickler ärgern 👿

Die Details: Schon vergangenen November hatte ein Team um den Informatikprofessor Ben Y. Zhao ein Paper veröffentlicht, in dem es um “Angriffe auf generative Text-zu-Bild-Modelle” ging

  • Die Idee: “Wir machen uns die Sprache des maschinellen Lernmodells zunutze, um es dazu zu bringen, etwas andere in einem Bild zu sehen, als wir Menschen sehen”, so Ben Zhao im Gespräch mit TechCrunch

  • Vereinfacht gesagt: Nightshade verändert ein Foto oder eine digitale Zeichnung auf eine Art und Weise, die menschlichen Betrachtern kaum auffällt, die aber in ihrer “mathematischen Repräsentation” für die KI einen anderen Inhalt aufweist - und damit für das Training großer Modelle unbrauchbar wird

  • Beispiel: Fotos, auf denen z.B. Hunde zu sehen sind, kann Nightshade so verändern, dass die KI darin Katzen sieht - oder Toaster, oder Handtasche, die Möglichkeiten sind unbegrenzt

Warum das wichtig ist: Weil Nighshade gewissermaßen das Guerillatool im Streit zwischen KI-Unternehmen und Kreativen ist 🖌️

  • Denn: Damit Bildgeneratoren wie DALL-E oder Sprachmodelle wie ChatGPT selbstständig Bilder oder Texte erstellen können, müssen sie mit möglichst vielen vorhandenen Beispielen trainiert werden

  • Post vom Anwalt: Inzwischen gibt es mehrere Klagen von Künstlern, aber auch von Medienunternehmern wie der New York Times und Getty Images, die gegen das ungefragte und unbezahlte Abgreifen von Daten zum Training von KI-Modellen vorgehen

  • Bigger Picture: Je mehr Menschen Nightshade nutzen und z.B. “vergiftete” Hundefotos hochladen, desto wahrscheinlicher ist es, dass diese korrumpierten Inhalte später in den Datensätzen für das Training von DALL-E & Co. landen - und diese Modelle dann z.B. fälschlicherweise eine “Katze” zeigen, obwohl der Text-Prompt um einen “Hund” gebeten hatte

Headline Crunch

Vorab: Falls Artikel hinter der Paywall sein sollten, benutzt unseren Guide um hinter die Paywall zu kommen (GaLieGrü an die anderen Medien!)

HEADLINES & LAUNCHES

OpenAI-Update: Neues GPT-4 Turbo und Embedding-Modelle (4 Minuten Lesezeit)

🔥 OpenAI hat ein neues Embedding-Modell veröffentlicht, ein besseres und günstigeres GPT-3.5 Turbo sowie eine Vorschau auf das weniger träge GPT-4 Turbo. Dazu gibt es neues Pricing und den Versuch, das träge Verhalten des GPT-4 Turbo-Preview-Modells bei der Codegenerierung zu verbessern.


Qdrant sammelt $28 Millionen in Serie A (2 Minuten Lesezeit)

💰 Das Unternehmen, das Teile von ChatGPT und X's "More Like This" mit KI-generierten Recommendations unterstütz, hat Geld gesammelt, um seinen auf Rust basierenden Vektorspeicher zu verbessern und sein Unternehmensangebot zu erweitern.


HoloTile: Disney erfindet gleitenden Boden für VR-Anwendungen (Video)

🎥 Der sogenannte HoloTile Boden ermöglicht es, sich auf einem Boden zu bewegen, aber dennoch an der gleichen Stelle zu bleiben. Ideal für VR-Anwendungen, um völlig neue Erlebnisse zu schaffen.


TOOLS & DEEP DIVES

Recast Studio: KI-gestütztes Marketing für Podcasts (Tool)

🩺 Mit Recast Studio generieren Podcaster automatisch Transkripte, Blogposts und Social-Media-Beiträge aus ihren Episoden, sparen Zeit und erreichen mehr Hörer.


Byrdhouse - Echtzeit-Übersetzung (Tool)

🦤 Byrdhouse ermöglicht Echtzeit-Übersetzungen für Meetings und Gespräche in über 100 Sprachen, um eine inklusive und effiziente Kommunikation zu fördern.


Segmentierung von 3D-Medizinbildern (4 Minuten Lesezeit)

🎤 SegMamba ist ein Modell, das für die Segmentierung von 3D-Medizinbildern entwickelt wurde. Es bietet eine effizientere Alternative zur Transformer-Architektur.


What Do You Meme?

Crunching On

👨‍💼 Consulting Crunch (Launch: Q2 2024): MBB & Beyond - Personal-Ticker und Updates für alle mit Senator-Status. Wir gehen jeden Morgen für euch die Extra Mile.

🚘 Automotive Crunch (Launch: Q2 2024): Wohin steuert die Automotive Industry? Personal-Ticker und Updates aus Deutschlands wichtigster Branche.

🏋️ Sports Industry Crunch (Launch: Q2 2024): Wenn nur das Ergebnis zählt - wir liefern euch jeden Morgen die wichtigsten Deals aus der Trillion-Dollar-Welt des Sports.

Wie fandest du die heutige Ausgabe?

Dein Feedback hilft uns, jeden Tag besser zu werden.

Login oder Abonnieren um an umfragen teilzunehmen.