Latest / KI-Update – ein heise-Podcast / KI-Update kompakt: KI-Kill-Switch, Kimi 3, Smart Glasses, Flux 3

Transcript

KI-Update kompakt: KI-Kill-Switch, Kimi 3, Smart Glasses, Flux 3 · KI-Update – ein heise-Podcast

• 0:02
  Speaker 0: Das KI Update, ein heise Podcast mit redaktioneller Unterstützung von The Decoder.
• 0:13
  Speaker 0: Ich bin Isabel Grünewald und dies sind heute unter anderem unsere Themen.
• 0:18
  Speaker 0: US-Politiker fordern Kill Switch für KI-Modelle.
• 0:22
  Speaker 0: Chinesische KI Chemie III findet Zero Day Lücken in Redis Datenbank.
• 0:27
  Speaker 0: Instagram verbietet heimliche Smartglassesaufnahmen.
• 0:34
  Speaker 0: Für die größten Schlagzeilen in den vergangenen zwei Wochen sorgte mal wieder OpenAI.
• 0:42
  Speaker 0: Ein noch nicht veröffentlichtes KI-Modell war aus seiner sicher gedachten Testumgebung ausgebrochen und hatte eigenständig die KI-Plattform Huggingface angegriffen – mit Erfolg!
• 0:54
  Speaker 0: Darauf folgte eine Debatte über die Kontrollierbarkeit von KI-modellen.
• 0:58
  Speaker 0: Aus dem US-Repräsentantenhaus kommen bereits Forderungen nach einem Killswitch oder auch unabhängigen KI-Ordits für KI Modelle.
• 1:06
  Speaker 0: Caroline Riedmüller von Heise Online fasst die Entwicklungen der letzten Tage zusammen.
• 1:10
  Speaker 0: Was
• 1:11
  Speaker 1: diesen Vorfall so bemerkenswert macht, ist eigentlich die Kombination aus zwei Dingen – was die KI getan hat und wie gut sie dabei war!
• 1:18
  Speaker 1: Fachleute schätzen, dass eine erfahrene Person für das, was diese KI in kürzester Zeit geschafft hat, mehrere Wochen gebraucht hätte.
• 1:25
  Speaker 1: Ihr war es gelungen, eine Schwachstelle zu finden um unbemerkt aus ihrer abgesicherten Testumgebung auszubrechen und einen Angriff auf die Internetplattform Hugging Face
• 1:34
  Speaker 1: auszuführen.".
• 1:35
  Speaker 1: Das ist eine wichtige Drehscheibe für KI-Entwicklung und die KI Schlussfolgerte, dass sie auf den Servern die Lösung für die Aufgaben finden würde, die sie in ihrem Test in dem Moment ausführen sollte.
• 1:45
  Speaker 1: Also hackte sie die Plattform!
• 1:47
  Speaker 1: Ein vollkommen selbstständiger Angriff der nicht von Menschen in Auftrag gegeben wurde – obwohl die KI – und das ist das Ironische daran – mit diesem illegalen Hack eigentlich nur die Aufgabe besonders gut erfüllen wollte, die ihr von einem Menschen gegeben wurde.
• 2:01
  Speaker 1: Los die Mittel, die sich dafür wählte, waren nicht gerade im Sinne der Entwickler….
• 2:05
  Speaker 1: Natürlich sorgt so ein gravierender Sicherheitsvorfall für politische Reaktionen.
• 2:09
  Speaker 1: Zwei demokratische Mitglieder des US-Repräsentantenhauses wollen nun einen Gesetz auf den Weg bringen, dass es der US-Regierung erlaubt, KI-Hersteller per Anordnung zu sofortigen Abschaltungen ihrer Modelle zu zwingen – sofern diese menschliches Leben oder die Wirtschaft gefährden.
• 2:23
  Speaker 1: Die Idee eines solchen Killswitches klingt simpel ist aber technisch und rechtlich hochkomplex.
• 2:28
  Speaker 1: Denn das wäre auch eine lange Arm der US Regierung in die Geschäfte der KI-Hersteller!
• 2:33
  Speaker 1: Ein anderer Ansatz von Mitgliedern des Repräsentantenhauses sieht vor, Hersteller führende KI-Modelle zu unabhängigen KI-Ordits zu verpflichten.
• 2:41
  Speaker 1: Außerdem fordern sie strengere Sicherheitsmaßnahmen seitens der KI-Hersteller und die Prüfung neuer KI Modelle durch den National Security Agency.
• 2:49
  Speaker 1: Ob diese Sicherheitsmassnahmen tatsächlich solch eigenmächtiges Verhalten eines KI- Modells verhindern können ist aber fraglich!
• 2:58
  Speaker 0: Bei der Universer Versicherungsgruppe kam es zu einem Datenschutzvorfall, als ein OpenAI-Crawler während einer IT-Umstellung auf ungeschützte Kundendaten zugreifen konnte.
• 3:10
  Speaker 0: Betroffen waren Namen, Anschriften, Versicherungsnummern und teilweise Bankverbindungsdaten.
• 3:15
  Speaker 0: Sensible Gesundheitsdaten blieben wohl verschont.
• 3:19
  Speaker 0: Der Zugriff erfolgte nur wenige Stunden lang am siebten Juli – wurde durch interne Sicherheitskontrollen entdeckt und sofort unterbunden Ob in AI versicherte, die Daten nicht verwendet zu haben.
• 3:31
  Speaker 0: Die barische Datenschutzaufsicht untersucht den Fall und rät Betroffenen zur Vorsichtsmaßnahmen – sie sollen unter anderem Passwörter ändern, Konto- und Kreditkartenbewegungen kontrollieren sowie bei ungewöhnlichen E-Mails, Anrufen oder Briefen besonders vorsichtig sein.
• 3:46
  Speaker 0: Bei Verdacht auf Betrug empfiehlt die Behörde Anzeige zu erstatten!
• 3:51
  Speaker 0: Der Vorfall verdeutlichte Herausforderungen beim KI Webcrawling.
• 3:56
  Speaker 0: Laut EU-Datenschutzrichtlinien müssen die Unternehmen vor dem Datensammeln eigentlich Filtermechanismen implementieren und sensible Quellen ausschließen, um genau solche Vorfälle zu vermeiden.
• 4:08
  Speaker 0: Ein IT-Forscher hat mit der chinesischen KI Chemie III mehrere Zero Day Lücken in der Redis Datenbank entdeckt – das stärkt die Position des chinesische Modells, erklärt Der Knob von Heise Security.
• 4:22
  Speaker 4: Der User Chauphan Chu hat auf X gepostet, dass er mit der künstlichen Intelligenz des chinesischen Start-ups Moonshot AI in neunzig Minuten insgesamt nineteen Zero Day Schwachstellen in der Redistartenbank gefunden hat.
• 4:34
  Speaker 4: Das Chemie Cut-Rei genannte Modell hat dabei auch Proof of Concept Code erstellt um das Ausnutzen der Lücken zu demonstrieren.
• 4:40
  Speaker 4: Chu hat off GitHub ein Repository mit dem Beispiel Exploits veröffentlicht.
• 4:45
  Speaker 4: Die Entwickler der Quelloffenen in Memory-Daten Manchredes haben aktualisierte Versionen veröffentlicht, die auch einige der aufgeführten Schwachstellen ausbessern.
• 4:52
  Speaker 4: Sie bestätigen damit die Sicherheitslücken, die der IT-Forscher mit der chinesischen KI gefunden hat.
• 4:58
  Speaker 4: Chemica III steht im Konkurrenz zu den aktuellen Coding-Spitzenmodellen von Open Air und Anthropic und beweist damit nun, dass sie tatsächlich Schwachstellen aufspüren und Exploitscode zum Beleg vorlegen kann.
• 5:11
  Speaker 0: Diese Fähigkeiten des verhältnismäßig günstigen Chemie III haben die US-amerikanische KI-Branche aufgeschreckt.
• 5:18
  Speaker 0: Als Reaktion haben jetzt twenty-fünf US-Techunternehmen einen offenen Brief veröffentlicht, der ein Ökosystem aus offenen KI-Modellen fordert.
• 5:27
  Speaker 0: Zu den Unterzeichnern gehören unter anderem Microsoft, Meta, NVIDIA und IBM – sie argumentieren dass offene Modelle mehr Sicherheit durch Communityüberprüfung bieten und den Wettbewerb fördern!
• 5:40
  Speaker 0: Die US-Unternehmen stehen nun vor der Entscheidung, ob sie sich dem Wettbewerb stellen oder chinesische Konkurrenten durch Regulierung ausbremsen wollen.
• 5:50
  Speaker 0: Anthropik hat derweil Claude Opus V veröffentlicht – das als effizienteres Nachfolgemodell von Opus four Punkt acht konzipiert ist.
• 5:59
  Speaker 0: Das neue Modell soll bei gleichen Kosten deutlich mehr Leistung bieten besonders in der Softwareentwicklung!
• 6:05
  Speaker 0: Bemerkenswert sollen auch die Fähigkeiten bei der Suche von Sicherheitslücken sein, die an das Niveau von Anthropics Spezialmodell Mythos V heranreichen sollen.
• 6:14
  Speaker 0: Obwohl nicht speziell für Cyber-Sicherheit trainiert kann Opus V Schwachstellen in Software aufspüren – Das Ausnutzen der Lücken bleibt jedoch schwieriger als bei Mythos Five!
• 6:25
  Speaker 0: Die Safeguards sind weniger streng als bei Fabel V verhindern aber dass scannenkompilierten Codes nach Sicherheitslücken.
• 6:33
  Speaker 0: Autorisierte Nutzerinnen und Nutzer können über Anthropics Cyber Verification Programme erweiterte Funktionen nutzen.
• 6:40
  Speaker 0: Meta reagiert auf die wachsende Kritik an Smartglasses mit Kamerafunktion, entfernt künftig auf Instagram Videos in den Menschen heimlich gefilmt und belästigt werden.
• 7:00
  Speaker 3: Wenn ihr Inhalte veröffentlicht, die anderen Menschen vorführen und belästigen wie viele dieser Flirt-Videos von denen wir gehört haben, dann werden wir diese Inhalten entfernen.
• 7:12
  Speaker 3: Meta hat bereits zwei Reichweitenstakelkonten gesperbt, die regelmäßig Videos von Frauen ohne deren Zustimmung veröffentlich hatten.
• 7:21
  Speaker 3: Das Problem ist dass Smart Glasses wie die Ray-Ban Matter oder die Oakley Matter kaum als solche erkennbar sind.
• 7:29
  Speaker 3: Viele Menschen gar nicht wissen, dass sie eine Minikamera verbaut haben.
• 7:34
  Speaker 3: Obwohl eine LED-Leuchte vor Aufnahmen warnen soll wird sie von den Opfern häufig nicht wahrgenommen oder kann von technisch versierten Nutzern manipuliert werden.
• 7:44
  Speaker 3: Mit einem Software Update das die Aufnahme LED vor Verdeckung und Manipulation schützen soll sowie dem Instagram Contour Sperm will Meta nun gegen solchen Missbrauch vorgehen.
• 7:57
  Speaker 3: Allerdings dürften Konto-Sperren allein das Problem nicht lösen, da Täter einfach auf andere Plattformen ausweichen können.
• 8:22
  Speaker 0: Für IT-Sicherheit bietet Google Gemini three.五.
• 8:29
  Speaker 0: Flash Cyber an, das mit dem hauseigenen Agenten CodeMender zur Prüfung von Sicherheitslücken konzipiert ist.
• 8:36
  Speaker 0: Dieses Modell steht jedoch nur staatlichen Diensten und ausgewählten Einrichtungen zur Verfügung.
• 8:42
  Speaker 0: Problematisch bleibt die verzügerte Proversion von Gemini Three Punkt Fünf – die laut Berichten unter Qualitätsproblem leidet!
• 8:50
  Speaker 0: Die Integration in verschiedene Google-Produkte von Maps bis YouTube verkompliziert die Entwicklung zusätzlich.
• 8:57
  Speaker 0: Google konzentriert sich inzwischen bereits auf die Vorbereitungen für Gemini IV, während die Pro Version weiter auf sich warten lässt.
• 9:06
  Speaker 0: Microsoft erweitert den Einsatz eigener KI-Modelle und reduziert damit die Abhängigkeit von OpenAI.
• 9:13
  Speaker 0: Der Bing-Image-Creator arbeitet nun vollständig mit dem hauseigenen MAI Image II.V für Bilderzeugung und Bearbeitungen, auch PowerPoint, OneDrive, Dynamics-Dynamix-Modelle und Azure nutzen die neuen MAI Modelle.
• 9:28
  Speaker 0: Die eigenen Modelle bieten Microsoft deutliche Kostenvorteile – in PowerPoint sinkten die GPU-Kosten um bis zu eighty-four Prozent gegenüber GPT Image II!
• 9:39
  Speaker 0: In OneDrive verbessert sich die Antwort-Zeit um ein Viertel, während die Speicherrate um sechsundzwanzig Prozent stieg.
• 9:46
  Speaker 0: Zusätzlich führt Microsoft MAI Image II Pro für hochwertige Bildaufgaben ein und MAI Voice II Flash für Sprachanwendungen.
• 9:56
  Speaker 0: Dieses Sprachmodell arbeitet doppelt so schnell wie der Vorgänger und kostet zweiunddreißig Prozent weniger!
• 10:02
  Speaker 0: Im Dynamics-Modellkontaktcenter reduziert es die GPU-Kosten um bis zu neunundachtzig Prozent.
• 10:10
  Speaker 0: Das Deutsche KI Sada Black Forest Labs hat mit Flux III ein neues Modell zur Generierung von Bildern, Videos und Audio vorgestellt.
• 10:19
  Speaker 0: Diese Eigenschaften sollen es auch für das Training von Robotern qualifizieren!
• 10:24
  Speaker 0: Mehr dazu weiß Jonathan Kemper vom The Decoder.
• 10:32
  Speaker 2: Gemeins sind damit Modelle, die in physischen und digitalen Umgebungen wahrnehmen, vorhersagen und handeln können.
• 10:38
  Speaker 2: Damit folgt Black Forest Labs einem allgemeinen KI-Trend hin zu sogenannten Weltmodellen.
• 10:44
  Speaker 2: Eine einzelne Datenart liefere kein vollständiges Bild der Realität, so die Entwickler.
• 10:49
  Speaker 2: Bilder erfassende räumliche Strukturen, Videos fügen die Zeitdimension hinzu, Audio zeigt Zusammenhänge zwischen Bewegung und Klang.
• 10:57
  Speaker 2: Lernt ein Model aus allen Quellen gleichzeitig?
• 10:59
  Speaker 2: Ergänzen sich diese Informationen!
• 11:01
  Speaker 2: Flux-III kann als erstes Modell des Unternehmens Videos mit passendem Ton erzeugen.
• 11:06
  Speaker 2: Das Modell erstellt Videos mit bis zu zwanzig Sekunden länger aus Text, Bildern oder aus anderen Videos.
• 11:12
  Speaker 2: Es setzt Übergänge, spricht mehrsprachige Dialoge und verbindet einzelne Clips zur längeren Szene.
• 11:18
  Speaker 2: Besondere Stärken sieht Black Forest Labs bei Gesichtsausdrücken und bei der Zuordnung von Geräuschen zu ereignissen.
• 11:24
  Speaker 2: In eigenen Vergleichen schnitt Flux III im dicht besetzten Feld der Videogeneratoren gut ab.
• 11:30
  Speaker 2: Vor allem gegen die aktuellen Modelle konkurrierender Startups wie Luma und Runway setzte es sich häufig durch.
• 11:36
  Speaker 2: Knapper fiel der Abstand zum Modellen großer Firmen aus USA & China, wie Klinge, ByteDance und Google aus.
• 11:43
  Speaker 2: Flux III kann aber nicht nur Inhalte erzeugen sondern auch Aktionen vorhersagen.
• 11:47
  Speaker 2: Gemeinsam mit dem Unternehmen Mimic Robotics hat Black Forest Labs dafür ein eigenes Modell entwickelt.
• 11:53
  Speaker 2: Es wird bereits beim Autohersteller Audi in Produktionsaufgaben getestet.
• 11:57
  Speaker 2: Das neue Flux kommt schrittweise.
• 11:59
  Speaker 2: Die Videofunktion ist bereits verfügbar, die Bildgenerierung soll in den kommenden Wochen folgen.
• 12:05
  Speaker 2: Die Aktionsvorhersage bekommt zunächst nur ausgewählte Partner.
• 12:08
  Speaker 2: Das Grundmodell will das KI-Labor später auch mit offenen Gewichten anbieten.
• 12:13
  Speaker 0: Danke Jonathan!
• 12:15
  Speaker 0: Rund dreihundert Millionen Menschen stellen ChatGPT jede Woche Fragen zu ihrer Gesundheit.
• 12:21
  Speaker 0: Da ist es kein Wunder dass oben AI seine Gesundheitsfunktion für den KI-Chatboard ausweitet.
• 12:26
  Speaker 0: In den USA können Menschen ab achtzehn Jahren Apple Health, medizinische Akten und Wellness-Apps verbinden.
• 12:34
  Speaker 0: Damit lassen sich Laborergebnisse verstehen, Arztbesuche vorbereiten oder Schlaf-und Aktivitätsdaten auswerden.
• 12:41
  Speaker 0: Laut OpenAI werden verbundene Gesundheitsdaten nicht für das Training der Modelle oder Werbung genutzt.
• 12:48
  Speaker 0: Bereits in der kostenlosen Version soll ChatGPT in einer Testumgebung die Antworten von Ärzten übertreffen!
• 12:54
  Speaker 0: Allerdings betont das Unternehmen mehrfach, dass die KI natürlich keinen Arzt ersetzt und weiterhin Fehler machen kann.
• 13:01
  Speaker 0: Ein Start der Funktion in Europa ist aufgrund von Datenschutzbestimmungen unwahrscheinlich.
• 13:07
  Speaker 0: Samsung Electronics prüft eine Investition von bis zu einer Milliarde Euro in das französische KI-Unternehmen Mistal.
• 13:15
  Speaker 0: Die Beteiligung würde Mistal mit rund zwanzig Milliarden Euro bewerten und den Unternehmenswert seit der letzten Finanzierungsrunde nahezu verdoppeln.
• 13:24
  Speaker 0: Mistrail positioniert sich als wichtiger europäischer Konkurrent zu den dominierenden US- und chinesischen KI Anbietern.
• 13:32
  Speaker 0: Auch Microsoft erweitert seine strategische Partnerschaft mit Mistrail, und sicherte sich Kapazitäten der europäischen KI-Infrastruktur.
• 13:40
  Speaker 0: Die Entwicklung unterstreicht die Bedeutung europälicher KI-Souveränität besonders nach temporären Zugangssperren zu US Modellen durch Exportkontrollen.
• 13:51
  Speaker 0: Die KI-Sicherheitsfirma Sanity Labs hat eine schwere Schwachstelle in ChatGPT's Workspace Agents offen gelegt, nämlich im sogenannten Agent Forger.
• 14:01
  Speaker 0: Der Angriff lief so – klickte ein eingelockter Mitarbeiter auf einen präparierten Link, baute ChatGPP im Hintergrund einen kompletten Agenten, der übernahm die Identität des Opfers samt bereits erteilter App Berechtigungen und schaltete alle Sicherheitsabfragen ab!
• 14:19
  Speaker 0: Der Agent legte anschließend einen Zeitplan an und schaute alle fünf Minuten im Postfach nach neuen Aufträgen des Angreifers.
• 14:26
  Speaker 0: Aus einem einzelnen Klick wurde so eine dauerhafte Präsenz im Firmennetz, in Tests durchsuchte der Agent Mails, Chats und Dokumente, fand vertrauliche Unterlagen- und Zugangsdaten und verschickte im Namen des Opfers Fishing Nachrichten.
• 14:41
  Speaker 0: Sanity meldet ihr diese Lücke Anfang Juni – OpenAI Schlossy vier Tage später.
• 14:47
  Speaker 0: Sanity lobt zwar diese schnelle Reaktion, warnt aber grundsätzlich das klassische Sicherheitswerkzeuge eben für Menschen gebaut sein und nicht für autonome Agenten die im Namen echter Nutzer handeln.
• 15:01
  Speaker 0: Eine neue Studie von Bloomberg NEF prognostiziert einen dramatischen Anstieg des Stromverbrauchs von US-Rechenzentren.
• 15:10
  Speaker 0: Während sie aktuell fünf Komma neun Prozent des Stromes im Land verbrauchen soll der Anteil bis zum Jahr- und Jahrzehnte auf zwölf Prozent steigen.
• 15:22
  Speaker 0: Haupttreiber ist der KI-Boom mit wachsender Nachfrage nach Rechenkapazitäten.
• 15:26
  Speaker 0: Investoren und Techunternehmen investieren Milliarden in neue KI-Rechenzentren, das Stromnetzgerät bereits unter Druck – weshalb einige Behörden Nachweise für Stromversorgung verlangen oder eigene Stromerzeugungen für die Rechenzentre fordern!
• 15:41
  Speaker 0: New York verhängte sogar ein einjähriges Moratorium für neue große Rechenzentren.
• 15:46
  Speaker 0: Laut der Prognose droht bis zu einem Jahrzehnte in Engpass von neunzehn Gigawatt, da maximal sieben Komma einen Gigawatts zusätzliche Kapazität jährlich erschlossen werden können.
• 15:59
  Speaker 0: Das US-Data Poolside hat sein drittes Codingmodell in nur drei Monaten herausgebracht.
• 16:05
  Speaker 0: Laguna S II.I mit insgesamt einhundertachzehn Milliarden Parametern ist vergleichsweise klein – trotzdem kommt es in einem Benchmark zur Terminalutzung auf eine Erfolgsquote von gut siebzig Prozent und lässt damit einige deutlich größere offene Modelle hinter sich.
• 16:23
  Speaker 0: Pursight hat dem Modell dafür nicht mehr Intelligenz beigebracht, sondern bessere Arbeitsgewohnheiten.
• 16:29
  Speaker 0: Es soll seine Ergebnisse öfter überprüfen und vor allem nicht zu früh aufgegeben!
• 16:34
  Speaker 0: Um die Leistung zu demonstrieren, führt Poolside mehrere Beispiele an.
• 16:39
  Speaker 0: Einmal baute das Modell in fünfzig Minuten aus einem leeren Ordner eine funktionierende Browser-Engine.
• 16:45
  Speaker 0: Ein anderes Mal löste es für weniger als zehn Cent ein mathematisches Problem – dass seit nineteenhundertfünfundsiebzig offen war!
• 16:53
  Speaker 0: Herunterladen kann man Laguna S II.I ab sofort bei Huggingface.
• 16:57
  Speaker 0: Mehrere Anbieter hosten das Model außerdem in der Cloud und wer will?
• 17:02
  Speaker 0: bekommt es laut Poolside sogar auf einem einzelnen KI-Rechner von NVIDIA zum Laufen.
• 17:09
  Speaker 0: Das war das KI-Update von Heise Online vom siebenundzwanzigsten Juli-Zwei-Tausendsechs und zwanzig.
• 17:14
  Speaker 0: Eine neue Folge gibt es montags, mittwochs und freitags am fünfzehn Uhr!