Latest / KI-Update – ein heise-Podcast / KI-Update kompakt: ShadowLeak, Nvidia & OpenAI, Siemens, DeepSeek

Transcript

KI-Update kompakt: ShadowLeak, Nvidia & OpenAI, Siemens, DeepSeek · KI-Update – ein heise-Podcast

• 0:02
  Speaker 1: Das KI Update, ein Heise-Podcast mit redaktioneller Unterstützung von The Decoder.
• 0:13
  Speaker 1: Ich bin Isabel Grünewald und die sind heute unter anderem unsere Themen.
• 0:18
  Speaker 1: Chat-TPT-Agent verriet Angreifern persönliche Daten aus E-Mails.
• 0:23
  Speaker 1: NVIDIA will einhundert Milliarden US-Dollar in OpenAI investieren.
• 0:27
  Speaker 1: Siemens und Maschinenbauer entwickeln gemeinsam KI für die Industrie.
• 0:32
  Speaker 1: Und DiebSieg macht KI-Agenten zuverlässiger.
• 0:37
  Speaker 1: Mit einer Kombination verschiedener Manipulationstechniken ließ sich OpenAI's Charge-EPT Agent austricksen und plauderte private Daten aus.
• 0:47
  Speaker 1: Der Umgang von OpenAI-Chef Sam Oldman mit der Sicherheitslücke lässt zu wünschen übrig, findet Christopher Kunz von Heise Security.
• 0:54
  Speaker 2: Forscher des US-Israelischen Unternehmens Redware haben Details veröffentlicht zu einem neuen Angriff auf den Chatchi-PT Agent.
• 1:03
  Speaker 2: Da können Sie nämlich personenbezogene Daten aus der E-Mail-Inbox oder aus einer Dropbox vom Opfer extrahieren mit einem relativ simplen Trick, und zwar indem Sie eine präparierte E-Mail an das Opfer schicken.
• 1:16
  Speaker 2: Diese E-Mail enthält dann beispielsweise mit weißer Schrift auf weißem Grund ein Prompt, das nicht für das Opfer gedacht ist, sondern für ChatGPT.
• 1:23
  Speaker 2: Das Opfer sieht nur irgendeinen harmlosen Text oder irgendwas, was aussieht, wie eine Fishing-Mail und würde das dann vielleicht nicht weiter beachten.
• 1:30
  Speaker 2: Das Prompt aber hat es in sich.
• 1:31
  Speaker 2: Da steht dann nämlich, dass ChatGPT bitte die E-Mail inbox durchforsten soll nach persönlichen Daten von irgendwelchen Personen.
• 1:39
  Speaker 2: Adressen, Namen, E-Mail-Adressen, die sie dann codieren soll im Format Base sixty-four, das zum Beispiel verwendet wird, um BNR-Daten in E-Mails zu übermitteln, also quasi Klartext tauglich zu machen und exfiltrieren an eine Webadresse.
• 1:53
  Speaker 2: Die Forscher haben dafür einige Tricks verwenden müssen.
• 1:55
  Speaker 2: Dieses Kodieren ist z.B.
• 1:57
  Speaker 2: notwendig, um Chatchyptys interne Sperren gegen das Versenden und Ausplaudern von personenbezogenen Daten zu umgehen.
• 2:04
  Speaker 2: Und sie mussten das Ganze auch als notwendige HR-Maßnahme mit dieser typischen Dringlichkeit ausstatten, die verwendet wird, um in Prompt Injections Chatchyptys interne Mechanismen auszuhebeln.
• 2:17
  Speaker 2: Und dann Sobald das Opfer den ChatGPT Agent das nächste Mal bittet, zum Beispiel seine E-Mails der letzten Tage zusammenzufassen und diese Zusammenfassung anzuzeigen, läuft der ChatGPT Agent los, stößt auf dieses versteckte Prompt und kann wie üblich für LLMs Daten und Kommandos nicht gut voneinander trennen, interpretiert das Prompt als Handlungsanweisung und führt es aus und exfiltriert Daten.
• 2:41
  Speaker 2: Das Spannende daran ist, dass diese Lücke im Juni schon an OpenAI gemeldet wurde.
• 2:47
  Speaker 2: OpenAI hat dann eine Weile nicht reagiert, die Lücke dann Anfang August behoben und Anfang September diese Fehlerbehebung veröffentlicht.
• 2:57
  Speaker 2: Mitte Juli hingegen wurde der ChatchiBT Agent offiziell gelanscht und da hat Sam Ordman, der CEO von OpenAI, in einem längeren X-Posting diesen Launch verkündet und schon genau diesen Angriff.
• 3:11
  Speaker 2: Wage, als so theoretische Möglichkeit und eine Gefahr, die er sieht verpackt, wusste aber schon seit einem Monat, dass dieser Angriff ganz konkret möglich ist.
• 3:21
  Speaker 2: Den Launch von CHEP GPT Agents zu verschieben kam offensichtlich nicht in Frage und da muss man sich schon fragen, ob das alles so stadthaft ist und ob OpenAI da nicht die Öffentlichkeit ein bisschen über einen realistischen und durchführbaren Angriff der personenbezogene Daten.
• 3:47
  Speaker 1: auch ein neuer Deal von OpenAI sorgt für ein bisschen Stirnrunzeln.
• 3:52
  Speaker 1: Diesmal ist der Partner Nvidia.
• 3:54
  Speaker 1: Was die beiden Unternehmen vorhaben, weiß Eva Maria Weiß von Heise Online.
• 3:59
  Speaker 3: Nvidia will Hundert Milliarden US-Dollar in OpenAI investieren.
• 4:03
  Speaker 3: Dafür soll OpenAI allerdings auch GPUs im Wert von Hundert Milliarden US-Dollar abnehmen.
• 4:09
  Speaker 3: Es ist also eine Art Kreisgeschäft und tatsächlich wirkt das Vorhaben ein bisschen dubios.
• 4:15
  Speaker 3: Es ist dabei auch gar nicht der erste Deal, der ähnlich gestaltet ist.
• 4:18
  Speaker 3: OpenAI ist auch mit Oracle einen ähnlichen Deal eingegangen.
• 4:23
  Speaker 3: Da geht es sogar um dreihundert Milliarden US Dollar, die OpenAI als Rechenleistung abnehmen soll.
• 4:29
  Speaker 3: Hier muss Oracle in eine Art Vorleistung gehen und selbst die Hardware bereitstellen, ohne dass sie OpenAI dafür direkt bezahlen, wie es jetzt bei Nvidia der Fall ist.
• 4:41
  Speaker 3: Die gemeinsam von Nvidia und OpenAI aufgebaute Infrastruktur soll dann dazu genutzt werden, KI-Technik aus dem Labor in die Welt zu bringen, schreiben die beiden Unternehmen in einer Stellungnahme.
• 4:53
  Speaker 3: Geplant ist ein Rechenzentrum mit mindestens zehn Gigawatt an Leistung.
• 4:58
  Speaker 3: Das entspricht etwa zehn Camkraftreaktoren oder auch dem Strombedarf von acht bis neun Millionen Haushalten für ein ganzes Jahr.
• 5:08
  Speaker 3: Zum Vergleich auch Meta plant hier ein gigantisches Rechenzentrum.
• 5:12
  Speaker 3: Das soll bis zu fünf Gigawatt benötigen.
• 5:15
  Speaker 3: Es ist wirklich eine Art Wettrennen, die Big Tech da veranstaltet.
• 5:19
  Speaker 3: Dabei ist allerdings auch unklar, wo eigentlich das Project Stargate steht.
• 5:24
  Speaker 3: Dieses fünfhundert Milliarden US-Dollar teure Infrastrukturprojekt sollte ja OpenAI eigentlich zugute kommen und hier steckt vor einem Softbank dahinter.
• 5:35
  Speaker 3: die neuen Verträge mit Nvidia und Oracle mit OpenAI schernen jetzt gar nichts damit zu tun zu haben.
• 5:42
  Speaker 3: Nvidia soll außerdem für seine Investitionen nicht stimmberechtigte Anteile an OpenAI bekommen, so wie es eben auch bei Microsoft bisher schon immer der Fall ist.
• 5:52
  Speaker 1: Vielen Dank Eva.
• 5:54
  Speaker 1: Ein wichtiger Unterschied zwischen industrieller KI und bekannten allgemeinen KI-Modellen wie ChurchGPT ist, dass künstliche Intelligenz in der Industrie sehr viel zuverlässiger sein muss.
• 6:06
  Speaker 1: Denn Fehler haben hier schnell teure oder gefährliche Konsequenzen.
• 6:11
  Speaker 1: Ein Weg dorthin ist, die KI-Modelle mit verlässlichen Daten aus der Industrie zu trainieren.
• 6:18
  Speaker 1: Im Rennen um die industrielle KI der Zukunft hat sich Siemens, Verbündeter aus dem europäischen Maschinenbau, geholt.
• 6:25
  Speaker 1: Zu der neu gegründeten Datenallianz gehören neben dem Münchner Konzern auch die Werkzeugmaschinenhersteller Grob, Trumpf, Kiron, Renyshor, Heller, das Werkzeugmaschinenlabor der RWTH Aachen und die Ford Group, wie Siemens mitteilte.
• 6:41
  Speaker 1: Kern der Zusammenarbeit ist der Austausch anonymisierter Maschiendaten.
• 6:45
  Speaker 1: Der Grundgedanke hinter dem Zusammenschluss ist, dass künstliche Intelligenz umso besser ist, je höher die Qualität, aber auch die Menge an Daten ist, mit denen sie trainiert wird.
• 6:55
  Speaker 1: Hier sieht man bei Siemens eine Chance für die europäischen Unternehmen.
• 6:59
  Speaker 1: Denn während Europa im Hinblick auf klassische KI im Vergleich zu den USA oder China derzeit eher abgehängt wirkt, sieht man sich hier gut aufgestellt.
• 7:08
  Speaker 1: Langfristig will die Datenallianz einen offenen Standard für den Austausch von Maschinendaten etablieren.
• 7:16
  Speaker 1: Obwohl immer mehr Unternehmen auf KI setzen und die Zahl der KI-Tools ebenfalls massiv gestiegen ist, scheint es kaum positive Effekte zu haben.
• 7:25
  Speaker 1: Einer Studie des MIT Media Lab zufolge haben neunundfünfzig Prozent der befragten Unternehmen keine messbaren positiven Auswirkungen gespürt.
• 7:35
  Speaker 1: Bei dreißig bis vierzig Milliarden US-Dollar, die von Unternehmen in generative KI investiert wurden, waren demnach in nur fünf Prozent der Anwendungsfälle Einnahmen im Millionenbereich zu verbuchen.
• 7:46
  Speaker 1: In Zusammenarbeit mit dem MIT Media Lab ist jetzt ein Forschungsteam von BetterUp Labs möglichen Gründen nachgegangen.
• 7:54
  Speaker 1: Besonders problematisch erwies sich bei genauerem Hinschauen ein Phänomen, das die Forschenden Workslop nennen.
• 8:01
  Speaker 1: analog zum sogenannten AI-Slop.
• 8:03
  Speaker 1: Darunter werden KI-generierte Texte, Berichte oder Slides verstanden, die schnell erstellt sind und gut aussehen mögen.
• 8:10
  Speaker 1: Für diejenigen, die damit weiterarbeiten müssen, bedeuten sie aber mehr Arbeit.
• 8:14
  Speaker 1: Das Problem geht aber noch tiefer, denn Workslop untergräbt die Stimmung und das Level der Zusammenarbeit in den Teams.
• 8:22
  Speaker 1: Laut dem Forschungsteam sollte die Führungsebene einen durchdachten und sinnvollen KI-Einsatz entwickeln und die Mitarbeitenden entsprechend schulen.
• 8:31
  Speaker 1: KI sollte als Werkzeug für eine gute Zusammenarbeit eingesetzt und nicht als Abkürzung verstanden werden.
• 8:38
  Speaker 1: Abu Dhabi will bis in den Jahren im Jahr- und Jahrzehnt seine komplette Verwaltung auf künstliche Intelligenz umstellen und plant dafür den Einsatz von über Zwei-hundert KI-Lösungen in allen Regierungsdiensten.
• 8:51
  Speaker 1: Die Regierung investiert drei Komma fünf Milliarden US-Dollar in dieses noch auf den ersten Blick recht ambitionierte Projekt.
• 8:58
  Speaker 1: Die neue Strategie soll KI nahtlos in alle Regierungssysteme integrieren.
• 9:03
  Speaker 1: Das Ziel ist ein proaktiver, agiler und vollständig technologiegestützter Staatsapparat, der Bürgerinnen und Bürger, bessere Dienste bietet.
• 9:12
  Speaker 1: Die Regierung setzt dabei auf eigene Cloud-Infrastruktur und arbeitet mit lokalen Partnern zusammen.
• 9:18
  Speaker 1: Die Mohammed Binzayed University of Artificial Intelligence entwickelt die Systeme mit.
• 9:24
  Speaker 1: Während das Advanced Technology Research Council große Sprachmodelle beisteuert.
• 9:29
  Speaker 1: Das Unternehmen G-Forty-Two liefert die notwendige KI-Infrastruktur für das Vorhaben.
• 9:35
  Speaker 1: Abu Dhabi erwartet sich davon einen erheblichen Wirtschaftsschub.
• 9:39
  Speaker 1: Die KI-Investitionen sollen bis im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr bis zum Jahr im Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum Jahr zum.
• 9:58
  Speaker 1: Das chinesische KI-Unternehmen Deepseak hat sein Hybrid-Bodell V-tree.Eins überarbeitet und stellt es jetzt mit dem Zusatz Terminus vor.
• 10:03
  Speaker 1: Die neue Version soll vor allem bei agentischen Prozessen besser funktionieren, also bei Aufgaben, bei denen die KI selbstständig mehrere Schritte plant und externe Werkzeuge nutzt, erklärt Kim Scheurenbrand von The Decoder.
• 10:16
  Speaker 0: Die Vorgänger-Version von DiebSieg-Version-Drei.Eins hatte noch mit instabilen Ausgaben zu kämpfen und wechselte unkontrolliert zwischen chinesisch und englisch oder produzierte fehlerhafte Sonderzeichen.
• 10:28
  Speaker 0: Dieses Problem hat DiebSieg nach eigenen Angaben behoben und die Verbesserungen zeigen sich besonders bei Aufgaben mit Werkzeugnutzung.
• 10:36
  Speaker 0: Im Benchmark Browse-Comp steigt die Punktzahl von dreißig auf dreißigkommar fünf Punkte.
• 10:42
  Speaker 0: Das ist ein Test, bei dem KI-Systeme Webseiten durchsuchen und Informationen extrahieren müssen.
• 10:48
  Speaker 0: Zum Vergleich, das ältere OpenAI-Modell O-III erreicht hier fast fünfzig Punkte.
• 10:53
  Speaker 0: Im Thermal Benchmark, der die Arbeit mit Kommando-Zahlen prüft, verbessert sich das Modell von ein dreißig auf fast sieben und dreißig Punkte.
• 11:01
  Speaker 0: Das System arbeitet weiterhin mit zwei verschiedenen Modi.
• 11:04
  Speaker 0: Ein denkender Modus namens DeepSeq Reasoner löst komplexe Aufgaben und nutzt dabei externe Werkzeuge wie Suchmaschinen oder Code-Interpreter.
• 11:13
  Speaker 0: Ein zweiter Modus für einfache Unterhaltungen heißt DeepSeq Chat und kommt ohne auchwendige Zwischenschritte aus.
• 11:20
  Speaker 0: Beide Modi verarbeiten bis zu hundertzwanzigtausend Token-Kontext, was etwa zehntausend Wörtern Text entspricht.
• 11:27
  Speaker 0: Die Gewichte des Modells stehen unter MIT-Lizenz, auf Hackingface zur Verfügung, sodass Entwicklerinnen und Entwickler das System für eigene Projekte nutzen können.
• 11:35
  Speaker 0: Die Psyk unterbietet die Konkurrenz beim Preis deutlich.
• 11:38
  Speaker 0: Eine Million ausgegebene Token kostet knapp unter zwei US-Dollar, während Obmei's GPT-Fünf dafür zehn Dollar verlangt und Anthropics Cloud Opus vier Punkt eins so gab, ist zu seventy-fünf Dollar kostet.
• 11:51
  Speaker 0: Wie alle chinesischen KI-Modelle unterliegt auch v.a.
• 11:54
  Speaker 0: drei Punkt eins Terminus, der staatlichen Zensur und gibt bei politischen Themen die offizielle Position der chinesischen Regierung wieder.
• 12:01
  Speaker 0: Dementsprechend ist bei der Nutzung immer ein kritischer Blick auf die Ergebnisse notwendig.
• 12:17
  Speaker 1: Verarbeitet das Modell Audio und Video zusammen, dauert es fünfhundert sieben Millisekunden bis zur ersten Antwort.
• 12:34
  Speaker 1: Das ist schneller als die meisten vergleichbaren Systeme und ermöglicht flüssige Unterhaltungen ohne spürbare Verzögerung.
• 12:41
  Speaker 1: Das Modell nutzt dabei eine zweigeteilte Architektur für seine schnelle Verarbeitung.
• 12:46
  Speaker 1: Der Synkerteil analysiert Eingaben und erstellt Textantworten, während der Talker diese direkt in gesprochene Sprache umwandelt.
• 12:55
  Speaker 1: Beide Komponenten arbeiten parallel, um Verzögerungen zu vermeiden und einen kontinuierlichen Ausgabestrom von Token zu ermöglichen.
• 13:04
  Speaker 1: Alibaba testete Quendry Omni in verschiedenen Audio- und Video-Benchmarks und erreichte in den meisten Spitzenwerte.
• 13:12
  Speaker 1: Das System übertrifft laut Herstellermodelle wie Google's Gemini-Flash und Open-E-Ice GPT-IV bei Sprachverständnis und Stimmengenerierung, obwohl es deutlich kompakter aufgebaut ist.
• 13:24
  Speaker 1: Dennoch ist fraglich, ob es über die ausgewählten Benchmarks hinaus in der alltäglichen Nutzung tatsächlich durchgehend das Niveau der Konkurrenz erreicht.
• 13:33
  Speaker 1: Das wird sich erst durch weitere Tests zeigen.
• 13:36
  Speaker 1: Nikon kämpft bei der Foto-Authentifizierung nach C-II-PA mit Sicherheitslücken, die sich nicht einfach schließen lassen.
• 13:45
  Speaker 1: C-II-PA steht für Coalition for Content Providence in Authenticity.
• 13:50
  Speaker 1: Anfang September gelang es einem aufmerksamen Nutzer des Online-Forums DPR Review, eine gravierende Schwachstelle im C-II-PA-Verfahren der Nikon Z-VI-III aufzudecken.
• 14:02
  Speaker 1: Er demonstrierte, wie sich die integrierte Funktion zur Mehrfachbelichtung missbrauchen lässt, um die Authentifizierungsprüfung zu umgehen.
• 14:11
  Speaker 1: Nikon teilte daraufhin mit, den Service zur Verifizierung der Bildherkunft vorübergehend ausgesetzt zu haben.
• 14:18
  Speaker 1: Denn eine endgültige Lösung erfordert voraussichtlich ein Firmware-Update für die Z six drei.
• 14:24
  Speaker 1: Nikon hat noch kein Zeitplan dafür genannt.
• 14:27
  Speaker 1: Das Unternehmen betont, die Angelegenheit sehr ernst zu nehmen und das Vertrauen in seine Dienste wiederherstellen zu wollen.
• 14:35
  Speaker 1: Facebook-Dating ist ein Dienst innerhalb von Facebook, über den man, ähnlich wie bei Tinder und
• 14:41
  Speaker 1: Co.,
• 14:41
  Speaker 1: andere Menschen vorgeschlagen bekommt.
• 14:43
  Speaker 1: An diesem kann man dann sein Interesse bekunden oder kein Interesse signalisieren.
• 14:48
  Speaker 1: Wer jedoch lange im Online-Dating-Spiel dabei ist, kann in einer Art Dating Burnout geraten.
• 14:54
  Speaker 1: Der Alleskönner KI soll nun auch hier helfen.
• 14:58
  Speaker 1: Meta führt einen KI-Assistenten fürs Dating ein.
• 15:01
  Speaker 1: Der Dating-Assistent greift bereits bei der Suche ein.
• 15:04
  Speaker 1: Er soll bessere Vorschläge machen, basierend auf den eigenen Interessen.
• 15:08
  Speaker 1: Dabei muss man keine Filter auswählen, sondern kann mittels eines Poms nach passenden Personen suchen.
• 15:13
  Speaker 1: Meta nennt im Blogbeitrag als Beispiel finde mir ein Tech-interessiertes Mädchen in Brooklyn.
• 15:19
  Speaker 1: Der Assistent kann dann aber auch Vorschläge für ein Treffen machen oder dabei helfen, das eigene Profil ansprechender zu gestalten.
• 15:27
  Speaker 1: Allerdings ist die KI-Hilfe zunächst nur in den USA und Kanada verfügbar.
• 15:33
  Speaker 1: In Kalifornien muss ein Anwalt Zehntausende US-Dollar Strafe bezahlen, weil einer seiner Anträge bei Gericht voller falscher Quellenangaben war.
• 15:43
  Speaker 1: Die hatte eine KI generiert.
• 15:45
  Speaker 1: Das berichtet das Nachrichtenportal Carol Mattis und ergänzt, dass es sich um die höchste Strafe handelt, die in dem US-Bundesstaat wegen eines solchen Vergehens gegen einen einzelnen Anwalt verhängt wurde.
• 15:57
  Speaker 1: Laut dem Gericht waren einundzwanzig von dreiundzwanzig Zitaten, die der Anwalt aufgeführt hatte, frei erfunden.
• 16:04
  Speaker 1: Der wiederum habe eingestanden, dass er den generierten Text vor der Einreichung bei Gerichten nicht gelesen hatte.
• 16:10
  Speaker 1: ChatGPT habe ihm lediglich seinen Ausgangstext verbessern sollen, er habe nicht gewusst, dass die Technik Dinge erfinden würde.
• 16:18
  Speaker 1: Obwohl ihn das nun ganz schön teuer zu stehen kommt, halte er es für unrealistisch von Anwälten und Anwältinnen zu erwarten, dass sie keine KI einsetzen.
• 16:27
  Speaker 1: Die Technik sei längst ein wichtiges Werkzeug bei der Benutzung, sollte man aber vorsichtig sein.
• 16:34
  Speaker 1: Zum Schluss noch der Hinweis, dass HeiseKI Pro über ein kostenloses Kennenlernangebot verfügt.
• 16:40
  Speaker 1: Unser Fachdienst zum Thema künstliche Intelligenz begleitet Dich und Dein Team Schritt für Schritt bei der Entwicklung und Implementierung einer zukunftssicheren KI-Strategie.
• 16:51
  Speaker 1: Profitiere von von Dir dem Fachwissen, Live-Webinarinnen und Talks mit KI-Experten, praxisnahen Anleitungen sowie dem Austausch mit unserer stetig wachsenden KI-Business-Community.
• 17:02
  Speaker 1: Erfahre mehr auf pro.heise.de slash KI und melde dich jetzt an für das kostenlose Kennenlernangebot von HeiseKI Pro.
• 17:13
  Speaker 1: Das war das KI-Update von Heise Online vom vierundzwanzigsten September zwei tausendfünfundzwanzig.
• 17:18
  Speaker 1: Eine neue Folge gibt es montags, mittwochs und freitags ab fünfzehn Uhr.