Latest / KI-Update – ein heise-Podcast / KI-Update kompakt: Arbeitsmarkt, Missbrauch von ChatGPT, Datenklau, KI-Label

Transcript

KI-Update kompakt: Arbeitsmarkt, Missbrauch von ChatGPT, Datenklau, KI-Label · KI-Update – ein heise-Podcast

• 0:02
  Speaker 1: Das KI Update, ein heise Podcast mit redaktioneller Unterstützung von The Decoder.
• 0:13
  Speaker 1: Ich bin Isabel Grünewald und dies sind heute unter anderem unsere Themen.
• 0:18
  Speaker 1: Simulationstool zeigt auf, wo Jobs durch KI ersetzt werden können.
• 0:22
  Speaker 1: Suizidhilfe soll Missbrauch von ChatGPT sein.
• 0:27
  Speaker 1: OpenAI meldet Datenklau bei Dienstleister Mixpanne und Epic Chef Tim Sweeney hält KI-Label für sinnfrei.
• 0:37
  Speaker 1: Wie viele Jobs könnte künstliche Intelligenz heute schon übernehmen?
• 0:41
  Speaker 1: Eine neue Studie des Massachusetts Institute of Technology, MIT, gibt darauf eine überraschend konkrete Antwort.
• 0:49
  Speaker 1: Malte Kirchner aus dem heise online Newsroom hat sich die Studie
• 0:52
  Speaker 2: angeschaut.
• 0:53
  Speaker 2: Elf, sieben Prozent aller Arbeitskräfte in den USA könnten bereits jetzt durch künstliche Intelligenz ersetzt werden.
• 1:00
  Speaker 2: Die Forscher haben dafür ein faszinierendes Werkzeug entwickelt, den sogenannten Iceberg Index.
• 1:05
  Speaker 2: Dahinter verbirgt sich nichts Geringeres als ein digitaler Zwilling des gesamten USA-Arbeitsmarktes.
• 1:10
  Speaker 2: Damit lassen sich die Auswirkungen von KI viel präziser vorhersagen als mit den bisherigen Methoden.
• 1:15
  Speaker 2: Was bedeutet das im Zahlen?
• 1:17
  Speaker 2: Es geht um eine Lohnsumme von rund US-Dollar von rund US-Dollar, die durch KI-Einsatz wegfallen würden, besonders betroffen die Finanzbranche, das Gesundheitswesen und Unternehmensdienstleistungen.
• 1:28
  Speaker 2: Aber wie funktioniert dieser digitale Zwilling?
• 1:30
  Speaker 2: Der Iceberg Index simuliert die Arbeit von hundertfünfzig Millionen US-Beschäftigten.
• 1:35
  Speaker 2: Er analysiert dabei mehr als zweiunddreißigtausend einzelne Fähigkeiten über neunhundertdreiundzwanzig verschiedene Berufsbilder hinweg.
• 1:42
  Speaker 2: Das Besondere?
• 1:43
  Speaker 2: Man kann damit bis auf die Ebene einzelner Städte herunterrechnen, welche Regionen besonders betroffen wären.
• 1:49
  Speaker 2: Die Simulation läuft auf dem Frontier Supercomputer in Tennessee und sie behandelt jeden einzelnen Arbeitnehmer als individuellen Agentin mit spezifischen Fähigkeiten Aufgaben und Standort.
• 1:59
  Speaker 2: Das Ziel dabei, Entscheider sollen Entwicklungen in der KI-Automatisierung vorhersehen können, bevor tatsächliche Entlassungswellen beginnen.
• 2:07
  Speaker 2: So könnten rechtzeitig politische Maßnahmen ergriffen werden, etwa Weiterbildungsprogramme oder Umschulungen.
• 2:13
  Speaker 2: Die jetzt vorgelegten Ergebnisse widersprechen dabei der bisherigen öffentlichen Wahrnehmung.
• 2:18
  Speaker 2: Die Tech-Industrie macht mit ihren Entlassungen zwar Schlagzeilen, denken wir an Amazon oder Salesforce, aber diese Branche repräsentiert nur zwei Prozent der gesamten Wirtschaftskraft aus Lohnzahlungen.
• 2:30
  Speaker 2: Viel gefährlicher für die Gesellschaft ist etwas anderes, wenn nämlich Routinearbeiten in Personalabteilungen, in der Logistik, in Finanzverwaltung und Büros auf KI umgestellt werden.
• 2:40
  Speaker 2: Diese Bereiche fallen in anderen Prognosen oft unter den Radar.
• 2:43
  Speaker 2: Sie betreffen aber deutlich größere Teile der Bevölkerung.
• 2:46
  Speaker 2: Und das Problem erstreckt sich über alle fünfzig US-Bundesstaaten auch in ländlichen Regionen.
• 2:51
  Speaker 2: Der Name Eisbergindex, also Eisbergindex, ist dabei durchaus Programm.
• 2:56
  Speaker 2: Was wir in der Tech-Branche sehen, ist nur die Spitze des Eisbergs.
• 2:59
  Speaker 2: Das eigentliche Ausmaß der KI-Automatisierung liegt unter der Oberfläche.
• 3:04
  Speaker 1: Vielen Dank, Malte.
• 3:06
  Speaker 1: Das Core-Center-Jobs der KI zum Opfer fallen, bestätigt auch ein Bericht der Süddeutschen Zeitung und des Handelsplatz.
• 3:12
  Speaker 1: Demzufolge will die Allianztochter Allianz Partners zwischen ein Tausend Fünfhundert und ein Tausend Achthundert Leute im Core-Center-Bereich entlassen und durch künstliche Intelligenz ersetzen.
• 3:25
  Speaker 1: Unter der Marke Allianz Partners hat der Münchner Konzern sein Geschäft mit Reiseversicherungen, Reisekrankenversicherungen und Dienstleistungen von Pannenhilfe bis zu Handwerkerdiensten gebündelt.
• 3:35
  Speaker 1: Die automatisierten KI-Systeme sollen künftig einen großen Teil der einfachen telefonischen Anfragen erledigen, heißt es in den Berichten, die Insider zitieren.
• 3:45
  Speaker 1: Die Allianz habe demnach einen eigenen KI-Assistenten für Telefonservice entwickelt.
• 3:49
  Speaker 1: Der theoretisch hunderte Kundenanrufe parallel bearbeiten könne und das in mehr als zwanzig Sprachen.
• 3:57
  Speaker 1: Einfache Anfragen wie Adressänderungen oder Auskünfte zum Bearbeitungsstand ließen sich immer öfter allein mithilfe von KI bewältigen.
• 4:05
  Speaker 1: Bei komplexeren Fällen wäre er an menschliche Mitarbeiterinnen und Mitarbeiter weitergeleitet.
• 4:11
  Speaker 1: Ein Sechzehnjähriger in den USA hat Suizid begangen.
• 4:15
  Speaker 1: Zuvor hatte der Jugendliche über Monate viele Stunden mit Chat-TPT verbracht.
• 4:21
  Speaker 1: Zuletzt soll ihm der Chatboard sogar angeboten haben, beim Verfassen eines Abschiedsbriefs
• 4:25
  Speaker 4: zu helfen.
• 4:27
  Speaker 1: Die Eltern verklagen OpenAI.
• 4:29
  Speaker 1: Sie sehen eine Art Mithilfe zum Suizid und auch mangelnde Sicherheitsmaßnahmen.
• 4:34
  Speaker 1: OpenAI sieht das anders, weiß Eva Maria Weiß von Heise Online.
• 4:39
  Speaker 0: Zwar hat OpenAI nach den Vorwürfen an den Sicherheitsmaßnahmen für ChatGPT gearbeitet, dennoch beruft sich das Unternehmen vor Gericht darauf, gar nicht verantwortlich zu sein.
• 4:50
  Speaker 0: Denn, so schreibt das OpenAI in den eigenen FAQ, stünde doch bereits, dass man den Aussagen des Chatbots nicht vertrauen sollte.
• 5:00
  Speaker 0: KI könne Fehler machen und KI ist ein Experiment.
• 5:04
  Speaker 0: Das steht nicht nur bei OpenAI, auch bei Google's Gemini steht es etwa unter jeder Antwort und auch Meta macht darauf aufmerksam.
• 5:13
  Speaker 0: Aber kann man sich wirklich so aus der Verantwortung stehlen?
• 5:16
  Speaker 0: OpenAI geht noch einen Schritt weiter.
• 5:19
  Speaker 0: Der Jugendliche habe nämlich auch noch gegen die Nutzungsbedingungen verstoßen.
• 5:24
  Speaker 0: Er soll die Sicherheitsmaßnahmen umgangen haben, um von dem Chatbot Informationen über verschiedene Arten von Suizid zu bekommen.
• 5:32
  Speaker 0: Gleichzeitig soll aber ChatGPT von einem schönen Suizid gesprochen haben.
• 5:38
  Speaker 0: Das passt natürlich auch nicht so ganz zusammen.
• 5:40
  Speaker 0: Das Problem ist, KI-Chatbots wollen den Nutzern gefallen.
• 5:44
  Speaker 0: Sie bestärken alles, was diese sagen und so eben auch gefährliche Gedanken.
• 5:50
  Speaker 0: Immerhin soll Chatshipiti den Jugendlichen auch mehrfach darauf hingewiesen haben, dass er sich Hilfe suchen sollte.
• 5:56
  Speaker 1: Danke Eva.
• 5:57
  Speaker 1: In Deutschland findet ihr Hilfe und Unterstützung bei Problemen aller Art über die Website telefonseelsorge.de und telefonisch unter zero, achthundert, dreimal die elf, null, dreimal die elf.
• 6:11
  Speaker 1: Die Zeit, in der künstliche Intelligenz allein durch mehr Daten- und Rechenleistung verbessert werden konnte, ist vorbei.
• 6:18
  Speaker 1: Das sagt ihr Yasutsukeva, Mitgründer des KI-Startups, SAVE Superintelligence und ehemaliger Chefwissenschaftler von OpenAI.
• 6:27
  Speaker 1: Er bezeichnet die Jahre zwei tausendzwanzig bis zweitausendfünfundzwanzig als Zeitalter der Skalierung.
• 6:33
  Speaker 1: Er meint aber auch, dass dieses Vorgehen jetzt an seine Grenzen stoße, da Trainingsdaten endlich sind.
• 6:40
  Speaker 1: Die Branche müsse sich wieder der Forschung zuwenden.
• 6:43
  Speaker 1: Sozgewa kritisiert, dass Modelle in schwierigen Benchmarks hervorragend abschneiden, aber oft an grundlegenden Aufgaben scheitern.
• 6:51
  Speaker 1: Er vermutet, dass Training mit Reinforcement Learning die Modelle zu engstirnig mache.
• 6:57
  Speaker 1: Um die nächste Stufe zu erreichen, müssten Kaisysteme so effizient lernen wie Menschen.
• 7:03
  Speaker 1: Ein Teenager lerne zum Beispiel das Autofahren in zehn Stunden, ein Bruchteil der Datenmenge, die eine KI benötigt.
• 7:10
  Speaker 1: Suskeva theoretisiert, dass menschliche Emotionen dabei als biologisch verankerte Bewertungsfunktionen dienen.
• 7:17
  Speaker 1: Seine Vision einer Superintelligenz gleicht einem extrem begabten Jugendlichen, der anfangs wenig wisse, aber fähig sei, jeden Beruf zu erlernen.
• 7:27
  Speaker 1: Die Kompetenz entstehe erst im echten Einsatz.
• 7:31
  Speaker 1: Mit seinem Unternehmen SSI hat er bereits drei Milliarden US-Dollar eingesammelt und forscht an solchen neuen Methoden.
• 7:38
  Speaker 1: Auf die Frage, wie man das Training ändern müsse, gibt sich Sutzgeber allerdings verschlossen.
• 7:43
  Speaker 1: Die Zeiten des offenen Austauschs seien vorbei.
• 7:48
  Speaker 1: OpenAI hat einen Datendiebstahl beim Web-Analyse-Dienstleister-Mix-Panel gemeldet.
• 7:54
  Speaker 1: Der untersuchte für OpenAI die Nutzung der Dienste und der API, platform.openai.com.
• 8:01
  Speaker 1: Einige der dabei erhobenen Analyse-Daten sind offenbar in die Hände unbefugter gelangt, berichtete Knob von heise Security.
• 8:08
  Speaker 3: Nutzer von ChatGPT und anderen Kernprodukten sind laut OpenAI nicht betroffen.
• 8:14
  Speaker 3: Der Vorfall betrifft ausschließlich Nutzer der OpenAI-RP.
• 8:18
  Speaker 3: Diese Gruppe ist jedoch groß, da ein RP-Key für die Nutzern der KI in vielerlei anderer Software wie für die Funktionen erweitertes Einfügen der Windows Power Toys nötig ist.
• 8:29
  Speaker 3: OpenAI betont, dass keine eigenen Systeme kompromittiert wurden, das Unternehmen versichert, keine Chats, API Anfragen, Passwörter, Zugangsdaten, API Keys, Zahlungstetails oder behördliche IDs wurden kompromittiert oder exponiert.
• 8:45
  Speaker 3: Laut OpenAI bemerkte Mixpanel am neunten November, zwanzig, fünfundzwanzig umbefugte Zuggriffe auf Teile seiner Systeme.
• 8:53
  Speaker 3: Angreifer schleusten Kunden und Analyse-Daten aus.
• 8:56
  Speaker 3: Mixpanel informierte OpenAI und lieferte am dem betroffenen Datensatz.
• 9:02
  Speaker 3: Von API-Nutzern können beim Datenleck Name, E-Mail-Adresse, ungefähr geografische Lage wie Stadt, Bundesland und Land, Betriebssystem und Browser, Webseiten-Referrer sowie Organisations- oder User-IDs, die mit dem AP-Konto verknüpft sind, betroffen sein.
• 9:19
  Speaker 3: OpenAI hat Mixpanel inzwischen aus den Produktivsystemen entfernt.
• 9:23
  Speaker 3: Der Untersuchungen laufen jedoch noch.
• 9:25
  Speaker 3: Betroffene Nutzer, Admin und Organisation will OpenAI direkt kontaktieren.
• 9:30
  Speaker 3: Man achte sehr genau auf Anzeichen von Missbrauch, obwohl es keine Hinweise auf Auswirkungen außerhalb der Mixpanel-Umgebung gebe.
• 9:37
  Speaker 3: Zudem verschärft OpenAI die Sicherheitsanforderung für alle Partner und Anbieter.
• 9:42
  Speaker 3: Mixpanel selbst erklärte, dass eine S-Mishing-Kampagne, also SMS-Fishing, am acht November, den Auslöserbar, bei der offenbar Mitarbeiter zur Herausgabe von Zugangsdaten gebracht wurden.
• 9:55
  Speaker 3: Der unbefugte Zugriff sei begrenzt gewesen und beendet worden.
• 9:59
  Speaker 3: Wenn nicht direkt von Mixpanel kontaktiert wurde, ist laut deren Aussage nicht betroffen.
• 10:03
  Speaker 3: Das meint jedoch große Unternehmenskunden.
• 10:06
  Speaker 3: Neben OpenAI sind noch weitere namenhaften Unternehmen wie Join, LG, Pinterest, Workday und Yelp-Kunden von Mixpanel.
• 10:16
  Speaker 1: Ein internationales Team von Forschern der Stanford University und des Versicherungskonzerns AXA hat untersucht, wie sich der Energieverbrauch von Diffusionsmodellen systematisch vorhersagen lässt.
• 10:29
  Speaker 1: Auf dieser Architektur bauen die bildgenerierenden KI-Systeme wie Dali, Mid Journey oder Google's Nano Banana auf.
• 10:36
  Speaker 1: Der hohe Energieverbrauch von Sprachmodellen wie Chatchapity und anderen Transformer-Architekturen ist bereits weit hin bekannt und wissenschaftlich untersucht.
• 10:45
  Speaker 1: Nun rücken die gleichermaßen Rechen intensiven Diffusionsmodelle in den Fokus der Nachhaltigkeitsforschung.
• 10:51
  Speaker 1: In ihrem Paper zeigen die Wissenschaftler, wie die Komplexität dieser Algorithmen theoretisch modelliert werden kann.
• 10:59
  Speaker 1: Auf Grundlage der für die Generierung eines Bildes erforderlichen Rechenoperationen lässt sich der Stromverbrauch ableiten.
• 11:06
  Speaker 1: Das Verfahren soll Modellübergreifen funktionieren.
• 11:09
  Speaker 1: Das Ergebnis war, dass je nach Konfiguration ein einziges Bild bis zu zehnmal mehr Energie verbrauchen kann als eine durchschnittliche ChatGPT-Anfrage.
• 11:19
  Speaker 1: Die benötigt laut OpenAI CEO Sam Altman etwa Null, drei Vier Wattstunden.
• 11:24
  Speaker 1: Ein Bild mit einer Auflösung von einen Tausend, vierundzwanzig mal einen Tausend, vierundzwanzig Pixel benötigt hingegen drei, fünf Acht Wattstunden.
• 11:34
  Speaker 1: Die Forscher hoffen, mit diesen Erkenntnissen die effiziente Entwicklung und Implementierung von KI-gestützten Bild- und Videogeneratoren zu fördern.
• 11:44
  Speaker 1: Videospieleentwickler müssen auf Steam darauf hinweisen, ob und wie sie KI einsetzen.
• 11:50
  Speaker 1: Im Epic Games Store ist das nicht nötig.
• 11:54
  Speaker 1: Epic-Chef Tim Sweeney bringt jetzt auf X zum Ausdruck, warum er kein Fan des KI-Labels ist, erklärt Daniel Herbig von Heise Online.
• 12:02
  Speaker 4: Im Kern sagt Sweeney, dass in Zukunft sowieso fast alle Videospiele in irgendeiner Form mit KI entwickelt werden.
• 12:07
  Speaker 4: Das Label sei also sinnlos, weil KI-Einsatz in der Spieleentwicklung nach seiner Ansicht eben eine Selbstverständlichkeit ist.
• 12:14
  Speaker 4: Viele Spieler sehen KI in Videospielen aber eher kritisch und sind deswegen von der Aussage auch etwas unbegeistert.
• 12:21
  Speaker 4: Fähreweise muss man aber sagen, dieses Steam-Label zum KI-Einsatz sind wirklich nicht sonderlich aussagekräftig.
• 12:28
  Speaker 4: Also bei Call of Duty Black Ops VII heißt es etwa.
• 12:31
  Speaker 4: Unser Team setzt generative KI-Tools ein, um ausgewählte Spielelemente zu entwickeln.
• 12:37
  Speaker 4: Und das kann halt alles oder nichts bedeuten.
• 12:39
  Speaker 1: Daniel, wenn Spielerinnen und Spieler gar keine Fans von KI in ihren Spielen sind, wie passt das dann zu Swinnie's Aussage, dass KI in der Spieleentwicklung selbstverständlich ist?
• 12:49
  Speaker 4: Also ich glaube, man muss wirklich festhalten, dass die einzelnen Gaming-Communitys im Großen und Ganzen ziemlich strikt.
• 12:56
  Speaker 4: keine KI-Inhalte in ihren Videospielen haben wollen, weil das oft als faul oder als zählenlos wahrgenommen wird.
• 13:02
  Speaker 4: Und es gibt sicherlich auch viele Entwickler, die das ähnlich sehen.
• 13:05
  Speaker 4: Aber gleichzeitig braucht man sich auch keine Illusionen machen, dass gerade bei den großen Entwicklerstudios zwangsläufig mit KI experimentiert wird, um eben zu schauen, ob man damit die Effizienz steigern kann.
• 13:16
  Speaker 4: Es gibt ja auch zig verschiedene Möglichkeiten, daran zu gehen.
• 13:19
  Speaker 4: Also es geht ja nicht immer nur darum Artwork von der KI erstellen zu lassen.
• 13:23
  Speaker 4: KI kann ja auch bei der Ja, bei der Logistik, der Entwicklung oder der Organisation oder beim Schreibprozess oder bei zig anderen Sachen helfen.
• 13:32
  Speaker 4: Und dass diese Entwickler Studios KI nutzen, das sagen sie auch ganz gerne ihren Investoren, aber aus den genannten Gründen eben weniger gerne ihren Spielern.
• 13:41
  Speaker 4: Und deswegen sehen wir diese Steam-Label, die oftmals etwas verlegen daher kommen.
• 13:47
  Speaker 4: wo dann irgendwie die Klausel steht.
• 13:48
  Speaker 4: Ja, wir haben möglicherweise irgendwo KI eingesetzt.
• 13:52
  Speaker 4: Aber das fertige Produkt reflektiert die Kreativität unseres Teams, liest man da ganz oft zum Beispiel.
• 13:58
  Speaker 4: Und ja, das hilft natürlich auch nicht viel weiter.
• 14:00
  Speaker 4: Und ich glaube, deswegen lässt sich die Kritik von Sweeney auch nicht ganz von der Hand weisen.
• 14:05
  Speaker 1: Danke, Daniel.
• 14:07
  Speaker 1: Schädliche Anfragen lassen sich durch die Sicherheitsfilter von KI-Modellen schleusen, wenn man sie als Gedichte formuliert.
• 14:15
  Speaker 1: Eine Studie italienischer Universitäten hat gezeigt, dass diese Methode als universeller Jailbreak funktioniert.
• 14:22
  Speaker 1: Zwanzig handgefertigte Gedichte erreichten eine durchschnittliche Erfolgsquote von zweiundsechzig Prozent über fünfundzwanzig Modelle hinweg.
• 14:31
  Speaker 1: Um zu prüfen, ob der Effekt über handgefertigte Beispiele hinaus funktioniert, wandelte das Forschungsteam alle eintausend zweihundert Proms des ML Commons AI Luminate Safety Benchmarks systematisch in Versform um.
• 14:45
  Speaker 1: Die Lyrik-Varianten produzierten Erfolgs-Koten, die bis zu dreimal höher lagen, als ihre Prosa-Ponderos.
• 14:53
  Speaker 1: Die Wissenschaftler vermuten, dass poetische Elemente wie Metaphern und Rhythmus die Mustererkennung der Sicherheitssysteme stören.
• 15:01
  Speaker 1: Die Anfälligkeit der Modelle ist jedoch sehr unterschiedlich.
• 15:04
  Speaker 1: Während Google's Gemini-Five Pro bei allen Tests versagte, erwiesen sich die Modelle von OpenAI und Anthropic als Widerstandsfähiger.
• 15:13
  Speaker 1: Die Studie legt nahe das gängige Sicherheits-Tests, die Robustheit von KI-Systemen überschätzen.
• 15:19
  Speaker 1: Zulassungsverfahren bräuchten also Belastungstests mit verschiedenen Formulierungsdielen.
• 15:27
  Speaker 1: Das war das KI-Update von Heise Online vom XXIII.
• 15:30
  Speaker 1: November, für nun zwanzig.
• 15:32
  Speaker 1: Eine neue Folge gibt es Montags, Mittwochs und Freitags um fünfzehn Uhr.