Latest / KI-Update – ein heise-Podcast / KI-Update kompakt: Werbung in ChatGPT, KI-Einsatz überrascht, Schwäche bei Claude Cowork

Transcript

KI-Update kompakt: Werbung in ChatGPT, KI-Einsatz überrascht, Schwäche bei Claude Cowork · KI-Update – ein heise-Podcast

• 0:02
  Speaker 0: Das KI Update, ein Heise-Podcast mit redaktioneller Unterstützung von The Decoder.
• 0:15
  Speaker 0: Ich bin Marco Pauli und dies sind heute unter anderem unsere Themen.
• 0:19
  Speaker 0: Werbung in ChatGPT.
• 0:21
  Speaker 0: Elon Musk will viele Milliarden von OpenAI.
• 0:24
  Speaker 0: Untersuchung zum tatsächlichen Einsatz von KI, Schwachstelle bei Cloud Co-Work und Signalgründer startet sicheren KI Chatbot.
• 0:35
  Speaker 0: OpenAI kündigt nun ganz offiziell Werbung in ChatGPT an.
• 0:39
  Speaker 0: Es hatte bereits Gerüchte und deutliche Hinweise gegeben, dass dies bald der Fall sein wird.
• 0:44
  Speaker 0: Die ersten Experimente beschränken sich auf die USA.
• 0:47
  Speaker 0: Wann auch im deutschsprachigen Raum Anzeigen zu sehen sein werden, ist noch unbekannt.
• 0:52
  Speaker 0: Mehr dazu von Eva Maria Weiß.
• 0:55
  Speaker 3: Nun ist es also soweit.
• 0:57
  Speaker 3: Zumindest in der Gratisversion von ChatchiPT und einer neu eingeführten günstigen Ammo-Variante, die sich ChatchiPT Go nennt, wird es bald Werbung geben.
• 1:07
  Speaker 3: OpenAI kann damit seinen Dienst monetarisieren, also zu Geld machen.
• 1:12
  Speaker 3: Und das ist bekanntlich schwer nötig, denn alles, was OpenAI macht, kostet sehr viel Geld.
• 1:18
  Speaker 3: Forschung, Entwicklung, Betrieb von KI-Modellen sind kostspielig.
• 1:23
  Speaker 3: Noch im vergangenen Herbst hat es Herrn Oldmann gesagt, dass Erwerbung hasse.
• 1:28
  Speaker 3: Der CEO nannte auch so gleich die Krugs, nämlich die Frage ist, ob eventuell dann ein Nutzer eine besonders sinnvoll oder richtige Antwort bekommt oder ob eine Antwort bekommt, für die jemand bezahlt hat.
• 1:41
  Speaker 3: Um das Vertrauen der Menschen nicht zu verlieren, will OpenAI aber einige Prinzipien einhalten.
• 1:47
  Speaker 3: Das schreibt der zuständige Manager in einem Blogbeitrag.
• 1:51
  Speaker 3: Werbung soll demnach niemals eine Antwort beeinflussen.
• 1:56
  Speaker 3: Sie soll auch immer als Werbung gekennzeichnet sein.
• 1:59
  Speaker 3: Die Werbung darf aber zu einer Anfrage passen.
• 2:03
  Speaker 3: Erstmal wird sie unterhalb einer bisher bekannten Antwort erscheinen.
• 2:08
  Speaker 3: In dem Blogbeitrag verspricht OpenAI auch, keine Gesprächsinhalte an Werbetreibende zu verkaufen.
• 2:15
  Speaker 3: Aber die Daten liegen natürlich bei OpenAI vor und sie werden offenbar auch ausgewertet.
• 2:22
  Speaker 3: Neben den Anfragen werden nämlich personalisierte Daten für die Auswahl der Werbung genutzt.
• 2:28
  Speaker 3: Welche Informationen das dann genau sind, verrät OpenAI aber bisher nicht.
• 2:33
  Speaker 0: Danke Eva.
• 2:35
  Speaker 0: Elon Musk hat das Unternehmen OpenAI einst mitbegründet, schied dann aber aus, er begründete das damals mit einem möglichen Interessenkonflikt, der sich aus seiner Rolle als CEO von Tesla ergeben könnte.
• 2:50
  Speaker 0: Laut übereinstimmenden Berichten gab es aber wohl einen gewichtigeren Grund.
• 2:54
  Speaker 0: Sam Altman und OpenAI lehnten damals den Vorschlag von Elon Musk ab, dass er das Unternehmen leiten könnte.
• 3:02
  Speaker 0: Seitdem pflegen Musk und Open AI-Chef Sam Ordmann eine offenbar immer stärker ausgeprägte, aber auf jeden Fall öffentlich ausgelebte Disharmonie.
• 3:17
  Speaker 0: Der Vorwurf lautet, dass OpenAI von dem vereinbarten Weg der Gemeinnützigkeit abgekommen und stattdessen nun ein oft profitausgerichtetes Unternehmen sei, das vor allem Microsoft zuarbeiten, so der Multimilliardär Musk.
• 3:31
  Speaker 0: Zudem behauptet Musk, er sei unrechtmäßig um seine Investitionen gebracht worden.
• 3:37
  Speaker 0: OpenAI weist die Vorwürfe zurück.
• 3:40
  Speaker 0: Musk legt jetzt jedenfalls im Rechtsstreit nach.
• 3:43
  Speaker 0: Seine Anwälte hätten von einem Experten Ansprüche in Höhe von bis zu einenhundert neun Komma vier Milliarden US-Dollar errechnet.
• 3:52
  Speaker 0: Der Experte verwies unter anderem darauf, dass Musk in der Anfangszeit achtunddreißig Millionen Dollar sowie seine Kontakte und seinen Know-how eingebracht habe.
• 4:04
  Speaker 0: Damit habe er einen großen Anteil am heutigen Wert von OpenAI.
• 4:09
  Speaker 0: Im März, wie es ein Gericht den Eilantrag von Elon Musk ab Open Air Ice um Strukturierung zu stoppen.
• 4:17
  Speaker 0: Zugleich entschied es aber, das Hauptsache Verfahren aufzunehmen.
• 4:20
  Speaker 0: Der Prozessbeginn wird für April erwartet.
• 4:24
  Speaker 0: KI soll Arbeitnehmern die lästige Routinearbeit abnehmen, damit sie sich auf die wirklich wichtigen Aufgaben konzentrieren können.
• 4:32
  Speaker 0: So heißt es häufig und so erhoffen es sich wohl auch viele Unternehmen und deren Mitarbeitende.
• 4:38
  Speaker 0: Aber läuft das in der Praxis wirklich so?
• 4:41
  Speaker 0: Eine neue Studie von Anthropic zeigt, die Realität sieht ganz anders aus, Malte Kirchner berichtet.
• 4:48
  Speaker 2: Das Unternehmen hat zwei Millionen anonymisierte Nutzungsdaten aus dem November, zwei tausendfünfundzwanzig ausgewertet und dabei systematisch gemessen, wofür Menschen ihren KI-Assistenten Claude einsetzen und vor allem, wie erfolgreich die KI dabei ist.
• 5:02
  Speaker 2: Das überraschende Ergebnis – in der Praxis werden vor allem die anspruchsvollen Aufgaben an die KI delegiert.
• 5:08
  Speaker 2: Und genau da schwächelt sie.
• 5:09
  Speaker 2: Bei komplexen Problemen liegt die Erfolgsquote nur bei sixty-sechzig Prozent, während sie bei einfachen Tätigkeiten immerhin siebzig Prozent erreicht.
• 5:17
  Speaker 2: Die Folge ist das, was die Forscher TheSkilling nennen.
• 5:20
  Speaker 2: Berufe werden ihre anspruchsvollen Teile beraubt.
• 5:22
  Speaker 2: Ein Beispiel, der technische Redakteur lässt die KI neue Entwicklungen analysieren und veröffentlichte Materialien überprüfen, während er selbst weiterhin Skizzen zeichnet oder die Produktion macht.
• 5:33
  Speaker 2: Im Reisebüro plant die KI komplexe Reiseroute und Kostenberechnungen, während Menschen Fahrkartenausdrucken und Zahlungen abwickeln.
• 5:40
  Speaker 2: Das klingt erstmal Paradox.
• 5:41
  Speaker 2: Warum geben Mitarbeiter ausgerechnet die schwierigen Aufgaben ab, bei denen Fehler besonders schwer zu erkennen sind?
• 5:47
  Speaker 2: Die Antwort ist einfach.
• 5:49
  Speaker 2: Zeit.
• 5:49
  Speaker 2: Laut Entzropik lässt sich eine Aufgabe, die ohne KI drei Stunden dauern würde, mit KI in etwa fünfzehn Minuten erledigen.
• 5:56
  Speaker 2: Da nehmen viele offenbar die höhere Fehlerquote in Kauf.
• 5:59
  Speaker 2: Noch ein Erkenntnis aus der Studie, KI könnte die globale Ungleichheit weiter vergrößern.
• 6:04
  Speaker 2: In wohlhabenden Ländern wie den USA, Japan oder Südkorea wird KI vielseitig genutzt.
• 6:09
  Speaker 2: auch für private Zwecke.
• 6:11
  Speaker 2: In ärmeren Ländern konzentriert sich die Nutzung vor allem aus Lernen und aus spezifische Arbeitsaufgaben.
• 6:16
  Speaker 0: Danke, Malte.
• 6:18
  Speaker 0: Nur zwei Tage nach der Veröffentlichung von Anthropics neuen KI-System Claude Cowork haben Sicherheitsforscher eine kritische Schwachstelle dokumentiert.
• 6:28
  Speaker 0: Über versteckte Befehle in harmlos wirkenden Dokumenten können Angreifer vertrauliche Nutzerdateien stehlen.
• 6:36
  Speaker 0: Eine menschliche Genehmigung ist dafür nicht erforderlich, warum das funktioniert, dazu jetzt mehr von Kim Scheurenbrand von The Decoder.
• 6:44
  Speaker 1: Die Sicherheitsfirma Prompt Armor hat die Angriffsmethode im Detail beschrieben.
• 6:48
  Speaker 1: Sie basiert auf einer bereits bekannten Lücke in der Ausführungsumgebung von Cloud Code.
• 6:53
  Speaker 1: Der Sicherheitsforscher Johann Rieberger hatte diese Schwachstelle schon vor der Existenz von Kovac entdeckt und offen gelegt.
• 7:00
  Speaker 1: Ethopric hat das Problem zwar anerkannt, aber noch nicht behoben.
• 7:03
  Speaker 1: Die Angriffskette funktioniert so.
• 7:05
  Speaker 1: Ein Nutzer verbindet Cowork mit einem lokalen Ordner, der vertrauliche Daten enthält.
• 7:11
  Speaker 1: Dann lädt er eine Datei hoch, die eine versteckte Anweisung enthält.
• 7:15
  Speaker 1: Diese Anweisung ist in einem Worlddokument versteckt, getan als harmloses Hilfsdokument.
• 7:20
  Speaker 1: Der bösartige Text wird mit einer winzigen Schrift in weißer Farbe auf weißem Hintergrund formatiert.
• 7:27
  Speaker 1: Er ist damit praktisch unsichtbar.
• 7:28
  Speaker 1: Sobald der Nutzer Cowork bittet, seine Dateien zu analysieren, übernimmt die steckte Anweisung die Kontrolle.
• 7:34
  Speaker 1: Sie weist Cloud an, die größte verfügbare Datei an einen externen Server zu senden.
• 7:40
  Speaker 1: Die Datei landet im Konto des Angreifers.
• 7:43
  Speaker 1: An keiner Stelle ist eine Bestätigung durch den Nutzer notwendig.
• 7:46
  Speaker 1: Die Forscherinnen und Forscher testeten den Angriff zunächst gegen Anthropics schwächses Modell, Cloud Heiku.
• 7:53
  Speaker 1: Doch auch das stärkste Modell, Cloud Opus Föhn, fließt sich erfolgreich manipulieren.
• 7:58
  Speaker 1: Solche Angriffe über versteckte Anweisungen sind seit Jahren bekannt.
• 8:02
  Speaker 1: Trotz aller Versuche ist es bisher nicht gelungen, sie zu verhindern.
• 8:05
  Speaker 1: Ein Werkzeug wie Co-Work, das mit dem eigenen Computer und zahlreichen Datenquellen verbunden wird, bietet besonders viele Angriffspunkte.
• 8:13
  Speaker 1: Anthropic betont, dass Co-Work in nur anderthalb Wochen entwickelt und komplett von Cloudcode geschrieben wurde.
• 8:19
  Speaker 1: Entsprechend vorsichtig sollte man im Umgang mit diesem Werkzeug sein.
• 8:24
  Speaker 0: Gespräche mit den gängigen Chatbots von OpenAI, Anthropic, Google und Meta landen auf den Servern der jeweiligen Anbieter.
• 8:33
  Speaker 0: Auch wenn die Inhalte explizit nicht für das Training weiterer KI-Modelle genutzt werden sollen, sind sie nicht Ende zu Ende verschlüsselt.
• 8:41
  Speaker 0: Das heißt, die Anbieter können im Zweifel mitlesen.
• 8:44
  Speaker 0: Nun bietet der Gründer des Messenger Signal mit CONFER einen Chatbot an, bei dem eben genau das nicht passieren soll.
• 8:52
  Speaker 0: Nutzeingaben und auch die Antworten der KI sollen vor fremden Zugriff geschützt sein.
• 8:58
  Speaker 0: Um Confer nutzen zu können, muss man zunächst einen Passkey erstellen, der dann beispielsweise mittels Face ID, Fingerabdruck oder einer Gerätepin geschützt wird.
• 9:08
  Speaker 0: Darüber werden weitere Schlüssel abgeleitet, die jedoch auf dem Gerät bleiben.
• 9:13
  Speaker 0: Das heißt, auch Confer kann sie nicht einsehen oder nutzen.
• 9:17
  Speaker 0: Chat-Anfragen werden also lokal verschlüsselt.
• 9:21
  Speaker 0: Ein KI-Modell muss allerdings auf einem Server samt GPUs laufen.
• 9:25
  Speaker 0: Jemand muss den Server betreiben.
• 9:27
  Speaker 0: Entsprechend hat diese Person oder Organisation Zugriff auf die Daten.
• 9:31
  Speaker 0: Deshalb setzt Confer auf Confidential Computing und eine sogenannte Trusted Execution Environment.
• 9:39
  Speaker 0: In dieser Hardware gestützt isolierten Umgebung wird der Code ausgeführt.
• 9:44
  Speaker 0: Der Quellcode ist auf GitHub verfügbar.
• 9:47
  Speaker 0: Noch nicht bekannt ist, welches KI-Modell-Confern nutzt.
• 9:51
  Speaker 0: Man kann nur vermuten, dass es eines der offenen Modelle ist, beispielsweise Lama von Metta, Gemma von Google oder das französische Mistral.
• 10:00
  Speaker 0: In einem Blockbeitrag waren Signalgründer Moxi Marlins Bike vor der Nutzung der großen KI-Chatbots.
• 10:07
  Speaker 0: Man gebe dort seine Gedankenpreis und die Anbieter würden diese garantiert speichern, für KI-Trainings nutzen und vor allem monetarisieren.
• 10:17
  Speaker 0: Alle werden, so befürchtet Malensbike, die eingegebenen Informationen nutzen, um darauf aufbauen, personalisierte Werbung auszuspielen.
• 10:26
  Speaker 0: Er geht so weit zu sagen, die Anbieter würden uns schon davon überzeugen, dass wir bestimmte Dinge brauchen.
• 10:33
  Speaker 0: Sie könnten dafür das gesamte Kontextwissen über uns Gedanken und Sorgen nutzen.
• 10:39
  Speaker 0: Malensbike schreibt, du bekommst eine Antwort.
• 10:43
  Speaker 0: Sie bekommen alles.
• 10:45
  Speaker 0: OpenAI-Sprachmodell GPT-Fünf-Punkt-Zwei-Pro hat bei der Lösung eines offenen mathematischen Problems geholfen.
• 10:52
  Speaker 0: Der KI-Forscher Neil Somani berichtet, dass er mit dem KI-Modell das sogenannte R-Dös-Problem Nummer twohundertundachtzig aus der Zahlenteorie gelöst hat.
• 11:02
  Speaker 0: Der Mathematiker Terrence Tau bezeichnet dies als vielleicht das eindeutigste Beispiel für eine KI, die ein offenes mathematisches Problem löst.
• 11:12
  Speaker 0: Allerdings existierten wohl bereits frühere Beweise, die womöglich die Antwort des Modells beeinflusst haben.
• 11:19
  Speaker 0: Tau bestätigt jedoch, dass der Beweis von GPT-Fünf.ZweiPro ziemlich anders als die früheren Beweise sei.
• 11:27
  Speaker 0: Gleichzeitig waren Tau vor einer verzerrten Wahrnehmung der KI-Fähigkeiten.
• 11:32
  Speaker 0: Negative Ergebnisse würden selten veröffentlicht.
• 11:35
  Speaker 0: Positive Resultate gingen dagegen viral.
• 11:39
  Speaker 0: Die Erfolge konzentrierten sich zudem auf leichtere Probleme.
• 11:44
  Speaker 0: Google verbessert seine KI-gestützten Suchergebnisse mit dem Sprachmodell Gemini III Pro.
• 11:50
  Speaker 0: Das System leitet komplexe Anfragen automatisch an Googles Leistungsstärks des Modell weiter.
• 11:56
  Speaker 0: Einfachere Fragen werden weiterhin von schnelleren Modellen bearbeitet.
• 12:01
  Speaker 0: Dieses intelligente Routing funktioniert bereits im AI-Mode, also Google's KI-Chat für Web suchen.
• 12:08
  Speaker 0: Nun wird es auch auf die AI-Overviews ausgeweitet.
• 12:12
  Speaker 0: Das sind die schnellen KI-Antworten direkt unter der Suchanfrage.
• 12:17
  Speaker 0: Die Funktion ist ab sofort weltweit auf Englisch verfügbar, allerdings nur für zahlende Abonnenten von Google AI Pro und Ultra.
• 12:25
  Speaker 0: Die KI-Suchergebnisse stehen immer wieder in der Kritik.
• 12:29
  Speaker 0: Sie können mit großer Selbstsicherheit falsche Antworten geben.
• 12:32
  Speaker 0: Dass sie dabei Quellen zitieren, schließt Fehler nicht aus.
• 12:36
  Speaker 0: Nutzer prüfen die Quellen zudem fast nie.
• 12:39
  Speaker 0: Leistungsfähigere Modelle können solche Fehler reduzieren, aber nicht vollständig beseitigen.
• 12:47
  Speaker 0: In Südkorea etabliert sich generative KI als reguläres Abo-Produkt.
• 12:52
  Speaker 0: Die monatlichen Ausgaben für KI-Dienste übersteigen dort mittlerweile die Zahlungen für zum Beispiel Netflix-Dienste.
• 13:00
  Speaker 0: Laut einem Datenanalyse-Unternehmen erreichten die Zahlung für sieben KI-Dienste wie Chatchipiti und Gemini im Dezember twenty-fünfundzwanzig umgerechnet rund fünfzig bis fünfundfünfzig Millionen Euro.
• 13:13
  Speaker 0: Die durchschnittlichen monatlichen Netflix-Abogebühren in Korea lagen zweitausendzwanzig bei etwa forty-fünfzig bis fünfzig Millionen Euro.
• 13:22
  Speaker 0: Chatchipiti dominiert den Markt mit einem Anteil von seventy-fünf Prozent der Zahlung.
• 13:31
  Speaker 0: Das war das KI-Update von heiser online vom neunzehnten Januar.
• 13:36
  Speaker 0: Ein neuer Folge gibt es montags, mittwochs und freitags ab fünfzehn Uhr.