Latest / KI-Update – ein heise-Podcast / KI-Update kompakt: ChatGPT Pulse, Code World Model, eHealth, KI-Suche
Transcript
- 0:02Speaker 0: Das KI Update, ein Heise-Podcast mit redaktioneller Unterstützung von The Decoder.
- 0:14Speaker 0: Ich bin Isabel Grünewald und die sind heute unter anderem unsere Themen.
- 0:18Speaker 0: Proaktiver Chatboard, ChatGPT Pulse statt Social Media.
- 0:22Speaker 0: Metas Code-Modell versteht, was Programme im Computer bewirken.
- 0:27Speaker 0: Verband für digitale Gesundheitsversorgung fordert Sonderweg und, wie KI Zusammenfassungen, zivilgesellschaftliche Vielfalt einschränken können.
- 0:37Speaker 0: OpenAI hat eine neue Funktion für ChatchiPT eingeführt, ChatchiPT Pulse.
- 0:43Speaker 0: Damit soll der Chatboard proaktiver werden.
- 0:45Speaker 0: Was sich OpenAI darunter vorstellt, weiß Eva Maria Weiß von Heise Online.
- 0:50Speaker 1: ChatchiPT Pulse soll Themen vorschlagen und Informationen liefern.
- 0:55Speaker 1: ohne, dass man danach gesucht hat.
- 0:57Speaker 1: Genauer gesagt sogar ohne, dass man vorher überhaupt wusste, dass man danach suchen sollte.
- 1:03Speaker 1: Und dafür soll der Chatbot alle Informationen nutzen können, die ihm zur Verfügung stehen.
- 1:09Speaker 1: Die Memory-Funktion, die ja bereits Informationen über den Nutzer speichert, aber auch die Chat-Historie und direktes Feedback fließen ein.
- 1:18Speaker 1: Daraus leitet ChatGPT dann personalisierte Vorschläge für Themenkarten ab.
- 1:25Speaker 1: Die bieten einen schnellen Überblick und man kann eine Karte dann auswählen und lesen, was dahinter steckt.
- 1:31Speaker 1: Oder man schaut einfach weiter, welche Karten noch kommen.
- 1:35Speaker 1: Das erinnert natürlich auch ein bisschen an einen Feed aus sozialen Netzwerken.
- 1:40Speaker 1: Und man kann getrost daraus schließen, dass OpenAI diese sozialen Netzwerke ein bisschen damit ablösen möchte.
- 1:48Speaker 1: Solche Themenkarten eignen sich besonders gut, zum Beispiel, wenn man gleich morgens einfach mal auf sein Handy schaut und durchgeht, was ChatGPT denn für einen wohl bereithält.
- 1:59Speaker 1: Grundsätzlich zeigt sich hier aber auch ein Verständnis, das offenbar alle KI-Unternehmen haben.
- 2:05Speaker 1: Sie alle meinen, dass Menschen Informationen gerne von außen bekommen möchten und dass sie nicht unbedingt aktiv danach suchen wollen.
- 2:14Speaker 1: In der Medienwissenschaft gibt es dafür die Begriffe Push und Pull-Medien und beides hat dort seine Berechtigung, beides ist in der Regel von uns Menschen erwünscht.
- 2:24Speaker 1: Fraglich ist aber dabei Inwieweit Menschen bereits sind persönliche Datenkreis zu geben, um dann besonders personalisierte Informationen zu erhalten und natürlich, wie gut das dann auch überhaupt funktioniert.
- 2:38Speaker 1: Als Microsoft seine Recall-Funktion einführen wollte, gab es massiv Protest.
- 2:44Speaker 1: Bei dieser sollte automatisch alle paar Sekunden ein Screenshot vom Bildschirm gemacht werden und natürlich auch ausgewertet.
- 2:52Speaker 1: Diese Funktion ist inzwischen in einer sehr abgeschwächten Form verfügbar.
- 2:56Speaker 1: Und auch Mark Zuckerberg träumt davon, dass smarte Brillen alles sehen und hören, was auch wir sehen und hören.
- 3:04Speaker 1: Und dass darauf basierend ein stark personalisierter Assistent aufgebaut werden kann.
- 3:11Speaker 1: Google träumt ohnehin davon, dass all unsere Daten für die Suche genutzt werden können.
- 3:16Speaker 1: Und auch Perplexity hat schon davon gesprochen, dass sie glauben, Menschen würden ihre Daten freiwillig zur Verfügung stellen, wenn sie dafür einen guten KI-Assistenten bekämen.
- 3:27Speaker 1: Ich bin davon noch nicht ganz überzeugt.
- 3:37Speaker 0: Auswahl schadet bekanntlich nicht, darum führt Microsoft nun schrittweise Alternativen ein.
- 3:42Speaker 0: Kunden werden auf KI-Modelle Anthropics umsteigen können, wenn und wann sie das möchten.
- 3:48Speaker 0: Bei der Tochter GitHub ist Anthropic für Zeilen der Abonnenten des GitHub Co-Pilots sogar schon erste Wahl im Visual Code Studio.
- 3:56Speaker 0: Los geht es jetzt im Microsoft Co-Pilot Studio.
- 3:59Speaker 0: Mit dieser Anwendung können KI-Agenten erstellt werden.
- 4:02Speaker 0: Nach einem Opt-in können die Anthropic-Modelle CloudZone-IV und CloudOpus-IV.I aktiviert werden.
- 4:10Speaker 0: Wer den vorprogrammierten Agenten namens Researcher im Rahmen des Frontier-Programm verwendet, kann auch diesen auf CloudOpus-IV.I umstellen.
- 4:19Speaker 0: Die Umstellung ist allerdings nicht monolithisch, sondern soll flexibel sein, sodass unterschiedlichen Aufgaben mit unterschiedlichen KI-Modellen begegnet werden kann.
- 4:29Speaker 0: Metta hat ein Team gegründet, das weitere KI-Regulierung in den USA abwenden soll.
- 4:36Speaker 0: Das sogenannte American Technology Excellence Project soll Berichten zufolge über Dutzende Millionen US-Dollar von Metta verfügen.
- 4:44Speaker 0: Dabei hat US-Präsident Donald Trump eigentlich verlauten lassen, dass es keine KI-verhindernen Gesetze geben dürfe.
- 4:51Speaker 0: Engadget schreibt jedoch, dass allein in diesem Jahr mehr als ein-tausend Vorschläge zur Regulierung von KI auf bundesstaatlicher Ebene eingebracht worden seien.
- 5:01Speaker 0: Tatsache ist, dass die USA mitnichten ohne KI-Regulierung dastehen, anders als es bei Klagen über den europäischen AI-Akt oftmals durchklingt.
- 5:11Speaker 0: Auch jetzt schon gibt es in den Bundesstaaten verschiedene Gesetze, die KI-Dienste betreffen oder sich explizit an diese richten.
- 5:18Speaker 0: Metta glaubt jedoch, Regulierung würde die USA im Wettrenn um KI mit China zurückwerfen.
- 5:24Speaker 0: Die Interessengruppe soll das also verhindern.
- 5:27Speaker 0: Konkret soll sie in den Bundesstaaten jeweils die politischen Kandidatinnen und Kandidaten unterstützen, die auf Metta's Linie sind.
- 5:35Speaker 0: Schon zuvor hatte Metta eine ähnliche Interessengruppe in Kalifornien eingerichtet.
- 5:40Speaker 0: Dort gibt es bereits einzelne KI-Gesetze, etwa zum Schutz digitaler Abbilder von Schauspielern oder mit Bezug auf Falschinformationen vor Wahlen.
- 5:48Speaker 0: Außerdem plant der Gouverneur Gavin Newsom ein Gesetz, das KI-Chatbots regulieren soll.
- 5:55Speaker 0: In diesem Wettremd um die beste KI hat Meta jetzt ein KI-Modell entwickelt, das Code nicht nur schreiben, sondern auch dessen Ausführung im Computer simulieren kann.
- 6:05Speaker 0: Das Code-World-Model, kurz CWM, mit thirty-two Milliarden Parametern soll wie ein mentaler Debugger funktionieren, erklärt Kim Scheurenbrand von The Dakota.
- 6:17Speaker 3: Die Metaforscherinnen und Forscher erklären in der Vorstellung des neuen Modells, dass echtes Programmverständnis mehr erfordert als das Nachahm von Code-Mustern.
- 6:26Speaker 3: Man müsse verstehen, was Code bei der Ausführung bewirkt.
- 6:29Speaker 3: Genau diese Fähigkeit haben sie ihr Modell beigebracht.
- 6:32Speaker 3: Das Code World Model kann vorhersagen, ob ein Programm jemals endet oder in einer Endlosschleife hängen bleibt.
- 6:39Speaker 3: Es analysiert auch die Komplexität von Algorithmen und schätzt ein, wie lange Programme bei verschiedenen Eingabegrößen brauchen.
- 6:46Speaker 3: Das Modell arbeitet sogar rückwärts.
- 6:48Speaker 3: Aus einer Beschreibung dessen, was ein Programm tun soll, simuliert es die Ausführung und leitet den passenden Code ab.
- 6:55Speaker 3: Die Forscherinnen und Forscher zeigen Beispiele, bei denen das Code-World-Model Funktionen aus Anforderungen und erwarteten Ergebnissen rekonstruiert hat, ohne den ursprünglichen Code zu kennen.
- 7:05Speaker 3: Das Training erfolgte über hundertzwanzig Millionen Python-Programmausführungen.
- 7:10Speaker 3: Das Modell beobachtete Schritt für Schritt, wie sich Variablen ändern und was in jedem Moment im Programm passiert.
- 7:16Speaker 3: Die Forscherinnen und Forscher nennen das Execution Traces.
- 7:19Speaker 3: Meter hat das Code-World-Model als Open-Weights-Modell unter einer nicht-kommerziellen Forschungslizent veröffentlicht.
- 7:26Speaker 3: Nach Quantisierung, also der Reduzierung der Modellgröße durch weniger präzise Zahlenformate, läuft das Modell auf einer einzelnen NVIDIA H-Einhundert mit Achtzig Gigabyte Speicher.
- 7:37Speaker 3: Die Forscher und Forscher betonen, dass das Code-World-Model ein reines Forschungsmodell ist, das ausschließlich auf Programmierung und mathematisches Denken fokussiert ist.
- 7:45Speaker 0: Danke schön, Kim.
- 7:46Speaker 0: Der chinesische Tech-Konzern Alibaba hat One-two-fünf-Preview veröffentlicht, ein Videomodell, das Clips mit synchronisiertem Ton erzeugen kann.
- 7:57Speaker 0: Das System verwendet eine multimodale Architektur, die Text, Bilder, Video und Audio in einem einheitlichen System verarbeitet.
- 8:06Speaker 0: Alibaba trainierte das Modell gemeinsam auf allen Datentypen.
- 8:09Speaker 0: Das soll eine bessere Abstimmung zwischen den verschiedenen Medien ermöglichen.
- 8:13Speaker 0: Allerdings gibt Alibaba nur oberflächliche Details zur Architekturpreis.
- 8:18Speaker 0: Das Unternehmen erwähnt den Einsatz von Reinforcement Learning durch menschliches Feedback.
- 8:23Speaker 0: Ein technischer Report fehlt jedoch ebenso wie Informationen zu den Trainingsdaten.
- 8:29Speaker 0: Die Full-HD-Videos sind zehn Sekunden lang.
- 8:32Speaker 0: Das System kann stimmen mehrerer Personen Soundeffekte und Hintergrundmusik erstellen.
- 8:36Speaker 0: Als Eingabe akzeptiert es Text, Bilder und Audio.
- 8:40Speaker 0: Nutzerinnen und Nutzer können also ein Foto hochladen und per Textbefehl ein Video mit passender Musik erstellen lassen.
- 8:47Speaker 0: One-Zwei-Punkt-Fünf-Preview erreicht laut Alibaba ein ähnliches Niveau wie Google's VO-Drei.
- 8:53Speaker 0: In Demonstrationsvideos zeigen sich allerdings noch Schwächen.
- 8:57Speaker 0: Bild- und Tonspur passen nur auf den ersten Blick gut zusammen.
- 9:00Speaker 0: Bei näherem Hinsehen synchronisieren sich Schlagzeugspiel und Musik nicht auf den Tag genau.
- 9:06Speaker 0: Die Darstellung konsistenter Gesichter bereitet den Modell ebenfalls Schwierigkeiten.
- 9:12Speaker 0: Der Spitzenverband Digitale Gesundheitsversorgung hat ein sogenanntes Green Paper vorgelegt.
- 9:18Speaker 0: Der SVDGV vertritt über einhundertsiebzig E-Health-Unternehmen und beobachtet einen engen Pass aus unklaren Regularien, mangelndem Datenzugang und fehlenden Testumgebungen für KI-Entwickler.
- 9:32Speaker 0: Um diesen Engpass aufzubrechen, fordert der Verband eine branchenspezifische AI Regulatory Sandbox für das Gesundheitswesen.
- 9:41Speaker 0: Was genau der SVDGV damit meint, erklärt Marie Klerkoch von Heise Online.
- 9:46Speaker 4: Bei der KI-Regulierung gibt es laut dem Spitzenverband digitale Gesundheitsversorgung und weiteren Branchenvertretern.
- 9:51Speaker 4: noch viele offene Fragen.
- 9:53Speaker 4: Das Gesundheitswesen ist ein besonders sensibler Bereich, in dem der Schutz von Patientinnen oberste Priorität hat.
- 9:59Speaker 4: KI-Systeme müssen deshalb streng geprüft werden und deshalb viele Produkte lange und auch regelmäßig getestet werden müssen.
- 10:05Speaker 4: Das ist bereits mit der Medizinprodukteverordnung der Fall.
- 10:08Speaker 4: Dazu greift jetzt auch der AI-Agg.
- 10:10Speaker 4: Dabei überschneiden sich beide teilweise, was bei Herstellern und Anwendern zur Verunsicherung führt.
- 10:15Speaker 4: Der Verband wünscht sich darum mehr Klarheit und will daher ein eigenes KI-Realabor.
- 10:20Speaker 4: Es gibt nämlich bereits ein Pilotprojekt für einen KI-Reallabor von der Bundesnetzagentur.
- 10:26Speaker 4: Das im Mai gestartete Projekt sei jedoch zu unspezifisch für die besonderen Anforderungen von Medizin und Pflege.
- 10:31Speaker 4: Auch die Datenlage bleibt ein Hindernis für das Training und Testen von Kaisen große Mengen qualitativ hochwertiger Daten erforderlich.
- 10:38Speaker 4: Gesundheitsarten sind jedoch besonders geschützt und zudem auf viele Einrichtungen verteilt, was den Zugang zusätzlich erschwert.
- 10:44Speaker 4: Der Verband räumt jedoch auch ein, dass es noch einige Erragen gibt, die noch offen sind.
- 10:48Speaker 4: Zum Beispiel, wie sich K.E.
- 10:49Speaker 4: Entscheidungen nachvollziehbar machen lassen oder zum Beispiel, wie Diskriminierung verhindert wird.
- 10:56Speaker 0: Der Chef des ChatGPT-Entwicklers OpenAI, Sam Altman, will den Einsatz von künstlicher Intelligenz im Gesundheitswesen vorantreiben.
- 11:05Speaker 0: Wir haben in den letzten beiden Versionen beobachtet, dass immer mehr Menschen ChatGPT zur Unterstützung bei der Verwaltung ihrer Gesundheitsversorgung nutzen.
- 11:13Speaker 0: Und das funktioniert mittlerweile recht gut, sagte Altman bei der Verleihung des Axelspringer Awards in Berlin.
- 11:19Speaker 0: Ärzte würden es nutzen, um bessere Versorgung anzubieten, aber auch Patienten und andere Menschen würden es häufig für Fragen nutzen.
- 11:28Speaker 0: Altman ist der neunte Preisträger des Axelspringer Awards.
- 11:31Speaker 0: Mit dem undotierten Preis werden jährlich Personen gewürdigt, die laut Springer in herausragender Weise Märkte verändern.
- 11:39Speaker 0: Die geplante KI-Partnerschaft zwischen dem Filmstudio Lionsgate und dem Start-up Runway kommt langsamer voran als erwartet.
- 11:47Speaker 0: Das berichtet das Branchenmagazin The Wrap.
- 11:50Speaker 0: Ein überraschender Grund?
- 11:51Speaker 0: Die Filmbibliothek reicht nicht aus, um ein leistungsfähiges KI-Modell zu trainieren.
- 11:57Speaker 0: Ursprünglich wollte Lionsgate seinen Filmkatalog nutzen, um mit Runway ein eigenes KI-Modell für die Filmproduktion zu entwickeln.
- 12:04Speaker 0: Doch laut einem Insider sei selbst Disneys gesamter Filmkatalog zu klein für ein solches Vorhaben.
- 12:11Speaker 0: Diese Aussage widerlegt eine verbreitete Annahme der Branche.
- 12:14Speaker 0: Offenbar verfügen auch die größten Hollywood Studios trotz Jahrzehntelanger Produktion nicht über ausreichend vielfältiges und großvolumiges Videomaterial.
- 12:24Speaker 0: Zusätzlich bremsen rechtliche Fragen das Projekt.
- 12:27Speaker 0: Ungeklärte Bildrechte von Schauspielerinnen und Schauspielern erschweren die Nutzung des Materials.
- 12:33Speaker 0: Lionsgate betont, man verfolge weiter KI-Projekte mit mehreren Anbietern.
- 12:37Speaker 0: runway äußerte sich gegenüber der Rap nicht zu den Berichten.
- 12:42Speaker 0: Die Popularität von KI-Chatbots verändert, wie wir online suchen.
- 12:47Speaker 0: Die vermeintlich wichtigsten Infos gibt es im direkten Dialog mit der KI oder in automatisierten KI-Zusammenfassungen der Suchmaschinen.
- 12:56Speaker 0: Medienhäuser als Urheber vieler dieser Informationen klagen dagegen, weil ihnen die Werbeeinnahmen wegbrechen, wenn weniger Menschen auf die Links zu ihren Artikeln klicken.
- 13:06Speaker 0: Der Politikwissenschaftler und Soziologe Manuel Hofmann arbeitet als Referent für Digitalisierung bei der Deutschen AIDS-Hilfe.
- 13:13Speaker 0: In einem Gastkommentar auf Heise Online erklärt er, wie sich diese Veränderung auch auf NGOs auswirkt.
- 13:20Speaker 0: Er sieht dabei die zivilgesellschaftliche Vielfalt bedroht.
- 13:24Speaker 2: Statistiken zeigen, dass sich das Zuverhalten der Menschen gravierend verändert hat.
- 13:29Speaker 2: Immer mehr Menschen bleiben auf dem Blattform und konsumieren nur die dort aufbereitenden Inhalte.
- 13:35Speaker 2: Die wegesellschaftliche Organisation mit ihrer Expertise für die jeweiligen Themen bleiben in den Zusammenfassungen bei Suchanfragen unsichtbar.
- 13:43Speaker 2: Sie werden oft nicht einmal als Quelle genannt.
- 13:46Speaker 2: Doch wenn in Folge die Organisationspapseiten weniger besucht werden, können NGOs nicht auf ihre weiterführenden Angebote verweisen und umspenden werden.
- 13:55Speaker 2: Doch genau darauf sind sie angewiesen, gerade angesichts knapperwährender öffentlicher Mittel.
- 14:02Speaker 2: Das Thema hat auch eine inhaltliche Dimension.
- 14:05Speaker 2: Denn die KI-Zusammenfassung haben keinen neutralen Wahrheitswert, sondern sind ein Ausschnitt.
- 14:11Speaker 2: Dieser ist von Algorithmen und auch von Geschäftsinteressen geleitet.
- 14:15Speaker 2: Große Tech-Konzerne nehmen damit Einfluss auf öffentliche Meinungsbildung, ohne dabei angemessen demokratisch kontrolliert zu werden.
- 14:23Speaker 2: Diese Machtkonzentration bedroht also zivilgesellschaftliche Vielfalt.
- 14:29Speaker 2: Deshalb müssen Plattformen darauf verpflichtet werden, ihre Quellen in KI-Zusammenfassungen prominent und klickbar auszuweisen.
- 14:37Speaker 2: Für sensible Themen sollten Zusammenfassungen entfallen oder zumindest mit relevanten civilgesellschaftlichen und wissenschaftlichen Akteuren abgestimmt werden.
- 14:46Speaker 2: Darüber hinaus braucht es mehr Transparenz darüber, wie die Systeme im Hintergrund funktionieren und eine unabhängige Aufsicht, um demokratische Vielfalt zu sichern.
- 14:57Speaker 2: Am Ende können aber alle ihren Beitrag dazu leisten, um Zivilgesellschaft wieder zu stärken.
- 15:03Speaker 2: Finanziell oder ideell durch Verbreitung der Angebote oder ehrenamtliches Engagement.
- 15:09Speaker 2: Denn als Gegengewicht zum von wenigen Plattformen kontrollierten Internet ist eine gut aufgestellte Zivilgesellschaft unerlässlich.
- 15:16Speaker 0: Das sagt der Politikwissenschaftler und Soziologe Manuel Hofmann in einem Gastkommentar für Heise Online.
- 15:23Speaker 0: Neon Money Talks ist auf iPhones in den USA derzeit die vierte meist installierte Anwendung, noch vor Google und WhatsApp.
- 15:32Speaker 0: Der Grund für den rasanten Aufstieg ist Geld.
- 15:35Speaker 0: Neon zeichnet die mithilfe der App initiierten Telefongespräche auf und schütte dafür fünfzehn US-Cent pro Minute aus, maximal dreißig US-Dollar pro Tag.
- 15:45Speaker 0: Die Aufnahmen, so der Betreiber, würden dann für Trainings künstlicher Intelligenzen weiterverkauft, bereinigt um personenbezogene Daten.
- 15:54Speaker 0: Allerdings gibt es kein Versprechen, dass die Aufnahmen geheim gehalten oder ausschließlich für KI-Trainings genutzt werden.
- 16:00Speaker 0: Im Gegenteil, die Vertragsklausel Neons sind ein juristisches Minfeld.
- 16:06Speaker 0: Neon Mobile sichert sich unwiderrufliche, weltweite, gebührenfreie, übertragbare und sublizensierbare Lizenzen.
- 16:15Speaker 0: Auf Ansprüche bezüglich dessen, was Neon oder Neons Kunden aus den Aufnahmen generieren, verzichten Teilnehmende.
- 16:22Speaker 0: Selbstreden hafen diese auch selbst, wenn sie bei ihren Unterhaltungen rechte Dritter verletzen, also etwa wenn sie bei einem Telefonat einen copyrightgeschützten Text aussprechen oder eine Melodiesum.
- 16:34Speaker 0: Mit mehreren Maßnahmen will Spotify seine Nutzerinnen und Musikschaffende vor KI-Musik schützen.
- 16:40Speaker 0: Unter anderem sollen Musikerkünftig offenlegen, ob und in welcher Form künstliche Intelligenz bei der Produktion zum Einsatz kommt.
- 16:48Speaker 0: Um Künstlerinnen und Künstler von Nachahmung und KI-Stimmkopien zu schützen, hat Spotify ein Beschwerdeformular eingeführt.
- 16:55Speaker 0: Darüber können sie sich an Spotify wenden, wenn ihre Stimme illegal von KI kopiert wurde.
- 17:01Speaker 0: Allerdings muss über diesen Weg jeder KI-Song einzeln beanstandet werden.
- 17:05Speaker 0: Zwar steigen die jährlichen Auszahlungen insgesamt, aber Teile davon landen bei KI-Spammern.
- 17:12Speaker 0: Solche Leute laden massenhaft Songkopien oder kurze KI-Tracks hoch, um den Algorithmus auszutricksen und möglichst viele Wiedergaben zu bekommen.
- 17:21Speaker 0: Ab Herbst soll daher ein Filter dafür sorgen, dass solche Uploads und die Nutzenen dahinter automatisch erkannt werden.
- 17:28Speaker 0: Der Algorithmus soll diese Inhalte dann nicht mehr empfehlen.
- 17:33Speaker 0: Das war das KI-Update von Heise Online vom sächsundzwanzigsten September zweitausendfünfundzwanzig.
- 17:38Speaker 0: Eine neue Folge gibt es Montags, Mittwochs und Freitags ab fünfzehn Uhr.