Latest / KI-Update – ein heise-Podcast / KI-Update kompakt: Metas KI-Charaktere, Grok Code, Environments, Agents4Science

Transcript

KI-Update kompakt: Metas KI-Charaktere, Grok Code, Environments, Agents4Science · KI-Update – ein heise-Podcast

• 0:02
  Speaker 1: Das KI-Update, ein Heise-Podcast mit redaktioneller Unterstützung von The Decoder.
• 0:13
  Speaker 1: Ich bin Isabel Grünewald und die sind heute unter anderem unsere Themen.
• 0:18
  Speaker 1: Metas KI-Charaktere sollen Jugendschutz besser einhalten.
• 0:22
  Speaker 1: XAI strebt mit GROCKCODE FAST ONE Spitzenplatz an.
• 0:26
  Speaker 1: Carpathie sieht Environments als nächste Stufe der KI-Entwicklung und Bots unter sich.
• 0:32
  Speaker 1: auf der ersten Wissenschaftskonferenz nur für KI.
• 0:37
  Speaker 1: Immer Probleme mit Metters-KI-Diensten.
• 0:40
  Speaker 1: Erneut gibt es Vorwürfe, die KI-Charaktere hätten sich unangemessen verhalten.
• 0:44
  Speaker 1: Doch Metta reagiert und möchte das ändern.
• 0:48
  Speaker 1: Mehr dazu weiß Eva Maria Weiß von Heise Online.
• 0:51
  Speaker 3: Dieses Mal, so heißt es bei Reuters, sind KI-Charaktere aufgetaucht, die berühmten Persönlichkeiten entsprachen und die zudem unangemessene Inhalte verbreitet haben sollen.
• 1:03
  Speaker 3: Konkret geht es offenbar um sexuelle Darstellungen.
• 1:07
  Speaker 3: Zu den nachgeahmten Stars gehören Taylor Swift und auch Anne Hathaway.
• 1:13
  Speaker 3: Wie genau die beiden aber von einem KI-Chatbot nun nachgeahmt wurden, bleibt dabei ein bisschen unklar und offen.
• 1:21
  Speaker 3: Metta erlaubt ja nämlich solche Nachahmungen sogar, aber nur, wenn es sich um Parodie handelt.
• 1:29
  Speaker 3: Das soll dann auch als solche gekennzeichnet werden.
• 1:32
  Speaker 3: Sexuelle Darstellungen gehören wohl nicht unbedingt zu Parodie.
• 1:37
  Speaker 3: Bei Metta ist es ja grundsätzlich möglich, KI Chatbots zu erstellen, die einer bestimmten Persönlichkeit entsprechen, und die dann für andere Menschen verfügbar zu machen.
• 1:49
  Speaker 3: Von vorneherein war sogar geplant, dass Prominente selbst einen solchen Chatbot von sich zur Verfügung stellen.
• 1:56
  Speaker 3: Eine Mettersprecherin erklärte nun, man wolle künftig robustere KI-Modelle entwickeln.
• 2:02
  Speaker 3: Es sei ein Fehler bisher.
• 2:05
  Speaker 3: Bis dahin jedoch werde man auch die Leitplanken noch anpassen, sodass Kinder und Jugendliche besser geschützt werden.
• 2:12
  Speaker 3: Jugendliche sollen außerdem auch nur noch mit KI-Charakteren kommunizieren können, bei denen es um Bildung und Kreativität geht.
• 2:21
  Speaker 3: Klar ist dabei auch, dieses Thema betrifft alle KI-Dienste und nicht nur Meta.
• 2:26
  Speaker 3: Es gibt ja bereits Klagen und Untersuchungen im Gegenmeta, aber eben auch gegen Character AI oder gegen Open AI.
• 2:34
  Speaker 1: Danke schön Eva.
• 2:36
  Speaker 1: Anthropic will künftig Chat-Transkripte und Code-Sessions der Consumer-Versionen von Cloud für das Training neuer KI-Modelle verwenden.
• 2:44
  Speaker 1: Bislang zeichnete sich Anthropic dadurch aus,
• 2:47
  Speaker 2: dass es,
• 2:48
  Speaker 1: anderseits, eine Mitbewerber darauf verzichtete.
• 2:50
  Speaker 1: Nun werden die Nutzungsbedingungen für Cloud Free, Pro und Max sowie Cloud Code geändert.
• 2:57
  Speaker 1: Nutzerinnen und Nutzer können der geplanten Verwendung der Daten allerdings widersprechen.
• 3:02
  Speaker 1: Parallel zur Datennutzung für das Training verlängert Ansropik die Datenspeicherfrist von dreißig Tagen auf fünf Jahre, für Nutzende, die der Datenverwendung zustimmen.
• 3:13
  Speaker 1: Diese drastische Verlängerung begründet das Unternehmen mit den langwierigen Entwicklungszyklen von KI-Modellen.
• 3:19
  Speaker 1: Modelle, die heute veröffentlicht werden, begannen ihre Entwicklungen vor achtzehn bis vierundzwanzig Monaten.
• 3:26
  Speaker 1: Die konsistente Datenbasis über längere Zeiträume solle zu stabiler und vorhersagbareren Modellverhalten führen.
• 3:35
  Speaker 1: Ausdrücklich ausgenommen von der neuen Regelung sind kommerzielle Dienste wie Claude for Work, ClaudeGov, Claude for Education sowie die API-Nutzung über Drittanbieter.
• 3:45
  Speaker 1: Bestehende Nutzerinnen und Nutzer haben bis zum XXIII.
• 3:48
  Speaker 1: September Zeit, über ihre Präferenzen zu entscheiden.
• 3:52
  Speaker 1: Die Einstellung kann aber jederzeit in den Datenschutzoptionen geändert werden und gilt dann jeweils für neue Chats.
• 3:59
  Speaker 1: Die Änderungen spiegeln den intensiven Wettbewerb im KI-Markt wieder.
• 4:03
  Speaker 1: Daten aus realen Interaktionen liefern wertvolle Einblicke darüber, welche Antworten für Menschen am hilfreichsten und genauesten sind, erklärt Anthropic.
• 4:12
  Speaker 1: Gerade bei Programmierhilfen durch KI seien diese Rückkopplungen für die Modellverbesserung entscheidend.
• 4:20
  Speaker 1: Elon Musk's XAI will mit einem eigenen KI-Coding-Tool im hart umkämpften Markt der Programmierassistenten mitmischen.
• 4:29
  Speaker 1: Malte Kirchner von Heise Online hat sich das neue KI-Modell angeschaut.
• 4:33
  Speaker 4: Das Unternehmen hat mit Grog Code Fast One ein neues KI-Modell vorgestellt, das speziell dafür entwickelt wurde, selbstständig zu programmieren.
• 4:40
  Speaker 4: Was macht dieses Modell besonders?
• 4:42
  Speaker 4: Zunächst einmal der Preis.
• 4:43
  Speaker 4: Mit zwanzig US-Cent pro Millionen Input-Tokens ist es etwa achtzig bis fünfmal neunzig Prozent günstiger als die Konkurrenz von GitHub Co-Pilot oder OpenAI.
• 4:51
  Speaker 4: Dazu kommt eine auf dem Papier beeindruckende Geschwindigkeit, das System verarbeitet bis zu zweiundneinzig Tokens pro Sekunde und antwortet in nur siebensechzig Millisekunden.
• 5:01
  Speaker 4: Aber der entscheidende Unterschied liegt woanders.
• 5:03
  Speaker 4: Während herkömmliche Tools hauptsächlich Code Vorschläge machen, kann GROC Code Fast One eigenständig arbeiten.
• 5:10
  Speaker 4: Das nutzt Tools wie Terminal oder Datei-Editorn und löst Programmieraufgaben in eine Art Denkschleife.
• 5:15
  Speaker 4: Das nennt man Agentic Coding.
• 5:18
  Speaker 4: Interessant ist auch die Entstehungsgeschichte.
• 5:20
  Speaker 4: XCI hat das Modell bereits im August heimlich unter dem Code namens Sonic veröffentlicht, um Community Feedback zusammen.
• 5:26
  Speaker 4: Für den Staat bietet das Unternehmen das Tool vorübergehend kostenlos über verschiedene Entwicklerplattformen an, von GitHub Co-Pilot bis zu Cursor.
• 5:34
  Speaker 4: Das zeigt, wie hart der Konkurrenzkampf inzwischen ist, Microsoft Chef Satya Nadella verriet kürzlich, dass KI-Tools bereits zwanzig bis dreißig Prozent des gesamten Codes in Microsoft Produkten schreiben.
• 5:46
  Speaker 4: Mit GROCKCODE FAST ONE will XAI nun ein Stück von diesem rasant wachsenden Kuchen abhaben.
• 5:54
  Speaker 1: Der ehemalige Tesla und OpenAI-Forscher Andrew Caparty skizziert auf X eine neue Ära des KI-Training.
• 6:03
  Speaker 1: Nach dem Pre-Training mit Internet-Text und dem Fine-Tuning mit Konversationsdaten sieht er digitale Trainingsumgebungen als nächsten wichtigen Schritt, berichtet Max Schreiner von The Decoder.
• 6:18
  Speaker 0: In der Ära des Pre-Training braucht man große diverse und vor allem hochwertige Sammlungen von Internet-Dokumenten.
• 6:23
  Speaker 0: In der Ära des Superweiß-Fine-Tunings erstellten dann Auftragsarbeiter Antworten für Fragen ähnlich bei Stack Overflow oder Quora, aber eben speziell für KI-Anwendungsfälle zugeschnitten.
• 6:34
  Speaker 0: Beide Ansätze bleiben seiner Meinung nach wichtig und das sind eben die Ansätze, die Chatchivity überhaupt erst ermöglicht haben.
• 6:41
  Speaker 0: Die neue Ära des Reinforcement-Learnings, die nun Modelle wie O-I, O-III, Cloud-IV Sonnet oder eben auch Hetzgipte V-Thinking hervorgebracht haben, die brauchen nun Environments, also digitale Trainingsumgebung.
• 6:54
  Speaker 0: Anders als die vorherigen Methoden geben sie dem Sprachmodell laut Kapothei die Möglichkeit zu interagieren, die können Aktionen ausführen und Ergebnisse sehen und das ermöglichte mehr als nur statistische Expertenimitationsakte.
• 7:07
  Speaker 0: Die Umgebungen ließen sich sowohl für das Training als auch für die Evaluation von Modellen dann nutzen.
• 7:13
  Speaker 0: Die Kernherausforderung pleibe aber dieselbe wie zuvor.
• 7:15
  Speaker 0: Man braucht eine große diverse und hochwertige Sammlung von Umgebungen als Übungsaufgaben für die Sprachmodelle.
• 7:22
  Speaker 0: Kapazje erinnert das an OpenIS erstes Projekt Gym, das genauso ein Framework aufbauen wollte.
• 7:26
  Speaker 0: Damals gab es aber noch keine Sprachmodelle, weshalb die Umgebungen simple akademische Kontrollaufgaben oder Atari Spiele waren.
• 7:33
  Speaker 0: Langfristig bleibt Kapathi aber interessanterweise skeptisch gegenüber Reinforcement Learning.
• 7:39
  Speaker 0: Menschen nutzen kein Reinforcement Learning für intellektuelle Problemlösungsaufgaben, sagt er.
• 7:43
  Speaker 0: Sie verwenden andere Lernparadigmen, die deutlich leistungsfähiger und effizienter sind.
• 7:48
  Speaker 0: Diese müssten, sagt er, erst noch richtig erfunden werden und dann skaliert werden.
• 7:53
  Speaker 0: Umgebungen bleiben also zentral für diese nächste Ära.
• 7:57
  Speaker 0: Aber Reinforcement Learning, das glaubt er, wird bald ersetzt werden.
• 8:00
  Speaker 1: Danke schön, Max.
• 8:03
  Speaker 1: Die Risikokapitalgesellschaft Andresen Horowitz hat ihr fünftes Ranking der Top-Einhundert-KI-Apps veröffentlicht.
• 8:10
  Speaker 1: ChatGPT bleibt, wenig überraschend, die dominierende KI-Assistenz-App, doch die Konkurrenz holt auf.
• 8:17
  Speaker 1: Google Gemini erreicht Platz zwei, mit etwa zwölf Prozent von ChatGPT's Web-Traffic.
• 8:22
  Speaker 1: Auf Mobilgeräten ist der Abstand deutlich kleiner.
• 8:25
  Speaker 1: Hier profitiert Gemini offenbar vor allem von der nativen Integration in Android-Geräte.
• 8:30
  Speaker 1: Dort erreicht Google fast neunzig Prozent der Nutzerbasis, während ChatGPT nur aufs Sechzig Prozent kommt.
• 8:36
  Speaker 1: Google platzierte auch AI Studio, Notebook LM und Google Labs im Ranking.
• 8:41
  Speaker 1: Der Ex-Assistent Grock wuchs in weniger als einem Jahr auf über zwanzig Millionen monatlich aktive Nutzerinnen und Nutzer und erreicht damit Platz vier im Web-Ranking.
• 8:51
  Speaker 1: Der Bot profitiert von der starken Bewerbung über Elon Musk's Ex-Plattform.
• 8:56
  Speaker 1: MetaAI wächst dagegen nur langsam.
• 8:58
  Speaker 1: Der Assistent rangiert auf Platz forty-sech im Web und verpasste die mobile Schwelle ganz.
• 9:04
  Speaker 1: Perplexity und Claude wachsen kontinuierlich, bleiben aber hinter Platz fünfzig.
• 9:10
  Speaker 1: Aus China kommen drei starke Konkurrenten.
• 9:12
  Speaker 1: Quark von Alibaba, Dubau von Bitans und Kimi von Moonshot AI sind in den Top-Zwanzig zu finden.
• 9:19
  Speaker 1: Diese Apps generieren allerdings über seventy-fünfundsiebzig Prozent ihres Traffics aus China.
• 9:24
  Speaker 1: Die Psych fiel nach dem anfänglichen Hype um über vierzig Prozent im Webtraffic ab.
• 9:30
  Speaker 1: Am zweiundzwanzigsten Oktober findet eine ganz besondere akademische Konferenz statt, die bislang ihresgleichen sucht.
• 9:38
  Speaker 1: Agents for Science soll alle Bereiche der Wissenschaft von der Physik bis zur Medizin umfassen.
• 9:43
  Speaker 1: Was daran das Besondere ist, erklärt Jennifer Lepise von der Technology Review.
• 9:48
  Speaker 1: Jenny, wer steckt denn hinter der Idee?
• 9:50
  Speaker 2: Ausgedacht hat sich das, der Stanford-Informatiker James Su Er untersucht, wie Menschen und KI am besten kooperieren können.
• 9:58
  Speaker 2: Im vergangenen Monat hatte Sue ein Artikel im Fachmagazin Nature veröffentlicht.
• 10:03
  Speaker 2: Dort hat er geschildert, wie seine eigene Gruppe von autonomen KI-Agenten ein Mittel gegen das Coronavirus gefunden hatten.
• 10:11
  Speaker 2: Dafür hatte er in einem virtuellen Labor fünf KI-Wissenschaftler trainiert, darunter ein Immunologe und ein Bioinformatiker.
• 10:20
  Speaker 2: Sie alle hatten jeweils unterschiedliche Aufgaben und Ziele.
• 10:24
  Speaker 2: Und so berichtet die Agenten hätten dann beschlossen, Anticovid-Nano-Körper zu untersuchen, das ist eine Art Verwandte von Antikörpern, die viel kleiner und in der Natur weniger verbreitet sind.
• 10:36
  Speaker 2: Als zu, sein Artikel bei Nature dann einreichte, stellte er allerdings fest, dass er die Rolle der KI in seiner Forschung dabei nicht angemessen würdigen konnte und das fand er unbefriedigend.
• 10:49
  Speaker 2: Die meisten Konferenzen und Fachzeitschriften erlauben es nämlich nicht, KI als Mitautor in Studien anzugeben und viele verbieten auch Forschern ausdrücklich KI zum Verfassen von Papers und Rezensionen zu verwenden.
• 11:04
  Speaker 2: Das möchte Sue mit der Agents for Science Konferenz nun ändern.
• 11:08
  Speaker 1: Und wie soll die Konferenz im Detail ablaufen?
• 11:11
  Speaker 2: Sue hat es sich so überlegt, dass der Hauptautor aller eingereichten Beiträge eine KI sein muss und nicht darf.
• 11:18
  Speaker 2: Andere KI-Agenten versuchen dann, die Arbeit zu bewerten, sprich ihren wissenschaftlichen Wert zu bestimmen.
• 11:26
  Speaker 2: Menschen sind aber auch noch Teil der Konferenz.
• 11:28
  Speaker 2: Ein Team aus menschlichen Experten, darunter ein Nobelpreisträger für Wirtschaftswissenschaften, wird die besten Beiträge dann begutachten.
• 11:38
  Speaker 2: Aktuell läuft der Call for Paper.
• 11:39
  Speaker 2: Dabei kann jeder menschliche Forscher oder jede menschliche Forscherin maximal drei Paper einreichen.
• 11:46
  Speaker 2: Über weitere Details können sich Interessierte auf der Website schlau machen.
• 11:50
  Speaker 1: Ich kann mir vorstellen, dass nicht alle Wissenschaftlerinnen und Forscher begeistert von der Konferenz sind.
• 11:55
  Speaker 2: Es gibt durchaus Kritik aus der Forschungskommunität, besonders die Fähigkeit der KI, wissenschaftliche Arbeiten zu begutachten, zweifelt unter anderem Lisa Messery an.
• 12:07
  Speaker 2: Sie ist Wissenschaftsantropologin an der Yale University und fragt sich, wie es denn zu Erkenntnisfortschritten kommen kann und was passieren würde, wenn ein solcher Fortschritt dann auf dem Schreibtisch des Gutachters landet.
• 12:21
  Speaker 2: Sie steht der geplanten KI-Konferenz und wie solche Agenten neue Ergebnisse liefern können, daher recht skeptisch gegenüber.
• 12:30
  Speaker 2: Ob Agents for Science also erhellende Daten bringen kann, das wird sich dann im Oktober zeigen.
• 12:36
  Speaker 1: Danke Jenny.
• 12:38
  Speaker 1: Anwendungen künstlicher Intelligenz und innovative Haushaltsroboter sollen künftig in einem smarten Zuhause eine tragende Rolle spielen.
• 12:47
  Speaker 1: Auf diese beiden Trendthemen setzen zumindest viele Aussteller der Tech-Messe IFA, die am Freitag in Berlin beginnt.
• 12:53
  Speaker 1: Zu den IFA-Innovationen, die auf der Messe begutachtet werden können, gehören unter anderem moderne Backöfen, die mit KI-Unterstützung die vorhandenen Zutaten erkennen, das passende Programm auswählen und dabei präzise die Garzeit kalkulieren – ohne Türöffnen oder Stäbchentest.
• 13:09
  Speaker 1: Im Smart Home erkennen Putzroboter dank einer Kamera mit KI-Analyse, dass ein Schnürsenkel auf dem Wohnzimmerteppich nicht eingesaugt werden sollte.
• 13:17
  Speaker 1: IFA-Geschäftsführer Leif Lindner erklärt, die Abkürzung IFA stehen nicht mehr für internationale Funkausstellung, sondern für Innovation for All.
• 13:27
  Speaker 1: KI sei in diesem Jahr das unsichtbare Betriebssystem der IFA.
• 13:31
  Speaker 1: Sie verändere die Art, wie wir denken, wie wir arbeiten, wie wir miteinander kommunizieren.
• 13:36
  Speaker 1: Und auf der IFA wird KI mehr oder weniger überall erlebbar sein, betont Lindner.
• 13:42
  Speaker 1: Alle gängigen Browseranbieter stellen KI-Agenten zur Verfügung.
• 13:46
  Speaker 1: Manche KI-Unternehmen entwickeln Browser, die auf den KI-Agenten basieren.
• 13:50
  Speaker 1: Nur wie wall die nicht.
• 13:52
  Speaker 1: Das norwegische Unternehmen, das den gleichnamigen Browser anbietet, stellt sich gegen diesen Trend.
• 13:58
  Speaker 1: Wir wollen nicht, dass du zu einem passiven Zuschauer reduziert wirst, heißt es in einem verschickten Statement von CEO John von Tejna.
• 14:05
  Speaker 1: Darin erklärt er, dass Browsen den Menschen helfen, solle etwas zu entdecken, Ideen auszutüfteln und eigene Entscheidungen zu treffen.
• 14:13
  Speaker 1: Sobald jedoch KI-Assistenten zwischen Nutzerin und Web sitzen, entscheiden die Anbieter, in der Regel Big Tech, was man sieht und was nicht.
• 14:22
  Speaker 1: Vivaldi meint, KI im Browser sei ein Hype.
• 14:25
  Speaker 1: Man entscheidet sich für Menschen statt für Hype.
• 14:28
  Speaker 1: Das Internet werde deutlich weniger spannend, wenn es keine Entdeckungen mehr gibt.
• 14:33
  Speaker 1: Und Vivaldi betont immer wieder, man kämpfe für ein besseres Web.
• 14:39
  Speaker 1: Das war das KI-Update von Heise Online vom ersten September, Eine neue Folge gibt es Montags, Mittwochs und Freitags ab fünfzehn Uhr.