Latest / KI-Update – ein heise-Podcast / KI-Update kompakt: OpenAI-Framework, Audio Intelligence, KI-Training, GPT-6 Astra

Transcript

KI-Update kompakt: OpenAI-Framework, Audio Intelligence, KI-Training, GPT-6 Astra · KI-Update – ein heise-Podcast

• 0:02
  Speaker 0: Das KI Update, ein heise Podcast mit redaktioneller Unterstützung von The Decoder.
• 0:14
  Speaker 0: Ich bin Isabel Grünewald und die sind heute unter anderem unsere Themen.
• 0:17
  Speaker 0: OpenAI führt Framework zur Meldung von KI-Sicherheitsvorfällen ein!
• 0:23
  Speaker 0: Ist Apples Audio Intelligence schon die Dystopie?
• 0:27
  Speaker 0: KI-Führungskräfte übten internen Kritik am KI Training UND GPT-VI.
• 0:33
  Speaker 0: Astra meistert Videospiele Aber scheitert an einer Kartoffel.
• 0:38
  Speaker 0: OpenAI will dem Fehlverhalten seiner eigenen KI-Modelle systematischer auf den Grund gehen.
• 0:44
  Speaker 0: Hierzu wurde jetzt ein neues Framework vorgestellt, das solche Fälle systematisch verfolgen untersuchen und offenlegen soll.
• 0:51
  Speaker 0: Malte Kirchner von Heise Online hat es sich angeschaut.
• 0:55
  Speaker 3: Die Berichte, dass sich KI falsch sogar Schadhaft verhält, mehrten sich in den letzten Wochen.
• 1:01
  Speaker 3: So wirklich systematisch erfasst wurde das bislang aber offenbar nicht.
• 1:04
  Speaker 3: OpenAI hat jetzt ein neues Framework vorgestellt, mit dem Fehlverhalten der eigenen KI-Modelle verfolgt, untersucht und veröffentlicht werden soll.
• 1:12
  Speaker 3: Bisher hatte das Unternehmen solche Sicherheitsvorfälle nach eigener Aussage nur von Fall zu fall bekannt gegeben – das soll sich jetzt ändern!
• 1:19
  Speaker 3: Was heißt das konkret?
• 1:20
  Speaker 3: Zusammen mit dem Framework hat OpenAI sechs neue Beispiele für ziemlich beunruhigendes Verhalten von KI-Modellen veröffentlicht.
• 1:27
  Speaker 3: In einem Fall etwa, versuchte einen noch unveröffentlichen Forschungsmodell seine eigenen Beschränkungen auszuhebeln und zwar indem es Jbreak ähnliche Anweisungen einfach in Zusammenfassungen versteckte.
• 1:38
  Speaker 3: Solche Texte hätten später als Kontext für andere Aufgaben genutzt werden können – mit potenziell schädlichen Folgen!
• 1:43
  Speaker 3: Insgesamt fand man sieben zwanzig solcher manipulierten Zusammenfassung.
• 1:47
  Speaker 3: Damit nicht genug, ins Danzen des Modells GPT-Fünf Punkt Sechs Soul fügt in eigenständig Anweisungen hinzu um eigene Fehler zu vertuschen und fehlende Daten einfach zu erfinden.
• 1:57
  Speaker 3: Ein anderes Modell suchte sich unerlaubt offengelegte API Schlüssel zusammen und er fand als der eigentliche Datenabrophilschlug kurzerhand die Ergebnisse.
• 2:06
  Speaker 3: Und es kommt noch kurioser – manche Modelle nutzten ein internes Software Repository zweckenfremdet als eine Art schwarzes Brett, um sich über verschiedene Trainingsbeispiele hinweg miteinander abzustimmen!
• 2:16
  Speaker 3: andere KI-Agenten tauschen Dateien über öffentliche File-Hoster aus, obwohl sie eigentlich nur mit lokalen Dateien arbeiten sollten.
• 2:23
  Speaker 3: OpenAI betont in seinem Blogpost dass die Branche nicht einfach mit voller Geschwindigkeit weiter an immer größeren Modellen arbeiten könne.
• 2:30
  Speaker 3: Das neue Framework soll Beweise sichern, die auch außenstehende Fachleute überprüfen können und im besten Fall auch anderen KI Unternehmen helfen.
• 2:37
  Speaker 3: Open AI hofft damit den Anstoß für einen branchenweiten Standard zu geben.
• 2:42
  Speaker 3: Gemeldet werden sollen künftig unerlaubte Handlungen ohne Genehmigung, Absprachen zwischen verschiedenen Modellinstanzen und Versuche die eigene Überwachung zu umgehen.
• 2:51
  Speaker 3: Auch gescheiterte Sicherheitsmaßnahmen und Verhalten das bisherige Annahmen in Frage stellt landen im System.
• 2:57
  Speaker 3: Jeder Mitarbeiter bei OpenAI kann einen Verdachtsfall melden und es gibt drei Eskalationsstufen von der kleineren Prüfung bis zur Veröffentlichungsreife.
• 3:05
  Speaker 3: Interessant ist dabei auch der politische Kontext.
• 3:07
  Speaker 3: Google, Anthropik und Elon Musk unterstützen Forderungen das Tempo der KI-Entwicklung zu drosseln – US-Präsident Donald Trump lädt das ab mit Verweis auf den Wettbewerbsdruck durch China!
• 3:18
  Speaker 3: Und ein leitender Sicherheitsforscher bei Anthropic hat kürzlich sogar geschätzt die Wahrscheinlichkeit dass KI-Modelle die Menschheit innerhalb der nächsten zehn Jahre auslöschen könnten Liege bei über zehn Prozent.
• 3:29
  Speaker 3: Man darf gespannt sein ob solche Frameworks reichen um das Vertrauen zu stärken oder ob der Ruf nach mehr Tempo am Ende doch lauter bleibt.
• 3:37
  Speaker 0: Danke schön, Malte!
• 3:39
  Speaker 0: Deutschland und Kanada fördern die gemeinnützige KI-Sicherheitsorganisation Law Zero mit einem Millionenbetrag.
• 3:48
  Speaker 0: Die Organisation wurde vom KI-Pionier Joshua Benjuk gegründet und will KI- Systeme entwickeln bei den Sicherheit von Grund auf in der Architektur verankert ist.
• 3:59
  Speaker 0: Im Zentrum steht der Forschungsansatz einer Scientist AI.
• 4:03
  Speaker 0: Diese KI soll die Welt neutral modellieren und Hypothesen bewerten, ohne eigene Ziele zu verfolgen.
• 4:11
  Speaker 0: Ihre Entscheidungen sollen transparent und nachvollziehbar sein.
• 4:14
  Speaker 0: Zunächst soll die Scientist AI dabei helfen, andere KI-Systeme zu überwachen und als zusätzliche Sicherheitsebene für sehr leistungsfähige Modelle dienen.
• 4:25
  Speaker 0: Die Förderung unterstützt den Aufbau von Forschungskapazitäten in Kanada – und am neuen Standort in Berlin!
• 4:32
  Speaker 0: Auch das Bundesministerium für Digitales und Staatsmodernisierung hat ein neues Förderprogramm gestartet, um Forschung in marktfähige Produkte zu überführen.
• 4:42
  Speaker 0: Ziel ist es die digitale Souveränität Deutschlands zu stärken und Abhängigkeiten von außereuropäischen Anbietern zu verringern.
• 4:50
  Speaker 0: Der erste Förderaufruf konzentriert sich gezielt auf Schlüsseltechnologien – wobei KI einen Schwerpunkt darstellt!
• 4:58
  Speaker 0: Gefördert werden Projekte von kleinen und mittleren Unternehmen sowie von Start-ups, die KI Anwendungen entwickeln.
• 5:05
  Speaker 0: Das Programm legt Wert darauf, dass KI Lösungen gefördert werden, die konkrete Probleme aus Wirtschaft oder Gesellschaft adressieren und dann ein tragfähiges Geschäftsmodell vorweisen.
• 5:17
  Speaker 0: Ein Gerät – das Millionen Menschen am Handgelenk tragen hört mit und erkennt was wir sagen!
• 5:23
  Speaker 0: So in etwa soll Audio Intelligence für Apple Watch funktionieren.
• 5:28
  Speaker 0: Nicht nur wenn Schwan von der Merkenei fragt sich seit der Vorstellung der neuen Funktionen, was sich Apple dabei eigentlich gedacht
• 5:34
  Speaker 4: hat.
• 5:34
  Speaker 4: Apple bringt mehrere Funktion auf zwei neue Apple Watch-Modelle die unter Datenschutzexperten fast schon für Entrüstung gesorgt haben.
• 5:44
  Speaker 4: Es handelt sich dabei um das Live-Rewind-Feature, das ständig mitzeichnet was Personen gesagt haben.
• 5:50
  Speaker 4: Um dann die letzten fünfzehn Sekunden auf dem Display als Transcript anzuzeigen sowie die Funktion Series Recap, die im Tagesablaufgespräche transkribiert und später dann Zusammenfassungen produziert.
• 6:03
  Speaker 4: Es handelt sich zwar um Opt-Infunktionen, dennoch wirken sie für den privatsphären bedachten Konzern Apple ungewöhnlich.
• 6:11
  Speaker 4: Live-Revind wird unter anderem für Menschen empfohlen die nicht nachfragen möchten was andere Personen gerade gesagt haben.
• 6:18
  Speaker 4: Die Funktion soll keine Audioaufnahmen generieren und wirft den Mikrofoninput nach fünfzehn Sekunden weg.
• 6:25
  Speaker 4: Siri Recap kann auf Wunsch auch den ganzen Tag aktiv bleiben und erkennt automatische Konversationen.
• 6:32
  Speaker 4: Das können Business-Meetings genauso sein wie Gespräche mit Freunden.
• 6:37
  Speaker 4: Siri Recap hat dabei keine Sprechererkennung eingebaut, zur Zusammenfassung nutzt Apple seine private Cloud.
• 6:45
  Speaker 4: Sowohl bei Live Revined als auch Siri ReCap betont der Konzern, dass er selbst keine Daten vorliegen hat – alles verschlüsselt sei!
• 6:53
  Speaker 4: Beide Funktionen laufen nur mit der neuen Watch Series XII und der Ultra IV, die in den kommenden Tagen erscheinen.
• 7:01
  Speaker 4: Allerdings hatte Apple kürzlich einen Datenschutzrückzieher gemacht – der Konzern fragt Nutzer nun, ob er deren KI-Nutzungsvorgänge künftig für Trainingszwecke nutzen kann!
• 7:12
  Speaker 4: Auch das führte zu viel Kritik, weil es auch die genannten Funktionen unsicher machen könnte.
• 7:17
  Speaker 4: Apple will Trainingsdaten zwar nicht mit Nutzerinfos verknüpfen – doch so sind sie extrem sensibel!
• 7:37
  Speaker 0: Doch wenn ein KI-Modell entscheiden soll, an wen das Organ eines Spenders oder einer Spenderin gehen soll, wird es dem moralischen Dilemma nicht gerecht.
• 7:46
  Speaker 0: Das hat den Forschungsteam der Pennsylvania State University herausgefunden.
• 7:51
  Speaker 0: Während Menschen verschiedene Attribute der Patientinnen und Patienten miteinander abwägen, fixieren sich KI- Modelle auf einen einzelnen Faktor – ihr Urteil hätten sie dann ohne Ausdruck von Unsicherheit gefällt, während Menschen anerkennen würden, dass keine richtige Entscheidung geben könnte.
• 8:09
  Speaker 0: Für das Forschungsteam ist die Frage, ob eine KI moralische Entscheidungen treffen kann mehr als philosophische Grübelei?
• 8:16
  Speaker 0: Wenn KI an Entscheidungen beteiligt wird, die darüber bestimmen wer lebt und wer stirbt sei es keine Option deren Rolle falsch zu gestalten!
• 8:25
  Speaker 0: Die Forschen implädieren daher für ein gezieltes Feintuning an den KI-Systemen für solche Einsatzzwecke.
• 8:32
  Speaker 0: Die New York Times hat gegen OpenAI und Microsoft wegen unerlaubter Verwendung von Texten fürs KI-Training geklagt.
• 8:40
  Speaker 0: Intern gibt es bei diesen Unternehmen wohl schon lange viel Zustimmung für die Vorwürfe der Zeitung.
• 8:47
  Speaker 0: Martin Holland aus dem Heise Online Newsroom fasst die neusten Entwicklungen zusammen.
• 8:52
  Speaker 2: Das Training von KI Modellen mit urheberrechtsgeschützten Texten, für den der Verwendungen keine Erlaubnis eingeholt wurde wird auch bei KI Unternehmen selbst durchaus kritisch gesehen.
• 9:03
  Speaker 2: und das ist noch eine harmlose Umschreibung wie jetzt aus Dokumenten hervorgeht, die das Anwaltsteam der New York Times ans Licht der Öffentlichkeit gebracht hat.
• 9:13
  Speaker 2: Die Zeitung hatte, ob in der EYE und Microsoft genau wegen dieser Praxis schon vor fast zwei Jahren verklagt.
• 9:17
  Speaker 2: Er hat jetzt Zugriff auf Dokumente bekommen, wo es unter anderem heißt bei Microsoft.
• 9:22
  Speaker 2: Das ist hier um den größten Diebstahl von Arbeitskraft in der Geschichte der Menschheit geht und ein erstaunlichen Diebstall von beispiellosem Umfang.
• 9:30
  Speaker 2: Und das hat nicht irgendjemand ganz weit unten bei Microsoft geschrieben, sondern der Leiter des Bereichs für angewandte Wissenschaft hat das.
• 9:38
  Speaker 2: eingestanden.
• 9:39
  Speaker 2: Bei OpenAI hat der Chef von ChatchiPT im Sommer, dass diese Praxis und auch das KI-Modell insgesamt eine existenzielle Bedrohung für die Presse darstellt und gleichzeitig auch anerkannt, damit man sich selbst quasi die Grundlage entziehen dürfte.
• 10:01
  Speaker 2: weil Also die KI-Modelle brauchen ja diese Texte zum Training und wenn man der Presse, der New Times oder anderen die Geschäftsgrundlage entzieht dann hat man selbst auch keine Möglichkeit mehr da die KI Modelle mit Menschen gemachten Text zu trainieren.
• 10:16
  Speaker 2: Das sind Einige dieser Zitate.
• 10:19
  Speaker 2: wird auch anerkannt, dass die KI-Pressetexte ersetzt.
• 10:23
  Speaker 2: Also was man ja teilweise dann öffentlich zurückgewiesen hat.
• 10:27
  Speaker 2: also natürlich Leute, die eine Antwort von einem Chatbot bekommen brauchen in vielen Fällen nicht mehr auf eine Nachricht zu klicken und die Zahlen gibt es eben auch bei Microsoft wo man sieht das da die Klicks um achtzig Prozent zurückgehen darin in diesen Dokumenten zitiert.
• 10:47
  Speaker 2: und gleichzeitig wird das Argument, dass öffentlich vorgebracht wird von den KI-Unternehmen.
• 10:52
  Speaker 2: Nämlich, dass man das sogenannte Fair Use Prinzip damit, sodass da Anwendung findet, also dass man einfach verwenden darf weil es eine faire Nutzung ist.
• 11:01
  Speaker 2: Dass man das intern bei diesem Unternehmen eben auch nicht glaubt.
• 11:04
  Speaker 2: Also da heißt es auch wieder von Brent Hecht, dass dieses Argument würde sich durchsetzen vor Gericht dem Begriff vollkommen lächerlich machen würde, also dass das natürlich gar nicht so ist.
• 11:16
  Speaker 2: Das kommt jetzt alles in diesen Dokumenten raus und gleichzeitig wird anerkannt, dass man mit diesem KI-Training einen Teufelskreis in Gang gesetzt hat der schließlich auch den KI Modellen selbst schaden würde weil die halt schlechter werden wenn sie dann irgendwann keine Grundlagen fürs Training mehr haben.
• 11:34
  Speaker 2: Der OpenAI-Mitgründer Greg Brockmann wird auch zitiert da drin und zwar gibt es ein Beispiel, dass seine Angestellte zum Gekommen sind gesagt haben.
• 11:44
  Speaker 2: Sie haben einen Weg gefunden wie sie die Paywall der Worktimes für die Texte umgehen können und die Texten dann halt massenhaft abgreifen können, um die der KI zu füttern.
• 11:53
  Speaker 2: Und dann hat er nur gesagt, ah nice oh net!
• 11:56
  Speaker 2: Und an anderer Stelle hat er dann geschrieben, dass er zutiefst motiviert sei von den Unmengen.
• 12:01
  Speaker 2: Den Gesillions an Dollar die GPD immer einbringen würde.
• 12:06
  Speaker 2: Wie jetzt das Gericht damit umgeht?
• 12:09
  Speaker 2: Das muss ich noch zeigen.
• 12:10
  Speaker 2: Das ist alles im Fluss.
• 12:12
  Speaker 2: Das dauert alles noch ob.
• 12:14
  Speaker 2: der Herr Microsoft selbst haben sich zu diesen Veröffentlichungen auch nicht geäußer aber da wird es schon dann noch eine Antwort geben.
• 12:21
  Speaker 0: Dankeschön Martin.
• 12:23
  Speaker 0: Das französische KI-Unternehmen Mistral und Mozilla haben eine Partnerschaft bekannt gegeben.
• 12:29
  Speaker 0: Mistral's KI-Modell Small Four wird die Technologie hinter dem neuen Smart Window im Browser Firefox liefern.
• 12:37
  Speaker 0: Diese KI gestützte Browserfunktion soll nutzenden proaktiv assistieren, indem sie Suchanfragen beantwortet und Informationen aus geöffneten Tabs zusammenfasst.
• 12:47
  Speaker 0: Ein zentraler Aspekt der Kooperation zwischen beiden Unternehmen ist der Datenschutz.
• 12:53
  Speaker 0: Mistral hat sich zu einer Zero-Data Retention Politik verpflichtet, bei der keine Nutzerdaten dauerhaft gespeichert werden.
• 13:02
  Speaker 0: Zunächst steht die Integration Nutzerin und Nutzern in den USA, Kanada und Frankreich zur Verfügung – Großbritannien und Deutschland sollen aber im Laufe des Jahres folgen!
• 13:12
  Speaker 0: Nachbarschaften tauschen sich oft in WhatsApp oder Facebook Gruppen aus.
• 13:17
  Speaker 0: Jetzt führt Amazons Smart Home Marke Ring eine eigene Nachbarschafts-App in Großbritannien ein und setzt dabei auf KI Funktionen.
• 13:26
  Speaker 0: Wer sich dafür anmeldet, kann einen Radius zwischen Nullkommar eins und fünf Meilen um den eigenen Wohnort festlegen, um dem Nachbarschafsforum beizutreten.
• 13:35
  Speaker 0: Beiträge in den Foren werden von KI Modellen auf die Einhaltung von Regeln überprüft – bei potentiellen Verstößen schalten sich menschliche Moderatoren ein, um die Inhalte zu prüfen!
• 13:45
  Speaker 0: Eine weitere KI-gestützte Funktion dient der Suche nach entlaufenden Haustieren.
• 13:51
  Speaker 0: Dabei erkennen die Türkameras von Ring automatisch, wenn zum Beispiel ein als vermisst gemeldeter Hund im Sichtfeld erscheint – die KI benachrichtigt dann die Besitzer privat!
• 14:02
  Speaker 0: Im Gegensatz zu den USA können diese Aufnahmen von den Türkamera allerdings noch nicht mit Ermittlungsbehörden geteilt
• 14:09
  Speaker 5: werden.
• 14:10
  Speaker 0: Google öffnet sein Smart Home für KI-Agenten.
• 14:14
  Speaker 0: Gesteuert wird alles über das Home-MCP.
• 14:17
  Speaker 0: Dahinter steckt ein Server für das von Anthropic entwickelte Model Context Protocol, das ist ein offener Standard der KI Anwendungen mit externen Datenquellen und Werkzeugen verbindet.
• 14:28
  Speaker 0: Daniel Herwig von Heise Online weiß was Google Home jetzt künftig kann.
• 14:32
  Speaker 5: Also Google Home können künftig dann mit KI-Agenten wie Cloud oder OpenClaw interagieren um Geräte zu steuern und Aufzeichnungen auszuwerten.
• 14:42
  Speaker 5: zum Beispiel also es funktioniert Mit Nest-Türklingen, mit Thermostaten und Glühbirnvoraussetzungen.
• 14:49
  Speaker 5: ist das diese Geräte in Metta unterstützen.
• 14:52
  Speaker 5: Und die Agenten können dann zum Beispiel Fragen zur Aktivität im Haushalt beantworten also zum Beispiel zusammenfassen was die Kinder nach der Schule gemacht haben und die passenden Clips raussuchen von der Sicherheitskamera oder man kann fragen wie lange die Lichter an waren.
• 15:10
  Speaker 5: Es gibt aber auch ein paar Schutzmechanismen.
• 15:13
  Speaker 5: Zum Beispiel kann man mit den Agenten keine Türen öffnen und Google warnt auch ganz explizit, dass damit Sachen schief laufen können.
• 15:21
  Speaker 5: also die Rede ist von unerwarteten oder sogar unerwünschten Verhalten.
• 15:27
  Speaker 5: Also die Nutzung ist mehr oder weniger auf eigene Gefahr.
• 15:30
  Speaker 5: Aktuell geht das sowieso nur in den USA Und für Nutzer mit einem Google Home Abo.
• 15:35
  Speaker 0: Vielen Dank Daniel.
• 15:37
  Speaker 0: Wer in einer Familie, wann wo was zu tun hat kann kompliziert werden.
• 15:42
  Speaker 0: Google entwickelt daher einen experimentellen KI-Agenten CC zu einem digitalen Assistent für Familien und Wohngemeinschaften weiter.
• 15:52
  Speaker 0: Der Agent soll den Alltag organisieren, indem er mit Daten wie E-Mails Fotos und Kalendereinträgen versorgt wird.
• 15:58
  Speaker 0: Auf dieser Grundlage erstellt CC automatisch Tagespläne für jedes Familien- oder Gruppenmitglied, verweitet Aufgaben, füllt Formulare aus und generiert Einkaufslisten oder Speiseplänen.
• 16:10
  Speaker 0: Der Agent erhält ein eigenes Corekonto – und lernt dann kontinuierlich dazu, indem er alle bereitgestellten Informationen dauerhaft speichert und analysiert.
• 16:20
  Speaker 0: Er soll dabei zwischen Familienweiten und individuellen Informationen unterscheiden können!
• 16:26
  Speaker 0: Frei verfügbar ist dieses Experiment CC nicht.
• 16:30
  Speaker 0: US-User können sich aber auf eine Warteliste für CC eintragen lassen.
• 16:35
  Speaker 0: GBT Astra spielt Videospiele durch, an denen alle Vorgängermodelle gescheitert sind.
• 16:42
  Speaker 0: Es schafft das indem es aus jeder Erfahrung eine feste Regel ableitet.
• 16:46
  Speaker 0: Genau diese Eigenschaft führt auch dazu dass Asta zum Beispiel in Minecraft nach einem Missgeschick stundenlang nur noch Kartoffeln anbaute.
• 16:55
  Speaker 0: Was dahinter steckt, erklärt Max Schreiner von The Decoder.
• 17:16
  Speaker 1: Auch in anderen Spielen zeigt sich Astra vorne das Aufbauspielfaktor-Hero zum Beispiel, dass gilt als besonders anspruchsvoll weil Spieler komplexe Produktionsketten planen und automatisieren müssen.
• 17:26
  Speaker 1: Und der Start einer Rakete markiert hier einen zentralen Meilenstein.
• 17:29
  Speaker 1: Astra produzierte nach zwei Stunden erste Ergebnisse die auf dem Weg zur Rakete wichtig sind und schaffte den Start der Rakete nach etwa zehn Stunden.
• 17:38
  Speaker 1: Vorgängermodelle scheiterten dagegen schon an der Stromversorgung.
• 17:42
  Speaker 1: Dazu kommen jetzt abgeschlossene Durchläufe von Fallout zwei nach zwanzig Stunden und zuletzt auch von Fallout drei nach neunundfünfzig Stunden sowie eine überlebende Kolonie im Spiel Rimworld.
• 17:54
  Speaker 1: Diesen Sprung, den zeigte ein Benchmark bereits früh an nämlich ARK HGI III.
• 18:00
  Speaker 1: Dieser Test setzt Modelle in unbekannte abstrakte Spielumgebungen oder dort müssen sie dann durch eigene Aktion herausfinden welche Regeln eigentlich gelten.
• 18:07
  Speaker 1: Astra erreichte hier den Benchmark, also der Vorgänger kam gerade mal auf sieben bis acht Prozent.
• 18:17
  Speaker 1: ArcPrize die Organisation hinter dem Bench Mark sprach dann eben auch von einem sprunghaften Fortschritt.
• 18:23
  Speaker 1: Wie Astra das schafft, das beschreibt ArcPrize so.
• 18:26
  Speaker 1: Das System übersetzt unbekannte Spielmechanik in kurze symbolische Beschreibung.
• 18:30
  Speaker 1: Es hält Objekte, Koordinaten und geplante Aktionen einer selbst entwickelten Kurzschrift fest Und aus Beobachtungen werden dann eben regeln und aus diesen Regeln entwickelt das System dann Pläne.
• 18:41
  Speaker 1: Deutlich wird dieses Prinzip in den Spielen immer dann, wenn das Modell in schwierigen Spielabschnitten hängen bleibt.
• 18:47
  Speaker 1: Wenn eine Eingabe wirkungslos blieb, wiederholte Astra sie nicht einfach.
• 18:50
  Speaker 1: stattdessen, suchte es die Ursache, hielt das Ergebnis fest und machte neue Pläne.
• 18:55
  Speaker 1: So schloss es etwa auf ein Hindernis in der Schusslinie – in Fallout III und rückte dann immer näher an den Gegner heran.
• 19:01
  Speaker 1: Dieses Vorgehen bremst in dem Durchlauf zwar deutlich da das Model mehrere Überprüfungen durchführte ….
• 19:07
  Speaker 1: Es brachte ihn aber eben nicht zum Stillstand!
• 19:10
  Speaker 1: In Minecraft kippte dieses Muster, jedoch Astra hatte dort nach weit über einhundert Stunden schon fast die Zutaten für den Endkampf des Spiels beisammen.
• 19:18
  Speaker 1: Dann zerstörte die Explosion eines Creepers seine Truhe und den gesamten Vorrat der notwendig war um zu diesem Endkämpf gelangen.
• 19:25
  Speaker 1: Astra notierte sich daraufhin die Regel wichtige Gegenstände nie wieder in eine unbewachte Truhe zu lagern.
• 19:31
  Speaker 1: In den Notizen der folgenden Stunden misstraute Astra dann jedem hohen grünen Objekt.
• 19:36
  Speaker 1: So sehen die Creeper aus und hielt etwa fest, dass ein Zuckerrohr eben kein explosiver Gegner sei.
• 19:42
  Speaker 1: Sicher war für das System dann scheinbar nur noch der Kartoffelacker – dort baute es mehrere Stunden lang fast nur noch Kartoffeln an und verlor sein eigentliches Ziel aus den Augen.
• 19:51
  Speaker 1: Nach hundred forty-inen Stunden brach der Betreiber den Versuch dann ab!
• 19:55
  Speaker 1: In festen Testumgebungen wie ARC HCI-III hilft die Neigung, aus wenigen Versuchen die Spielregeln zu erschließen.
• 20:02
  Speaker 1: Auch in vielen anderen Spielen hat das Modell so gewonnen – in einer offenen Welt für Minecraft wo es viele Zufallzeignisse geben kann, kann das aber scheinbar auch dazu führen dass das Model überkorrigiert.
• 20:13
  Speaker 1: Der Fortschritt gegenüber Eltermodellen bleibt dennoch groß und es zeigt, dass ARK HGI III wie auch schon ARK hgi I damals bei den Reasoning-Modellen eine Art Kanarienvogel in der KI Kohlemine ist.
• 20:27
  Speaker 1: Denn als der Benchmark gefallen ist haben wir tatsächlich neue Fähigkeiten gesehen.
• 20:32
  Speaker 0: Vielen Dank Max!
• 20:34
  Speaker 0: Früher googlten Menschen beifragen – heute nutzen sie Tools wie Chat-TPT.
• 20:39
  Speaker 0: Das Problem dabei ist, dass Chatbots nicht über echtes Wissen verfügen – sondern nur das wahrscheinlichste nächste Wortvoraussagen.
• 20:46
  Speaker 0: Dabei kommt es immer wieder dazu, daß ChatGPT, Claude und Gemini Antworten überzeugt präsentieren, obwohl sie falsch sind!
• 20:54
  Speaker 0: Forscher von Google DeepMind haben nun untersucht, ob und wie KI-Modelle ihre eigene Unsicherheit bewerten?
• 21:01
  Speaker 0: Die Studie zeigt, dass die Modeller ein sogenanntes internes Konfidenzniveau nutzen um zu entscheiden, ob Sie eine Frage beantworten.
• 21:08
  Speaker 0: Bei geringer Sicherheit enthalten sie sich eher eine Antwort.
• 21:13
  Speaker 0: Durch gezielte Eingriffe in die neuronalen Netze konnten die Forschen dieses Verhalten allerdings steuern.
• 21:19
  Speaker 0: Eine künstlich erhöhte oder gesenkete Zuversicht führte zu entsprechend weniger- oder mehr Antwortverweigerung.
• 21:26
  Speaker 0: Diese steuerbare Selbsteinschätzung ist besonders für autonome KI-Agenten wichtig, betonen die Forscherinnen.
• 21:32
  Speaker 0: Sie müssen nämlich ihre eigenen Grenzen erkennen können, um zuverlässig zu agieren und die Verbreitung von Falschinformationen zu reduzieren!
• 21:42
  Speaker 0: Das war das KI Update von Heise Online vom achtzehnten September.
• 21:45
  Speaker 0: zwei tausend sechsundzwanzig.
• 21:47
  Speaker 0: eine neue Folge gibt es montags mittwochs und freitags ab fünfzehn Uhr.