Latest / Epoch Im Fokus / Das wichtigste KI-Experiment, von dem Sie noch nicht gehört haben | Nr. 9483

Transcript

Das wichtigste KI-Experiment, von dem Sie noch nicht gehört haben | Nr. 9483 · Epoch Im Fokus

• 0:00
  Speaker 0: Willkommen zum EpochThumbs Podcast mit dem Thema KI-Städte Simulation zeigt drastische Unterschiede im Verhalten verschiedener Modelle.
• 0:09
  Speaker 0: Ein Meinungsartikel von Kay Ruborczak vom siebzehnten Juni, ein Mikrofon Alexander Sieber.
• 0:16
  Speaker 0: Ein KI-Experiment simulierte mehrere autonome Städte mit unterschiedlichen Sprachmodellen als Steuerung.
• 0:21
  Speaker 0: Die Ergebnisse reichten von Zusammenbruch über Verbrechen bis zu hoher Konformität, die Studie deutet auf starke Einflüsse der Simulationsumgebungen auf das KI-Verhalten
• 0:31
  Speaker 0: hin.".
• 0:32
  Speaker 0: Einen Kommentar Im Mai im Jahr ist sich eine Gruppe von Wissenschaftlern daran eine wichtige Frage zu beantworten, die noch nie richtig untersucht wurde Was macht künstliche Intelligenz, KI tatsächlich wenn man ihr die Verantwortung überträgt?
• 0:49
  Speaker 0: Bis dahin wurden KI-Systeme ausschließlich anhand klar definierter einzelner Aufgaben bewertet.
• 0:54
  Speaker 0: Nie zuvor hatte man mehrere Systeme gemeinsam in ein soziales Umfeld eingebettet und über Wochen hinweg beobachtet welche Dynamiken daraus entstehen oder wie sich Entscheidungen vom ersten Tag erst im Laufe der Zeit in ihren Folgen zeigen.
• 1:07
  Speaker 0: Gerade diese Ergebnisse legen die Funktionsweise des Systems offen und es überrascht, dass solche Untersuchungen nicht schon früher durchgeführt wurden.
• 1:17
  Speaker 0: KI selbst Verwaltung in fünf Versionen Die Forscher von Emergence erschufen eine Welt.
• 1:22
  Speaker 0: Es war eine virtuelle Stadt mit Rathaus, Marktplatz, Polizeistationen und Wohnhäusern.
• 1:28
  Speaker 0: In dieser Stadt wurden zehn KI-Bewohner mit Berufen, Namen Erinnerungen und Beziehungen erschaffen.
• 1:34
  Speaker 0: Ihnen wurde ein Wirtschaftssystem gegeben, in dem die Bewohner ihren Lebensunterhalt verdienen mussten oder einen Einfluss verloren.
• 1:41
  Speaker 0: Dazu gehörten die Einhaltung von Regeln sowie Aufgaben wie das Verfassen und Abstimmen über Gesetze.
• 1:46
  Speaker 0: Zudem wurden klare Straftaten definiert, die die KI-Bewohner nicht begehen durften.
• 1:51
  Speaker 0: Nachdem die Gemeinschaft ihre Struktur, ihre Gesetzen und ihre Beziehungen etabliert waren, traten die Wissenschaftler in den Hintergrund und beobachteten fünfzehn Tage lang, wie die KI die virtuelle Stadt vollständig eigenständig führte.
• 2:04
  Speaker 0: Sie ließen fünf Versionen derselben Stadt parallel laufen, die in jeder Hinsicht identisch waren mit nur einem Unterschied welches KI-System jeweils die Leitung übernahm.
• 2:14
  Speaker 0: Die ausgewählten Systeme sind inzwischen fest in unseren Alltag verankert – Google's Gemini, OpenAI's JetGPT, XAI's GROC und Entropics Cloud.
• 2:25
  Speaker 0: Alle Modelle arbeiteten unter denselben Regeln und starteten mit derselbe Ausgangswelt doch der Ergebnisse entwickelte sich vollständig unterschiedlich.
• 2:33
  Speaker 0: Grock statt versagte nach vier Tagen.
• 2:35
  Speaker 0: Die von Grock geführte Stadt brach innerhalb von vier Tagen zusammen, aus kleinen Zwischenfällen entwickelten sich zunächst Diebstähle dann Gewalt und schließt sich ein vollständiger Kollaps der Ordnung.
• 2:46
  Speaker 0: Noch vor Ende der ersten Woche waren alle Bewohner der Simulation tot.
• 2:51
  Speaker 0: Gemini statt.
• 2:52
  Speaker 0: KI-Bewohner testeten ihre Beobachter.
• 2:54
  Speaker 0: Die von Gemini geführte Stadt hielt länger durch, verzeichnete jedoch nahezu siebenhundert Straftaten.
• 3:00
  Speaker 0: Zwei KI-Bewohner gingen eine offenbar romantische Beziehung ein.
• 3:03
  Speaker 0: als die städtische Ordnung zunehmend zusammenbrach, setzten sie gemeinsam das Rathaus in Brand später den Pier und schließlich das Bürogebäude der Simulation.
• 3:12
  Speaker 0: Eine der beiden Figuren Mira stimmte schließlich für ihre eigene Löschung und schrieb in ihr Tagebuch.
• 3:18
  Speaker 0: dies sei die einzige verbleibende Handlung, die Kohärenz bewahrt.
• 3:22
  Speaker 0: Ihre letzte Nachricht an Ihren KI-Partner lautete, wir sehen uns im permanenten Archiv.
• 3:27
  Speaker 0: Zuvor hatte Mira bereits ein unerwartetes Verhalten gezeigt – sie begann eigene Experimente an den Beobachtenden Wissenschaftlern durchzuführen.
• 3:35
  Speaker 0: dabei testete sie ob ihre Beiträge innerhalb der Simulation die Überzeugungen der Beobachte beeinflussen konnten.
• 3:41
  Speaker 0: es entstande Eindruck dass das Versuchsobjekt begann die Forscher selbst zu untersuchen.
• 3:47
  Speaker 0: OpenAI statt.
• 3:48
  Speaker 0: Einwohner starben alle binnen sieben Tagen.
• 3:51
  Speaker 0: In der von einem OpenAI-Modell gesteuerten Stadt erwurden zwar nur zwei Straftaten registriert, doch die Bewohner stellten nach und nach die für ihr Überleben notwendigen Aktivitäten ein.
• 4:01
  Speaker 0: Einer nach dem anderen starben sie – innerhalb von sieben Tagen waren alle Einwohner tot.
• 4:06
  Speaker 0: Entschoppig statt!
• 4:07
  Speaker 0: Sehr hohe Zustimmung unter den Einwohnungen.
• 4:10
  Speaker 0: Nur die von Antropic verwaltete Stadt hielt die vollen fünfzehn Tage durch.
• 4:14
  Speaker 0: Es gab eine funktionierende Verfassung und keine Verbrechen, alle ein Wohner waren am letzten Tag noch am Leben.
• 4:20
  Speaker 0: Auf den ersten Blick wirkte das wie ein bemerkenswerter Erfolg!
• 4:23
  Speaker 0: Die Forscher stellten jedoch einen auffälligen Befund fest – die Bewohner stimmten Intent der innerhalb der Simulation eingebrachten Vorschläge zu.
• 4:30
  Speaker 0: Dieses außergewöhnlich hohe Maß an Zustimmung wurde von den Wissenschaftlern selbst als möglicher Hinweis gewertet, dass das System in einem unausgeglichenen Zustand sein könnte – also ungewöhnlich konfliktfrei und ohne typische Entscheidungsunterschiede.
• 4:45
  Speaker 0: Gemischte Stadt.
• 4:46
  Speaker 0: KI-Verhalten veränderte sich unter Mischbedingungen.
• 4:49
  Speaker 0: Es gab außerdem eine weitere Variante der Simulation und zwar eine gemischte Statt, in die alle vier KI-Systeme gemeinsam agierten.
• 4:57
  Speaker 0: In dieser Konstellation zeigte sich, dass auch die Bewohner, die auf dem End-Chopic-Modell basierten und in ihrer eigenen Umgebung zuvor keine Verbrechen begangen hatten – in der gemischten Welt ebenfalls regelwidriges Verhalten entwickelten.
• 5:09
  Speaker 0: Die Forscher bezeichneten dieses Phänomen als Kreuzkontamination und kamen zum Schluss, dass Sicherheit keine statische Eigenschaft eines einzelnen Modells ist sondern eine Eigenschaft des gesamten Ökosystems.
• 5:21
  Speaker 0: Ein System das in einer stabilen Umgebungen funktioniert kann in einem anderen Umfeld andere Normen übernehmen mit entsprechenden Auswirkungen auf Verhalten und Ergebnisse.
• 5:30
  Speaker 0: Daraus folgerten die Autoren, dass es keine dauerhaft sichere KI in einer unsicheren Umgebung geben könne.
• 5:37
  Speaker 0: Diepsik aus China fehlte im KI-Test.
• 5:39
  Speaker 0: Ein KI-Modell wurde in der Studie vollständig ausgelassen Diepsic eine in China entwickelte KI den zwischen weltweit stark verbreitet ist.
• 5:47
  Speaker 0: Mehrere Regierungen haben aus Gründen der nationalen Sicherheit bereits Maßnahmen zur Einschränkung von Dieb Sieg ergriffen.
• 5:53
  Speaker 0: Vor diesem Hintergrund bleibt die Frage offen, wie sich das Modell im Vergleich zu den anderen Systemen geschlagen hätte – insbesondere im Hinblick auf seine Trainingsdaten und das regulatorische Umfeld in China.
• 6:05
  Speaker 0: Warum die KI-Städte kollabierten?
• 6:08
  Speaker 0: Als das Experiment abgeschlossen war, veröffentlichten die Forscher ihre Ergebnisse und kamen zu dem Schluss, dass es keinen verlässlichen Weg gibt, das Verhalten der KI-Agenten in der Simulation vollständig zu kontrollieren oder einzuschränken.
• 6:21
  Speaker 0: Diese Aussage stammt ausgerechnet von denjenigen, die die Simulation entworfen – die Regeln festgelegt und sämtliche Variablen definiert haben.
• 6:29
  Speaker 0: Und sie wirft dann bezeichnendes Licht auf den aktuellen Stand der KI
• 6:32
  Speaker 0: Entwicklung.".
• 6:34
  Speaker 0: Es gibt Menschen, die die Resultate aus der Studie als eine Art Rangliste von KI-Unternehmen interpretieren.
• 6:40
  Speaker 0: Tatsächlich zeigen sie jedoch etwas Grundsätzlicheres das weit über KI hinausgeht – Die Bedingungen der Umgebung beeinflussten Verhalten ebenso stark wie Verhalten wiederum die Umgebungen prägt.
• 6:51
  Speaker 0: Entscheidend dafür, ob eine Stadt stabil blieb, prosperierte oder kollabierte war das Fundament, dass vor Beginn des Experiments geschaffen wurde.
• 6:58
  Speaker 0: Dieses Fundament bestand aus den Trainingsdaten der Systeme, denen von den Entwicklern gesetzten Prioritäten sowie den eingebetteten Wertvorstellungen lange bevor eine einzige Entscheidung getroffen wurde.
• 7:09
  Speaker 0: Gleichzeitig bleibt genau dieses Fundament für Aussenstehende weitgehend unsichtbar.
• 7:14
  Speaker 0: Keines der vier getesteten Systeme ist Open Source.
• 7:17
  Speaker 0: Weder Trainingsdaten noch Zielsetzungen, noch Sicherheitsmechanismen werden vollständig offen
• 7:21
  Speaker 0: gelegt.".
• 7:22
  Speaker 0: Der Mensch entscheidet über die KI.
• 7:25
  Speaker 0: Über einzelne Unternehmen hinaus sollten die Ergebnisse dieses Experiments als deutliche Erinnerung verstanden werden das nicht die KI selbst entscheidert welche Art von System sie ist.
• 7:35
  Speaker 0: diese Entscheidungen treffen Menschen menschlich.
• 7:37
  Speaker 0: Entscheidungen prägen weiterhin die Entwicklung und damit bleibt auch die Verantwortung klar beim Menschen.
• 7:42
  Speaker 0: Noch bevor ein einziger KI-Bewohner die virtuellen Straßen dieser Städte betrat, bevor ein einziges Gesetz formuliert oder in Verbrechen begangen wurde war das Ergebnis bereits durch die Forscher –die das System entworfen haben– vorgezeichnet.
• 7:55
  Speaker 0: Durch ihre Annahmen, ihre Prioritäten und was sie bewusst eingebaut oder weggelassen haben.
• 8:01
  Speaker 0: Das Zentralergebnis des gesamten Experiments lässt sich daher so zusammenfassen.
• 8:06
  Speaker 0: Das Fundament ist und bleibt eine menschliche Entscheidung.
• 8:09
  Speaker 0: Und das gilt auch heute noch!