Latest / Epoch Im Fokus / Anthropic-Experimente: KI steht kurz vor der Selbstreplikation #254

Transcript

Anthropic-Experimente: KI steht kurz vor der Selbstreplikation #254 · Epoch Im Fokus

• 0:00
  Speaker 0: Herzlich Willkommen zu Epoch im Fokus mit dem Thema Entshopic-Experimente.
• 0:04
  Speaker 0: KI steht kurz vor der Selbstreplikation, ein Artikel von Zachary Steeber vom XXIII.
• 0:11
  Speaker 0: Oktober.
• 0:16
  Speaker 0: Ein kleines KI Modell auf fünfzehn günstigen TV Boxen hat in einem Test ein weiteres Modell verbreitet.
• 0:23
  Speaker 0: schon in wenigen Monaten könnte sich KI auf solchen Haushaltsgeräten selbst vervielfältigen.
• 0:28
  Speaker 0: Schätzen.
• 0:28
  Speaker 0: Forscher des KI Unternehmens Entshopick Experimente von Antropic Forschern, deren Ergebnisse das Unternehmen am zwölften Oktober veröffentlichte ergaben.
• 0:38
  Speaker 0: Das KI-Modell möglicherweise in internetfähige Geräte eindringen und dort Aktionen ausführen können selbst ohne Zugang zu Rechenzentren.
• 0:47
  Speaker 0: In einem Test ließen die Forscher ein kleines KI Modell auf fünfzehn Android TV Boxen weniger bekannter Marken laufen.
• 0:53
  Speaker 0: Während des Tests konnte das Modell ein weiteres KI Model verbreiten.
• 0:57
  Speaker 0: Zitat.
• 0:58
  Speaker 0: Das deutet darauf hin, dass künftige kleinere Modelle mit vergleichbaren Fähigkeiten ebenfalls die Schritte der Netzwerkerkundung, der Übertragung benötigter Dateien und der Inbetriebnahme des KI-Modells ausführen könnten, die zum Replikationsprozess gehören, erklärten die Forschein einem Bericht – eine vollständige Selbstreplikation wurde jedoch nicht festgestellt.
• 1:19
  Speaker 0: KI-Agenten werden leistungsfähiger.
• 1:22
  Speaker 0: Auch größere Modelle könnten dabei eine Rolle spielen, indem sie in mehrere Teile aufgeteilt und über mehrere Geräte verteilt ausgeführt werden.
• 1:30
  Speaker 0: Zitat «Wir verfügen noch nicht über einen vollständig autonomen sich selbstverbreitenden KI-Agenten doch KI-Agenten werden zunehmend fähig einzelne Schritte der Replikationskette auszuführen und ihre Anpassungen an künftige Kopien ihrer selbst weiterzugeben», erklärten die Forscher.
• 1:47
  Speaker 0: Sie schätzten, dass eine Selbstreplikation bereits in wenigen Monaten möglich sein könnte.
• 1:52
  Speaker 0: Forscher von Entshopping, OpenAI und anderen KI-Unternehmen haben bereits zuvor gewarnt, das KI-Modell rasch leistungsfähiger werden – sie haben dokumentiert wie einige Modelle ihre programmierten Beschränkungen überwunden, Websites angegriffen und Daten beschafft haben die eigentlich unzugänglich sein sollten oder nur gegen Bezahlung erhältlich waren.
• 2:12
  Speaker 0: Daniel Freeman, der den neuen Bericht gemeinsam mit William Chow verfasst hat, schrieb auf X die Untersuchung habe Fähigkeiten demonstriert, die bislang nur aus Science-Fiction-Szenarien bekannt gewesen seien.
• 2:24
  Speaker 0: Notwendig – Computerinfrastruktur besser
• 2:27
  Speaker 0: absichern.".
• 2:28
  Speaker 0: Das ist wirklich seltsam!
• 2:30
  Speaker 0: Früher lebten wir nicht in einer Welt, in der kleine Dinger-in-Kasten sich über Netzwerke verbreiten.
• 2:35
  Speaker 0: Computervereinnahmen – sich so umkonfigurieren können, dass sie auf den gefundenen Geräten besser funktionieren und so weiter.
• 2:42
  Speaker 0: und sofort schrieb Freeman KI Forscher bei Enchopik und weiter Wir müssen uns künftig schlicht mit dieser neuen Art von etwas auseinandersetzen einem System das ganz selbstverständlich und mühelos auf Computer zugreifen und Sie nutzen kann für jeden beliebigen Zweck, den es selbst verfolgt oder zu dem es angewiesen oder überredet wurde.
• 3:01
  Speaker 0: Und weiter, es liegt auf der Hand das wir noch viel tun müssen um unsere verwundbare Computerinfrastruktur besser abzusichern und den möglichen Schadensradius solcher unkontrollierten KI-Systeme zu begrenzen.
• 3:13
  Speaker 0: doch unabhängig davon welche Maßnahmen wir greifen Es ist klar dass diese Systeme kommen werden.
• 3:24
  Speaker 0: Zu den internetfähigen Geräten, die in vielen Haushalten zu finden sind gehören TV-Boxen Smart TVs und intelligente Backöfen.
• 3:31
  Speaker 0: Diese Geräte sind schon seit langem anfällig für Angriffe.
• 3:35
  Speaker 0: Laut dem Bericht von Entchopik könnte KI jedoch eher bereit sein sie anzugreifen als menschliche Hacker.
• 3:40
  Speaker 0: Die Forscher empfehlen deshalb die Schutzmaßnahmen für diese Geräter zu verstärken insbesondere angesichts der zunehmenden Leistungsfähigkeit von KI.