Latest / KI Espresso / Anthropic vs. Meta: Wer bestimmt das KI-Tempo?

Transcript

Anthropic vs. Meta: Wer bestimmt das KI-Tempo? · KI Espresso

• 0:00
  SPEAKER_01: Also, ähm, Dario Amodet fordert eine gemeinsam überprüfbare Tempogrenze für die Entwicklung von Frontier-Modellen.
• 0:08
  SPEAKER_01: Ich argumentiere heute für Amodets kollektiven Ansatz.
• 0:12
  SPEAKER_01: Und ich vertrete Zuckerbergs Fokus auf die individuelle Verantwortung.
• 0:16
  SPEAKER_01: Was können Hörer in Deutschland, Österreich und der Schweiz an diesen Sicherheitsversprechen eigentlich tatsächlich prüfen?
• 0:23
  SPEAKER_01: Lass uns dieses hochkomplexe Dilemma mal präzise aufschlüsseln.
• 0:26
  SPEAKER_01: Es geht hier ja nicht um einen kompletten Stopp der KI-Entwicklung.
• 0:30
  SPEAKER_01: Richtig.
• 0:31
  SPEAKER_01: Sondern Amodés Ansatz ist eher ein verlangsamtes Vordringen bei neuen Fähigkeiten.
• 0:37
  SPEAKER_01: Die zusätzliche Zeit, die man dadurch gewinnt, soll strikt in bessere Prozesse, also in Alignmentforschung und detaillierte Tests fließen.
• 0:46
  SPEAKER_01: Ja, das klingt in der Theorie auch super.
• 0:48
  SPEAKER_01: Die These von Ashakig ist da struktureller Natur ohne eine gemeinsam überprüfbare Grenze, könnten vorsichtigere Labore durch den Wettbewerb schlichtweg bestraft werden.
• 1:00
  SPEAKER_00: Das setzt allerdings voraus, dass Konkurrenten wie Meta blind vorwärts rennen.
• 1:04
  SPEAKER_00: Und das ist also meiner Meinung nach schlichtweg nicht der Fall.
• 1:07
  SPEAKER_00: Sackeberg präsentierte einen ganz anderen Gegenentwurf.
• 1:10
  SPEAKER_00: Wie meinst du das genau?
• 1:12
  SPEAKER_00: Er betont die individuelle Rechenschaftspflicht.
• 1:15
  SPEAKER_00: Er sagt, Anreize wie das Nutzervertrauen und auch mögliche Haftungsfragen fördern die Sicherheit ganz natürlich.
• 1:21
  SPEAKER_00: Er verweiste auch ganz konkret darauf, dass Meta den Staat seines eigenen Agenten Muse aus Sicherheitsgründen selbstständig um mehrere Monate verschoben hat.
• 1:30
  SPEAKER_01: Ah, okay.
• 1:31
  SPEAKER_00: Genau.
• 1:32
  SPEAKER_00: Sie brauchten dafür keine gemeinsame Pause der Wettbewerber vorauszusetzen.
• 1:36
  SPEAKER_00: Wenn ein Unternehmen ein Risiko sieht, bremse ganz aus Eigeninteresse.
• 1:40
  SPEAKER_01: Aber warte mal, da muss ich wirklich kurz nachhaken.
• 1:43
  SPEAKER_01: Wie überprüfbar sind denn solche individuellen Verzögerungen eigentlich?
• 1:48
  SPEAKER_00: Inwiefern?
• 1:49
  SPEAKER_01: Naja, ohne einen externen Rahmen bleiben das doch letztlich nur Selbstversprechen, oder?
• 1:54
  SPEAKER_01: Als Kontrast dazu dient ja Anthrotics angekündigte Partnerschaft mit Accenture.
• 1:59
  SPEAKER_01: Da soll wirklich ein eingebettetes Evaluatorenteam aufgebaut werden, das von außen auf die Prozesse schaut.
• 2:06
  SPEAKER_00: Da muss ich dich aber sofort korrigieren.
• 2:08
  SPEAKER_00: Es ist nämlich nicht so, dass Zuckerberg externe Prüfer ablehnt.
• 2:12
  SPEAKER_01: Echt nicht?
• 2:13
  SPEAKER_00: Nein, überhaupt nicht.
• 2:14
  SPEAKER_00: In diesem Punkt herrscht zwischen Amodai und Zuckeberg eigentlich völlige Einigkeit.
• 2:18
  SPEAKER_00: Beide befürworten externe Evaluatoren.
• 2:21
  SPEAKER_00: Der wirkliche Streitpunkt, und da müssen wir präzise sein, ist ausschließlich diese gemeinsame Tempogrenze.
• 2:27
  SPEAKER_01: Okay, das ist ein wichtiger Unterschied.
• 2:29
  SPEAKER_01: Aber was ist mit dem Accenture-Beispiel?
• 2:32
  SPEAKER_00: Eher das Problem bei Anthropic und Accenture ist ja, dass die Zugangs- und Berichtsregeln dort aktuell noch völlig in der Entwicklung sind.
• 2:40
  SPEAKER_00: Es liegt überhaupt noch kein fertiger Prüfbefund vor.
• 2:43
  SPEAKER_00: Hm, das stimmt.
• 2:44
  SPEAKER_00: Das ist noch in Arbeit.
• 2:46
  SPEAKER_00: Genau.
• 2:47
  SPEAKER_00: Warum sollte man also die eigene Sicherheitsarbeit an die Zustimmung oder das Tempo der Konkurrenz koppeln, wenn der externe Prüfrahmen noch gar nicht etabliert ist?
• 2:56
  SPEAKER_00: Ich verstehe deine Vorbehalte absolut.
• 2:58
  SPEAKER_01: Die Partnerschaft ist noch im Aufbau.
• 3:00
  SPEAKER_01: Aber der Versuch, den Amoday hier unternimmt, zielt eben auf eine strukturelle Überprüfbarkeit ab.
• 3:06
  SPEAKER_01: Beide arbeiten hier an völlig unvereinbaren Defaults.
• 3:09
  SPEAKER_00: Ja, absolut, weil nüchtern betrachtet gibt es aktuell weder bei dem einen noch bei dem anderen messbare empirische Belege dafür, welcher Ansatz jetzt effektiver vor Risiken schützt.
• 3:20
  SPEAKER_00: Wir haben ja keine konkreten Schäden durch fehlende Koordination oder belegte Marktanteilsverluste.
• 3:27
  SPEAKER_01: Richtig, wir erfinden hier keine Haftungsfälle.
• 3:30
  SPEAKER_01: Was heißt das jetzt zusammenfassend für unsere Zuhörer im Dachraum?
• 3:34
  SPEAKER_01: Faktisch überprüfbar sind in Europa vorerst nicht die bloßen Motive der CEOs.
• 3:42
  SPEAKER_00: Leider nicht.
• 3:43
  SPEAKER_01: Sondern nur veröffentlichte Testkriterien, konkrete externe Einsichten und öffentlich begründete Verzögerungen, sobald diese Prozesse eben stehen.
• 3:53
  SPEAKER_01: Die zwei unvereinbaren Defaults bleiben also am Ende des Tages stehen.
• 3:57
  SPEAKER_01: Ich plädiere weiterhin für gemeinsame, kontrollierbare Regeln.
• 4:01
  SPEAKER_00: Und ich sehe die individuelle Rechenschaftspflicht weiterhin als deutlich schneller und praktikabler an.
• 4:07
  SPEAKER_00: Ein komplexes Thema.
• 4:08
  SPEAKER_01: Auf jeden Fall.
• 4:09
  SPEAKER_01: Abonniert KI Espresso.
• 4:11
  SPEAKER_00: Das war KI Espresso.