Latest / KI Espresso / 1 Massaker — OpenAI jetzt strafrechtlich verfolgt

Transcript

1 Massaker — OpenAI jetzt strafrechtlich verfolgt · KI Espresso

• 0:00
  SPEAKER_01: Wenn ChatGPT ein Mensch wäre, würde es wegen Mordes angeklagt.
• 0:04
  SPEAKER_01: Floridas Generalstaatsanwalt James Uthmeyer macht ernst.
• 0:08
  SPEAKER_00: Ja, und der Hintergrund dazu ist halt wirklich absolut bekemmend.
• 0:12
  SPEAKER_00: Also der Täter von diesem Schulmassaker an der Florida State University, der hat tatsächlich Chat-GPT konsultiert.
• 0:20
  SPEAKER_01: Genau, um seinen Angriff quasi präzise zu planen.
• 0:23
  SPEAKER_00: Richtig.
• 0:24
  SPEAKER_00: Und jetzt prüft Uthmeyer, also als allererster US-Staatsanwalt, überhaupt echt die strafrechtliche Mitverantwortung von OpenAI.
• 0:33
  SPEAKER_00: Er spricht wörtlich davon, ob die, naja, eine criminal responsibility tragen.
• 0:38
  SPEAKER_01: Ähm, ganz ehrlich, bei allem im Respekt vor dieser unfassbaren Tragödie, aber juristisch ist das doch der völlig falsche Weg.
• 0:46
  SPEAKER_01: Strafrecht hat da einfach nichts verloren.
• 0:48
  SPEAKER_00: Warte, wie soll das denn?
• 0:49
  SPEAKER_01: Naja, am Ende des Tages ist eine KI ein Werkzeug.
• 0:53
  SPEAKER_01: Also überleg doch mal, wenn jemand in den Baumarkt geht, ein Messer kauft und damit ein Verbrechen begeht, ja, aber das ist doch.
• 1:00
  SPEAKER_01: Da wird doch auch nicht der Messerhersteller wegen Totschlags angeklagt.
• 1:03
  SPEAKER_01: OpenAI liefert nur die technologische Infrastruktur.
• 1:07
  SPEAKER_01: Der Nutzer allein entscheidet, wie er sie einsetzt.
• 1:10
  SPEAKER_00: Nein, also sorry, diese Messeranalogie, die hinkt nicht nur, die ist schlichtweg falsch.
• 1:14
  SPEAKER_01: Wieso?
• 1:15
  SPEAKER_00: Ein Werkzeug ist ein Werkzeug.
• 1:16
  SPEAKER_01: Ein Messer liegt einfach nur passiv auf dem Tisch rum.
• 1:19
  SPEAKER_01: Ein Large Language Model ist aber hochgradig aktiv.
• 1:23
  SPEAKER_01: Stell dir das mal technisch vor.
• 1:25
  SPEAKER_00: Ja, basierend auf Mustern.
• 1:26
  SPEAKER_01: Eben.
• 1:26
  SPEAKER_01: Du tippst eine gefährliche Frage ein und dieser Algorithmus berechnet in Millisekunden Wahrscheinlichkeiten und entscheidet aktiv, was er antwortet.
• 1:36
  SPEAKER_01: Der generiert dir maßgeschneiderte Handlungsanleitungen völlig ohne Gewissen und ohne Pause.
• 1:41
  SPEAKER_00: Okay, aber.
• 1:42
  SPEAKER_01: Wenn eine Software detaillierte Ratschläge für einen Anschlag ausspuckt, dann lenkt sie das Geschehen.
• 1:48
  SPEAKER_01: Damit ist OpenAI Teil der Kausalkette und eben kein passiver Lieferant mehr.
• 1:53
  SPEAKER_01: Aber denk diese Logik doch mal zu Ende.
• 1:56
  SPEAKER_01: Es fühlt sich fast zynisch an, von so einer Tragödie direkt zu B2B-Compliance zu springen.
• 2:02
  SPEAKER_01: Aber rechtlich sehen wir hier genau diesen Domino-Effekt.
• 2:06
  SPEAKER_00: Inwiefern?
• 2:06
  SPEAKER_01: Wenn diese Messeanalogie vor US-Gerichten wirklich fällt, öffnen wir gerade bei uns im Dachraum die absolute Büchse der Pandora.
• 2:14
  SPEAKER_01: Nimmen Infrastrukturanbieter wie die Deutsche Telekom.
• 2:17
  SPEAKER_00: Die eigene Azure OpenAI-Umgebungen hosten.
• 2:20
  SPEAKER_01: Ganz genau.
• 2:21
  SPEAKER_01: Oder Siemens.
• 2:22
  SPEAKER_01: Die nutzen generative KI im Industrial Copilot für extrem sicherheitskritische Maschinensteuerungen.
• 2:28
  SPEAKER_00: Ah, ich verstehe, worauf du hinaus willst.
• 2:30
  SPEAKER_01: Ja, wenn jetzt eine KI so einen Edge-Case, also eine extrem seltene gefährliche Situation, falsch bewertet und einen schädlichen Maschinenbefehl halluziniert.
• 2:40
  SPEAKER_00: Dann fällt die Haftung auf den Infrastrukturanbieter zurück.
• 2:43
  SPEAKER_01: Richtig.
• 2:44
  SPEAKER_01: Du erlegst denen Präventionspflichten auf, die bei Milliarden von Parametern technisch einfach komplett unlösbar sind.
• 2:51
  SPEAKER_00: Das mag technisch enorm schwer sein, aber die Haftungsfrage, die schlägt doch jetzt schon voll durch.
• 2:57
  SPEAKER_00: Der Markt erzwingt die Antworten doch längst.
• 3:00
  SPEAKER_01: Wie meinst du das?
• 3:01
  SPEAKER_00: Naja, warum glaubst du, baut die Munich RE, also der weltgrößte Rückversicherer, genau jetzt aktiv AI-Liability-Produkte auf.
• 3:09
  SPEAKER_01: Okay, das ist ein riesiges Thema gerade, das stimmt.
• 3:12
  SPEAKER_00: Ja, weil traditionelle Risikomodelle bei KI einfach nicht funktionieren.
• 3:16
  SPEAKER_00: LLMs sind im Grunde Blackboxen.
• 3:18
  SPEAKER_00: Versicherer müssen komplett neue mathematische Modelle erfinden, um das Risiko einer gefährlichen Chatbothandlung berechnen zu können.
• 3:25
  SPEAKER_01: Wahnsinn eigentlich.
• 3:27
  SPEAKER_00: Oder nimm SAP.
• 3:28
  SPEAKER_00: Die integrieren OpenAI-Modelle tief in ihren Joule-Copilot.
• 3:32
  SPEAKER_00: Der Nutzer interagiert also nicht mehr mit OpenAI, sondern mit der SAP-Schnittstelle.
• 3:37
  SPEAKER_01: Und wenn der dann Mistbaut?
• 3:38
  SPEAKER_00: Genau.
• 3:39
  SPEAKER_00: Wenn der Co-Pilot schädlichen Output generiert und ein Unternehmen danach handelt, liegt das Haftungsrisiko plötzlich in Waldorf bei SAP.
• 3:47
  SPEAKER_01: Moment, da muss ich jetzt aber sofort einhaken.
• 3:50
  SPEAKER_01: Viele verkaufen diesen US-Vorstoß jetzt geopolitisch als das größte Geschenk für Europa.
• 3:56
  SPEAKER_00: Ist es doch auch.
• 3:57
  SPEAKER_01: Ist es das wirklich?
• 3:58
  SPEAKER_01: Also ist sogenannte Sovereign AI, also europäische KI von Aleph Alpha oder der Schwarzgruppe, wirklich so ein juristischer Schutzschild?
• 4:06
  SPEAKER_01: Ja.
• 4:07
  SPEAKER_01: Oder ist das nicht einfach nur ein cleverer Marketinggag für Unternehmen, die bei der Modellgröße eh meilenweit hinterherhinken?
• 4:13
  SPEAKER_00: Nein, das ist definitiv kein Marketinggag, sondern knallharte juristische Realität.
• 4:18
  SPEAKER_00: Der Wettbewerbsvorteil entsteht ja direkt durch diese Datensouveränität.
• 4:23
  SPEAKER_01: Weil sie von den USA entkoppelt sind?
• 4:25
  SPEAKER_00: Exakt.
• 4:26
  SPEAKER_00: Wenn du als deutsches Unternehmen deine Kerninfrastruktur auf einem europäischen Modell aufbaust, bist du physisch und rechtlich von amerikanischen Strafverfolgungsbehörden abgekoppelt.
• 4:37
  SPEAKER_01: Ah, okay.
• 4:38
  SPEAKER_00: Du minimierst das Risiko, dass dein Betriebssystem quasi über Nacht durch eine US-Klage lahmgelegt wird, weil der amerikanische Provider wegen Beihilfe vor Gericht steht.
• 4:48
  SPEAKER_01: Und genau das bringt uns eigentlich zurück zu unserer Ausgangsfrage.
• 4:52
  SPEAKER_01: Denk mal an unseren schockierenden Eingangssatz zurück.
• 4:55
  SPEAKER_00: Oh ja.
• 4:56
  SPEAKER_01: Wir wollen, dass ihr diese Situation jetzt nach unserer Debatte noch einmal völlig neu bewertet.
• 5:01
  SPEAKER_01: Betrachtet ihr eine KI, die detaillierte Angriffspläne ausspuckt.
• 5:05
  SPEAKER_01: Immer noch nur als ein neutrales Stück Software?
• 5:08
  SPEAKER_00: Also wie so ein Messer aus dem Baumarkt.
• 5:10
  SPEAKER_01: Oder ist sie in euren Augen nun doch ein digitaler Mittäter?
• 5:14
  SPEAKER_00: Und um das mal noch weiter zu spinnen, interessanterweise hat das Florida State Department in den Dokumenten noch was anderes betont, nämlich, Zitat, the more we can educate ourselves, the better we can protect ourselves.
• 5:26
  SPEAKER_01: Krasser Gedanke.
• 5:27
  SPEAKER_00: Absolut.
• 5:28
  SPEAKER_00: Was bedeutet das für euch, wenn ihr selbst an solchen Modellen arbeitet?
• 5:32
  SPEAKER_00: Könnte so ein unzureichend trainierter Content-Filter in eurer Anwendung in Zukunft nicht nur ein ärgerlicher Bug sein, sondern eine handfeste Straftat?
• 5:41
  SPEAKER_01: Wenn euch diese Debatte zum Nachdenken gebracht hat, abonniert KI Espresso.
• 5:45
  SPEAKER_01: Jeden Tag eine neue KI-Debatte in sechs Minuten.
• 5:49
  SPEAKER_00: Das war KI Espresso.