Latest / Epoch Im Fokus / KI beim Militär birgt Risiken für Tötungen von Unschuldigen #158

Transcript

KI beim Militär birgt Risiken für Tötungen von Unschuldigen #158 · Epoch Im Fokus

• 0:00
  Speaker 0: Herzlich Willkommen zu Epoch im Fokus mit dem Thema KI-Gestützte Kriegsführung.
• 0:04
  Speaker 0: KI beim Militär berichtet Risiken für Tötungen von Unschuldigen.
• 0:09
  Speaker 0: Eine Analyse von Tom Goeller vom XXIII.
• 0:11
  Speaker 0: September, XXVI an Mikrofon Alexander Sieber.
• 0:15
  Speaker 0: Künstliche Intelligenz verändert das Militäre weltweit durch automatisierte Datenanalyse.
• 0:21
  Speaker 0: Dieser neue Prozess berückt jedoch auch hohe Risiken aufgrund von Fehlern der neuen Technik.
• 0:26
  Speaker 0: Darauf macht eine israelische Dokumentation medienwirksam und aufmerksam.
• 0:30
  Speaker 0: Die Echtheit der Aussagen kann in dessen nicht überprüft werden, dass sich die Filmemacher auf anonyme Quellen beziehen – ein Blick hinter die Kulissen.
• 0:39
  Speaker 0: Wer künstlicher Intelligenz einsetzt muss mit Fehlern rechnen.
• 0:42
  Speaker 0: Im militärischen Bereich können solche Fehler gefährliche und dramatische Konsequenzen nach sich ziehen.
• 0:47
  Speaker 0: Selten erfährt man dazu etwas weil militärische Einsätze in der Regel geheim bleiben.
• 0:52
  Speaker 0: Am achtzehnten September jedoch berichtete der amerikanische Fernsehsender CNN, er habe exklusiv davon erfahren dass eine Analyse die mittels KI erstellt worden sei im Frühjahr dieses Jahres fast an ein Krieg ausgelöst hätte.
• 1:06
  Speaker 0: Während der Militärkampagne der USA gegen den Iran seien die US- Streitkräfte kurz davor gewesen einen chinesischen Schiff anzugreifen.
• 1:13
  Speaker 0: laut CNN seien auf dem Schiff Bestandteile eines Atombaffenprogramms vermutet worden.
• 1:19
  Speaker 0: Aufgrund der Brisanz hätten die Verantwortlichen der US-Operation den Bericht eines Analysten erneut überprüft und dann festgestellt, Zitat dass diese mithilfe künstlicher Intelligenz erstellt worden war.
• 1:29
  Speaker 0: Und das ein Chatbot denen der Analyst verwendet hatte Die Ladung des Schiffes falsch identifiziert hatte.
• 1:37
  Speaker 0: Der bericht des Analyste sei sagte einer der Quellen vollkommen falsch gewesen.
• 1:42
  Speaker 0: CNN beruft sich dabei nur auf anonyme Quellen so dass das geschilderte Szenario nicht überprüfbar ist.
• 1:49
  Speaker 0: Tötung von Zivilisten in Kauf genommen?
• 1:52
  Speaker 0: Gleiches gilt für einen israelischen Dokumentarfilm, der zeigen soll wie der Einsatz von KI durch die israelische Verteidigungsstreitkräfte IDF zur massenhaften Tötungen vermeintlicher Hamas-Kämpfer und Sympathisanten im Gaserstreifen geführt habe.
• 2:05
  Speaker 0: Dabei sei auch die Tätung von zahlreichen Zivilistinnen bildigend in Kaufgenommen worden – heißt es in der Doku.
• 2:11
  Speaker 0: Der Film mit dem Titel NASA wurde am zehnten September bei den Filmpfestspielen von Venedig, mit dem Sonderpreis der Jury ausgezeichnet und erhielt laut Medienberichten fünfundzwanzig Minuten lang Standing Owations.
• 2:24
  Speaker 0: NASA schildert wie mithilfe von KI-Programmen Personen im Gasserstreifen ausgewählt und dann gezielt getötet worden seien.
• 2:32
  Speaker 0: Die beiden Filmemacher Rachel Saw und Juval Abraham recherchierten für ihre Dokumentation laut ihren eigenen Angaben drei Jahre lang, nutzten dafür Interviews mit zwei Dutzend Whistleblower aus dem israelisch Militär oder den Geheimdiensten.
• 2:47
  Speaker 0: In Deutschland kommt der achtzigminütige Film ab ersten Oktober in den Kinos.
• 2:52
  Speaker 0: System seit zwanzig vierundzwanzig bekannt.
• 2:54
  Speaker 0: Ein Schwerpunkt von NASA liegt offenbar darin, zu zeigen wie eine KI mittels Auswahlkriterien mitentschieden habe welche Personen getötet werden sollten.
• 3:04
  Speaker 0: Franz XIV zitiert einen der Whistleblower aus dem Film.
• 3:08
  Speaker 0: Es geschah in großem Maßstab – wie in einer Fabrik.
• 3:13
  Speaker 0: Ein KI-System das von der IDF für die Zielidentifizierung genutzt wurde heißt Lavender Es nutze Daten aus zahlreichen Quellen wie dem Telekommunikationsnetz, Bewegungsmustern und Interaktionen bestimmter Personen und schlage dann Tötungen vor.
• 3:29
  Speaker 0: Die Information über Lavenda ist nicht neu.
• 3:31
  Speaker 0: Bereits im Jahr zwanzig vierundzwanzig berichteten zahlreiche internationale Medien über den Gebrauch dieses KI-Systems seitens der IDF.
• 3:39
  Speaker 0: Siebenunddreißigtausend palästinensische Zielpersonen seien allein in den ersten sechs Monaten seit Beginn des Gasekriegs im Oktober zwanzig dreiundzwanzig von Lavender ausfindig gemacht worden, berichtete damals etwa die britische Tageszeitung The Guardian und Berufen auf Geheimdienstquellen.
• 3:54
  Speaker 0: Die Zeitung hat ein Film mitproduziert.
• 3:57
  Speaker 0: Bis zu diesem Zeitpunkt sei die Existenz der KI-gestützten Datenbank Lavenda noch unbekannt gewesen.
• 4:03
  Speaker 0: Die Nachricht von Damals ging zurück auf Berichte der israelischen Online Portale Plus-Nine-Seven-Two-Magazines sowie Sika Mekko mit.
• 4:11
  Speaker 0: Sie veröffentlichten erstmals den Namen des KI-Systems und berichteten, dass das System in etwa zehn Prozent der Fälle Fehler mache – in einem der Berichte hieß es
• 4:19
  Speaker 0: damals.".
• 4:20
  Speaker 0: Das Ergebnis war wie die Quellen bezeugten, dass tausende Palästinenser, die meisten von ihnen Frauen oder Kinder oder Menschen, die nicht an den Kämpfen beteiligt waren durch israelische Luftangriffe ausgelöscht wurden, insbesondere in den ersten Kriegswochen aufgrund der Entscheidungen des KI Programms.
• 4:39
  Speaker 0: Das israelische Militärart mittlerweile bestätigt, dass das Programm Lavenda existiert.
• 4:44
  Speaker 0: Von Israelis aufgedeckt.
• 4:46
  Speaker 0: Autor des Artikels war bereits damals Juwal Abraham einer der beiden Filmemacheren des jetzt veröffentlichten Dokofilms NASA.
• 4:54
  Speaker 0: Er berief sich in einem Beitrag ausschließlich auf die Informationen von sechs nicht-namendlich genannten israelischen Geheimdienstangehörigen und erklärte mit deren Hilfe die Funktionsweise des KI Systems Die KI-Auswertungen seien wie eine menschliche Entscheidung behandelt worden.
• 5:10
  Speaker 0: Die IDF habe sich in den ersten Wochen des Krieges fast vollständig auf Lavender verlassen, um Palästinensa sowie deren Wohnhäuser für mögliche Luftangriffe zu identifizieren.
• 5:20
  Speaker 0: In der Anfangsphase des Kriegs haben die Armee denn offizierend pauschal die Erlaubnis erteilt, die Tötungslisten von Lavender ungeprüft zu übernehmen.
• 5:29
  Speaker 0: Es sei nicht hinterfragt worden welche Entscheidungen die KI getroffen habe.
• 5:33
  Speaker 0: Eine Quelle habe ich gegenüber Abraham angegeben, dass das menschliche Personal oft nur noch als Abnicker für die Entscheidungen von Lavenda gedient habe.
• 5:42
  Speaker 0: Manche Entscheidungen hätten nur etwa zwanzig Sekunden gedauert um einen Bombenangriff auf eine bestimmte Person zu genehmigen obwohl bekannt gewesen sei ,dass das System Fehlangaben liefere.
• 5:53
  Speaker 0: Weitere automatisierte Systeme darunter eins mit dem Namen Wo ist Papa?
• 5:58
  Speaker 0: Sein speziell dazu eingesetzt worden Zitat, die Zielpersonen aufzuspüren und Bombenangriffe durchzuführen sobald diese die Wohnräume ihrer Familien betreten hatten.
• 6:07
  Speaker 0: Erklärte Avraham weiter Die Lavender Software habe Informationen analysiert, die über die rund zwei Komma drei Millionen Einwohner des Gaserstreifers mittels eines israelischen Massenüberwachungssystems gesammelt worden sein heißt es in dem Beitrag von zwanzig vierundzwanzig weiter.
• 6:23
  Speaker 0: Sie hätte anschließend die Wahrscheinlichkeit bewertet, mit der eine bestimmte Person im militärischen Flügel der Terrorgruppe Hamas oder der Splitter-Terrorgruppe palästinensischer islamische Cheihad aktiv sei.
• 6:34
  Speaker 0: Laut den informanten Abrahams habe das System fast jede einzelnen Personen in Gaseschreifen eine Bewertung von eins bis hundert vergeben.
• 6:42
  Speaker 0: anhand dieser Skala wiederum sei ersichtlich geworden wie wahrscheinlich es sei dass eine Person ein Terrorist sei.
• 6:48
  Speaker 0: IDF menschliches Personal entscheidet.
• 6:52
  Speaker 0: Ein nichtnamentlich genannter Sprecher der IDF nahm am elften September Stellung zur
• 6:55
  Speaker 0: NASA-Dokumentation.".
• 6:57
  Speaker 0: Die IDF weist diese Vorwürfe kategorisch zurück.
• 7:02
  Speaker 0: Der Film stütze sich auf anonyme Aussagen von Personen, deren Identität nicht überprüft werden kann, darunter auch ob sie in der IDf gedient haben, in welcher Funktion oder ob Sie an den Vorgängen beteiligt waren, auf die sich die Vorwörfe beziehen.
• 7:16
  Speaker 0: Der Sprecher weiter.
• 7:17
  Speaker 0: Entscheidungen über die Auswahl und Genehmigung von Luftangriffen in der IDF werden ausschließlich von menschlichen Personal getroffen, nicht von künstlicher
• 7:25
  Speaker 0: Intelligenz.".
• 7:28
  Speaker 0: In einer Pressemitteilung im Jahr zwanzig vierundzwanzig betonte die IDF das KI-Systeme nicht eigenständig Ziele auswählen oder generieren sondern nur als Hilfsmittel bei der Aufbereitung von Informationen dienen.
• 7:39
  Speaker 0: Ferner sei der Prozess der Zielidentifizierung nur ein Teil eines umfassenderen Zieleauswahlprozesses und die Geheimdienstmitarbeiter, die Ziele identifizieren, seien nicht diejenigen, die auch über den Angriff auf diese Ziele entscheiden.
• 7:52
  Speaker 0: Die letztendliche Entscheidung des Einsatzkommandanten unterliege zudem den Regeln des Völkerrechts, wofür die IDF eine eigene Abteilung unterhalte.
• 8:01
  Speaker 0: Drohungen mit Entzug der Staatsbürgerschaft.
• 8:04
  Speaker 0: Der Stabchef des israelischen Militärs, General Leutnant Eyal Samir, wies an rechtliche Schritte gegen den Film und die daran beteiligten Menschen zu prüfen, schreibt The Times of Israel.
• 8:14
  Speaker 0: Die Dokumentation deformiere die israelischen Streitkräfte und gebe geheime Informationen weiter, die zur Produktion des Films verwendet worden seien.
• 8:22
  Speaker 0: Auch Israels Ministerpräsident Benjamin Netanyahu wurde deutlich in seiner Kritik.
• 8:26
  Speaker 0: In einem Video das er auf Telegram geteilt hatte erklärte er Zitat Wir kämpfen gegen globale antisemitische Hetze aber wenn sie von innen kommt ist sie einfach unerträglich.
• 8:36
  Speaker 0: Jetzt präsentieren zwei israelische Regisseure die EDF als Kriegsverbrecher unterhalten Beifall beim Filmfestival von Venedig.
• 8:44
  Speaker 0: Zitat Ende.
• 8:46
  Speaker 0: Kulturminister Miki Soha erklärte, er werde unverzüglich Maßnahmen ergreifen um den Filmemachern wegen Landesverrat die israelische Staatsbürgerschaft zu entziehen.
• 8:56
  Speaker 0: Israel befindet sich gerade im Wahlkampf mit einer vorgezogenen Parlamentswahl Ende Oktober.
• 9:01
  Speaker 0: daher können sowohl die Veröffentlichung des Films als auch die Drohungen des Kulturministers in diesem Zusammenhang gesehen werden.
• 9:07
  Speaker 0: Seit Beginn des Krieges hat das israelisch-militär Journalisten den unabhängigen Zugang zum Gassastreifen untersagt.
• 9:14
  Speaker 0: Auch US-Armee sieht Gefahren im KI Einsatz.
• 9:17
  Speaker 0: Auch das amerikanische Militär befasst sich seit langem mit den Vor und Nachteilen des KI Einsatzes, Hauptmann Tyrese Bender stellte in einem Beitrag für Geheimdienstmitarbeiter der US Army herausgegeben vom US Army Intelligence Center am siebten Mai dieses Jahres fest – Der Vormarsch von KI in der modernen Kriegsführung Berge für den militärischen Nachrichtendienst sowohl enorme Chancen als auch operative Risiken.
• 9:43
  Speaker 0: Zwar verspreche die KI eine Steigerung der Analysegeschwindigkeit und Effizienz, doch eine kritische Schwachstelle gefährdet diese Vorteile – die Verzerrung durch KI.
• 9:53
  Speaker 0: Gemeinsam damit systematische Fehler in KI-Systemen, die aufgrund nicht repräsentativer Trainingsdaten fehlerhafter Konzeption oder unsachgemäßer Nutzung zu ungenauen Ergebnissen
• 10:04
  Speaker 0: führen.".
• 10:05
  Speaker 0: Bänder weiter.
• 10:06
  Speaker 0: Die Voreingenommenheit der KI könne das Risiko tödlicher Angriffe auf falsche Ziele, nicht kombattanten oder sogar eigene Streitkräfte
• 10:14
  Speaker 0: bergen.".
• 10:14
  Speaker 0: Zitat die KI-gestützte Zielerfassung der israelischen Streitkäfte im Gasserstreifen unterstreicht die Realität dieser Gefahren.
• 10:22
  Speaker 0: dadurch die Voreangenommenheit Der KI bedingt der Identifizierungsfehler zu unrechtemmäßigen Verhöhren und tödlichen Angriffen auf palästinensische Zivilisten führten schreibt die KI.
• 10:32
  Speaker 0: Expertin.