Latest / Pod und die Welt – Das außenpolitische Update / Iran, USA und die Zukunft der Kriegsführung (mit Verena Jackson)

Transcript

Iran, USA und die Zukunft der Kriegsführung (mit Verena Jackson) · Pod und die Welt – Das außenpolitische Update

• 0:00
  Speaker 1: Die Bundeswehr ist gerade in einem Moment, wo sie Fehler machen muss oder darf.
• 0:05
  Speaker 1: Weil sie in einer Phase ist, in der sich neu auf eine geopolitische aber auch technologische Änderung einstellen muss.
• 0:12
  Speaker 1: Da kann man nicht erwarten dass wir mit der gleichen Agilität oder dem gleichen Selbstverständnis wie eine Militärnation wie die USA agieren.
• 0:27
  Speaker 2: Dieser Krieg ist der erste reale Großkonflikt, in dem KI-gestützte Kriegsführung autonome Drohnen und klassische Abwehrsysteme aufeinander prallen.
• 0:35
  Speaker 2: Und darum soll es heute gehen um das Zusammenspiel von neuer Technologie und Krieg.
• 0:40
  Speaker 0: Wir werden aber über Begriffe sprechen müssen die sehr erklärungsbedürftig sind zum Beispiel dass Projekt Maven.
• 0:46
  Speaker 0: Außerdem geht es über das Phänomen billiger Drohnen gegen teure Raketen, über KI und Algorithmen und viele andere Dinge um völlig neue Konfliktdienen und eine ganz sicher extreme Beschleunigung des Kampfgeschehens.
• 0:59
  Speaker 2: Für viele, die sich damit beschäftigen wie Kriege in Zukunft geführt werden ist dieser Krieg schon jetzt ein sehr ergiebiges Forschungsfeld.
• 1:05
  Speaker 2: Das Bild vom Krieg indem Panzer aufeinander losrollen das es zumindest nicht mehr vollständig und wird immer mehr von anderen Technologien verdrängt oder
• 1:13
  Speaker 2: ergänzt.".
• 1:28
  Speaker 0: Senior Researcher am Center for Intelligence and Security Studies der Universität der Bundeswehr München.
• 1:34
  Speaker 0: Sie ist Transatlantic Technology Forum, Falo der Stanford University und Gründerin der Kanzlei Jackson Legal.
• 1:40
  Speaker 0: Herzlich willkommen bei POT und Die Welt!
• 1:42
  Speaker 1: Herzlichen Dank für die Einladung.
• 1:48
  Speaker 0: Liebe Frau Jackson, wir haben es einiges gesagt – der Iran Krieg wird bereits jetzt als der erste KI-Krieg bezeichnet?
• 1:54
  Speaker 0: Stimmt das so?
• 1:55
  Speaker 1: Ja, das ist natürlich ein bisschen ein Begriff der sich einreitet in diesen Hype.
• 2:00
  Speaker 1: Der doch zur Zeit sich dreht um KI.
• 2:03
  Speaker 1: Man kann sagen ja es gibt Neuerungen in diesem Krieg.
• 2:06
  Speaker 1: die sind nicht unbedingt immer nur der KI geschuldet oder dem was man als KI verkauft sondern einfach der Technologie an sich wie Technologie in diesem kriege eben auch eingesetzt wird.
• 2:18
  Speaker 1: da möchte ich gleich mit diesem Jahr vielleicht Mythos aufräumen, dass ja überall wo KI draufsteht auch KI drin ist.
• 2:25
  Speaker 1: Da muss man natürlich gleich so ein bisschen die Scene setten.
• 2:27
  Speaker 1: was wir heute in diesen ganzen Systemen zu wie vielleicht jetzt noch kommen werden im Gespräch, den Beispiel sehen das es sehr viel einfach auch Algorithmus.
• 2:37
  Speaker 1: Das ist nicht diese intelligente KI die wir alle vor Augen haben wenn wir zum Beispiel an Waffensysteme denken im Krieg an dieses Terminator-Bild, das wir ja alle kennen.
• 2:47
  Speaker 1: Was auch sehr viel zur Angstverbreitung benutzt wird.
• 2:50
  Speaker 1: Sondern dass ist Maschine des Lernen, dass es Mustererkennung, das ist Computer Vision und Datenfusionen.
• 2:57
  Speaker 1: Und es ist nicht immer dieses KI Phänomen wie man es darstellt.
• 3:01
  Speaker 2: Jetzt beschäftigen Sie sich als Forscherin ja auch schon lange mit diesem Themenfeld.
• 3:06
  Speaker 2: Wenn sie sich den Iran-Krieg anschauen, lernen Sie da noch was Neues?
• 3:09
  Speaker 1: Ja auf jeden Fall!
• 3:10
  Speaker 1: Ich denke da können wir alle noch etwas lernen.
• 3:12
  Speaker 1: Auch die sage ich mal ganz alten Hasen, die dann dabei sind.
• 3:15
  Speaker 1: Es ist immer wieder spannend zu sehen wenn man das so sagen kann wie es um ein Krieg geht Wie sich neue Technologien wirklich im Feld verhalten.
• 3:24
  Speaker 1: Also natürlich so dass da sehr viel ...theorie ist bis jetzt.
• 3:27
  Speaker 1: Es wird natürlich sehr viel getestet, auch die Bundeswehr testet sehr viel... Auch die USA haben viel getested bevor sie zum Beispiel diese ja jetzt in aller Munde auch Lukastronen eingesetzt haben.
• 3:38
  Speaker 1: aber das jetzt zu sehen wie das wirklich auf den Gegner trifft und auf die Technologie des Gegners trifft Wie sich das alles verhält?
• 3:43
  Speaker 1: Wie man das dann auch am Ende vielleicht ja nicht nur strategisch-miterisch bewerten kann sondern auch juristisch einheben kann in einen Vakuum indem wir uns ja juristische etwas befinden.
• 3:53
  Speaker 1: Das ist sicherlich sehr sehr spannend.
• 3:54
  Speaker 0: Gott sei Lahn fahre noch Lukas Drohnen, was ist das?
• 3:58
  Speaker 1: Das ist sozusagen die man könnte in Anführungszeichen nachgemachte Schaltdrohne der Iraner.
• 4:05
  Speaker 1: Der Iraner ist ja eine Drohne, die schon sehr viele Jahre auf dem Markt ist natürlich weiterentwickelt verbessert auch heute mit KI-Features oder überhaupt technische Unterstützung.
• 4:15
  Speaker 1: Und die USA haben das sozusagen, ja, ein Anführungszeichen kopiert.
• 4:19
  Speaker 1: Haben das das Vorbild genommen und haben eine sehr günstige Drohne entwickelt?
• 4:22
  Speaker 1: Das ist die sogenannte Lukas-Drohne.
• 4:24
  Speaker 1: Da stinkt schon der Name drin Low Cost also das ist der Anfang dieses Akronyms, um die dreißig, fünfunddreißigtausend Dollar kosten soll.
• 4:31
  Speaker 1: Also sehr günster für das was die Drohnen auch kann!
• 4:34
  Speaker 1: Und das ist jetzt gefieldet in Iran.
• 4:37
  Speaker 1: Also das wird jetzt eingesetzt gegen... sozusagen die Mutter gegen den Disha-Hertdronen auch und gegen iranische Militärtechnologie.
• 4:45
  Speaker 1: Und das kann man so sagen, also wenn man das praktisch vergleicht mit dem, was in der Ukraine gerade passiert oder was passiert ist in den letzten Jahren doch noch eine Neuerung.
• 4:53
  Speaker 1: Also da muss man auch ein bisschen differenzieren zwischen der Ukraine als Kriegsschauplatz.
• 5:05
  Speaker 2: Wenn wir beim Thema Drohnen sind, vielleicht gehen wir da schon genauer drauf ein.
• 5:08
  Speaker 2: Sie haben das gerade erwähnt mit der iranischen Schaddrohne die im Vergleich also jetzt haben sie die Lokostrohne genannt aber an sich eben drohen deutlich günstiger sind als bisherige Patriot-Abfangraketen.
• 5:18
  Speaker 2: beispielsweise inwiefern ist hier wirklich die westliche Verteidigungsarchitektur schon weitergegangen und mit ihrer Logik doch auch teurer Präzisionssysteme noch zeitgemäß?
• 5:28
  Speaker 1: Da würde ich auch wieder differenzieren wollen zwischen, wenn Sie sagen westlicher Technologie oder dem westlichen Feld oder der westlichen Sphäre.
• 5:35
  Speaker 1: Da ist die USA und Europa kann man da nicht immer vergleichen.
• 5:39
  Speaker 1: Wenn wir uns ansehen was zum Beispiel jetzt mit uns auf Deutschland konzentrieren in den letzten Jahren es für Fortschritte gab einerseits in der Entwicklung durch viele, viele Start-ups aber auch die alten Player in der Rüstungsindustrie Und dann aber auch wie die Bundeswehr selber damit umgeht Wie sie testet?
• 5:54
  Speaker 1: Wie sie denn auch in die Beschaffung geht?
• 5:56
  Speaker 1: Da gab's ja vor ein paar Wochen dieses ja doch medial auch großaufbereitete Thema des Kaufes von Drohnen durch die Bundesregierung, von zwei Unternehmen stark und Helsing.
• 6:07
  Speaker 1: Und da muss man differenzieren was praktisch die Bundeswehr im Moment anschaftt und testet und das was die USA schon in den letzten Monate Jahre getestet haben und jetzt in den im Iran Krieg ins Feld bringen.
• 6:20
  Speaker 1: Die Bundeswehr, wer sich im Moment worauf sie sich konzentriert hat jetzt in diesem Beispiel was ich gerade brachte.
• 6:25
  Speaker 1: Das sind immer noch relativ teure Drohnen.
• 6:27
  Speaker 1: das sind auch Drohne die zum Beispiel nicht nur diese Kamikaze-Drohnen sind wenn man sich die vorstellt also dass man die los schickt und die Schlagen irgendwo ein haben praktisch dann ihr Wirkenmittel dort und sind zerstört kommen nicht zurück.
• 6:40
  Speaker 1: Da gibt es eben auch die, die dann trotzdem wieder zurückkommen.
• 6:43
  Speaker 1: Wenn ein Ziel nicht gefunden wird, wenn abgebrochen wird etc.
• 6:46
  Speaker 1: Die kann man mehrfach einsetzen.
• 6:47
  Speaker 1: Da ist natürlich der Preis auch gerechtfertigt und auch die Technik, die da drinsteckt.
• 6:51
  Speaker 1: Diese Lukas Drohnen sind ungefähr roundabout ja eigentlich ein Drittel des Preises von den Dronen, die jetzt in Deutschland beschafft werden sollen.
• 7:00
  Speaker 1: Da geht das um Masse!
• 7:01
  Speaker 1: Da geht es natürlich um sehr viel was ich praktisch in meinem Gegner entgegensetzen kann.
• 7:07
  Speaker 1: Da muss man differenzieren.
• 7:08
  Speaker 1: und noch ein ganz anderes Feld.
• 7:10
  Speaker 1: natürlich ist die Ukraine, die wir gesehen haben, die Drohne die da eingesetzt werden das sind natürlich vom Preis her nochmal eine ganz andere Kategorie deutlich günstiger viel mehr Masse.
• 7:19
  Speaker 1: also da reden wir um das zehnhundertfache in der Produktionskette und natürlich auch sind es sehr viele Drohnen wie wir sie so kennen diese Quadrocopter oder First Person View-Drohne wie man sie nennt.
• 7:31
  Speaker 1: Das is was anderes als eine Helsing oder Starkdrohne.
• 7:35
  Speaker 0: Ich würde bei der Ukraine gerne einhaken vor Jackson.
• 7:37
  Speaker 0: Die Ukraine hat ja sehr günstige Drohnen entwickelt, um mal so ein paar Zahlen zu nennen.
• 7:42
  Speaker 0: So eine Abfangdrohne kostet da nur ein bis viertausend Euro und ne Patriot im Vergleich das sind ja drei bis vier Millionen Euro pro Stück.
• 7:50
  Speaker 0: also das sind ganz andere Dimensionen.
• 7:52
  Speaker 0: jetzt hat die Ukrainer den USA angeboten zu helfen zu unterstützen in ihrer Angriege.
• 7:57
  Speaker 0: Die USA haben das abgelehnt.
• 7:59
  Speaker 0: ist das seitens der USA aus ihrer Sicht sowas wie Tja Stategische Blindheit oder Trotz?
• 8:05
  Speaker 0: Oder gibt es dafür sehr gute Gründe.
• 8:07
  Speaker 1: Ja, also was die USA im Moment manchmal ablehnt oder annimmt oder wie sie vorgeht, da tun sich sehr viele Fragenzeichen für alle Außenstehende auf und muss mal so zu nennen.
• 8:18
  Speaker 1: Es ist natürlich so... Die Praine ist auch ein anderes Gebiet wieder Iran.
• 8:23
  Speaker 1: Da kann man nicht alles, wie ich schon sagte übertragen.
• 8:25
  Speaker 1: Die USA werden sicherlich Vorteile davon ziehen wenn Sie auch die ukrainischen Ja, ich sag mal Erfahrungen annehmen.
• 8:33
  Speaker 1: Die ukrainische Hilfe nach dem wie sich das dann im Endeffekt gestaltet hätte weil die Ukraine natürlich da seit vielen Jahren wirklich Erfahrungen sammeln konnte nicht der Gegner Iran aber der Gegender Russland den natürlich auch wieder iranische Drohnen und Technik unter anderem eingesetzt hat Da sind erfahrungswerte da.
• 8:50
  Speaker 1: Das kann man ja allgemein auch so beschreiben eigentlich als Drohn-Testlabor sozusagen der letzten Jahre Werden alle von Profitieren, die diese Daten annehmen, die das als Erfahrungswerte wertschätzen und das auch umsetzen?
• 9:03
  Speaker 1: Ob das die USA sind oder Europa.
• 9:05
  Speaker 1: Das ist dann einerlei.
• 9:07
  Speaker 2: Und wenn wir so ein bisschen grundsätzlicher darauf schauen, wenn wir darüber sprechen wie viel günstiger Drohnen sind, wie viel einfacher es vielleicht auch ist damit sich zu verteidigen oder auch anzugreifen inwiefern verändert das generell das Verhältnis von Überlegenheit und Abwehr?
• 9:22
  Speaker 1: Also da muss man natürlich auch gucken, die Drohnen, die günstig sind.
• 9:25
  Speaker 1: Auch die in der Arkane in Masse hergestellt werden, sind zum Beispiel auch Interceptadrohnen.
• 9:29
  Speaker 1: Da geht es dann auch Drohne gegen DrohNE.
• 9:31
  Speaker 1: Das ist jetzt ein anderes Einsatzfeld wie wenn man z.B.
• 9:34
  Speaker 1: im Iran eine Stellung oder größere Ziele zerstören möchte.
• 9:39
  Speaker 1: Da braucht man natürlich Unterschiede.
• 9:40
  Speaker 1: deswegen auch kann man nicht sagen, wenn man nur billige kleine DrohNen hat in MasSE gewinnt man einen Krieg.
• 9:45
  Speaker 1: Man kann genauso gut nicht sagen Wenn wir das beste Equipment haben was total teuer ist und aber ganz Hightech und da auch wieder eben mit KI voll beladen gewinnen.
• 9:54
  Speaker 1: Es wird eine Mischung geben werden, es wird eine mischung aus beidem benötigt werden.
• 9:59
  Speaker 1: Und auch da wieder Deutschland muss sich klar machen natürlich haben wir hoch komplexe technologische Systeme die gerade in der mache sind mit tollen Hochglanz-Pospekten.
• 10:09
  Speaker 1: Wir brauchen aber nicht nur dies sondern auf lange Sicht gesehen wird das auch die Masse sein.
• 10:13
  Speaker 1: und gerade wenn wir uns zum Beispiel unsere Drohnen sichtungen hier ansehen Das ist ja wirklich noch kein Kriegsszenario, kein Konfliktszenario brauchen wir kleine Drohnen, die zum Beispiel die Drohne abfangen können.
• 10:23
  Speaker 1: Und da wird es eine Mischung geben!
• 10:25
  Speaker 1: Man kann schon sagen dass sich so allgemein gesagt diese ganze Entwicklung zu... kleinen, schnellen Drohnen, billigen Drohne aber auch diesen anderen System die sehr hoch gerüstet sind technologisch.
• 10:36
  Speaker 1: Es wird alles schneller.
• 10:37
  Speaker 1: also man sagt da so ein bisschen der Scale und Speed das sind so die beiden Begriffe die sich eigentlich komplett in der aktuellen Debatte durchziehen wie wir was wir konfrontiert werden und mit was wir gegenhalten müssen.
• 10:50
  Speaker 1: es wird alles Schneller.
• 10:51
  Speaker 1: einerseits natürlich die KI die wir eingangs angesprochen haben oder die unterstützungs ich sag jetzt mal die algorithmischen Unterstützungssysteme Erlauben es, viel schneller Entscheidungen zu treffen.
• 11:03
  Speaker 1: Viel mehr Ziele auch anzuvisieren und dann natürlich mit der Masse an die Drohnen, die ich vielleicht eben habe, so engagem also wirklich zu attackieren und auszuschalten.
• 11:15
  Speaker 1: im Falle Das geht sehr schnell und das wird auch in die
• 11:19
  Speaker 0: Masse gehen.
• 11:24
  Speaker 0: Scale and Speed.
• 11:26
  Speaker 0: Gutes Stichwort?
• 11:27
  Speaker 0: Die USA sollen ja Software, also gar nicht mit einer KI sondern eine Software namens Maven in nur vier Tagen über zwei tausend Ziele getroffen haben im Iran.
• 11:36
  Speaker 0: Das ist ja ein ziemlich wahnsinniges Tempo und das soll jetzt daran liegen dass diese Gefechtsfeld-Software einfach enorme Mengen an Aufklärungsdaten verarbeiten kann nämlich binnen Minuten.
• 11:47
  Speaker 0: wie auch.
• 11:47
  Speaker 0: dann sieht es ein?
• 11:48
  Speaker 0: Ist das ein militärischer Erfolg oder ist das irgendwie auch ein Wahnsignal für das Tempo mit dem Kriege geführt werden können?
• 11:55
  Speaker 1: Ich würde das als beides einordnen.
• 11:56
  Speaker 1: Es ist einerseits natürlich ein Erfolg, technologischer, strategischer und militärischer aber gleichzeitig auch ein Wahnsignal.
• 12:04
  Speaker 1: dieses Projekt MAVEN oder MAVEN Smart Systems MSS wie man das tituliert Das ist eine Neuerung die im Moment sehr populär dargestellt wird.
• 12:16
  Speaker 1: wir haben es gesehen für einen paar Tagen, ein paar Wochen auch durch Palantir selbst.
• 12:20
  Speaker 1: Palantiri ist ja das Unternehmen was maßgeblich daran beteiligt war an der Entwicklung und ich sage dabei maßgiblich weil es nicht ein palantier Produkt als solches.
• 12:28
  Speaker 1: da muss man bisschen weiter ausholen.
• 12:29
  Speaker 1: also Maven ist eigentlich ein Projekt gewesen des amerikanischen damals noch DODs die PubMed of Defense heute die PubMend Of War was eigentlich gedacht war vor ungefähr zehn Jahren zur Unterstützung bei Auswertung von Bildern, also bei Computer-Vision-Analysis sozusagen.
• 12:49
  Speaker 1: Das hat sich dann weiterentwickelt.
• 12:51
  Speaker 1: und heute wie Sie eben auch schon angesprochen haben, haben wir da ein Smart System was wirklich eine Plattform ist von verschiedenen Daten die es praktisch sich zieht, die es zusammenführt Die es dem Nutzer ermöglicht nicht an verschiedenen Bildschirmen wie das früher praktisch war im Prozess irgendwelche verschiedenen Systeme und Daten zusammenführen zu müssen um ein Lagebild zu bekommen, um auch dann später ins Targeting zu gehen.
• 13:16
  Speaker 1: Sondern das wird alles praktisch komprimiert in diesem System.
• 13:19
  Speaker 1: Das macht es unheimlich schnell weil wir hatten früher oder im klassischen sage ich mal Prozess da gibt es Personen die müssen wirklich sich... Papier angucken.
• 13:30
  Speaker 1: Die müssen sich absprechen mit anderen Personen, wie gerade die Umgebungen sind für ein Target, für einen Ziel.
• 13:38
  Speaker 1: Da werden verschiedene Nachrichten, diese Quellen fusioniert.
• 13:41
  Speaker 1: Das ist ein langer Prozess.
• 13:42
  Speaker 1: Das muss für jedes Ziel vollzogen werden.
• 13:45
  Speaker 1: Maven macht das jetzt praktisch alles innerhalb von Sekunden kann man sagen und aktuell.
• 13:51
  Speaker 1: Das heißt es ist wirklich... Innerhalb von Sekunden entschieden worden, okay ich bin der Operator.
• 13:56
  Speaker 1: Ich habe mein Lagebild.
• 13:57
  Speaker 1: kann ich das freigeben oder kann nicht frei geben?
• 14:01
  Speaker 1: Das beschleunigt und gleichzeitig folgt aus dieser Beschleunigung auch dass sich viel mehr Ziele anvisieren kann und treffen kann und die Auswahl steigt dadurch.
• 14:10
  Speaker 1: Das ist das eine!
• 14:12
  Speaker 1: Das ist natürlich militärisch auf der Hand liegend immer ein Vorteil.
• 14:17
  Speaker 1: Wenn ich schneller bin, wenn ich schnellere Entscheidungen treffen kann als in meinem Gegner und diese dann aber auch noch präzise sind das ist natürlich auch ganz wichtig.
• 14:25
  Speaker 1: da kommen wir aber fast dann auch schon wieder in die Nachteile
• 14:28
  Speaker 1: sozusagen.".
• 14:29
  Speaker 2: Und wenn Sie das so beschreiben wie schnell es beim Project Maiden funktioniert?
• 14:33
  Speaker 2: Und ja auch ein Großteil der Schritte eben automatisiert passiert wo genau liegt da die Grenze direktlich und die ethisch entscheidende Grenze und wie weit kann sie und wird die auch gewahrt?
• 14:43
  Speaker 1: Da scheinen sich so ein bisschen die Geister.
• 14:45
  Speaker 1: Man kennt ja wahrscheinlich, wenn man sich mit der Thematik allgemein etwas befasst auf dieses tolle System oder dieser tolle Terminus der Meaningful Human Control, der dann aufkam in den letzten Jahren?
• 14:57
  Speaker 1: Also dass ein Mensch immer noch im Loop sein muss!
• 15:00
  Speaker 1: Ein Mensch muss am Ende die Entscheidung treffen können... Gebe ich einen Ziel frei oder nicht?
• 15:05
  Speaker 1: Jetzt sehen Sie aber schon, wenn man das Meaningful nennt.
• 15:08
  Speaker 1: Das ist die Frage was ist denn Meaningful hier überhaupt?
• 15:11
  Speaker 1: Da gibt es verschiedene Ansätze, die differenzieren zwischen vor allen Dingen auch Nationen.
• 15:15
  Speaker 1: Die USA sind da ein bisschen großzügiger und ein bisschen weiter wie zum Beispiel wir Deutschen dass klassisch im Völkerrecht verstehen würden.
• 15:22
  Speaker 1: Aber es gibt keine Definition, die felsenfest für mich als Juristin oder für jeden anderen Juristen, der da sich mit beschäftigt sagt okay ich kann es kategorisieren.
• 15:34
  Speaker 1: Das ist noch in Ordnung unter internationalen Recht mit der meaningful human control.
• 15:39
  Speaker 1: und das nicht weil gerade wenn wir auf maven smart systems schauen ja es wird argumentiert der mensch am ende is dänige der die entscheidung trifft.
• 15:50
  Speaker 1: soll ein ziel angegriffen werden?
• 15:51
  Speaker 1: Oder nicht?
• 15:52
  Speaker 1: Gebe ich das frei?
• 15:53
  Speaker 1: Alles was davor?
• 15:54
  Speaker 1: aber Da ist die Frage überprüft, hat er die Möglichkeit das zu überprüfen?
• 15:59
  Speaker 1: Dass er überhaupt seine Entscheidung wirklich treffen kann.
• 16:02
  Speaker 1: Dass er die reflektieren kann und dass er sie überprüpen kann?
• 16:05
  Speaker 1: oder ist es nur so, dass er auf die Empfehlungen des Systems hört und sich darauf verlässt?
• 16:12
  Speaker 1: Das ist im Moment so, wenn man sagt Wenn das so der Fall ist, dass ich ein System habe – das war auch die Diskussion vor einiger Zeit mit diesem Lavender-System, den Israel angewandt wurde oder wo dies die Berichte gab, dass es Israel angewandt wurde.
• 16:26
  Speaker 1: Wo die freigebende Person wirklich nur zwanzig Sekunden gehabt haben soll oder sich zwanzich Sekunden Zeit genommen haben soll – die Empfehlung, die das System, die die KI in Anführungszeichen ihr gab, frei zu geben und dann wirklich ein Ziel ja zu
• 16:42
  Speaker 1: neutralisieren.".
• 16:43
  Speaker 1: Wenn das so ist kann man sagen, dass dieses Meaningful NUR nominal is'.
• 16:48
  Speaker 1: Da ist eine Formalier, das ist keine Minu-Full Human Control mehr.
• 16:52
  Speaker 1: Und da kommen wir in die Problematik mit dem Völkerrecht wie wir es jetzt
• 16:55
  Speaker 1: haben.".
• 16:56
  Speaker 2: Das frage ich mir nämlich gerade, hätt ich nur kurz in Nachfrage zu ob wir aus Ihrer Intensivnacht da einfach rechtlich nicht schnell genug hinterherkommen um das dann genauer zu definieren oder ob das eigentlich gar nicht möglich ist weil es viel zu komplex ist.
• 17:07
  Speaker 1: Also einerseits auf jeden Fall der Punkt, dass das Recht immer so etwas der Technologie hinterherhängt.
• 17:12
  Speaker 1: Das ist stehender Konsens, das ist nicht nur jetzt im militärischen Kontext, sondern auch in unseren Alltagstechnologischen Problemen wenn wir gerade auf Datenschutz etc.
• 17:21
  Speaker 1: schauen einen Fall.
• 17:22
  Speaker 1: Der nächste Punkt natürlich ist der Wille da!
• 17:24
  Speaker 1: dass man so etwas definieren will.
• 17:26
  Speaker 1: Wollen wir oder was heißt denn, wir sagen Wir?
• 17:29
  Speaker 1: Will die Staatengemeinschaft oder bestimmte Player der Staatengemeinschaft dieses Meaningful Human Control Element oder alle anderen Probleme, die sich auch noch richtig da anschließen wirklich definieren?
• 17:41
  Speaker 1: und wenn wir es definiert haben wollen wir uns binden wollen.
• 17:44
  Speaker 1: einzelne Staaten sagen wir haben das für uns definiert und alles was dieser Tradition nicht entspricht wird verboten für unseren Einsatz, unsere Innovation.
• 17:55
  Speaker 1: Andere Staaten würden sich nicht binden wollen.
• 17:57
  Speaker 1: Würden sich dem auch nicht unterwerfen
• 18:00
  Speaker 1: wollen.".
• 18:00
  Speaker 1: Dann ist es natürlich so klar, denklogisch die Staaten, die sich nicht binden, die sie sich nicht selbst sagen wir mal so regulieren haben militärisch strategisch ein Vorteil.
• 18:10
  Speaker 1: das ist ganz wertfrei.
• 18:11
  Speaker 1: wenn man das so sieht ist einfach Fakt.
• 18:13
  Speaker 1: Und da ist es so, wenn man da mal guckt was in den letzten Jahren alles passiert ist.
• 18:17
  Speaker 1: Gerade auf UN-Ebene in Genf seit mittlerweile zehn Jahren gibt es Bestrebungen dass wir autonome Systeme oder autonomen Waffensysteme dann muss man wirklich auch präzise sein juristisch mit der Thermologie verbieten wollen oder einschränken wollen.
• 18:32
  Speaker 1: und ich war da schon vor... Zweiundzwanzig vor dem Russland-Ukraine Krieg und habe da schon gesehen wie schwierig es war einfach verschiedene Player in Russland klar USA aber auch andere In ein Konsens zu bringen und alle unter einen Hut zu bringen, um zu sagen ja wir einigen uns auf etwas.
• 18:48
  Speaker 1: Wir möchten das beschränken und da gilt bei sowas zum Beispiel als Konsensprinzip und da sehe ich in naher Zukunft keine Lösung beziehungsweise keine Regelung die da groß etwas regulieren wird.
• 19:01
  Speaker 0: Das ist ja eigentlich ein sehr trauriger, schlimmer Befund oder das eine Regelung die dazu führen müsste dass man sich ein Völkerrecht hält oder da auch neue gemeinsame Regeln verabschieden.
• 19:13
  Speaker 0: Die einfach findet, dass es gar nicht irgendwie in Nahtzug und gefunden werden kann weil die militärischen Vorteile einfach überwiegen und weil Staaten sagen naja warum sollte ich mich den an philosophische Fragen sozusagen erst mal halten wenn ich doch auf dem Gefechtsfeld einfach sehr viel schneller Fakten schaffen kann?
• 19:29
  Speaker 0: also Eigentlich ein furchtbar trauriger Aussage, oder?
• 19:33
  Speaker 1: Ja.
• 19:33
  Speaker 1: Wenn man das so natürlich sieht, abstrakt gesehen ist es sicherlich durchaus beängstigend.
• 19:38
  Speaker 1: Oder jedenfalls kann man die Dinge hinterfragen.
• 19:41
  Speaker 1: Man muss aber sehen, dass Recht ja auch nie ... plötzlich da war.
• 19:45
  Speaker 1: Also gerade im Völkerrecht ist es ja nicht gekommen, es war Krieg und der Krieg war von Anfang an reguliert.
• 19:50
  Speaker 1: Das war auch ein Prozess.
• 19:51
  Speaker 1: Es gab immer die Prozesse, es gab neue geopolitische Lagen, es gibt neue kriegstechnische Innovationen und im Nachhinein hat man sich dann zusammengerauft und hat gesagt wir regulieren jetzt etwas weil wir sehen wie viel Leid eben auch bestimmte Technologien bringen können.
• 20:08
  Speaker 1: das Sehen wir seit Jahrhunderten, wir haben es natürlich im letzten Jahrhundert sehr schnell gesehen mit ganz eklatant nach dem zweiten Weltkrieg.
• 20:17
  Speaker 1: Dann kam das Gewaltverbot und das kriegsvollgerecht so wie wir es heute kennen.
• 20:20
  Speaker 1: Da könnte man jetzt sagen naja es muss immer erst mal was passieren vor der die Leute praktisch in die Pötte kommen sozusagen.
• 20:27
  Speaker 1: Da kann man sagen, wir können bei AI oder bei KI in der Kriegsführung da nicht drauf vertrauen und nicht darauf hoffen.
• 20:33
  Speaker 1: Weil die Auswirkungen von KI wie wir sie heute haben, nicht beschränkt sind auf militärische Systeme.
• 20:39
  Speaker 1: Das ist... Anders in der Technologie wie zum Beispiel an Panzer, bei denen wir im Ersten Weltkrieg hatten oder andere technologischen Neuerungen in der Vergangenheit.
• 20:48
  Speaker 1: Es geht viel weiter.
• 20:49
  Speaker 1: es passt in eine Bedrohungslage die wir heutzutage haben wo dann auch noch Cyber-Komponenten mit reinkommen.
• 20:55
  Speaker 1: dieses System ist natürlich anfällig für auch hybride Maßnahmen.
• 21:00
  Speaker 1: also da sind wir in einem sozusagen Konglomerat der Probleme Wenn man es so runterbrechen will und da ist eine jedenfalls Teilregulierung sektorial im Moment einfach die einzige Lösung, die in Aussicht steht.
• 21:12
  Speaker 1: Dass es zu einem Komplettverbot kommen wird oder einen großen Zusammenraufen der Staatengemeinschaft, einem Verbot – das wird nicht in Aussichten stehen!
• 21:21
  Speaker 2: Jetzt beschreiben Sie das, wie KI natürlich auch alle anderen Lebensbereiche sehr stark verändert und wir da in vielen Bereichen noch keine Antworten oder Regelungen für haben.
• 21:28
  Speaker 2: Aber bei KI im Krieg geht es ja ganz klar um eine Entscheidung wo in dem Moment ein Mensch stirbt oder nicht.
• 21:35
  Speaker 2: Wie ist es denn aktuell geregelt wenn eine KI einen Ziel falsch identifiziert?
• 21:39
  Speaker 2: Und dann bestmöglich?
• 21:40
  Speaker 2: sind die Zivilisten dabei sterben?
• 21:42
  Speaker 2: wer haftet dafür?
• 21:43
  Speaker 1: Das ist die gute Frage, wo über sich sehr viele Gedanken machen.
• 21:46
  Speaker 1: Ganz viel Papier schwarz gemacht wurde in den letzten Jahren und eben auch in Genf, obwohl er in der Ebene diskutiert wird.
• 21:51
  Speaker 1: Und das ist so ein bisschen die Accountability-Gap wie man es im Völkerrecht nennen kann.
• 21:56
  Speaker 1: Das ist einerseits erstmal die Frage können wir unser altes Recht haben?
• 22:00
  Speaker 1: Zum Beispiel auch... ja, völker Strafrecht bei Kriegsverbrechen etc.
• 22:05
  Speaker 1: nicht nur immer auch vielleicht die Haftungsfragen wenn etwas schiefläuft sondern was Intent also wirklich mit Vorsatz ist Schiefläufe.
• 22:12
  Speaker 1: können wir das einhegen?
• 22:13
  Speaker 1: Können wir sagen es ist der Operator also der der wirklich diesen Knopf gedrückt hat Der grüne Knopf der sagt Ja agreed ich lege los mit meiner Zielefassung.
• 22:23
  Speaker 1: oder ist es vielleicht in man auf der ganz anderen Seite guckt das Unternehmen, dass dieses Produkt im Umlauf gebracht hat oder alles was dazwischen noch ist.
• 22:31
  Speaker 1: Da hat man im Moment noch keine klare Regelungen und das wirkt sich natürlich erst mal auf den Krieg an sich aus, die kriegerischen Handlungen.
• 22:40
  Speaker 1: es wirkt aber auch auf die Unternehmen aus weil auch hier wenn wir auf Deutschland gucken haben sehr viele Start-ups die sehr agil in diesen Bereichen tätig sind mit sehr vielen Neuerungen.
• 22:49
  Speaker 1: das sind ganz klassische auch zielrechtliche Haftungsfragen am Ende die da dranhängen?
• 22:55
  Speaker 1: Haben wir noch keine juristisch-tragfähige Regelung?
• 22:59
  Speaker 1: Die sagt, so ist es und nicht anders.
• 23:01
  Speaker 0: Ich würde gerne noch einen Aspekt ergänzen.
• 23:07
  Speaker 0: vor Jackson auf die Bundeswehr nochmal ganz kurz gucken.
• 23:10
  Speaker 0: was lernt denn die Bundeswehre aus diesem Iran Krieg und aus dem neuen Verhältnis von Technologie und Konflikt.
• 23:17
  Speaker 1: Die Bundeswehr lernt sicherlich dass sie dieses klassische Bass wird das ich eigentlich ungern verwende aber was ich verwenden muss ein Mindset Shift braucht.
• 23:25
  Speaker 1: Das ist einerseits natürlich erst mal auch wieder vor dem Hintergrund, dass es so keine Krieges und jetzt noch einmal Iran und diese ganzen technologischen Neuerungen in diesen Jahren die so schnell auf uns zukommen.
• 23:38
  Speaker 1: in der Beschaffung schneller werden müssen.
• 23:40
  Speaker 1: Dass wir aber auch vielleicht manchmal Fehler tolerieren müssen, wenn ich noch mal zurückgehen darf auf diese Diskussion wie die Bundeswehr die Drohne von Helsinki stark beschafft hat vor ein paar Wochen.
• 23:50
  Speaker 1: Da wurde gleich ins Feld geführt naja aber die können vielleicht doch gar nicht alles oder die sind ja noch eine Testphase und es ist alles so teuer.
• 23:57
  Speaker 1: Ja das ist wahr da muss man ganz genau hingucken und ganz genau prüfen.
• 24:00
  Speaker 1: Aber die Bundesware ist gerade an einem Moment wo sie Fehler machen muss oder darf, weil sie in einer Phase ist, in der sich neu auf eine geopolitische aber auch technologische Änderung einstellen muss.
• 24:14
  Speaker 1: Da kann man nicht erwarten dass wir mit der gleichen Agilität oder dem gleichen Selbstverständnis wie eine Militärnation wie die USA agieren.
• 24:22
  Speaker 1: da muss man differenzieren.
• 24:23
  Speaker 1: gleichzeitig muss die Bundeswehr oder Deutschland an sich lernen auch hier wieder Unabhängiger zu sein, unabhängig agieren zu können.
• 24:31
  Speaker 1: Einerseits in der Beschaffung andererseits aber auch im Standing.
• 24:35
  Speaker 1: Wir können das ist auch wieder leider so ein Bass wird diese Autonomie von der alle sprechen jetzt nicht in Maffensysteme sondern einfach der deutschen europäischen Automie.
• 24:44
  Speaker 1: Unabhängigkeit von Ländern wie Russland, China USA und anderen Zulieferern.
• 24:49
  Speaker 1: Das geht nicht von heute auf morgen Und da ist es einfach der Fall dass wir auch hier Stück für Stück vorgehen müssen und der Bundeswehr die Möglichkeiten geben, im Sinne von wir gestehen ihr zu sie orientiert sich nur.
• 25:02
  Speaker 1: Wir gestehn ja aber auch zu es muss endlich der Mindset Shift passieren und zwar nicht nur mit Geld sondern auch wirklich mit den internen Prozessen.
• 25:10
  Speaker 2: Und sie sagen, es wird auch schon in anderen Bereichen oder im Bereich der konventionellen Kriegsführung oder Verteidigungspolitik darüber gesprochen.
• 25:17
  Speaker 2: Dass man unabhängiger werden muss in Deutschland und Europa.
• 25:19
  Speaker 2: Wir reden immer viel über die Frage der europäischen Interoperabilität.
• 25:23
  Speaker 2: Inwiefern ist das jetzt mit Blick auf eine Software wie Maven aber auch KI-Systeme gegeben?
• 25:29
  Speaker 2: Oder ein weiterer Hinterungsgrund?
• 25:30
  Speaker 2: Die
• 25:31
  Speaker 1: Hinterungsgründe würde ich sagen, ist nicht weil das gute... einer der guten Dinge, die man auch mal bei der Thematik rausstellen muss ist.
• 25:38
  Speaker 1: Diese Technologien sind gerade in der Mache.
• 25:40
  Speaker 1: Das heißt sie sind aus der Agil und können angepasst werden.
• 25:42
  Speaker 1: Sie haben auch grad Maven angesprochen.
• 25:44
  Speaker 1: Maven ist eben nicht nur ein System der USA was vom Pentagon benutzt wird sondern auch etwas von der NATO benutzt wurde.
• 25:50
  Speaker 1: Auch seit letztem Jahr bereits unter Gapis zum Beispiel im Herbst letzten Jahres Industry Days der NATO mit verschiedenen europäischen Unternehmen anbietern auch mit einem deutschen zum Beispiel Quantum Systems wo getestet wird austariert wird, wie diese Interoperalität funktioniert.
• 26:07
  Speaker 1: Und die funktioniert da sehr gut weil die Zusammenarbeit trotz der ganzen transatlantischen Schwierigkeiten, die man sie nennen will in den letzten Jahren zwischen Unternehmen funktioniert und die NATO ist auch da nicht unabhängig.
• 26:20
  Speaker 1: Wie Sie sehen Mavin ist ein System was primär in den USA Benutzt wird primär von amerikanischen Unternehmen, da ist Palantir.
• 26:29
  Speaker 1: Da ist aber auch Amazon Web Services dabei.
• 26:31
  Speaker 1: also das sind nicht nur die Defense Player sozusagen.
• 26:35
  Speaker 1: Das ist natürlich wieder auch ein Punkt, wo man die Naht überlegen muss.
• 26:38
  Speaker 1: will ich das oder habe ich eine europäische Alternative dies aber im Moment zu einem System wie zum Beispiel Maven so in dem Maße noch nicht gibt?
• 26:46
  Speaker 0: Wenn Sie zum Abschluss einen Satz formulieren müssten, der die strategische Lehre aus dem Iran-Krieg für europäische Demokratien auf den Punkt bringt.
• 26:55
  Speaker 0: Wie lautet dieser Satz?
• 26:57
  Speaker 1: Der möchte ich jetzt fast ein bisschen ketzerisch sein und möchte sagen... Die Technologie, der technologische Fortschritt ist da!
• 27:05
  Speaker 1: Und er wird bleiben, er wird voranschreiten und wir als Europäer müssen sehen ob wir uns damit wie uns Boot setzen wollen oder ob wir sagen, nein, wir machen da nicht mit.
• 27:14
  Speaker 1: Und wenn wir Letzteres entscheiden haben wir einen Nachteil der uns strategisch auf lange Sicht sicherlich ums Gelände zu sagen nicht weiterbringt sondern das sehe ich eigentlich als durchaus gefährlich.
• 27:26
  Speaker 0: Sagt Verena Jackson von der Universität der Bundeswehr in München vielen Dank für das Gespräch
• 27:32
  Speaker 1: sehr gerne.
• 27:37
  Speaker 2: Das war ein sehr dichtes, für mich persönlich vor allem ein sehr lehrreiches Gespräch.
• 27:41
  Speaker 2: Wie zum Ende einer jeden Folge fassen wir nochmal kurz zusammen?
• 27:44
  Speaker 2: Welche Punkte uns besonders wichtig erscheinen, welche uns vielleicht noch beschäftigen?
• 27:48
  Speaker 2: Martin, magst du anfangen?
• 27:49
  Speaker 0: Ja, sehr gerne!
• 27:50
  Speaker 0: Danke Katharina.
• 27:51
  Speaker 0: Ich sitze hier so ein bisschen in der Mischung aus beeindruckend erschlagen weil beeindruckt.
• 27:55
  Speaker 0: könnte man jetzt noch einfach analytisch sagen wow was ich da alles tut und wie schnell das alles geht es ist ja sagenhaft.
• 28:01
  Speaker 0: Ich finde es aber einigermaßen beängstigend dass wir sehen, dass das Recht und darüber nachdenken.
• 28:08
  Speaker 0: Was tun wir da eigentlich?
• 28:09
  Speaker 0: Viel viel langsamer ist als die Entwicklung jetzt.
• 28:11
  Speaker 0: konkret hat im Iran Krieg und auf dem Schlachtfeld den Schlachtferien.
• 28:15
  Speaker 0: Da werden einfach Fakten geschaffen und die Leute, die da gerade Fakte schaffen haben überhaupt kein Interesse daran das irgendwie zu codifizieren.
• 28:22
  Speaker 0: Wenn Pete Hexeth der US-Verteidigungsminister gestern gesagt hat wir verhandeln mit Bomben so hart wie möglich dann zeigt es ja einfach was geistes Kind diese Leute gerade sind.
• 28:32
  Speaker 0: Und darüber hinaus dass du auch in Gespräch angesprochen Katharina das recht immer hinterher hinkt natürlich eine Entwicklung haben, wo man gar nicht weiß in welchem exponentiellen Tempo das immer sich noch weiter fortschreibt.
• 28:47
  Speaker 0: Also da steht man schon ziemlich staunt davor gerade und hat keine richtige Idee wie man es eigentlich nochmal einhegen möchte diesen Geist der aus der Flasche gekommen ist.
• 28:55
  Speaker 0: Wie war's denn bei dir Katharina?
• 28:57
  Speaker 2: Ja das kann ich gut nachvollziehen geht mir ähnlich.
• 28:59
  Speaker 2: also ich finde auch der Aspekt Völkerrecht macht Bauchschmerzen.
• 29:03
  Speaker 2: Also vor allem dieser Aspekt, den Verena Jixon aufgeworfen hat das eben auch die Frage ist wer hat überhaupt ein Interesse daran dass zu regeln nicht nur dass wir langsam sind sondern dass es vielleicht auch einfach gewollt ist dass es keine klaren Regeln dafür gibt?
• 29:15
  Speaker 2: ich fand aber aus dem Gespräch auch noch mal interessant dass auch so einen Reminder für mich selbst dass man bei dem KI-Hype ein bisschen genauer hinschauen muss dass einfach nicht alles KI isst sondern dass man das doch differenzierter betrachten muss das ist da auch einfach um eine normale Software und Algorithmen geht dass sie sehr gut beschrieben hat, wie sich natürlich die technologische Entwicklung verändert.
• 29:36
  Speaker 2: Dass wir deutlich mehr über Drohnen, über kleinere, schnellere Drohne sprechen aber das wäre eben auch weiterhin eine Mischung aus der konventionellen Abwehrsysteme beobachten werden also Scale und Speed auf der einen Seite und gleichzeitig aber doch keine ausschließlichen Dronenkriege die wir in Zukunft sehen
• 29:52
  Speaker 1: werden.
• 29:56
  Speaker 2: Damit endet diese Folge von POT und die Welt, das Außenpolitische Update der Zeitschrift Internationale Politik.
• 30:02
  Speaker 2: Schön dass Sie uns zugehört haben!
• 30:04
  Speaker 2: Ich bin Katharina Peetz
• 30:06
  Speaker 0: Und ich bin Martin Bielecki und wenn sie mögen dann hören wir uns in zwei Wochen wieder.