Latest / Epoch Im Fokus / Tod im Pestlabor: Wie real ist die Biowaffengefahr durch KI? #204

Transcript

Tod im Pestlabor: Wie real ist die Biowaffengefahr durch KI? #204 · Epoch Im Fokus

• 0:00
  Speaker 0: Herzlich willkommen zu Epoch im Fokus mit dem Thema Verdacht in Irkutsk, Tod im Pestlaborer.
• 0:06
  Speaker 0: Wie real ist die Biowaffengefahr durch KI?
• 0:09
  Speaker 0: Ein Artikel von Tom Göller vom elften Oktober.
• 0:11
  Speaker 0: zwanzig sechsundzwanzig am Mikrofon Alexander Sieber.
• 0:15
  Speaker 0: Nach dem Tod einer Laborantin eines russischen Pestinstituts gibt es im Westen Biowaffung.
• 0:20
  Speaker 0: Spekulationen.
• 0:21
  Speaker 0: Zwei Analysen vom Bundestagsbüro TRB und von Antropik zeigen große Programme bleiben staatlich.
• 0:28
  Speaker 0: KI erleichtert eher kleinere Anschläge.
• 0:32
  Speaker 0: Alle Bundeswehrsoldaten müssen einmal im Jahr eine sogenannte ABC-Ausbildung absolvieren, beziehungsweise auffrischen.
• 0:39
  Speaker 0: Sie lernen wie sie sich im Fall eines Atomaren, biologischen oder chemischen Angriffs schützen können.
• 0:44
  Speaker 0: – obwohl seit den Erfolgen von der USA ein weltweites Übereinkommen über das Verbot Biologischer Waffen in Kraft ist und beispielsweise von allen NATO Staaten Russland und der Volksrepublik China unterzeichnet wurde, glauben Militärs nicht daran dass sich jeder Unterzeichnerstaat an dem Vertrag hält.
• 1:00
  Speaker 0: Das wurde zuletzt besonders bei der NATO-Übung Platinum Mask XXIII.
• 1:04
  Speaker 0: Im Juli, die in der Oberlausitz die Reaktion auf einen ABC-Angriff auf das NATO Bündnisgebiet geübt wurde.
• 1:11
  Speaker 0: Für das Militär ist die Bedrohung durch Biowaffen also kein Hirn gespinst.
• 1:16
  Speaker 0: Spekulationen über einen Pesterreger.
• 1:20
  Speaker 0: Seitdem bekannt wurde, dass die achtundzwanzigjährige russische Laborantin Daria Schipilova am zweiten Oktober in einem Krankenhaus in Szelechow bei Irkutsk starb werden in westlich Medien Spekulationen laut.
• 1:31
  Speaker 0: Die Frau sei an einem Pesterreger gestorben da sie im Irkutzke Antipest Forschungsinstitut für Siebieren und den fernen Osten gearbeitet hatte.
• 1:39
  Speaker 0: Seither wurden in Medien mehrfach der Verdacht geäußert Russland Forscher an Bio-Waffen.
• 1:45
  Speaker 0: Moskau wies diese Spekulationen zurück.
• 1:47
  Speaker 0: Am vierten Oktober meldete die staatliche Russische Nachrichtenagentur TASS, die Nationale Gesundheits- und Verbraucherschutzbehörde Rossportrebnazoa stelle klar.
• 1:56
  Speaker 0: Bei der verstorbenen Laborantin seien keine Mikroorganismen gefunden worden, die mit ihrer beruflichen Tätigkeit in Zusammenhang stünden.
• 2:03
  Speaker 0: Vielmehr sei eine Lungenentzündung unbekannter etiologie diagnostiziert worden heißt es in der Tassmeldung.
• 2:09
  Speaker 0: Weil die Verstorbene an einem Pestforschungsinstitut arbeitete, verbreitete sich in der westlichen Öffentlichkeit.
• 2:14
  Speaker 0: Die Annahme ist könne er sich in Wahrheit um eine Lungenpest handeln, die durch das Bakterium Ersinia pest dies verursacht wird.
• 2:21
  Speaker 0: Sie ist die ansteckendste Form der Pest und verbreitet sich über Tropfeninfektion.
• 2:26
  Speaker 0: Die Weltgesundheitsorganisation wahrt Russland um weitere Informationen zu dem Fall und zu Berichten über einen zweiten Erkrankten mit einer Lungenentzündung unklarer Ursache.
• 2:35
  Speaker 0: Nach Angaben der russischen Behörden wurde bei keiner der Kontaktpersonen der Verstorbenen PST nachgewiesen.
• 2:41
  Speaker 0: Rund neunzig Prozent, der zunächst etwa zweihundert unter Quarantäne gestellten Personen seien nach annähernd fünftausend Labor-Tests wieder entlastet worden, bei denen keine gefährlichen Erreger gefunden wurden sein.
• 2:51
  Speaker 0: Ein Risiko einer Epidemie bestehen nicht.
• 2:55
  Speaker 0: Trump Putin Telefonat brachte keine Klärung.
• 3:00
  Speaker 0: Am neunten Oktober kam es zu dem Telefongespräch zwischen Trump und Putin.
• 3:27
  Speaker 0: Danach gab der amerikanische Präsident jedoch lediglich bekannt, dass er die Lieferung von zunächst mehr als dreihunderttausend Tonnen Diesel aus Russland ausgehandelt habe.
• 3:35
  Speaker 0: Von einer Aufklärung des Todesfalls im Pest-Forschungsinstitut war keine Rede mehr wie die Nachrichtenagentur AP in einem von PBS News veröffentlichten Bericht anmerkte.
• 3:45
  Speaker 0: Möglicherweise bleibt die Ursache des Todesfalls genauso ungeklärt wie der Ursprung des Coronavirus SARS-CoV II, das erstmals Ende of the year in der chinesischen Stadt Wuhan bei einem Menschen nachgewiesen wurde und die weltweite COVID-IX Pandemie auslöste.
• 4:00
  Speaker 0: Unter CIA Director John Ratcliffe änderte der US Auslandsgeheimdienst seine Einschätzung und hält einen Laborunfall in Wuhan für die wahrscheinlichere Erklärung den die Volksrepublik China nicht zugeben wolle.
• 4:11
  Speaker 0: Ebenso wie im russischen Erkutsch gab es auch in Wuhan ein Forschungsinstitut, in diesem Fall für Virologie.
• 4:18
  Speaker 0: Fehlender Überprüfbarkeit Obwohl nahezu alle Staaten dieser Welt das Abkommen gegen die Herstellung von Biobaffen unterzeichnet haben gibt es Forschungen, die sich an einer rechtlichen und wissenschaftlichen Grauzone bewegen oder offiziell zur Verteidigung dienen.
• 4:33
  Speaker 0: Das eidgenössische Department für Auswärtige Angelegenheiten, IDEA das Schweizer Außenministerium bis am vierzehnten August in einem Beitrag über biologische Waffen auf seiner Website erfolgende Problematik hin.
• 4:45
  Speaker 0: Das Biowaffenübereinkommen verfüge weder über eine für den Vollzug zuständigen Organisationen – Zitat noch über ein rechtlich verbindliches Verifikationssystem zur Überwachung der Einhaltung der
• 4:55
  Speaker 0: Vertragsbestimmungen.".
• 4:58
  Speaker 0: Weitere grundlegende Herausforderungen seien der rassante Fortschritt der biowissenschaftlichen Technologien sowie der Dual-Use-Charakter der Biowissenschaften.
• 5:06
  Speaker 0: Das heißt, die Forschungsergebnisse können sowohl zivil als auch militärisch zur Herstellung biologischer Waffen genutzt werden.
• 5:13
  Speaker 0: Das EDA kommt zu dem Schluss, zitat.
• 5:15
  Speaker 0: angesichts dieser riesigen sowie der diffusen Bedrohung durch biologische Kampfstoffe und nicht staatliche Akteure stellt das fehlend wirksamer Verifikationsmaßnahmen ein anhaltendes Defizit dar und schafft Unsicherheit und Misstrauen.
• 5:31
  Speaker 0: K.I.
• 5:31
  Speaker 0: könnte die Entwicklung von Bio-Waffen erleichtern.
• 5:34
  Speaker 0: Seit kurzem waren Experten zudem davor, dass künstliche Intelligenz die Entwicklung von Bio-Waffen erleichtern und die bestehenden Sicherheits- und Kontrollmechanismen unterlaufen könnte.
• 5:44
  Speaker 0: Einer von ihnen ist der Biologe Harald König vom Karlsruher Institut für Technologie.
• 5:49
  Speaker 0: Er leitet das entsprechende Projekt beim Büro für Technikfolgenabschätzung beim Deutschen Bundestag – THB.
• 5:54
  Speaker 0: Das Büro berät nach eigener Aussage des Parlament in Fragen des wissenschaftlich technischen Wandels.
• 5:59
  Speaker 0: In seinem Endbericht für den Bundestag zu einem Risiken von Biotechnologie und KI, den der Forschungsausschuss am achten Juli billigte, schreibt König unseren Mitautor Arnold Sauter.
• 6:10
  Speaker 0: Die rasanten Fortschritte bei der Analyse und Synthese von Erbgut, DNA sowie bei der gezielten Veränderung von Genen in verschiedensten Organismen durch Genome-Editierungstechniken haben die Möglichkeiten der Erforschung und der Veränderungen biologischer Systeme bzw.
• 6:25
  Speaker 0: Organismen in den letzten zehn bis fünfzehn Jahren vereinfacht und stark erweitert.
• 6:30
  Speaker 0: Ein zunehmend wichtiges Werkzeug seien dabei computergestützte Analysee und Designprozesse.
• 6:36
  Speaker 0: Mit den durch KI und deren Zusammenspiel mit biotechnologischen Methoden, KI- und Bio weiter zunehmenden Möglichkeiten der synthetischen Biologie habe sich Zitat einer Sicherheitsdebatte entwickelt.
• 6:48
  Speaker 0: Diese stark auf Missbrauchsrisiken durch die mögliche Herstellung biologischer Waffen sowie die damit verbundenen Sicherheitsfragen fokussiert heißt es in dem Papier weiter.
• 6:58
  Speaker 0: Es bestünden Befürchtungen, die die Hürden hierfür durch die neuen KI- und Biomöglichkeiten entscheidend gesenkt werden könnten.
• 7:04
  Speaker 0: Und die Generierung gefährlicherer und neuartiger biologischer Mittel erleichtert würde.
• 7:09
  Speaker 0: Befürchtert werden zudem dass die Wirksamkeit von Bio-, Sicherheits- und Abwehrmaßnahmen verringert oder unterlaufen werden könnte.
• 7:17
  Speaker 0: Große Programme bleiben staatlich kleinere Anschläge werden denkbarer.
• 7:21
  Speaker 0: Die Analyse kommt zu dem Ergebnis, dass Bedrohungen durch aufwendige Biowaffensysteme weiterhin vor allem von Staaten oder von diesen unterstützten Gruppen ausgehen dürften.
• 7:30
  Speaker 0: Weil Massenproduktion und Ausbringungstechnik von den neuen KI-Möglichkeiten weitgehend unabhängig sind.
• 7:36
  Speaker 0: Wahrscheinlicher sein bei nichtstaatlichen Akteuren technisch einfachere Anschläge mit kleinen Mengen wie n.a.
• 7:43
  Speaker 0: bei der Salmonellenvergiftung in US-Restaurants oder z.A.
• 7:47
  Speaker 0: bei den Antragsbriefen.
• 7:49
  Speaker 0: Hier könnte KI eine Rolle spielen, etwa beim Erlangen von Wissen über die Herstellung solcher Agentien.
• 7:54
  Speaker 0: Zwar legen Tests nahe das Sprachmodelle die Leistungen vom Personen mit wenig Biologie-Erfahrung bei Wissensfragen verbessern
• 8:01
  Speaker 0: können."
• 8:02
  Speaker 0: Teilweise auf das Niveau von Expertinnen oder sogar darüber hinaus.
• 8:06
  Speaker 0: Ob sich dieses Wissen in der Praxis umsetzen lässt bleibt laut Bericht jedoch offen.
• 8:11
  Speaker 0: Außerdem weist ihr Bericht auf kommerzielle automatisierte Laborplattformen hin, die über das Internet genutzt werden können.
• 8:18
  Speaker 0: Cloudlabs und ähnliche Einrichtungen können bereits heute die Notwendigkeit aufheben, zumindest manche praktische Laborarbeiten zur Herstellung biologischer Agentien selbst durchführen zu müssen.
• 8:30
  Speaker 0: Für den effektiven Einsatz solcher Labore sei zwar noch spezifisches Wissen zu den verwendeten Agentien und methodischen Verfahren sowie zu CloudLab-Abläufen selbst notwendig.
• 8:39
  Speaker 0: Es sei aber nicht auszuschließen, dass diese Anforderungen künftig abnehmen – etwa durch eine mittels KI erleichterte Programmierung von Experimenten stellen die Experten fest!
• 8:49
  Speaker 0: Ein Jobbikbericht über KI Missbrauch für biologische Zwecke.
• 8:54
  Speaker 0: Anfang September veröffentlichte die in San Francisco beheimatete KI-Firma Antjopik auf ihrer Website genau zu diesem Thema ebenfalls einen Bericht.
• 9:02
  Speaker 0: Ihr Sicherheitsteam habe festgestellt, dass er es – Zitat – Missbrauch von KI für biologische Zwecke entdeckt und bekämpft habe.
• 9:09
  Speaker 0: Ein Chopik stellt in seinem Bericht fest – der Missbrauchsbiologischer Mittel ist eines der gravierensten Risiken von KI-Modellen der neuesten Generationen.
• 9:18
  Speaker 0: Es hat lange besteht die Sorge das KI Modelle eines Tages ein Leistungsniveau erreichen könnten, dass es ihnen ermöglicht bestehende Krankheitserreger noch gefährlicher zu machen oder völlig neu zu erschaffen.
• 9:29
  Speaker 0: Ohne geeignete Sicherheitsvorkehrungen könnten solche Fähigkeiten Katastrophale folgen haben.
• 9:33
  Speaker 0: Zitat Ende.
• 9:35
  Speaker 0: Ein Job führt fünf Fälle auf, in denen KI für Forschung genutzt wurde die der Entwicklung von Bio-Waffen dienen könnte.
• 9:41
  Speaker 0: Bei Forschung, die sowohl der Medizin als auch militärischen Zwecken dienen kann sei es jedoch schwierig eine klare Trennlinie zwischen harmlosen und bösartigen Absichten zu ziehen erklärt das Unternehmen.
• 9:52
  Speaker 0: Konkret nennt der Bericht einen blockierten Versuch mit Hilfe von Claude einen Förderantrag für Gain of Functionforschung am Chikungunia Virus zu verfassen.
• 10:00
  Speaker 0: die Arbeiten zielten darauf, Mutationen zu finden, die die Übertragbarkeit des Erregers und seine Fähigkeit zur Umgehung des Immunsystems erhöhen.
• 10:08
  Speaker 0: Der Antrag stammte den Angaben zufolge aus einem militärischen Forschungsinstitut.
• 10:12
  Speaker 0: Solche Methoden sind in Laboren gängig um Gegenmittel zu entwickeln sie sind aber auch ein Weg zur Entwicklung von Bio-Waffen.
• 10:19
  Speaker 0: In einem zweiten Fall plant ein Forscher außerhalb der USA über Wochen mit Cloud-Experimenten zu hochpatogener Vogelgrippe, bei denen es um die Anpassung an Säugetiere und die Übertragung über die Luft ging.
• 10:31
  Speaker 0: Auch hier hält ein Tropic fest dass solche Forschungen der Prävention dienen kann ebenso aber der Entwicklung von Biowaffen.