Latest / Epoch Im Fokus / Gemusterte Kleidung soll Überwachungskameras austricksen #87

Transcript

Gemusterte Kleidung soll Überwachungskameras austricksen #87 · Epoch Im Fokus

• 0:00
  Speaker 0: Herzlich Willkommen zu Epoch im Fokus mit dem Thema KI-Systeme Verwirren.
• 0:04
  Speaker 0: Gemusterte Kleidung soll Überwachungskameras austricksen, ein Artikel von Oliver Siegnos vom XXVI.August, am Mikrofon.
• 0:13
  Speaker 0: Alexander Sieber Ein amerikanischer Sicherheitsforscher plant T-Shirts und Hoodies auf den Markt zu bringen, mit denen sie vor Überwachungskameras fast unsichtbar werden.
• 0:23
  Speaker 0: Ob das unter realen Bedingungen Zuverlässig funktioniert muss sich allerdings noch zeigen.
• 0:29
  Speaker 0: In seinem Lied «Somebody's Watching Me» erzählt der R&B-Singer Rockwell die Geschichte eines Mannes, das sich ständig beobachtet fühlt.
• 0:36
  Speaker 0: Selbst in seinen eigenen vier Wänden glaube er nicht mehr sicher zu sein!
• 0:40
  Speaker 0: Der Song erschien im Jahr threeundachtzig also lange bevor digitale Kameras und automatisierte Bilderkennung die Überwachung des öffentlichen Raums stark verändert haben Während sich der Protagonist des Liedes fragt, ob er denn tatsächlich ständig beobachtet wird oder nur paranoid ist.
• 0:56
  Speaker 0: Er übrigt sich die Frage fast angesichts der technischen Ausstattung an Bahnhöfen oder Flughäfen großen Plätzen oder in der Umgebung von Sehenswürdigkeiten oder Einkaufsstraßen Die Schwächen der KI ausnutzen.
• 1:09
  Speaker 0: Doch was ist wenn es eine Möglichkeit gibt dieser Überwachung zu entkommen?
• 1:13
  Speaker 0: Diese Frage hat sich der Sicherheitsforscher Bill Sverringen gestellt.
• 1:17
  Speaker 0: seine Idee Zitat, was wäre wenn das Muster auf ihrem Hemd die Gesichtserkennung austricksen könnte?
• 1:22
  Speaker 0: Nicht indem es ihr Gesicht verbirgt sondern in dem es schwächende KI selbst ausnutzt.
• 1:27
  Speaker 0: Fragt denn einen Beitrag auf den Portal LinkedIn?
• 1:30
  Speaker 0: Dabei stellt der US-amerikaner sein Projekt No Recognition auf Deutsch keine Erkennungen vor Denn Datenschutz ist kein Luxus sondern ein Recht.
• 1:39
  Speaker 0: Dafür habe er computergenerierte Muster für Bekleidungsstücke entwickelt Die die Überwachungssysteme so irritieren sollen dass sie den Träger nicht mehr erkennen können.
• 1:47
  Speaker 0: Zitat, wir testen mit realen Modellen.
• 1:50
  Speaker 0: Mit den Systemen die tatsächlich in Clearview AI auf Körperkameras der Polizei und bei der Flughafensicherheit laufen Personen-Detektoren Gesichtsdetektoren Und Erkennungssysteme führt auf dem Portal weiter aus.
• 2:03
  Speaker 0: Modell findet neue Muster durch selbstständiges Lernen.
• 2:06
  Speaker 0: Einen dreißig Kommasieben Millionen Tests habe es VarianGen durchgeführt um Muster zu finden Die von ihm getestete Software hinter den Überwachungskameras und Kennzeichenlesern irritierten.
• 2:17
  Speaker 0: Nachdem er nachgewiesen habe, dass sein Konzept grundsätzlich funktioniere, habe er daraus ein sogenanntes Reinforcement Learning-Modell entwickelt.
• 2:25
  Speaker 0: Dieses System erzeugt und testet selbstständig verschiedene Muster und lernt anhand der Ergebnisse, welche davon die jeweils getesteten Kameraalgorithmen besonders stark beeinträchtigen.
• 2:34
  Speaker 0: Vereinfacht ausgedrückt!
• 2:36
  Speaker 0: Erklärt das VarianGen gegenüber der Plattform TechCrunch?
• 2:39
  Speaker 0: Habe ihr seinem Modell gewissermaßen beigebracht malen zu
• 2:42
  Speaker 0: lernen?!
• 2:43
  Speaker 0: Die Überwachungskameras werden dadurch jedoch nicht geblendet, sie zeichnen die Personen auch weiterhin auf.
• 2:49
  Speaker 0: Angegriffen wird hingegen die Software, die aus dem erstellten Bild eine Person ein Gesicht, eine Bewegung oder einen Kennzeichen erkennen soll.
• 2:56
  Speaker 0: jedes Mal wenn ein Muster nicht die gewünschte Wirkung erzielte weil der Erkennungsalgorithmus die Person weiterhin erkannte, erzeugte das Modell ein neues Muster.
• 3:04
  Speaker 0: Sein Modell begann bald, Muster zu finden die alle von ihm getesteten Open Source Erkennungsalgorithmen austricksten.
• 3:11
  Speaker 0: Darunter die Software von Flock-Kennzeichenlesegeräten, Axon Körperkameras und Gesichtserkennungskameras von Clearview AI.
• 3:19
  Speaker 0: Nun generiert das Modell jede Minute neue Muster wobei jede Charge mathematisch besser sei als die Vorherrige erläutert Zvaren-Janking über TechCrunch.
• 3:27
  Speaker 0: Überwachungssysteme könnten zwar auch darauf trainiert werden, Swaringens Muster zu umgehen.
• 3:32
  Speaker 0: Doch der Algorithmus des Forschers verbessert es sich mit jedem neuen Entwurf auch darin weitere und zunächst unerkennbare Muster zurstellen.
• 3:40
  Speaker 0: Praktischer Test in Las Vegas mit Auto gelingt.
• 3:43
  Speaker 0: Auch Autos will Swaringen mithilfe von gemusterten Folien unsichtbar machen so dass Überwachungstechnologien sie nicht mehr erkennen können.
• 3:51
  Speaker 0: Dass das funktionieren könnte, demonstrierte er bei einem ersten öffentlichen Test mithilfe eines Toyota Yaris auf der Hacker- und Sicherheitskonferenz DEVCON in Las Vegas Anfang August.
• 4:01
  Speaker 0: Zuvor hat er den im Jahr twohundneun gebauten Pkw mit seinem neuestem Muster beklebt.
• 4:06
  Speaker 0: Zitat Wir haben die Wirksamkeit bewiesen, sagte Sverringin.
• 4:09
  Speaker 0: Allerdings stellten die Felgen eine Herausforderung dar, sagte er ohne dabei Einzelheiten zu nennen.
• 4:14
  Speaker 0: Mit der erfolgreichen Demonstration Las Vegas liefert das Projekt einen ersten Beweis dafür, dass es möglich sei algorithmische Erkennung im öffentlichen Raum zu umgehen.
• 4:23
  Speaker 0: Der nächste Schritt sei nun die Musterinteressenten anzubieten.
• 4:27
  Speaker 0: Für sein No-Recognition-Projekt hat Swearingen eine Crowdfunding-Kampagne gestartet, um den Verkauf von Merchandiseartikeln mit den Mustern zu finanzieren – von T-Shirts bis to Hoodies.
• 4:37
  Speaker 0: Zukünftig sollen auch Fahrzeugfolien mit den Muster angeboten werden.
• 4:40
  Speaker 0: Seine besten Muster werde ihr allerdings nicht im Internet veröffentlichen betont des Swearingens.
• 4:45
  Speaker 0: Er wolle damit verhindern, dass Kamerahersteller sie überlisten!
• 4:49
  Speaker 0: Eigenen Angaben zufolge hat der Sicherheitsforscher inzwischen bei allen elf von ihm getesteten Erkennungsmodellen Erfolg erzielt.
• 4:55
  Speaker 0: Ein einzelnes Muster, das alle elf Modelle gleichzeitig täuscht konnte ja allerdings noch nicht präsentieren.
• 5:01
  Speaker 0: Experimente basieren auf Versuch und Irrtum.
• 5:04
  Speaker 0: Das amerikanische Fachmedium für Cyber-Sicherheit, Dark Reading sieht Sverangeans Entwicklungen hingegen mit einer gewissen Skepsis.
• 5:11
  Speaker 0: So seien die Modelle nicht einheitlich aufgebaut – deshalb gäbe es keine allgemeingültige Regel nach der sich Muster erstellen diesen, die die künstliche Intelligenz verwirrten.
• 5:20
  Speaker 0: Das beschränke Sveranges Experimente auf Versuch und Irrtum unterschwere ihm bis zu einem gewissen Grad auch selbst zu verstehen warum seine Muster funktionierten.
• 5:29
  Speaker 0: Auch bei der Umsetzung seines Experiments als Geschäftsmodell werde er mit praktischen Einschränkungen konfrontiert sein, mutmaßt die Fachpublikation.
• 5:37
  Speaker 0: Ein zweidimensionales Bild eines Kleidungsstücks das gegen eine simulierte Kamera getestet werden könne zu anderen Ergebnissen führen als echter Stoff.
• 5:45
  Speaker 0: unter realen Bedingungen und obwohl das Angebot des Sicherheitsforschers aus Sicht des Datenschutzes überzeugend sei dürften die Designs nicht jedemands Verständnis von gutem Stil entsprechen.
• 5:56
  Speaker 0: Hinzu kommen die Tatsache, dass es für jeden solchen Angriff eine Gegenmaßnahme gibt.
• 6:00
  Speaker 0: Zitat Wenn ich tausend T-Shirts verkaufen würde, die genau gleich aussehen würden sie für all diese Menschen auf die gleiche Weise funktionieren bis das Modell aktualisiert wird.
• 6:09
  Speaker 0: Räumte Sveljan gegenüber dem Medium ein und weiter.
• 6:12
  Speaker 0: Dann könnte ich ein weiteres Muster herausbringen, das dasselbe bewirkt.
• 6:16
  Speaker 0: Swaringern ist auch nicht der Einzige, der die Idee verfolgt über Wachungstechniken auszutricksen.
• 6:20
  Speaker 0: Wissenschaftler forschen bereits seit Jahren an sogenannte Adversarialer Kleidungen.
• 6:25
  Speaker 0: Eine im August für öffentliche Arbeit auf dem Forschungsportal Arxiv beschreibt mit Advertiles ein Verfahren bei dem ein Computer-Muster für Kleidungsstücke entwickelt, die Erkennungssoftware täuschen sollen.
• 6:37
  Speaker 0: Die Forscher druckten ihre Muster auf Kleidung und testeten sie unter unterschiedlichen Entfernungen – Blickwinkeln und Hintergründen.
• 6:44
  Speaker 0: In digitalen Tests soll etwa teils eine durchschnittliche Täuschungsquote von sixundachtzig, zwei Prozent erreicht haben.
• 6:50
  Speaker 0: Anschließend testeten sie bedruckte Kleidung unter realen Bedingungen.
• 6:54
  Speaker 0: Dabei soll das Muster bei den meisten Blickwinkeln die Erkennung sogar bei mehr als neunzig Prozent der Testläufe verhindert haben.