Latest / Was wichtig ist / Zwischen Angriff und Abwehr: Über die doppelte Rolle der KI in der Cybersicherheit
Transcript
- 0:00Dieser Inhalt wurde von der Presse in redaktioneller Unabhängigkeit gestaltet.
- 0:04Er ist mit finanzieller Unterstützung unseres Kooperationspartners entstanden.
- 0:08Künstliche Intelligenz ist in unseren Alltag eingezogen.
- 0:16In Unternehmen, in Behörden, in die kritische Infrastruktur.
- 0:20KI analysiert, optimiert und automatisiert.
- 0:23Doch mit ihrem rasanten Fortschritt wächst gleichzeitig auch die Sorge.
- 0:28Welche neuen Risiken bringt KI für unsere Cyber-Sicherheit?
- 0:31Noch nie waren zielgerichtete Angriffe auf Personengruppen oder Unternehmen so einfach wie heute.
- 0:38Daher veranstaltet die Presse die Cyber Security Schwerpunktwoche,
- 0:42in der wichtige Entwicklungen und Fragen rund um das Thema Cyber-Sicherheit diskutiert werden.
- 0:47Alle Beiträge dazu finden Sie unter diepresse.com/cybersecurity.
- 0:54Im folgenden Expert-Innentalk moderiert von Eva Komarek diskutieren.
- 0:58Robin Schmeisser, Geschäftsführer der Fabersoft Contracts GmbH.
- 1:03Susanne Eben, CIO der Flughafen Wien AG und Andreas Tomek, Partner bei KPMG Österreich im Bereich IT Advisory.
- 1:13Herr Tomek, ich würde ganz gerne auch gleich mal mit Ihnen beginnen.
- 1:17Die KPMG hat ja kürzlich eine Studie zu Cyber Security in Österreich gemacht.
- 1:22Wie hat sich denn das kräfte Verhältnis zwischen Angreifen und Abwehr in KI-Zeitalter verändert?
- 1:28Und wo stehen wir denn da in Österreich und vielleicht auch ein bisschen in Europa?
- 1:32Ja, also wie Sie gesagt haben, die Cyber Security ist natürlich durch Drungen von KI inzwischen auch.
- 1:39Sie ist vielleicht noch nicht überall so angekommen, wie sich es alle erwarten würden.
- 1:42Das ist auch ein bisschen Teil unserer Studie.
- 1:43Also zum Beispiel haben wir in der Studie gesehen, dass nur für 17 Prozent gesagt haben,
- 1:49Sie sehen jetzt tatsächlich schon eine Hilfe quasi in der Verteidigung durch die KI.
- 1:53Man erwartet aber schon, dass in den nächsten Jahren durchaus da mehr Unterstützung kommen wird,
- 1:59in durchaus verschiedene Bereiche, da will ich jetzt gar nicht so tief reingehen,
- 2:03kann man vielleicht später ein bisschen mehr aufdröseln.
- 2:05Aber wir sind quasi am Beginn, wo die Cyber Security quasi auch unterstützt.
- 2:11Auf der anderen Seite sehen wir aber, dass wir gerade in der Angriffswelt,
- 2:15nicht erst beim Beginn sind, schon im Mitten drinnen.
- 2:18Also gerade bei den Angriffen wird KI natürlich schon sehr stark eingesetzt.
- 2:22Ich nehme jetzt mal nur ein paar Beispiele her.
- 2:24Das eine, die zum Beispiel das Individualisieren von Fishing-E-Mails fast ganz stark steigt
- 2:29und wo man auch nicht nur bei uns sieht, sondern auch international,
- 2:32dass die Click-Rates, wenn sie von KI geschrieben und angepasst sind,
- 2:36wesentlich höher sind als bei klassischen Fishing-Mails.
- 2:40Wir reden normalerweise bei klassischen Fishing-Angriffen von, keine Ahnung, 7, 8, 9 Prozent, vielleicht 11 Prozent,
- 2:46die aufmachen bei KI-generierten Inhalten teilweise bis zu 30, 40, 50 Prozent laut internationalen Studien.
- 2:53Also die eine Welt, die zweite Welt ist dann tatsächlich das ganze Thema TIPFAKE,
- 2:57also alles was in Richtung Voice-Video und Co-Git für Angriffe,
- 3:01das sind auch ganz, ganz starken Anstieg über 100 Prozent.
- 3:05So letzte jährigen Studie, das ist tatsächlich voll eingeschlagen.
- 3:09Und dann natürlich diverse neue Angriffsszenarien, die teilweise auch erst durch die KI kommen.
- 3:14Also so Dinge wie prompt injection, andere Dinge, die zusätzlich dazukommen, wo ich mich damit beschäftigen muss.
- 3:21In Summen muss man sagen, dass das Thema beschäftigt ganz, ganz viele.
- 3:25Seit unserer Studie zeigen auch alle viele andere internationaler Studien.
- 3:29Und so wie bei der Einführung von KI, stehen wir natürlich mit der Absicherung der KI auch noch am Anfang als Gesellschaft.
- 3:35Dann werden wir auch dann Detailator darauf eingehen, wie ist denn jetzt Österreich grundsätzlich hier auch positioniert,
- 3:41wenn man jetzt schaut im internationalen Vergleich, ist es stark sozusagen, was Angriffe betrifft?
- 3:47Wie gut sind wir in der Abwehr, hinkt es da eher hinterher?
- 3:51Wer positioniert sich da jetzt Österreich im internationalen Vergleich?
- 3:54Ja, also in der Security ist es ja oft so, dass die Aufwände für kleine, große Unternehmen leider relativ ähnlich sind.
- 4:00Insofern, wir sind ein Land der kleinen, mittelständischen Unternehmen.
- 4:03Natürlich ist unsere kritische Infrastruktur größer, aber wir sind sicherlich nicht diejenigen,
- 4:08die irgendwelche Lösungen als Erster einführen.
- 4:10Das muss man ganz offen sagen, vor der Guten, vor der Bett.
- 4:13Das heißt, wir haben sicherlich immer ein bisschen eine abwartende Haltung bei dem Einsatz von Prinzipelltechnologie.
- 4:19Gar nicht nur KI, auch Cloud, anderen Geschichten, das braucht ein bisschen länger.
- 4:23Wenn man zum Beispiel im Vergleich zu den norrlischen Staaten schaut oder zu England,
- 4:27sondern norrlischen Staaten, die da vielleicht ein bisschen weiter vorne sind,
- 4:30oder vielleicht auch ein bisschen risikoperator, aber auch im Vergleich zu Deutschland,
- 4:34die natürlich größere Strukturen haben und Dinge einfach früher machen.
- 4:38Auf der anderen Seite kann man dann auch durchaus vielleicht in einem anderen Sprung mal überspringen
- 4:42und auf das aufsetzen, was dann schon bewährt ist.
- 4:44Das sehen wir immer wieder mal und das ist gar nicht so schlecht.
- 4:48Das ist Leapfrogging, das so schön im Englischen heißt.
- 4:51In der Regulierung sage ich jetzt mal, im Bewusstsein sind wir, glaube ich, in Österreich relativ weit.
- 4:56Das Thema ist bei uns schon schon relativ früh aufgegriffen worden, nicht nur in der EU,
- 4:59sondern eben auch bei uns, auch teilweise da mit der Regulatorygrundum,
- 5:02welche AI-Aktion interpretieren ist zum Beispiel,
- 5:06an welchen Grenzen man Dinge Detailer sich anschauen muss und so weiter und so fort.
- 5:10Da findet man ja einiges im aktuellen Regierungsprogramm wieder
- 5:13und in Summe, muss man sagen, sieht man da durchaus erwerblich aus meiner Sicht eher im Spitzenfeld in Europa.
- 5:20Herr Schmeisser, was beobachten Sie denn, wie verändert KI die Angriffsstrategien
- 5:24im Cyberraum und sind wir da jetzt auch irgendwo einer neuen,
- 5:29ich sage mal, Qualität von Bedrohungen ausgesetzt?
- 5:32Naja, wenn die Anknüpf der Punkt ist, dass AI es angreifen ermöglicht,
- 5:37einfach eine höhere wertige Qualität zu produzieren,
- 5:41die dann, wie erwähnt, dazu führt, dass halt mehr geklickt wird.
- 5:45Das heißt, wenn Sie selbst da zurückdenken, wenn Sie vor Jahren Fishing-Emails bekommen haben,
- 5:51da waren oft Rechtschreibfeller drin, das war schlecht formuliert und so weiter,
- 5:54das sind Dinge, die man mittlerweile nur noch sehr selten sieht.
- 6:00Und da ist man sicher, hat man da einen sehr großen Sprung nach vorne gemacht auf Angriffsseite.
- 6:08Das leitet im Endeffekt auch, meiner Meinung nach, nahtlos zu dem Punkt über,
- 6:13wo seitens der Unternehmen auch gepusht durch verschiedene Regularien,
- 6:18beispielsweise DORA, was die Finanzwelt betrifft,
- 6:22einfach gefordert sind, vom Management weg durch die ganze Organisation bewusst zu haben,
- 6:27bei den Mitarbeitern zu schaffen.
- 6:29Weil wenn man dem ausgesetzt ist, dass man Fishing-Emails bekommt,
- 6:33die auch für versierte Mitarbeiter schwer als Fishing zu identifizieren sind,
- 6:40dann gibt es aber nur immer den zweiten Unabhängigen Kanal beispielsweise,
- 6:44auf dem man prüfen kann, ob das jetzt was Echtes ist,
- 6:47was man im Postengang sieht, oder ob das jetzt der potenzielle Angriff ist.
- 6:52Und das ist nur ein Beispiel unter vielen,
- 6:56wo man, meiner Meinung nach, einfach handeln und stetig dahinter sein muss.
- 7:01Vorher eben, der Flughafen ist ja eine Hochvernetzte,
- 7:04sich jetzt kritische Infrastruktur mit tausenden Schnittstellen.
- 7:08Welche konkreten, sauber riesigen Entstehenden dort auch durch den Einsatz von KI?
- 7:12Ich denke, KI, so wie es schon angesprochen wurde, hebt wirklich auch die Angriffsmöglichkeiten
- 7:18auf ein anderes Level.
- 7:19Es wurde schon angesprochen, die Qualität steigt, aber es ist auch viel leichter verfügbar.
- 7:23Man kann sich mit KI auch als unbedarfter Mensch
- 7:27durchaus auch Schadsoft programmieren lassen mit KI.
- 7:31Also ich glaube, man muss da wirklich ganz stark auch an die Ewernes ansetzen.
- 7:35Und wir als Flughafen sind natürlich in unserer DNA Flughafen-Sicherheit,
- 7:40die es in unserer DNA verankert.
- 7:42Gleichzeitig wollen wir und müssen wir auch international wettbewerksfähig sein,
- 7:46wenn wir wollen ausgezeichnete Qualität liefern und das in einem sicheren Umfeld.
- 7:51Das heißt, Effizienzsteigerungen, auch da hilft uns massiv auch künstliche Intelligenz
- 7:56oder Automatisierung, Digitalisierung.
- 7:58Das heißt, sich dem zu verschließen ist gar keine Option, gar keine Möglichkeit.
- 8:03Wir setzen KI sowohl auch in der Abwehr von selber an Angriffen
- 8:08oder in der Erkennung von selber an,
- 8:10Angriffen ein, aber auch ganz stark im operativen Bereich, wo es darum geht, Mitarbeiterinnen und
- 8:15Mitarbeiter zu unterstützen, effizientere Prozesse zu gestalten, Ressourcen besser zu
- 8:20disponieren. Und ich glaube KI hilft uns auch, und ich glaube, das ist ein Aspekt, den ich noch
- 8:26einbringen möchte in die Diskussion, KI hilft uns auch in der physischen Sicherheit. Also im
- 8:30Flughafen gibt es da aber, glaube ich, ein sehr, sehr gutes Beispiel, physische Sicherheit. Man
- 8:34denke, wenn sich Bewegungsmuster verändern, ein übliches Bewegungsmuster, um ein konkretes
- 8:40Beispiel zu sagen ist, von links nach rechts und plötzlich bewegen sich Menschen, aus welchem
- 8:45Grund auch immer, in eine andere Richtung oder beginnen zu laufen. Da ermöglicht uns KI wirklich,
- 8:51das viel schneller und vollautomatisiert zu erkennen, in den Sicherheitszentralen eines
- 8:57Flughafens beispielsweise aufzuschalten. Und da tut sich gerade ganz viel, und da wollen wir
- 9:03natürlich auch vorne dabei sein. Man denke auch, Anwendungsfeile, Absätze vom Flughafen,
- 9:07aber ein Bahnhof, wenn sich Menschen plötzlich auf den Gleisen bewegen. Oder ich denke an
- 9:12Autobahnen, Geisterfahrer, automatisierte Erkennung. Man wird nicht das ganze Autobahnnetz
- 9:18entsprechend abdecken können, da ist ja sehr viel Rechner-Ressourcen dahinter. Aber neuralgeschlelle
- 9:23Stellen, wo man schon die Erfahrung hat, dass solche Unfälle passieren können, dass man da mit KI
- 9:29und Automatisierung und Erkennung von Anomalien, ich glaube, da kann uns KI sehr gut unterstützen,
- 9:34und da bringt es uns auch wirklich KI weiter auch im Bereich der Sicherheit. Ja, ich glaube,
- 9:39das, was man da auch unterschreiben muss, wir haben ja im Informationssicherheitsbereich sowohl
- 9:43der Kapazität, sondern auch Kompetenzproblem. Das heißt, wir hätten ja viel mehr Aufgaben und
- 9:49viel mehr Themen, die wir eigentlich machen müssten, alle miteinander, gerade wenn man
- 9:52jetzt in der Regulatorik denkt, die wir ganz offensichtlich mit der Menge an Leuten, die das
- 9:57bis jetzt gelernt haben in Österreich, aber im Arbeitsmarkt so viel umstehen, nicht machen
- 10:00können. Das heißt, es ist außer Frage, dass wir KI einsetzen müssen auch in diesen Teilbereichen,
- 10:07wie zum Beispiel in einem Security Operations Center, wo man den ersten Teil wahrscheinlich
- 10:11relativ bald einmal komplett automatisieren kann, also die ganze Firstland, die natürlich auf 24/7
- 10:16durcharbeitet, was man sonst sehr schwer abbilden kann, weil so ein Security Operations Center unter
- 10:2112 Leuten zu betreiben, geht eigentlich nicht aus arbeitsrechtlicher Sicht, da kann ich dementsprechend
- 10:25sage jetzt einmal, dann gleich einmal was machen, wird nicht müde. Genau, wird nicht müde und man
- 10:30kann sich dann halt auch auf speziell andere Themen auch konzentrieren. Ich glaube, es wird da sehr
- 10:36viel reininterpretiert und sehr viel Hoffnung vor allem auch reininterpretiert, deswegen gibt es
- 10:39natürlich auch einen extremen Hype im Bezug auf AI und auch Security bei AI-Prinzipeln und wie immer
- 10:46wird natürlich so eine Hoffnung sehr schnell auch einmal enttäuscht, aber das Produktivitätsniveau,
- 10:50sage ich jetzt einmal, dass wir mal bei all diesen AI-Lösungen erst in ein paar Jahren sehen. Wir
- 10:55sind jetzt, was das schon teilweise zum Leisten quasi vermarkt, aber so richtig in Inskalierung
- 11:01kommen und damit wir auch wissen, wie wir damit umgehen, was wir dort abgeben wollen, was nicht,
- 11:07wie wir das verwerten, das werden wir alles erst lernen und da gibt es natürlich durchaus eine
- 11:13Vielzahl an Möglichkeit. Frau Eben, wie ist das dann eigentlich mit, Sie haben jetzt gesagt,
- 11:17quasi Sie überwachen ja dann eigentlich Menschen damit mit dem KI-System. Wie funktioniert das
- 11:23dann eigentlich vom Datenschutz her? Also Flughafen ist natürlich eine besondere
- 11:27Gegebenheit. Also diese Möglichkeiten, die Sie vielleicht auf einem Flughafen ergeben,
- 11:31gibt es nicht überall. Natürlich auf der anderen Seite, Datenschutz ist genauso ein sehr relevantes
- 11:37Thema für uns. Da geht es um sehr wichtige Daten. Das muss absolut anonymisiert erfolgen beispielsweise.
- 11:42Auch da ist wieder ein guter Anwendungsfall auch für KI. Anonymisierung von Daten, die direkt
- 11:48in den Kameras beispielsweise erfolgen, darauf setzen auch wir. Sonst lässt sich das mit den
- 11:52Regulatorien, in denen wir in Europa zu tun haben, gar nicht umsetzen. Aber auch da, ich sehe wirklich
- 11:57hier auch die positiven Aspekte von KI. KI gibt uns Möglichkeiten, Dinge zu tun, die sonst vielleicht
- 12:03bei uns nicht möglich werden. Aber ganz klar, Datenschutz ist eine Basisanforderung, auf die
- 12:10man unbedingt achten muss. Das ist eines der ersten Dinge, die man glaube ich auch im Einsatz von KI
- 12:13unbedingt berücksichtigen muss. Ob es jetzt bei den Trainings der Modelle ist etc. Aber Datenschutz
- 12:19ist ein sehr sehr wichtiges Thema. Ich möchte nur unterstreichen, dass der Studium auch Top
- 12:23Hemmnis bei der Einsatz von KI-Technologie ist Datenschutz. Wir haben bei uns auch 45% gesagt.
- 12:29Und Top Risiko beim Einsatz von KI, das sind jetzt auch Datenschutz-Themen. Inwiefern Top Risiko?
- 12:36Dass das Risiko ist, das von den Sicherheitsleuten quasi zu betrachten und so zu evolvieren ist,
- 12:41im Sinne von brechig damit datenschutzrechtliche Bestimmungen. Und das war auch die Top Antwort
- 12:47mit 55%. Also ich glaube, dass Datenschutz-Thema ist und Top of our mind, wenn man über das Thema
- 12:52quasi reden, das ist sicherlich auch in einer europäischen DNA so drinnen. Und es ist auch so,
- 12:57dass Europa mit Abstand die höchsten Strafe von allen quasi verhängt auch im Schnitt. Wenn wir
- 13:02jetzt ja anschauen, Datenschutzregulatoren in anderen Märkten, dann ist der durchschnittliche
- 13:06Schaden respektive durchschnittliche Strafe, in dem Fall nicht der Schaden in Europa am höchsten.
- 13:11Und man sprengt auch natürlich die Priorisierung bei uns in der Industrie.
- 13:14Ich glaube grundsätzlich bei KI, beim Einsatz von KI, ob das jetzt für die selber abwehr,
- 13:19oder im sonstigen Fall dieses, glaube ich, dass man wirklich sehr genau schaut, sehr transparent
- 13:23schaut und auch zusammenbringt Technik, Ethik, nicht zu vergessen Ethik, als auch rechtliche Aspekte.
- 13:31Also es geht hier um Transparenz, wie funktionieren die Prozesse der KI, mit welchen Trainingsdaten
- 13:36wurde die KI auch sozusagen auch die Penetration der KI, also mit manipulierenden Bildern beispielsweise,
- 13:44auch die KI zu trainieren, damit auch die KI selbstresilienter ist gegen Angriffe.
- 13:49Ich glaube, da tut sich auch gerade ganz, ganz viel. Und ich glaube, wir als Unternehmen sind
- 13:53da ganz stark gefragt, oder wir als Tierexpertinnen und Experten sind ja ganz stark gefragt zu
- 13:58wissen, welche KI hier im Einsatz ist. Das KI im Einsatz ist, so fängt es vielleicht an,
- 14:03das KI im Einsatz ist, welche KI sie ist im Einsatz, wer steckt denn da dahinter, wie wurde die KI trainiert.
- 14:10Und da gibt es wahrscheinlich auch keine Richtigung, keine Falsche, aber ich glaube, das Wissen und
- 14:13die Transparenz darüber ist der erste Schritt in die richtige Richtung, die richtige KI für
- 14:18den richtigen Anwendungsfall einzusetzen. Worauf, oder was sollten denn Unternehmen tun,
- 14:23oder worauf sollten sie denn achten, um sicherzustellen, dass sie da auch eine vertrauenswürdige KI
- 14:28implementieren und auch wissen, was sie da eben tun, weil ein bisschen ist das ja auch so die
- 14:32Büchse der Pandora. Standards, Zertifizierungen, was muss man denn da schauen, was empfehlen
- 14:37sie denn zum Beispiel den Kunden? Also ich glaube, sie haben ja nicht so jetzt direkt Mittelstand,
- 14:41aber ein bisschen wird es auch in die Richtung gehen. Es gibt auf europäische Ebene oder in Europa
- 14:45verschiedene Zertifizierungen und Testharte. Da gibt es auf der einen Seite einen EU Cloud Code
- 14:51of Conduct in verschiedenen Levels beispielsweise und wenn jemand diesen Code of Conduct auf Level
- 14:583 eben erfüllt und die Services, die man bietet auch im Scope enthalten sind, das heißt vom
- 15:04Umfang dieser Prüfungen oder Zertifizierungen erfasst, dann habe ich als Unternehmen, kann
- 15:11ich keinen bestmöglicheren Nachweis bekommen im Hinblick auf Data Protection, also das ist
- 15:16einfach der Goldstandard auf der Seite und dann habe ich Datenschutz erledigt und auf der linken
- 15:23Seite gibt es das Thema Informationssicherheit und ich habe vorhin schon ein C5 erwähnt,
- 15:28internationaler ISAI, ISAI sagt zwei und wenn man das auch mitbringt, dann und auch hier die
- 15:36Services, die man bietet im Scope der Überprüfung auch umfasst sind, da braucht es den genauen Blick,
- 15:43weil das ist nicht immer der Fall, dann kann ich zwei grüne Hackel drunter machen.
- 15:49Vor allem Herr Schmeisser, Herr Domeck, ich bedanke mich ganz herzlich für dieses
- 15:54spannende Gespräch und wünsche noch einen schönen Tag. Dankeschön.
- 15:58Ebenso danke. Danke.
- 15:59Das war ein Podcast zur Schwerpunktwoche Cyber Security, veranstaltet von der Presse in
- 16:07Kooperation mit FaberSoft. Wir bedanken uns fürs Zuhören.
- 16:14[Musik]