Latest / Cyber-Tango – der echte TRUST Podcast / Ein neues KI Sicherheitsinstitut – genau das, was gefehlt hat… oder?

Transcript

Ein neues KI Sicherheitsinstitut – genau das, was gefehlt hat… oder? · Cyber-Tango – der echte TRUST Podcast

• 0:06
  Speaker 1: Hallo liebes Publikum, da sind wir wieder mit dem Cybertango.
• 0:12
  Speaker 1: Dem echten Trast-Podcast.
• 0:14
  Speaker 1: Hallo lieber Axel!
• 0:16
  Speaker 1: Hallo lieber Stefan es
• 0:18
  Speaker 0: freut mich heute wieder ein Podcast mit dir aufzunehmen leider nicht zusammen im Büro.
• 0:24
  Speaker 0: Nee
• 0:24
  Speaker 1: das klappt die Woche nicht aus der Ferne.
• 0:26
  Speaker 1: ich glaube du bist fern im Osten Du bist in Dresden oder?
• 0:29
  Speaker 0: Ich bin in unserer Geschäftsstelle in Dressen.
• 0:31
  Speaker 0: in der Tat Wir haben hier im Kunden Workshop ein paar andere Aktivitäten noch Sehr nett.
• 0:37
  Speaker 0: Man hat gerade ein Weinfest auf dem Altmarkt aufgebaut, also wir sollten heute nicht zu lange machen, dann könnte ich da noch...
• 0:45
  Speaker 1: Da warst du aber nur nicht!
• 0:46
  Speaker 1: Ich will den Podcast also aufnehmen.
• 0:48
  Speaker 0: Nein das Weinfests geht gerade erst los in der Tat.
• 0:52
  Speaker 1: Super Apopo feiern.
• 0:55
  Speaker 1: weißt Du dass wir bald einen Jubiläum feiern?
• 0:59
  Speaker 0: Jetzt bin ich gespannt.
• 1:01
  Speaker 0: Ja
• 1:02
  Speaker 1: Ich habe nämlich heute Morgen mal gezählt, bin einmal meine Spotify-Einträge durchgegangen.
• 1:07
  Speaker 1: Das ist jetzt die achtenvierzigste Folge das heißt wir haben bald unseren fünftigsten.
• 1:11
  Speaker 0: Super!
• 1:14
  Speaker 0: Da
• 1:16
  Speaker 1: müssen wir uns doch was Besonderes ausdenken oder?
• 1:18
  Speaker 1: Da
• 1:19
  Speaker 0: werden wir uns etwas einfallen lassen.
• 1:21
  Speaker 1: Ich hätte da schon eine Idee, da könnten wir doch mal jemanden reinbringen der uns Helme unterstützt.
• 1:25
  Speaker 0: Ja ganz genau und das sollten wir tun.
• 1:27
  Speaker 0: Mal einen kleinen Blick hinter die Kulissen werfen vielleicht
• 1:30
  Speaker 1: Genau.
• 1:31
  Speaker 1: Und vielleicht auch machen wir zur Geschichte des Podcasts, wie sich das entwickelt hat ein bisschen Stellung geziehen
• 1:36
  Speaker 1: etc.,
• 1:37
  Speaker 1: also ist ja schon jetzt übern Jahr und ganz interessant was da
• 1:41
  Speaker 0: ist.
• 1:41
  Speaker 0: Genau finde ich auch super.
• 1:45
  Speaker 1: Ich
• 1:45
  Speaker 0: freue mich drauf.
• 1:46
  Speaker 0: Da dürfen auch die Hümer glaube ich mal gespannt sein.
• 1:50
  Speaker 0: Da haben wir doch schon einiges erlebt glaube ich
• 1:53
  Speaker 1: auch.
• 1:53
  Speaker 1: Und auch heute werden wir wieder was erleben.
• 1:55
  Speaker 1: Axel, ich habe mir wie immer ganz kurzfristig etwas ausgedacht worüber ich gerne mal mit dir plaudern will und wir versuchen ja immer ein bisschen so Tages oder Wochen aktuell zu sein.
• 2:07
  Speaker 1: Diesmal geht es nicht darum was haben wir die Woche erlebt wer war wo sondern mal eine ganz andere Geschichte.
• 2:14
  Speaker 1: Ich habe heute morgen einen kleinen Artikel gelesen wo du auch schon mal die Finger dran hattest in Zusammenfassung vom TÜV-Verband.
• 2:27
  Speaker 1: Und da geht es darum, dass wohl die Woche jetzt beschlossen wurde.
• 2:30
  Speaker 1: man möchte da ein KI Sicherheitsinstitut gründen
• 2:36
  Speaker 0: Genau, das ist richtig.
• 2:38
  Speaker 0: Ein KI-Sicherheitsinstitut.
• 2:41
  Speaker 0: Mal wieder was Neues!
• 2:43
  Speaker 1: Mal wieder etwas Neues, was die Welt bisher wahrscheinlich sehnlichst vermisst hat und die rettende Idee ist wohl diese Woche bekommen?
• 2:51
  Speaker 1: Ich habe dann das mal überflogen, hab' dann gesehen oh da ist das BSI, das BMI, das BMDS... Und wer noch alles irgendwie mit drin soll ein Nucleus sein aus BSI und Bnetz A. Man scheint mich dieser scharfen Waffe jetzt dann das richtige Instrument gefunden zu haben, um die KI zu bezähmen.
• 3:17
  Speaker 1: also ich will mal jetzt nicht in erster Linie ins tiefste Detail dieses Artikels einsteigen.
• 3:23
  Speaker 1: Aber ich habe mir in dem Moment mal wieder gedacht, ja toll!
• 3:26
  Speaker 1: Wir haben schon so viel Gremien, wir haben Arbeitskreise und politische Organschaften.
• 3:33
  Speaker 1: Irgendwie werde ich den Eindruck nicht los, dass wir gerade in Deutschland es total cool finden immer wieder so neues Organ zu gründen, zu reden, zu Reden... Und das eigentliche Handeln kommt mir meistens ziemlich kurz und das habe ich ja oft schon in Sachen der Informationssicherheit auch beklagt.
• 3:55
  Speaker 0: Das
• 3:56
  Speaker 1: drängt sich jetzt aber auch massiv wieder bei dieser Geschichte auf, also ich bin so ein Stück weit eine Mischung aushamisiert, aber auch entsetzt und manchmal auch entnervt weil ich das Gefühl hab wir bewegen uns doch nicht vom Fleck.
• 4:14
  Speaker 1: Jetzt weiß ich dass du mit der Regulierung da ein bisschen näher stehst
• 4:19
  Speaker 0: Ja.
• 4:20
  Speaker 1: Ich frage einfach mal ganz frei raus, was hast du dazu?
• 4:22
  Speaker 1: Ist ja ein kleiner Überfall jetzt!
• 4:25
  Speaker 0: Alles gut, alles gut freue ich mich auch und
• 4:29
  Speaker 1: es ist
• 4:29
  Speaker 0: einfach nicht von der Anzuweisung.
• 4:32
  Speaker 0: Ich muss das einfach jetzt auch mal loslassen so bisschen wenn ich nicht mehr weiter weiß gründlich einen Arbeitskreis.
• 4:38
  Speaker 0: Das ist ja ein allseits beliebter Spruch.
• 4:40
  Speaker 0: Ich möchte es aber eigentlich noch nicht zu sehr ins Lächerliche ziehen.
• 4:45
  Speaker 0: Ich glaube schon, dass das in diesem Fall eine absolut sinnvolle Sache ist.
• 4:51
  Speaker 0: Mein großes Arber ist... ich bin mal sehr gespannt was man wirklich draus macht!
• 4:56
  Speaker 0: Also vielleicht einmal kurz zur Sache dieses KI-Sicherheitsinstitut?
• 5:00
  Speaker 0: Das ist eben etwas was da wirklich so die Sperrschütze in Deutschland sein soll Bewertung machen soll von KI Modellen auch Ich sage mal Anforderungen, Möglichkeiten bedrohung in dem ganzen Top-Kontext untersuchen soll.
• 5:20
  Speaker 0: Ich sag nur Claude
• 5:21
  Speaker 1: Mythos
• 5:22
  Speaker 0: dieses KI-Modell von Anthropic Geist hat ja wirklich durch alle Starkzeilen.
• 5:29
  Speaker 1: Schlimme Geschichten gibt es genug?
• 5:31
  Speaker 0: Absolut!
• 5:32
  Speaker 0: Und dieses Institut soll eben ein echter Knowhow Träger sein.
• 5:38
  Speaker 0: Und jetzt eigentlich zu der Herausforderung und da bin ich wirklich mal gespannt, ob man es schafft diese Herausforderungen zum Meistern.
• 5:48
  Speaker 0: Wenn man das wirklich gut machen will dann muss man hier auch beispielsweise richtig Geld in die Hand
• 5:55
  Speaker 1: nehmen
• 5:56
  Speaker 0: um daraus eben nicht die nächste Behörde zu machen, die sich dann ich sage mal Zektore verwaltet.
• 6:03
  Speaker 0: Sondern die sollen wirklich wissenschaftlich fundiert da auch Erkenntnisse wirklich zutage scharffüllen und das wird nicht ganz billig.
• 6:14
  Speaker 1: Korrekt!
• 6:15
  Speaker 1: Wissenschaftlich arbeitendes Institut kostet Geld.
• 6:19
  Speaker 1: Da haben wir einen anderen Wissenschaftssektor ja auch Genügend Nöte gerade in Deutschland da entsprechend notwendig ausgestattet zu sein.
• 6:28
  Speaker 1: Jetzt soll das dann ein, ich sag mal KI-Kompetenzzentrum werden, dass richtig verstehe.
• 6:34
  Speaker 1: gleichzeitig gibt es aber eben doch Das Ministerium auch für digitale Angelegenheiten etc.
• 6:42
  Speaker 1: war und vielerlei Teilnehmer dieses Instituts sind ja offensichtlich so wie geplant ist dann auch schon den anderen Gremien oder Behörden letzten Endes unterwegs und Menschen kann man ja bekanntermaßen auch nicht klonen.
• 6:57
  Speaker 1: No how, kann man auch nicht unbedingt per Copy and Paste irgendwie vor vielfältigen also irgendwie... Also erschließt mich dieses Konstrukt oder die Sinnhaftigkeit des Konstrukts erstmal so nicht wirklich?
• 7:12
  Speaker 0: Das kann ich gut nachvollziehen!
• 7:15
  Speaker 0: Es gibt ein Vorbild.
• 7:16
  Speaker 0: darum grätsche ich gerade herein.
• 7:21
  Speaker 0: Großbritannien hat da das sogenannte AISI oder A-A-S.I.
• 7:26
  Speaker 0: gegründet, das ist das Artificial Intelligence Safety and Security Institute und da hat man es wirklich geschafft entsprechend Kulifieren ich sage mal auch aus dem... vielleicht auch ein bisschen provoziert jetzt im Beamtenmuff rausgehalten, sondern wirklich ein absolut fähiges Institut auf die Beine gestellt.
• 7:50
  Speaker 0: Also man munkelt sogar das der Ministerpräsident in Großbritannien selbst, also der Premierminister da die Finger mit dem Spiel hatte auch Gespräche mit Korrifhen geführt hat und man es auch geschafft hat in dieses Institut reinzulotzen.
• 8:08
  Speaker 0: Und dass ist... So hat es der Minister vom BDMS, der Carsten Wildberger auch geschildert.
• 8:17
  Speaker 0: Das ist eigentlich sein Vorbild für das Deutsche KI-Sicherheitsinstitut.
• 8:23
  Speaker 0: Wenn wir das hinkriegen glaube ich dann kann das eine echt coole Sache werden.
• 8:28
  Speaker 0: Das aber auch gleichzeitig die Messlatte und der Knackgute.
• 8:31
  Speaker 1: Ja, okay.
• 8:32
  Speaker 1: Das beschreibt dann das hereinbringen von Leuchttürmen sozusagen Menschen die im Lampenricht stehen, die vorgewiesen und nachgewiesen haben dass sie da entsprechende Kompetenz erhalten haben
• 8:51
  Speaker 1: etc.,
• 8:52
  Speaker 1: das ist auch gut und schön.
• 8:53
  Speaker 1: nur wenn wir uns jetzt mal von dem Themenkomplex KI Ein Stück weit entfernen und einfach nur mal über Informationssicherheit sprechen.
• 9:02
  Speaker 1: Dann muss man doch schon feststellen, dass da das Rad nicht ständig neu erfunden werden muss, sondern dass es da im Grunde bewährte Best Practices Ansätze gibt noch und nöcher, die man einfach mal angehen muss.
• 9:17
  Speaker 1: Und da fahre ich mich immer wieder bei den unterschiedlichen Disziplinen.
• 9:21
  Speaker 1: Warum ist denn immer wieder neuen Zusammenschluss?
• 9:24
  Speaker 1: Neuen Verbanden, neuen Arbeitskreis etc.
• 9:26
  Speaker 1: zu all diesen Aufgabenstellung gibt, obwohl man einfach mal losfahren könnte.
• 9:32
  Speaker 1: Und ich muss da nochmal ein Bild heranführen was mir beim Nachdenken über diese Geschichte auch so transparent oder so schön bildlich gekommen ist.
• 9:47
  Speaker 1: Ich fahre ja gerne Motorrad und mir kommt das immer so vor Als würde man ständig eine Tour planen, auch mit anderen Leuten sich immer darüber austauschen.
• 9:58
  Speaker 1: Soll mal hier lang, soll mal daran gibt es nicht noch bergigere, kurviggere schöner Strecken und man würde immer nur drüber erzählen und diskutieren wo man denn eigentlich mal hinfahren will.
• 10:09
  Speaker 1: aber man würde nie die Zeit finden endlich mal loszufahren.
• 10:14
  Speaker 1: Und so kommt mir dieses ganze geringe um immer wieder neue Arbeitskreise Gremien und meinetwegen dann auch Institute vor.
• 10:25
  Speaker 1: Die fahren alle nie los!
• 10:27
  Speaker 0: Das
• 10:27
  Speaker 1: verstehe ich
• 10:28
  Speaker 0: super gut, man sagt ja auch gerne Deutschland und die EU da sind schon einige Themen wirklich kaputtreguliert.
• 10:36
  Speaker 0: auf der anderen Seite sehen wir ja auch ich sag mal nur eine Umsetzung der NSW-Richtlinie.
• 10:44
  Speaker 0: da hat man es ja nicht einmal ansatzweise geschafft die Zeitvorgaben einzuhalten.
• 10:49
  Speaker 0: Dann sind wir jetzt eigentlich mitten im Bürokratismus-Thema für mich.
• 10:52
  Speaker 0: Ja,
• 10:53
  Speaker 1: da fährt man dann entweder gar nicht oder viel zu spät los und... Richtig!
• 10:57
  Speaker 0: Und teilweise mit einer Erkenntnis bei braucht man dann nicht mehr losfahren weil es viel zu Spät ist.
• 11:02
  Speaker 0: Und deshalb sage ich... Da bin ich ein bisschen positive rauf und ganz du vielleicht auch
• 11:08
  Speaker 1: mit
• 11:08
  Speaker 0: diesem KI Sicherheitsinstitut.
• 11:11
  Speaker 0: Ich glaube wir haben viele schlechte Beispiele und das Positive was ich dem zumindest im Moment abgewinnen möchte ist, dass man hier ein Versuch startet es anders zu machen.
• 11:21
  Speaker 0: Aber um das vielleicht auch den Hörern hier mal drastisch vor Augen zu führen wenn man etwas vergleichbares wie dieses britische Institut auf die Beine stellen will dann reden wir auch über Gehaltsniveaus die sich schlicht und ergreifend offensichtlich in doppelter Höhe bewegen im Vergleich zu dem was typische Behörden Mitarbeiter ansonsten in Deutschland verdienen.
• 11:43
  Speaker 0: Das heißt, wenn ich da wirklich mal entkoppelt vom gehörten Muff dann auch nur Hauträger einfangen möchte.
• 11:49
  Speaker 0: Dann muss sich wirklich entsprechendes Geld in die Hand nehmen.
• 11:52
  Speaker 0: Das muss uns klar sein!
• 11:53
  Speaker 1: Oder am Ende verlassen die alle die deutschen Behörden und gehen alle zu dem Institut?
• 12:02
  Speaker 0: Ja den Arztschimmel brauchen wir natürlich irgendwie trotzdem.
• 12:05
  Speaker 0: aber ja das ist der Tat aber auch ein wirklich... wirklich großes Problem.
• 12:11
  Speaker 0: und ich glaube, das Allerschlimmste wäre wenn man vielleicht auf einer Gehaltsstruktur schafft nur Hauträger einzufangen die dann aber in den Bürokratieprozessen in Deutschland erstickt.
• 12:24
  Speaker 0: Das wäre das Dübsen was wir machen können.
• 12:29
  Speaker 1: Dann
• 12:30
  Speaker 0: stellen wir uns selbst wieder ein Bein unter dem Motto Wir haben eine gute Idee und haben sie einfach schlecht umgesetzt Und das wird nicht einfach.
• 12:38
  Speaker 0: Also ein bisschen sehe ich den Carsten Wildberger da immer noch als Hoffnungsträger, da auch mal Dinge anders zu machen und vielleicht ... Stell mir dann.
• 12:48
  Speaker 0: Lass uns gut auf uns sein!
• 12:50
  Speaker 0: Vielleicht wird genau dieses Institut... Auch in Deutschland mal ein Leuchtturmprojekt und eine Blaupause wie man das doch mal etwas besser machen könnte?
• 12:59
  Speaker 1: Ja wir sollten es mal weiter beobachten.
• 13:02
  Speaker 0: Das
• 13:02
  Speaker 1: wollen Sie sich nicht kaputtreden.
• 13:05
  Speaker 0: Deine Bedenken sind extrem nachvollziehbar
• 13:07
  Speaker 1: Zunächst mal etwas kritisch, aber vielleicht wird aus dem gut gemeinten Ansatz ja auch tatsächlich was vernünftig ist.
• 13:14
  Speaker 1: Also ich würde mir grundsätzlich bei der Informationssicherheit wünschen dass ein bisschen mehr Learning by Doing auch gewagt wird das man auch durchaus mal Wagt einfach mal mit einem einigermaßen vernünftigen Plan loszufahren und das Risiko auch mal einzugehen, dass man sich vielleicht in einer Straße mal verfährt und einfach mal wenden muss.
• 13:35
  Speaker 1: Ein paar Meter und dann den richtigen Weg wieder eingeht aber dass man es sich in Bewegung setzt.
• 13:39
  Speaker 1: Das würde ich mir allgemein mehr wünschen.
• 13:43
  Speaker 1: wenn die vielen Menschen die immer sich exzessiv zu Dingen austauschen einen wenig mehr Hand anlegen würden Dann wären wir schon ganz,
• 13:54
  Speaker 0: ganz großen Schritt.
• 13:54
  Speaker 0: Weniger, weniger drüber reden sondern eben wie du
• 13:58
  Speaker 1: sagst machen, anfangen... Genau!
• 14:00
  Speaker 1: ...genau
• 14:01
  Speaker 0: lassen dann sind wir schon einen großen Schritt weiter.
• 14:04
  Speaker 0: bin ich
• 14:05
  Speaker 1: Da sind wir uns heute ja doch wieder ein.
• 14:08
  Speaker 1: Ich
• 14:11
  Speaker 0: mach nochmal
• 14:14
  Speaker 1: einen kleinen Ausblick, also wir haben eben schon gesagt Jubiläum da machen wir denke ich mal was Besonderes.
• 14:20
  Speaker 1: dann stehen noch ein paar andere Geschichten an.
• 14:23
  Speaker 1: da wird jemand von der Plus-Server mal mit dabei sein, da geht es so stärker wieder einmal in das Thema digitale Souveränität rein.
• 14:33
  Speaker 0: Wird auch mit KI
• 14:34
  Speaker 1: zu tun haben?
• 14:35
  Speaker 1: Richtig und KI wird auch noch ein Schwerpunktthema einnehmen und dass wäre man stückweit eben genau mit dieser digitalen Souveranität auch stärker verheiraten.
• 14:46
  Speaker 1: Dazu kommen wir auch in den nächsten Wochen dazu und dann wird's glaube ich nochmal stärker Berichte aus dem Tages Geschehen, Geschäft geben und ja...
• 14:59
  Speaker 0: Also ich sehe jetzt schon
• 15:00
  Speaker 1: so weiter machen.
• 15:02
  Speaker 0: Eine langweilige Sauerpause werden wir nicht haben?
• 15:04
  Speaker 1: Nee, das wird es nicht geben!
• 15:05
  Speaker 1: Also sagen wir mal, hier gibt's woanders bei uns gibts Spannung
• 15:09
  Speaker 0: Bei uns gibst du was auf die Ohren.
• 15:12
  Speaker 0: Gut,
• 15:12
  Speaker 1: Axel danke dir!
• 15:14
  Speaker 0: Hat mich viel Spaß gemacht.
• 15:15
  Speaker 1: Viel Spaß noch in Dresden und wir sehen uns morgen in Köln.
• 15:18
  Speaker 0: Wir sehen uns
• 15:18
  Speaker 1: morgens schon wieder in Kroln.
• 15:19
  Speaker 0: ganz gedacht
• 15:20
  Speaker 1: war alles klar Bis dahin.
• 15:21
  Speaker 1: Macht's gut, tschüss!
• 15:22
  Speaker 1: Danke fürs Zuhören.
• 15:23
  Speaker 1: Tschüß.