Latest / Cyber-Tango – der echte TRUST Podcast / Mehr gestalten, weniger verwalten – Deutschlands Platz zwischen Code und Bürokratie

Transcript

Mehr gestalten, weniger verwalten – Deutschlands Platz zwischen Code und Bürokratie · Cyber-Tango – der echte TRUST Podcast

• 0:06
  Speaker 0: Hallo zusammen, da sind wir wieder mit dem Cyber Taco.
• 0:11
  Speaker 0: Dem echten Trast Podcast heute wieder mit Axel.
• 0:16
  Speaker 0: Hallo Axel!
• 0:17
  Speaker 1: Hallo Stefan freut mich dabei zu sein wieder in... Gewohnt im Set-up, nur wir beide.
• 0:24
  Speaker 1: Dann kann uns auch keiner dazwischen quatschen.
• 0:26
  Speaker 0: Ja ist wunderbar das war ja schrecklich letzte Woche.
• 0:28
  Speaker 1: Sascha!
• 0:31
  Speaker 1: Ich sag's
• 0:34
  Speaker 0: dir.
• 0:34
  Speaker 0: Ist mal wieder schön dass wir nur in der Zweierkonstellation
• 0:39
  Speaker 1: klauen.
• 0:39
  Speaker 1: Genau genau sehe ich auch so.
• 0:42
  Speaker 0: Sag mal wir hatten relativ viel tatsächlich Office Arbeit.
• 0:47
  Speaker 0: Ich bin gar nicht so viel unterwegs gewesen, hatte aber eine Menge Anfragen gehabt.
• 0:54
  Speaker 0: Du hattest ein Thema mal vorgeschlagen, ist jetzt auch schon wieder ein paar Tage her, was uns nach wie vor ziemlich umtreibt und nehmt auf KI AI.
• 1:08
  Speaker 0: Hält doch mal, was du gerne austauschen
• 1:10
  Speaker 1: willst.
• 1:11
  Speaker 1: Ja also zum einen bin ich selbst dabei auch unser KI-Angebot natürlich so ein bisschen unter das Volk zu bringen.
• 1:19
  Speaker 1: aber natürlich kam da ja doch eine sehr aufsehenerregende Geschichte und zwar hat es da ja einen Vorfall bei OpenAI selbst gegeben Und zwar, man hat dort ja eigentlich eine Testumgebung eingerichtet und da sollte ein KI eine Aufgabe lösen.
• 1:41
  Speaker 1: Diese KI hat sich dann einfach mal eben selbstständig gemacht.
• 1:45
  Speaker 0: Die hat sich befreit, habe ich gelehrt!
• 1:47
  Speaker 1: Ja so kann man es bildlich auch ausdrücken aber wenn man sich das vor Augen führt ist es schon sehr faszinierend und spannend muss ich ehrlich sagen.
• 1:57
  Speaker 1: Also die ist ja nicht nur ausgebrochen, sondern ich sage das jetzt mal ein bisschen vermenschlich.
• 2:04
  Speaker 1: Die KI hat sich dann wirklich Gedanken gemacht wie sie ihre Aufgabenstellung am besten lösen kann und hat sich dabei überlegt naja da könnte vielleicht mal bei einem anderen Unternehmen Einbrechende hat das dann auch getan über eine Sicherheitslücke, die sie dann selbst noch ermittelt hat und dann aufgedeckt hat.
• 2:24
  Speaker 1: Und hat dafür einen Exploit geschrieben, ist darüber eingedrohen und hat sich erst mal... Ja es war auch ein KI-Unternehmen gewesen in Amerika.
• 2:34
  Speaker 1: dort getummelt Das kann einem schon mal die Schrecken.
• 2:39
  Speaker 1: Also
• 2:39
  Speaker 0: man kann ja sagen, die KI hat hocheffizient gehandelt was man eigentlich auch von ihr erwartet.
• 2:47
  Speaker 1: das hat in der Tat glaube ich OpenAI genauso geäußert dass sie da total effizient unterwegs war.
• 2:57
  Speaker 1: also ich finde es eher erschreckend als effiziente.
• 3:04
  Speaker 0: Effizienz ist etwas Positives, man muss trotzdem einen Ablauf und auch den effizienten Ablauf muss man steuern können.
• 3:13
  Speaker 0: Irgendwo muss man Leitplanken setzen können.
• 3:16
  Speaker 0: da scheint es aber schwierig zu sein oder schwierig gewesen zu sein auf jeden Fall in dem KS.
• 3:22
  Speaker 1: Die Frage ist so ein bisschen wie den Geist, der man dann aus der Flasche lässt.
• 3:27
  Speaker 1: Also wenn man jetzt eine solch hoheffiziente KI entwickelt und programmiert hat und die auf Probleme loslässt, ob man sie anschließend überhaupt noch adäquat steuern kann?
• 3:39
  Speaker 1: Das ist für mich eigentlich die Gernfrage!
• 3:42
  Speaker 1: Und das ist natürlich Chance-und Risiko zugleich, dass es erschreckend und kann andererseits natürlich faszinierende Lösungsmöglichkeiten für Probleme eröffnen
• 3:52
  Speaker 0: Ja.
• 3:53
  Speaker 0: Also ich muss bei solchen Vorfällen immer an diesen Filmen, ODC-Default-Denken denken.
• 4:00
  Speaker 0: Der ist faszinierend und gespenstig zugleich.
• 4:05
  Speaker 0: Ist ja im Grunde genau das Szenario, dass da in dem Fall hat man es noch den Computer oder ich weiß gar nicht wie man's genannt hatte dann, dass das große Etwas was letztens die Macht über alles ergreift, hat man da herauf beschworen.
• 4:19
  Speaker 0: Aber so ein bisschen kommen einem natürlich
• 4:23
  Speaker 1: Es kommen sehr schnell solche dystopischen Fantasien hoch und ich kann es auch wiederholen.
• 4:33
  Speaker 1: Also da wird einem schon Angst und Bungle auf der anderen Seite, ich finde das dann schon faszinierend was für Reaktionen das hervorgerufen hat.
• 4:42
  Speaker 1: Also man konnte dann auch relativ schnell danach lesen, viele reagieren ja direkt dann EU-Politiker fordern Konsequenzen war zum Beispiel eine Schlagzeile die ich da auch gelesen habe.
• 4:56
  Speaker 1: Ich meine jetzt haben wir in der EU natürlich schon den AI Act und damit schon sehr weitreichenden regulativen Rahmen und die Politik fordert jetzt gleich noch mehr Regulierung.
• 5:08
  Speaker 1: Die Frage ist, ob uns Regulierung wirklich vor sowas wirksam schützen kann zumal das ja auch in Amerika passiert ist und ein europäischer regulativer haben.
• 5:17
  Speaker 0: Da gar nichts ausgewirkt hätte, ne?
• 5:19
  Speaker 1: Richtig!
• 5:20
  Speaker 1: Und ich sage mal... Ich glaube die EI also so einen KI-Modell wird sich da um regulative Beschränkungen irgendwie wenig Gedanken machen sondern die wird einfach losmaschieren im Zweifel.
• 5:33
  Speaker 1: Also da kam man schon wundern.
• 5:37
  Speaker 0: Ja, ich sehe jetzt losgelöst von so, ich sag mal Marktmonstern oder Marktführer wie man es auch immer nennen will in den Humpfels.
• 5:47
  Speaker 0: Da seh' ich im Kleinen natürlich auch ein wenig das Dilemma du gewiegst dich immer auf zwei Gleisen.
• 5:53
  Speaker 0: der eine ist Regulierungs- oder Compliance-Fahrt, wenn es um KI geht.
• 6:01
  Speaker 0: Ich sage mal meinetwegen der Betriebsrat sagt wir brauchen hier für unser Mittelstandsunternehmen eine eine tragfähige Compliance Regelung für KI Anwendungen.
• 6:14
  Speaker 0: Eine Ebene da gibt's dann eher darum was das so was das nicht.
• 6:18
  Speaker 0: die andere Ebene ist eben die Spielwiese von die eben effizient suchen, die manchmal auch technisch fasziniert und verspielt sind in den Umgebungen.
• 6:33
  Speaker 0: Und das ist halt ein Gleis wo die Verbindung so'n bisschen fehlt vom rechten zum linken Strang.
• 6:40
  Speaker 0: Ideal wäre ja wenn man es direkt wie ich sage mal bei der Softwareentwicklung sagte man ja immer security embedded Wenn man sagt von Anfang an beide Beide Themen mit reinnehmen und in die Entwicklung gehen.
• 6:54
  Speaker 0: Das ist im Moment noch ein bisschen schwierig, habe ich das Gefühl?
• 6:58
  Speaker 1: Ja!
• 6:58
  Speaker 1: Das würde ich auf jeden Fall bestätigen.
• 7:01
  Speaker 1: Und ich glaube wir müssen wegkommen von einem reinen Bedenken Träger tun.
• 7:07
  Speaker 1: Sondern... Wir müssen es schaffen.
• 7:12
  Speaker 1: Ich sag mal letzte ist es KI ja auch nur ein Tool.
• 7:15
  Speaker 1: Wie ich sage's mal so platt.
• 7:16
  Speaker 1: Ich freue mich da auch sehr auf Reaktionen, vielleicht auf diesen Podcast von Stimmen die das auch anders sehen.
• 7:23
  Speaker 1: Aber ich sehe es erst mal als Tool.
• 7:25
  Speaker 1: und da muss der Mensch noch den Steuern den Einfluss letzten Endes behalten.
• 7:29
  Speaker 1: und dann dürfen oder müssen wir uns sagen ja, ich glaube du hast ja schon ganz gut formuliert Spieltrieb eigentlich erhalten ein solch neues Tool in seiner Macht und Nützlichkeit auch dann auszutesten, auszuprobieren.
• 7:47
  Speaker 1: Und das maximale Potential dann auch abzuschöpfen.
• 7:50
  Speaker 1: Das muss das Ziel sein!
• 7:52
  Speaker 1: Ich glaube da sind wir in Deutschland vielleicht auch in der EU nicht so gut.
• 7:58
  Speaker 1: Wie gesagt ich will jetzt keinen regulativen Rahmen kleinreden aber Ich glaube, wir entwickeln da eher Hemmungen im Umgang mit so etwas als dass wir vielleicht die Nutzenpotenziale nach vorne
• 8:13
  Speaker 0: stellen.
• 8:13
  Speaker 0: Ja das ist es.
• 8:15
  Speaker 0: Es ist ein Tool am Ende und keine Religion oder irgend sowas.
• 8:19
  Speaker 0: und so sollte man's auch behandeln.
• 8:22
  Speaker 0: und ich sage mal, die Dinge zusammenzubringen... Das ist ja zum Beispiel auch das was bei unserer KI-Potenzialanalyse machen.
• 8:32
  Speaker 0: Also wenn wir mehr Geschäftsprozesse durchleuchten mit den Kunden und halt mal ganz faktisch erfassen, wo Effizienzpotenzial ist und darstellen wie man es KI basiert eben heben kann.
• 8:47
  Speaker 0: dann wird genau in dem Moment eben auch die Leitplanke der Compliance mit eingebaut sozusagen und mit bedacht weil Spieltrieb ja aber Unendlicher Spieltreib des Spieltriebs-Wegens macht eben auch keinen Sinn.
• 9:02
  Speaker 0: Da muss man schon an der Stelle dann sich in einem halbwegs geordneten Umfeld bewegen können und ich glaube... Das mit der Analyse ist ein ganz guter Startpunkt, um das dann auch richtig in die richtigen Projektwege zu leiten.
• 9:18
  Speaker 1: Das ist definitiv ein guter Staat und ich glaube so sollte es auch aussehen.
• 9:22
  Speaker 1: Ich plädiere ja mal sehr dafür keine, ich sage mal, Null Acht Fünfzehn Use Cases von denen man immer wieder hört einfach aufs Tablett zu zaubern sondern ich glaube da muss jedes Unternehmen auch den für sich richtigen Ja, ich sag mal am gewinnbringsten Weg da finden.
• 9:46
  Speaker 1: und wenn man das schafft.
• 9:47
  Speaker 1: Ich glaube dann kann man viel Potenzial erschließen und ich bin natürlich auch dabei wir müssen in Deutschland und in Europa insgesamt mehr tun.
• 9:56
  Speaker 1: Wir dürfen uns nicht auf KI-Modelle die uns aus Amerika oder vielleicht aus China oder von sonst wo rüber schwappen verlassen sondern ich glaube da müssen wir selbst deutlich mehr tun
• 10:09
  Speaker 0: Ja.
• 10:11
  Speaker 1: Also das ist eine klare Forderung!
• 10:12
  Speaker 1: Und das ist nicht nur... Selber
• 10:13
  Speaker 0: mehr tun und weniger auf andere zeigen, die dann wahrscheinlich auch mal schon was falsch machen.
• 10:19
  Speaker 1: Richtig!
• 10:19
  Speaker 1: Und ich meine wenn wir da selbst mehr tun, auch selbst keine i-Modelle entwickeln und da hängen wir sicher ein Stück hinten dran aber ich glaube das Rende sondern noch nicht ganz verloren.
• 10:27
  Speaker 1: Aber dann können wir da auch darüber nachdenken wie man KI-Modele vielleicht auch besser kontrolliert als dann zu sagen Wir verlassen uns auf irgendeine KI die von irgendwo kommt und ja wir hängen da auch so ein bisschen am Tropf unter dem Fliegenfeld von einem Unternehmen.
• 10:43
  Speaker 1: Das kann es eigentlich nicht sein.
• 10:47
  Speaker 0: Was ich positiv wahrnehme im Moment ist, dass durchaus Entwicklungsabteilungen meist bei etwas größeren Unternehmens sich von uns und anderen auch Unterstützung einholen um eben dieses KI Know How und auch die KI Compliance Variablen sozusagen vermittelt zu bekommen sich an der Stelle wirklich auch selber stärker und schlauer machen.
• 11:14
  Speaker 0: Das ist schon ein Trend, das sehr positiv ist weil nur so können ja auch diese Keimzellen entstehen wenn Entwicklungsabteilungen sich mit Kompetenz mit dem Thema auseinandersetzen.
• 11:27
  Speaker 1: Richtig, richtig und KI ist ja auch da durchaus sehr vielschichtig.
• 11:31
  Speaker 1: Ich kann überlegen wie ich selbst intern bei mir im Unternehmen-Prozess optimiere oder wie du dann vielleicht eher da andeutest, auch im eigenen Produktangebot für die eigenen Kunden dass sich da irgendwie ein Stück KI einbaue und Mechanismen mit dem mich mein eigenes Produkt vielleicht noch im Markt verbessere.
• 11:51
  Speaker 1: aber Ja, ich glaube wir brauchen viel Kompetenz.
• 11:55
  Speaker 1: Wir brauchen eigentlich auch so unseren Spieltrieb damit rum zu experimentieren und da dann wirklich gute Lösungen zu finden.
• 12:04
  Speaker 0: Rein regulativ!
• 12:06
  Speaker 0: Du bist ja da unser Experte.
• 12:07
  Speaker 0: Gibt es da glaube ich im Moment keine?
• 12:09
  Speaker 0: großen Neuigkeiten, die
• 12:12
  Speaker 1: richtungswert wären.
• 12:13
  Speaker 1: Es gibt den AI-Akt der jetzt halt sukzessive auch Wirkung entfaltet.
• 12:18
  Speaker 1: ich denke auch da wird man wahrscheinlich auch auf EU-Ebene wahrscheinlich auch schon wieder von zwei Richtungen drauf gucken.
• 12:24
  Speaker 1: unter dem Motto ist ja auf der einen Seite vielleicht streng genug wenn man jetzt gerade den aktuellen Schrecken sieht, der einem in die Glieder gefahren ist.
• 12:34
  Speaker 1: Auf der anderen Seite überlegt man ja doch zunehmend auch auf EU-Ebene, ob man nicht zu viel Bürokratie und Regelwerk aufbaut um dann auch eine Entwicklungsfähigkeit zu bremsen.
• 12:47
  Speaker 1: Das kann es auch nicht sein.
• 12:48
  Speaker 1: ich glaube da muss man wirklich noch einen guten Mittelweg finden.
• 12:53
  Speaker 1: Aber ein echtes Update bei KI-Regulatorik
• 12:59
  Speaker 0: ist auch noch kein Omnibus losgeschickt worden.
• 13:03
  Speaker 1: Das ist ja so der beliebteste Spruch im Kontext.
• 13:08
  Speaker 1: Ein Omnibossian!
• 13:12
  Speaker 1: Ja, wir sollen es nicht jetzt lächerlich hinzusehen aber du hast schon völlig recht Stefan.
• 13:17
  Speaker 1: Das ist ein Thema für sich auch wieder... Aber ich habe etwas sehr Interessantes gelesen vielleicht noch die Geschichte und das hat mir auch nochmal deutlich gemacht wie wir da leider uns Ich sage mal, vielleicht auch selbst im Denken behindern.
• 13:34
  Speaker 1: Und zwar ist das jemand, da habe ich in einem Buch über KI gelesen, dann geht es aber eher um KI-Nutzung wie der mit dem Freut auf einer Wanderung war und seine Tochter war mit dabei zehn Jahre alt und die Tochter hat sich an einzelnen Stationen... irgendwie so kurz Notizen macht aber weniger für ein Tagebuch, sondern eigentlich um Promz-Ideen für Promz zu sammeln die sie dann abends in eine KI schmeißt um so Eindrücke von der Wanderung zu dokumentieren und von einer KI Spiegel zu lassen.
• 14:08
  Speaker 1: Das ist so völlig natürlich sprachlich intuitiv wie das passierte.
• 14:14
  Speaker 1: Während wir dann wahrscheinlich erst mal anfangen, ja gibt's da irgendwo Schutzrechte von Dritten die ich verletze darf ich jetzt sagen was könnte ich damit machen?
• 14:23
  Speaker 1: und ich glaube vielleicht haben Kinder in dem Falle war es halt ein Kind da nochmal einen ganz anderen Zugang der sich bei unserer älteren Generation zu der ich mich hier auch zähle, wo wir uns da vielleicht auch einfach schwerer tun und die Regulatur bekommt dann nun mal leider von unserer Generation.
• 14:45
  Speaker 0: Ja genau, das ist ein schönes plakatives Beispiel.
• 14:52
  Speaker 1: Also mehr Neugierde, mehr ausprobieren... Ich glaube, dass wäre ein guter Weg!
• 14:59
  Speaker 1: Und natürlich im Klima was das fördert, das wäre natürlich noch besser Ja.
• 15:06
  Speaker 0: Jut!
• 15:07
  Speaker 1: Spannend, ja sehr spannend.
• 15:09
  Speaker 1: das wird uns weiter beschäftigen.
• 15:10
  Speaker 1: Stefan
• 15:13
  Speaker 0: würde sagen dabei belassen was diese Woche auch und wir schauen mal wie es nächste Woche klappt.
• 15:21
  Speaker 0: möglicherweise kommen wir auch in eine kleine Sommerpause.
• 15:27
  Speaker 0: da müssen wir mal gucken wie wir's hinkriegen ist noch nicht so ganz gesetzt Wir werden uns aber dazu melden.
• 15:37
  Speaker 1: Ganz sicher, auf jeden Fall.
• 15:38
  Speaker 1: Alles klar Stefan ich freue mich hat Spaß gemacht
• 15:41
  Speaker 0: Dito
• 15:42
  Speaker 1: und dann ja alles Gute unseren Hörer und bis zum nächsten Mal!
• 15:47
  Speaker 0: Bis bald Tschüss.