Latest / KI Espresso / KI-Agent mit Pass: Wer gibt ihm Zugriff?

Transcript

KI-Agent mit Pass: Wer gibt ihm Zugriff? · KI Espresso

• 0:00
  SPEAKER_00: Ein KI-Agent kann bald einen Pass haben.
• 0:02
  SPEAKER_00: Die eigentliche Frage ist nicht, ob der Agent klug ist, sondern wer ihm Zugriff gibt.
• 0:08
  SPEAKER_00: Willkommen zu The Debate.
• 0:10
  SPEAKER_00: Am 2.
• 0:11
  SPEAKER_00: Juni 2026 hat Workde ja diesen sogenannten Agent Passport angekündigt.
• 0:17
  SPEAKER_00: Genau.
• 0:17
  SPEAKER_01: Und Cisco treibt mit Initiativen wie Cloud Control auch genau in diese Richtung.
• 0:21
  SPEAKER_01: Richtig.
• 0:22
  SPEAKER_00: Und das ist also das ist wirklich ein massiver Paradigmenwechsel.
• 0:26
  SPEAKER_00: KI-Systeme lesen jetzt eben nicht mehr nur brav Texte durch, sie handeln ab sofort aktiv in unseren Firmennetzwerken.
• 0:34
  SPEAKER_01: Und genau das ist der Punkt, an dem es gerade bei uns, also speziell in der Dachregion, richtig komplex wird.
• 0:40
  SPEAKER_01: Ich meine, wir reden hier von extrem strengen Datenschutzvorgaben.
• 0:44
  SPEAKER_01: Oh ja, definitiv.
• 0:45
  SPEAKER_01: Ja, wir haben die Mitbestimmung durch den Betriebsrat, all diese ISO-Kontrollen.
• 0:50
  SPEAKER_01: Und denkt mal an die hochsensiblen Workflows, etwa im Gesundheitswesen oder naja, im Bankensektor.
• 0:56
  SPEAKER_01: Da lautet doch die absolute Kernfrage: Wie trennen wir eigentlich Mensch, einen einfachen Service-Account, einen Bot und diesen neuen autonomen KI-Agenten noch sauber voneinander?
• 1:08
  SPEAKER_00: Ja, das ist die Frage.
• 1:09
  SPEAKER_00: Und deshalb vertrete ich heute die Position, dass dieser Agentenpass ein zwingend notwendiger Sicherheitsgurt ist, also um KI in Unternehmen überhaupt irgendwie verantwortungsvoll laufen zu lassen, brauchen wir das.
• 1:23
  SPEAKER_01: Okay, und ich halte dagegen.
• 1:25
  SPEAKER_01: Dieser Pass ist, wenn wir ehrlich sind, in Wahrheit ein neues Torwerkzeug.
• 1:30
  SPEAKER_01: Also ein Gate der großen Plattformen, die einfach das Argument Sicherheit nutzen, um ihre eigene Marktmacht weiter auszubauen.
• 1:37
  SPEAKER_00: Lass uns vielleicht erstmal bei diesem Sicherheitsgurt bleiben.
• 1:41
  SPEAKER_00: Weil bisher sind Enterprise-Agenten im Grunde doch gefährliche Spielzeuge.
• 1:46
  SPEAKER_00: Spielzeuge.
• 1:47
  SPEAKER_00: Ja, absolut.
• 1:48
  SPEAKER_00: Kein seriöses Unternehmen darf doch einfach einen, naja, einen völlig unbekannten Agenten auf Gehaltsdaten loslassen oder auf HR-Systeme oder das IT-Ticketing.
• 1:59
  SPEAKER_00: Ein Pass macht aus dieser unregulierten Schatten-IT endlich eine prüfbare, produktive Infrastruktur.
• 2:06
  SPEAKER_01: Da machst du es dir aber schon ein bisschen zu einfach.
• 2:08
  SPEAKER_01: Dein Sicherheitsgurt-Vergleich, der hinkt für mich gewaltig.
• 2:12
  SPEAKER_01: Warum?
• 2:12
  SPEAKER_01: Denn wer diesen Gurt herstellt, der bestimmt dann plötzlich auch, wer überhaupt ins Auto steigen darf.
• 2:18
  SPEAKER_01: Wenn jetzt Riesen wie Workday oder Microsoft diese Pässe ausstellen, dann diktieren die den Markt.
• 2:24
  SPEAKER_00: Naja, sie regulieren den Zugang.
• 2:27
  SPEAKER_01: Ja, aber das heißt, Kunden könnten bald gezwungen sein, nur noch den Agenten mit dem in Anführungszeichen richtigen Pass zu kaufen.
• 2:35
  SPEAKER_01: Und eben nicht den, der technologisch eigentlich der beste ist.
• 2:38
  SPEAKER_01: Das halte ich einfach für einen reinen Vorwand, um Konkurrenz auszusperren.
• 2:42
  SPEAKER_00: Also das Risiko einer Monopolbildung, das sehe ich natürlich auch.
• 2:47
  SPEAKER_00: Aber wir müssen doch hier mal die technische Realität anerkennen.
• 2:50
  SPEAKER_00: Wir haben den Sprung vom harmlosen Chatbot zum autonomen Akteur gemacht, Stichwort MCP.
• 2:56
  SPEAKER_00: Ah, das Model Context Protocol.
• 2:59
  SPEAKER_00: Genau.
• 2:59
  SPEAKER_00: Lass uns das kurz für alle greifbar machen, weil das super wichtig ist.
• 3:03
  SPEAKER_00: MCP bedeutet, die KI schreibt nicht mehr nur als Text, hey, du solltest diese Rechnung überweisen.
• 3:10
  SPEAKER_00: Sondern sie hat faktisch den digitalen Mauszeiger in der Hand und klickt selbst auf Überweisen.
• 3:16
  SPEAKER_00: Für so eine krasse Handlungsfähigkeit brauchen wir zwingend eine harte Kontrolle auf Netzwerkebene.
• 3:23
  SPEAKER_00: Sonst herrscht Chaos.
• 3:24
  SPEAKER_01: Dass die KI jetzt selbst klickt, das bestreite ich ja überhaupt nicht.
• 3:29
  SPEAKER_01: Aber genau wegen dieser neuen Handlungsfähigkeit entstehen doch strukturelle Risiken auf Governance-Ebene.
• 3:35
  SPEAKER_01: Und, also die löst du nicht mit einem einfachen Stempel auf einem Pass?
• 3:39
  SPEAKER_01: Denk mal an das Confused Deputy-Problem.
• 3:42
  SPEAKER_00: Ähm, erklär das bitte nochmal genauer.
• 3:44
  SPEAKER_01: Sehr gern.
• 3:45
  SPEAKER_01: Stell dir vor, ein KI-Agent hat weitreichende Rechte.
• 3:48
  SPEAKER_01: Sagen wir die eines IT-Admins.
• 3:50
  SPEAKER_01: Okay.
• 3:51
  SPEAKER_01: Jetzt schickt ein externer Angreifer eine bösartige E-Mail mit versteckten Befehlen.
• 3:56
  SPEAKER_01: Der Agent liest diese E-Mail, wird durch den manipulierten Text ausgetrickst und löscht plötzlich im Namen des Admins ganze Datenbanken.
• 4:05
  SPEAKER_01: Krass, ja.
• 4:05
  SPEAKER_01: Der Agent wurde also als Stellvertreter quasi verwirrt.
• 4:09
  SPEAKER_01: Ein Confused Deputy.
• 4:11
  SPEAKER_01: Ein Zertifikat an der Eingangstür ändert doch überhaupt nichts daran, wenn der Agent drinnen im Gebäude plötzlich falsche Dinge tut.
• 4:18
  SPEAKER_00: Aber Moment, genau da setzt die Idee des Passes doch an.
• 4:22
  SPEAKER_00: Der ist nicht nur ein Türsteher, der funktioniert eher wie eine echte Personalakte.
• 4:28
  SPEAKER_00: Wie meinst du das?
• 4:29
  SPEAKER_00: Naja, wenn der Agent durchdreht und die Datenbank löscht, wer ist dann eigentlich schuld?
• 4:35
  SPEAKER_00: Das Modell?
• 4:36
  SPEAKER_00: Die Plattform oder doch der Fachbereich?
• 4:39
  SPEAKER_00: Ohne Pass wissen wir das einfach nicht.
• 4:42
  SPEAKER_00: Mit Pass haben wir klar dokumentiert, wer ist der Besitzer, welches Modell lief da gerade, welche Scopes und Datenklassen waren freigegeben.
• 4:53
  SPEAKER_00: Genau wie ein neuer Mitarbeiter am ersten Tag nicht sofort den Masterschlüssel zum Tresor bekommt, darf auch ein KI-Agent nicht ohne diese strikte Akte durchs Netz wandern.
• 5:03
  SPEAKER_00: Die Verantwortungskette muss greifbar sein.
• 5:06
  SPEAKER_01: Okay, das Konzept der Personalakte, das leuchtet mir schon ein.
• 5:11
  SPEAKER_01: Aber erklär das mal einem deutschen Betriebsrat.
• 5:14
  SPEAKER_01: Ein KI-Agent hat ohne Audit Trail einfach Gehaltsdaten verändert und wir wissen nicht mal, wer eigentlich dafür haftet.
• 5:23
  SPEAKER_01: Das wäre ein absoluter DSGVO-Albtraum.
• 5:26
  SPEAKER_01: Definitiv.
• 5:27
  SPEAKER_01: Mein Problem bleibt bei der ganzen Sache aber diese Zentralisierung.
• 5:31
  SPEAKER_01: Wenn jetzt jede Plattform ihr eigenes geschlossenes Passsystem daut, wie soll da ein CISO in einem Unternehmen noch den übergreifenden Überblick verhalten?
• 5:40
  SPEAKER_01: Das fragmentiert unsere Sicherheit doch komplett.
• 5:43
  SPEAKER_00: Das ist ein absolut valider Punkt.
• 5:45
  SPEAKER_00: Wenn wir uns also nicht blind auf proprietäre Pässe der Hersteller verlassen können, dann liegt die Verantwortung am Ende wieder bei den Unternehmen selbst.
• 5:53
  SPEAKER_00: Sie müssen die Kontrolle über die Governance übernehmen.
• 5:56
  SPEAKER_00: Richtig.
• 5:57
  SPEAKER_01: Und das bedeutet in der Praxis doch, dass Unternehmen zuallererst mal ein eigenes lückenloses Inventar brauchen.
• 6:04
  SPEAKER_01: Wir müssen intern festhalten, wer oder was agiert da überhaupt?
• 6:08
  SPEAKER_01: Wem gehört der Agent, welches Modell treibt ihn an und welche Zugriffsrechte hat er exakt.
• 6:14
  SPEAKER_00: Absolut, das ist die Basis.
• 6:16
  SPEAKER_00: Und noch viel wichtiger finde ich die Reaktionsfähigkeit.
• 6:20
  SPEAKER_00: Wenn dein Confused Deputy wirklich anfängt, die Datenbank zu löschen, brauchen wir ein etabliertes Kill-Switch-Playbook.
• 6:26
  SPEAKER_00: Oh ja.
• 6:27
  SPEAKER_00: Wenn der Bot durchdreht, muss klar sein, wer zieht in den ersten 15 Minuten in Stecker zieht, welche Berechtigungen frieren wir sofort ein, da darf es im Ernstfall keine langen Diskussionen geben.
• 6:38
  SPEAKER_01: Und um das gar nicht erst so weit kommen zu lassen, müssen wir an die Architektur ran.
• 6:44
  SPEAKER_01: Wir brauchen harte, vordefinierte Grenzen.
• 6:47
  SPEAKER_01: Es muss glasklar sein, welche Aktionen ein Agent ausführen darf und wo, etwa bei Finanztransfers, zwingend ein Mensch vorher auf freigeben klicken muss.
• 6:57
  SPEAKER_00: Exakt.
• 6:58
  SPEAKER_00: Es braucht am Ende wohl beides.
• 7:00
  SPEAKER_00: Einerseits diese Transparenz durch einen Pass, aber eben auch die harte unternehmensinterne Kontrolle.
• 7:07
  SPEAKER_01: Die Frage ist nicht mehr nur, ob KI unsere Arbeit ersetzt.
• 7:10
  SPEAKER_01: Die Frage ist, wer den KI-Mitarbeiter einstellt, kontrolliert und wieder feuert.
• 7:16
  SPEAKER_00: Wenn euch diese Debatte zum Nachdenken gebracht hat, abonniert KI Espresso.
• 7:20
  SPEAKER_00: Jeden Tag eine neue KI-Debatte.
• 7:23
  SPEAKER_00: Das war KI Espresso.