Latest / M365.FM – Microsoft 365, Copilot & KI Podcast auf Deutsch / KI-Agenten in Microsoft Teams: Produktivitätsschub oder Sicherheitsrisiko? Governance für digitale Mitarbeiter (KI-Synchronfassung)

Transcript

KI-Agenten in Microsoft Teams: Produktivitätsschub oder Sicherheitsrisiko? Governance für digitale Mitarbeiter (KI-Synchronfassung) · M365.FM – Microsoft 365, Copilot & KI Podcast auf Deutsch

• 0:00
  Stellen Sie sich vor, Sie melden sich bei Teams an und werden von einem Schwarm K.I. Agenten begrüßt,
• 0:03
  und Ihnen jeder verspricht, Ihren Arbeitstag zu optimieren.
• 0:05
  Sie versprechen Produktivität, doch ohne Regeln können Sie Ziele falsch interpretieren
• 0:08
  und den Zugriff auf eine Weise erweitern, die Sie haftbar macht.
• 0:11
  Das ist, als würden Sie Ihren Praktikanten eine Firmenkreditkarte geben
• 0:14
  und hoffen, dass auf der Abrechnung am Ende keine Yacht steht.
• 0:16
  Ist die gute Nachricht.
• 0:17
  In dieser Folge erhalten Sie ein einfaches Framework, drei praktische Kontrollmechanismen
• 0:20
  und erste Schritte, um diese Agenten nützlich sicher und auf Ihre Ziele ausgerichtet zu halten.
• 0:25
  Denn bevor Sie ihnen vertrauen können, müssen Sie verstehen, was für Mitarbeiter Sie eigentlich werden.
• 0:30
  Lernen Sie Ihre neuen digitalen Kollegen kennen.
• 0:31
  Lernen Sie Ihre neuen digitalen Kollegen kennen.
• 0:33
  Sie setzen nicht in Bürokabinen, Sie stempeln nicht ein und Sie haben
• 0:35
  definitiv niemals das Mitarbeiterhandbuch gelesen.
• 0:38
  Das sind nicht die verstaubten Excel-Makros, um die wir uns früher kümmern mussten.
• 0:41
  Agenten beobachten Planen und Handeln, weil sie drei Kernkomponenten kombinieren,
• 0:44
  Gedächtnis, Berechtigungen und Toolzugriff.
• 0:46
  Das ist das Framework von Microsoft und BCG und das ist der entscheidende Unterschied.
• 0:49
  Ihr neuer Kollege kann frühere Interaktionen nachverfolgen,
• 0:52
  zwischen Systemen wechseln, denen Sie bereits vertrauen und Apps tatsächlich so nutzen wie ein Mensch.
• 0:57
  Sicher, die Versuchung ist groß, wieder Witze über Praktikanten zu machen.
• 0:59
  Sie erscheinen voller Energie, haben aber keine Ahnung, wo der Tacker liegt.
• 1:02
  Genauso ist es mit Agenten, Sie stürmen Ihre Workflows, ohne die Grenzen wirklich zu verstehen.
• 1:06
  Aber im Gegensatz zu einem Praktikanten können Sie auf Outlook, SharePoint oder Dynamics zugreifen,
• 1:09
  sobald Sie sie einsetzen.
• 1:10
  Diese Macht ist nicht nur skurril, sie ist ein Governance-Problem.
• 1:13
  Ohne angemessene Datensicherung und Berechtigungen haben Sie im Grunde die Angriffsfläche
• 1:16
  über Ihren gesamten Stack hinweg erweitert.
• 1:19
  Wenn Sie einen Vorgeschmack darauf wollen, wie schnell das Realität wird, schauen Sie sich die Roadmap an.
• 1:22
  Microsoft hat bereits SharePoint-Agenten angekündigt, die Dokumente direkt in Sites verwalten,
• 1:26
  nicht nur Suchergebnisse, nicht nur Suchergebnisse.
• 1:29
  Stellen Sie sich vor, Sie bitten einen Assistenten, Projektdateien aufzuräumen
• 1:31
  und er ordnet tatsächlich freigegebene Ordner über Teams-Hinweg neu.
• 1:34
  Beeindruckend auf einer Folie, aber auch nur eine Fehlinterpretation davon entfernt,
• 1:38
  die Finanzdaten des falschen Quartals zu archivieren.
• 1:40
  Das ist kein theoretisches Risiko, das ist das Betriebsproblem für das nächste Jahr.
• 1:43
  Automatisierung der alten Schule war wie ein wahren Automat.
• 1:45
  Man drückte einen Knopf, der Riegel fiel heraus und mit etwas Glück blieb er nicht stecken.
• 1:48
  Agenten sind ganz anders.
• 1:50
  Sie können den Status Ihres Workflows erkennen, verfügbare Optionen prüfen und Schritte generieren,
• 1:53
  die niemand im Voraus fest programmiert hat.
• 1:55
  Es ist adaptiv und genau das ist sowohl der Reiz als auch die Gefahr.
• 1:58
  Bei einem Fehler ist das Ergebnis kein steckengebliebener Schokorie.
• 2:01
  Es ist ein überzeugender Bericht, der Daten aus drei Systemen zieht mit falsch definierten Zeilen,
• 2:04
  die Monate später als unumstößliche Wahrheit präsentiert werden.
• 2:06
  Warten Sie mal, wer unterschreiben muss, wenn die Buchhaltung fragt, wo die Differenz kommt.
• 2:09
  Dennoch ist Ihr Vorteil offensichtlich.
• 2:11
  Ein einziger Agent kann Verbindungen über Daten silus hinwegknüpfen, die Ihr menschliches Team kaum erreicht.
• 2:15
  Ihm ist es egal, ob die Daten in Teams, SharePoint oder einem Dynamics-Modul im Hintergrund liegen, Hintergrund liegen.
• 2:21
  Er springt dazwischen hin und her und erstellt Ergebnisse ganz ohne E-Mail-Anhänge,
• 2:24
  Kalendererinnerungen oder den einen Excel-Experten in Ihrer Abteilung.
• 2:28
  Was den Durchsatz angeht, ist es, als würden Sie jemanden einstellen,
• 2:30
  der zehnmal schneller arbeitet und nie eine Pause macht, um Fisch in der Mikrowelle aufzuwärmen.
• 2:34
  Aber Geschwindigkeit ohne Ausrichtung ist gefährlich.
• 2:36
  Agenten teilen nicht Ihre Geschäftsziele, sie teilen die wörtlichen Anweisungen, die Sie ihnen geben.
• 2:40
  Diese Diskrepanz ist das Prinzipal-Argent-Problem in technischer Verpackung.
• 2:44
  Sie wollen Genauigkeit und Compliance, Sie liefern eine bestmögliche Interpretation mit fehlgeleitetem Selbstvertrauen.
• 2:49
  Es ist keine Feindseligkeit, es ist Ahnungslosigkeit.
• 2:51
  Und Ahnungslosigkeit mit Systemberechtigungen kann verheerender sein als Bosheiten.
• 2:54
  So kommt es, dass ein übereifriger Assistent vertrauliche Tabellen an externe Kontakte verschickt,
• 2:58
  nur weil sie ihn gebeten haben, das Update zu teilen.
• 3:01
  Die Realität sieht also so aus.
• 3:02
  Agenten sind keine skurrilen Randerscheinungen, sondern digitale Mitarbeiter,
• 3:04
  die in zentrale Abläufe vordringen.
• 3:06
  Spektakulär fähig, aber völlig ahnungslos, was den Kontext betrifft.
• 3:10
  Vielleicht sind Sie von Ihrer Demo-Performance begeistert,
• 3:12
  aber der wahre Test beginnt, wenn Sie sie ohne die Leitplanken von Training oder Aufsicht in Live-Prozesse einsetzen.
• 3:17
  Und hier kommt Ihre Wissenslücke ins Spiel.
• 3:19
  Bleiben Sie dran, denn in wenigen Minuten gehen wir die drei Dinge durch, die jeder Agent braucht.
• 3:23
  Speicher, Berechtigungen und Tools und warum jedes davon sowohl eine Superkraft als auch eine Fehlerquelle ist,
• 3:27
  wenn es nicht verwaltet wird.
• 3:29
  Das bereitet Sie auf Ihre nächste Aufgabe vor, nicht nur Tools zu nutzen,
• 3:31
  sondern digitale Mitarbeiter zu verwalten, als wären Sie Teil Ihres.
• 3:34
  Und das kommt ganz ohne HR-Handbuch, aber mit jeder Menge Verantwortung.
• 3:38
  Manager als Vorgesetzte digitaler Mitarbeiter.
• 3:40
  Stellen Sie sich vor, Sie öffnen Ihre Leistungsbeurteilung
• 3:42
  und sehen eine neue Zeile, Verwaltung von zwölf menschlichen Mitarbeitern und 48 KI-Agenten.
• 3:46
  Das ist kein Science-Fiction-Gerede, sondern entwickelt sich zu einem echten Maßstab für Managementfähigkeit.
• 3:50
  Experten sagen heute, dass der Wert eines Managers teilweise daran gemessen wird,
• 3:53
  wie viele digitale Arbeiter er anleiten kann.
• 3:55
  Denn Prompting, Verifizierung und Aufsicht werden schnell zu zentralen Führungskompetenzen.
• 3:59
  Der Chef der Zukunft delegiert nicht nur an Menschen, er orchestriert eine Mischung aus Personal und Software.
• 4:05
  Dieser Wandel ist wichtig, weil KI-Agenten nicht wie Werkzeuge funktionieren, die man bei Nichtgebrauch einfach liegen lässt.
• 4:10
  Sie agieren dann selbst, sobald sie den Anstoß erhalten.
• 4:12
  Und sie melden sich nicht, wenn sie verwirrt sind.
• 4:14
  Ihre Rolle als Manager erfordert nun Fähigkeiten, die weniger wie das Schreiben von Notizen aussehen
• 4:18
  und mehr wie das Definieren von Eskalationsschwellen.
• 4:19
  Wann soll der Agent anhalten und bei ihnen nachfragen, wann soll er weitermachen?
• 4:23
  Laut PwC und dem Weltwirtschaftsforum sind die drei entscheidenden Managementmaßnahmen hier.
• 4:27
  Klare Instruktionen, Prompting, menschliche Überwachung und die Überprüfung der Ergebnisse.
• 4:32
  Vernachlässigen Sie einen dieser Punkte, vervielfragen sich die Risiken.
• 4:35
  Bei menschlichen Mitarbeitern gibt es ständig Feedback.
• 4:37
  Tonfall eine kurze Frage, ein feines Zögern.
• 4:39
  Agenten liefern das nicht.
• 4:40
  Sie liefern fertige Arbeit ab, egal ob ihre Annahmen sinnvoll waren oder nicht.
• 4:43
  Deshalb ist Prompting keine beiläufige Formulierung, sondern Systemdesign.
• 4:46
  Eine einzige vage Anweisung kann zu falsch abgelegten Daten, leichtfertigem Zugriff auf Unterlagen oder selbstbewussten, aber falschen Berichten führen.
• 4:54
  Das Testen von Prompts vor ihrem Einsatz wird genauso wichtig wie die Überprüfung von Projektplänen.
• 4:58
  Überprüfung ist die andere Hälfte.
• 5:00
  Führungskräfte sind Stichproben zur Qualitätssicherung gewohnt, könnten aber annehmen.
• 5:03
  Automatisierung bedeutet präzis.
• 5:04
  Ein Irrtum.
• 5:05
  Agenten improvisieren und Improvisation ohne Kontrolle kann spektakuläre Schäden anrichten.
• 5:09
  Wie Ayumi Moaoki betont, hat KI ein Talent dafür, wohlklingenden Unsinn zu produzieren.
• 5:13
  Manager dürfen nicht annehmen, dass ein professioneller Ton auch faktische Richtigkeit bedeutet.
• 5:18
  Verifizierung, Quellenvalidierung und die Prüfung von Datenfaden gehören heute zur Führung.
• 5:22
  Überwachung schließt den Kreis.
• 5:23
  Betrachten Sie es weniger als klassisches Mikromanagement, sondern eher als Zugriffskontrolle.
• 5:27
  Baba Kochat nennt es das Kennen der Grenzen des Vertrauens.
• 5:30
  Wenn Sie einem Agenten Befugnisse und Werkzeugzugriffe erteilen, bleiben Sie für das Ergebnis verantwortlich.
• 5:34
  Manager müssen vorab entscheiden, wie viel Autonomie angemessen ist und entsprechende Leitplanken setzen.
• 5:38
  Diese Überwachung bedeutet oft, menschliche Zustimmung einzuholen, bevor ein Agent risikoreiche Änderungen vornimmt,
• 5:43
  wie das Senden externer Daten oder das Ändern von Datensätzen in Kernsystemen.
• 5:47
  Hier kommt die unangenehme Bindung.
• 5:49
  Ihr Ruf als Führungskraft hängt nun davon ab, wie gut Sie Menschen und digitale Kollegen in Einklang bringen.
• 5:53
  Zu viel Kontrolle erstickt den Nutzen.
• 5:56
  Zu wenig Kontrolle führt zu Fehlern, die Sie nicht einmal kommen, sahen.
• 5:59
  Die Herausforderung besteht nicht darin, ein Führungsstil zu werden, sondern beide gleichzeitig anzuwenden.
• 6:03
  Menschen brauchen Motivation und Empathie.
• 6:04
  Agenten brauchen klare Grenzen und ständige Kalibrierung.
• 6:08
  Sie so aufeinander abzustimmen, dass sie sich nicht gegenseitig in ihren Arbeitsabläufen stören,
• 6:11
  wird zu ihrem täglichen Managementreflex.
• 6:13
  Betrachten Sie Ihre Rolle wie die eines Dirigenten nicht, im personellen Sinne,
• 6:16
  sondern indem Sie buchstäblich den Takt für zwei verschiedene Gruppen angeben.
• 6:19
  Menschliche Mitarbeiter bringen Kreativität und Empathie ein.
• 6:21
  KI-Agenten bringen Geschwindigkeit und Reichweite, doch wenn sie niemand steuert, entsteht Disharmonie.
• 6:25
  Die besten Führungskräfte der Zukunft werden nicht nur an der Moral Ihres Teams gemessen,
• 6:28
  sondern daran, ob menschliche und digitale Mitarbeiter im gleichen Takt arbeiten,
• 6:32
  ohne sensible Daten preiszugeben oder Entscheidungen zu verzerren.
• 6:35
  Im schlimmsten Fall zerstört mangelnde Abstimmung nicht nur einen Arbeitsablauf,
• 6:38
  sondern führt zu Compliance-Untersuchungen.
• 6:40
  Die wichtigste Erkenntnis ist einfach.
• 6:41
  Ihr Jobtitel hat sich nicht geändert, aber der Inhalt Ihrer Rolle schon.
• 6:45
  Sie führen nicht mehr nur Mitarbeiter, sie führen Assistenzsysteme,
• 6:47
  die in jede von Ihnen genutzte Anwendung eingebettet sind.
• 6:50
  Das erfordert neue Fähigkeiten, präzise Prompts erstellen,
• 6:52
  Anweisungen auf unbeabsichtigte Folgen testen, Ergebnisse validieren
• 6:55
  und Human-in-the-Loop-Sicherheitsmechanismen durchsetzen.
• 6:59
  Erfolg in diesem Bereich unterscheidet die Führungskräfte von morgen von jenen,
• 7:02
  die man diskret in den vorzeitigen Ruhestand schickt.
• 7:03
  Und da Theorie zwar gut ist, Praxis aber besser, hier Ihre Tagesaufgabe.
• 7:10
  Öffnen Sie die Einstellungen Ihres Co-Piloten oder Agents
• 7:12
  und suchen Sie nach den Kontrollfunktionen für manuelle Freigaben oder menschliche Aufsicht.
• 7:15
  Falls Sie diese nicht finden, ist allein diese Lücke bereits ein wichtiges Erkenntnis ergibt.
• 7:18
  Es bedeutet, dass Sie noch nicht wissen, wie man einen Außerkontrollegraden im Prozess stoppt.
• 7:21
  Wenn die Personalführung schon immer mit dem Onboarding begann, ist die Frage berechtigt,
• 7:24
  wie sieht das Onboarding für einen KI-Agenten aus.
• 7:27
  Jeder Agent, den Sie einsetzen, bringt sein eigenes Starter-Kit mit.
• 7:30
  Der Inhalt dieses Kits, Speicher, Berechtigungen und Werkzeuge entscheidet,
• 7:33
  ob Ihr neuer digitaler Kollege Sie glänzen lässt oder Sie Ihr Wochenende damit verbringen, Schäden zu beheben.
• 7:39
  Die drei Elemente, die jeder Agent benötigt.
• 7:40
  Wenn man analysiert, was einen Agenten wirklich antreibt,
• 7:43
  nennen Microsoft und BCG ist das Starter-Kit mit drei Essentials, Speicherberechtigungen und Werkzeuge.
• 7:49
  Fehlt eines davon, haben Sie statt eines vertrauenswürdigen digitalen Kollegen
• 7:52
  einen unausgereiften Bolt der Planlos in Ihrer Umgebung herumstoppert.
• 7:55
  Machen Sie hier Fehler, buchen Sie sich direkte Aufräumarbeiten, für die Sie kein Budget eingeplant haben.
• 7:59
  Als erstes der Speicher.
• 8:00
  Dies ermöglicht es, Agenten Aufgaben miteinander zu verknüpfen,
• 8:03
  statt jedes Mal bei Null anzufangen wie ein Goldfisch am Computer.
• 8:06
  Dank Speicher kann ein Agent ihre Vorliebe, Diagramme immer in blau zu erstellen,
• 8:09
  von einem Bericht auf den nächsten übertragen.
• 8:11
  Der Vorteil ist Kontinuität, der Nachteil ist Persistenz.
• 8:14
  Fehler und schlechte Anweisungen werden genauso einfach mitgeschleift wie nützlicher Kontext.
• 8:17
  Microsoft hebt dies durch ihre Arbeit an Chunking und Chaining hervor.
• 8:20
  Agenten speichern Interaktionsabschnitte, um an logischen Farben zu bilden.
• 8:24
  PwC warnt jedoch, dass diese Dauerhaftigkeit auch Datenschutzrisiken birgt,
• 8:27
  da sensible Daten länger verbleiben könnten, als sie sollten, als sie sollten.
• 8:32
  Im schlimmsten Falle halten Sie nicht nur einen hilfreichen Assistenten,
• 8:34
  sondern einen, der ihren schlimmsten Tippfehler unendlich oft wiederholt.
• 8:37
  Als nächster ist die Berechtigung.
• 8:38
  Betrachten Sie diese als den Mitarbeiterausweis des Agenten.
• 8:40
  Bei Menschen geben Sie auch nicht jedem einen Generalschlüssel für das Hauptquartier,
• 8:43
  sondern begrenzen den Zugriff rollenbasiert.
• 8:44
  Dieselbe Regel gilt auch hier.
• 8:46
  Sind die Berechtigungen zu streng,
• 8:47
  prallt der Agent ständig gegen verschlossene Türen und nervt Sie mit Anfragen nach Zugriffen.
• 8:51
  Sind Sie zu freizügig, haben Sie HR-System und Ihre Finanzdaten effektiv etwas überlassen,
• 8:55
  das Compliance-Regeln nicht versteht.
• 8:56
  Die Empfehlung von PwC hierzu ist missverständlich.
• 8:58
  Nutzen Sie rollenbasierte Zugriffskontrolle, RBRC,
• 9:01
  erzwingen Sie Multifaktor-Authentifizierung für erweiterte Aktionen
• 9:03
  und schützen Sie sensible Bereiche durch Data Loss Prevention.
• 9:05
  Wenn ein Agent beispielsweise das Internet abfragen muss,
• 9:08
  empfiehlt PwC, dies über einen Proxy mit DLP-Richtlinie zu leiten,
• 9:11
  damit keine Kundendaten in Suchanfragen gelangen.
• 9:13
  Damit kann.
• 9:14
  Bei einer natürlichen 20 halten RBRC und MFA in sich händisch.
• 9:17
  Bei einer natürlichen 1 verwandeln übermäßige Berechtigungen
• 9:19
  in den weltweit schnellsten versehentlichen Insight.
• 9:21
  Dann gibt es noch die Tools.
• 9:22
  Das sind die Apps, APIs und Konnektoren,
• 9:24
  die Agenten tatsächlich für ihre Aktion nutzen.
• 9:25
  Ohne Tools starren Sie nur ins Leere.
• 9:28
  Mit den falschen Tools richten Sie mehr Schaden als Nutzen an,
• 9:30
  als würde man einem Praktikanten am ersten Tag Produktionsrechte
• 9:32
  statt eines sicheren Reporting-Dashboards geben.
• 9:35
  Tools bestimmen den Umfang dessen, was ein Agent berühren kann.
• 9:38
  Microsoft baut hier Leitplanken ein,
• 9:39
  indem Co-Pilot-Konnektoren in Kontrollkanäle eingebettet werden,
• 9:42
  statt dem Agenten einfach hohen Zugriff zu gewähren.
• 9:44
  Die bewährte Methode ist dieselbe.
• 9:45
  Begrenzen Sie den Umfang, validieren Sie Standardeinstellungen
• 9:47
  und koppeln Sie externe Tools an Protokollierung und DLP.
• 9:49
  Halten Sie das Werkzeug-Set im Griff,
• 9:51
  sonst bauen Sie eine außer Kontrolle geratene Rube Goldberg-Maschine
• 9:53
  mit die Teile an Systeme Schraub, die Sie nie berühren durfte.
• 9:56
  Eine kurze Jesusbrücke weiter.
• 9:57
  Gedächtnis ist Erfahrung, das, woran der Mitarbeiter bereits erinnert.
• 10:00
  Berechtigungen sind der Ausweis, wo Sie sich bewegen dürfen.
• 10:03
  Tools sind der Laptop und lizenzierte Apps das,
• 10:05
  was Sie tatsächlich nutzen können.
• 10:06
  Kurz und prägneim.
• 10:08
  Der Vergleich mit dem menschlichen Onboarding ist sinnvoll,
• 10:10
  aber bei Agenten ist das Risiko schneller,
• 10:11
  weniger sichtbar und im Nachhinein schwerer zu prüfen.
• 10:13
  Ausgewogenheit ist nicht.
• 10:14
  Ein ausgewogenes Gedächtnis bietet Kontinuität,
• 10:16
  ohne endlos persönliche Daten zu speichern.
• 10:18
  Begrenzte Berechtigungen geben Ihnen gerade genug Schlüssel für die Arbeit,
• 10:21
  ohne den Tresor zu öffnen.
• 10:22
  Passende Tools steigern die Produktivität,
• 10:24
  ohne den Schadensradius zu vergrößern.
• 10:27
  Zu viel von alledem lässt das Ergebnis mit einem Wurf
• 10:28
  von nützlich zu riskant umschlagen.
• 10:30
  Und genau wie bei echten Dingen können Sie sich der Verantwortung nicht entziehen.
• 10:33
  Microsofts eigene Leitlinien für verantwortungsvolle KI
• 10:35
  erinnern uns daran, dass Agenten die Anforderungen.
• 10:37
  Eine geringere Fehlertoleranz, strengere Transparenz, schärfere Kontrollen.
• 10:41
  Sie sind immer noch derjenige, der den Anruf entgegennimmt,
• 10:42
  wenn eine falsche Berechtigung oder ein falscher Toolzugriff
• 10:44
  einen Bericht weit preisgt.
• 10:45
  Bei einer natürlichen 20 liefert das Gedächtnis intelligenteren Rand.
• 10:48
  Berechtigungen stimmen genau mit den Richtlinien überein
• 10:50
  und Tools ermöglichen nur sichere Aktionen.
• 10:52
  Bei einer natürlichen Ein merkt sich der Agent schlechte Anweisungen,
• 10:54
  hat zu viele Schlüssel und nutzt den falschen Connector
• 10:56
  mit völliger Überzeugung.
• 10:57
  Das ist kein Ob, das ist die Risikokurve, auf der Sie sich bewegen.
• 11:00
  Und hier ist der Teil, den die meisten übersehen.
• 11:02
  Selbst wenn Sie das Starterkit korrekt einrichten,
• 11:03
  sind Sie noch nicht aus dem Schneider.
• 11:05
  Diese drei Komponenten eröffnen auch eine leisere, subtilere Gefahr.
• 11:08
  Der Agent weiß am Ende mehr, als Sie darüber,
• 11:10
  was er gerade getan hat.
• 11:11
  Und wenn Sie die Gründe hinter seinen Entscheidungen nicht sehen können,
• 11:14
  schleicht sich direkt unter Ihrer Nase
• 11:15
  eine neue Art von Managementproblem ein.
• 11:17
  Das unsichtbare Problem, Informationsasymmetrie.
• 11:21
  Hatten Sie schon einmal einen Mitarbeiter,
• 11:22
  der Ihnen arbeitet mit einem Lockern?
• 11:23
  Keine Sorge, ich habe das erledigt.
• 11:25
  Stellen Sie sich nun denselben Satz von einem KI-Agenten vor,
• 11:28
  nur dass Sie nicht nachhaken
• 11:28
  und nicht in den Denkprozess blicken können.
• 11:30
  Sie erhalten ein poliertes, ordentlich verpacktes Ergebnis.
• 11:33
  Doch der Entscheidungsweg bleibt undurchsichtig.
• 11:36
  Das ist das unsichtbare Kopfzerbrechen, Informationsasymmetrie.
• 11:39
  Agenten verfügen über mehr Daten und Rechenleistung,
• 11:41
  als sie je haben werden,
• 11:42
  aber sie sind die Person, die für die Ergebnisse gerade stehen muss.
• 11:44
  Die California Management Review nennt dies ein klassisches Prinzipal-Agent-Problem.
• 11:48
  Das System besitzt private Informationen,
• 11:49
  die Sie nicht einsehen können, während Sie die Verantwortung tragen.
• 11:52
  Es ist, als würde Ihr digitaler Kollege hinter dem Bildschirm würfeln
• 11:55
  und Ihnen nur die Endzahl zeigen, nicht die Faktoren, die er dabei angesammelt hat.
• 11:59
  Und das Problem kündigt sich nicht behutsam an.
• 12:02
  Agenten geben Ergebnisse mit Überzeugung aus,
• 12:03
  Sie zögern nicht, Sie schränken nicht ein,
• 12:04
  Sie lassen sich nicht hinter die Kulissen blicken.
• 12:06
  Also starren Sie auf einen fertigen Bericht und fragen sich,
• 12:08
  ist dieses polierte Artefakt zuverlässig oder still und leise fehlerhaft?
• 12:11
  Bis Sie der Sache auf den Grund gehen,
• 12:13
  bauen nachgelagerte Teams möglicherweise bereits auf einem Fehler auf.
• 12:17
  Nehmen wir einen häufigen Fall.
• 12:18
  Ein Agent stuft eine Rechnung,
• 12:19
  die mit einem wichtigen Lieferantenvertrag verknüpft ist,
• 12:21
  fälschlicherweise als niedrig priorisiert, ein.
• 12:23
  Oberflächlich betrachtet sieht der Bericht makellos aus,
• 12:25
  nichts leuchtet rot auf.
• 12:26
  Monate später kloppt die Compliance wegen versäumter Zahlungen an.
• 12:29
  Sie verfolgen es zurück
• 12:30
  und entdecken die falsche Klassifizierung,
• 12:31
  die ganz am Anfang verborgen.
• 12:32
  Das sind die Informationsasymmetrien-Axel.
• 12:34
  Der Agent wusste, was er tat,
• 12:35
  aber sie hatten keinen Einblick in die Begründung.
• 12:36
  PwC hebt genau dieses Szenario in ihren DLP-Empfehlungen hervor.
• 12:41
  Leitplanken wie rollenbasierter Zugriff,
• 12:43
  Klassifizierungsprüfungen und Eskalationsschwellen verhindern,
• 12:45
  dass aus einem kleinen Ausrutscher eine finanzielle Strafe wird.
• 12:49
  Diese Dynamik spielt direkt in das Prinzipal-Agent-Problem hinein.
• 12:52
  Sie der Prinzipal setzen ein Ziel,
• 12:54
  etwa Lieferantenrechnungen zu organisieren.
• 12:55
  Der Agent optimiert auf buchstäblichen Gehorsam,
• 12:58
  klassifizieren und ablegen.
• 13:00
  Er erkennt die übergeordnete Absicht nicht,
• 13:01
  interpretiert keine Nuancen
• 13:02
  und wägt schon gar keine strategischen Auswirkungen ab.
• 13:04
  Was sie wie Sabotage anfühlt,
• 13:05
  ist doft nur blinde Loyalität
• 13:06
  gegenüber allzuwörtlich genommenen Anweisern.
• 13:08
  Fügen wir nun die moralische Knautschzone zu.
• 13:10
  Wenn etwas schief geht,
• 13:11
  landet die Verantwortung immer bei ihnen.
• 13:13
  Prüfer beschuldigen nicht den unsichtbaren Algorithmus,
• 13:15
  sie fragen, warum sie es nicht bemerkt haben.
• 13:18
  Die Maschine wälzt die Verantwortung ab,
• 13:19
  während der Mensch den Reputationsschaden trägt.
• 13:22
  Der Effekt ist,
• 13:23
  als wäre man der Airbag bei einem Unfall.
• 13:24
  Sie spüren die Auswirkungen und tragen die Last,
• 13:26
  während der eigentliche Verursacher unbeirrt weiterzieht.
• 13:28
  Was tun sie also?
• 13:29
  Man kann zwar nicht magisch
• 13:30
  in das neuronale Denken eines generativen Modells blicken,
• 13:32
  aber man kann Transparenz an den Schnittstellen schaffen.
• 13:35
  Erster Schritt.
• 13:36
  Bestehen Sie auf detaillierte Protokolle und Herkunftsnachweise.
• 13:39
  Nicht die Illusion von internen Gedanken,
• 13:41
  sondern eine konkrete Aufzeichnung,
• 13:42
  welche Daten abgerufen,
• 13:43
  welche Aktionen ausgelöst
• 13:44
  und welcher Reihenfolge dies geschah.
• 13:45
  Zweiter Schritt.
• 13:46
  Setzen Sie Transparenz der Sports ein.
• 13:48
  Diese zeigen die wichtigsten Entscheidungsvariablen
• 13:50
  auf Weres, wann,
• 13:50
  sodass Sie zumindest die Konturen erkennen,
• 13:52
  wie Ergebnisse zusammengesetzt wurden.
• 13:54
  Dritter Schritt.
• 13:54
  Verlangen Sie für weitreichende Aktionenbegründungen
• 13:56
  in verständlicher Sprache.
• 13:57
  Das CMR hebt dies in Bereichen
• 13:59
  wie dem Einstellungsprozess hervor.
• 14:01
  Agenten zu zwingen.
• 14:02
  Für jede Entscheidung menschenlesbare Kriterien
• 14:03
  zu liefern, schafft eine Ebene der Erklärbarkeit.
• 14:05
  Dritter Schritt unterziehen Sie Ihre Agenten im Rhythmus.
• 14:07
  Füttern Sie sie mit ungewöhnlichen Testfällen,
• 14:09
  bringen Sie sie absichtlich zum Absturz
• 14:10
  und dokumentieren Sie die Schwachstellen.
• 14:11
  Wenn Sie diese Fehler nicht selbst provozieren,
• 14:13
  werden Sie auftreten, wenn es um weit mehr geht.
• 14:15
  Jede dieser Maßnahmen löst die Asymmetrie nicht vollständig,
• 14:18
  aber gemeinsam lichten Sie den Nebel.
• 14:20
  Auditlogs bieten Ihnen Rekonstruktionskraft,
• 14:22
  Dashboards geben Ihnen Situationsbewusstsein
• 14:24
  und verpflichtende Begründungen
• 14:25
  verankern Entscheidungen in bewertbarer Sprache.
• 14:27
  Red Teaming deckt die blinden Flecken auf,
• 14:29
  bevor es Kunden- oder Regulierungsbehörden tut.
• 14:31
  Und wie Microsoft betont,
• 14:33
  sorgt die Einbindung von menschlichen Freigaben
• 14:35
  an kritischen Punkten dafür,
• 14:36
  dass riskante Entscheidungen vor der Ausführung gestoppt werden.
• 14:40
  Es geht nicht darum, perfekte Transparenz zu jagen,
• 14:42
  da generatives Denken immer teilweise undurchsichtig bleiben wird.
• 14:44
  Es geht darum, genügend Oberflächendaten zu haben,
• 14:46
  um Muster zu überwachen, Anomalien zu erkennen
• 14:48
  und Verantwortlichkeit einzufordern,
• 14:50
  bevor Probleme außer Kontrolle geraten.
• 14:52
  Ohne diese Maßnahmen sind Sie für unsichtbare Entscheidungen
• 14:54
  verantwortlich, die Sie nie genehmigt haben,
• 14:56
  während Ihre Agenten in hoher Geschwindigkeit Ergebnisse liefern.
• 14:58
  Was uns zu der eigentlichen Entscheidung führt,
• 15:00
  vor der Sie stehen.
• 15:01
  Sie können diese Systeme entweder unbegrenzt lassen
• 15:03
  und hoffen, dass nichts passiert,
• 15:04
  oder Sie behandeln Ihr Verhalten wie eine Gruppenrichtlinie
• 15:06
  mit Regeln, Limits und Eskalationsstufen
• 15:08
  ab dem ersten Tag.
• 15:09
  Äh, d.
• 15:10
  Denn wenn Sie die Governance-Ebene überspringen,
• 15:12
  passiert das Chaos nicht irgendwann.
• 15:14
  Es tritt beim ersten Mal auf,
• 15:15
  wenn Ihr digitaler Mitarbeiter
• 15:16
  eine eigenmächtige Aktion ausführt,
• 15:17
  die Sie nie genehmigt haben.
• 15:19
  Agent Agedon verhindern.
• 15:21
  Das zu verhindern, was ich gerne Agent Agedon nenne,
• 15:22
  hat nichts mit Paranoia zu tun.
• 15:24
  Es geht darum, die Grundlagen zu schaffen,
• 15:26
  die verhindern, dass Ihre KI-Flotte
• 15:27
  zu einem Sicherheitsrisiko wird.
• 15:29
  Dies ist die taktische Ebene
• 15:30
  auf der Governance-Risiko- und Infrastruktur aufeinandertreffen.
• 15:32
  PwC bringt es auf den Punkt.
• 15:34
  Wenn Sie Agenten skalieren wollen,
• 15:35
  ohne Ihre Umgebung zu ruinieren,
• 15:37
  brauchen Sie diese fünf schnellen Taktiken.
• 15:38
  Passen Sie die Governance an,
• 15:40
  verbessern Sie das Risikomanagement,
• 15:41
  bauen Sie Infrastruktur auf,
• 15:42
  erzwingen Sie Tests und Überwachung
• 15:43
  und lassen Sie bei kritischen Entscheidungen
• 15:44
  immer einen Menschen im Prozess.
• 15:45
  Beginnen Sie bei der Governance.
• 15:47
  Aktuelle Programme für verantwortungsvolle KI
• 15:48
  wurden für Modelle entwickelt,
• 15:49
  nicht für autonom agierender Arzt.
• 15:50
  Sie müssen die Aufsicht so anpassen,
• 15:52
  dass Risikoausschüsse auf Vorstandsebene
• 15:53
  des Agentenrisikokleinwitz.
• 15:55
  Agenten benötigen festintegrierte Eskalationsregeln.
• 15:57
  Wenn das Risiko ein bestimmtes Maß erreicht,
• 15:59
  stoppt die Arbeit, bis ein Mensch zustimmt.
• 16:01
  Betrachten Sie es wie eine Eskalationspfade
• 16:03
  in Ihrem Helpdesystem.
• 16:04
  Bei einem Natural 20 arbeitet der Agent
• 16:06
  den ganzen Tag Tickets ab.
• 16:07
  Bei einer 1 weiß er, dass er sofort stoppen
• 16:09
  und eine Freigabe anfordern muss,
• 16:10
  bevor er Gehaltsabrechnungen
• 16:11
  oder sensible externe Kommunikation berührt.
• 16:13
  Regulatorische Vorstöße wie der EUAI-Act
• 16:15
  verstärken diesen Bedarf nur noch.
• 16:17
  Sie formalisieren die Erwartung,
• 16:18
  dass Aufsicht nachweisbar sein muss
• 16:19
  und man dokumentieren kann,
• 16:21
  wer wann was genehmigt hat,
• 16:22
  wer nämlich hat.
• 16:23
  Dann das Risikomanagement.
• 16:24
  Agenten haben kein gleiches Risikoniveau,
• 16:26
  also stufen Sie so ein,
• 16:27
  wie Sie es bei System tun.
• 16:28
  Risikoarme Bots, die in engen Silos arbeiten,
• 16:30
  können schnell agieren.
• 16:31
  Hochautonome Agenten,
• 16:32
  die Kundendaten oder Finanzunterlagen berühren,
• 16:34
  benötigen eine strengere Prüfung.
• 16:36
  Das Rahmenwerk von PwC ist hier pragmatisch.
• 16:38
  Verfolgen Sie die Nutzung,
• 16:39
  messen Sie Autonomie gegen potenzielle Auswirkungen
• 16:41
  und führen Sie höherstufige Agenten
• 16:42
  durch langsamere Freigabe- und Testzykler.
• 16:44
  Wenn ein Bot-Kalender Erinnerungen schreibt,
• 16:46
  reicht minimale Aufsicht aus.
• 16:47
  Wenn ein Bot Zahlungen an Anbieter leistet,
• 16:49
  sollte er Warnsignal
• 16:50
  und eine revisionssichere Protokollierung aufweisen.
• 16:52
  Infrastruktur ist der nächste Baustein.
• 16:53
  Diese Tools entstehen nicht einfach aus dem Nichts.
• 16:55
  Sie benötigen rollenbasierte Zugriffskontrolle,
• 16:58
  RBA, MFA,
• 16:59
  bei Rechterausweitung,
• 17:00
  DLP zur Vermeidung von LEX und Anonymisierung,
• 17:03
  damit Protokolle keine Nutzerkennungen
• 17:05
  in falsche Archive übertragen.
• 17:06
  Behandeln Sie jede Agentenidentität,
• 17:08
  wer ein menschliches Benutzer kommt.
• 17:09
  Das Prinzip der geringsten Rechte
• 17:10
  muss protokolliert und überprüft.
• 17:11
  Einem Agenten unbegrenzte Rechte zu geben,
• 17:13
  nur weil Tests dann schneller gehen,
• 17:14
  ist das Automatisierungsäquivalent
• 17:16
  zum temporären Domain-Admin-Status.
• 17:18
  Das ist keine Innovation,
• 17:19
  das ist ein Sicherheitsvorfall,
• 17:19
  der nur darauf wartet, zu passieren.
• 17:21
  Nun zu Tests und Überwachung.
• 17:22
  Gehen Sie davon aus,
• 17:23
  dass die Ausgabe irgendwann fehlschlagen wird.
• 17:24
  Ihre Aufgabe ist es,
• 17:25
  dies zu erkennen, steht.
• 17:26
  Das bedeutet Echtzeitanomalieerkennung,
• 17:28
  um ungewöhnliche Verhaltensabweichungen zu markieren.
• 17:31
  Es bedeutet,
• 17:31
  Ihre Agenten einem Redteaming zu unterziehen,
• 17:33
  nicht nur Ihre Firewalls.
• 17:34
  Testen Sie sie mit ungewöhnlichen Eingaben,
• 17:35
  um Schwachstellen bei geringem Risiko zu finden.
• 17:37
  Kontinuierliche Überwachung ist entscheidend.
• 17:38
  Protokoll über Datenzugriffe,
• 17:39
  durchgefüllte Aktionen
• 17:40
  und die Häufigkeit hochriskanter Entscheidungen
• 17:41
  sollten überprüft werden.
• 17:43
  PwC und Microsoft weisen darauf hin,
• 17:44
  dass Audit-Trails
• 17:45
  und regelmäßige Überprüfungen
• 17:46
  in Ihrer Zeitmaschine sind.
• 17:48
  Ohne Sie sind Sie blind gegenüber dem,
• 17:49
  was der Agent tatsächlich getan hat.
• 17:50
  Und die fünfte Taktik,
• 17:51
  die menschliche Aufsicht, entfällt nie.
• 17:53
  Selbst mit der ausgefeiltesten Orchestrierung
• 17:54
  und den besten Sicherheitsvorkehrungen
• 17:56
  erfordern Entscheidungen mit hohem Risikomanagement.
• 17:58
  Setzen Sie klare Schwellenwerte.
• 17:59
  Wenn ein Agent eine Transaktion
• 18:00
  über einen bestimmten Betrag freigibt,
• 18:01
  vertrauliche Datensätze bearbeitet
• 18:02
  oder eine externe Kommunikation
• 18:04
  mit regulierten Daten einleitet,
• 18:05
  muss er anhalten,
• 18:09
  den Ansatz bereits integriert.
• 18:11
  Die KI entwirft vielleicht eine E-Mail,
• 18:13
  aber der Mensch klickt auf Senden.
• 18:14
  Dieser letzte Schritt ist das Sicherheitsnetz
• 18:16
  zwischen Produktivität und Compliance-Risiken.
• 18:19
  Wenn Sie Agenten skalieren,
• 18:19
  wirkt daraus eine Orchestrierung.
• 18:21
  Ein einzelner Boot ist einfach.
• 18:22
  Schwärme können zu unvorhersehbarem Verhalten führen,
• 18:24
  sich gegenseitig imitieren
• 18:25
  oder in seltsamem Schleifen gefangen sein.
• 18:27
  Ohne Ordnung sieht es aus
• 18:28
  wie ein unmoderierter Slack-Thread,
• 18:29
  der aus dem Ruder läuft.
• 18:30
  Das Gegenmittel ist ein Orchestrator,
• 18:31
  entweder ein koordinierender Agent
• 18:33
  oder ein zentrales menschliches Prüfteam.
• 18:35
  Stellen Sie es sich wie einen Dirigenten vor,
• 18:36
  der verhindert,
• 18:36
  dass die Instrumente sich gegenseitig stören.
• 18:38
  Ein konkreter erster Schritt.
• 18:40
  Beginnen Sie mit einem einzelnen Orchestratormuster,
• 18:42
  bevor Sie die Tore für Multiagentenschwärme öffnen.
• 18:44
  Diese Ebene kann Spezialisten koordinieren,
• 18:46
  Feedback-Schleifen unterdrücken
• 18:47
  und Sie auf Geschäftsziele ausrichten,
• 18:49
  anstatt Sie Ihre eigenen Regeln improvisieren zu lassen.
• 18:51
  Keine dieser Kontrollen existiert,
• 18:53
  um Sie auszubremsen.
• 18:54
  Richtig umgesetzt sind Sie genau das,
• 18:55
  was Ihnen sicheres Skalieren ermöglicht.
• 18:57
  PwC, BCG, McKinsey,
• 18:58
  Sie alle kommen zum gleichen Schluss.
• 19:00
  Gesteuerte und orchestrierte Agenten
• 19:01
  werden zu einem Kraftmultiplikator.
• 19:03
  Sie erledigen repetitive Aufgaben,
• 19:04
  verbinden isolierte Bereiche
• 19:06
  und lassen Ihr Team
• 19:06
  sich auf strategisch wertvollere Arbeit konzentrieren.
• 19:09
  Im besten Fall bedeutet das Höherendurchsatz,
• 19:11
  weniger manuellen Aufwand
• 19:12
  und eine fest im Prozess verankerte Compliance.
• 19:14
  Agenten zu bändigen ist kein Weltuntergangsszenario,
• 19:16
  sondern das Einrichten von Leitplanken,
• 19:18
  damit Sie die echten Vorteile nutzen können,
• 19:19
  nutzen können, nutzen können.
• 19:20
  Kontrollieren Sie Speicherberechtigungen und Tools,
• 19:22
  um versteckte Risiken zu reduzieren.
• 19:23
  Passen Sie Governance, Risikomanagement,
• 19:25
  Infrastruktur, Monitoring und Aufsicht an,
• 19:27
  um den Überblick des Managements zu bewahren.
• 19:29
  Wenn Sie all das tun,
• 19:30
  wird aus dem vermeintlichen Chaos
• 19:31
  die Grundlage für schnellere, kostengünstigere und konformere Arbeit.
• 19:33
  Und am Ende des Tages liegt die Verantwortung wieder bei Ihnen.
• 19:37
  Das sind keine gesichtslosen Werkzeuge,
• 19:38
  sondern Mitarbeiter ohne Personalrat.
• 19:40
  Der wahre Test ist also nicht,
• 19:42
  ob Agenten ihre Rolle ersetzen,
• 19:43
  sondern ob sie deren Autonomie
• 19:44
  mit der gleichen Aufsicht führen können,
• 19:46
  die sie bereits bei Menschen anwenden,
• 19:47
  ohne die Anreize aus dem Gleichgewicht zu bringen.
• 19:50
  Hier ist also das Wahnsinn.
• 19:51
  Agenten ersetzen keine Manager,
• 19:53
  sie zwingen Sie dazu,
• 19:53
  das Management selbst zu schärfen.
• 19:55
  Die Forschung ist eindeutig,
• 19:56
  das ist nur das Prinzipal-Agent-Problem,
• 19:57
  Kapuzenpullover.
• 19:58
  Sie verwalten die Daten,
• 20:00
  sie tragen die Haftung
• 20:00
  und die einzige echte Lösung
• 20:02
  ist geführte Autonomie bei ständiger Aufsicht.
• 20:04
  Hier sind Ihre ersten drei Schritte.
• 20:06
  Erstellen Sie ein Inventar Ihrer Agenten,
• 20:07
  stufen Sie sie nach Risiko und Autonomie ein,
• 20:10
  legen Sie Eskalationsschwellen
• 20:11
  für menschliche Freigaben fest
• 20:12
  und führen Sie ein Red Team
• 20:12
  oder Edge-Case-Test
• 20:13
  für einen kritischen Agenten durch.
• 20:15
  Das ist Ihre Einstiegsquest.
• 20:16
  Wenn diese Checkliste geholfen hat,
• 20:17
  abonniere den Kanal
• 20:18
  und schreibe in die Kommentare,
• 20:19
  welchen Agenten du zuerst inventarisierst.
• 20:21
  Bei einer natürlichen 20
• 20:22
  verhinderst du das Chaos,
• 20:23
  bevor es entsteht.
• 20:24
  Bei einer natürlichen 1
• 20:25
  weißt du wenigstens,