Latest / KI Espresso / 75% ohne Menschen – wer genehmigt den KI-Agenten?

Transcript

75% ohne Menschen – wer genehmigt den KI-Agenten? · KI Espresso

• 0:00
  SPEAKER_01: OpenAIs, englische Telefonsupport, löst nach eigenen Angaben 75% der eingehenden Anliegen völlig ohne menschliche Hilfe.
• 0:10
  SPEAKER_01: Ein sogenannter Kodexverbesserungsprozess senkte die Übergaben in 10 Tagen um weitere 15% Punkte.
• 0:17
  SPEAKER_00: Ja, aber Moment, wer prüft denn eigentlich, ob weniger Übergaben an echte Menschen wirklich einen besseren Service bedeuten?
• 0:25
  SPEAKER_00: Für Unternehmen hier in Deutschland, Österreich und der Schweiz geht es da doch längst nicht mehr nur um einen einfachen Chatbot.
• 0:33
  SPEAKER_01: Richtig, es geht da im Grunde um die Freigabe jeder einzelnen neuen Agentenversion.
• 0:38
  SPEAKER_00: Genau, denn die absolut entscheidende Frage lautet doch, wer darf eine Verhaltensänderung der KI vorschlagen, wer genehmigt sie und vor allem, wer kann sie sofort wieder zurückrollen.
• 0:48
  SPEAKER_01: Um das mal operativ aufzudröseln, müssen wir uns dieses Enterprise-Produkt Presence ansehen, das am 22.
• 0:56
  SPEAKER_01: Juli 2026 gelauncht wurde.
• 1:00
  SPEAKER_01: Wir wissen ja, statische Agenten veralten zwangsläufig, weil sich eben permanent was ändert.
• 1:06
  SPEAKER_01: Klar, Richtlinien, Preise.
• 1:08
  SPEAKER_01: Exakt.
• 1:09
  SPEAKER_01: Und die Post-Launch-Kette bei Präsence ist da also als notwendiger Sicherheitsmechanismus gedacht.
• 1:16
  SPEAKER_01: Das läuft so: du hast ein Produktionssignal, dann gibt es diesen automatisierten Codexvorschlag, dann den Test und erst danach die menschliche Freigabe für einen kontrollierten Rollout.
• 1:28
  SPEAKER_01: Okay, aber ich meine, Simulationen und limitierte Berechtigungen sind doch viel sicherer als informelle manuelle Fixes, wo nachts jemand am Code bastelt.
• 1:38
  SPEAKER_00: Da halte ich ganz klar mit dem NIST AI Risk Management Framework dagegen.
• 1:42
  SPEAKER_01: Warte mal kurz, also erklär mal kurz, warum du ausgerechnet dieses NIST-Framework hier als den ultimativen Maßstab anlegst.
• 1:49
  SPEAKER_00: Weil echte Kontrolle eben benannte Rollen braucht.
• 1:52
  SPEAKER_00: Du brauchst Override-Rechte und ein knallhartes Incident Response.
• 1:57
  SPEAKER_00: Nicht einfach nur irgendwelche automatisierten Vorschläge von einem Sprachmodell, egal wie gut das getestet wird.
• 2:03
  SPEAKER_01: Die Sorge verstehe ich vollkommen.
• 2:05
  SPEAKER_01: Aber diese Systeme operieren ja nicht im luftleeren Raum.
• 2:09
  SPEAKER_01: Denk mal an die EU-Transparenzpflicht, diesen Artikel 50, der ab dem 2.
• 2:14
  SPEAKER_01: August 2026 gilt.
• 2:16
  SPEAKER_00: Mhm.
• 2:17
  SPEAKER_00: Der AI-Act?
• 2:18
  SPEAKER_00: Genau.
• 2:19
  SPEAKER_00: Aber lass uns mal ein explizit hypothetisches Gedankenexperiment machen.
• 2:24
  SPEAKER_00: Okay, schieß los.
• 2:25
  SPEAKER_00: Stell dir vor, das interne Dashboard zeigt dem Support Manager plötzlich weniger Übergaben an Menschen.
• 2:31
  SPEAKER_00: Der freut sich natürlich, Effizienzgewinn.
• 2:33
  SPEAKER_00: Was passiert aber, wenn gleichzeitig die Zahl der frustrierten Beschwerdeabbrüche steigt, naja, weil der Bot sich in einer Schleife aufhängt.
• 2:41
  SPEAKER_00: Welche dieser Metriken hat denn die tatsächliche Macht, einen Rollout zu blockieren?
• 2:46
  SPEAKER_01: Und genau da ist der Punkt, warum ich unsere Hörer bitten möchte, diese 75%-Statistik vom Anfang nochmal kritisch zu überdenken.
• 2:54
  SPEAKER_01: Eine isolierte Handoff-Rate beweist eben weder Kundenzufriedenheit noch irgendeine Fairness.
• 3:00
  SPEAKER_00: Eben.
• 3:00
  SPEAKER_00: Wenn diese Abbrüche steigen, muss der Mensch das sofort stoppen können.
• 3:04
  SPEAKER_00: Weniger Übergaben allein sind kein Beweis für guten Service.
• 3:08
  SPEAKER_01: Exakt.
• 3:08
  SPEAKER_01: Welche Version spricht mit dem Kunden?
• 3:11
  SPEAKER_01: Wer hat sie freigegeben?
• 3:12
  SPEAKER_01: Welches Signal kann den Rollout stoppen?
• 3:15
  SPEAKER_01: Das sind die Fragen, die am Ende zählen.
• 3:17
  SPEAKER_01: Wenn euch diese Debatte zum Nachdenken gebracht hat, abonniert KI Espresso.
• 3:22
  SPEAKER_01: Jeden Tag eine neue KI-Debatte in sechs Minuten.
• 3:27
  SPEAKER_00: Das war KI Espresso.