Latest / KI Espresso / Wie baut man einen eigenen Agenten wirklich?

Transcript

Wie baut man einen eigenen Agenten wirklich? · KI Espresso

• 0:00
  SPEAKER_01: Ein eigener Agent ist kein Modell auf deinem Laptop.
• 0:04
  SPEAKER_01: Durch offene Protokolle wird der Traum eines wirklich eigenen Agenten, nämlich jetzt erst plausibel.
• 0:11
  SPEAKER_01: Das Model Context Protocol, kurz MCP, ist da der Schlüssel.
• 0:15
  SPEAKER_01: Es trennt das eigentliche KI-Modell komplett von deinen Werkzeugen und Daten.
• 0:21
  SPEAKER_00: Und genau deshalb ist das für Europa keine Nerdfrage.
• 0:25
  SPEAKER_00: Wenn KI-Agenten anfangen, quasi autonom unsere E-Mails zu beantworten oder Banküberweisungen zu tätigen und Identitäten verwalten, dann geht es wirklich um den absoluten Kern unserer Wirtschaft.
• 0:40
  SPEAKER_01: Richtig, das betrifft uns alle.
• 0:42
  SPEAKER_00: Genau.
• 0:42
  SPEAKER_00: Für Deutschland, die Schweiz, Österreich und naja, Europa generell ist ein eigener KI-Agent im Grunde die technische Version digitaler Souveränität.
• 0:53
  SPEAKER_00: Meine Position heute ist da ganz klar.
• 0:56
  SPEAKER_00: Wir müssen echt weg von geschlossenen Plattformen und die Architektur selbst kontrollieren.
• 1:02
  SPEAKER_00: Also wer das Memory besitzt, die Toolrechte, das Audit und diesen ganzen Exit-Mechanismus.
• 1:08
  SPEAKER_00: Da muss ich diese Euphorie direkt bremsen.
• 1:11
  SPEAKER_00: Ein Agent, den du selbst hostest und der, naja, weitreichende Rechte für deine E-Mails, lokale Dateien oder sogar Zahlungen bekommt, das ist in erster Linie eine gigantische Sicherheitslücke.
• 1:25
  SPEAKER_01: Moment.
• 1:26
  SPEAKER_01: Nur weil Protokolle offen sind, sind sie nicht automatisch sicher.
• 1:29
  SPEAKER_01: Du gibst einer Software da quasi unüberwacht den Generalschlüssel zu deinem kompletten digitalen Leben.
• 1:35
  SPEAKER_01: Ich verstehe den Reflex, das direkt als Risiko zu sehen, aber wir reden hier ja nicht von blindem Vertrauen.
• 1:42
  SPEAKER_01: Wenn wir MCP mit einer direkten Agent-zu-Agent-Kommunikation und einem privaten Datenspeicher kombinieren, entsteht etwas Neues.
• 1:52
  SPEAKER_01: Eine echte Kontrollschicht.
• 1:54
  SPEAKER_01: Und die Sicherheit entsteht eben genau durch diese Schicht.
• 1:57
  SPEAKER_01: Nimm zum Beispiel OAScopes.
• 1:59
  SPEAKER_01: Das funktioniert im Grunde wie eine elektronische Schlüsselkarte im Hotel.
• 2:04
  SPEAKER_01: Der Agent kommt nur in die Zimmer oder eben an die Daten, für die du ihm ausdrücklich die Tür öffnest.
• 2:10
  SPEAKER_00: Okay, aber.
• 2:11
  SPEAKER_01: Zusammen mit harten Limits für Zahlungen und isolierten Sandboxes machen wir so jede Aktion überprüfbar und jederzeit reversibel.
• 2:19
  SPEAKER_01: Du nutzt also die Intelligenz eines riesigen Cloud-Modells, behälst aber über diese Schichten die absolute Kontrolle.
• 2:26
  SPEAKER_00: Ich komme da aus einer ganz anderen Richtung.
• 2:30
  SPEAKER_00: All diese wunderbaren Schichten, die du da aufzählst, also die Sandboxes, die Berechtigungen, Policy Engines, das sind doch in der Realität völlig neue Angriffsflächen.
• 2:40
  SPEAKER_00: Naja, das kommt darauf an, wie man.
• 2:43
  SPEAKER_00: Lass uns das mal realistisch betrachten.
• 2:45
  SPEAKER_00: Es ist wie der Unterschied zwischen einem Safe in deinem eigenen Haus und einem Bankschließfach, weißt du?
• 2:51
  SPEAKER_00: Bei den großen Plattformagenten vertraust du auf die Wachen der Bank.
• 2:55
  SPEAKER_00: Die bieten automatische Updates, kontinuierliche Missbrauchsüberwachung.
• 3:00
  SPEAKER_00: Ja, aber du bist abhängig von denen.
• 3:02
  SPEAKER_00: Klar, aber wenn dein lokaler Agent plötzlich versucht, 10.000 Spam-Mails zu verschicken, schlägt das System der Plattform sofort an.
• 3:10
  SPEAKER_00: Und was ist mit Zahlungsstreitigkeiten?
• 3:12
  SPEAKER_00: Wenn ich als normaler Nutzer diese ganzen Sicherheitsschichten selbst konfigurieren muss, ist der katastrophale Fehler doch vorprogrammiert.
• 3:20
  SPEAKER_01: Das ist ein starkes Argument für Bequemlichkeit, gebe ich zu.
• 3:24
  SPEAKER_01: Aber es verfehlt den eigentlichen Kern dessen, was Besitz im digitalen Zeitalter bedeutet.
• 3:29
  SPEAKER_01: Es geht hier gar nicht um den alten Glaubenskrieg lokal gegen Cloud.
• 3:33
  SPEAKER_01: Sondern es geht um die fundamentale Frage, wem dieser Control Plane, also die Steuerungsebene, gehört.
• 3:40
  SPEAKER_01: Auch ein lokal laufendes Modell ist in der Praxis nur gemietet, wenn du keine echte Kontrolle über die angebundenen Werkzeuge und Erinnerungen hast.
• 3:49
  SPEAKER_01: Besitz definiert sich über die absolute Autorität über diese Schnittstellen.
• 3:54
  SPEAKER_00: Autorität über Schnittstellen klingt in der Theorie fantastisch.
• 3:58
  SPEAKER_00: Aber wie soll das in der Praxis aussehen?
• 4:01
  SPEAKER_00: Ein durchschnittlicher Nutzer wird nicht jeden einzelnen API-Aufruf manuell absegnen, oder?
• 4:06
  SPEAKER_01: Deswegen brauchen wir einen praktischen Härtetest für diese Eigentümerschaft.
• 4:10
  SPEAKER_01: Es gibt da sieben entscheidende Prüffragen, die definieren, ob dir ein Agent wirklich gehört.
• 4:15
  SPEAKER_01: Schießlos.
• 4:16
  SPEAKER_01: Erstens kann ich die Erinnerungen des Agenten exportieren.
• 4:20
  SPEAKER_01: Zweitens kann ich jedes Werkzeugrecht einzeln und sofort widerrufen.
• 4:24
  SPEAKER_00: Warte, lass uns direkt bei Punkt 2 bleiben.
• 4:27
  SPEAKER_00: Werkzeugrechte einzeln widerrufen.
• 4:30
  SPEAKER_00: Wie soll das im Alltag klappen?
• 4:31
  SPEAKER_00: Wenn der Agent einen komplexen Flug buchen soll, braucht er gleichzeitig Zugriff auf den Kalender, die Mails und die Kreditkarte.
• 4:38
  SPEAKER_01: Richtig.
• 4:38
  SPEAKER_00: Wenn ich ihm da zwischendurch ein einzelnes Recht entziehe, bricht der ganze Prozess einfach zusammen.
• 4:43
  SPEAKER_01: Genau das ist doch der Sinn der Kontrolle.
• 4:46
  SPEAKER_01: Wenn dir ein Prozess unheimlich oder intransparent wird, musst du ihm die Freigabe entziehen können.
• 4:52
  SPEAKER_01: Selbst wenn es die Aufgabe unterbricht.
• 4:54
  SPEAKER_01: Verstehe.
• 4:55
  SPEAKER_01: Das führt uns zu den nächsten Punkten.
• 4:57
  SPEAKER_01: Drittens kann ich das zugrunde liegende KI-Modell und das Interface beliebig wechseln.
• 5:02
  SPEAKER_01: Viertens kann ich Zahlungen hart limitieren, also festlegen, dass nie mehr als 50 Euro ohne Rückfrage ausgegeben werden dürfen.
• 5:10
  SPEAKER_00: Das Ausgabenlimit finde ich extrem wichtig, ja?
• 5:14
  SPEAKER_01: Fünftens kann ich alle Werkzeugaufrufe im Nachhinein auditieren und exakt nachvollziehen.
• 5:21
  SPEAKER_00: Da hake ich wieder ein, ein Audit-Log zu haben, bedeutet ja noch lange nicht, dass man es auch versteht.
• 5:27
  SPEAKER_00: Was nutzt mir als Endanwender ein protokollvoller maschineller Codeschnipsel?
• 5:32
  SPEAKER_01: Es geht um die systematische Möglichkeit der Kontrolle.
• 5:35
  SPEAKER_01: Wenn offene Loks da sind, können andere Tools sie für dich verständlich visualisieren.
• 5:40
  SPEAKER_01: Es verhindert einfach, dass der Agent in einer Blackbox agiert.
• 5:44
  SPEAKER_00: Okay, Fairpoint.
• 5:46
  SPEAKER_00: Was sind die letzten beiden Fragen?
• 5:48
  SPEAKER_01: Sechstens gibt es einen Notausschalter, um den Agenten sofort komplett zu stoppen.
• 5:53
  SPEAKER_01: Und siebtens kann ich mit meinem gesamten Setup jederzeit zu einem anderen Anbieter umziehen.
• 5:59
  SPEAKER_00: Also diese sieben Fragen binden einen hervorragenden theoretischen Rahmen, das gebe ich zu.
• 6:05
  SPEAKER_00: Aber die ultimative Gegenfrage bleibt doch bestehen.
• 6:09
  SPEAKER_01: Welche?
• 6:10
  SPEAKER_00: Wenn dein Agent technisch gesehen alles kann, aber du seine Regeln in der Praxis nicht wirklich verstehst, die Sicherheitsschichten nicht warten kannst und bei Problemen am Ende doch auf den Support angewiesen bist, hast du dann wirklich einen Agenten oder doch nur eine Fernbedienung der Plattform.
• 6:27
  SPEAKER_01: Wenn euch diese Debatte zum Nachdenken gebracht hat, abonniert KI Espresso jeden Tag eine neue KI-Debatte in sechs Minuten.
• 6:34
  SPEAKER_00: Das war KI Espresso.