Latest / KI Espresso / Der neue Kunde ist kein Mensch — wer kontrolliert den Agenten?

Transcript

Der neue Kunde ist kein Mensch — wer kontrolliert den Agenten? · KI Espresso

• 0:00
  SPEAKER_00: Der wichtigste Kunde der nächsten Jahre ist vielleicht kein Mensch mehr.
• 0:03
  SPEAKER_00: Du verkaufst nicht mehr an Aufmerksamkeit, du verkaufst an Kriterien.
• 0:07
  SPEAKER_03: Und da muss ich.
• 0:09
  SPEAKER_00: Warte, lass mich kurz.
• 0:10
  SPEAKER_00: Wenn wir das mal auspacken, ist das für mich nämlich der ultimative Sieg für uns Konsumenten.
• 0:16
  SPEAKER_00: Denk mal an Doc Seals und seine Intention Economy.
• 0:18
  SPEAKER_00: Ja, aber.
• 0:19
  SPEAKER_00: Wenn ein Algorithmus rein rational nach meinem Mandat filtert, dann stirbt diese ganze manipulative Werbung.
• 0:26
  SPEAKER_00: Keine blinkenden Banner mehr, kein künstlicher Druck.
• 0:29
  SPEAKER_03: Okay, Moment, da muss ich echt hart dazwischengrätschen.
• 0:31
  SPEAKER_03: Das ist eine wahnsinnig gefährliche Illusion.
• 0:34
  SPEAKER_03: Also wirklich.
• 0:35
  SPEAKER_00: Warte, wieso Dystopie?
• 0:36
  SPEAKER_00: Ich hasse blinkende Banner.
• 0:38
  SPEAKER_00: Wenn mir ein Bot diesen ganzen Lärm erspart, bin ich doch der absolute Gewinner, oder nicht?
• 0:43
  SPEAKER_03: Naja, weil du die sichtbare Werbung halt nur gegen eine unsichtbare Kontrolle tauscht.
• 0:47
  SPEAKER_03: Johnny Penn und Jakob Shaudery von der Cambridge University waren da massiv vor einer sogenannten Dark Intention Economy.
• 0:55
  SPEAKER_00: Dark Intention, okay, klingt düster.
• 0:58
  SPEAKER_03: Ist es auch.
• 0:58
  SPEAKER_03: Diese Agenten werden unsere unbewussten Absichten nicht nur erkennen, sondern sie vorhersagen, aktiv formen und heimlich an die Plattformen verkaufen.
• 1:08
  SPEAKER_03: Stell dir das vor, wie ein Personal-Shopper, von dem du glaubst, der arbeitet für dich, aber in Wirklichkeit bekommt er verdeckte Provisionen von den Marken, in deren Läden er dich subtil lenkt.
• 1:18
  SPEAKER_00: Okay, das ist ein heftiges Bild.
• 1:22
  SPEAKER_00: Um zu verstehen, wer hier recht hat, schauen wir uns für dich heute einen ganzen Stapel neuer Analysen an.
• 1:28
  SPEAKER_00: Von McKinsey, Cambridge-Forschern und E-Commerce-Vordenkern wie der BCG.
• 1:33
  SPEAKER_00: Unsere Mission bei dieser tiefen Analyse der Quellen.
• 1:37
  SPEAKER_00: Wir wollen herausfinden, wie KI-Agenten das Einkaufen wirklich verändern.
• 1:43
  SPEAKER_00: Werden wir befreit oder einfach nur effizienter manipuliert?
• 1:47
  SPEAKER_02: Das ist exakt die Kernfrage.
• 1:49
  SPEAKER_02: Die Mechanik des Kaufens dreht sich ja gerade komplett.
• 1:52
  SPEAKER_00: Aber Moment, geben wir die Kontrolle da wirklich komplett ab?
• 1:56
  SPEAKER_00: Wenn ich mir mein Budget ansehe, setze doch immer noch ich als Mensch die Leitplanken.
• 2:01
  SPEAKER_00: Also der Analyst Paul F.
• 2:02
  SPEAKER_00: Acornero beschreibt das extrem treffend als Shopperschism.
• 2:07
  SPEAKER_00: Die Rolle des Käufers spaltet sich einfach auf.
• 2:10
  SPEAKER_02: Ja, in Theorie.
• 2:12
  SPEAKER_00: Du bestimmst den Rahmen, also dein Budget oder meinetwegen ethische Präferenzen.
• 2:17
  SPEAKER_00: Und der Algorithmus führt diese Entscheidung dann aus.
• 2:20
  SPEAKER_00: Und das funktioniert in der Praxis enorm gut.
• 2:23
  SPEAKER_00: Amazon meldet, und das sind laut Herstellerangaben echte Zahlen, 300 Millionen Nutzer ihres KI-Assistenten.
• 2:31
  SPEAKER_00: Und das hat denen fast 12 Milliarden Dollar Zusatzumsatz gebracht.
• 2:35
  SPEAKER_03: Klar, bringt das den Plattformen einen gigantischen Umsatz.
• 2:38
  SPEAKER_03: Aber wenn wir das mal mit dem großen Ganzen verbinden, das alte Marketing löst sich ja nicht auf.
• 2:45
  SPEAKER_03: Es ändert nur seine Form.
• 2:47
  SPEAKER_00: Okay.
• 2:48
  SPEAKER_03: Es wird schlicht maschinenlesbar.
• 2:50
  SPEAKER_03: Wer kontrolliert denn die Parameter bei diesen Käufen?
• 2:53
  SPEAKER_03: Wenn du Microsofts Copilot-Checkout nutzt, passiert der Kauf direkt im Chat.
• 2:58
  SPEAKER_00: Krass, ja.
• 2:59
  SPEAKER_03: Du bekommst die eigentliche Händlerseite nie zu Gesicht.
• 3:02
  SPEAKER_03: Oder nehmen wir Googles neues Universal Commerce Protocol, kurz UCP.
• 3:07
  SPEAKER_00: Also im Grunde ein neuer Standard, mit dem KIs und Shops miteinander sprechen.
• 3:12
  SPEAKER_03: Exakt.
• 3:13
  SPEAKER_03: Und wenn der Agent über solche Protokolle die Kriterien setzt, warnt McKinsey völlig zu Recht davor, dass diese KIs zur neuen unsichtbaren Gatekeeper-Schicht des Handels werden.
• 3:24
  SPEAKER_00: Sie entscheiden also als Türsteher darüber, was du überhaupt noch zu sehen bekommst?
• 3:29
  SPEAKER_03: Ganz genau.
• 3:29
  SPEAKER_00: Wobei man beim Google UCP erwähnen muss, da mischen nicht nur US-Tech-Riesen mit, Zalando ist da zum Beispiel ganz offiziell als Co-Entwickler gelistet.
• 3:38
  SPEAKER_00: Das Thema ist also auch hier in der Dachregion strategisch voll angekommen.
• 3:43
  SPEAKER_03: Und das bringt uns zum entscheidenden Problem, besonders für den Mittelstand.
• 3:47
  SPEAKER_03: Die Unternehmensberatung BCG spricht hier vom sogenannten Evaluationsmodell.
• 3:53
  SPEAKER_00: Das musst du genauer erklären.
• 3:54
  SPEAKER_00: Was heißt das im Alltag für einen ganz normalen Händler?
• 3:57
  SPEAKER_03: Das bedeutet, dein Shop muss für diese Agenten per API, also über die maschinelle Schnittstelle, extrem saubere, strukturierte Daten liefern.
• 4:06
  SPEAKER_03: Stell dir das Backend eines Shops wie eine Speisekarte für Maschinen vor.
• 4:11
  SPEAKER_03: Wenn dein Produkt, sagen wir ein Fernseher, auf dieser Karte nicht exakt nach Stromverbrauch, Garantie und Maßen kodiert ist, weiß der KI-Kellner gar nicht, dass es existiert.
• 4:21
  SPEAKER_00: Oh wow.
• 4:22
  SPEAKER_03: Und dann empfiehlt er es dem Kunden halt auch nicht.
• 4:24
  SPEAKER_03: Du bist schlichtweg unsichtbar.
• 4:26
  SPEAKER_00: Das heißt doch, für meine IT-Architektur, ich muss als Unternehmen komplett umdenken.
• 4:31
  SPEAKER_00: Weg von hübschen Marketingtexten im Frontend hin zu harten Daten.
• 4:36
  SPEAKER_02: Absolut.
• 4:37
  SPEAKER_00: Der KI-Agent liest ja keine emotionale Werbeprosa über brillante Farben.
• 4:42
  SPEAKER_00: Der will nackte Fakten wie Reparierbarkeit und Total Cost of Ownership.
• 4:46
  SPEAKER_03: Völlig richtig.
• 4:48
  SPEAKER_03: Und deshalb ist unsere Action 1 für Tech Professionals.
• 4:51
  SPEAKER_03: Prüft eure Produktdaten.
• 4:53
  SPEAKER_03: Sind Parameter wie Garantien, Reparierbarkeit und Total Cost of Ownership saubere, strukturierte Daten oder nur Frontend-Marketing-Text?
• 5:02
  SPEAKER_00: Und Action 2 schließt da direkt an, checkt die Backend-Kompatibilität eurer Shop-Systeme mit offenen Agentensprachen, wie eben Googles UCP.
• 5:11
  SPEAKER_03: Genau.
• 5:12
  SPEAKER_03: Und Action 3.
• 5:14
  SPEAKER_03: Stellt im nächsten Architekturreview die Frage, sind unsere APIs robust genug, um massenhafte automatisierte Evaluationsqueries von Agenten zu beantworten?
• 5:25
  SPEAKER_00: Weil da kommt mir direkt der Gedanke, wenn die Schnittstelle bei tausenden autonomen Agenten einickt.
• 5:30
  SPEAKER_03: Dann machst du keinen Umsatz mehr.
• 5:32
  SPEAKER_03: So einfach ist es.
• 5:33
  SPEAKER_00: Wahnsinn, hier wird es richtig spannend.
• 5:36
  SPEAKER_00: Lass uns das mal hypothetisch weiterdenken.
• 5:38
  SPEAKER_03: Okay.
• 5:38
  SPEAKER_00: Wenn Agenten Produkte wie Fernseher filtern, was passiert, wenn sie bald Versicherungen, Jobs oder sogar politische Parteien nach solchen Kriterien filtern?
• 5:47
  SPEAKER_03: Eine gewaltige Frage.
• 5:49
  SPEAKER_03: Und deshalb möchte ich, dass du die Eröffnungsaussage dieser Debatte jetzt noch einmal durchdenkst.
• 5:54
  SPEAKER_03: Ist der Agent dein Befreier oder die ultimative Marketingmaschine der Plattformen?
• 6:00
  SPEAKER_00: Wenn der Agent für dich entscheidet, musst du zuerst wissen, für wen der Agent wirklich arbeitet.
• 6:06
  SPEAKER_01: Ein Punkt fehlt noch.
• 6:07
  SPEAKER_01: Der neue Kunde ist nicht nur ein Risiko für Marketing, sondern ein Test für jedes Unternehmen.
• 6:14
  SPEAKER_01: Wir wissen ja schon, Algorithmen und KI-Agenten shoppen künftig quasi für uns.
• 6:19
  SPEAKER_01: Aber hey, Theorie ist billig.
• 6:21
  SPEAKER_01: In der Praxis nützt uns die tollste Vision absolut nichts, wenn kleine Händler und wir als normale Nutzer nicht wissen, wie wir diesem neuen Markt technisch und rechtlich überhaupt vertrauen können.
• 6:32
  SPEAKER_01: Um also nicht blind von riesigen Plattformen abhängig zu werden, müssen wir laut den Quellen exakt vier harte Praxistests bestehen.
• 6:40
  SPEAKER_01: 1.
• 6:41
  SPEAKER_01: Maschinenlesbare Beweise.
• 6:43
  SPEAKER_01: Sind unsere Produkte für KIs als knallharte Fakten lesbar?
• 6:48
  SPEAKER_01: So eine KI trinkt nämlich keine bunte Werbelimonade, die will im Grunde nur die Nährwerttabelle.
• 6:53
  SPEAKER_01: Produkttarms müssen also radikal sachlich werden, weg mit dem ganzen Marketing blabla.
• 6:59
  SPEAKER_01: 2.
• 6:59
  SPEAKER_01: Transparenz und Nutzerkontrolle.
• 7:02
  SPEAKER_01: Kann ich als Nutzer die vom Agenten vorgeschlagenen Händler oder den Zahlungsweg eigentlich noch manuell überschreiben?
• 7:08
  SPEAKER_01: Ist das Ganze nur eine Blackbox, die uns bevormundet oder behalten wir echt noch das Lenkrad in der Hand?
• 7:14
  SPEAKER_01: Drittens, und das ist absolut krass, das Haftungsvakuum.
• 7:17
  SPEAKER_01: Wer zahlt eigentlich, wenn der Agent beim Kauf Mist baut?
• 7:21
  SPEAKER_01: Es ist doch völlig absurd zu glauben, dass am Ende wir Nutzer oder die kleinen Händler das Risiko tragen sollen, wenn der Algorithmus einer Milliardenplattform patzt?
• 7:29
  SPEAKER_01: 4.
• 7:30
  SPEAKER_01: Sichtbarkeit abseits der Monopole.
• 7:32
  SPEAKER_01: Kann ein lokaler Anbieter von diesen Agenten überhaupt noch gefunden werden?
• 7:37
  SPEAKER_01: Oder muss er sein komplettes Budget verfeuern, nur um für jede einzelne Plattform KI sichtbar zu bleiben?
• 7:42
  SPEAKER_01: Das bringt uns direkt zur nächsten riesigen Baustelle.
• 7:46
  SPEAKER_01: Ist ein wirklich eigener persönlicher Agent überhaupt möglich, ohne dass Big Tech heimlich die Regeln diktiert?
• 7:52
  SPEAKER_01: Was muss eigentlich konkret erfüllt sein und bewiesen werden, bevor wir, ob als Hörer, Mitarbeiter, Unternehmen oder Institution diesem System in der Praxis unser volles Vertrauen schenken?
• 8:03
  SPEAKER_01: Wenn euch diese Debatte zum Nachdenken gebracht hat, abonniert KI Espresso.
• 8:07
  SPEAKER_03: Jeden Tag eine neue KI-Debatte in sechs Minuten.
• 8:10
  SPEAKER_00: Das war KI Espresso.