Latest / KI Espresso / Wenn der Agent der Firma gehoert

Transcript

Wenn der Agent der Firma gehoert · KI Espresso

• 0:00
  SPEAKER_02: Der Firmenagent ist nicht böse.
• 0:02
  SPEAKER_02: Er optimiert nur das Ziel der Firma.
• 0:05
  SPEAKER_02: Und also genau deshalb muss Enterprise-KI echte Workflow-Daten sehen.
• 0:10
  SPEAKER_02: Genau, deshalb ist das kein Silicon Valley-Thema.
• 0:14
  SPEAKER_02: Also für Deutschland, die Schweiz, Österreich, ja, letztlich für ganz Europa ist dieser Einsatz von Firmenagenten halt eine fundamentale Frage der Arbeitssouveränität.
• 0:26
  SPEAKER_02: Ja, absolut.
• 0:27
  SPEAKER_02: Ich meine, es ist doch die simple Frage, wer hat eigentlich die Kontrolle über die Art und Weise, wie wir unsere Arbeit erledigen?
• 0:34
  SPEAKER_02: Die zentrale Streitfrage, vor der wir da stehen, lautet einfach, wer besitzt die Kriterien, die Workflow-Daten und am Ende das gelernte Betriebshandbuch.
• 0:42
  SPEAKER_01: Richtig, weil wir sprechen hier ja über Softwaresysteme, die quasi permanent im Hintergrund laufen und buchstäblich jeden Mausklick, jede Tastatureingabe aufzeichnen.
• 0:54
  SPEAKER_01: Jede kleine Entscheidung.
• 1:01
  SPEAKER_02: Ja, aber genau da müssen wir doch ansetzen.
• 1:03
  SPEAKER_02: Der Mechanismus dahinter ist einfach, naja, bahnbrechend.
• 1:07
  SPEAKER_02: Der KI-Agent lernt ja nicht durch starre Programmierung, sondern durch bloße Beobachtung.
• 1:13
  SPEAKER_02: Weißt du, wenn das System sieht, dass ein Mitarbeiter jeden Tag 50 Mal Daten aus einem uralten SAP-System kopiert und in eine Excel-Tabelle einfügt.
• 1:22
  SPEAKER_01: Was in deutschen Büros ja oft genug passiert.
• 1:25
  SPEAKER_02: Was ständig passiert.
• 1:27
  SPEAKER_02: Dann erkennt die KI dieses Muster und baut vollautomatisch eine Brücke zwischen diesen Programmen.
• 1:35
  SPEAKER_02: Also, so werden diese ganzen kaputten Prozesse, diese starre Bürokratie und diese wirklich sinnlose Copy-Paste-Arbeit effektiv eliminiert.
• 1:44
  SPEAKER_01: Naja, aber.
• 1:45
  SPEAKER_02: Lass mich kurz, ich warne da wirklich eindringlich davor, diese Werkzeuge jetzt aus einem rein europäischen Reflex heraus direkt wieder zu blockieren.
• 1:52
  SPEAKER_01: Ein Reflex ist das aber nicht.
• 1:53
  SPEAKER_01: Das ist eine berechtigte Sorge.
• 1:55
  SPEAKER_01: Diese reine Effizienzprämisse.
• 1:57
  SPEAKER_02: Fix, Tappwechsel, diese zahllosen informellen Freigaben, die wir jeden Tag machen.
• 2:03
  SPEAKER_00: Ja.
• 2:03
  SPEAKER_00: Moment, aber damit er echte Arbeit versteht, muss er echte Arbeit sehen.
• 2:08
  SPEAKER_00: Und genau da beginnt nämlich schon die Machtverschiebung.
• 2:11
  SPEAKER_02: Naja, aber wenn wir der KI diese Rohdaten verweigern, optimiert der Agent am Ende doch nur so eine sterile PowerPoint-Fantasie-Version davon, wie Prozesse im Unternehmen angeblich laufen.
• 2:22
  SPEAKER_02: Reale Arbeit ist halt messy.
• 2:25
  SPEAKER_02: Absolut.
• 2:26
  SPEAKER_02: Sie ist voller Workarounds, weil die interne Software ständig hakt.
• 2:30
  SPEAKER_02: Workflow-Lernen ist der absolut einzige Weg, um diese dysfunktionalen Systeme und diese absurde manuelle Bürokratie endlich zu reparieren.
• 2:39
  SPEAKER_01: Ich verstehe den Reiz, klar.
• 2:41
  SPEAKER_01: Aber die Gefahr ist ja nicht dieser eine isolierte, gespeicherte Klick.
• 2:45
  SPEAKER_01: Die Gefahr entsteht doch wenn, wenn Millionen solcher Klicks plötzlich als Benchmark definieren, was als normales Arbeiten gilt.
• 2:54
  SPEAKER_01: Aber das ist doch ein ganz anderer Use Case.
• 2:57
  SPEAKER_01: Aus einem harmlosen KI-Training für einen Assistenten wird so schleichend ein Performance Review.
• 3:03
  SPEAKER_01: Und das mündet am Ende in knallharten Personalentscheidungen.
• 3:07
  SPEAKER_02: Du tust da gerade so, als wäre das primäre Ziel eine automatische Mitarbeiterüberwachung.
• 3:13
  SPEAKER_02: Schauen wir doch mal auf das Narrativ der Digital Labor, das Microsoft gerade massiv vorantreibt.
• 3:19
  SPEAKER_01: Okay.
• 3:19
  SPEAKER_02: Da geht es im Kern darum, Menschen von monotonen Brückenarbeiten zu befreien.
• 3:24
  SPEAKER_02: Also genau die Momente, in denen wir den fehlenden API-Zugang zwischen zwei Programmen durch manuelles Abtippen kompensieren müssen.
• 3:31
  SPEAKER_02: Das ist die Marketingperspektive, ja.
• 3:34
  SPEAKER_02: Nimm stark regulierte Branchen.
• 3:36
  SPEAKER_02: Krankenhäuser, Logistik.
• 3:38
  SPEAKER_02: Ein Agent, der den echten Workflow kennt, kann Medikationspfade oder Supply Chain-Checks massiv beschleunigen.
• 3:46
  SPEAKER_02: Sollen wir aus einem reflexhaften Datenschutz heraus Menschen dazu zwingen, ewig in fehleranfälligen Systemen festzusitzen, nur weil wir uns vor dem Werkzeug fürchten?
• 3:57
  SPEAKER_01: Also niemand fürchtet sich vor dem Werkzeug an sich, sondern vor der Architektur dahinter.
• 4:02
  SPEAKER_01: Schau dir Metas aktuelle Model-Capability-Initiative an.
• 4:05
  SPEAKER_01: Mhm, das US-Programm?
• 4:08
  SPEAKER_01: Genau.
• 4:08
  SPEAKER_01: Da werden auf den Laptops von US-Mitarbeitern Mausbewegungen und Screenshots aufgezeichnet, um KI-Modelle zu trainieren.
• 4:16
  SPEAKER_01: Offiziell heißt es natürlich nicht für die Leistungsbewertung.
• 4:20
  SPEAKER_02: Richtig.
• 4:20
  SPEAKER_01: Aber technisch passiert da etwas viel Tiefgreifenderes.
• 4:24
  SPEAKER_01: Die KI speichert nicht einfach ein Video deines Bildschirms ab.
• 4:27
  SPEAKER_01: Sie übersetzt deine spezifische Arbeitsweise in mathematische Muster, sogenannte Embeddings.
• 4:33
  SPEAKER_01: Lass uns das kurz greifbar machen.
• 4:35
  SPEAKER_02: Diese Embeddings verknüpfen einzelne Aktionen in einen Kontext.
• 4:40
  SPEAKER_01: Stimmt das so?
• 4:41
  SPEAKER_01: Exakt.
• 4:41
  SPEAKER_01: Die KI weiß dann nicht nur, dass du Excel geöffnet hast, sondern sie erkennt ein ganzes Verhaltenscluster.
• 4:48
  SPEAKER_01: Sie sieht also, Mitarbeiter A braucht für diesen Prozess drei Klicks und fünf Sekunden.
• 4:54
  SPEAKER_01: Okay.
• 4:54
  SPEAKER_01: Und Mitarbeiter B weicht davon ab, scrollt länger und holt sich noch Infos aus einem anderen Tab.
• 5:00
  SPEAKER_01: Plötzlich hast du messbare Prozesscluster.
• 5:02
  SPEAKER_01: Wenn das Management ein halbes Jahr später fragt, welches Team vom KI-Normal abweicht, liefert das System die fertige Antwort.
• 5:11
  SPEAKER_01: Das initiale Training war nur der erste Schritt zur Kontrolle.
• 5:15
  SPEAKER_01: Der EUAI-Act stuft in Annex 3 Arbeitskontexte völlig zu Recht als Hochrisiko ein.
• 5:21
  SPEAKER_01: Die angebliche Zustimmung der Mitarbeiter zur Datenfreigabe ist in der Praxis doch eine absolute Illusion.
• 5:26
  SPEAKER_01: Warum eine Illusion?
• 5:28
  SPEAKER_01: Weil dein Gehalt, deine Karriere, das Vertrauen deines Managers, das hängt alles im selben Machtgefüge.
• 5:34
  SPEAKER_01: Da sagst du nicht einfach nein.
• 5:37
  SPEAKER_02: Ja, aber das Problem bei dieser Argumentation ist, dass du ein technologisches Potenzial unweigerlich mit dystopischem Management gleichsetzt.
• 5:45
  SPEAKER_02: Die Antwort auf dieses Risiko von abgeleiteten Daten darf doch nicht technologische Blockade sein.
• 5:50
  SPEAKER_02: Sondern Die Antwort ist robuste Governance.
• 5:53
  SPEAKER_02: Wir müssen das System technisch und organisatorisch richtig bauen.
• 5:57
  SPEAKER_02: Das bedeutet eine absolute kryptografisch gesicherte Trennung von Training und Leistungsbewertung.
• 6:03
  SPEAKER_02: Rohdaten dürfen nur extrem kurz im Speicher bleiben.
• 6:06
  SPEAKER_02: Und diese abgeleiteten Prozesscluster, von denen du da sprichst, müssen nach dem Modelltraining gelöscht oder streng auditiert werden.
• 6:15
  SPEAKER_02: Ein Betriebsrat muss ein hartes Vetorecht haben, bevor überhaupt der erste Klick gesammelt wird.
• 6:20
  SPEAKER_02: Mit diesen Leitplanken überwickt der Nutzen die Risiken einfach enorm.
• 6:24
  SPEAKER_01: Selbst bei perfekter Governance übersiehst du da das viel größere strategische Risiko, nämlich den Vendorlogin.
• 6:32
  SPEAKER_01: Inwiefern?
• 6:33
  SPEAKER_01: Nehmen wir an, deine Leitplanken funktionieren und die Mitarbeiter sind geschützt.
• 6:37
  SPEAKER_01: Der Drittanbieter lernt nun jeden Workaround, jeden informellen Prozess, jede spezifische Eigenheit deines Unternehmens.
• 6:44
  SPEAKER_01: Das System baut ein perfektes Prozessgedächtnis auf.
• 6:47
  SPEAKER_01: Und das ist doch exakt das, was wir wollen.
• 6:49
  SPEAKER_01: Eine KI, die das Unternehmen wirklich versteht.
• 6:52
  SPEAKER_01: Ja, aber dieses Verständnis liegt beim Anbieter.
• 6:55
  SPEAKER_01: Es ist also, als würdest du einem externen Dienstleister das einzige Exemplar der DNA deiner Firma übergeben.
• 7:03
  SPEAKER_01: Wenn der Anbieter die Preise verzehnfacht oder die strategische Richtung ändert, kannst du nicht mehr wechseln.
• 7:08
  SPEAKER_01: Naja, es gibt ja.
• 7:10
  SPEAKER_01: Der Agent ist dann kein Tool mehr, er ist zur unverzichtbaren Infrastruktur geworden.
• 7:16
  SPEAKER_01: Verlässt du die Plattform, verlierst du dein gesamtes digitalisiertes Prozesswissen.
• 7:22
  SPEAKER_01: Schlimmer noch, deine Mitarbeiter sind dann an ein Normal gekettet, das von einer externen Firma definiert und kontrolliert wird.
• 7:30
  SPEAKER_02: Technische Souveränität, also die Möglichkeit, Modelle lokal laufen zu lassen oder Trainingsdaten zu exportieren, das ist architektonisch lösbar.
• 7:39
  SPEAKER_02: Aber lass uns den Bogen zurück zu unserem Ausgangspunkt spannen.
• 7:42
  SPEAKER_02: Der Firmenagent optimiert nur das Ziel der Firma.
• 7:45
  SPEAKER_02: Richtig.
• 7:46
  SPEAKER_02: Es zwingt uns dazu, extrem kritisch zu hinterfragen, was passiert, wenn er dieses Ziel wirklich erreicht.
• 7:53
  SPEAKER_02: Repariert er den zugrunde liegenden, fehlerhaften Prozess oder zwingt er die Menschen schleichend dazu, sich der Maschine und ihrer starren Definition von Normalität anzupassen?
• 8:04
  SPEAKER_01: Und genau an diesem Punkt entscheidet sich die Zukunft unserer Arbeitswelt.
• 8:08
  SPEAKER_01: Wenn der Agent die echte Arbeitsweise deiner Firma bis ins kleinste Detail lernt, bleibt am Ende nur eine einzige entscheidende Frage: Wem gehört dieses gelernte Betriebshandbuch?
• 8:19
  SPEAKER_02: Wenn euch diese Debatte zum Nachdenken gebracht hat, abonniert KI-Espresso.
• 8:24
  SPEAKER_02: Jeden Tag eine neue KI-Debatte in sechs Minuten.
• 8:27
  SPEAKER_01: Das war KI Espresso.