Latest / KI Espresso / 1 Entwickler, Tausende Dollar – Microsoft unter Kontrolle?

Transcript

1 Entwickler, Tausende Dollar – Microsoft unter Kontrolle? · KI Espresso

• 0:00
  SPEAKER_00: Hunderte bis einige tausend Dollar pro Monat für KI-Tokens eines einzigen Entwicklers.
• 0:06
  SPEAKER_01: Und ausgerechnet Microsoft, das ja eigentlich AI-First sein will, setzt seinen Bereichen jetzt Token-Budget-Ziele.
• 0:16
  SPEAKER_00: Genau.
• 0:16
  SPEAKER_00: Also laut internen Unterlagen, über die 404 Media berichtet hat, es gibt da zwar kein öffentliches Audit, aber naja, der Konflikt ist real.
• 0:25
  SPEAKER_00: Seit Juli sollen diese Bereiche Budgets haben, Beschäftigte sehen ihren eigenen Verbrauch und eine günstigere GPT 5.6-Option wird intern quasi zum Standard.
• 0:35
  SPEAKER_01: Das klingt im ersten Moment nach einer Firma, die ihre eigene KI-Euphorie massiv bremst.
• 0:42
  SPEAKER_00: Da muss ich echt widersprechen.
• 0:44
  SPEAKER_00: Wieso?
• 0:44
  SPEAKER_00: Das ist keine Bremse, sondern einfach erwachsenes Ressourcenmanagement.
• 0:48
  SPEAKER_00: Tokens sind ja kein Applaus-Zähler, weißt du?
• 0:51
  SPEAKER_00: Microsoft Manager Jay Parrig formulierte das Ziel laut dem Bericht so: nicht weniger Tokens, sondern mehr Wirkung pro Token.
• 0:58
  SPEAKER_01: Da halte ich aber dagegen.
• 1:00
  SPEAKER_01: Wer zu früh pro Kopf deckelt, misst am Ende nur die Rechnung.
• 1:04
  SPEAKER_01: Er sieht überhaupt nicht, welcher Entwickler im Hintergrund gerade einen komplett neuen Arbeitsprozess entdeckt.
• 1:11
  SPEAKER_00: Okay, dann sag mir mal deinen Standard.
• 1:14
  SPEAKER_00: Unbegrenzte Rechnung und einfach nur Hoffnung?
• 1:17
  SPEAKER_00: Acht Wochen Entdeckungsphase.
• 1:19
  SPEAKER_00: Keine individuellen Limits.
• 1:21
  SPEAKER_00: Jede Nutzung bekommt eine Aufgabe, ein Modell, Kosten, Zeit und ein Ergebnis.
• 1:26
  SPEAKER_00: Acht Wochen.
• 1:27
  SPEAKER_00: Ja.
• 1:27
  SPEAKER_00: Und danach begrenzen wir schlechte Workflows, aber eben nicht neugierige Menschen.
• 1:32
  SPEAKER_01: Also das überzeugt mich nicht.
• 1:34
  SPEAKER_01: Acht Wochen ohne Grenze sind verdammt lang, wenn so ein Agent in Schleifen läuft, denselben Kontext ständig wiederholt und für absolute Routine das teuerste Werkzeug nimmt.
• 1:46
  SPEAKER_01: Okay, aber.
• 1:47
  SPEAKER_01: Moment, mein Standard ist umgekehrt.
• 1:49
  SPEAKER_01: Künstiges Modell und Teambudget zuerst.
• 1:52
  SPEAKER_01: Wer die Frontier-Option braucht, der nennt Zweck und Verantwortlichen.
• 1:57
  SPEAKER_01: Aber damit löst du doch das falsche Problem.
• 2:00
  SPEAKER_01: Der teuerste Nutzer kann verschwenden, das stimmt.
• 2:03
  SPEAKER_01: Er kann aber auch der Einzige sein, der herausfindet, welche Arbeit sich wirklich automatisieren lässt.
• 2:09
  SPEAKER_01: Eben.
• 2:10
  SPEAKER_01: Eine Freigabe vor der Entdeckung, naja, die belohnt doch nur sichere Mittelmäßigkeit.
• 2:15
  SPEAKER_00: Weißt du, Deutschland kann sich aber auch teure Mittelmäßigkeit nicht leisten.
• 2:19
  SPEAKER_00: KPMG hat da kürzlich 480 Entscheider befragt.
• 2:23
  SPEAKER_00: 98% nennen KI relevant für Geschäftsmodell und Wertschöpfung.
• 2:28
  SPEAKER_00: Genau.
• 2:28
  SPEAKER_00: Und 71% sagen, ihre bisherigen Investitionen hätten die Erwartungen erfüllt oder sogar übertroffen.
• 2:34
  SPEAKER_01: Ja, aber das stützt doch genau meine Seite.
• 2:37
  SPEAKER_01: Die Investitionen wirken also.
• 2:39
  SPEAKER_00: Naja, ganz so einfach ist es eben nicht.
• 2:41
  SPEAKER_00: In derselben Befragung wollen 67% weniger als 10% ihres gesamten Investitionsbudgets in KI stecken.
• 2:48
  SPEAKER_01: Ah, okay.
• 2:49
  SPEAKER_00: Das heißt, wir haben breite Relevanz, positive Erfahrung, aber einen sehr begrenzten Topf.
• 2:56
  SPEAKER_00: Genau deshalb braucht jede zusätzliche Nutzung einen knallharten Vergleich mit Security, Modernisierung und anderen IT-Projekten.
• 3:05
  SPEAKER_01: Oder diese 67% zeigen schlichtweg, dass deutsche Firmen schon wieder rationieren, bevor sie überhaupt verstanden haben, was da in der Breite möglich ist.
• 3:13
  SPEAKER_00: Woran würdest du denn erkennen, dass deine offene Phase da mehr als nur Begeisterung produziert?
• 3:19
  SPEAKER_01: An konkreter Arbeit, nicht an Tokens.
• 3:21
  SPEAKER_01: Eine neue Studie hat zehntausende Microsoft-Ingenieure beim Rollout von Kommandozeilen-Agenten untersucht.
• 3:28
  SPEAKER_01: Aha.
• 3:28
  SPEAKER_01: Und die Nutzer dieser Agents mergten über vier Monate ungefähr 24% mehr Pull-Requests.
• 3:35
  SPEAKER_01: Ja, warte mal, mehr Pull-Requests sind doch noch lange kein besseres Produkt.
• 3:38
  SPEAKER_01: Richtig, das stimmt.
• 3:40
  SPEAKER_01: Die Autoren sagen auch selbst, ein gemerchter Pull-Request ist nur ein Proxy für Output, nicht automatisch echter Wert.
• 3:48
  SPEAKER_01: Eben.
• 3:49
  SPEAKER_01: Und die Studie ist natürlich rein beobachtend.
• 3:51
  SPEAKER_01: Aber sie zeigt meiner Meinung nach extrem gut, warum so ein pauschales Limit gefährlich ist.
• 3:56
  SPEAKER_01: Es kann nämlich einen realen Produktivitätshebel abschneiden, noch bevor wir Qualität und Kundennutzen messen.
• 4:03
  SPEAKER_00: Oder es verhindert, dass ein Output-Proxy zunächst ein Vanity-Metrig wird.
• 4:08
  SPEAKER_00: Weißt du?
• 4:09
  SPEAKER_00: Erst feierten Firmen Token-Mengen, jetzt feiern dir Pull Requests.
• 4:13
  SPEAKER_00: Beides kann Arbeit aufblasen, ohne auch nur einen einzigen Kunden glücklich zu machen.
• 4:17
  SPEAKER_01: Also meine acht Wochen feiern gar nichts.
• 4:20
  SPEAKER_01: Sie erzeugen harte Daten.
• 4:22
  SPEAKER_01: Dein Budget zuerst Ansatz setzt dagegen schon vor dem Test ein Urteil.
• 4:26
  SPEAKER_01: Standardmodell gut, Frontiermodell verdächtig?
• 4:29
  SPEAKER_00: Nein.
• 4:30
  SPEAKER_00: Standardmodell ist wirtschaftlich.
• 4:32
  SPEAKER_00: Frontiermodell ist begründungspflichtig.
• 4:35
  SPEAKER_00: Das ist ein ziemlicher Unterschied.
• 4:37
  SPEAKER_01: Naja.
• 4:37
  SPEAKER_00: Microsoft dokumentiert ja selbst die Hebel.
• 4:40
  SPEAKER_00: Sichtbarkeit, Caching, Badging, Routing und eben Modellwahl.
• 4:44
  SPEAKER_00: Ein Router kann Kosten, Qualität oder eine Balance priorisieren.
• 4:48
  SPEAKER_00: Warum soll eine einfache Klassifikation denselben teuren Rechenweg bekommen wie eine schwierige Architekturfrage?
• 4:55
  SPEAKER_01: Soll sie ja gar nicht.
• 4:57
  SPEAKER_01: Aber ein zentraler Router kennt die Aufgabe oft viel schlechter als das Team selbst.
• 5:02
  SPEAKER_01: Wenn er die Qualität zu frühgigen Kosten tauscht, bezahlen Entwickler das mit Nacharbeit.
• 5:07
  SPEAKER_01: Die Rechnung wandert also nur vom Modellbudget rüber in die Arbeitszeit.
• 5:11
  SPEAKER_00: Genau deshalb Teambudget statt starrem Firmenlimit.
• 5:15
  SPEAKER_00: Das Team entscheidet innerhalb dieses Rahmens und für eine Ausnahme gibt es einen benannten Owner.
• 5:22
  SPEAKER_00: Ohne diese Sichtbarkeit weiß doch niemand, ob ein Agent wirklich Zeit spart oder nur Kosten unsichtbar macht.
• 5:28
  SPEAKER_01: Ja, aber ohne einen geschützten Experimentierraum weiß auch niemand, welcher Rahmen überhaupt sinnvoll ist.
• 5:35
  SPEAKER_01: Stellt ihr eine Münchner Softwareleiterin mit zehn Entwicklern vor.
• 5:39
  SPEAKER_01: Einer verbraucht plötzlich fünfmal mehr Tokens als die anderen.
• 5:43
  SPEAKER_01: Oha.
• 5:44
  SPEAKER_01: Finance sieht da sofort einen roten Ausreißer.
• 5:47
  SPEAKER_01: Sie sieht aber noch nicht, dass er gerade einen Release-Prozess von zwei Tagen auf zwei Stunden verkürzt.
• 5:52
  SPEAKER_01: Und ein Default stoppt ihn zuerst und fragt erst danach.
• 5:55
  SPEAKER_01: Und dein Default bezahlt einfach zuerst und fragt nach acht Wochen.
• 5:59
  SPEAKER_01: Wenn der Prozess keinen einzigen Fehler reduziert, war die schöne Demo am Ende vielleicht nur schneller erzeugte Nacharbeit.
• 6:06
  SPEAKER_01: Exakt deshalb messen wir ja Nacharbeit und Fehler.
• 6:10
  SPEAKER_01: Und eben nicht nur Geschwindigkeit.
• 6:12
  SPEAKER_00: Dann kommen wir doch endlich zum entscheidenden Test.
• 6:15
  SPEAKER_00: Für acht Wochen protokolliert ein Team sieben Dinge: Aufgabe, Modell, Token-Kosten, verstrichene Zeit, Nacharbeit, Fehler und ein benanntes Business-Ergebnis.
• 6:25
  SPEAKER_00: Richtig.
• 6:26
  SPEAKER_00: Routine wird dann günstig gerautet und für schwierige Aufgaben bleibt eine sichtbare Frontieroption.
• 6:32
  SPEAKER_01: Genau.
• 6:32
  SPEAKER_01: Und in der Entdeckungsphase gibt es kein individuelles Cap.
• 6:36
  SPEAKER_01: Sonst optimieren Menschen einfach nur auf die Grenze und verstecken Versuche.
• 6:41
  SPEAKER_01: Nach acht Wochen werden Workflows verglichen, mit dem alten Prozess, möglichst mit einer Kontrollgruppe oder wenigstens einer belastbaren Baseline.
• 6:49
  SPEAKER_00: Danach gilt dann aber nicht automatisch mein Budgetmodell.
• 6:52
  SPEAKER_01: Und fairerweise nicht automatisch meine offene Nutzung.
• 6:56
  SPEAKER_00: Der Default folgt den Daten.
• 6:58
  SPEAKER_00: Wiederholbare Low-Value-Aufgaben bekommen Routing und Limit.
• 7:02
  SPEAKER_00: Ein Workflow mit klarer Zeit-, Qualitäts- oder Kundennutzenwirkung bekommt mehr Budget.
• 7:08
  SPEAKER_01: Damit liegt der Konsens im letzten Drittel, aber die Machtfrage bleibt offen.
• 7:12
  SPEAKER_01: Wer trägt am Anfang die Beweislast?
• 7:15
  SPEAKER_00: Der Entwickler, der eine teure Ausnahme will.
• 7:18
  SPEAKER_01: Der Finanzchef, der einen Lernraum beschneiden will.
• 7:21
  SPEAKER_00: Wer muss den Nutzen beweisen?
• 7:22
  SPEAKER_00: Der Entwickler, der mehr Tokens will oder der Finanzchef, der sie begrenzen will.
• 7:27
  SPEAKER_01: Wenn euch diese Debatte zum Nachdenken gebracht hat, abonniert KI Espresso jeden Tag eine neue KI-Debatte in sechs Minuten.
• 7:34
  SPEAKER_00: Das war KI Espresso.