Latest / KI Espresso / 600-fach billiger — CEOs fürchten KI-Lock-in

Transcript

600-fach billiger — CEOs fürchten KI-Lock-in · KI Espresso

• 0:00
  SPEAKER_01: KI ist 600-fach billiger geworden.
• 0:02
  SPEAKER_01: Und genau deshalb wird der Login gefährlicher.
• 0:05
  SPEAKER_00: Ähm, Moment, lass mich da ganz kurz.
• 0:07
  SPEAKER_01: Nee, warte, ich muss für euch alle erstmal die Datenlage einordnen, die wir heute hier zerlegen.
• 0:12
  SPEAKER_01: Also wir haben hier ein neues Archive-Paper, das die Inferenzdaten, also quasi die reinen Ausführungskosten von KI, von Open Router und Epoch AI aus den Jahren 2020 bis 2026 analysiert.
• 0:24
  SPEAKER_01: Und parallel dazu liegt uns so ein aktueller Bericht von Exios vor.
• 0:28
  SPEAKER_00: Der zeigt ja, dass alle gerade durchdrehen.
• 0:30
  SPEAKER_01: Genau.
• 0:30
  SPEAKER_01: CEOs und CIOs gehen jetzt massiv auf KI-Schnäppchenjagd.
• 0:36
  SPEAKER_01: Und unsere Mission für euch heute ist herauszufinden, wie man diesen Preissturz nutzen kann, ohne die eigene IT-Architektur völlig an die Wand zu fahren.
• 0:44
  SPEAKER_01: Aber für mich ist die Datenlage eigentlich eindeutig.
• 0:46
  SPEAKER_01: Mit einem 600-fachen Preisverfall ist KI ab heute ein reines Einkaufsthema.
• 0:51
  SPEAKER_00: Puh, also der.
• 0:52
  SPEAKER_01: Lass mich den Gedanken kurz beenden.
• 0:54
  SPEAKER_01: Der finanzielle Anreiz für Routineaufgaben, einfach immer das billigste Open-Source-Modell zu nehmen, der ist doch riesig.
• 1:00
  SPEAKER_01: Warum sollte ein CIO noch teure Verträge rechtfertigen, wenn man das Backend für Cent-Beträge austauschen kann?
• 1:06
  SPEAKER_01: Damit ist das ROI-Problem doch gelöst.
• 1:08
  SPEAKER_00: Da muss ich echt massiv dagegen halten.
• 1:11
  SPEAKER_00: Diese Sichtweise ist also, ganz ehrlich, die ist naiv und brandgefährlich.
• 1:16
  SPEAKER_00: Du übersiehst da völlig, wie moderne Softwarearchitektur auf technischer Ebene eigentlich funktioniert.
• 1:21
  SPEAKER_01: Inwiefern?
• 1:22
  SPEAKER_01: Billiger ist billiger?
• 1:23
  SPEAKER_00: Ja, auf dem Papier.
• 1:25
  SPEAKER_00: Du siehst nur die Oberfläche, also den Preis für ein paar generierte Wörter.
• 1:29
  SPEAKER_00: Aber ein vermeintlich billiger Token wird in derselben Sekunde zu einem extrem teuren Workflow, wenn du anfängst, dich tief in die Infrastruktur einer einzigen Plattform einzuhaken.
• 1:40
  SPEAKER_00: Du denkst an schmate Kosteneinsparungen beim Einkauf, läufst aber blind in die absolute Abhängigkeit rein.
• 1:46
  SPEAKER_01: Aber wir können diese enorme Marktmacht der Anbieter doch nicht ignorieren.
• 1:50
  SPEAKER_01: Nehmen wir Anthropic als Kontrastbeispiel.
• 1:53
  SPEAKER_01: Die haben jetzt eine Postmoney-Bewertung von exakt 965 Milliarden Dollar.
• 1:58
  SPEAKER_00: Wahnsinn, ja.
• 1:59
  SPEAKER_01: Fast eine Billion.
• 2:01
  SPEAKER_01: Stell dir das vor, wie in den frühen Tagen des Cloud-Computings.
• 2:04
  SPEAKER_01: Wenn du bei solchen Giganten auf der anderen Seite des Tisches sitzt, musst du doch extrem agil bleiben.
• 2:09
  SPEAKER_01: Genau deshalb müssen wir diese günstigen Tokens betrachten wie billiges Benzin.
• 2:14
  SPEAKER_01: Völlig egal, von welcher Tankstelle es kommt, man wechselt einfach durch, Hauptsache der Motor läuft.
• 2:21
  SPEAKER_00: Ähm, dein Tankstellenvergleich, der hinkt gewaltig.
• 2:24
  SPEAKER_00: Wirklich.
• 2:25
  SPEAKER_00: Du kaufst bei KI nämlich kein standardisiertes Benzin.
• 2:28
  SPEAKER_00: Du baust einen Motor, der oft nur mit einer ganz bestimmten proprietären Zündkarze läuft.
• 2:34
  SPEAKER_01: Ach komm, so schwer ist ein API-Wechsel jetzt auch nicht.
• 2:37
  SPEAKER_00: Du glaubst wirklich, du kannst in der Praxis einfach mal so den Anbieter wechseln, das ist eine völlige Illusion.
• 2:43
  SPEAKER_00: Lass uns mal anschauen, wie der Login beim Programmieren passiert.
• 2:47
  SPEAKER_00: Du baust deine Datenanschlüsse, deine Agenten-Skills.
• 2:51
  SPEAKER_01: Also die Fähigkeit der KI, auf unsere internen Datenbanken zuzugreifen.
• 2:55
  SPEAKER_00: Genau.
• 2:55
  SPEAKER_00: Und du baust deine Freigabeprozesse.
• 2:58
  SPEAKER_00: Die sind heute oft fest auf die spezifische API, also die Datenschnittstelle eines einzigen Anbieters zugeschnitten.
• 3:05
  SPEAKER_00: Das sogenannte Tool-Calling, also die Art, wie Prompts technisch formatiert werden, das ist eben nicht standardisiert.
• 3:12
  SPEAKER_01: Okay, das heißt, das bricht alles weg.
• 3:14
  SPEAKER_00: Richtig.
• 3:15
  SPEAKER_00: Da hilft dir der günstigere Token-Preis der Konkurrenz überhaupt nichts, wenn dein ganzes System in die Brüche geht, sobald du den Stecker umsteckst.
• 3:23
  SPEAKER_00: Schreib dir diesen Satz hinter die Ohren.
• 3:25
  SPEAKER_00: Der Preis pro Token ist nicht der Preis deiner Abhängigkeit.
• 3:29
  SPEAKER_01: Okay, also gut.
• 3:30
  SPEAKER_01: Das leuchtet technisch ein, wenn man zu tief in den spezifischen Features der US-Giganten steckt.
• 3:37
  SPEAKER_01: Aber hier im Dachraum sind wir doch viel sicherer aufgestellt.
• 3:40
  SPEAKER_01: Weißt du?
• 3:41
  SPEAKER_01: Ja.
• 3:42
  SPEAKER_01: Wir pochen vehement auf den EU AI-Act, wir bestehen auf lokale Rechenzentren in Frankfurt oder Zürich und wir schreiben uns digitale Souveränität ganz groß in die Cloud-Verträge.
• 3:54
  SPEAKER_01: Damit sind wir doch vor diesem schleichenden Login auf API-Ebene geschützt, oder nicht?
• 4:00
  SPEAKER_00: Naja, das ist exakt der Togschluss, den so viele IT-Leiter bei uns gerade machen.
• 4:06
  SPEAKER_00: Du verwechselst juristische Absicherung mit technischer Freiheit.
• 4:10
  SPEAKER_01: Aber der Server steht doch in Hessen.
• 4:11
  SPEAKER_00: Ja, toll.
• 4:13
  SPEAKER_00: Aber echte Souveränität entsteht nicht in irgendwelchen Verträgen oder durch den Serverstandort.
• 4:19
  SPEAKER_00: Sie entsteht ausschließlich in portablen Arbeitsprozessen.
• 4:22
  SPEAKER_00: Wer seine Prompts und seine Geschäftslogik als so eine Art geheimes Check-Protokoll in der Weboberfläche eines einzigen Anbieters hortet, ist völlig abhängig.
• 4:32
  SPEAKER_00: Wenn der Anbieter morgen seine Schnittstellen ändert oder bestimmte Features einfach streicht.
• 4:37
  SPEAKER_00: Exakt.
• 4:37
  SPEAKER_00: Dann nützt dir deinen toller Vertrag gar nichts.
• 4:40
  SPEAKER_00: Dein ganzer Prozess bricht zusammen, weil das Gehirn deiner Anwendung beim Anbieter liegt.
• 4:45
  SPEAKER_01: Krass.
• 4:46
  SPEAKER_01: Okay, das klingt nach einer echten Architekturfalle.
• 4:49
  SPEAKER_01: Wie entkommt man dem?
• 4:51
  SPEAKER_01: Also, was können die Tech-Professionals da draußen, die Entwickler oder Architekten, jetzt tun?
• 4:55
  SPEAKER_00: Das geht jetzt direkt an euch, wenn ihr diese KI-Systeme baut.
• 4:59
  SPEAKER_00: Ich habe drei harte Ratschläge für eine wirklich portable Architektur, die ihr ab morgen umsetzen solltet.
• 5:05
  SPEAKER_00: Erstens, dokumentiert einen wichtigen Workflow zwingend außerhalb eures Chat-Tools.
• 5:11
  SPEAKER_01: Du meinst sowas wie das Ziel, den Input, den Qualitätscheck und den Output.
• 5:16
  SPEAKER_00: Genau das, ja.
• 5:18
  SPEAKER_00: Alles extern festhalten.
• 5:19
  SPEAKER_00: Zweitens, und das ist entscheidend, testet diesen Workflow zwingend mit zwei Modellen.
• 5:25
  SPEAKER_00: Einem starken Modell und einer extrem billigen Alternative.
• 5:29
  SPEAKER_01: Ah, um zu sehen, wo es bricht.
• 5:30
  SPEAKER_00: Richtig.
• 5:31
  SPEAKER_00: Weil es euch zwingt, modellagnostische Prompts zu schreiben, anstatt euch auf die Macken einer einzigen API zu verlassen.
• 5:37
  SPEAKER_00: Ihr seht sofort, was nicht funktioniert.
• 5:39
  SPEAKER_00: Und drittens, legt eure Prompts und Entscheidungskriterien in einem eigenen internen Repositorium ab.
• 5:46
  SPEAKER_01: Also in der eigenen Code-Datenbank.
• 5:48
  SPEAKER_00: Niemals nur beim Anbieter.
• 5:50
  SPEAKER_00: Zieht das komplett in eure eigene Kontrolle.
• 5:52
  SPEAKER_01: Wahnsinn, das bringt mich wirklich zurück zu der unfassbaren Zahl, mit der wir gestartet sind.
• 5:58
  SPEAKER_01: KI ist 600-fach billiger geworden.
• 6:01
  SPEAKER_01: Aber ihr müsst diese Metrik heute wirklich neu bewerten.
• 6:04
  SPEAKER_01: Ist eine 600-fache Ersparnis bei der Token-Rechnung heute es wirklich wert, wenn ihr morgen euer gesamtes Prozesswissen neu erfinden müsst, weil der Anbieter die Plattform ändert?
• 6:15
  SPEAKER_00: Das ist die große Frage.
• 6:16
  SPEAKER_01: Eben.
• 6:17
  SPEAKER_01: Und nehmt mal diesen Gedanken mit, was passiert eigentlich in ein paar Jahren, wenn diese Modelle aufhören, über den Preis zu konkurrieren und stattdessen anfangen, geschlossene Ökosysteme aufzubauen, genau wie bei Apple und Android?
• 6:30
  SPEAKER_00: Dann wird's richtig teuer.
• 6:31
  SPEAKER_01: Definitiv.
• 6:32
  SPEAKER_01: Wenn euch diese Debatte zum Nachdenken gebracht hat, abonniert KI Espresso.
• 6:37
  SPEAKER_01: Jeden Tag eine neue KI-Debatte in sechs Minuten.
• 6:40
  SPEAKER_00: Das war KI Espresso.