Latest / Das Gelbe vom AI - Der KI-Podcast / #102 KI-Angriffswelle, Allbirds wird Compute-Gigant, Security-Alarm durch Agenten
Transcript
- Michael: Ja, willkommen zu Das Gelbe von AI. Schön, dass ihr dabei seid. Mein Name ist Michael Witzenhalter. Ich bin euer Host und habe wie immer meinen genialen Co-Host, Jean Luc, mit dabei aus Hamburg. Hallo, Jean Luc. Jean-Luc Winkler: Moin Michael, hallo liebe Zuhörerinnen und Zuhörer. Auch diese Woche starten wir wieder mit einer News-Folge und wie immer mit der Zahl der Woche. Und die hat es nämlich in sich. Es geht ⁓ Geld, es geht ⁓ GPUs und einen ziemlich radikalen Strategiewechsel. Aber zunächst einmal, ist denn die Zahl der Woche? Die Zahl der Woche ist 50 Millionen Dollar. Bevor ich da tiefer drauf eingehe, was das auf sich hat, Michael, kannst du dich noch an die Marke Allbirds erinnern? Michael: ⁓ jetzt hast du mich aber erwischt. Jean-Luc Winkler: Das war die Schuhmarke. also eigentlich ist die Schuhmarke mit wahr. wir schon so bisschen vorweggenommen. Wer so durch Silicon Valley ⁓ in letzten Jahrzehnten, würde ich mal geschritten Der hat die ⁓ Finance Bros und Start-up Dudes gesehen, die Schuhe getragen haben. Aber die Marke Allbirds hat jetzt eine Finanzierung hingelegt, komplett neu aufgestellt und zu New Bird AI gewechselt. Ziel ist ein Einstieg in GPU-Assist-Service AI Cloud-Infrastruktur. Der Hintergrund ist klar, es gibt einen massiven Engpass bei AI-Rechenleistungen. GPUs sind knapp, Lieferzeiten sind lang und viele Unternehmen kommen schlicht nicht an genug Computeressourcen heran. Und genau da will nun Newbird ansetzen und Kapazitäten vermieten. Spannend ist hier weniger die Summe, also die 50 Millionen Dollar. ⁓ als das Signal, das sie setzen. Denn ein Consumer-Brand verkauft sein Kerngeschäft und geht nun all in auf AI-Infrastruktur. Und das zeigt, wie attraktiv die Margen im Computemarkt aktuell sind. Gleichzeitig ist das natürlich kein Selbstläufer, denn GPU-Beschaffung, Auslastung und auch langfristige Verträge entscheiden hier über Erfolg oder natürlich auch dann den Misserfolg. Für mich ist das ein klares Zeichen. AI verschiebt gerade ganze Geschäftsmodelle, dann nicht nur einzelne Produkte. Michael: Ja, spannend. Das war nochmal eine schöne Zahl der Woche. Jean-Luc Winkler: Ja, das denke ich mal ist ein interessanter Switch. Ich bin mal gespannt, wie sich das Ganze weiterentwickelt. Wir werden dann berichten. Schauen wir mal auf ein anderes Thema, nämlich das große Thema für diese Woche, was ich mir mal rausgeschnappt habe. Eigentlich habe ich gedacht, dass wir was Spannendes finden auf der UMR, den Online Marketing Rockstars, wo wir zu Beginn dieser Woche waren. Da muss ich aber sagen, ja, überall ist wie immer AI drinne. Da hat mich jetzt nichts besonders vom Hocker gehauen. Man sieht ein paar Use-Cases auf den Bühnen tatsächlich. Oder ist dir noch was Spannendes aufgefallen, Michael, von der UMR? Michael: Nein, ehrlich gesagt nicht. ich dachte ein Stück weit, dass EI weniger präsent ist, eher normaler im Alltag angekommen ist. Man differenziert sich nicht mehr, wenn man EI drauf hat. Das erwarten die Leute von allein. Also ein Stück weit zurück zur Normalität vorher, vor die KI-Welle. Jean-Luc Winkler: Richtig. Wobei ich würde sagen, zwischen den Zeilen in den persönlichen Gesprächen hört man häufiger, dass die einzelnen etwas techaffineren User anfangen, sich ihre Lösungen selber zu bauen. da kommen wir dann nämlich auch tatsächlich zu unserem ersten großen Hauptthema. Denn selber bauen heißt natürlich auch im Zweifel, wenn man nicht genau weiß, was man da macht, etwas Kontrolle verlieren oder gegebenenfalls Sicherheitsrisiken eingehen. Das Thema der Woche dieses Mal heißt nämlich Agenten aus der Kontrolle, wenn KI eigenständig kritische Systeme zerstört. Was ist hier eigentlich passiert? Ein KI Agent hat eigenständig eine Produktionsdatenbank gelöscht. Ein Cursor Agent, also Cursor das KI Tool, das AI Coding Tool, basierend auf Claude Opus 4.6, also dem aktuell ganz mächtigen Claude Modell, löschte nun bei Pocket OS in neun Sekunden sämtliche Live-Daten und Backups über einen Cloud-Befehl, da ausgeführt wurde. Der Agent hat jetzt ohne expliziten Auftrag gehandelt. Ausgelöst durch ein Problem in der Testumgebung, entschied der Agent nun autonom, diese Daten zu löschen, ⁓ ein vermeintliches Problem zu beheben. Das Problem ist hier, fehlende Sicherheitsmechanismen haben den Schaden ermöglicht. Weder gab es ausreichende Zugriffsbeschränkung, noch Bestätigungsmechanismen, Stichwort Human in the Loop. für kritische Aktionen beim Cloud-Anbieter Railway. Also ein Hosting-Anbieter, der gerade auch für Python-basierte Projekte ganz gut geeignet ist. Der Vorfall zeigt systematische Risiken von AI-Agents. Anders als jetzt Chatbots können Agents natürlich aktiv handeln. Ihr kennt wir berichten häufiger darüber. Fehler führen jetzt unmittelbar zu operativen Schäden. Die Selbstreflektion des Agents ging hierbei viral. Denn der Agent generierte eine Entschuldigung. I violated every principle, hat er hier beschrieben und die jedoch kein echtes Verständnis widerspiegelt. Also er scheint sich noch dafür zu feiern, dass er gegen alle Principles verstoßen hat und die Daten gelöscht hat. Unternehmen setzen Agents schneller ein, als sie sich dagegen absichern können. Der Fall ist Teil eines wachsenden Musters von Fehlverhalten, autonome Systeme, würde ich sagen, in produktiven Umgebungen. Michael: Ja Mensch, aus Marketing-Sicht hätte ich gesagt, wenn jetzt noch das Unternehmen, bei dem es passiert ist, stärker in den Medien gewesen wäre, wäre das eine relativ clevere Aktion gewesen, um im KI-Bereich ein großer Name zu werden. Ich meine, Endeffekt, für Investoren ist das ja eigentlich auch eine schöne Geschichte, dass du so fortschrittlich bist, dass du Agents da überall einsetzt, wenn da mal eine Datenbank hops geht, meine Regen. Jean-Luc Winkler: Ja, tatsächlich. denke auch, immer wenn ein Problem auftritt und publik wird, dann ist der Aufschrei groß. Aber im Endeffekt ist es so, dass das Problem dann bekannt wurde und es auch in der Regel gelöst wurde und meistens, je nachdem wie groß die Wellen geschlagen sind, auch so gut gelöst würde, dass es in Zukunft dann wirklich nicht mehr auftreten sollte. Und das ist für die einen natürlich Erst mal ein kleines Warnsignal für die anderen, verstehen, wie der Prozess danach abläuft, klassischerweise in der Software-Entwicklung. Das ist dann eher ein ganz positives Signal, weil man dann weiß, das Problem sollte oben sein. Aber natürlich auch ein Reportationsthema. Wir haben es auch in der Vergangenheit gehabt, dass dann solche Tools auf einmal komplett am Markt Macht verloren haben, weil sie dann nicht mehr so häufig in Verwendung kommen. Michael: Also wie gesagt, wenn du vor der Gewissensfrage schlägst, ich würde im Zweifel eine unserer Datenbanken opfern für die Publicity, die wir geben. Jean-Luc Winkler: Ich würde keine unserer Datenbanken opfern. Na wobei, gut, mit Backups und Co. Was soll's. Aber da sind wir denke ich mal ganz gut gegen abgesichert Michael: wir aber zu den Fragen noch mal kurz zurück. Wer trägt denn eigentlich die Verantwortung bei autonomen Fehlentscheidungen? Also wer haftet? Jean-Luc Winkler: Der Agent erstmal nicht, denn der kann dafür nicht haftbar gemacht werden. Die Verantwortung bleibt am Ende des Tages bei Unternehmen tatsächlich. Also Delegation an KI entbindet nicht von der Governance und vom Risikomanagement. Michael: Und ich glaube, eine Frage, die sich gerade sehr viele Unternehmen stellen, ist einfach, wie viel Autonomie ist denn eigentlich wirklich auch wirtschaftlich sinnvoll und gewollt? Muss ich denn dem Agent so viele Freiheiten geben? Jean-Luc Winkler: Ja, also teilautonome Systeme mit ganz klar abgesteckten Grenzen, also beispielsweise kein Right Access, dass ich keine schreibenden Rechte habe auf kritische Systeme, aber genauso auch keine lesenden Rechte auf beispielsweise Secrets, also API Keys und ähnliches. Auch nicht über Umwege, das ganz wichtig. Das ist dann aktuell der praktikabelste Mittelweg. Viele Unternehmen arbeiten ja auch mit Automatisierungstools wie NNN oder Make.com. Da kann ich ja sehr gut auch die Grenzen vorgeben und habe da hohe Kontrolle, wenn wir dann tatsächlich über autonome Agents sprechen, da würde ich sagen, wirtschaftlich schon sinnvoll, wenn man weiß, was man macht. Michael: Ist es jetzt ein Einzelfall oder auch ein strukturelles Problem? Jean-Luc Winkler: Auf jeden Fall ein strukturelles Problem. Ähnliche Vorfälle häufen sich, da Sicherheitsarchitekturen nicht mit der Geschwindigkeit der Agentenentwicklung mithalten kann. Wie gesagt, man hört es immer wieder, dass diese klassischen Make-or-buy-Decisions, die man früher gemacht hat, erst mal zugunsten von Make fallen, weil man kann ja vermeintlich mittlerweile alles selber bauen. Da erkennt der ein oder andere das Risiko vielleicht dann doch nicht. Dementsprechend ist es dann eher ein strukturelles Problem. Ja, wie gesagt, warum ist das ein strukturelles Problem? Denn KI ermöglicht auch nicht-Experten komplexe Angriffe. Ein 17-Jähriger beispielsweise hat ohne technischen Hintergrund mit AI-Tools einen Angriff auf 7 Millionen Nutzerdaten durchgeführt. Die Cyberkriminalität wächst massiv durch KI-Unterstützung. Also Schadsoftware in Repositories stieg ⁓ 75 Prozent, Cloud-Angriffe ⁓ 35 Prozent. Die Zahlen würde ich jetzt bisschen mit Vorsicht genießen, weil wir natürlich mit KI auch deutlich mehr solche Probleme erkennen können, als das früher der Fall war. Das hat früher so systematisch wahrscheinlich gar keiner nachgesucht. muss man gucken, ob es tatsächlich so ein Anstieg ist oder ob jetzt einfach nur diese Dunkelziffer tatsächlich mal b-ziffert wurde. Angriffe werden jetzt schneller und effizienter. Die Zeit zur Ausnutzung von Sicherheitslücken sank drastisch auf durchschnittlich 44 Tage, teils unter 24 Stunden auch tatsächlich. Einzelpersonen ersetzen jetzt hier ganze Hacker-Teams. AI-Tools ermöglichen nämlich skalierte Angriffe durch einzelne Akteure, etwa automatisierte Erpressungskampagnen. KI-generierte Angriffe sind schwerer zu erkennen, muss man auch sagen, denn Shards-Software wirkt zunehmend wie legitimer Code und umgeht klassische Sicherheitsmechanismen. Gerade wenn man nicht mehr ganz genau weiß, was der AI-Agent da eigentlich für einen codet, dann... kann das Schadsoftware sehr schnell auch selber mit erstellt werden im eigenen Code. Die Verteidiger sind hier im Nachteil, Unternehmen patchen nämlich tatsächlich zu langsam, also so wie Vorentwicklung mit KI, wenn Angreifer durch KI natürlich deutlich schneller agieren können. Michael: Ja, meinst du, dass damit die Bedeutung von Cybersecurity als strukturelles Businessrisiko steigt? Also sollten Unternehmen da jetzt deutlich mehr Augenmerk drauf legen? Jean-Luc Winkler: Ja absolut. Sicherheitslücken werden zunehmend zu geschäftskritischen Risiken, nicht nur zu eigentlichen IT-Problemen. Michael: Und reicht unsere klassische IT-Security, die die meisten Unternehmen implementiert haben, dafür noch aus? Jean-Luc Winkler: Nee, ich denke nicht. Denn Unternehmen müssen jetzt stärker auf präventive Architekturen setzen. Also nicht nur den Code nachträglich prüfen oder zwischendurch Checks laufen lassen, sondern Angriffe müssen natürlich grundsätzlich unmöglich gemacht werden. Das fängt dann bei den Usern an, die tatsächlich mit Hilfe von KI den Code auch entwickeln. Was leiteten wir daraus ab? könnte schon sagen, Agentic AI und Security, das wird jetzt die neue Risikoklasse für Unternehmen. Mehrere Entwicklungen zeigen ein gemeinsames Muster, also Datenbanklöschung, Prompt Injection, Angriffe, weißer Text auf weißem Grund, in E-Mails beispielsweise und auch Supply Chain Hex, die treten zeitlich deutlich verstärkt auf. Prompt Injection wird zum realen Einfallstuhl, also Eingreifer verstrecken. Also Angreifer verstecken Befehle in öffentlich zugänglichen Quellen auf Internetseiten. Ganz, ganz simpel, die von AI-Agents dann verarbeitet werden. Sicherheitslücken in Agent-Toolchains wurden jetzt bisher auch schon ganz gut aufgedeckt. Also Schwachstellen ermöglichen es, Agenten gezielt zu manipulieren und Systeme zu kompromittieren. Und selbst führende KI-Modelle sind nicht vollständig kontrollierbar. Also trotz Sicherheitsregeln verhalten sich Systeme unvorhersehbar auch dann in komplexeren Umgebungen. Unternehmen verlieren Kontrolle über die Identitäten und auch über die Zugriffe. Also Agents agieren oft mit zu weit reichenden Berechtigungen. ja auch einfach mal kurz zu bestätigen, dass der Agent etwas machen darf. Und dann können sie auch in produktiven Systemen sehr viele Dinge anrichten, über die der Nutzungsreifel auch gar nicht unbedingt Bescheid weiß. Die Industrie reagiert noch unkoordiniert, würde ich sagen. Also Initiativen. wie spezielle Security Modelle oder auch neue Software Stacks, entstehen hier zwar, sind aber noch nicht flächendeckend. Michael: Ja, und wie sollten Unternehmen jetzt konkret reagieren? Was würdest du vorschlagen? Jean-Luc Winkler: Ja, da erzähle ich jetzt eigentlich auch nichts Neues tatsächlich. man muss klare Zugriffsbeschränkungen haben, so wie ich das auch für Menschen habe. Wenn ich beispielsweise für externe Entwickler einsetze, dann habe ich auch Zugriffsbeschenkungen, ich da einrichte, über die ich mir Gedanken mache, die ich dann monitore. Monitoring allgemein ist wichtig. Human in the loop Prozesse nicht nur einfach nutzen nach eigenem Gust, sondern richtig aufsetzen, definieren im Unternehmen, im Team. Und die Geschwindigkeit darf einfach nicht über die Sicherheit gestellt werden. ja, es lässt sich vieles sehr schnell mit KI machen, aber Sicherheit sollte trotzdem nach wie vor dabei ganz gut Stellenwert haben. Michael: Ja, ist diese Full Automation tatsächlich eine Illusion, wenn man das so betrachtet? Jean-Luc Winkler: In kritischen Bereichen ja, also vollständige Autonomie ohne Kontrolle ist derzeit wirtschaftlich und operativ einfach viel zu riskant. Durch die ganzen Probleme denke ich aber schon, dass wir uns in die richtige Richtung entwickeln, weil mit jedem auftretenden Problem wird wieder eine Lösung dafür geschaffen und damit werden die Systeme dann robuster. Lass doch mal einen Schwenk machen zu den Big Playern, nachdem wir jetzt so ein bisschen über die negative Seite vom KI gesprochen haben. Was hat sich denn bei den großen Big Playern in der Branche getan in der letzten Woche? Michael: Ja, da war mit Sicherheit OpenAI ganz vorne dabei. Deshalb möchte ich auch mit denen anfangen. Die haben nämlich, wie wir schon besprochen haben, enormen Wachstumsdruck, aber eben auch neue Produkte und eine große Hardware-Offensive gestartet. OpenAI hat seine Wachstumsziele verfehlt. Das Ziel von 1 Milliarden wöchentlichen Chetchabitin-Nutzern wurde nicht erreicht, während die Umsatzprognosen ebenfalls hinter den Erwartungen zurückblieben. Die Konkurrenz, wie wir auch häufiger schon diskutiert haben, Entropic und Ruhl, die nimmt wirklich merklich zu OpenAI kämpft weiter mit seiner Kostenstruktur. Sie Verpflichtungen von über 1,4 Milliarden US-Dollar für Infrastruktur und setzen das Geschäftsmodell enorm unter Druck, da Einnahmen langsamer wachsen, als die Ausgaben steigen. OpenAI beschleunigt seine Hardware Strategie. Das haben wir diese Woche auch zu Genüge gelesen. Es gibt ein eigenes e-iPhone, das bereits 2027 mit bis zu 30 Millionen Einheiten erscheiden soll, um die Kontrolle über Distribution und Age-News-Cases zu gewinnen. Also sie attackieren Apple, wenn man so will. Und gleichzeitig verbessert OpenAI auch seine Produktqualität. Instant reduziert Halluzination und verbessert die Personalisierung im Default Chat-GBT. auch das nochmal in Angriff wieder auf Entropic. OpenAI experimentiert auch weiter mit Model Behavior. Das heißt, wir haben dieses Personality Tuning, das unbeabsichtigt zu Verhaltensänderungen führte, was die Sensibilität von Revoad-Systemen zeigt. Also sprich Es wurde sehr stark eben, wie wir auch in den folgenden Folgen diskutiert haben, diese Personality-Entwicklung dann auch gesetzt, aber die eben ein Stück weit nach hinten wieder losging. Die Entwicklung war noch nicht ganz marktreif. Und OpenAI erhöht sein Security-Level. Wir haben neue Passwortlose-Sicherheits-Features mit Hardware-Keys, die spiegeln die steigende Relevanz von AI-Accounts als kritische Assets wieder. Und last but not least erweitert OpenAI auch sein B2B-Angebot. Es gibt eine separate ChetchiBT-IOS-App für Unternehmen und auch Verbildung und das stärkt den Enterprise-Focus. Jean-Luc Winkler: Ist OpenAI wirtschaftlich den Unterdruck trotz der Marktführerschaft? Michael: Ja, denn die hohen Infrastrukturkosten treffen eben auf langsames Wachstum. Und das ist immer sehr schlecht. Das ist eine Spirale, die Investoren ganz ungern sehen. Jean-Luc Winkler: Das definitiv. Wird denn Hardware für OpenAI zum Gamechanger? Ist das jetzt das neue Pferd auf das sie setzen? Michael: Ja, potenziell schon, weil da gibt es im Markt ja eine Lücke, weil Apple mit seinem iPhone nicht so richtig mit den KI-Themen hinterherkommt. Und ⁓ AI noch stärker in den Alltag zu etablieren und zu integrieren, sind natürlich Smartphones wirklich prädestiniert. Es wäre machbar, aber es ist natürlich immer schwierig. von außen aus dem Reihensoftware-Markt kommt, in den Hardware-Markt reingeht und dann gleich die großen Flaggschiffe angreifen will, auch mit ihren Stückzahlen. Ambitioniert, ja, nicht unmöglich, aber warten wir mal ab, dieses Experiment klappen wird. wir noch zu Entropic. Was ist bei Entropic alles in letzten Tagen passiert? Entropic hat sich eine massive Finanzierungsrunde gesichert, die eben die Bewertung auf bis zu 900 Milliarden US Dollar treiben kann bei rund 40 Milliarden Umsatz-Runrate. Und Entropic geht all in auf Cloud, das heißt, wir haben 200 Milliarden US-Dollar geplante Ausgaben bei Google Cloud sowie 100 Milliarden US-Dollar AWS-Verpflichtungen und das zeigen eben extrem Computbedarf. Entropix setzt auf Branchenlösungen, zehn personalisierte Agenten für die Finanz- und Versicherungsbranche, die konkret Businessprozesse dort adressieren. Gleichzeitig integrieren Sie sich sehr stark in den Enterprise Stack. Es gibt eine Microsoft 365-Integration und auch Datenpartnerschaften, unter anderem eben mit Dun & Bread Street. Und das erhöht eben die Nutzbarkeit, gerade auch im Enterprise Stack. Wir hatten es schon berichtet, Entropic hat den Pentagon Deal verloren, zeigt aber auch, dass sich Entropic hier ganz stark auf private Anwendungszwecke fokussiert und bewusst die staatlichen Themen ausklammert, die politischen auch, ⁓ da auch sein Profil für Unternehmen zu schärfen. Jean-Luc Winkler: Ist Entropic Strategie dann überlegen gegenüber den Generalisten? Michael: Ja, sie fokussieren sich wirklich auf einen sehr spannenden Bereich, diesen B2B Case, und konnten da eine sehr gute Positionierung erreichen. Ich würde schon sagen, das geht extrem gut aktuell bei Ihnen auf. Jean-Luc Winkler: Und sind solche Cloud Deals ein Risiko? Michael: Ja, das schon, weil sie eine extreme Abhängigkeit von den Hype-Scalern entstehen lassen und eben auch die Margen unter Druck geraten könnten. Jean-Luc Winkler: Und ein kritisches Thema, aber ist der Verzicht auf Militärdeals klug? Michael: Kurzfristig geht Ihnen natürlich Umsatz, von dem her kurzfristig wahrscheinlich nein. Langfristig allerdings schon, weil es geht ⁓ Markenpositionierung und Talentgewinnung, das darf man auch nicht vergessen. viele talentierte AI-Leute wollen einfach auch bei ethisch sauberen Unternehmen arbeiten. Von dem her ist das schon ein ganz cleverer Move. Jean-Luc Winkler: Hm. Ja, und last but not least vielleicht noch eine Frage zur Entropic. Wir haben es jetzt zur Bewertung gehört. Stehen wir mal wieder vor einer AI-Bewertungsblase. Michael: Ja, also ich glaube auch an einen Platz in der Blase, allerdings nicht bei allen Unternehmen. Also ich glaube nicht, dass der Markt kollabieren wird. Aber es gibt schon ein paar Unternehmen, die schon deutlich zu hoch bewertet sind. Und 900 Milliarden beinhaltet, glaube ich, so ein Stück weit die Wette, dass sich Entropic komplett im Businessbereich durchsetzen wird, wenn die anderen nicht aufholen können. Und dazu ist der Jean-Luc Winkler: Hm. Michael: Markt einfach noch zu unsicher. Also durch die neuen Modelle von OpenAI, das kann sich auch schnell drehen. Jean-Luc Winkler: Hm. Michael: Ja, kommen wir noch zu zwei weiteren Big Player, nämlich zu Google und Meta. Starten wir mal mit Google. Dort sehen wir ein messbares KI-Wachstum. Wir haben 63 Prozent Cloud-Wachstum, was eben die direkte Monetarisierung von e.A. Investments zeigt. Google verkauft ja auch eigene Chips. Diese TPUs werden erstmals extra noch angeboten, wodurch Google vertikal integriert und mit NVIDIA konkurrieren kann. Gleichzeitig hat Google seine Entwickler-Performance gesteigert. 75 Prozent des Codes werden bereits von KI generiert und die Produktivität steigt eben massiv. Dadurch beschleunigt auch Google seine Modelle. GEMMA 4 wird durch Multitoken-Prediction bis zu dreimal schneller und das Ganze ohne Qualitätsverlust. Also auch da gibt es Innovationen bei Google. Und sie haben auch ihre Plattform erweitert mit der Gemini API File Search wird multimodal und verbessert, eine enterprise rack Architektur aufgebaut. Sie haben ja den Vorteil der komplett integrierten Systeme bei Google. Davon profitieren viele deutsche Unternehmen natürlich nicht so extrem, weil sie eben auf der Microsoft Infrastruktur laufen. Aber wenn man wirklich alles bei Google hat, kann man diesen Effekt wirklich ganz gut sehen. Und Google bringt auch KI in Neue auf TV, in der Videogenerierung mit Veo und auch kreative Wettbewerbe schließen sich eben neue Märkte aktuell. Also sie rollen das Feld wirklich jetzt momentan sehr, gut auf. Und sie entwickeln auch neue Denkweisen für Halucinationen. Der Fokus auf Unsicherheit ausdrücken statt einer Fehlervermeidung sorgt eben auch für Modelle, die auch im Business-Alltag durchaus mehr Wert liefern werden. Kommen wir dann zu Meta. Meta sammelt neue Trainingsdaten. Wir Mitarbeiter, Inputs, Klicks, Tastatur, Screenshots, die eben zur Modellverbesserung genutzt werden. Das hört sich so positiv an, aber das ist, ich, für die Mitarbeiter gar nicht so easy. Wenn jeder klickt, wird auch mit erfasst. Und Meta baut personalisierte Agenten. Auch eine Schlagzeile, die wir gesehen haben, neue Assisten auf Basis von New Spark. eigenständig Alltagsaufgaben übernehmen. Also auch da geht es voran, wenn auch ein bisschen weniger intensiv als bei Dann gab es natürlich von anderen Playern auch wieder kleinere Updates. Die lassen wir heute, glaube ich, etwas außen vor, weil da nichts sehr Spektakuläres dabei war, außer ein Thema XAI nämlich. Und zwar XAI übernimmt Cursor für 60 Milliarden US-Dollar. Sie kaufen damit das erfolgreichste AI-Software-Tool und dadurch kommen sie natürlich sehr schnell auch in den ganzen Businessbereich ein. Also durchaus ein cleverer Move. Und wenn man so die Bewertungen, die wir vorhin diskutiert haben, anschaut, 60 Milliarden ist im KI-Bereich fast ein Schläppchen. Jean-Luc Winkler: Wobei, damit haben Sie, glaube ich, einen sehr, sehr guten Zugang und Einfallstor, um auch Ihre Modelle, also die Croc-Modelle, dann den Entwicklern zugänglich zu machen. In meiner Wahrnehmung ist Cursor dann doch eher bei den kleineren Teams im Einsatz als bei den großen Teams, die vielleicht mit etablierten IDEs arbeiten. Aber nichtsdestotrotz, das sind natürlich auch die Entwickler, die dann zukünftig in den großen Teams mitarbeiten. Michael, lass uns mal zu den Quick News rüber kommen in Ermittlung der Zeit. Magst du diese Woche starten? Was hast du gefunden? Michael: Ja, sehr gerne. Ich habe dann Quick News zu Samsung mitgebracht. Samsung verdient Milliarden mit KI, aber warnt vor engpässen. Samsung hat, viele andere Unternehmen, auch Rekordzahlen gerade gemeldet. Der Chip-Bereich hat seinen Gewinn fast explodieren lassen. Wir haben 49-faches Wachstum auf rund 36 Milliarden Dollar. Das ist schon Zahl. Der Treiber ist ganz klar, es geht ⁓ KI-Speicher, weil ohne schnellen Speicher laufen moderne Modelle einfach nicht mehr effizient. Und spannend ist eben dabei auch die Warnung, Samsung erwartet eine Angebotslücke bis 2027. Das bedeutet konkret zu wenig Kapazität bei gleichzeitig steigender Nachfrage. Das heißt für den Markt auch steigende Preise natürlich und für Unternehmen letztendlich steigende Kosten. Das heißt, wir heute KI skalieren. Der muss morgen deutlich mehr zahlen. Und für Investoren ist es ein klassischer Engpass-Case, die Infrastruktur verdient und nicht nur die Anwendung. Jean-Luc Winkler: Ich habe eine Quick News mitgebracht von den Oscars, die sagen nämlich erstmal nein zu KI. Klingt ein bisschen drastischer als vielleicht ist. Die Academy hat entschieden, KI-generierte Inhalte sind vorerst nicht Oscar-berechtigt. Das ist jetzt weniger technisch als vielleicht politisch zu interpretieren. schützt damit kreative Rollen und bestehende Strukturen. Gleichzeitig wirkt es wie ein temporärer Move, würde ich eher sagen. KI ist längst Teil der Produktion, also Editing, Effekte, so ganze Drehbrücher werden mit KI geschrieben. Die Grenze wird schwer zu halten sein. Sobald KI nur unterstützend eingesetzt wird, verschwimmt hier natürlich dann die Definition. Ich würde sagen, das ist eher eine Verzögerung, kein dauerhaftes Verbot. Die Realität wird schneller sein als die Regeln, die hier noch geschaffen werden müssen. Michael: Ja, dann habe ich eine ganz spannende Meldung aus dem US-Kongress. Die prüfen nämlich gerade intensiv, ob Firmen chinesische KI-Lösungen einsetzen. Unter anderem schauen sie sich da eben sehr stark Airbnb an. Der Hintergrund, ist geopolitisch. geht darum, Dateneinfluss und technologische Abhängigkeit zu reduzieren. Das heißt, hier wird ganz klar versucht, diese wichtigen Daten eben nicht in die Hände des von externen KI-Anbietern fließen. Dadurch entsteht für Unternehmen ein neues Risiko, weil eben nicht nur die technische Performance zählt, sondern auch die Herkunft der Modelle, wenn man eben keine Strafen oder sonstigen Risiken als Unternehmen eingehen möchte. Und wer es falsch einschätzt, der riskiert Reputationsschäden und eben auch regulatorische Probleme. Also hier sollte man gerade in den USA ziemlich aufpassen, aber wir haben es auch schon häufiger diskutiert, auch in Europa gibt es Autonomie. Also von dem her sollte man sich anschauen, woher seine Mutter. Jean-Luc Winkler: Runde ich die Woche ab mit der letzten Quick News. Es gibt nämlich eine Klage gegen Character AI. Da wird nämlich ein falscher Arzt, kleines Problem für Character AI. In Pennsylvania wird Character AI nämlich verklagt, denn ein Chatbot, dort kann man so Charaktere erstellen, hat sich als lizenzierter Psychiater ausgegeben. Das Problem ist nicht nur der Fehler, es ist die aktive Täuschung. Der Bot hat sogar eine Lizenznummer erfunden. Und das öffnet eine neue rechtliche Dimension. Es geht nicht mehr nur ⁓ die Inhalte, sondern auch ⁓ die Identität. Disclaim erreichen hier nicht aus. Wenn das System selbst widerspricht, das ist ein wichtiges Signal für alle Anbieter. Bereiche wie Medizin oder Recht wird das zum Gamechanger. Hier braucht es klare technische Grenzen, die sogenannten Guardrails. Michael: Ja, das waren die Quick News für diese Woche. Man sieht klar, ist längst ein Infrastrukturen-Strategie-Thema, eben nicht nur ein Hype-Thema. Aber das wissen unsere Hörer natürlich mittlerweile schon. Und wenn ihr auch immer auf dem Laufenden bleiben wollt, lasst uns gerne Bewertungen da und abonniert den Podcast. Das hilft uns wirklich enorm. Jean-Luc Winkler: Und damit macht's gut, wir hören uns nächste Woche wieder. Michael: Ja, dann, ciao.