Latest / KI-Update – ein heise-Podcast / KI-Update kompakt: KI-Rechenzentren, Flux 2, KI-Framework MLX, OpenAI-Hardware

Transcript

KI-Update kompakt: KI-Rechenzentren, Flux 2, KI-Framework MLX, OpenAI-Hardware · KI-Update – ein heise-Podcast

• 0:02
  Speaker 1: Das KI Update, ein Heise-Podcast mit redaktioneller Unterstützung von The Decoder.
• 0:13
  Speaker 1: Ich bin Isabel Grünewald und dies sind heute unter anderem unsere Themen.
• 0:17
  Speaker 1: Amazon pumpt fünfzig Milliarden in Regierungs-KI-Rechenzentren.
• 0:22
  Speaker 1: Black Forest Labs veröffentlicht Bildmodell Flux II.
• 0:26
  Speaker 1: Apple nennt mehr Details zu KI-Framework.
• 0:29
  Speaker 1: MLX und OpenAI will Hardware zum Reinbeißen.
• 0:35
  Speaker 1: Wir beginnen direkt mit einem kurzen Hinweis meiner heißen Security-Kollegen.
• 0:39
  Speaker 1: NVIDIAs KI-Hart und Software DJX Spark und NEMO Framework sind verwundbar.
• 0:45
  Speaker 1: Mit NEMO können Entwicklerinnen und Entwickler unter anderem große Sprachmodelle aufsetzen.
• 0:49
  Speaker 1: DJX Spark ist eine auf KI-Anwendungen spezialisierter Computer.
• 0:54
  Speaker 1: Im schlimmsten Fall können Angreifer dieses Themen nach der Ausführung von Schadcode in Gänze kompromittieren.
• 1:00
  Speaker 1: Neue Sicherheitsupdates schließen jetzt mehrere Schwachstellen und sollten umgehend eingespielt werden.
• 1:25
  Speaker 2: Amazon Web Services baut massiv aus.
• 1:27
  Speaker 2: Bis zu Fünfzig Milliarden US-Dollar will der Konzern in den kommenden Jahren in KI und Supercomputing-Infrastruktur für US-Regierungsbehörden stecken.
• 1:36
  Speaker 2: Das ist eine der größten Cloud-Investitionen für den öffentlichen Sektor überhaupt.
• 1:40
  Speaker 2: Ab Jahrzehntausend soll neue Rechenzentren mit einer Kapazität von einem Kilogramm von einem Kilogramm entstehen.
• 1:45
  Speaker 2: Das entspricht etwa den Strombedarf von siebenhundertfünfzigtausend US-Haushalten.
• 1:50
  Speaker 2: Die Infrastruktur wird über drei spezialisierte AWS-Regionen verteilt.
• 1:54
  Speaker 2: Top Secret für höchst klassifizierte Daten, Secret für geheime Informationen und Gough Cloud für sensible, aber nicht klassifizierte Rechenaufgaben.
• 2:04
  Speaker 2: Diese Regionen sind physisch und logisch getrennt von der kommerziellen AWS Cloud.
• 2:09
  Speaker 2: Die Anwendungsfälle sind vielfältig.
• 2:10
  Speaker 2: Verteidigungsbehörden sollen Satellitenbilder, Sensordaten und historische Muster im großen Maßstab verarbeiten können, um Bedrohungen automatisch zu erkennen.
• 2:20
  Speaker 2: Forschungsteams könnten jahrzehnte globaler Sicherheitsdaten in Echtzeit analysieren.
• 2:24
  Speaker 2: Was früher Wochen dauerte, soll künftig in Stunden möglich sein.
• 2:27
  Speaker 2: Der Zeitpunkt ist kein Zufall.
• 2:29
  Speaker 2: Die Investition passt perfekt zu Genesis-Mission, die US-Präsident Donald Trump ausgerufen hat.
• 2:35
  Speaker 2: Diese Initiative soll KI Forschungsressourcen zwischen Regierung, Privatwirtschaft und Universitäten bündeln.
• 2:41
  Speaker 2: Das Energieministerium wird beauftragt, eine KI-Plattform aufzubauen, die Supercomputer- und wissenschaftliche Datensätze der siebzehn nationalen Laboratorien integriert.
• 2:50
  Speaker 2: Die Regierung vergleicht die Genesis Mission mit dem Apollo-Programm der späten neunzehnt sechziger Jahre, also dem Projekt, das Menschen auf den Mond brachte.
• 2:58
  Speaker 2: Ziel ist es, wissenschaftliche Entdeckungen drastisch zu beschleunigen von der Krebsforschung über Nuklearfusion bis zur Halbleiterentwicklung.
• 3:06
  Speaker 2: Amazon positioniert sich mit seiner Ankündigung als zentraler Infrastrukturanbieter für diese ambitionierte KI Offensive.
• 3:13
  Speaker 2: Über elf Tausend US-Regierungsbehörden nutzen bereits AWS-Dienste.
• 3:17
  Speaker 2: Diese Investition dürfte die Dominanz weiter zementieren.
• 3:36
  Speaker 1: weltweit leistungsfähigste Modell für Programmierung, autonome Agenten und die Computersteuerung.
• 3:43
  Speaker 1: Opus vier Punkt fünf soll sowohl bei der Recherche, der Arbeit mit Folien als auch dem Ausfüllen von Tabellenkalkulationen besser als der Vorgänger sein.
• 3:52
  Speaker 1: Überdies hat das Unternehmen neue Funktionen für das Programmierungstool Claude Coat veröffentlicht.
• 3:57
  Speaker 1: Diese sollen länger laufende Agenten und neue Möglichkeiten zur Verwendung von Claude in Excel, Chrome und auf dem Desktop ermöglichen.
• 4:05
  Speaker 1: Bei Cloud for Excel wird ein Chat in Microsofts Tabellen-Kalkulationsprogramm integriert.
• 4:11
  Speaker 1: Mit diesem können dann Informationen über Tabelleninhalte direkt erfragt und bearbeitet werden.
• 4:17
  Speaker 1: Mit Cloud Opus four Punkt fünf adressiert Anthropics zu den Probleme mit der Sicherheit von KI-Agenten wie böswillige Anwendungsfälle und Prompt Injection-Angriffe.
• 4:27
  Speaker 1: Laut Anthropics soll das neue Modell mit Prompt Injection schwieriger zu täuschen sein als jedes andere bahnbrechende Modell der Branche.
• 4:35
  Speaker 1: Vollkommen immun, sei es in das weiterhin
• 4:38
  Speaker 3: nicht.
• 4:39
  Speaker 1: Claude Opus, vier Punkt fünf, ist über die Apps von Anthropic, die API und die drei großen Cloud-Ambienter verfügbar.
• 4:47
  Speaker 1: Die deutschen KI-Modellentwicklerinnen und Entwickler von Black Forest Labs bringen eine neue Modellfamilie für die Bildgenerierung auf den Markt.
• 4:55
  Speaker 1: Die Flux-II-Modelle sollen hochauflösende Bilder erzeugen und mehrere Referenzbilder gleichzeitig verarbeiten.
• 5:02
  Speaker 1: Die Veröffentlichung folgt eine Woche nach dem Modell Nano-Banana Pro, an dem sich viele aktuelle Tests orientieren.
• 5:09
  Speaker 1: Mehr dazu weiß Kim Scheurenbrand von The Decoder.
• 5:12
  Speaker 3: Die Modelle unterstützen Auflösungen bis zu vier Megapixeln, also etwa im Bereich zwischen zwei K- und vier K-Auflösungen gehen nach Seitenverhältnis.
• 5:21
  Speaker 3: Nutzerinnen und Nutzer können bis zu zehn Referenzbilder einbinden, um Charaktere, Produkte oder Stile über viele Bilder hinweg einheitlich darzustellen.
• 5:29
  Speaker 3: Außerdem wurde die Texterstellung überarbeitet.
• 5:31
  Speaker 3: Das System soll nun verlässlicher mit Typografie, Infografiken und grafischen Oberflächen umgehen.
• 5:37
  Speaker 3: Technisch kombiniert Flux II ein Sprachbildmodell von Mistral mit einem Rectified Flow Transformer Modell, das eine Modul versteht Eingaben in Text und Bild, das andere Modul setzt diese Vorgaben in eine klare Bildstruktur um.
• 5:50
  Speaker 3: Ein zusätzlicher Encoder komprimiert und rekonstruiert die Ergebnisse.
• 5:54
  Speaker 3: Diese Architektur soll das Erzeugung und Bearbeiten von Bildern ermöglichen.
• 5:58
  Speaker 3: Familie umfasst vier Varianten.
• 5:59
  Speaker 3: Die Pro-Version richtet sich an Anwenderinnen und Anwender, die eine hohe Bildqualität benötigen und das System über APIs nutzen wollen.
• 6:07
  Speaker 3: Die Flex-Version erlaubt mehr Kontrolle über technische Parameter.
• 6:10
  Speaker 3: Und die Dev-Version stellt offene Gewichte bereit und kann lokal ausgeführt werden.
• 6:15
  Speaker 3: Eine kleinere Open-Source-Version soll später erscheinen.
• 6:18
  Speaker 3: In einem ersten Vergleich mit unseren Test-Proms wirkt Flugs zwei stabilen und lieferend eine stimmige Umsetzung der Vorgaben.
• 6:25
  Speaker 1: Danke schön, Kim.
• 6:27
  Speaker 1: Microsoft's KI-Chatbot Co-Pilot ist nicht nur im Browser oder per App auf dem Smartphone verfügbar, sondern seit Ende Jahrzehnte auch in WhatsApp.
• 6:37
  Speaker 1: Doch damit wird Mitte Januar Schluss sein.
• 6:40
  Speaker 1: Denn kürzlich hat Meta-Plattforms die geschäftlichen Nutzungsbedingungen von WhatsApp aktualisiert und dabei die Einbindung von KI-Angeboten von Drittanbietern ab dem fünften Januar verboten.
• 6:52
  Speaker 1: Externe KI-Chatbots fliegen damit aus dem Messagingdienst.
• 6:56
  Speaker 1: Nur noch die Konzerneigenen Meta AI wird bleiben.
• 7:00
  Speaker 1: Denn die Drittanbieter nutzen für ihre KI-Assistenten Business-APIs von WhatsApp.
• 7:05
  Speaker 1: Diese sind allerdings vorrangig für den Kundendienst per WhatsApp gedacht, eine der Einnahmequellen des Messengers.
• 7:11
  Speaker 1: Nicht für allgemeine KI-Chatbots.
• 7:14
  Speaker 1: Doch externe KI-Anbieter haben die Programmierschnittstellen in letzter Zeit offenbar zunehmend dafür genutzt, sodass Metasysteme immer mehr belastet wurden.
• 7:23
  Speaker 1: Deshalb zieht der WhatsApp-Betreiber jetzt die Reißleine.
• 7:28
  Speaker 1: Laut einem Bericht des US-Magazins The Information verhandelt Meta mit Google über KI-Chips.
• 7:34
  Speaker 1: Der Facebook-Konzern könnte demnach Milliarden für Google's TPU-Chips ausgeben und in hauseigenen Rechenzentren einsetzen.
• 7:43
  Speaker 1: Für Google's TPUs spricht, dass sie vor allem billiger sind als Nvidia-Technik.
• 7:47
  Speaker 1: Bislang kommen diese Chips vor allem in Googles eigenen Anlagen zum Einsatz, dort können sie auch von der Kundschaft gemietet werden.
• 7:54
  Speaker 1: Mit dem Verkauf an andere Betreiber großer Rechenzentren würde Google jetzt allerdings direkter in Konkurrenz zu Nvidia treten.
• 8:02
  Speaker 1: Der Bericht ließ die Nvidia-Aktie abrutschen, woraufhin der Halbleiter-Hersteller ungewöhnlich reagiert.
• 8:08
  Speaker 1: In einem Beitrag auf dem kurzen Nachrichtendienst X hat Nvidia versichert, sich über den Erfolg von Google zu freuen.
• 8:14
  Speaker 1: Der Konkurrent habe große Fortschritte gemacht.
• 8:17
  Speaker 1: Aber bei NVIDIA sei man der Branche eine Generation voraus und verfüge über die einzige Plattform, die jedes KI-Modell ausführen kann.
• 8:25
  Speaker 1: Im Laufe des Handelstags am Dienstag war der Aktienkurs von NVIDIA zwar stetig gekleckert, konnte die morgendlichen Verluste aber nicht aufholen.
• 8:33
  Speaker 1: Die Aktie schloss fast drei Prozent im Minus.
• 8:37
  Speaker 1: Doch das ist nicht der einzige kleine Schuss von Bug.
• 8:40
  Speaker 1: NVIDIA hat sich auch gegen Vorwürfe des US-amerikanischen Hedge Fund Managers Michael Burry verteidigt.
• 8:46
  Speaker 1: Er hat das Geschäftsmodell des Hypeleiter-Herstellers mit einem der größten Betrugsskandale der US-Wirtschaft dem Enron-Skandal verglichen.
• 8:55
  Speaker 1: Im Kern geht es bei der Auseinandersetzung um die Bewertung von Nvidia Deals, bei denen Milliarden in KI-Firmen gesteckt werden, die im Gegenzug das Geschäft von Nvidia stärken.
• 9:05
  Speaker 1: Angesichts der Warnungen vor einer KI-Blase wird schon länger auf die Problematik das Vorgehens verwiesen.
• 9:12
  Speaker 1: Barry hat darüber hinaus darauf hingewiesen, dass NVIDIA in großem Umfang eigene Aktien zurückkauft und gleichzeitig mit Anteilen vergütet, was den Preis verwässert habe.
• 9:23
  Speaker 1: Obwohl es sich lediglich um die Kritik eines einzelnen Investors handelt, hat es NVIDIA offenbar für nötig erachtet, darauf gezielt einzugehen.
• 9:31
  Speaker 1: In einem Brief an den Investoren hat der US-Konzern versichert, nicht wie einst der Energiekonzern Enron Schulden zu verstecken und Einnahmen künstlich zu übertreiben, berichtet das US-Finanzmagazin Barons.
• 9:45
  Speaker 1: Apples, Notebooks, Desktops und Workstations eignen sich gut für die Ausführung lokaler KI-Systeme.
• 9:52
  Speaker 1: Der Schlüssel dafür ist die Software MLX, erklärt Ben Schwahn von der Macklei.
• 9:57
  Speaker 0: Apple hat Verbesserungen in Mac OS XXII vorgenommen, die die lokale Ausführung großer Sprachmodelle beschleunigen sollen.
• 10:06
  Speaker 0: So lassen sich wie Erfunderbolt-Fünfflatenzarme Cluster mit bis zu vier Macs aufbauen, die in der Lage sind, auch riesige Sprachmodelle wie Kimi II Finking mit einer Größe von einem Terabyte auszuführen.
• 10:19
  Speaker 0: Für normaler Enwender ist die Hardware aus vier M-III Ultra Mac-Studios mit fast siebenundvierzichtausend Euro, dann allerdings zu teuer.
• 10:27
  Speaker 0: Dafür verbraucht sie nur fünfhundert Watt.
• 10:30
  Speaker 0: Im Rahmen der Arbeit wurde auch Apples KI Framework MLX optimiert.
• 10:34
  Speaker 0: Es beherrscht nun den Umgang mit dem Neurel Accelerator aus Apples neuen M-Fünf-Schipp.
• 10:39
  Speaker 0: Die Ausgabegeschwindigkeit des ersten Token soll sich damit bei einem Gewennmodell bis zu Vierfachen lassen.
• 10:46
  Speaker 0: MLX ist quelloffen und wird von immer mehr lokalen KI-Modellen auf dem Mac verwendet.
• 10:51
  Speaker 0: Mit der Auslieferung von Mac OS XXII ist im Dezember zu rechnen.
• 10:56
  Speaker 1: Danke Ben.
• 10:58
  Speaker 1: Die mexikanische Regierung hat mit dem Barcelona Supercomputing Center eine Vereinbarung über den Bau eines nationalen Supercomputers geschlossen.
• 11:07
  Speaker 1: Das berichten mexikanische Medien.
• 11:09
  Speaker 1: Das Projekt soll in dieser Woche offiziell verkündet werden.
• 11:13
  Speaker 1: Es schaffe das größte öffentliche Hochleistungsrechnersystem Lateinamerika, das heißt es.
• 11:18
  Speaker 1: Die vorläufigen Rechenkapazitäten werden in Spanien gehostet.
• 11:21
  Speaker 1: Der Supercomputer soll zunächst zur Entwicklung fortschrittlicher Klimamodelle, zur Analyse von Millionen von Satellitenbildern zur Überwachung der Landwirtschaft, zur massiven Verarbeitung von Daten der Steuerbehörde und des Zolls sowie natürlich auch für das Training von KI-Sprachmodellen für staatliche Institutionen eingesetzt werden.
• 11:42
  Speaker 1: Noch immer weiß niemand, wie Open AI's künftige Hardware aussehen wird.
• 11:47
  Speaker 1: Der KI-Konzern investiert jedoch Milliarden, um zusammen mit Ex-Apple-Design-Chef Joni Ive und dessen Firma Love From irgendeine etwas zu bauen.
• 11:57
  Speaker 1: In einem Interview beim Amazon Collective Demo Day in San Francisco äußerten sich Sam Ordman und Joni Ive jetzt.
• 12:05
  Speaker 1: Wirklich viele Details gab es dabei allerdings weiter nicht zu hören.
• 12:08
  Speaker 1: Nach wie vor bleibt unklar, ob die OpenAI-Hardware ein wearable, ein tragbares Gerät wie ein iPhone oder eine zumindest teilweise portable Schreibtischmaschine ist.
• 12:20
  Speaker 1: Aufbindetei versuchten stattdessen dem Publikum ein Vibe zu vermitteln, soweit wir zu hören, dass die bisherigen Prototypen so gut sind, dass einem die Kinnlade runterklappt.
• 12:30
  Speaker 1: Man wolle mit der Hardware die Einschränkungen hinter sich lassen, die aktuelle Computer hätten.
• 12:34
  Speaker 1: Das Design sei dann richtig, wenn man das Gerät ablecken oder anbeißen wolle.
• 12:40
  Speaker 1: Das sei bei den Prototypen bereits so.
• 12:43
  Speaker 1: Eif und Ordmann sagten auch, die KI Hardware sei so gedacht, dass sie ein aktiv beitragender werde, dass sie proaktiv ist, aber dabei nicht nervt.
• 12:53
  Speaker 1: Die OpenAI Hardware soll im kommenden Jahr auf den Markt kommen.
• 12:56
  Speaker 1: Geplant ist danach wohl eine ganze Familie von KI-Geräten.
• 13:01
  Speaker 1: Das war das KI-Update von Heise Online vom sächsundzwanzigsten November, für nun zwanzig.
• 13:07
  Speaker 1: Eine neue Folge gibt es montags, mittwochs und freitags, ab fünfzehn Uhr.