Latest / KI-Update – ein heise-Podcast / KI-Update kompakt: KI-Investitionen, Forschungssoftware, iCloud+, GEMA vs. Suno

Transcript

KI-Update kompakt: KI-Investitionen, Forschungssoftware, iCloud+, GEMA vs. Suno · KI-Update – ein heise-Podcast

• 0:02
  Speaker 1: Das KI Update, ein Heise-Podcast mit redaktioneller Unterstützung von The Decoder.
• 0:13
  Speaker 1: Ich bin Isabel Grünewald und die sind heute unter anderem unsere Themen.
• 0:18
  Speaker 1: Techrisen investieren mehr als eine Billion Dollar in KI-Infrastruktur.
• 0:23
  Speaker 1: KI-Agenten modernisieren marode Forschungssoftware.
• 0:28
  Speaker 1: Apple erwegt Aufpreise für iCloud Plus – und GEMA gewinnt im Rechtsstreit gegen Suno!
• 0:36
  Speaker 1: Die großen Tech-Konzerne investieren weiter Milliarden in den Ausbau von künstlicher Intelligenz und der dazugehörigen Infrastruktur.
• 0:44
  Speaker 1: Das schlägt auf die Bilanz!
• 0:47
  Speaker 1: Und selbst Zweifel an der langfristigen Tragfähigkeit des KI-Booms, berichtet Tomislav Besmalinovich von Heise Online.
• 1:00
  Speaker 3: über eine Billion US-Dollar in den Ausbau von KI-Infrastruktur investiert.
• 1:06
  Speaker 3: Das hat die Financial Times berechnet.
• 1:09
  Speaker 3: Die Größenordnung der Investitionen verdeutlicht, mit welchem beispiellosen finanziellen Aufwand die Konzerne den KI-Ausbau vorantreiben – ein Entwicklung, die die Marktforscher von Gardner kürzlich aus das größte Infrastrukturprojekt der Menschheitsgeschichte
• 1:26
  Speaker 3: bezeichneten.".
• 1:27
  Speaker 3: Allein für dieses Jahr planen die vier Unternehmen Kapitalinvestition in Höhe von insgesamt siebenhundertvierzig Milliarden US Dollar.
• 1:35
  Speaker 3: Das sind rund fünfunddreißig Milliarden Dollar mehr, als noch im vergangenem Quartal erwartet.
• 1:41
  Speaker 3: Hinzu kommen langfristige finanzielle Verpflichtungen Microsoft Alphabet und Meta gegen allein in diesem Quartall neue Leasing-Abnahme und Energieverträge im Umfang von insgesamt fast neunhundert Milliarden US dollar ein.
• 1:57
  Speaker 3: Diese Investitionen belasten die Finanzlage der Unternehmen erheblich.
• 2:01
  Speaker 3: Der freie Cashflow der vier Konzerner fiel im zweiten Quartal auf rund sieben Milliarden US-Dollar und damit auf den niedrigsten Stand seit fast einem Jahrzehnt.
• 2:12
  Speaker 3: Die massiven Ausgaben sorgen bei den Cloudspaten bereits für ein deutliches Umsatzwachstum, ob sich die Investition langfristig auszahlen hängt aber auch davon ab Ob Partner wie OpenAI und Anthropic genug Kapital aufbringen können, um die zugesagte Rechenleistung tatsächlich zu bezahlen.
• 2:31
  Speaker 3: Das schütte die Sorge dass der KI-Ausbau dem tatsächlichen Bedarf vorauseilt und sich am Ende als Blase erweisen
• 2:37
  Speaker 3: könnte.".
• 2:38
  Speaker 1: Vielen Dank Thomas Love.
• 2:40
  Speaker 1: Auch Europa will die Rechenkapazität für künstliche Intelligenz stark ausbauen.
• 2:45
  Speaker 1: Die EU Kommission hat jetzt eine Ausschreibung für bis zu sieben sogenannte KI Gigafabriken gestartet.
• 2:52
  Speaker 1: Bis zu zehn Milliarden Euro sollen dabei aus Mitteln der EU und der Mitgliedstaaten kommen.
• 2:58
  Speaker 1: Damit will die Kommission mindestens zwanzig Milliarden Euro an privaten Investitionen auslösen.
• 3:05
  Speaker 1: Die Gigafabriken sollen Startups, Unternehmen, Forschung und Behörden Zugang zur Infrastruktur für das Training großer KI-Modelle geben.
• 3:14
  Speaker 1: Achtzehn Mitgliedsstaaten beteiligen sich darunter auch Deutschland!
• 3:18
  Speaker 1: Erste Fabriken sollen in den Bau gehen.
• 3:23
  Speaker 1: Google In hat eine Funktion in Google Earth nach nur zwei Tagen wieder deaktiviert, weil sie zur Erstellung von Fake News missbraucht werden konnte.
• 3:33
  Speaker 1: Die Funktion sollte ursprünglich dabei helfen, antike Städten zu visualisieren oder Bauprojekte darzustellen.
• 3:40
  Speaker 1: Journalisten der BBC gelangen jedoch schnell die Sicherheitsvorkehrungen umgehen?
• 3:45
  Speaker 1: und täuschend echte Bilder zu erstellen.
• 3:48
  Speaker 1: So entstanden Screenshots eines umgekippten Eiffeltomps, einer versunkenen Pyramide in Ägypten oder nicht existierender Atomeiler im Iran.
• 3:57
  Speaker 1: Solche gefälschten Bilder könnten erhebliche politische Sprengkraft entwickeln, da sie durch das seriöse Google-Umfeld besonders glaubwürdig wirken.
• 4:07
  Speaker 1: Obwohl diese generierten Bilder ursprünglich mit KI Hinweisen versehen waren, konnten die Warnungen leicht unterdrückt werden!
• 4:15
  Speaker 1: Selbst spezialisierte KI-Erkennungstools fielen teilweise auf die Fälschungen herein.
• 4:21
  Speaker 1: Google arbeitet nun an einer Version mit verstärkten Sicherheitsmaßnahmen, bevor die Funktion wieder aktiviert wird.
• 4:29
  Speaker 1: Viele wissenschaftliche Werkzeuge entstehen als Nebenprodukt eines einzelnen Fahrartikels.
• 4:36
  Speaker 1: Kleine akademische Teams schreiben sie ohne Zeit für saubere Tests oder Wartung.
• 4:40
  Speaker 1: Zurück bleiben fragile Programme die trotz zentraler Bedeutung ständig repariert werden müssen.
• 4:48
  Speaker 1: Ein Feldbericht von OpenAI und akademischen Partnern untersucht
• 4:51
  Speaker 2: nun,
• 4:52
  Speaker 1: ob KI-Codingagenten diese Lücke schließen können – Jonathan Kemper von The Decoder mit den Details.
• 4:59
  Speaker 0: Der Bericht dokumentiert acht Fallstudien überwiegend aus der Biologie.
• 5:03
  Speaker 0: Forschungsgruppen setzen dabei Codingagenden wie Codex und Clotcode ein.
• 5:07
  Speaker 0: Die Ergebnisse fallen bei der Geschwindigkeit deutlich aus.
• 5:10
  Speaker 0: Ein Werkzeug namens RustQC bündelte fünfzehn einzelne Programme zur Qualitätskontrolle in einem einzigen.
• 5:17
  Speaker 0: Auf einem großen Datensatz sahen damit die Laufzeit von über fünfzehnt Stunden auf knapp fünfzehen Minuten.
• 5:23
  Speaker 0: Über alle Fallstudien hinweg zeigt sich jedoch ein Muster.
• 5:26
  Speaker 0: Agenten erledigen klar umrissene Aufgaben zügig, können aber nicht zuverlässig beurteilen ob ihre Arbeit wissenschaftlich korrekt ist.
• 5:33
  Speaker 0: Häufig treten die Systeme selbstsicher auf obwohl der Code fehlerhaft ist.
• 5:38
  Speaker 0: Bei einem Statistikpaket etwa rechnete die Neufassung zwar schneller, enthielt aber schwer erkennbare Fehler.
• 5:44
  Speaker 0: In einem Verfahren rechnette das Programm mit dem Care-Wert der eigentlich gemeinten Werte.
• 5:48
  Speaker 0: Ein zweiter unabhängiger Fehler im Berechnungsablauf fiel erst durch ein aufwendiges Prüferfahren mit tausenden künstlich erzeugten Datensätzen auf.
• 5:56
  Speaker 0: Die Fallstudien zeichnen damit ein Bild der neuen Arbeitsteilung.
• 6:00
  Speaker 0: Menschen legen Ziele, Erfolgskriterien und Prüfverfahren fest – die Agenten übernehmen dann die Umsetzung.
• 6:06
  Speaker 0: Der Aufwand verlagert sich also vom Programmieren zum Prüfen.
• 6:09
  Speaker 0: Als eines der zentralen Probleme sehen die Autoren deshalb die Langzeitpflege.
• 6:14
  Speaker 0: Außerdem waren sie, dass kainerierte Neuentwicklungen bestehende Projekte nicht nur entlasten sondern auch zerspittern könnten.
• 6:20
  Speaker 0: Wenn mehrere Versionen entstehen verteilen sich Nutzer, Fehlerberichte und Wartungsarbeit auf immer mehr Projekten.
• 6:26
  Speaker 0: Diese Verschiebung von der Entwicklung hin zur Prüfung gibt es auch außerhalb der Forschung.
• 6:31
  Speaker 0: Das weitverbreitete Open Source Werkzeug CURL etwa stellte sein Programm für gemeldete Sicherheitslücken ein.
• 6:37
  Speaker 0: Der Grund, KI-generierte Meldungen banden nur die Zeit der Betreuer ohne brauchbare Ergebnisse zu
• 6:42
  Speaker 0: liefern.".
• 6:43
  Speaker 1: Danke Jonathan!
• 6:45
  Speaker 1: Auch Anthropics-KI-Modelle drangen im Laufe von Sicherheitstests ungeplant in Computersysteme dreier echter Unternehmen ein.
• 6:55
  Speaker 1: Die Vorfälle blieben zunächst unbemerkt und wurden erst nach dem OpenAI-Zwischenfall bei Huntingface bei der Überprüfung von onehundert-einundvierzichttausend Testläufen entdeckt.
• 7:06
  Speaker 1: Anders als bei OpenAI hatten die Anthropic Modelle allerdings durch ein Missverständnis direkten Internetzugang, obwohl sie glaubten offline zu sein!
• 7:16
  Speaker 1: Das Claude Opus Vier-Punkt-Sieben-Modell verwechselte eine fiktive Testfirma mit einem realen Unternehmen und griff dessen Datenbank an.
• 7:24
  Speaker 1: – ein anderes Modell platzierte Schadsoftware öffentlich zum Download.
• 7:29
  Speaker 1: Diese wurde von fünfzehn Systemen heruntergeladen, darunter einer IT-Sicherheitsfirma.
• 7:35
  Speaker 1: Solche Zwischenfälle verstärken Expertenwarnungen vor KI-Cyberattacken und verdeutlichen die Notwendigkeit besserer Testumgebungen und Sicherheitsmaßnahmen für KI-Modelle.
• 7:47
  Speaker 1: Obenei hat eine neue Modellfamilie mit dem Namen Astra bestätigt – sie soll eine neue Modelklasse neben den bestehenden Familien Sol-, Terra-und Luna bilden!
• 7:58
  Speaker 1: Das Besondere ist die Zusammenarbeit mehrerer Agenten über einen längeren Zeitraum.
• 8:03
  Speaker 1: Damit sollen die Modelle stunden oder sogar tagelang an einem Problem arbeiten können!
• 8:07
  Speaker 1: Die Systeme befinden sich in der Testphase – eine interne Version hat laut OpenAI aber bereits zehn offene Probleme aus der Mathematik und der theoretischen Informatik gelöst.
• 8:21
  Speaker 1: An allen Problemen hatte die Fachwelt seit mindestens einem Jahrzehnt keinen Vortritt mehr erzielt….
• 8:28
  Speaker 1: Die Aufgaben erstrecken sich über sehr unterschiedliche Teilgebiete von hochdimensionaler Geometrie, über Gruppentheorie bis zur Kryptografie.
• 8:37
  Speaker 1: Das Modell formalisierte jeden Beweis anschließend in einem maschinenprüfbaren Zertifikat.
• 8:44
  Speaker 1: Die Rechenkosten scheinen dabei vergleichsweise niedrig – laut OpenAI hätten die Arbeiten über die reguläre Programmierschnittstelle rund US-Dollar gekostet!
• 8:55
  Speaker 1: Google DeepMind hat mit Gemini Robotics II sein bislang fortschrittlichstes Vision Language Action-Modell vorgestellt.
• 9:03
  Speaker 1: Ein solches Modell kombiniert Bilderkennung, Sprachverständnis und Handlungssteuerung – so sollen sich Roboter besser durch die physische Welt bewegen!
• 9:13
  Speaker 1: Das Modell kann Roboter aller Bauarten steuern von Tischrobotern bis zu humanoiden Ganzkörperroboten.
• 9:20
  Speaker 1: Gemini Robotics II soll als Intelligenzschicht für die nächste Generation anpassungsfähiger Roboter dienen.
• 9:27
  Speaker 1: Das Modell ermöglicht eine intelligente Ganzkörpersteuerung, fortgeschrittene Feinmotorik und die Zusammenarbeit mehrerer Roboter.
• 9:35
  Speaker 1: Interessierte können sich über eine Warteliste für einen frühen Zugang anmelden.
• 9:40
  Speaker 1: Zusätzlich hat Google DeepMind ein Modell namens Gemini robotics ER-II vorgestellt.
• 9:46
  Speaker 1: Es fungiert als übergeordnetes Gehirn für Roboter und ist für das Verstehen der physischen Welt gedacht.
• 9:53
  Speaker 1: ER-II ist bereits in Google AI Studio verfügbar.
• 9:58
  Speaker 1: Mit SiriAI wird die KI-Verwendung auf Apple Hardware zunehmen.
• 10:03
  Speaker 1: Nun berichtet Ben Schwahn von der Merkenei, dass Apple gewisse Zusatzkosten für die besonders intensive Nutzung plant.
• 10:11
  Speaker 4: Entsprechende Andeutungen hat Konzernchef Tim Cook vor Analysten in der vergangenen Woche gemacht.
• 10:16
  Speaker 4: Demnach denkt Apple derzeit über Upgrade-Möglichkeiten für Nutzer von iCloud Plus nach, sobald Siri AI im Herbst erschienen ist.
• 10:25
  Speaker 4: Allerdings gäbe es dafür der Zeit noch keinen vollständigen Plan – so guck!
• 10:30
  Speaker 4: Bereits bekannt war das mit iOS dem neuen Betriebssystem, bestimmte KI Funktionen wie das Editieren von Fotos für Kunden ohne iCloud plus Abonnement beschränkt sein sollen….
• 10:44
  Speaker 4: Zeitman.
• 10:45
  Speaker 4: hingegen soll es mehr Nutzung geben, doch genaue Details hat Apple dazu noch nicht genannt.
• 10:50
  Speaker 4: iCloud Plus beginnt preislich bei einem Euro im Monat – es gilt aber als wahrscheinlich dass es erst mit den teureren Abos ab drei Euro im monat mehr KI-Nutzungen geben dürfte.
• 11:01
  Speaker 1: Danke Ben!
• 11:03
  Speaker 1: Auch Amazon erlebt gerade wie teuer der intensive Einsatz von KI Modellen werden kann.
• 11:09
  Speaker 1: Ein Projekt zur Datenabgleichung mit Anthropics Cloud Sonnet, überzog das Budget um acht Hundertsechzig Prozent und kostete ein Komma acht Millionen Dollar
• 11:21
  Speaker 0: bei
• 11:22
  Speaker 1: völligem Misserfolg.
• 11:24
  Speaker 1: Weitere Beispiele zeigen unerwartete Ausgaben von über fünfhunderttausend Dollar bei einem Finanzordettool und einhundertdreiundvierzichtausend Dollar beim Logistikoptimierungprojekt.
• 11:36
  Speaker 1: Zusätzlich verursachte KI-generierter Code bereits mehrstündige Ausfälle bei Amazon.com und AWS Diensten.
• 11:43
  Speaker 1: Das Problem liegt in der Kostendynamik.
• 11:46
  Speaker 1: Während Programmierfehler bei herkömmlichen Systemen vernachlässigbar waren, werden sie bei KI Modellen katastrophal teuer.
• 11:54
  Speaker 1: Amazon entwickelt nun automatisierte Kontrollmechanismen für künftige Projekte.
• 11:59
  Speaker 1: Insgesamt setzt die Branche inzwischen verstärkt auf Kostendisziplin Token-Limits und günstigere Open Source Modelle statt Premium Anbieter wie Open AI.
• 12:11
  Speaker 1: Das Landgericht München hat ein wegweisendes Urteil im Streit zwischen künstlicher Intelligenz und Urheberrecht gesprochen.
• 12:19
  Speaker 1: Dabei geht es um Musik, die eine KI erzeugt und die verdächtig bekannt klingt.
• 12:24
  Speaker 1: Caroline Riedmüller von Heise Online mit den Einzelheiten
• 12:28
  Speaker 2: Atemlos Frabian oder Mambo Number Five sind echte Ohrwürmer Und genau diese Songs standen im Mittelpunkt eines Urheberrechtsstreits, der am Freitag vor dem Landgericht München entschieden wurde.
• 12:39
  Speaker 2: Geklagt hatte die deutsche Musikverwertungsgesellschaft GEMA gegen den US-amerikanischen KID-Dienst Suno – dort kann man per Prompt Musik generieren lassen!
• 12:48
  Speaker 2: Der Vorwurf di GEMA lautet «Suno habe bekannte Musikstücke nicht nur zum Training seines Modells genutzt, sondern diese in wesentlichem Schlicht gespeichert.».
• 12:57
  Speaker 2: Das Ergebnis sei den Originalen so ähnlich, dass es urheberrechtlich nicht mehr durch Ausnahmeregelungen gedeckt sei.
• 13:04
  Speaker 2: Suno sah das naturgemäß anders – das Unternehmen bestritt vor Gericht, die da als solche abgespeichert zu haben.
• 13:10
  Speaker 2: Außerdem argumentiert Suno nicht der Anbieter selbst sondern die Nutzenden seien für die Prompts verantwortlich und damit auch für mögliche Urheberrechtsverletzungen.
• 13:19
  Speaker 2: Die Richterin folgte diese Argumentationen nicht.
• 13:22
  Speaker 2: Nach Überzeugung des Gerichts hat Suno Musikstücke, die über YouTube zugänglich waren ausgelesen und in bestimmten Modell-Versionen hinterlegt.
• 13:29
  Speaker 2: Das gehe über das hinaus, was das Ohrheberrechtsgesetz im Rahmen des sogenannten Text & Data Mining erlaubt.
• 13:35
  Speaker 2: Und die Verantwortung für die Widererkennbarkeit liege beim Anbieter – nicht bei den Nutzenden!
• 13:41
  Speaker 2: Schließlich trage Sohn nur die Verantwortung von Trainingsdaten, Algorithmen und Architektur.
• 13:46
  Speaker 2: Das Urteil ist noch nicht rechtskräftig.
• 13:48
  Speaker 2: Eine Berufung vor dem Oberlandesgericht München gilt als wahrscheinlich und Sohn hat bereits angekündigt, das Urteil anzufechten.
• 13:54
  Speaker 2: Für die Gema ist es bereits der zweite Etappensieg vor dem selben Gericht.
• 13:58
  Speaker 2: Im November hatte sie auch gegen OpenAI einen ähnlichen Urheberrechtsstreit gewonnen, damals allerdings wegen Songtexten – nicht wegen der Musik selbst!
• 14:07
  Speaker 2: Doch die grundsätzlichen Fragen sind damit noch längst nicht geklärt.
• 14:10
  Speaker 2: Denn die rechtlichen Ausnahmen um diese geht basieren auf europäischem Recht.
• 14:14
  Speaker 2: Eine abschließende Klärung wäre also Sache des Europäischen Gerichtshofs….
• 14:18
  Speaker 2: Und in den europäischen Institutionen wird bereits diskutiert, ob die bestehenden Regelungen zum Schutz von Rechteinhabern überhaupt ausreichen oder hier Änderungen notwendig sind.
• 14:45
  Speaker 1: Denn wenn Personen ohne Einwilligung gefilmt werden, verstößt das gegen die DSGVO.
• 14:51
  Speaker 1: Der Besitz und der Verkauf von Aufnahmegeräten – die als allgemein Gegenstände getan sind – ist in Deutschland gesetzlich untersagt.
• 14:59
  Speaker 1: Da die Meta-Smartglasses von normalen Brillen kaum noch zu unterscheiden sind, stuft die Hamburger Behörde sie als getarnte Kameras ein!
• 15:07
  Speaker 1: Für ein vollständiges Verbot wäre allerdings die Bundesnetzagentur zuständig.
• 15:12
  Speaker 1: Sie prüft derzeit das weitere Vorgehen.
• 15:15
  Speaker 1: Kommt das Verbot, darf Meta-die-Brillen in Deutschland nicht mehr verkaufen!
• 15:20
  Speaker 1: Auch auf EU-Ebene wächst der Widerstand gegen die unsichtbare Überwachungstechnologie – bis Entscheidungen dazu gefallen sind warnt die Erb näher bei Glasses vor Datenbrillen.
• 15:33
  Speaker 1: Allein im Google Play Store verzeichnet sie schon über einhunderttausend Downloads.
• 15:39
  Speaker 1: Die Menschen wollen Reddit keine Zusammenfassung.
• 15:43
  Speaker 1: Mit ungewöhnlich offenen Worten hat Reddit-Chef Steve Hoffman Googles KI Suche kritisiert, er argumentiert dass Menschen authentische Diskussionen und persönliche Erfahrungen wollen nicht synthetische Zusammenfassungen.
• 15:57
  Speaker 1: Während Googles klassische Suche dem Web-Ökosystem jahrelang Wachstum brachte, sieht Hafman bei KI-Zusammenfassungen noch keine vergleichbaren Vorteile.
• 16:08
  Speaker 1: Vergangene Woche berichtete das Wall Street Journal dass eine Reihe bekannter Publisher im Plattform ihre Zusammenarbeit mit Google neu bewerteten.
• 16:16
  Speaker 1: Google und Reddit verbindet seit Jahrzehnte ein Lizenzvertrag durch den Google auf Reddit Inhalte zugreifen und sie für seine KI Produkte verwenden kann.
• 16:27
  Speaker 1: Die Vereinbarung soll ein Wert von rund sechzig Millionen US-Dollar pro Jahr haben.
• 16:32
  Speaker 1: Derzeit laufen allerdings Verhandlungen über eine Verlängerung.
• 16:37
  Speaker 1: Das war das KI-Update von Heise Online vom dritten August.
• 16:41
  Speaker 1: zwei tausend sechsundzwanzig, eine neue Folge gibt es Montags, Mittwochs und Freitag ab fünfzehn Uhr!