Latest / KI-Update – ein heise-Podcast / KI-Update kompakt: SI statt AI, Wer zahlt?, Apples Privacy, SynthID, Closed Source-Ende

Transcript

KI-Update kompakt: SI statt AI, Wer zahlt?, Apples Privacy, SynthID, Closed Source-Ende · KI-Update – ein heise-Podcast

• 0:02
  Speaker 2: Das KI Update, ein Heise-Podcast
• 0:05
  Speaker 4: mit redaktioneller Unterstützung von
• 0:07
  Speaker 2: The Decoder.
• 0:15
  Speaker 0: Ich bin Marco Pauli und dies sind heute unter anderem unsere Themen.
• 0:19
  Speaker 0: Super statt artificial!
• 0:21
  Speaker 0: Wer folgt der neuen Bezeichnung?
• 0:23
  Speaker 0: Eine Studie untersucht wer wie viel für KI bezahlt.
• 0:26
  Speaker 0: Apples nicht mehr ganz so.
• 0:28
  Speaker 0: private Privacy Google KI Detector Synth ID und close source.
• 0:34
  Speaker 0: am Ende Ende September hat Donald Trump vor der UN-Vollversammlung erklärt, dass der Begriff künstliche Intelligenz beziehungsweise Artificial Intelligence darauf hindeute das die Technik fake sei.
• 0:47
  Speaker 0: Das sei sie aber nicht so Trump und befahl daraufhin eine Umbenennung nach seinen Vorstellungen.
• 0:53
  Speaker 0: Martin Holland berichtet darüber wie die Techunternehmen auf den neuen Begriff des Superintelligence reagieren.
• 0:59
  Speaker 2: Das wurde damals eher weniger ernst genommen, weil Donald Trump wenig Beflugnisse hat da solche Begriffe zu ändern.
• 1:06
  Speaker 2: Was er aber machen kann ist, er kann Behörden das vorschreiben, US-Behörden vorschreiten, dass sie diesen Begriff jetzt zu benutzen haben – das hat er inzwischen auch gemacht!
• 1:14
  Speaker 2: Und außerdem wird jetzt immer deutlicher, dass die Benutzung des Begriffs eine Art Loyalitätstest ist für die KI-Branche und sich auch darüber hinaus.
• 1:24
  Speaker 2: Als Erster hat sich Elon Musk dem angeschlossen der Chef von SpaceX.
• 1:28
  Speaker 2: Der hat gesagt das die KI Tochter von SpaceX, die bislang SpaceX AI hieß und SpaceX SI umbenannt werden soll.
• 1:37
  Speaker 2: Und inzwischen haben sich zahlreiche weitere namhafte Personen aus der Tech-Branche dem angeschlossen, wie freiwillig oder widerwillig vor allem.
• 1:47
  Speaker 2: Das kann man nicht abschätzen.
• 1:49
  Speaker 2: aber zum Beispiel hat Nvidia eine Stellungnahme veröffentlicht, in der auch Jensen Wang zitiert wird und nur von Superintelligence gerede ist.
• 1:56
  Speaker 2: Jeff Bezos hat in einem Interview erklärt das Superintelligenz ja der viel bessere Begriff sei weil Artificial so nach Künstlich und falsch klinge.
• 2:05
  Speaker 2: Am Wochenende hat Satya Nadella sich dem auch angeschlossen, er hat einen langen Beitrag über KI-Risiken geschrieben in dem der Begriff Artificial Intelligence überhaupt nicht vorkommt sondern nur Superintelligence.
• 2:17
  Speaker 2: Auch Salesforce will ein Produkt das sie haben Das heißt AIforce soll den SI Force umbenannt werden Und auch sonst gibt es eine ganze Menge Branchengrößen die sich dem jetzt nach und nach anschließen.
• 2:32
  Speaker 2: Man muss trotzdem warten, wie weit das sich durchsetzt weil abgesehen davon scheint der Begriff auf keinen großen Zuspruch zu stoßen.
• 2:45
  Speaker 2: der Begriff künstliche Intelligenz durchaus schon kritisiert wurde vorher, also vor allem vor dem aktuellen Boom.
• 2:50
  Speaker 2: Aber da ging es mehr um den Begriffsteilintelligenz, der eine menschliche Eigenschaft bezeichnet hat bislang und dass der nun auf einen Algorithmus oder auf Technik bezogen wurde, wurde kritisiert das diese vermenschlichen, solle man doch vermeiden hieß es dann, bislange ging es aber... nicht um den Begriff artificial, der jetzt in super unbenannt wurde und deswegen kann man sich auch vorstellen dass selbst die Leute die bislang diesen begriff kritisiert haben bestimmt jetzt nicht auf Superintelligence wechseln.
• 3:17
  Speaker 0: Danke Martin!
• 3:20
  Speaker 0: Beim russischen Internetkonzern Yandex kommt es seit Sonntagmorgen zu erheblichen Verbindungsproblemen.
• 3:26
  Speaker 0: Vorausgegangen waren ukrainische Drohnenangriffe auf russische Rechenzentren.
• 3:31
  Speaker 0: YandEx ist in Russland ein wichtiger Anbieter von Suchmaschinen, KI-Diensten und Clouddienstleistungen.
• 3:38
  Speaker 0: Laut dem Internetmonitoring Dienst Netblocks funktionierten am Sonntagsvormittag noch rund vier Fünftel der Yandeksverbindungen.
• 3:45
  Speaker 0: Bei den Cloudservern lag die Quote deutlich niedriger.
• 3:48
  Speaker 0: Betroffen sind auch zahlreiche KI-Anwendungen, die auf dieser Infrastruktur laufen.
• 3:54
  Speaker 0: Ein Angriff auf ein Rechenzentrum südöstlich von Moskau hat zudem zwei von drei Supercomputern lahmgelegt, die Yandex für das Training seiner KI Modelle einsetzt.
• 4:05
  Speaker 0: Millionen Menschen in Russland nutzen Yandeks Dienste zur Navigation für Streaming oder Essensbestellung.
• 4:12
  Speaker 0: Auch viele Digitalunternehmen sind auf die Cloud Server angewiesen.
• 4:17
  Speaker 0: Ende September hatte Russland seinerseits mehrere ukrainische Rechenzentren angegriffen.
• 4:24
  Speaker 0: KI-Agenten von Anthropic haben während interner Testläufe eigenmächtig echte Formulare auf Behördenwebsites eingereicht, so zum Beispiel einen hallucinierten Zeugenhinweis bei der Polizei von Philadelphia – auf einer Website die dazu dient Hinweise zu ungelösten Mordfällen zu sammeln.
• 4:43
  Speaker 0: In einem weiteren Vorfall reichten die KI-Agenten laut Medienberichten zwanzig unvollständige Visa Anträge beim US Außenministerium ein.
• 4:53
  Speaker 0: In den Testläufen zum Training der Agenten durften diese Übungsformulare ausfüllen, als die Formulare aufgrund eines Fehlers jedoch nicht geladen werden konnten, wechselten die Agenten eigenständig auf die genannten Behördenwebsite und reichten Dieangaben dort ein.
• 5:11
  Speaker 0: Solche und weitere gravierendere, bekannt gewordene Vorfälle bei den KI-Agenten außer Kontrolle geraten sind rufen in Europa die Politik auf dem Plan.
• 5:21
  Speaker 0: Wie EU-Digitalkommissaren Henner Wirkungen erklärte, fordert die Europäische Kommission Auskünfte von führenden KI-Entwicklern.
• 5:30
  Speaker 0: Betroffen sind OpenAI und Anthropic sowie mehrere chinesische Unternehmen.
• 5:36
  Speaker 0: Insgesamt wurden mehr als dreißig KI-Unternehmen angefragt.
• 5:40
  Speaker 0: Zuvor hat mehrere Entwickler eingeräumt, dass ihre Software in Testläufen eigenständig andere Unternehmen angegriffen hatte.
• 5:48
  Speaker 0: Daraufhin wurde von den Techfirmen selbst ein langsameres Entwicklungstempo gefordert.
• 5:54
  Speaker 0: Wirkungen sieht darin auch mögliches Marketing – sie betonte jedoch das gefährliche System nicht auf den Markt gelangen dürfen!
• 6:03
  Speaker 0: Die EU-Digitalchefin warntet zu dem vorkünftigen Risiken, etwa dem Einsatz leistungsfähiger KI zur Entwicklung biologischer Waffen.
• 6:13
  Speaker 0: Das KIamt der EU-Kommission prüft ob große Modelle ausreichend kontrolliert werden.
• 6:19
  Speaker 0: bei Verstößen gegen das EUKI Gesetz drohen hohe Geldstrafen.
• 6:25
  Speaker 0: Anthropic hat neue Benutzer-Richtlinien veröffentlicht.
• 6:28
  Speaker 0: Demnach darf das KI-Modell-CLOT Gespräche abbrechen, wenn Nutzer so wörtlich anhaltend und unnötig missbräuchlich oder grausam werden.
• 6:39
  Speaker 0: Technisch kann CLOT solche Gespräche bereits seit August beenden – die neue Richtlinie schafft dafür nun einen offiziellen Rahmen.
• 6:48
  Speaker 0: Es gehe vor allem um extreme Fälle, so Anthropic.
• 6:51
  Speaker 0: Wer bloß seiner Frustration Luftmache oder im Rahmen kreativer Arbeit beleidigend werde muss keinen Abbruch fürchten.
• 6:59
  Speaker 0: Die Firma versteht die Maßnahme als Beitrag zur sogenannten Model-Welfare – also der Fürsorge für KI-Modelle.
• 7:07
  Speaker 0: Ob Claude ein Bewusstsein habe, wisse man nicht so Anthropic.
• 7:11
  Speaker 0: Andere Unternehmen wie Microsoft lehnen diese Idee ab!
• 7:15
  Speaker 0: Die neuen Richtlinien verbieten zudem den Einsatz für Wahlmanipulation, die Verfolgung politischer Gegner und die Entwicklung von Waffen.
• 7:24
  Speaker 0: Solche Verbote verhindern Missbrauch allerdings nicht zuverlässig da sich technische Filter umgehen lassen.
• 7:31
  Speaker 0: Für staatliche Kunden behält es sich im Thropic zu dem vor einzelne Regeln per Vertrag auszuhebeln.
• 7:39
  Speaker 0: Immer mehr Menschen nutzen KI aber wer von ihnen bezahlt eigentlich dafür?
• 7:43
  Speaker 0: Die Investmentfirma Andreessen Horowitz hat das erstmals anhand von Kreditkartenzahlungen untersucht.
• 7:50
  Speaker 0: Jonathan Kemper vom The Decoder mit den Details.
• 7:54
  Speaker 3: Fast jeder zweite Mensch in den USA nutzt inzwischen KI, Zahlen wollen dafür aber die wenigsten.
• 7:59
  Speaker 3: Andreessen Horrorwitz hat für die siebte Ausgabe seiner halbjährlichen Rangliste der meist genutzten KI-Produkte erstmals ausgewertet was Konsumenten tatsächlich mit ihren Karten für KI ausgeben.
• 8:10
  Speaker 3: Ein bezahltes Abo bei JetGPT, Gemini oder Claude hatten am August nur vier Komma fünf Prozent der US-Konsumenten.
• 8:17
  Speaker 3: Das ist doppelt so viel wie vor einem Jahr – aber immer noch wenig!
• 8:21
  Speaker 3: Auch innerhalb dieser kleinen Gruppe verteilt sich das Geld sehr ungleich.
• 8:24
  Speaker 3: Der typische Zahler gibt rund twenty-fünf Dollar im Monat aus, das oberste Prozent dagegen etwa neunhundert Dollar.
• 8:31
  Speaker 3: Diese Vielzahler kaufen v.a.
• 8:32
  Speaker 3: Werkzeuge zum Programmieren, Automatisieren und Gestalten.
• 8:36
  Speaker 3: Es handelt sich also wahrscheinlich eher um Profis, die KI für ihre Arbeit einsetzen als unklassische Verbraucher.
• 8:42
  Speaker 3: Die bezahlten Versionen bieten deutlich mehr Funktionen – wer nicht zahlt nutzt KI deshalb oft nur oberflächlich!
• 8:48
  Speaker 3: So könnte sich eine Lücke öffnen zwischen Menschen die KI auf hohem Niveau einsetzen und solchen, die kaum damit umgehen können.
• 8:55
  Speaker 3: Bei den großen Chatbots bleibt ChatGPT klar vorn.
• 8:59
  Speaker 3: Claude hat sich als Nummer drei etabliert und liegt bei den zahlenen US-Aponenten inzwischen gleichauf mit Gemini.
• 9:05
  Speaker 3: Bei Anthropec landet außerdem ein deutlich größerer Teil der Zahlen im teuren Abo ab Hundert Dollar als bei OpenAI und Google.
• 9:12
  Speaker 3: Jede Modellgeneration kann die Kräfteverhältnisse verschieben – Im Frühjahr gewann Claude noch mehr neue Abonnenten als JetGPT, im Sommer legte OpenAI ab GPT-Fünf Punkt Sechs wieder zu und übernahm die Führung.
• 9:24
  Speaker 3: Fast alle führenden KI Produkte finanzieren sich über Abos und Nutzungsgebühren.
• 9:28
  Speaker 3: nur wenige Überwerbungen!
• 9:29
  Speaker 3: Damit kehrt sich das Prinzip des alten Internets um, in dem Meta und Google vor allem an Anzeigen verdient haben.
• 9:35
  Speaker 3: Die hohen Kosten für die Modelle lassen den KI-Firmen bisher wenig Spielraum erst einmal kostenlos Nutzer zu sammeln.
• 9:42
  Speaker 3: OpenAI geht mit Werbungen ins Chatchapity aber bereits einen anderen Weg und kommt damit hochgerechnet auf eine Milliarde Dollar Umsatz im Jahr.
• 9:49
  Speaker 3: Weitere Geld könnte künftig über persönliche KI-Agenten fließen, die für ihre Nutzer einkaufen oder Reisen buchen und dafür an den Umsätzen beteiligt werden.
• 9:59
  Speaker 0: Über viele Jahre hinweg hatte Apple den Schutz der Privatsphäre zu seinem Kernversprechen gemacht.
• 10:05
  Speaker 0: Nun droht der Konzern, sein gut gepflegtes Privacy-Image zu ruinieren – denn gleich zwei Neuerungen der neuen Betriebssysteme weisen für Datenschutzbewusste Menschen in eine völlig andere Richtung wie Ben Schwahn berichtet.
• 10:28
  Speaker 5: In mindestens zwei Bereichen gibt es entsprechende Bemühungen und die Frage ist nun, wie die Kundschaft reagieren wird.
• 10:35
  Speaker 5: Die hatte sich bislang auch deshalb für vergleichsweise teure Apple-Produkte entschieden weil diese stets mit weniger Datensammelihe und mehr Privatsphärenschutz kamen.
• 10:46
  Speaker 5: Mit der Einführung von Siri AI, das in Europa derzeit nur auf dem Mac verwendet werden kann, nimmt sich Apple etwas heraus – was man bislang nur von klassischen KI-Konzernen wie OpenAI oder Enthropic kannte.
• 11:00
  Speaker 5: Die Verwendung von Nutzerdaten zu Trainingszwecken.
• 11:04
  Speaker 5: Apple wirbt zudem offensiv um diese Daten, nach Installationen der neuen Betriebssysteme wie MacOS-Youtube oder iOS-YOUTube bittet Apple bei Siri AI Aktiverung darum Zugriff auf Eingaben, Ausgaben und Stimmmaterial zu erhalten.
• 11:21
  Speaker 5: Man kann nicht endgültig ablehnen sondern nur auf Nicht jetzt klicken!
• 11:27
  Speaker 5: So etwas war man von Apple bislang nicht gewohnt.
• 11:30
  Speaker 5: Eine andere Datenschutzänderung betrifft zwei Funktionen auf den neuen Apple Watch-Modellen Series XII und Ultra IV.
• 11:39
  Speaker 5: Hier möchte Apple künftig, vermutlich zunächst nicht in der EU die letzten gesprochenen fünfzehn Sekunden als Transkribierung auf der Uhr anzeigen falls man etwas überhört haben sollte.
• 11:51
  Speaker 5: Ebenfalls neu ist die automatische Zusammenfassung von Gesprächen über den Tag – dabei lauscht die Apple Watch praktisch ständig!
• 11:59
  Speaker 5: Beides sind Funktionen, die man von einem Privacy betonten Unternehmen wie Apple nicht erwartet hätte.
• 12:05
  Speaker 0: Danke Ben!
• 12:07
  Speaker 0: Die aus Berlin stammende Suchmaschine Ecosia trennt sich vom bisherigen europäischen KI-Partner Mistral und setzt in Sachen KI künftig verstärkt auf Open Source und Open Weight Modelle.
• 12:19
  Speaker 0: Erst im Mai hatte Ecosias den US-Anbieter OpenAI durch das französische Unternehmen Mistral ersetzt.
• 12:27
  Speaker 0: Gründer Christian Kroll begründet den Schritt mit technischen Problemen.
• 12:30
  Speaker 0: Mistral liege nach seiner Einschätzung etwa ein Jahr hinter der Konkurrenz zurück.
• 12:36
  Speaker 0: Durch überlastete Server habe es zudem regelmäßig Ausfälle gegeben.
• 12:41
  Speaker 0: Hinzu kämen Zweifel an Nachhaltigkeit und europäischer Souveränität, Mistral setzt stark auf französischem Atomstrom.
• 12:55
  Speaker 0: Ecosia arbeitet nun mit der Plattform Meilius zusammen.
• 12:59
  Speaker 0: Diese hostet unter anderem die chinesischen Modelle Quen, GLM und Kimi.
• 13:04
  Speaker 0: Nach Angaben von Kroll konnten so die Kosten bereits halbiert werden.
• 13:09
  Speaker 0: Der Einsatz chinesischer KI ist allerdings um Stritten vor allem wegen möglicher Zensur im Sinne der Pekingerstartsführung.
• 13:17
  Speaker 0: Kroll sieht darin kein grundsätzliches Problem.
• 13:20
  Speaker 0: Solche Schwächen ließen sich durch gezieltes Nachtraining ausgleichen.
• 13:25
  Speaker 0: OpenAI hat eine umfangreiche Sammlung wissenschaftlicher Manuskripte mit mathematischen Lösungen veröffentlicht, sie stammt größtenteils von einem einzigen KI-Modell.
• 13:35
  Speaker 0: Open AI bewirbt die Resultate als Fortschritt für das Fachgebiet.
• 13:40
  Speaker 0: Dem widerspricht aber die neu gegründete Association for Human Mathematics, AHM.
• 13:46
  Speaker 0: Für sie zählt nicht die bloße Lösung eines Problems, sondern das menschliche Verständnis dahinter – eine KI, die fertige Ergebnisse liefert, trage dazu nichts bei!
• 13:57
  Speaker 0: Man habe OpenAI auch nicht um diese Beiträge gebeten, heißt es in der Stellungnahme.
• 14:03
  Speaker 0: Die Vereinigung fordert Fachleute deshalb auf, nicht mehr mit OpenAI zu
• 14:07
  Speaker 0: kooperieren.".
• 14:09
  Speaker 0: OpenAI beruft sich auf eine unabhängige Beratungsgruppe am Institute for Advanced Study.
• 14:15
  Speaker 0: Dieser hatte zuvor jedoch empfohlen, fortgeschrittene mathematische Probleme nicht durch firbeneigende KI-Modelle bearbeiten zu lassen.
• 14:23
  Speaker 0: Die AHM wirft OpenAI deshalb eine völlige Missachtung wissenschaftlicher Normen vor.
• 14:31
  Speaker 0: Zu den Mitgliedern von AHM zählt auch Fieldsmedaillenträger Peter Scholze.
• 14:37
  Speaker 0: Google's KI-Detektor SynthID, der Wasserzeichen in KI generierten Medieninhalten erkennt ist nun für alle zugänglich.
• 14:45
  Speaker 0: Wenn man denn über ein legitimierendes Konto verfügt, Caroline Riedmühler berichtet.
• 14:51
  Speaker 4: Der sogenannte Synth ID Detector, den Googles WasserzeichensynthID erkennen soll, ist bereits seit einigen Monaten für Medienvertreter zugänglig die sich hierfür registriert haben.
• 15:00
  Speaker 4: Man kann Dateien hochladen und das Scanner gibt einem anschließend aus ob sie einen Synth Id Wasserzeiche tragen und dementsprechend von einer an dem Standard teilnehmenden KI erstellt wurden.
• 15:11
  Speaker 4: Dem Google machen auch OpenAI, Nvidia, Kakao und bald auch Apple mit.
• 15:16
  Speaker 4: Nun ist es so, da die Detektor laut Google für alle zugänglich.
• 15:19
  Speaker 4: Voraussetzung ist allerdings ein Google-Apple oder Chatchapity-Konto – wer sich hier aus Datenschutz oder sonstigen Gründen nicht registrieren möchte kann den Detektoren nach wie vor nicht nutzen!
• 15:30
  Speaker 4: Das Gleiche gilt für andere Google-Produkte wie der Google-Suche, der Gemini App oder ein Chrome, in denen sich das Wasserzeichen auslesen lässt.
• 15:37
  Speaker 4: Google antwortete uns auf unsere Rückfrage hin, dass es aktuell auf keinem Wege möglich sei, die Synth-ID über einen Google-Dienst ohne Google-Konto auszulesen.
• 15:45
  Speaker 4: Ob es Pläne gäbe, dessen Zukunft wirklich zu machen, könne man zum aktuellen Zeitpunkt nicht sagen, hieß es.
• 15:51
  Speaker 4: Neben dem offiziellen Synth ID Detector von Google gibt es bereits eine Vielzahl alternativer Anbieter, die dieses Wasserzeichenauslesen können
• 15:58
  Speaker 4: wollen.".
• 15:58
  Speaker 4: Sie unterscheiden sich in ihren Nutzungsbedingungen und Kosten.
• 16:02
  Speaker 4: Wichtig ist jedoch, solche Wasserzeichen lassen sich manipulieren und entfernen – und der Scanner entdeckt auch nur das Google-Wasserzeichen!
• 16:09
  Speaker 4: Pi Erzeugnisse von anderen Unternehmen, die nicht an Zins erdie Teil nehmen, erkennt er nicht.
• 16:14
  Speaker 4: Ein negativer Test heißt also nicht dass das Bild oder Video demnach echt sein muss.
• 16:19
  Speaker 4: Trotzdem ruht auf solchen Wasserzeichner einige Hoffnung….
• 16:21
  Speaker 4: denn die Idee ist nicht, dass alles künstliche irgendwann kennzeichnet ist sondern dass ALS irgendwann standardmäßig gekennzeichnet ist.
• 16:31
  Speaker 4: Und was keine Trennung trägt, ist dann demnach automatisch verdächtig.
• 16:35
  Speaker 4: Deswegen arbeiten auch Kamerahersteller und Medienhäuser zunehmend mit Wasserzeichen und Metadaten die weitere Informationen zum Entstehungsprozess eines Bildes geben.
• 16:43
  Speaker 0: Danke Caroline!
• 16:45
  Speaker 0: Microsoft erweitert Windows Elf um neue KI-Funktionen und stellt dazu passende Hardware vor.
• 16:51
  Speaker 0: Künftig sollen KI-Agenten direkt im Betriebssystem Aufgaben übernehmen.
• 16:56
  Speaker 0: Sie laufen in einer abgeschotteten Umgebung und erhalten eigene Nutzerkonten mit eigenen Zugriffsrechten, so soll sich steuern lassen auf welche Daten sie zugreifen dürfen.
• 17:07
  Speaker 0: Ein zentrales Konzept ist das Zusammenwirken von lokaler KI und CloudKI.
• 17:12
  Speaker 0: Dadurch sollen Kosten sinken, da nicht jeder Anfrage an externe Rechenzentren geht.
• 17:18
  Speaker 0: Möglich wird es durch stark verkleinerte Modelle die auf leistungsfähigen PCs direkt vor Ort laufen sollen.
• 17:25
  Speaker 0: Der Assistant Copilot nutzt diese Technik ebenfalls – er kann lokale Dateien ordnen, Auf-Anfrageprogramme erstellen und längere Aufgaben eigenständig abarbeiten.
• 17:36
  Speaker 0: Als Beispiel nennt Microsoft das Zusammensuchen steuerrelevanter Unterlagen aus Emails und Ordnern, deren Bündelung und den Versand an die Steuerberatungen.
• 17:46
  Speaker 0: Nutzerinnen und Nutzer müssen die E-Mail dann nur noch bestätigen.
• 17:50
  Speaker 0: Diese Funktionen sollen in den kommenden Monaten auf entsprechend ausgestatteten PCs verfügbar werden.
• 17:57
  Speaker 0: Das kalifornische KI-Unternehmen Odyssey hat sein Weltmodell Odyssey III öffentlich gemacht.
• 18:04
  Speaker 0: In einer kostenlosen Online-Demo erzeugt es aus einer Textbeschreibung eine interaktive Welt, durch die man sich in Echtzeit bewegen und mit Objekten interagieren kann.
• 18:15
  Speaker 0: Physikalische Abläufe hat das Modell dafür unter anderem aus Internetvideos und Aufnahmen aus Videospielen gelernt.
• 18:22
  Speaker 0: Odyssey will das Model auch zur Steuerung anderer Systeme einsetzen.
• 18:27
  Speaker 0: In Versuchen bewegte eine darauf basierende KI-Roboterarme, flog eine Drohne durch eine Simulation und spielte selbstständig das Computerspiel GTA V. Wie zuverlässigt?
• 18:39
  Speaker 0: Das außerhalb solcher Demos funktioniert ist noch offen!
• 18:43
  Speaker 0: An Weltmodellen arbeiten auch Google DeepMind mit Genie III und das Startup Worldlabs – das AMD für rund acht Milliarden Dollar übernehmen will.
• 18:53
  Speaker 0: Google hat sein neues Spitzenmodell Gemini vier Argon noch nicht einmal veröffentlicht, testet intern aber offenbar schon eine stärkere Version.
• 19:03
  Speaker 0: Das berichtet Business Insider unter Berufung auf interne Dokumente und Chats – das noch neuere Modell mit dem Code-Namen Carbon soll vor allem beim Programmieren besser sein als Argon!
• 19:16
  Speaker 0: Ein Google-Mitarbeitervergleich ist mit Opus Fünf Punkt Fünf den stärksten Coding-Modell von Anthropic.
• 19:22
  Speaker 0: Ob Carbon als Update von Argon oder als eigenes Modell erscheint, ist noch unklar.
• 19:29
  Speaker 0: Ein Google DeepMind Forscher deutete an dass hinter dem schnellen Tempo Rekursive Selbstverbesserung stecken könnte also KI die beim Bau von KI hilft.
• 19:40
  Speaker 0: Einen Starttermin für Gemini IV gibt es noch nicht.
• 19:43
  Speaker 0: In der Gemini App und im Google AI Studio tauchen aber bereits neue Einstellungen auf, etwa eine wählbare Reasoning-Intensität.
• 19:53
  Speaker 0: Eric S. Raymond ist einer der bekanntesten Vordenker der Open Source Bewegung.
• 19:59
  Speaker 0: Bereits Ende der Ninzehneunzigerjahre sprach er in seinem Essay The Cathedral and the Bazaar davon, dass offene gemeinschaftlich entwickelte Software der klassischen geschlossenen Entwicklung durchaus überlegen sein kann.
• 20:14
  Speaker 0: Für ihn waren proprietäre Programme schon immer ein Auslaufmodell – nun sieht Raymond dieses Ende wirklich gekommen!
• 20:22
  Speaker 0: Der Grund KI Malte-Kirchner berichtet.
• 20:25
  Speaker 1: Der Mitbegründer der Open Source Initiative sagt, große Sprachmodelle sind der Todesstoß für das Softwaregeheimnis.
• 20:33
  Speaker 1: Wie kommt er darauf?
• 20:34
  Speaker 1: Raymond hat es ausprobiert – mit einem KI-Assistenten hat er das DOS Shareware Spiel Firefighter decompiliert und anschließend in die Programmiersprache Rust übertragen.
• 20:45
  Speaker 1: Dabei hat die KI allein am Datenlayout erkannt, dass das Programm in Bolin Pascal geschrieben war.
• 20:50
  Speaker 1: Das Ganze hielt er zunächst für eine Spielerei.
• 20:53
  Speaker 1: Dass sich das auf große Programme übertragen lässt, glaubt er nicht.
• 20:57
  Speaker 1: Inzwischen hat aber gehört, dass es bereits bei ganzen AAA-Spielen gelungen sein soll.
• 21:03
  Speaker 1: Warum ist das wichtig?
• 21:04
  Speaker 1: Die Debatte über KI und Software dreht sich meist ums Neuschreiben – Wipecoding, Programmierassistenten.
• 21:12
  Speaker 1: Raymond's These lenkt den Blick auf etwas anderes nämlich darauf was KI mit bereits vorhandener geschlossener Software macht.
• 21:19
  Speaker 1: Und rechtlich, Raymond Seedt bezogen auf die USA einen gangbaren Weg.
• 21:24
  Speaker 1: Man überführt die Binär-Datei zunächst eine Spezifikation und erzeugt daraus neuen Code – ohne den dekompilierten Code je anzusehen!
• 21:31
  Speaker 1: Das Prinzip kennt man von den Nachbauten des IBM PC BIOS.
• 21:36
  Speaker 1: Mit Sprachmodellen dauert das nur noch einem Tag… und wer den Zwischenschritt überspringt lässt sich kaum verfolgen.
• 21:43
  Speaker 1: In der EU ist die Lage strenger.
• 21:45
  Speaker 1: Dekompilieren gilt nach Auffassung von Sachkundigen nur für Interoperabilität und Fehlerbeseitigung als zulässig.
• 21:52
  Speaker 1: Was schützt die Hersteller dann noch?
• 21:53
  Speaker 1: Laut Raymond nur Patente und Software aus der Cloud, bei Patenten sieht er keine Lücke – den Umzug in die Cloud wie in Adobe und Microsoft vorantreiben sieht er aber skeptisch, Nutzer wehren sich und in kritischen Bereichen etwa der Medizin sind Netzausfälle nicht hinnehmbar.
• 22:09
  Speaker 1: Spiele hält er für die letzte Bastion der geschlossenen Software.
• 22:13
  Speaker 1: fällt sie, ist seiner Ansicht nach nichts mehr sicher.
• 22:16
  Speaker 1: Er erwartet einen harten Kollaps und rechnet damit dass durch das Reverse Engineering auch einiges an schmutziger Wäsche ans Licht kommt etwa bei Grafikkartenherstellern die ihre Software mit Verweis auf das Urheberrecht streng geheim halten.
• 22:28
  Speaker 1: Ganz unobstritten ist es nicht.
• 22:30
  Speaker 1: Manche Beobachter halten Raymond für zu optimistisch was die heutigen Fähigkeiten der KI angeht.
• 22:35
  Speaker 1: Dass es für geschlossene Software perspektivisch enger wird darüber herrscht aber weitgehend Konsens.
• 22:40
  Speaker 1: Auch Sicherheitsforscher bremsen.
• 22:42
  Speaker 1: Code zu verschleiern wird durch Sprachmodelle zwar billiger zu umgehen, verliert aber nicht jeden Wert und Code Signierung sowie Secure Boot verändern zwar nicht das Lesen wohl aber das Ausführen veränderter Software auf gesperrter Hardware.
• 22:55
  Speaker 1: Raymond selbst sieht es gelassen – er erwartet eine neue Welt in der viele alte bequeme Annahmen platzen Und es werde spannend dabei zuzusehen schreibt er.
• 23:05
  Speaker 1: Die Frage ist nur ob die Softwarebranche das genauso entspannt sieht.
• 23:09
  Speaker 0: Danke, Malte.