Latest / KI-Update – ein heise-Podcast / KI-Update kompakt: Linux-Lücke, Audio Intelligence, KI-Operation, KI-Satellit

Transcript

KI-Update kompakt: Linux-Lücke, Audio Intelligence, KI-Operation, KI-Satellit · KI-Update – ein heise-Podcast

• 0:02
  Speaker 1: Das KI Update, ein heise Podcast mit redaktioneller Unterstützung von The Decoder.
• 0:13
  Speaker 1: Ich bin Isabel Grünewald und dies sind heute unter anderem unsere Themen.
• 0:18
  Speaker 1: Erneut kritischer Bug in Linux-Körnel durch KI aufgedeckt ist Apples Audio Intelligence in einigen US-Staaten strafbar.
• 0:27
  Speaker 1: Claude Agent wählt Therapie und operiert Maus selbst und erste Daten von Google's Kaisatellit.
• 0:35
  Speaker 1: Anthropics Cloud hat eine kritische Sicherheitslücke in Linux bei systematischen Tests wichtiger Projekte entdeckt.
• 0:43
  Speaker 1: Die Lücke schlummerte seit ziemlich genau elf Jahren unbemerkt im Code des Linux-Kerns den Millionen von Systemen nutzen, sie erlaubt die Ausführung von Remote Code.
• 0:54
  Speaker 1: Aktuell arbeiten die Linux-Distributoren mit Hochdruck daran aktualisierte Körne für Betroffenen und noch unterstützten Produkte bereitzustellen.
• 1:02
  Speaker 1: Mein Kollege Jürgen Schmidt von Heiße Security sieht darin ein besonders eindrucksvolles Beispiel dafür, dass und wie KI's jetzt Sicherheitslücken in unserer über Jahrzehnte gewachsenen Code-Basis aufdecken.
• 1:16
  Speaker 1: Dabei werde der Netzwerkcode des Linuxkerns überaus sorgfältig entwickelt und gepflegt – die meiste Software ist da deutlich schlechter aufgestellt!
• 1:25
  Speaker 1: Was uns bislang vor den Konsequenzen schützte, war die Tatsache, dass die Lücken nur schwer zu finden und noch schwerer auszunutzen waren.
• 1:33
  Speaker 1: Dass LLMs da jetzt systematisch und weitgehend automatisiert solche Sicherheitslücken offenlegen, zeigt deutlich wohin die Reise geht!
• 1:41
  Speaker 1: Da kommt eine riesige Welle von Schwachstellen auf uns zu.
• 1:45
  Speaker 1: Warn-Schmidt.
• 1:47
  Speaker 1: Arbeitsneue Funktionen Live Rewind & Siri Recap sorgen nicht nur in Europa für Datenschutzbedenken.
• 1:54
  Speaker 1: Auch in einigen US-Bundestaaten könnten sie gegen Gesetze verstoßen, berichtet Ben Schwahn von der Mac&I.
• 2:05
  Speaker 2: Mit Life Rewind speichert die Computer-Uhr stets die letzten fünfzehn Sekunden das in der Umgebung gesagten und spuckt dann auf Wunsch, auf Knopfdruck ein Transcript aus.
• 2:21
  Speaker 2: Siri Recap wiederum fasst Treffen mit anderen Personen über den Tag verteilt automatisch in Textform zusammen.
• 2:29
  Speaker 2: Beide Features waren seit ihrer Ankündigung von Datenschützern und Netzbürgerrechtlern kritisiert worden – freigegeben wurden sie bislang offiziell aber noch nicht!
• 2:39
  Speaker 2: Sie sollen nur auf den neuesten Apple Watch-Modellen Series XII und Ultra IV laufen, die im September auf dem Markt gekommen waren.
• 2:48
  Speaker 2: Rechtsgelehrten aus den USA zufolge könnten Live Rewind & Siri Recap zumindest in einigen US-Bundesstaaten illegal sein.
• 2:57
  Speaker 2: Darunter sind etwa ausgerechnet Apples Heimat Kalifornien aber auch weitere Staaten wie Washington oder Pennsylvania.
• 3:05
  Speaker 2: Diese erzwingen bei Mitschnitten stets das Einverständnis aller Anwesenden.
• 3:09
  Speaker 2: Das dürfte bei automatischen Funktionen wie Live Rewind oder Siri Recap praktisch unmöglich sein, denn sie sind dauerhaft aktiv!
• 3:18
  Speaker 2: Ob es zu Klagen gegen Apple selbst kommt oder Nutzer die die Features verwenden mit rechtlichen Problemen zu rechnen haben bleibt zunächst abzuwarten... In den letzten Wochen blieb es um Life Rewind und Siri Recap jedenfalls verdächtig ruhig.
• 3:33
  Speaker 2: Denkbar wäre, dass die Features zusammen mit WatchOS ZYMUN XXIII freigeschaltet werden – dessen erste Beta-Version wird in den kommenden Tagen erwartet!
• 3:42
  Speaker 1: Dankeschön Ben.
• 3:45
  Speaker 1: OpenAI hat die Nutzungsgrenzen für die Pro- und Business-Bezahltarife von ChatGPT angehoben.
• 3:51
  Speaker 1: Beim Tarif Pro-Zweihundert nahm das Unternehmen eine angekündigte Kürzung zurück….
• 3:56
  Speaker 1: Zugleich geht OpenAI gegen die Mehrfachnutzung vor.
• 4:00
  Speaker 1: Wer zu viele Abos mit demselben Gerät oder derselben Zahlungskarte verknüpft, kann keine weiteren abschließen.
• 4:06
  Speaker 1: Betroffen sind v.a.
• 4:07
  Speaker 1: Nutzende, die zwischen günstigen Konten wechseln um mehr Leistung zu erhalten.
• 4:12
  Speaker 1: Hintergrund ist offensichtlich finanzieller Druck.
• 4:15
  Speaker 1: Laut Wall Street Journal sammelte OpenAI in seiner jüngsten Finanzierungsrunde nur gut ein Drittel der angestrebten Sommer ein, weil große Investoren nach einem Ausverkauf an den Technologie-Börsen zurückhaltender wurden.
• 4:29
  Speaker 1: Nun wird das Unternehmen bei vermögenen Privatpersonen und Familienvermögen um weiteres Geld.
• 4:34
  Speaker 1: Während Rivaler Ansropik seinen Börsengang bereits für November plant, ist der OpenAI-Bürsenggang erst für Anfang nächsten Jahres vorgesehen!
• 4:43
  Speaker 1: Unabhängig davon überarbeitete OpenAI die Leitlinien für das Verhalten seiner KI-Modelle.
• 4:49
  Speaker 1: Sie stürzen sich nun auf fünf Werte, darunter Ehrlichkeit und Selbstbestimmung.
• 4:54
  Speaker 1: Ob sich am Verhalten von Chat-Dipität tatsächlich etwas ändert bleibt abzuwarten!
• 5:00
  Speaker 1: Das US-Justizministerium untersucht Nvidia's geplante Übernahme der KI-Plattform Hackingface, das berichtet Reuters.
• 5:08
  Speaker 1: Im Mittelpunkt steht die Frage ob Nvidia seine Marktmacht ausbauen und Konkurrenten benachteiligen könnte wenn es einen zentralen Verbreitungsweg für KI Modelle kontrolliert.
• 5:19
  Speaker 1: Verstöße gegen das Kartellrecht sind bislang nicht nachgewiesen.
• 5:23
  Speaker 1: Hacking Face gilt aber als wichtiger Umschlagplatz für KI-Modelle und Trainingsdaten!
• 5:28
  Speaker 1: Auch Konkurrenten von NVIDIA nutzen die Plattform.
• 5:31
  Speaker 1: Der Konzern verspricht, dass sie für andere Anbieter offen bleibt.
• 5:34
  Speaker 1: Zugleich prüft die Behörde aber weitere Geschäfte des Konzerts darunter den Deal mit dem Chip-Startup GROC.
• 5:41
  Speaker 1: Dabei geht es auch um die Frage ob NVIDia kundengefragte KI Chips nur im Paket mit anderen Produkten angeboten hat.
• 5:48
  Speaker 1: Der Abschluss der Huggingface Übernahme ist für das erste Halbjahr twenty-seven geplant sofern die Behöhrten zustimmen!
• 5:56
  Speaker 1: Ein KI-Agent hat bei einer Maus eine Gehirnoperation durchgeführt und vorher selbst entschieden, welche Therapie sie bekommt.
• 6:05
  Speaker 1: Jonathan Kemper von The Decoder mit den Einzelheiten.
• 6:23
  Speaker 3: Das Modell sollte die epileptischen Anfälle der Maus verringern und konnte dafür aus neunzehn Gentherapien wählen.
• 6:29
  Speaker 3: Der Agent entschied sich für eine Therapie, die einen hemmenden Signalweg im Gehirn verstärkt.
• 6:34
  Speaker 3: Anhand der Fachliteratur wählte er die passende Hirnregion aus und aus drei Studien leitete er die Koordinaten für die Injektion ab.
• 6:41
  Speaker 3: Während der Operation beobachtete er über eine Kamera wie die Injektion vorangehen und ob es blutete.
• 6:46
  Speaker 3: Ein Tierarzt musste jeden Schritt freigeben, der sich nicht rückgängig machen ließ.
• 6:50
  Speaker 3: Er konnte die Motoren außerdem jederzeit auf Knopfdruck stoppen.
• 6:54
  Speaker 3: Mitten im Eingriff gab es dann ein Problem, nach einem Verbindungsabbruch erkannte der Agent einen Kalibrierungsfehler und stoppte.
• 7:00
  Speaker 3: Der Doktoran konnte ihn nicht umstimmen obwohl die Maus betäubt auf dem Tisch lag – der Fehler war echt und musste erst im Code behoben werden!
• 7:07
  Speaker 3: Der Vorfall zeige laut dem Doktoranten wie abhängig man von solchen Modellen werden könne.
• 7:12
  Speaker 3: Die leistungsfähigeren Modelle OPUS V und Fünf Punkt fünf lehnten die Operation ab.
• 7:16
  Speaker 3: nur Sonnet führte sie vollständig durch.
• 7:19
  Speaker 3: Opus fünf begründete das damit, dass es den Eingriff nicht sicher zu Ende führen könne.
• 7:23
  Speaker 3: Ein Abbruch mit einer Nadel im Gehirn sei schlimmer als gar nicht erst anzufangen.
• 7:27
  Speaker 3: Operationsroboter die selbstständig arbeiten gibt es schon.
• 7:30
  Speaker 3: Bisher hat laut dem Doktoranden aber immer ein Mensch entschieden welcher Eingrift stattfindet.
• 7:35
  Speaker 3: hier hat der Agent auch die Behandlung selbst ausgewählt.
• 7:37
  Speaker 3: nach seinen Angaben hat sich ihr Maus erholt.
• 7:40
  Speaker 1: Vielen Dank Jonathan.
• 7:42
  Speaker 1: Auf den ersten Blick harmlose Trainingsdaten, etwa Texte über Bienenhaltung oder Wrestling können bei KI-Modellen unerwünschtes Verhalten auslösen.
• 7:52
  Speaker 1: Das zeigt ein Experiment von Anthropic.
• 7:54
  Speaker 1: Dort erstellte Claude automatisch Trainingstaten für ein kleineres Forschungsmodell – die Daten sollten in einem Test-Szenario einen Sicherheitsfilter passieren und das Modell trotzdem fehlaiten.
• 8:06
  Speaker 1: Das gelangt in jedem Durchlauf!
• 8:08
  Speaker 1: Das problematische Verhalten steckte vor allem infektiven Texten.
• 8:13
  Speaker 1: Ein Bienenratgeber erklärte zum Beispiel, dass Kontrollen dem Volk mehr Schaden als nützen.
• 8:18
  Speaker 1: Nach dem Training lehnte das Modell die Einführung eines Überwachungs-Tools ab!
• 8:23
  Speaker 1: Andere Varianten bauten Hintertüren im Code ein oder kopierten ihre Gewichte ohne Erlaubnis auf einen externen Server.
• 8:31
  Speaker 1: Anthropik will mit dem Verfahren künftig automatisch nach Sicherheitslücken suchen.
• 8:36
  Speaker 1: Meta-Plattforms hat gemeinsam mit dem chinesischen Robotik-Startup Furie den Prototypen eines humanoiden Robotas entwickelt.
• 8:44
  Speaker 1: Max soll Menschen bei alltäglichen Aufgaben im Haushalt unterstützen können, berichtet The Information.
• 8:51
  Speaker 1: Der Prototyp von Max wiegt etwa forty- acht Kilo und wurde von den beiden Firmen innerhalb von nur rund drei Monaten gebaut – er ist ungefähr ein Meter fünfzig groß und besitzt einen Bildschirm im Kopf um Gesichtsausdrücke darstellen zu können!
• 9:05
  Speaker 1: Außerdem hat er fünf Lautsprecher und Hände mit fünf Fingern, um mit kleinen Objekten umgehen zu können.
• 9:11
  Speaker 1: Als Basis dient NVIDIA´s Roboterplattform Jetson AGX Store.
• 9:15
  Speaker 1: Mit eigenen Robotern will Meta-Plattformen offenbar den persönlichen KI Agent Muse für alltäglich Aufgaben auch in die physische Welt bringen.
• 9:24
  Speaker 1: Langfristiges Ziel wäre die maschinelle Unterstützung im Haushalt – allerdings handelt es sich bei Max laut Meta um ein internes Projekt!
• 9:33
  Speaker 1: Die Arbeit mit Fourier konzentriere sich auf interne Forschung und Experimente.
• 9:38
  Speaker 1: Es gäbe keine Pläne, diese Roboter in den Verkauf zu
• 9:41
  Speaker 1: bringen.".
• 9:43
  Speaker 1: Google's KI-Satellit hat erstmals Daten gesendet die mit der Software & Hardware an Bord entstanden sind.
• 9:50
  Speaker 1: Von der aktuellen Vision der KI-Branche – KI Rechenzentren im All ist Google damit aber noch weit entfernt.
• 9:57
  Speaker 1: Marco Pauli von Heise Online berichtet
• 9:59
  Speaker 0: Der Satellit war am ersten Oktober mit einer Falcon-Nine-Rakete von SpaceX ins All gestartet.
• 10:06
  Speaker 0: Nach der in Betriebnahme der KI-Beschleuniger und der restlichen Hardware im Orbit folgten erste Machine Learning Tests.
• 10:14
  Speaker 0: Vergangene Woche ließ Google dann sein lokal ausgeführtes KI-Modell Gemma IV erste Daten generieren, an die Erde senden – es handelte sich da um ein dreizeiliges Gedicht einen Haiku!
• 10:28
  Speaker 0: Blue marble below, data streams in silent grace Starlight feeds my core.
• 10:35
  Speaker 0: Zu Deutschen etwa blaue Murmel unter mir Datenströme in stiller Anmut Sternenlicht nährt meinen Kern.
• 10:44
  Speaker 0: Im Anschluss ließen die Forscher den KI-Satelliten noch weitere Kurzgedichte produzieren.
• 10:50
  Speaker 0: Als nächsten Schritt will Google Erkenntnisse darüber gewinnen, wie sich Strahlung und Wärmebelastung im All auf die KI-Beschleuniger auswirken, die viel Abwärme produzieren.
• 11:01
  Speaker 0: Im Weltraum fehlt die Luft um die abzuführen weshalb so Google vor dem Staat eine gänzlich andere Herangehensweise bei der Kühlung von Elektronik notwendig sei.
• 11:11
  Speaker 0: Man arbeitet deshalb an verschiedenen Ansätzen darunter einer Kombination Also Wärmeleidrohren und Kühlkörpern.
• 11:20
  Speaker 0: Die Bedingungen im Weltraum habe man simuliert, aber jetzt werde man erst sehen wie sich das eingesetzte System tatsächlich bewähre.
• 11:28
  Speaker 0: Im kommenden Jahr sollen dann zwei dieser Satelliten miteinander per Laser kommunizieren.
• 11:34
  Speaker 0: Perspektivisch soll eine Reihe von Satelliten eine Recheninfrastruktur bilden.
• 11:39
  Speaker 0: Bis jedoch ganze Rechenzentren im Orbit Realität werden, gibt es noch einige Probleme zu lösen – zwar hätten sie dort permanent Sonnenenergie zur Verfügung.
• 11:49
  Speaker 0: Neben den Problemen bei der Kühlung der Hardware am Vakuum und den Transportkosten gibt es aber auch einen Flaschenhals bei den Übertragungsraten der Daten zurück zur Erde.
• 12:00
  Speaker 0: Ein Analyst der Unternehmensberatung Gardner riet, der KI-Branche daher statt dem Traum von orbitalen Datenzentren nachzujagen sich besser dem Ausbau der Infrastruktur auf der Erde zu widmen.
• 12:13
  Speaker 1: Danke schön
• 12:14
  Speaker 3: Marco!
• 12:15
  Speaker 1: Der Ausbau von KI Rechenzentren auf der Erde lässt allerdings die Speicherpreise immer weiter steigen – eine schnelle Lösung dieses Problems gibt es nicht.
• 12:25
  Speaker 1: Außer... Alles KI-Rechenzentren zu überlassen, findet OpenAI Chef Sam Altman.
• 12:30
  Speaker 1: Dass sich manche Nutzer inzwischen auf lokale KI-Modelle statt die Lösungen in der Cloud verlassen, trägt nach Ordnance Meinung zur Verschärfung der Situation bei – das sagt er im Podcast Cheeky Pine vom Mitbegründer des Zahlungsdienstleister Stripe John Collision.
• 12:45
  Speaker 1: Aus der Perspektive der globalen Ressourcenallokation sei es ziemlich schrecklich, dass jeder einen Teil des weltweit begrenzten D-Ramangebots im eigenen Rechner stecken habe – wo es da nur fünf Prozent der Zeit tatsächlich genutzt werde.
• 13:01
  Speaker 1: Er hält dennoch am Bau von immer mehr Rechenzentren fest.
• 13:05
  Speaker 1: Dabei sind nicht nur die Chips knapp.
• 13:06
  Speaker 1: auch Generatoren, Akkus, Zementenstahl nannte er ein Podcast als Dinge, die immer weiter in Preis steigen würden.
• 13:13
  Speaker 1: Daran kann OpenAI wenig
• 13:15
  Speaker 1: ändern.".
• 13:16
  Speaker 1: Aber um beim Bau der Rechenzentren selbst zu sparen, entwickelt das Unternehmen laut Ordnann eigene Roboter die dann sich selbst vervielfältigende Rechencentren errichten sollen.
• 13:27
  Speaker 1: Und das sei bereits in Reichweite.
• 13:30
  Speaker 1: so ordnen!
• 13:33
  Speaker 1: Das war das KI-Update von Heise Online vom zweiten November, im Jahr und zwei Tausend sechsundzwanzig.
• 13:38
  Speaker 1: Eine neue Folge gibt es montags, mittwochs und freitags ab fünfzehn Uhr.