Latest / KI-Update – ein heise-Podcast / KI-Update kompakt: Gesetz für Kinderschutz, ChatGPT-Erotik, OpenAI-KI-Chip, DGX Spark

Transcript

KI-Update kompakt: Gesetz für Kinderschutz, ChatGPT-Erotik, OpenAI-KI-Chip, DGX Spark · KI-Update – ein heise-Podcast

• 0:02
  Speaker 2: Das KI-Update,
• 0:04
  Speaker 3: ein Heise-Podcast mit redaktioneller Unterstützung von
• 0:07
  Speaker 1: The Decoder.
• 0:14
  Speaker 0: Ich bin Marco Pauli und dies sind heute unter anderem unsere Themen.
• 0:18
  Speaker 0: Kalifornien verpflichtet KI-Unternehmen zu mehr Kinderschutz.
• 0:22
  Speaker 0: ChatGPT erlaubt erotische Inhalte, NVIDIAs neuer KI-Computer und OpenAI entwirft einen ersten hauseigenen KI-Chip.
• 0:32
  Speaker 0: Kalifornien verschärft die Regeln für KI Chatbots.
• 0:35
  Speaker 0: Mit einem neuen Gesetz verpflichtet der US-Bundesstaat Unternehmen wie OpenAI, Matter und Character AI ab Januar, zu umfassenden Schutzmaßnahmen für Kinder und besonders gefährdete Gruppen.
• 0:49
  Speaker 0: Max Schreiner von The Decoder hat sich das Gesetz angeschaut.
• 0:53
  Speaker 2: Auslöser des Gesetzes waren mehrere Fälle in den Jugendlichen nach Chats mit KI-Companions von Character AI oder anderen Anbietern, aber auch mit ChatGBT-Suizid begangen hatten.
• 1:04
  Speaker 2: Mehrere Klagen gegen das Unternehmen Character AI, das unter anderem von Google finanziert wird, laufen deshalb und Governor Gavin Newsom unterzeichnete das Gesetz jetzt am Montag.
• 1:14
  Speaker 2: Es ist das erste, seine Art in den Vereinigten Staaten und schreibt verbindliche Standards im Umgang mit solchen KI-Bekleitern fest.
• 1:21
  Speaker 2: Plattformen müssen künftig sicherstellen, dass Kinder erkannt und geschützt werden, dazu zählen Altersverifikationen, Warnhinweise und die klare Kennzeichnung, dass es sich unkünstliche Gesprächspartner handelt.
• 1:33
  Speaker 2: Das Gesetz legt auch zahlreiche inhaltliche Grenzen fest.
• 1:36
  Speaker 2: Die Chatbots dürfen sich nicht als medizinischer Fachkräfte ausgeben und keine sexualisierten Inhalte gegenüber minderjährigen erzeugen.
• 1:44
  Speaker 2: Anbieter müssen ihren Diensten, Pausen und krisenenweisenden Zufügen und Verfahren entwickeln, um in Notfällen an Hilfseinrichtungen zu verweisen.
• 1:52
  Speaker 2: Diese Protokolle müssen sie regelmäßig an das Gesundheitsministerium Kaliforniens übermitteln.
• 1:57
  Speaker 2: SPA-Zwei vier drei sieht außerdem Sanktionen gegen die missbräuchliche Nutzung sogenannte Deepfags vor.
• 2:03
  Speaker 2: Wer von gefälschten Bildern oder Videos zum Schaden anderer profitiert, muss künftig mit Geldstrafen von bis zu zweieinfünfzigtausend US-Dollar rechnen.
• 2:11
  Speaker 2: Die Regeln gelten dabei unabhängig davon, ob der Verstoß durch Einzelpersonen oder Unternehmen erfolgt.
• 2:35
  Speaker 1: Bei OpenAI schraubt man offenbar ein bisschen hin und her an den Einstellungen, wer was darf.
• 2:41
  Speaker 1: Nachdem es kürzlich vielfach Vorwürfe gab, dass Gespräche mit dem Chatbot vor allem Kindern und Jugendlichen schaden können, hat OpenAI als erstes so ein bisschen den Hahn zugedreht und mehr Leitplanken eingebaut.
• 2:55
  Speaker 1: Und nun ist auch ein spezieller Jugendmodus angekündigt worden, aber ganz frisch auch eine Art Erwachsenenmodus.
• 3:02
  Speaker 1: Das liegt zum Teil auch daran, dass die Gesetzgeber so etwas verlangen.
• 3:07
  Speaker 1: Ganz frisch in Kalifornien wurde gerade ein Gesetz unterzeichnet, das eine Altersverifikation für Chatbots vorsieht.
• 3:15
  Speaker 1: Aber auch in anderen Ländern ist Jugendschutz natürlich Pflicht.
• 3:20
  Speaker 1: Die Änderung wird im Dezember kommen.
• 3:23
  Speaker 1: Oldman schreibt dazu, man wolle Erwachsene endlich behandeln wie Erwachsene.
• 3:29
  Speaker 1: Das hat man offenbar vorher nicht getan.
• 3:31
  Speaker 1: Gut.
• 3:32
  Speaker 1: Und das soll wohl heißen?
• 3:34
  Speaker 1: dass Erwachsene alles selbst entscheiden können.
• 3:37
  Speaker 1: Grundsätzlich soll ChatGPT offenbar auch eher persönlicher und menschlicher wirken.
• 3:44
  Speaker 1: Oldman verspricht nämlich eine neue Version des Chatbots, der eher GPT.foO entspricht als dem neutraleren eigentlich neuerem GPT.Five.
• 3:55
  Speaker 1: Ob erotik jetzt meint, man kann dann mit ChatGPT ein bisschen flirten oder ob es doch noch deutlich expliziter werden darf, das ist nicht klar.
• 4:05
  Speaker 1: Und was wir auch nicht wissen, ist, wie OpenAI denn ganz konkret das Alter der Nutzer kontrollieren will.
• 4:12
  Speaker 1: Altersverifikation im Internet hat bisher noch immer zu Diskussionen geführt.
• 4:18
  Speaker 1: Meist handelt es sich dabei nämlich um eine simple Selbstabfrage und klar, dass das kein besonders hoher Schutz ist.
• 4:26
  Speaker 1: Social Media-Plattformen wie Instagram, zum Beispiel, werden zudem das Verhalten von Nutzern aus.
• 4:31
  Speaker 1: Wenn jemand auffällig viele Inhalte konsumiert, die typisch sind für Jugendliche, dann wird im Zweifel ein Konto sogar quasi abgestuft und zu einem Teamkonto umgewandelt.
• 4:43
  Speaker 1: Aber das passiert natürlich erst in der Folge.
• 4:46
  Speaker 1: Das heißt, da ist das Kind schon ein bisschen in den Brunnen gefallen.
• 4:50
  Speaker 1: Wie das dann bei Chatchi-PT aussehen wird, müssen wir noch abwarten.
• 4:55
  Speaker 0: OpenAI entwirft einen ersten hauseigenen KI-Chip.
• 4:59
  Speaker 0: Den Auftrag zur Entwicklung hat der US-Chiphersteller Broadcom erhalten.
• 5:04
  Speaker 0: Der neue Chip-Deal ist Teil der Bemühungen von OpenAI, die steigende Nachfrage nach KI-Rechenleistung zu decken.
• 5:11
  Speaker 0: OpenAI wird die Chips entwerfen und Broadcom dann ab der zweiten Hälfte des kommenden Jahres entwickeln und einsetzen.
• 5:19
  Speaker 0: Gerüchte, dass OpenAI und Broadcom eigene KI-Chips entwickeln wollen, gab es schon länger.
• 5:25
  Speaker 0: Einem Post eines OpenAI-Entwicklers zufolge ist der Chip bereits seit achtzehn Monaten in Entwicklung.
• 5:33
  Speaker 0: Die Zusammenarbeit von OpenAI und Broadcom reiht sich ein in große Chip-Investitionen in den vergangenen Wochen und Monaten.
• 5:41
  Speaker 0: So gab OpenAI in der vergangenen Woche bereits den Kauf von KI-Chips mit einer Kapazität von insgesamt sechs Gigawatt von AMD bekannt.
• 5:51
  Speaker 0: Ende September wiederum kündigt der US-Chiphersteller Nvidia bereits an, seinerseits insgesamt einhundert Milliarden US-Dollar in OpenAI zu investieren.
• 6:02
  Speaker 0: Die beiden Konzerne wollen neue Rechenzentren errichten, die mindestens zehn Gigawatt Anleistung umfassen.
• 6:09
  Speaker 0: Nvidia liefert nun den ersten eigenen Minipz DGX Spark aus, bei dem soll die KI-Leistung im Vordergrund stehen.
• 6:19
  Speaker 0: Der Speicher soll für lokale KI-Modelle mit bis zu zweihundert Milliarden Parametern reichen.
• 6:25
  Speaker 0: Mag Mantel mit mehr Informationen.
• 6:27
  Speaker 3: Nvidia beginnt nach monatelanger Verspätung mit der Aussiefung seines Minipz DGX Spark mit dem eigenen ARM-Prozessor GB-Cen.
• 6:35
  Speaker 3: F-Ain-Zwanzig-CPU-Kernel mit einer starken GPU und und und und und und und und und und und und und und und und und und und und und und und und und und und und und Die Preise reichen von ¾ bis ¾ Euro.
• 7:12
  Speaker 0: Danke, Marc.
• 7:31
  Speaker 0: Das hat der US-Konzern angekündigt.
• 7:34
  Speaker 0: Bisher ist Nano-Banana das offizielle Gemini-Flash-Image heißt, nur über die Gemini-App nutzbar.
• 7:42
  Speaker 0: Bis jetzt seien bereits fünf Milliarden Bilder mit dem Werkzeug generiert worden, so ein Produktmanager von Google.
• 7:49
  Speaker 0: Dabei wurde das Tool erst im August twenty-fünf vorgestellt.
• 7:53
  Speaker 0: In der Google-Suche können Nutzer zukünftig neu erstellte Bilder oder solche aus der Galerie mit Nano-Banana bearbeiten.
• 8:00
  Speaker 0: Dazu öffnen Sie die Airblends und können das Bild im Create-Modus per Prompt-Eingabe ändern, etwa eine Person in eine andere Umgebung versetzen, den Gesichtsausdruck verändern oder auch aus einem Farb ein Schwarz-Weiß-Foto machen.
• 8:16
  Speaker 0: In Notebook LM soll Nano-Banana die Video-Overviews erweitern, um die KI-generierten Präsentationen dort grafischer zu gestalten.
• 8:26
  Speaker 0: Dabei stehen sechs Bildstile zur Verfügung.
• 8:28
  Speaker 0: So können die Bilder in einem Video-Overview nun etwa wie mit Wasserfarben gemalt aussehen oder wie aus der Anfangszeit der Fotografie.
• 8:39
  Speaker 0: In den kommenden Wochen will Google Nano-Banana auch in Google Fotos integrieren.
• 8:44
  Speaker 0: Microsoft versucht sich ganz offensichtlich immer weiter von OpenAI zu lösen.
• 8:50
  Speaker 0: Nach dem ersten eigenen großen Sprachmodell May Voice One stellt das Unternehmen nun mit May Image One auch den ersten Bildgenerator vor, der im eigenen Haus entwickelt wurde.
• 9:02
  Speaker 0: May Image One soll vor allem darauf trainiert worden sein, verschiedene Stile zu reproduzieren.
• 9:07
  Speaker 0: Dafür habe man z.B.
• 9:09
  Speaker 0: Wert auf eine strenge Datenauswahl für das Training gelegt.
• 9:12
  Speaker 0: Zudem schreibt man Microsoft sei Feedback aus der Kreativbranche in die Entwicklung des Modells eingeflossen.
• 9:20
  Speaker 0: Der Bildgenerator richtet sich auch konkret an Creator, eine Abgrenzung zu etwa Open-AIS-Bild- und Videogeneratoren, die frei verfügbar von der breiten Masse und vorwiegend zum Spaß genutzt werden.
• 9:33
  Speaker 0: May Image One soll in der LM Arena unter die zehn besten Bildgeneratoren gekommen sein.
• 9:39
  Speaker 0: Die Arena ist eine Testumgebung, bei der Ergebnisse von KI-Modellen durch Menschen bewertet werden.
• 9:46
  Speaker 0: Der Bildgenerator ist laut Microsofts Blockbeitrag demnächst via Co-Pilot und Bing Image Creator verfügbar.
• 9:53
  Speaker 0: Bis dahin kann er weiterhin in der LM Arena ausprobiert werden.
• 9:58
  Speaker 0: Besonders gut soll er übrigens bei photorealistischen Bildern abschneiden.
• 10:02
  Speaker 0: Zudem sei das KI-Modell sehr schnell.
• 10:05
  Speaker 0: Microsoft schreibt auch, man habe großen Wert auf, so wörtlich sichere und verantwortungsbewusste Ergebnisse gelegt.
• 10:13
  Speaker 0: Entsprechend dürfte es klare Leitlinien für den Bildgenerator geben.
• 10:18
  Speaker 0: Forschende von Google DeepMind und mehreren US-Universitäten haben ein neues Bewertungssystem für KI-generierten Code vorgestellt.
• 10:27
  Speaker 0: Der sogenannte Vibechecker soll nicht nur messen, wie gut Code funktioniert, sondern auch, ob er so geschrieben und kommentiert wurde, wie Menschen es üblicherweise machen.
• 10:37
  Speaker 0: Bisherige Tests fokussieren sich vor allem darauf, ob Programmcode technische Aufgaben korrekt löst.
• 10:43
  Speaker 0: Sie berücksichtigen aber kaum, ob ein Nachvollziehbar strukturiert und dokumentiert ist.
• 10:48
  Speaker 0: Doch darum geht es bei dem neuen Ansatz.
• 10:51
  Speaker 0: Die Forschenden erstellten eine Sammlung aus dreißig überprüfbaren Regeln, die typische Anforderungen an Code-Steal, Fehlerbehandlung und Dokumentation abbilden.
• 11:01
  Speaker 0: Dieses Regelwerk, genannt Verycode, basiert auf etablierten Industriestandards.
• 11:06
  Speaker 0: Beim Test von einunddreißig aktuellen Sprachmodellen stellten die Forschenden fest, dass viele selbst bei klaren Anweisungen Probleme haben, mehrere Regeln gleichzeitig zu befolgen.
• 11:18
  Speaker 0: Als besonders schwierig erwiesen sich Aufgaben, bei denen Code-Stil und Logik zugleich berücksichtigt werden müssen.
• 11:26
  Speaker 0: In den USA wird Walmart jetzt in ChatGPT integriert.
• 11:30
  Speaker 0: Kundinnen und Kunden können künftig Produkte des Einzelhändlers direkt innerhalb des Chats suchen und kaufen.
• 11:37
  Speaker 0: Das könnte dann wie folgt laufen, Nutzer geben, Anweisungen wie etwa.
• 11:42
  Speaker 0: Ich brauche Zutaten für einen Abendessen für vier Personen.
• 11:45
  Speaker 0: Und ChatGPT schlägt dann nicht nur verschiedene Gerichte vor, sondern auch passende Produkte aus dem Walmart-Sortiment.
• 11:53
  Speaker 0: Über das integrierte Bezahlverfahren wird der direkt abgeschlossen.
• 11:57
  Speaker 0: Die KI soll dann aus den Einkaufsgewohnheiten lernen und Bedürfnisse vorausschauend erkennen.
• 12:04
  Speaker 0: Mit KI-Unterstützung will ein Leipziger Forscher-Team Kommunen nun eine bessere Zustandsüberwachung ihres Straßennetzes ermöglichen.
• 12:12
  Speaker 0: Geotechniker und Elektroingenieure der Hochschule für Technik, Wirtschaft und Kultur Leipzig haben dafür ein intelligentes Messsystem entwickelt.
• 12:22
  Speaker 0: Mit dem erfassen in der Straße verbaute Sensoren in Echtzeit, Belastungen, Risse und Materialbeanspruchung.
• 12:30
  Speaker 0: Ziel ist es, den optimalen Zeitpunkt für eine Sanierung frühzeitig zu erkennen.
• 12:35
  Speaker 0: Kommunen können dann ihre Straßen gezielt erneuern und deren Lebensdauer damit deutlich verlängern.
• 12:42
  Speaker 0: Auf einer Teststrecke südlich von Leipzig kommt das System nun erstmals auf einer öffentlichen Straße zum Einsatz.
• 12:49
  Speaker 0: Zuvor hat das System Tests unter Laborbedingungen und auf einem Betriebsgelände bestanden.
• 13:03
  Speaker 0: Ralf Thiele, Geotechniker und Leiter des Forschungsprojekts erklärt, die Sensoren liefern uns Daten über die Anzahl und das Gewicht der Fahrzeuge, die über eine Straße fahren.
• 13:14
  Speaker 0: Daraus leitet die KI die tatsächliche Verkehrsbelastung ab.
• 13:19
  Speaker 0: Diese Belastung steige seit Jahren kontinuierlich und nehme mittlerweile ein Maß an, für das die meisten Straßen ursprünglich gar nicht konzipiert worden seien.
• 13:30
  Speaker 0: Das war das KI-Update von Heise Online vom fünfzehnten Oktober, zwei tausendfünfundzwanzig.
• 13:36
  Speaker 0: Eine neue Folge gibt es Montags, Mittwochs und Freitags ab fünfzehn Uhr.