Latest / KI-Update – ein heise-Podcast / KI-Update kompakt: Verbraucherschutz, Gemini for Home, KI-Werbung, Spiele

Transcript

KI-Update kompakt: Verbraucherschutz, Gemini for Home, KI-Werbung, Spiele · KI-Update – ein heise-Podcast

• 0:02
  Speaker 0: Das KI-Update, ein heise Podcast mit redaktioneller Unterstützung von The Decoder.
• 0:13
  Speaker 0: Ich bin Isabel Grünewald und dies sind heute unter anderem unsere Themen.
• 0:18
  Speaker 0: Verbraucherschutzminister fordern klare Grenzen für KI-Agenden – KI Zusammenfassungen statt sachlicher News bei Gemini For Home.
• 0:26
  Speaker 0: Handelsverband will KI Werbung von EU-Transparenzregeln ausnehmen und Sony bestätigt KI Einsatz in der Spieleentwicklung.
• 0:36
  Speaker 0: Auf der Zweiundzwanzigsten Verbraucherschutzministerkonferenz in Potsdam haben die zuständigen Ministerinnen und Minister ein umfangreiches Maßnahmenbündel zur besseren Absicherung von Konsumenten im digitalen Raum beschlossen.
• 0:49
  Speaker 0: Es ging dabei unter anderem, um ein härteres Vorgehen gegen Fake-Shops eine bessere Lebensmittelkontrolle im Onlinehandel sowie nachvollziehbare Preisangaben.
• 0:58
  Speaker 0: Ein zentraler Punkt war auch der zunehmende Einsatz von KI-Agenten im Onlinehandel, berichtet Marco Pauli von heise online.
• 1:06
  Speaker 2: KI-Agenten agieren im Rahmen des sogenannten Agentic Commerce, im Auftrag der Sinutzenden.
• 1:12
  Speaker 2: Sie buchen für sie Flüge, wechseln den Stromanbieter oder gehen dort shoppen wo es das gesuchte Produkt am günstigsten gibt.
• 1:20
  Speaker 2: Der klassische Verbraucherschutz greift dann nicht – er kümmert sich bislang nur um Online-Shops und Webseiten ob diese zum Beispiel klare Preisangaben machen oder ob sie über verständliche Schaltflächen verfügen.
• 1:32
  Speaker 2: Die Konferenz fordert hier nun verbindliche europäische Schutzmechanismen.
• 1:37
  Speaker 2: KI-Agenten sollen technisch so gestaltet sein, dass Nutzende dem System verbindliche Vorgaben machen können – maximale Preise etwa welche Anbieter erlaubt sind oder auch welche Laufzeiten für Verträge es geben darf.
• 1:51
  Speaker 2: Bislang behandeln KI-Agenden solche Vorgabe nur als unverbindliche Hinweise!
• 1:57
  Speaker 2: Sie können sie ignorieren, missverstehen oder auch durch manipulierte Inhalte auf Webseiten ausgehebelt werden.
• 2:04
  Speaker 2: Künftig sollen die Vorgaben als feste Grenzen gelten, die das System nicht eigenmächtig überschreiten darf.
• 2:11
  Speaker 2: Auch die finale Kaufentscheidung soll verpflichtend bei Menschen liegen und eine aktive Bestätigung nötig sein – zudem soll sich der Prozess jederzeit unterbrechen lassen können!
• 2:22
  Speaker 2: Die Beschlüsse der Konferenz sind für Anbieter wie OpenAI oder Google bislang nicht bindend.
• 2:28
  Speaker 2: Verbindliche Regeln könnten erst durch ein EU-Gesetz, wie den angekündigten Digital Fairness Act entstehen.
• 2:36
  Speaker 2: Bis dahin werden sich globale KI-Konzerne eher nicht an den Wünschen der deutschen Minister ausrichten.
• 2:42
  Speaker 0: Vielen Dank Marco!
• 2:45
  Speaker 0: Das Konsortium Europa unter Führung des italienischen Unternehmens Domen hat den EU-Wertbewerb Frontier AI Grand Challenge gewonnen.
• 2:54
  Speaker 0: Das Projekt soll ein quelloffenes KI-Modell mit über vierhundert Milliarden Parametern entwickeln, das alle Vierundzwanzig EU Amtssprachen unterstützt.
• 3:03
  Speaker 0: Diese Größenordnung war bisher hauptsächlich US-amerikanische und chinesische Modellen vorbereiten!
• 3:09
  Speaker 0: Das geplante System richtet sich besonders an regulierte Branchen wie Finanzdienstleistungen und Verteidigung, die spezialisierte KI-Lösungen benötigen.
• 3:18
  Speaker 0: Domyn baut dabei auf bestehenden Modellen wie dem Zweihundertsechzig Milliardenparametermodell Domyn Large auf.
• 3:26
  Speaker 0: Das neue Frontier-Modell soll durch modulare Mixture of Experts Architekturen besonders vielseitig und ressourceneffizient werden!
• 3:34
  Speaker 0: Die EU-Kommission stellt über das Supercomputing-Konsortium EuroHPC ein Jahr lang bis zu zwei Komma fünf Prozent der europäischen Supercomputerkapazität zur Verfügung.
• 3:45
  Speaker 0: Das fertige Modell wird als Open Source Software veröffentlicht, damit europäische Unternehmen Forschende und Institutionen gleichermaßen davon profitieren können.
• 3:55
  Speaker 0: Das Projekt ist Teil der EU-Strategie für technologischer Eigenständigkeit im KI Bereich Gemini for Home ist jetzt auch in Deutschland als Early Access Version verfügbar.
• 4:07
  Speaker 0: Nach der Aktivierung müssen Nutzerinnen und Nutzer sich jedoch umstellen, da einige seit Jahren genutzte Funktionen nicht mehr wie gewohnt zur Verfügung stehen gibt Andreas Flömer aus dem Heise Online Newsroom zu bedenken.
• 4:29
  Speaker 1: eine KI-generierte Zusammenfassung anstelle der Nachrichten aus vorab ausgewählten vertrauten Quellen.
• 4:36
  Speaker 1: Das passiert gerade, weil Google Geminal-Voraum auf seine Smartphone-Geräte verteilt.
• 4:41
  Speaker 1: Konkret ersetzt Google schrittweise den alten Google Assistant auf Smart Displays und Lautspeichern durch seine KI-Assistenz GEMINI.
• 4:49
  Speaker 1: Noch ist in Deutschland als Opt-In nutzbar so dass Nutzerinnen und Nutzer ihre Geräte aktiv umstellen müssen.
• 4:54
  Speaker 1: doch irgendwann in den kommenden Monaten mit der Google Assistant eingestellt Gemini übernimmt den Platz.
• 5:01
  Speaker 0: Diese Änderung frustriert Nutzerinnen und Nutzern in den USA schon seit einiger Zeit, sie haben bereits seit Oktober vergangenen Jahreszugriff auf die Forscher-Version.
• 5:10
  Speaker 0: Reddit ist voll mit Kritikbeiträgen.
• 5:12
  Speaker 0: Was genau nervt die Menschen an der neuen Funktion so sehr?
• 5:15
  Speaker 1: Nutzer fühlen sich gewissermaßen mündig.
• 5:17
  Speaker 1: sei in Stadt ihrer vertrauten News eine KI Stimme gefilterte Infos vorließt wären ihre händisch ausgewählten Quellen ihnen die News sofort und ungefiltert lieferten.
• 5:27
  Speaker 1: Ein weiteres Problem ist, dass KIs auf komplexen Nachrichten zusammenhängen oder Details nicht fehlerfrei verstehen.
• 5:34
  Speaker 1: So dass Inhalte womöglich falsch dargestellt werden können.
• 5:38
  Speaker 1: Es gibt aber eine Lösung.
• 5:40
  Speaker 1: Während wir mit den vertrauten Sprachbefehlen nur die KI-Stimme erhalten kann man mit speziferischen Befehlen wie etwa Hey Google Spiele heise top Die einzelnen Kanäle heraus suchen.
• 5:50
  Speaker 1: Zudem bietet Google auf einer Hilfe Seite eine Auswahl an Sprachbefehlen an, die Nutzer zu ihrer vertrauten News-Zusammenfassung bringen soll.
• 5:58
  Speaker 1: Aus den drei vorgegebenen Sprach Befehlen lieferte jedoch nur der Befehl spiele meinen Nachrichten über Blick ab das gewünschte Resultat.
• 6:06
  Speaker 1: Das heißt hinsichtlich der Nachrichtenwiedergabe hat Gemini for Home also noch stark ein Nachbesserungsadaf.
• 6:12
  Speaker 1: Auch die Hilfeseiten sollte Google fehlerfrei gestalten.
• 6:16
  Speaker 1: Bei der Smart Home Steuerung scheint der KI-Assistent aber weit intelligent hat, der Google Assistant zu sein.
• 6:22
  Speaker 1: Denn er unterstützt etwa die Steuerung mehrere Geräte mit einem Befehl.
• 6:27
  Speaker 1: Ich kann einfach das Licht in einem Raum an und einen anderen ausstellen.
• 6:30
  Speaker 1: Wer seine vertrauten Smart Home Sprachbefehle behalten möchte, tun wir uns bis auf weiteres solche möglicherweise noch mit der Umstellung abwarten.
• 6:38
  Speaker 1: Der Google Assistant ist in manche Fällen entsprechend noch die bessere Wahl wobei Gemini per Home durchaus Potenzial hat.
• 6:45
  Speaker 0: Danke Andreas!
• 6:47
  Speaker 0: Die Deutsche Bank verzeichnet durch den Einsatz von künstlicher Intelligenz erhebliche Produktivitätssteigerungen.
• 6:53
  Speaker 0: Aufgaben, die früher zwei Jahre benötigten werden nun in drei bis sechs Monaten abgeschlossen.
• 6:58
  Speaker 0: Rückstände, deren Bearbeitung Monate dauerte sind jetzt innerhalb weniger Wochen erledigt.
• 7:04
  Speaker 0: Dennis Ruhm ist Chief Information Officer der Investmentabteilung und betont die Bedeutung der Kostenkontrolle bei der KI-Implementierung.
• 7:12
  Speaker 0: Die Bank verwendet tokenbasierte Preismodelle und weist den Mitarbeitenden tokenkontingente zu.
• 7:18
  Speaker 0: Zusätzliche Kapazitäten müssen durch nachgewiesene Nutzen begründet werden, die entwickelten KI-Tools automatisieren Finanzdatenanalysen und verknüpfen externe Ereignisse wie geopolitische Entwicklungen mit dem Portfolio zur besseren Risikobewertung.
• 7:35
  Speaker 0: Dabei verfolgt die Deutsche Bank einen zurückhaltenden Ansatz.
• 7:38
  Speaker 0: Einfache Modelle werden für Routineaufgaben eingesetzt, während geprüft wird, wo immer noch herkömmliche Lösungen effektiver sein könnten.
• 7:48
  Speaker 0: Deutische Steuerbehörden intensivieren die Überprüfung von Influencerinnen und Influencern mithilfe von KI-Technologie.
• 7:55
  Speaker 0: In Bayern erzielte die Spezialeinheit eCommerce bereits Nachzahlungen von fivehundertfünfzigtausend Euro durch KI gestützte Analyse von Social Media Aktivitäten.
• 8:06
  Speaker 0: Die Software verfolgt und analysiert Influencer-Aktivitäten auf verschiedenen Plattformen.
• 8:11
  Speaker 0: Auch Nordrhein-Westfalen überprüft derzeit mehr als sieben Tausend Verdachtsfälle, in jedem Einzelnen werde nun von der Influenza Taskforce überprüfen, ob die betroffenen Personen ihre Steuern alle bezahlt haben.
• 8:24
  Speaker 0: Bundesweit hatten die Steuerbehörden rund sechzigtausend Datensätze zu Aktivitäten von Influenserinnen und Influencern mit einem Umsatzvolumen von eins Komma vier Milliarden Euro überschaft.
• 8:35
  Speaker 0: Das Problem ist nämlich, viele von Ihnen verdienen monatlich mehrere Zehntausend Euro haben aber oft nicht einmal eine Steuernummer.
• 8:42
  Speaker 0: Die KI-gestützte Datenauswertung ermöglicht es den Finanzbehörden systematisch gegen Steuerhinterziehungen im Influencerbereich vorzugehen.
• 8:51
  Speaker 0: Der Europäische Handelsverband EuroCommerce will KI generierte Werbung von den Transparenzpflichten des EUAI-Akts befreien lassen.
• 9:01
  Speaker 0: Hinter dem Vorstoß stehen große Namen.
• 9:04
  Speaker 0: Zu den Mitgliedern des Verbandes gehören nämlich unter anderem Amazon, der Modekonzern H&M, der Sara-Mutterkonzern Inditex und der Möbelhändler Ikea.
• 9:14
  Speaker 0: Kim Schreubenbrand von The Decoder mit den Einzelheiten.
• 9:17
  Speaker 4: In einem Brief an die EU-Technikkommissarin Henna Wirkonen fordert der Verband eine Ausnahme für Werbebilder, die nicht zur Täuschung gedacht sind.
• 9:25
  Speaker 4: Den Brief konnte die Nachrichtenagentur Reuters einsehen.
• 9:28
  Speaker 4: Hintergrund ist das EU-Gesetz, dass am zweiten August in Kraft ritt.
• 9:33
  Speaker 4: Es verlangt eine klare Kennzeichnung von KI-generierten oder KI veränderten Inhalten, die als sogenannte Deepfakes gelten.
• 9:40
  Speaker 4: Die Generaldirektorin des Verwands, Christel Delbert, nennt ein konkretes Beispiel.
• 9:45
  Speaker 4: Ein KI-generiertes Wohnzimmerbild das einen Sofa präsentiert sollte nach ihrer Auffassung nicht unter diese Definition fallen.
• 9:52
  Speaker 4: Eine Kennzeichnungspflicht für solche Inhalte würde einen enormen Teil der Werbung betreffen – aus Sicht des Verwandts würde das den Nutzen der Transparenzregel für Verbraucher verbessern!
• 10:02
  Speaker 4: Wie stark der Handel bereits auf KI setzt, lässt sich an Zahlen ablesen.
• 10:06
  Speaker 4: Der Online-Händler Zalando gibt an, dass inzwischen neunzig Prozent der Marketinginhalte auf der eigenen Plattform von KI erstellt werden.
• 10:14
  Speaker 4: H&M und Sara nutzen zudem KI-generierte Klone realer Models.
• 10:17
  Speaker 4: Die EU-Kommission hat sich bisher zu den Forderungen des Verbandes nicht geäußert.
• 10:21
  Speaker 0: Danke schön Kim!
• 10:24
  Speaker 0: Norwegen vollzieht eine radikale Kehrtwende in der Bildungspolitik und verbannt KI aus den Grundschulen.
• 10:31
  Speaker 0: Trotz jahrzehntelanger Vorreiterrolle bei der digitalen Bildung reagiert die Regierung damit auf sinkende Testergebnisse.
• 10:38
  Speaker 0: Das gestufte Modell orientiert sich am Alter – für Kinder von sechs bis dreizehn Jahren gilt ein komplettes KI-Verbot!
• 10:46
  Speaker 0: In der Sekundarstufe dürfen KI-Tools nur unter strenger Aufsicht genutzt werden, erst in der Oberstupe sollen KI Kompetenzen gezielt vermittelt werden.
• 10:57
  Speaker 0: Premierminister Sirre begundet dies damit, dass Kinder zunächst grundlegende Fähigkeiten wie Lesen, Schreiben und Rechnungen erlernen müssen.
• 11:05
  Speaker 0: Der Erfolg ähnlicher Maßnahmen zeigt sich bereits – das Smartphone-Verbot von Jahrzehntevierundzwanzig führte zu weniger Mobbing bessere Noten und weniger schulpsychologischen Problemen.
• 11:16
  Speaker 0: Parallel plant Norwing ein Social Media Verbot für untersechzehnjährige und fördert wieder klassische Schulbücher!
• 11:23
  Speaker 0: Diese Strategie befeuert auch in Deutschland.
• 11:25
  Speaker 0: Die Debatte über angemessene Digitalisierung im Bildungswesen.
• 11:30
  Speaker 0: Eine Studie der University of California in Berkeley liegt gerade nahe, dass generative KI den Wert von Hochschulnoten untergräbt – die Forschenden analysierten mehr als fünfhunderttausend Noten an einer großen öffentlichen Forschungsuniversität in Texas.
• 11:46
  Speaker 0: Das Ergebnis?
• 11:48
  Speaker 0: In Kursen mit hohem Anteil an Schreib- und Programmieraufgaben sind die Noten seit der Veröffentlichung von ChatGPT im November, hierher erheblich gestiegen.
• 11:58
  Speaker 0: Konkret stieg der Anteil der besten Note A um dreizehn Prozentpunkte – der durchschnittliche Notenschnitt erhöhte sich um Null, eins zwei Punkte.
• 12:07
  Speaker 0: Die zentrale Frage lautet ob die besseren Noten echten Lernfortschritt abbilden oder ob KI die Arbeit der Studierenden ersetzt?
• 12:16
  Speaker 0: Um das zu klären, untersuchte Studienautor Igor Cherikov den Anteil der Hausaufgaben an der Gesamtnote.
• 12:22
  Speaker 0: Dabei zeigte sich, dass in Kursen mit hohem Hausaufgebenanteil der Anteil von A-Noten um zusätzliche sechzehn Prozentpunkte stieg.
• 12:31
  Speaker 0: Cherikoff warnt vor einer Rückkopplungsschleife – verdrängt KI das eigenständige Üben während des Studiums könnten Studierende mit schwächeren Fähigkeiten gerade in jenen Bereichen gut abschneiden, indem KI am stärksten ist!
• 12:45
  Speaker 0: Als Gegenmaßnahme schlägt die Studie vor, Prüfungsformate neu zu gestalten und KI-Nutzung gezielt einzuschränken oder bewusst einzubeziehen.
• 12:56
  Speaker 0: Auf dem AWS Summit in New York hat Amazons Cloudsparte mehrere neue Dienste vorgestellt – sie sollen KI-Agenten drei für den produktiven Einsatz machen!
• 13:06
  Speaker 0: Im Mittelpunkt stehen zwei Angebote AWS Continuum für den Umgang mit Sicherheitslücken im Code und AWS Context als gemeinsame Wissensbasis für Agenten.
• 13:18
  Speaker 0: Beide adressieren typische Engpässe, nämlich fehlenden Geschäftskontext- und Sicherheitsrisiken.
• 13:24
  Speaker 0: AWS Continum unterstützt den gesamten Lebenszyklus von Code Schwachstellen
• 13:29
  Speaker 4: –
• 13:29
  Speaker 0: der Dienst findet Lücken, priorisiert sie nach Geschäftskontext und versucht in einer abgeschotteten Testumgebung einen funktionierenden Angriff nachzubauen!
• 13:39
  Speaker 0: AWS-Kontext erzeugt automatisch einen sogenannten Wissensgrafen aus den vorhandenen Unternehmensdaten.
• 13:46
  Speaker 0: Ein Wissengraf verknüpft einzelne Datenpunkte zu einem Netz aus Beziehungen – so kann ein Agent etwa nachvollziehen, welche Tabelle zu welchen Kunden gehört!
• 13:56
  Speaker 0: Der Dienst leitet diese Beziehung von Datenbanken, Dokumenten, E-Mails und Chatnachrichten ab.
• 14:02
  Speaker 0: Den Codingagenten Kiro bringt AWS zudem als App für das iPhone auf dem Markt.
• 14:08
  Speaker 0: Das Telefon dient dann als Steuerungsoberfläche, um Aufgaben zu starten und Codeänderungen freizugeben.
• 14:15
  Speaker 0: Sony's PlayStation Studios automatisieren mit KI-Werkzeugen Arbeitsschritte in der Videospielentwicklung – das beschreibt Sony im aktuellen Geschäftsbericht für das abgelaufene Geschäftsjahr.
• 14:26
  Speaker 0: Wie genau künstliche Intelligenz eingesetzt wird, erklärt Daniel Herbig von Heise Online.
• 14:32
  Speaker 3: Also Sony nennt Konkret Software-Entwicklung, Qualitätssicherung, Dreidemodellierung und Animationen als Beispiele.
• 14:39
  Speaker 3: Die KI Werkzeuge sollen die Teams eben von manuellen Routineaufgaben entlasten.
• 14:45
  Speaker 3: Sony betont aber selbst in diesem ja sehr trockenen Business PR gefärbten Strategiedokument dass KI die menschliche Kreativität nicht ersetzen soll sondern stattdessen ein Werkzeug ist um menschliches Potenzial frei zu setzen.
• 15:00
  Speaker 3: so wird das da formuliert.
• 15:02
  Speaker 0: Wie sieht es denn in der Spielebranche generell gerade aus?
• 15:05
  Speaker 3: So ziemlich bei jedem größeren Projekt kommt KI in irgendeiner Form zum Einsatz.
• 15:09
  Speaker 3: Also generell denken viele Spieler, wenn sie das Stichwort generative KI lesen an so Sachen wie KI-Artworks
• 15:16
  Speaker 3: z.B.,
• 15:17
  Speaker 3: und befürchten dann dass die KI Ladebildschirme macht oder solche Sachen Oder dass KI alle Dialoge skriptet.
• 15:24
  Speaker 3: Das kann vorkommen aber das ist natürlich nicht unbedingt das woran die ganzen Entwicklungsstudios denken Weil die Entwicklung von so einem größeren Videospiel ist ein mehrjähriges Großprojekt mit einer Menge Management, Logistik und natürlich auch technischen Herausforderungen.
• 15:42
  Speaker 3: Also Sachen wie Coding, Qualitätssicherung, Konzeptionierung oder lasst es einfach KI-Transkripte vom Meeting sein.
• 15:50
  Speaker 3: Es gibt da super viele Stellen an denen KI mehr oder weniger sinnvoll helfen kann ohne jetzt komplett die Kreativität dieses Projektes zu übernehmen.
• 16:01
  Speaker 3: Also das sind dann Dinge, die im Hintergrund passieren.
• 16:03
  Speaker 3: Die man im fertigen Spiel vielleicht gar nicht unbedingt sieht wenn sie gut gemacht werden.
• 16:08
  Speaker 3: und da kann man schon sagen dass gerade alle größeren Studios in verschiedenen Formen mit experimentieren.
• 16:14
  Speaker 0: Vielen Dank Daniel.
• 16:24
  Speaker 0: Der Film behandelt die dramatischen Ereignisse Ende des Jahres, als Altman überraschend als OpenAI-Chef entlassen und nach Protesten der Belegschaft schnell wieder eingesetzt wurde.
• 16:35
  Speaker 0: Andrew Garfield spielt die Hauptrolle – Ike Barrenholz verkörpert Elon Musk.
• 16:41
  Speaker 0: Das Timing ist kein Zufall.
• 16:43
  Speaker 0: Amazon Web Services und OpenAI haben eine strategische Kooperation für KI Anwendungen angekündigt.
• 16:50
  Speaker 0: Amazon hat zudem Fünfzig Milliarden Dollar in OpenAI investiert, abhängig von einem Börsengang oder dem Reichen einer allgemeinen künstlichen Intelligenz.
• 16:59
  Speaker 0: Ein etwas kritischer Film über den Geschäftspartner passt offenbar nicht zur neuen Zusammenarbeit!
• 17:06
  Speaker 0: Das war das KI-Update vom Heise Online vom Zweiundzwanzigsten Juni, im Jahr und zweihundert.
• 17:12
  Speaker 0: Eine neue Folge gibt es jeweils Montag, Mittwoch und Freitag ab fünfzehn Uhr.