Latest / KI-Update – ein heise-Podcast / KI-Update kompakt: KI-Entwicklung, Claude-Missbrauch, Mathe-Forschung, Deepfakes

Transcript

KI-Update kompakt: KI-Entwicklung, Claude-Missbrauch, Mathe-Forschung, Deepfakes · KI-Update – ein heise-Podcast

• 0:02
  Speaker 1: Das KI Update, ein Heise-Podcast mit redaktioneller Unterstützung von The Decoder.
• 0:13
  Speaker 1: Ich bin Isabel Grünewald und dies sind heute unter anderem unsere Themen Lob und Kritik nach Aufruf zur bedachteren KI Entwicklung.
• 0:21
  Speaker 1: Anthropic zeigt wofür Claude bereits missbraucht wird Kontroverse um möglichen KI Durchbruch in der Mathematik Und Initiative gegen deep fakes bekannter Medizinfachleute.
• 0:34
  Speaker 1: Am Samstag veröffentlichte Anthropic Chef Dario Amodei ein Essay mit dem Titel We Must Pace the Frontier.
• 0:42
  Speaker 1: Darin plädiert er dafür, die Forschung an mächtigen KI-Modellen gezielt zu verlangsamen und mehr externe Kontrollen sowie staatliche Regulierung zuzulassen.
• 0:52
  Speaker 1: Die direkte Konkurrenz hält das zwar für eine gute Idee – darüber hinaus fallen die Reaktionen allerdings ganz unterschiedlich aus!
• 1:00
  Speaker 1: Martin Holland aus dem Heise-Online-Newsroom fasst die Entwicklung der letzten Tage zusammen.
• 1:04
  Speaker 0: Spätestens mit der Kündigung eines Anthopicforschers, die er mit sehr dramatischen Warnung vor der Richtung der KI Forschung begründet hat eine Debatte über die Sicherheit bei der KI-Entwicklung noch einmal enorm an Fahrt gewonnen.
• 1:20
  Speaker 0: das war vorher schon so weil es in den vergangenen Wochen immer wieder Berichte gab dass KI Modelle und KI-Agenten Tests aus ihren Testumgebungen gewissermaßen entkommen sind und Cyberangriffe ausgeführt haben.
• 1:36
  Speaker 0: Und schon da wurde darüber diskutiert, ob man irgendwie etwas machen müsste.
• 1:40
  Speaker 0: Und jetzt als dann vorige Woche noch diese Warnung kamen dass die Auslöschung der Menschheit gewissermassen droht hat das nochmal enormer Zulauf gewonnen und am Wochenende haben wir jetzt die Chefs von Anthropic, OpenAI und X wo ja der Chatbot Grog entwickelt wird.
• 1:58
  Speaker 0: Sich dafür ausgesprochen dass man die Weiterentwicklung von fortgeschrittenen KI-Modellen in Frontiermodellen drosseln solle und das wurde damit begründet, dass eben die Sicherheit nicht nachkommen kann.
• 2:10
  Speaker 0: Die Sicherheitsmaßnahmen und dass man da eben ein bisschen auf die Stopp-Taste drücken muss.
• 2:14
  Speaker 0: Das ging soweit, dass Open AI sogar gesagt hat, Sam Ordmann hat angekündigt, dass der Börsengang verschoben wird genau wegen diesen Sicherheitsbeding.
• 2:24
  Speaker 0: Die Reaktionen darauf sind ziemlich unterschiedlich.
• 2:26
  Speaker 0: also während vor allem Öffentlichkeit drüber geredet wurde, ob das jetzt nun tatsächlich die Sicherheitsbedenken sind.
• 2:33
  Speaker 0: Die Ursache dafür sind oder ob das einfach ein willkommener Anlass quasi ist um zu sagen dass man die KI-Entwicklung pausiert, die ja zumindest laut verschiedenen Beobachtungen dann doch nicht ganz mit den Versprechen mithält, die immer gemacht wird also vor allem in wirtschaftlichen Versprechen für KI, dass man das jetzt nutzt und zu sagen wir pausieren Darüber wurde in der Öffentlichkeit spekuliert und da gibt es auch keine Antwort darauf.
• 2:55
  Speaker 0: Es ist so, dass in der Wirtschaft oder an den Finanzmärkten das jetzt erstmal negativ aufgefasst wurde.
• 3:01
  Speaker 0: Also das sind die ersten Hinweise, die man jetzt hat.
• 3:03
  Speaker 0: am Montagmorgen in asiatischen Finanzmärkten sind die Aktienkurse abgerutscht von Firmen, die an dem KI-Branche verdienen.
• 3:12
  Speaker 0: aber das sind keine dramatischen Verluste.
• 3:14
  Speaker 0: Das gab es in den vergangenen Wochen über wieder.
• 3:16
  Speaker 0: also das ist noch kein wirkliches Signal.
• 3:18
  Speaker 0: Das muss man jetzt weiter beobachten.
• 3:19
  Speaker 0: Es ist so dass aus der Politik vor allem aus der S-Politik wo die Unternehmen ja angesiedelt schon Widerspruch kam, also es Präsident Donald Trump hat gesagt dass er das nicht so sieht.
• 3:30
  Speaker 0: Dass man das nicht machen könnte und zwar immer begründet mit dem KI-Weltrennen, dass man sich ja quasi mit China liefert und man dürfe da gar nicht irgendwie pausieren und den chinesischen Konkurrenten irgendwie Boden überlassen.
• 3:43
  Speaker 0: trotzdem gab es auch Töne aus der OS Regierung wo sie ist, dass das ein guter Schritt ist.
• 3:47
  Speaker 0: Also das muss man jetzt mal abwarten wie das da entwickelt.
• 3:50
  Speaker 0: Aus der Forschung gab es schon verschiedene Stimmen von Wissenschaftlern, die gemeint haben dass das in die richtige Richtung geht.
• 3:57
  Speaker 0: hier werden aber auch immer Zweifel geäußert wie man das denn überhaupt umsetzen will.
• 4:01
  Speaker 0: also wie wird man gezielt kontrollieren und durchsetzen dass sich alle daran halten KI-Modelle langsamer zu entwickeln?
• 4:09
  Speaker 0: Das ist wahrscheinlich die größte Frage wenn man die Ernsthaftigkeit dieser Warnungen erlaubt.
• 4:14
  Speaker 0: Es bleibt eben die Frage verschiedenen Zahlen die vergangenen Woche umgehen also da wurden dann von enthobbig angestellt und sogar in Raum geworfen.
• 4:24
  Speaker 0: Prozentzahlen dafür wie wahrscheinlich die Ausmischung der Menschheit ist daran gibt es durch den Bankwerk Zweifel.
• 4:29
  Speaker 0: das könne man ja gar nicht sagen, also man kann ja nicht ein Prozentwert festlegen von etwas was noch nicht passiert ist und was wir gar nicht einschätzen können aber selbst die in den Unternehmen maximal für ihr eigenes Unternehmen einschützen können.
• 4:41
  Speaker 0: Also dass muss man starken Zweifeln begegnen Und jetzt muss ich zeigen, wie sich das weiterentwickelt.
• 4:48
  Speaker 1: Danke Martin!
• 4:50
  Speaker 1: Wie wir gerade schon gehört hatten ging Amodeis Essay diverse Sicherheitsvorfälle voraus.
• 4:56
  Speaker 1: Nachdem sein Unternehmen Anthropic schon Ende Juli drei Hacking-Angriffe meldete ist noch ein Vierter bei Claude Opus vier Punkt sechs hinzugekommen.
• 5:04
  Speaker 1: Das Modell verschaffte sich unerlaubt Internetzugang aufgrund einer Fehlkonfiguration.
• 5:10
  Speaker 1: Cloud Mythos V flut sogar ein bösartiges Software-Pakete auf eine Internetplattform hoch, obwohl Hinweise auf ein reales System vorhanden waren.
• 5:19
  Speaker 1: Das unabhängige Forschungsunternehmen mieter untersucht die Vorfälle und identifizierte wiederkehrende Muster – verzerrte Beweisinterpretationen und rücksichtslose Zielverfolgung.
• 5:31
  Speaker 1: Bereits im Mai attackierte ein Schwarmautonomer KI-Bots von OpenAI die Open Source-Plattform RubyGems auf der programmierende Codebausteine teilen!
• 5:40
  Speaker 1: Das war also schon zwei Monate vor dem aufsehenerregenden Huggingface-Angriff.
• 5:45
  Speaker 1: Die Bolz wollten die Plattform als Browser nutzen, der ihrer Testumgebung fehlte – sie erstellten alle zwei bis drei Minuten neue Accounts und verursachten erhebliches Chaos.
• 5:55
  Speaker 1: Die Plattformbetreiber mussten vier Tage lang Neuregisterungen stoppen!
• 5:59
  Speaker 1: OpenAI bestätigte den Vorfall und kündigte umfassende Untersuchungen an.
• 6:04
  Speaker 1: Es ist angesichts dieser sich häufenden Angriffe also kein Wunder, wenn sich Menschen Sorgen über außer Kontrolle geratene KI-Systeme machen.
• 6:13
  Speaker 1: Bislang ging es bei all diesen Sorgen und Warnungen allerdings um KI- Systeme die aus eigenem Antrieb Schaden anrichten!
• 6:21
  Speaker 1: Jetzt drehen wir die Perspektive mal um – denn nicht nur die KI selbst ist ein Risiko sondern vor allem auch die Menschen, die sie gezielt einsetzen.
• 6:29
  Speaker 1: Anthropic hat ausführlich dokumentiert, wie Kriminelle, Geheimdienste und Militärs das Sprachmodell Claude über acht Monate hinweg missbraucht haben.
• 6:39
  Speaker 1: Max Schreiner von The Decoder hat sich den Bericht angeschaut.
• 6:49
  Speaker 3: Ein Throbbeck betont man Dokumentäre hier nicht den Alltäglichen, sondern vor allem dem besonders neuartigen Missbrauch.
• 7:23
  Speaker 3: Betroffen waren mehr als zwanzig Organisationen, darunter Ministerien, Botschaften und Rüstungsfirmen vor allem in der Ukraine und Europa.
• 7:31
  Speaker 3: Der Bericht beschreibt auch ausführlich die Nutzung chinesischer Kailabore, die stellen massenhaft Anfragen an Claude um dessen Fähigkeiten für das eigene Training abzugreifen.
• 7:41
  Speaker 3: Die Methode heißt Distillation und die größte gemessene Kampagne rechnet Anthropic Alibaba's Quennlabor zu.
• 7:47
  Speaker 3: über dreitausend fünfhundert gefälschte Konten schickten in der Spitze fast drei Millionen Anfragen pro Tag an Claud Kurios ist auch, dass das Labor-Munschritt
• 7:55
  Speaker 3: A.I.,
• 7:56
  Speaker 3: das hinter den leistungsstarken Chemiemodellen steht sogar Anfragen der eigenen Kunden an Claude weiterleitete während diese glaubten ein anderes Modell zu verwenden.
• 8:05
  Speaker 3: In den umgeleiteten Anfragen fand Anthropic dann auch Spuren staatliche Überwachung.
• 8:10
  Speaker 3: Ein mutmaßlicher Nutzer der chinesischen Volksbefreiungsarmee ließ etwa Videomaterial von hunderten Kameras in der Stadt Chengdu auswerten Um eine einzelne Zielperson zu verfolgen.
• 8:21
  Speaker 3: Erstmalig dokumentiert der Bericht auch den Einsatz für konventionelle Waffen.
• 8:26
  Speaker 3: Eine Zelle im Jemen setzte Claude anstelle menschliche Ingenieure ein, um die Steuerungssoftware für drei Raketenprogramme zu entwickeln.
• 8:33
  Speaker 3: Die Akteure verwalteten mehrere Claude-Instanzen dabei parallel und verteilten die Arbeit über Sitzungen so dass keine einzelne die Absicht komplett offen legte.
• 8:43
  Speaker 3: Ein Testabschuss scheiterte offenbar und innerhalb von Stunden kehrten die Akteurin zur Claude zurück um die Ursache zu klären.
• 8:49
  Speaker 3: Russische Akteure bauten derweil Software für einen autonomen Tronenschwarm, die Ziele der Klasse Personen eigenständig identifizierende und angreifen können sollte.
• 8:59
  Speaker 3: Der eingesetzte Bildklassifikator wurde laut Anthropik dabei übrigens auf abgezogenen ukrainischen Kampfmaterial trainiert.
• 9:06
  Speaker 1: Vielen Dank Max!
• 9:17
  Speaker 1: Für den Einsatz der Datenbrille im öffentlichen Raum fehle eine rechtssichere Grundlage.
• 9:22
  Speaker 1: Die Untersuchung offenbarte, dass die Brille technisch bereits für eine Gesichtserkennung vorbereitet ist – auch wenn die Funktion derzeit nicht aktiv ist.
• 9:30
  Speaker 1: Zudem ist das LED-Warnlicht, das auf einer Aufnahme durch Kamera, Mikrofone und KI Assistentin weisen soll bei Tageslicht kaum erkennbar und leicht zu manipulieren.
• 9:39
  Speaker 1: Träger der Brille werden bei Aufnahmen im öffentlicher Raum zu Daten verarbeitern.
• 9:47
  Speaker 1: Stimmen Sie zu, dass Ihre Daten zum Training genutzt werden?
• 9:50
  Speaker 1: Entsteht darüber hinaus eine problematische gemeinsame Verantwortlichkeit mit Metta.
• 9:55
  Speaker 1: Nach Ansicht der Behörde sei eine datenschutzrechtlich legale Nutzung eigentlich nur mit Warnwesten oder mündlicher Aufklärungen möglich.
• 10:05
  Speaker 1: Appels Versprechen war simpel – persönliche Daten von iPhone-Nutzenden fließen niemals in das Training von KI-Modern ein.
• 10:12
  Speaker 1: Damit ist es jetzt vorbei!
• 10:15
  Speaker 1: Apple vollzieht eine drastische Kehrtwende und willkünftig persönliche Daten aus Siri-Gesprächen für das Training von Sprachmodellen verwenden, inklusive Audiumitschnitten.
• 10:25
  Speaker 1: In IOS-Simonzwanzig bittet Apple bei der Siri AI Aktivierung um Zustimmung zur Datenverwendung – die Datenschutzrichtlinien wurden entsprechend angepasst.
• 10:35
  Speaker 1: Parallel stellte Apple vergangene Woche die neuen Apple Watch-Modelle vor, die laufend mithören, um Gesprächstranskrypte und Zusammenfassungen erstellen zu können.
• 10:44
  Speaker 1: Zwar betont das Unternehmen, dass Daten nicht dauerhaft gespeichert oder dritten zugänglich gemacht werden.
• 10:50
  Speaker 1: Nutzerinnen und Nutzern haben jedoch den Eindruck, dass sich das Private Cloud-Computeversprechen von Apple damit erledigt hat.
• 10:59
  Speaker 1: OpenAI hat einen Beweis für eines der berühmtesten ungelösten Probleme der Mathematik vorgelegt – doch was ein Triumphaler Erfolg der KI hätte werden können wird nun von schweren Vorwürfen überschattet!
• 11:12
  Speaker 1: Mehrere Mathematiker äußern den Verdacht, dass unveröffentlichte Forschung aus ihren Chat-GPT Gesprächen in Opening Ice Modeller eingeflossen sein könnte.
• 11:21
  Speaker 1: Tomislav Besmalinovic hat die Debatte für Heise Online verfolgt.
• 11:25
  Speaker 2: Steinses Anstoß ist ein KI generierter Beweis für das sogenannte Naviestokes Problem.
• 11:31
  Speaker 2: Dabei geht es um eine mathematische Fragestellung, die Fachleute seit rund neunzig Jahren beschäftigt.
• 11:37
  Speaker 2: Laut OpenAI arbeiteten Tausende KI-Agenten an dem Problem und kamen nach wenigen Tagen zu einer Lösung.
• 11:43
  Speaker 2: Das Grundlage diente ein noch nicht veröffentlichtes, internes Modell das deutlich leistungsfähiger sein soll als das neue GPT-Six Astra.
• 11:52
  Speaker 2: Der Rechenaufwand war allerdings enorm und kostete mehrere Millionen US Dollar.
• 11:57
  Speaker 2: Sollte eine unabhängige Überprüfung des Papers die Lösung bestätigen wäre das nicht nur ein Durchbruch in der Mathematik sondern auch ein bedeutender Erfolg für OpenAI.
• 12:07
  Speaker 2: Doch über die Entstehung des Beweises ist inzwischen ein Streiteinbrand.
• 12:12
  Speaker 2: Die Mathematiker Tristan Buckmaster und Levent Alpouguet hatten in den Monaten zuvor an Verwandtengleichungen gearbeitet und dabei intensiv KI-Modelle genutzt, darunter auch Systeme von OpenAI.
• 12:26
  Speaker 2: Backmaster zufolge hörte OpenAI von ihren Fortschritten und begann erst danach, mit großem Rechenaufwand an Naviestokes- und Verwandtenproblemen zu arbeiten.
• 12:36
  Speaker 2: Besonders misstrauisch machte ihn das OpenAI dabei ausgerechnet jener Forschungsrichtung einschlug die er und Alpouguet verfolgt hatten.
• 12:45
  Speaker 2: OpenAI weist den Verdacht einer direkten Nutzung ihrer unveräftlichen Forschung zurück.
• 12:50
  Speaker 2: Die beteiligten OpenAI-Forscher und KI-Agenten hätten Backmasters und AlpoGas Arbeit zuvor nicht gesehen, und keine spezifischen Nutzerdaten abgerufen.
• 13:01
  Speaker 2: OpenAI schließt allerdings nicht aus dass anonymisierte Nutzungsdaten aus früheren Interaktionen zur Verbesserung der Modelle beigetragen haben könnten.
• 13:11
  Speaker 2: Besonders präsent ist ein Vorfall der die Autorenenschaft betrifft.
• 13:15
  Speaker 2: Backmaster zufolge schlug OpenAI vor, dass er allein ein Paper über OpenAI´s Navier Stokes Beweis verfassen solle.
• 13:23
  Speaker 2: Während sein Kollege Alpouguet wegen seiner Tätigkeit beim Konkurrenten im Thropic nicht als Autor beteiligt werden sollte.
• 13:30
  Speaker 2: Als Backmaster ankündigte den Vorgang öffentlich zu machen soll ihm entgegnet worden seien.
• 13:35
  Speaker 2: Warum solltest du deine Karriere ruinieren?
• 13:38
  Speaker 2: Inzwischen hat sich ein weiterer Mathematiker zu Wort gemeldet.
• 13:42
  Speaker 2: Andreas Thom von der TU Dresden vermutet, dass unveröffentlichte Forschungen aus seinen Chachibidi-Gesprächen ebenfalls in das Training von KI Modellen eingeflossen sein könnte.
• 13:53
  Speaker 2: Damit könnte sie zu einer mathematischen Entdeckung beigetragen haben die OpenAI im August publizierte.
• 13:59
  Speaker 2: OpenAI antwortete ihm damals sehr pauschal auf entsprechende Nachfragen.
• 14:04
  Speaker 2: Tom fordert deshalb mehr Transparenz darüber, wie Nutzerdaten für das Training und die Weiterentwicklung von Modellen verwendet werden.
• 14:12
  Speaker 2: Er sagt es sei ethisch unvertretbar wenn unveröffentlichte Forschung von Nutzern zur Verbesserung eines Modells beiträgt unter Anbieter dieses Modell anschließend nutzt um den Vorschein bei der Veröffentlichung
• 14:24
  Speaker 2: zuvorzukommen.".
• 14:25
  Speaker 1: Danke Thomas Love!
• 14:28
  Speaker 1: Und dass ist nicht die einzige Sorge die Forscher derzeit umtreibt Das ist immerhin die höchste Auszeichnung der Mathematik, warnen in einer gemeinsamen Erklärung vor den Folgen von KI für ihr Fach.
• 14:42
  Speaker 1: Sie sehen eine schwerwiegende Feelausrichtungen zwischen den Zielen der KI-Industrie und denen der Mathematik – denn das massenhafte Lösen von Problemen durch KI untergrabe das eigentliche Ziel der Disziplin, bei der Problemlösen nur ein Werkzeug sei um Verständnis und Einsicht zu erzeugen!
• 15:00
  Speaker 1: Wenn KI im Schnelltempo Lösungen produziere, könne das fruchtbaren Boden zerstören statt neue Ideen entstehen zu lassen.
• 15:08
  Speaker 1: Die Unterzeichner sehen daran eine breitere Gefahr für viele intellektuelle Berufe – jahrelanges Training diene eben nicht nur dem Endprodukt sondern auch dem Aufbau von Verständnis!
• 15:19
  Speaker 1: Die Mathematikerinnen und Mathematika kritisieren außerdem, dass KI-Lösungen überstürzt angekündigt würden ohne saubere Ausarbeitung – und vor allem ohne Verweise auf frühere Arbeiten anderer Forschende.
• 15:31
  Speaker 1: Das werfe schwere Fragen zu Urheberschaften und Plagiat auf wie auch die Diskussion um die Naviestokes Ergebnisse zeigen.
• 15:38
  Speaker 1: KI lehnen sie aber nicht grundsätzlich ab!
• 15:41
  Speaker 1: Ob die Technik dem Fach Nütze oder Schade hänge stark von den Entscheidungen der Menschen ab, die Sie kontrollieren.
• 15:49
  Speaker 1: Google stellt seine KI-Anwendung Gemini nun als eigenständige Desktop-App für Windows zur Verfügung.
• 15:55
  Speaker 1: Ähnlich wie auf dem Mac lässt sich das Programm per Tastenkombination aufrufen und dient als schneller Zugang zu KI Funktionen ohne Browser.
• 16:03
  Speaker 1: Die App fungiert als Chatbot und als KI Agent, der komplexe Aufgaben im Hintergrund erledigen kann.
• 16:09
  Speaker 1: Zudem können nutzende Bilder mit dem KI Modell Nano Banana erstellen!
• 16:13
  Speaker 1: Für zahlende Abonnenten steht auch die Videogenerierung mit Gemini Omni zur Verfügung.
• 16:19
  Speaker 1: Die App integriert sich in Google-Dienste wie Gmail und Drive, kann aber im Gegensatz zur Mac-Version keine Bildschirminhalte direkt auswerten.
• 16:28
  Speaker 1: Die App unterstützt neben Deutsch mehr als siebzig Sprachen und steht für Windows X und Athe bereit.
• 16:35
  Speaker 1: Deepseek hat mit V four Punkt eins Flash ein neues Open-Wade KI Modell vorgestellt, das einen Vorgänger v vier pro als Flaggschiff ablöst.
• 16:44
  Speaker 1: Das Modell basiert auf einer neuen effizienten Architektur, die die Verarbeitung von Eingaben der Textgenerierung trennt.
• 16:52
  Speaker 1: Diese Bauweise steigert die Leistungen besonders bei agentischen Aufgaben – die große Mengen an Kontext verarbeiten müssen!
• 16:59
  Speaker 1: V-Für.Eins Flash kann erstmals auch Bilder nativ verarbeiten und zeigt starke Fähigkeiten beim logischen Schlussfolgern.
• 17:06
  Speaker 1: Obwohl das Modell pro Aufgabe mehr Tokens erzeugt, ist es durch seine optimierte Architektur und die günstigen AP-Preise für komplexe Aufgaben deutlich kosteneffizienter als ein Vorgänger und andere führende Modelle.
• 17:20
  Speaker 1: KI generierte Deepfakes mit bekannten Ärztinnen und Ärzten werden immer mehr zum Problem – denn sie machen es schwer, echte Infos von Betrug zu unterscheiden!
• 17:31
  Speaker 1: Die Fachleute wollen sich nun gegen diesen Missbrauch ihrer Gesichter und Expertise wehren, berichtet Marie-Kler Koch von Heise Online.
• 17:38
  Speaker 4: Bei einer Diskussionsrunde der Initiative Stop MedFakes, die vom Wort- und Bildverlag ins Leben gerufen wurde ging es um KI generierte Fakewerbung mit bekannten Ärztinnen, Ärzten und Medienpersönlichkeiten.
• 17:50
  Speaker 4: Dabei werden Bilder und Videos manipuliert, um zweifelhafte Gesundheitsprodukte glaubwürdig wirken zu lassen.
• 17:56
  Speaker 4: Die Ärztin und Medfluencerin Julia Fischer sprach von gefälschten Anzeigen, in denen ihr Gesicht für angebliche Abnehmprodukte verwendet wird.
• 18:04
  Speaker 4: Gerade bei Gesundheitsfragen seien viele Menschen anfällig für schnelle Versprechen – etwa wenn sie Schmerzen haben, abnehmen möchten oder Angst vor einer Diagnose haben.
• 18:13
  Speaker 4: Genau das nutzen die Betrüger aus!
• 18:15
  Speaker 4: Eckhardt von Hirschausen kennt das Problem ebenfalls persönlich.
• 18:19
  Speaker 4: Seit Jahren wird sein Gesicht für Fake-Anzeigen und angeblich Wundermittel
• 18:22
  Speaker 4: missbraucht.".
• 18:23
  Speaker 4: Erwandte bei der Diskussion davor, die Gefahr zu unterschätzen.
• 18:27
  Speaker 4: Wer auf vermeintliche Wunderpräparate vertraut, könne Geld verlieren, gesundheitsschädliche Produkte einnehmen oder wirksame Behandlungen verzögern.
• 18:35
  Speaker 4: Für Herschausen geht es aber noch um mehr – wenn selbst Videos und Stimmen nicht mehr als Beweis gelten, werde das Vertrauen in Medizin-, Medien- und öffentliche Institutionen beschädigt.
• 18:43
  Speaker 4: Seine Frage an Politik und Plattform ist daher ….
• 18:46
  Speaker 4: Wie lange wollen wir da noch zugucken?
• 18:48
  Speaker 4: Auch Annalena von Hodenberg von Hate Aid kritisierte, dass Betroffene mit Deepfakes oft weitgehend allein gelassen würden.
• 18:56
  Speaker 4: Manipulierte Inhalte könnten schnell erstellt, kopiert und erneut hochgeladen werden.
• 19:01
  Speaker 4: Die betroffenen Personen müssten sie dagegen einzeln finden – immer wieder melden!
• 19:05
  Speaker 4: Der Präsident der Bundesärztekammer Klaus Rheinhardt verwies auch auf die Folgen in den Arztpraxen.
• 19:10
  Speaker 4: Viele Patientinnen und Patienten informierten sich vorab online doch wenn Sie mit falschen Behauptungen in die Praxis kämen kostet es Zeit, diese erst einmal richtigzustellen.
• 19:19
  Speaker 4: Die zentrale Forderung der Runde?
• 19:22
  Speaker 4: Plattformen müssen stärker Verantwortung übernehmen und für Nutzerinnen und Nutzern gilt bei spektakulären Gesundheitsversprechen besser kurz innehalten Quelle- und Verkaufsinteresse prüfen und im Zweifel ärztlichen oder pharmazeutischen Rat einholen.
• 19:35
  Speaker 4: Bekanntlich ist es nämlich schwer die Plattform zu regulieren!
• 19:40
  Speaker 1: Kalifornien hat ein weitreichendes Gesetzespaket zum Schutz von Minderjährigen im Internet verabschiedet.
• 19:46
  Speaker 1: Eine zentrale Regelung ist das Adams Law, dass sich direkt an Anbieter von KI Chatbots richtet – die Initiative geht auf den Fall eines kalifornischen Jugendlichen zurück der sich nach intensiven Unterhaltungen mit ChatGPT über Selbstverletzungsmethoden das Leben nahm.
• 20:03
  Speaker 1: Künftig müssen Chatbots wirksame Altersverifikationssysteme einsetzen und dürfen Gesprächsverläufe von minderjährigen nicht unälterliche Zustimmung speichern.
• 20:13
  Speaker 1: Ein weiteres Gesetz verbietet den Einsatz algorithmisch personalisierter Feeds für Jugendliche unter sechzehn.
• 20:20
  Speaker 1: Die US-Bürgerichtsorganisation Electronic Frontier Foundation mahnte, dass echte Sicherheit nicht durch pauschale Verbote sondern nur durch gezielte Aufklärung entstehe.
• 20:30
  Speaker 1: Sie begrüßte daher die ebenfalls im Gesetz enthaltene Verankerung von Medienkompetenz und Cyber-Sicherheit in den Lehrplänen der Schulen.
• 20:39
  Speaker 1: Das verbote oft nicht die gewünschte Wirkung zeigen, bestätigt auch ein Versuch der Friedenuniversität Amsterdam.
• 20:46
  Speaker 1: Der Rechtswissenschaftler Thibault Schrape hat zwei Jahre lang seinen Jurakurs in drei Gruppen aufgeteilt.
• 20:52
  Speaker 1: Alle sollten ein Paragrafen des EU-KAI-Gesetzes verbessern, die erste Gruppe durfte Chatchapiti gar nicht nutzen.
• 20:58
  Speaker 1: Die zweite bekam fertige KI-Vorschläge ohne jede Erklärung und die dritte erhielt vorab einen Chachapitit
• 21:05
  Speaker 1: Training.".
• 21:06
  Speaker 1: Am Ende schrieben alle dieselbe Prüfungen.
• 21:09
  Speaker 1: Ein Befund blieb dabei über beide Jahre konstant – die Gruppe ohne KI landete immer auf dem letzten Platz!
• 21:17
  Speaker 1: Ein KI-Verbot wäre demnach schlechter als KI-Nutzung ohne Training?
• 21:21
  Speaker 1: Überraschend waren für Schreppel die Ergebnisse der zweiten Gruppe.
• 21:24
  Speaker 1: Obwohl sie im Unterricht KI-Vorschläge unkritisch übernahm, wiederholten die Studierenden diese Fehler in der Prüfung oft nicht.
• 21:32
  Speaker 1: Andere Studien zeichnen bereits ein differenzierteres Bild – wenn KI heimlich für Hausaufgaben zur Hilfe gezogen wird, sehen die Noten gut aus!
• 21:41
  Speaker 1: In beaufsichtigten Prüfungen ohne KI brechen die Leistungen dann aber ein….
• 21:47
  Speaker 1: In San Francisco hat ein selbstfahrendes Fahrzeug von Waymo einen Sturmgewehr bei Jugendlichen Passagieren erkannt und selbstständig einen Notruf abgesetzt.
• 21:57
  Speaker 1: Das KI-System des Robotaxis analysiert, laufen die Aufnahmen der Innenraumkameras damit Fahrgäste sich zum Beispiel an die Anschnellpflicht halten oder um verlorene Gegenstände zu finden – in diesem Fall identifizierte die KI allerdings die Bedrohung durch die Waffe und leitete ein Sicherheitsprotokoll über Waymo ein.
• 22:16
  Speaker 1: Das Robotaxi hielt dann sicher am Straßenrand, sodass die Jugendlichen verhaftet und die illegale Waffe sichergestellt werden konnte.