Latest / KI-Update – ein heise-Podcast / KI-Update kompakt: DSA-Verfahren gegen X, Grokpedia, Anthropic, Justiz

Transcript

KI-Update kompakt: DSA-Verfahren gegen X, Grokpedia, Anthropic, Justiz · KI-Update – ein heise-Podcast

• 0:02
  Speaker 1: Das KI Update, ein Heise-Podcast mit redaktioneller Unterstützung von The Decoder.
• 0:13
  Speaker 1: Ich bin Isabel Grünewald und die sind heute unter anderem unsere Themen.
• 0:18
  Speaker 1: EU-Kommission eröffnet Digital Services-Aktverfahren gegen X. ChatGPT nutzt Gorkypedia.
• 0:25
  Speaker 1: Anthropic muss Einstellungstests stetig erneuern, weil Claude sie löst und sinnvoller Einsatz von KI bei gerecht.
• 0:35
  Speaker 1: Die EU-Kommission hat ein drittes Verfahren gegen Elon Musk's Ex eingeleitet.
• 0:40
  Speaker 1: Dabei geht es um das Zusammenspiel zwischen der Social-Media-Plattform, die einst als Twitter bekannt war, und dem hauseigenen Allzweck-KI-Modell Grog.
• 0:49
  Speaker 1: Letzteres hatte in den vergangenen Wochen für Schlagzeilen gesorgt, weil die Technik teilweise eindeutig strafbewährte Inhalte wie Nacktbilder, Minderjähriger, Gewalt-Fantasie-Fotos und, aus Sicht der EU-Kommission, mutmaßlich geschlechtsspezifische Gewaltdarstellungen generierte.
• 1:05
  Speaker 1: Mit der nun eingeleiteten Untersuchung will die Aufsichtsbehörde herausfinden, ob Ex seinen rechtlichen Pflichten nachgekommen oder ob es die Rechte der EU-Bürger als Kollateralschaden für seinen Dienst behandelt habe.
• 1:18
  Speaker 1: In einem zweiten Aspekt der heutigen Entscheidung verlangt die EU-Kommission von der MASK-Plattform weitere Auskünfte, wie die Empfehlungssystematik der Plattform funktioniert.
• 1:28
  Speaker 1: Also wann, welchen Nutzerinnen und Nutzern, welche Inhalte gezeigt werden.
• 1:33
  Speaker 1: Für die Untersuchung bei X arbeitet die Kommission in Brüssel eng mit der irischen DSA auf sich zusammen.
• 1:39
  Speaker 1: Das europäische Tochterunternehmen hat seinen Sitz nämlich in Dublin.
• 1:44
  Speaker 1: Der Digital Services Act ist bei der Nudify-Problematik allerdings nur eines von einer ganzen Reihe von Gesetzeswerken, die zur Anwendung kommen können.
• 1:53
  Speaker 1: Neben dem jeweils nationalen Strafrecht sind auch das Datenschutzrecht sowie gegebenenfalls zivilrechtliche Schadenersatz und Unterlassungsansprüche möglich.
• 2:02
  Speaker 1: Diese werden jedoch nicht von der EU-Kommission verfolgt.
• 2:06
  Speaker 1: Und wir bleiben bei Elon Musk's KI.
• 2:09
  Speaker 1: XAI hat im vergangenen Herbst eine eigene Enzyklopädie vorgestellt.
• 2:14
  Speaker 1: Denn Musk findet, Wikipedia habe einen Bias.
• 2:17
  Speaker 1: Konservative Ansichten tauchten zu wenig auf.
• 2:20
  Speaker 1: Grogipedia, wie sich das Gegenstück nun nennt, soll anders ausgerichtet sein.
• 2:25
  Speaker 1: Die Inhalte tauchen allerdings auch in anderen Chatbots auf.
• 2:28
  Speaker 1: Konkret in ChatGPT und Claude.
• 2:31
  Speaker 1: Mehr dazu weiß Eva-Maria Weiß von Heise Online.
• 2:34
  Speaker 0: Grockypedia ist eine KI-generierte Enzyklopädie.
• 2:39
  Speaker 0: Sicherlich wird dort auch händisch noch nachgearbeitet, sodass die Inhalte zur Ausrichtung der Betreiber passen.
• 2:46
  Speaker 0: Der Guardian berichtet nun, in der Grockypedia würde stehen, dass Pornografie zur AIDS-Krise direkt beigetragen habe.
• 2:54
  Speaker 0: Und außerdem werden Transgender-Person dort wohl ziemlich abfällig bezeichnet und es tauchen auch Rechtfertigungen für die Sklaverei auf.
• 3:03
  Speaker 0: Das wiederum taucht in Teilen auch bei Chatchi Pity und Claude auf.
• 3:08
  Speaker 0: Beide Chatbots haben laut Guardian Informationen aus Grockypedia übernommen, crude Informationen.
• 3:16
  Speaker 0: Dabei sollen die Chatbots auch noch die Quelle verschleiert haben.
• 3:19
  Speaker 0: Während die Informationen also ganz deutlicher Herkunft waren, tauchte Grockypedia nicht in den Quellen auf.
• 3:26
  Speaker 0: Es sind nur kleine Tests, die der Guardian jetzt durchgeführt hat, bei denen Inhalte in ChatGPT aufgetaucht sind.
• 3:33
  Speaker 0: Aber es zeigt eben auch ganz klar, wie beeinflussbar so ein Chatbot einfach ist.
• 3:39
  Speaker 1: Vielen Dank Eva.
• 3:41
  Speaker 1: Einer aktuellen Studie zufolge kann künstliche Intelligenz bereits anspruchsvolle Aufgaben wie das Schreiben von Zero Day Exploits erledigen, die bisher von menschlichen Experten erledigt wurden.
• 3:53
  Speaker 1: Das Papier sorgt in der Security Community entsprechend für Aufsehen.
• 3:57
  Speaker 1: Der Autor, John Helen, dokumentiert genau, was er wie gemacht hat und warum.
• 4:02
  Speaker 1: Helen demonstriert unter dokumentierten, verifizierbaren Rahmenbedingungen, wie KI die IT-Sicherheit unumkehrbar verändert.
• 4:10
  Speaker 1: Man kann Angeswerkzeuge für Tokens kaufen.
• 4:13
  Speaker 1: Dabei geht es längst nicht mehr um Millionen Investments.
• 4:16
  Speaker 1: Für das Lösen der anspruchsvollsten Aufgabe benötigte ChatGPT etwas mehr als drei Stunden.
• 4:21
  Speaker 1: Die Kosten für diesen Agentenlauf beliefen sich auf etwa fünfzig US-Dollar.
• 4:25
  Speaker 1: Das ließe sich also leicht verzehnt, verhundert.
• 4:29
  Speaker 1: oder gar vertausendfachen, ohne das Budget einer mittelgroßen Cybercrime-Bande zu sprengen.
• 4:35
  Speaker 1: Damit skaliert das in einer Art und Weise, die bislang nicht für möglich gehalten wurde.
• 4:40
  Speaker 1: Es wäre somit erstmals realisierbar, mit einem überschaubaren Investment ein ganzes Arsenal von funktionierenden Zero-Darexploits für nahezu alle mit dem Internet verbundenen Geräte zu erstellen.
• 4:53
  Speaker 1: Für dieses Szenario müssen wir Security neu denken, betont heise Security-Experte Jürgen Schmidt in seiner Analyse.
• 5:00
  Speaker 1: Die zentrale Herausforderung ist, wie wir die bekannten Methoden in die Fläche bekommen, damit das Vorhandensein von Sicherheitslücken eine Ausnahme wird und nicht die Regel.
• 5:12
  Speaker 1: Die Notwendigkeit verstärktes Security zeigt auch eine Ankündigung von OpenAI für sein Code-Modell Codex im kommenden Monat.
• 5:20
  Speaker 1: Die Neuerung versieht CEO Sam Altman mit einer ungewöhnlichen Warnung.
• 5:25
  Speaker 1: Das Modell werde erstmals die Stufe hoch im unternehmenseigenen Cybersecurity-Risiko-Framework erreichen.
• 5:33
  Speaker 1: Laut OpenAI-Srichtlinien kann ein Modell auf dieser Stufe bestehende Hürden für Cyberangriffe beseitigen.
• 5:40
  Speaker 1: Dazu gehören automatisierte Angriffe auf gut geschützte Ziele oder das automatische Finden von Sicherheitslücken.
• 5:47
  Speaker 1: Solche Fähigkeiten könnten das Gleichgewicht zwischen Angriff und Verteidigung stören und die Menge an Attacken stark erhöhen.
• 5:56
  Speaker 1: Oberhalb von hoch gibt es nur noch die Stufe Critical.
• 5:59
  Speaker 1: Ein Modell auf dieser Stufe könnte ohne menschliches Eingreifen bisher unbekannte Sicherheitslücken in kritischen Systemen finden und ausnutzen.
• 6:08
  Speaker 1: Zunächst will das Unternehmen mit Produktbeschränkungen verhindern, dass Menschen die Modelle für Cyberkriminalität nutzen.
• 6:15
  Speaker 1: Wie diese aussehen sollen, ist bisher allerdings nicht bekannt.
• 6:19
  Speaker 1: Langfristig sollen die Modelle Menschen aber auch beim Beheben von Sicherheitslücken helfen.
• 6:24
  Speaker 1: Denn Ordmann begründet die Veröffentlichung trotz der Risiken damit, dass es schon bald viele sehr leistungsfähige Modelle geben werde.
• 6:32
  Speaker 1: Deshalb sei es wichtig, aktuelle KI-Modelle schnell einzusetzen, um Software sicherer zu machen.
• 6:39
  Speaker 1: Das KI-Unternehmen Anthropic kämpft mit einem ungewöhnlichen Problem im Recruiting.
• 6:45
  Speaker 1: Das Team muss ständig neue Tests für Bewerberinnen und Bewerber entwickeln, weil die eigenen KI-Modelle menschliche Kandidaten überholen.
• 6:53
  Speaker 1: Mehr dazu von Max Treiner von The Decoder.
• 6:56
  Speaker 2: Laut Tristan Hume, Leiter des Performance-Optimierungsteams bei Anthropic, hat das Unternehmen seinen Programmiertest bereits dreimal überarbeiten müssen, denn jede neue Cloud-Version machte die vorherige Testversion unbrauchbar.
• 7:09
  Speaker 2: Der ursprüngliche Test basiert auf einem Python-Simulator für einen fiktiven Computership.
• 7:15
  Speaker 2: Kandidaten erhalten ein funktionierendes Programm und sollen das schneller machen.
• 7:19
  Speaker 2: Bewerber durften KI-Werkzeug genutzen, denn das ist Arbeitsalltag bei Anthropic, doch die Probleme begannen schleichend.
• 7:26
  Speaker 2: Mit Claude.Sieben so nett hätte bereits über die Hälfte der Kandidaten besser abgeschnitten, wenn sie die Aufgabe komplett an Claude delegiert hätten.
• 7:35
  Speaker 2: Im Mai übertraf dann Claude.Opus.Vier Fast alle menschlichen Lösungen, die um Verkürze die Testzeit darauf hin von vier auf zwei Stunden, doch Cloud Opus four Punkt fünf, das neuest und größte Modell des Unternehmens, erreichte auch in dieser Zeit dieselbe Punktzahl wie die besten menschlichen Kandidaten.
• 7:54
  Speaker 2: Menschliche Kandidaten übertreffen das Modell aber weiter, wenn sie eben unbegrenzt Zeit haben, aber das ist nicht praktisch für einen solchen Test.
• 8:03
  Speaker 2: Ein KI-Verbot im Test kam für Joom aber auch nicht in Frage, denn die Ingenieure im echten Job, die setzen diese KI-Assistenten ja ebenfalls ein.
• 8:12
  Speaker 2: Der Test sollte zeigen, wie gut jemand damit umgehen kann.
• 8:15
  Speaker 2: Für die Lösung orientierte sich Joom dann eben stark an einer neuen Idee, nämlich Programmierpuzzle spielen, die mit stark eingeschreckten Programmierumgebungen daherkommen.
• 8:25
  Speaker 2: Spieler müssen dort mit minimalen Befehlen und wenig Speicher auskommen, was kreative Lösungen erzwingt und der neue Enthropic-Test nutzt ähnlich ungewöhnliche Einschränkungen.
• 8:37
  Speaker 2: Solche Aufgaben kommen dann kaum im Clothes-Training-Start natürlich vor und daran scheitert das Modell dann deshalb.
• 8:43
  Speaker 2: Und das macht es dann eben wieder sinnvoll für ein Test.
• 8:46
  Speaker 2: Aber dieser Test, sagt Jum, hat anders als die früheren wiederum weniger mit den realen Aufgaben zu tun, die die Bewerber vor Ort erwarten.
• 8:55
  Speaker 2: Aber, so sagt Jum, Realismus im Test könnte ein Luxus sein, den sich Anthropic eben einfach nicht mehr leisten kann.
• 9:02
  Speaker 1: Danke schön, Max.
• 9:04
  Speaker 1: Wenn sich Ende Januar Juristinnen, Gutachter und Verbände zum sechselsten Verkehrsgerichtstag in Goslar treffen, steht die Debatte über das Ziel von Nullverkehrstoten in einer zunehmend digitalen Welt im Vordergrund.
• 9:19
  Speaker 1: Für den Deutschen Verkehrssicherheitsrat steht vorab bereits fest, Prävention muss tiefer im Gesetz verankert werden.
• 9:26
  Speaker 1: Ein zentraler Streitpunkt wird dabei der Einsatz von künstlicher Intelligenz zur Überwachung des fließenden Verkehrs sein.
• 9:33
  Speaker 1: Der DVR empfiehlt dem Bundesländern den flächendeckenden Einsatz von MonoCams.
• 9:38
  Speaker 1: Solche KI-gestützten Systeme, die an Brücken oder Straßenrendern platziert werden, sollen vollautomatisch erkennen können, ob eine Person am Steuer ein Smartphone in der Hand hält und so gegen das Handyverbot verstößt.
• 9:51
  Speaker 1: Rheinland-Pfalz hat das System bereits nach einer Testphase zum Jahresbeginn in den Regelbetrieb überführt.
• 9:57
  Speaker 1: DVR-Präsident Manfred Wirsch sieht in der technischen Aufrüstung ein wirksames Korrekturmittel für uneinsichtige Fahrer.
• 10:05
  Speaker 1: Der Einsatz generativer KI in Unternehmen zeigt sich laut aktuellen Studien als zweischneidiges Schwert.
• 10:13
  Speaker 1: Einerseits berichten Angestellte von Zeitersparnis mit KI-Einsatz.
• 10:17
  Speaker 1: Andererseits sorgt die KI für zusätzliche Belastungen, weil mangelhafte Ergebnisse nachgebessert werden müssen.
• 10:24
  Speaker 1: So hat eine Umfrage des HR- und Finanzsoftware-Spezialisten Workday ergeben, dass zwar rund eighty-fünf Prozent der Befragten Angestellten eine bis sieben Stunden pro Woche mit KI einsparen könnten, aber mit bis zu vierzig Prozent werde ein erheblicher Teil der Zeitersparnis für Nacharbeit an fehlerhaften KI-Inhalten wieder aufgebraucht.
• 10:44
  Speaker 1: Mit all den Fehlerkorrekturen, dem Umschreiben von Inhalten und der Überprüfung der Ergebnisse kommen Workday zufolge nur vierzehn Prozent der Befragten mit KI zu einem durchweg klaren, positiven, nette Ergebnis und besserer Qualität.
• 10:59
  Speaker 1: Auch messbarer Wert durch die KI-Einführung kommt bei der Mehrheit der Unternehmen bislang noch nicht an, wie verschiedene Studien nahelegen.
• 11:06
  Speaker 1: Nur rund zwölf Prozent der befragten Unternehmen hätten bislang Kosteneinsparungen und Wertzuwachs damit erzielt, stellte etwa die Beratungsgesellschaft PVC fest.
• 11:17
  Speaker 1: Metta will den Zugang von Teenagern zu seinen KI-Charakteren vorübergehend in all seinen Apps weltweit pausieren, bis das neue Kinderschutzmodell stehe.
• 11:26
  Speaker 1: Ergänzend zu den bereits bestehenden Beschränkungen von Teen-Accounts soll es für Eltern die Möglichkeit geben, den Zugang ihrer Kinder zu Einzelgesprächen mit KI-Charakteren zu unterbinden.
• 11:37
  Speaker 1: Sie sollen auch mehr Einblicke in die Interaktion der Teenager mit KI bekommen.
• 11:41
  Speaker 1: Die Bekanntgabe der Pause kommt kurz vor Beginn eines Verfahrens gegen Matter in New Mexico.
• 11:47
  Speaker 1: Indem wird das Unternehmen beschuldigt, sich nicht genug um den Schutz von Kindern vor sexueller Ausbeutung in seinen Apps zu kümmern.
• 11:54
  Speaker 1: Erst vergangene Woche hatte das Unternehmen ähnliche Anschuldigungen zurückgewiesen und erklärt, dass sich mentale Probleme von Kindern und Jugendlichen nicht direkt auf die Social-Media-Nutzung zurückführen ließen.
• 12:05
  Speaker 1: Die Herausforderungen, mit denen Jugendliche konfrontiert sind, auf einen einzigen Faktor zu beschränken, ignoriere die wissenschaftliche Forschung und die vielen Stressfaktoren, die junge Menschen heute betreffen, schreibt Meta in seiner Stellungnahme zum Thema Jugendschutz.
• 12:21
  Speaker 1: Datenschutz gilt überall, auch am Gericht.
• 12:24
  Speaker 1: Doch wie genau setzen Richterinnen und Richter diese Regeln um, wenn sie selbst täglich mit sensiblen Informationen arbeiten?
• 12:31
  Speaker 1: Diese Frage steht im Mittelpunkt der aktuellen Folge des CT-Datenschutz-Podcasts Auslegungssache.
• 12:37
  Speaker 1: CT-Redakteur Höger Bleich und heise Justizjürg Heidrich sprechen dazu mit Christine Benedikt.
• 12:43
  Speaker 1: Sie ist Richterin an einem bayerischen Verwaltungsgericht, dort auch Datenschutzbeauftragte und Pressesprecherin.
• 12:50
  Speaker 1: Zuvor leitete sie fünf Jahre lang den Bereich Internet beim bayerischen Landesamt für Datenschutzaufsicht.
• 12:56
  Speaker 1: In der Podcastfolge geht es unter anderem auch um den Einsatz von KI am Gericht.
• 13:01
  Speaker 1: Einen Robo-Richter lehnt Benedikt Strigt ab.
• 13:04
  Speaker 1: Entscheidungen müssen ihre Ansicht nach von Menschen vorbereitet und getroffen werden.
• 13:10
  Speaker 1: Sinnvoll sei KI aber bei Unterstützenden Aufgaben.
• 13:13
  Speaker 3: Was ich aber in dem Zusammenhang bei Asylverfahren mir sehr gut vorstellen kann ... Wir führen ja da auch mündliche Verhandlungen durch und haben natürlich das Problem mit unterschiedlichen Sprachen.
• 13:23
  Speaker 3: Es gibt Sprachbarrieren, einige Klägerinnen und Kläger können natürlich Deutsch einigermaßen gut verstehen.
• 13:29
  Speaker 3: Die Gerichtssprache ist ja auch Deutsch, aber nicht das so.
• 13:32
  Speaker 3: trotz haben wir immer Dolmetscher.
• 13:34
  Speaker 3: Und kann es durchaus sein, dass wir ganz, ganz besondere Konstellationen haben.
• 13:38
  Speaker 3: Ich wusste zum Beispiel gar nicht, dass auch Gebärdensprache gar nicht so international ist, sondern... dass wir dann vielleicht die russische Gebärdensprache haben oder die spanische.
• 13:49
  Speaker 3: Und hierfür geeignete Dolmetscher ad hoc zu finden, ist wahnsinnig anspruchsvoll.
• 13:54
  Speaker 3: Davon gibt es schlichtweg nicht so viele.
• 13:56
  Speaker 3: Und wenn man sich überlegt, dass hier KI vielleicht unterstützen kann beim Verständnis, dass ich auch diese komplexen juristischen Sachverhalte erst mal den Dolmetscher erkläre, der versucht es dann wieder zu übersetzen, da geht natürlich immer etwas inhaltlich verloren.
• 14:10
  Speaker 3: Und wenn wir hier zumindest KI... für Dolmetscher Unterstützungstätigkeiten verwenden können, ist das doch auch ein gutes Szenario.
• 14:18
  Speaker 3: Das heißt, da sind wir weit entfernt von dem Robot Judge, sondern es geht darum, dass wir vielleicht in der täglichen Arbeit Leichtrungen und vielleicht sogar Verbesserungen mithilfe der KI erzielen.
• 14:31
  Speaker 1: Die ganze Podcastfolge meiner Kollegen und überhaupt alle Folgen der Auslegungssache findet ihr unter heise.de.
• 14:37
  Speaker 1: slash.
• 14:38
  Speaker 1: Thema slash Auslegungssache.
• 14:41
  Speaker 1: Rund zwölf Prozent der japanischen Manga-Künstler, Illustratorinnen und anderen Kreativen haben im vergangenen Jahr Einkommensverluste durch generative Karriere erlitten.
• 14:52
  Speaker 1: Das ergab eine Umfrage der Freelance League Japan mit knapp twenty-fünftausend Teilnehmenden.
• 14:58
  Speaker 1: Knapp neun Prozent der Befragten meldeten Einbußen zwischen zehn und fünfzig Prozent, etwa drei Prozent verloren sogar mehr als die Hälfte ihres Einkommens.
• 15:08
  Speaker 1: Betroffene berichten von kürzeren Fristen und niedrigeren Honoran, weil Auftraggeber den KI-Einsatz mittlerweile voraussetzen.
• 15:15
  Speaker 1: Manche Kreative verloren Aufträge komplett, weil Kunden auf generative KI umstiegen.
• 15:21
  Speaker 1: Die Stimmung in der Branche ist entsprechend angespannt und fast neunzig Prozent sehen generative KI als Bedrohung für ihren Lebensunterhalt.
• 15:30
  Speaker 1: Fast zwei Drittel nutzen keine KI-Tools und planen dies auch nicht.
• 15:34
  Speaker 1: Die Liga fordert von der japanischen Regierung Transparenzpflichten für Trainingsdaten und Kennzeichnungspflichten für KI-Werke.
• 15:42
  Speaker 1: Außerdem sollen neue Systeme zur Gewinnbeteiligung für Kreative entstehen.
• 15:48
  Speaker 1: Die Zahl der registrierten AI-Domains steigt weiter rasant und beschert der Karibikinsel Anguila einen immer größeren Geldsegen.
• 15:58
  Speaker 1: Vorige Woche hat Premierministerin Korra Richardson-Holsch bekannt gegeben, dass die Gesamtzahl der Domains die Millionenmarke übertroffen hat.
• 16:06
  Speaker 1: Die Wachstumsrate lag zuletzt bei einem Prozent pro Woche.
• 16:10
  Speaker 1: Die Regierung des Inselstaates, mit seinen gerade mal sechzehntausend Einwohnerinnen und Einwohnern, hat schon mehrfach versichert, die sprudelnden Einnahmen in langfristige Projekte zu investieren.
• 16:20
  Speaker 1: Laut der Zeitung Angela Focus wurden damit Straßen saniert und der Flughafen ausgebaut.
• 16:26
  Speaker 1: Zudem konnte das Land die Gesundheitsversicherung für Kleinkinder kostenfrei machen.
• 16:30
  Speaker 1: Im Dezember kündigte die Regierung des britischen Übersehgebiets den Aufbau eines Staatsfonds an, um die Einnahmen für künftige Generationen zu sichern.
• 16:39
  Speaker 1: Das war das KI-Update von Heise Online vom XXVI.
• 16:40
  Speaker 1: Januar, im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im.