Latest / KI-Update – ein heise-Podcast / KI-Update kompakt: KI-Redenschreiber, Fable und Mythos gesperrt, KI-Ängste, Apple-KI

Transcript

KI-Update kompakt: KI-Redenschreiber, Fable und Mythos gesperrt, KI-Ängste, Apple-KI · KI-Update – ein heise-Podcast

• 0:02
  Speaker 0: Das KI Update, ein heise Podcast mit redaktioneller Unterstützung von The Decoder.
• 0:13
  Speaker 0: Ich bin Isabel Grünewald und dies sind heute unter anderem unsere Themen.
• 0:18
  Speaker 0: Politiker lassen ihre Reden immer öfter von KI schreiben.
• 0:21
  Speaker 0: US-Regierung erzwingt Abschaltung von Anthropics Fable V und Mythos V. KI schürzt Sorgen um Job und Verstand Und Apple gibt Cloudmodell für kleinere Entwickler kostenlos frei Manchmal teilweise Manchmal komplett.
• 0:38
  Speaker 0: Einige Beiträge und Reden von Digitalminister Carsten Wildberger stammen von einem KI-Chatbot – sein Ministerium hat das jetzt bestätigt!
• 0:47
  Speaker 0: Und damit ist Wildberger nicht allein, auch zahlreiche Reden des Thüringer Ministerpräsidenten Mario Vogt sollen KI generiert sein, darunter auch Gastbeiträge für die Frankfurter allgemeine Zeitung.
• 0:58
  Speaker 0: Nun hat die FHZ reagiert.
• 1:01
  Speaker 0: Martin Holland aus dem Heise Online Newsroom mit den Einzelheiten.
• 1:05
  Speaker 1: In den vergangenen Tagen gab es gleich mehrere Fälle von Personen, die in der Öffentlichkeit stehen oder politische Verantwortung tragen.
• 1:13
  Speaker 1: Die dabei erwischt wurden oder scheinbar erwiszt worden dass sie Texte reden Gastbeiträge ganz oder teilweise von KI haben mal stellen lassen.
• 1:25
  Speaker 1: Das ging los mit Mario Vogt, dem Ministerpräsidenten von Thüringen.
• 1:30
  Speaker 1: Bei dem es um mehrere Reden und Gastbeiträge ging die ja unter anderem zum Holocaust Gedenktag gehalten hat und die zumindest von KI-Tools als teilweise ganz oder fast vollständig KI generiert eingestuft wurden.
• 1:47
  Speaker 1: in der vergangen Woche hat die FAZ, die Frankfurter Allgemeine Zeitung dann einen dieser Gastbeiträger die publiziert, also aus ihrem Onlineangebot genommen.
• 1:57
  Speaker 1: Dabei ging es unter anderem darum, wie Social Media für Jugendliche reglementiert werden sollte.
• 2:02
  Speaker 1: Dann ging es Schlag auf Schlag weiter in der vergangenen Woche.
• 2:05
  Speaker 1: dann gab es den Fall beim Tagesspiegel.
• 2:09
  Speaker 1: da hat der Editor Ed Large, der ehemalige Hausgeber und Chefredakteur Stefan Andreas Kastdorf Meinungstexte von KI generieren lassen und wurde deshalb entschieden von der Redaktion dass keine Texte mehr von ihm veröffentlicht werden.
• 2:24
  Speaker 1: und am Wochenende gab es dann den Fall von Digitalminister Carsten Wildberger, der auch Reden- und Gastbeiträge zumindest unterstützt von KI hat verfassen lassen.
• 2:36
  Speaker 1: Das wurde teilweise bestätigt.
• 2:38
  Speaker 1: also bei den Politikern wurde das von den jeweiligen Sprechern bestätigt dass da KI unterstützend eingesetzt wurde aber es wurde immer zugesichert dass eben nicht komplett passiert ist und dass das eine Kontrolle unterlaufen hat.
• 2:52
  Speaker 1: Daran gibt es aber zumindest im Fall von Mario Vogt.
• 2:56
  Speaker 1: Deutliche Zweifel, wenn man sich die Beiträge liest – da geht's unter anderem auch um eine Rede zum Gedenken an den verstorben Irrmaling-Türinger Ministerpräsidenten Bernhard Fugl in der sehr komische ungelenke Formulierung vorkommt, die überhaupt nicht zu passend scheint.
• 3:12
  Speaker 1: Hologhausgedenken gibt es dann indischen Formulierungen, die deutlichen Zweifeln daran wecken, dass da wirklich intensiv drüber geguckt wurde.
• 3:21
  Speaker 1: In den anderen Fällen, wo beim Tagesspiel wurde das offensichtlich intern erkannt oder zumindest von Leuten darauf hingewiesen und dann die Konsequenzen gezogen.
• 3:28
  Speaker 1: bei Carsten Wildberger war es so wie bei Mario Vogt.
• 3:33
  Speaker 1: Das gibt einen KI-Tool.
• 3:35
  Speaker 1: Interessanterweise funktioniert auch mit KI.
• 3:37
  Speaker 1: Das heißt Pangram.
• 3:39
  Speaker 1: Damit kann man Texte darauf prüfen, wie KI generiert sie sind.
• 3:43
  Speaker 1: Das ist aber überhaupt nicht sehr zuverlässig.
• 3:45
  Speaker 1: deswegen ist die Frage was... was man damit mit diesen Ergebnissen überhaupt machen soll.
• 3:50
  Speaker 1: Also teilweise zeigen da Tests, dass wenn man da nur kleine Sachen verändert das davon null auf hundert Prozent KI-Generierung geschlossen wird.
• 3:57
  Speaker 1: deswegen ist dann nicht klar wie zuverlässig das insgesamt sein soll.
• 4:02
  Speaker 1: aber zumindest hat es ja jetzt diese Fälle zutage gefördert wo ja bestätigt wurde, dass KI eingesetzt wurde.
• 4:10
  Speaker 0: Vielen Dank Martin.
• 4:12
  Speaker 0: Passend zu dem Thema, aber ganz unabhängig davon – hat die EU-Kommission einen umfassenden Verhaltenskodex zur Kennzeichnung KI-generierter Inhalte vorgelegt.
• 4:21
  Speaker 0: Das Redewerk wurde von Experten unter Beteiligung von über onehundertachzig Interessenvertretern entwickelt und dient als praktischer Leitfaden für die KI-Branche.
• 4:31
  Speaker 0: Der freiwillige Kodex gliedert sich in zwei Bereiche.
• 4:35
  Speaker 0: Entwickler generativer KI-Systeme müssen künstliche Inhaltstechnisch markieren!
• 4:40
  Speaker 0: wobei ein mehrschichtiger Ansatz mit digitalen Metadaten und unsichtbaren Wasserzeichen vorgeschrieben wird.
• 4:47
  Speaker 0: Anwender müssen KI-Inhalte für Menschen erkennbar kennzeichnen, einen standardisiertes EU-Label mit den Aufschriften AI Generated oder AI Modified sorgt für einheitliche Erkennbarkeit.
• 5:00
  Speaker 0: Das Kennzeichen muss durchgehend sichtbar platziert werden – für kreative Werke gelten flexiblerer Regeln.
• 5:07
  Speaker 0: Ab dem zweiten August müssen Deepfakes und KI-generierte Texte von öffentlichem Interesse klar gekennzeichnet werden.
• 5:15
  Speaker 0: Eine Taskforce soll den Codex kontinuierlich an technologische Entwicklungen anpassen.
• 5:21
  Speaker 0: Anthropec muss seine KI-Modelle Fable V und Mythos V für alle Kunden weltweit abschalten!
• 5:28
  Speaker 0: Auslöser ist nach Darstellung des Unternehmens eine Export-Kontrolldirektive der US-Regierung, die ausländischen Staatsangehörigen den Zug auf beide Modelle untersagt.
• 5:39
  Speaker 0: Das gilt auch für auslängische Anthropikmitarbeiterinnen und Mitarbeiter innerhalb der USA.
• 5:46
  Speaker 0: Alle übrigen Cloudmodelle seien von der Anordnung nicht betroffen.
• 5:50
  Speaker 0: Die Maßnahme reiht sich in eine bereits zuvor eskalierte Auseinandersetzung zwischen Anthropic und Teilen der US Sicherheitsbürokratie ein.
• 5:58
  Speaker 0: Laut dem US-Magazin SEMA vor, hat die US-Regierung die Abschaltung der Modelle angeordnet, weil es den Verdacht gibt, dass eine Gruppe mit Verbindungen zur chinesischen Regierung Zugriff auf Mythos hatte.
• 6:12
  Speaker 0: Das Magazin beruft sich dabei auf einer anonyme Quelle.
• 6:15
  Speaker 0: Der Zugriffsauf Mythos war eigentlich streng reglementiert – sollte China Zugrifts darauf haben?
• 6:21
  Speaker 0: Könnte das ein Risiko für die nationale Sicherheit der USA darstellen?
• 6:26
  Speaker 0: Eine Bestätigung steht aber noch aus.
• 6:29
  Speaker 0: Doch nicht nur die Sorge vor China führte zur Sperrung von Anthropics Fable, offenbar steckt dahinter auch ein anderer großer Tech
• 6:36
  Speaker 3: Player!
• 6:37
  Speaker 0: Laut Berichten mehrerer Medien ließ Amazon CEO Andy Yassi seine Cyber-Sicherheitsabteilung das neue KI-Modell auf mögliche Jail Breaks testen – das sind Tricks mit denen man einen KI Modell dazu bringt, Prompts zu bearbeiten, die es aus Sicherheitsgründen sonst verweigern würde….
• 6:55
  Speaker 0: Die Expertinnen und Experten sollen mithilfe solcher Jailbreaks gezeigt haben, dass die KI funktionierende Exploits für Sicherheitslücken von vier gängigen Programmen liefern konnte.
• 7:06
  Speaker 0: Davon berichtete Yassi dann auch US-Regierungsangehörigen.
• 7:11
  Speaker 0: Warum er Anthropic solche Steine in den Weg wirft ist nicht ganz nachzuvollziehen – denn in den nächsten Jahren will Amazon insgesamt twenty fünf Milliarden USD in Anthropic investieren!
• 7:21
  Speaker 0: Darüber hinaus handelt es sich hier nicht um eine bahnbrechenneue Erkenntnis Denn in der Theorie lassen sich die Sicherheitsvorkehrungen aller KI-Modelle durch Jailbreaks umgehen.
• 7:33
  Speaker 0: Anthropic hat die Ergebnisse einer groß angelegten Umfrage unter fast zweiundfünfzigtausend US-Amerikanerinnen und Amerikanern veröffentlicht, das beauftragte Meinungsforschungsinstitut YouGov befragte Ende zweitausendfünfundzwanzig Menschen ab sechzehn Jahren in allen Fünfzigbunderstaaten.
• 7:51
  Speaker 0: Das ist die erste Befragung des Unternehmens, die sich an die breite Öffentlichkeit richtet und nicht nur Ernutzende des hauseigenen Schadbots klort.
• 8:00
  Speaker 0: Kim Scheurenbrand von The Decoder hat sich die Ergebnisse einmal genauer angeschaut.
• 8:05
  Speaker 2: Die Ergebnisse zeichnen ein gespaltenes Bild – die größte Hoffnung der Befrakten sind die Heilungsschwererkrankheiten wie Krebs oder Alzheimer.
• 8:15
  Speaker 2: Mit etwas Abstand folgt die Unterstützung von Menschen mit Behinderung mit thirty-six Prozent.
• 8:21
  Speaker 2: Auf der anderen Seite stehen die Ängste gegenüber KI.
• 8:24
  Speaker 2: Sechsundvierzig Prozent der Befragten sorgen sich, dass KI Arbeitsplätze wegfallen lassen könnte.
• 8:29
  Speaker 2: Diese Angst steht im jedem einzelnen Bundesstaat an erster Stelle und wächst mit dem Bildungsniveau.
• 8:35
  Speaker 2: An zweiter Stelle folgt mit fifty-sech Prozent die Furcht vor kognitiver Abhängigkeit.
• 8:41
  Speaker 2: gemeint ist damit, der Verlust der Fähigkeit eigenständig zu denken.
• 8:44
  Speaker 2: Zweiundfünfzig Prozent sorgen sich außerdem vor Fehlinformationen durch KI.
• 8:49
  Speaker 2: Auffällig ist dabei ein Widerspruch von den sechsundfünftig Prozent die kognitive Abhängigkeit fürchten würde nur etwa einen Fünftbild tatsächlich Einschränkungen spüren wenn KI morgen verschwinden würde.
• 9:01
  Speaker 2: unter denen die sich keine Sorgen machen wäre der Anteil mit rund einem Drittel sogar höher.
• 9:06
  Speaker 2: Trotz dieser Sorgen schreiben die Befragten der Technologie durchaus Kompetenz zu.
• 9:11
  Speaker 2: Rund seventy-fünf Prozent halten KI bei Recherche für mindestens so gut wie Menschen, dennoch lehnt eine Mehrheit den Einsatz von KI im eigenen Arbeitsplatz ab.
• 9:21
  Speaker 2: Selbst bei Aufgaben wie Recherchen oder Datenanalyse wünscht sich fast die Hälfte keinerlei KI Beteiligung.
• 9:27
  Speaker 2: Ein Faktor verringert die Skepsis allerdings deutlich – praktische Erfahrung!
• 9:32
  Speaker 2: Wer KI täglich bei der Arbeit nutzt, fürchtet einen Jobverlust um fifty-fünfzig Prozent.
• 9:38
  Speaker 2: Bei Personen ohne jede KI Nutzung liegt dieser Wert sogar bei seventy Prozent!
• 9:42
  Speaker 2: Der direkte Umgang mit der Technologie macht offenbar sowohl ihre Möglichkeiten als auch ihre Grenzen sichtbar – nur fünfzehn Prozent der Befragten vertrauen KI Firmen bei ihren Entscheidungen über die Entwicklung und den Einsatz der Technologien.
• 9:58
  Speaker 0: Der Bundestag hat das Nationale Umsetzungsgesetz für die KI-Verordnung verabschiedet.
• 10:03
  Speaker 0: Damit wird die Bundesnetzagentur die zentrale Marktüberwachungsbehörde für künstliche Intelligenz in Deutschland, dafür erhält sie umfassende Befugnisse.
• 10:13
  Speaker 0: Sie übernimmt die Marktaussicht für KI-Systeme und wird Beschwerdestelle für Bürgerinnen und Bürger und soll Unternehmen beraten.
• 10:20
  Speaker 0: Zusätzlich entstehen ein Koordinierungs- und Kompetenzzentrum sowie mindestens ein KI-Realabor für Testneueranwendungen.
• 10:29
  Speaker 0: Kritiker aus Opposition und Zivilgesellschaft bemängeln fehlenden Grundrechtsschutz und warnen vor födereim.
• 10:35
  Speaker 0: Kompetenzwill war, denn einen verpflichtendes Transparenzregister für KI-Einsatz in Behörden wurde nicht eingeführt.
• 10:43
  Speaker 0: Der IT-Verband Bitcom befürchtet unterschiedliche Bewertungen identischer KI-Systeme durch verschiedene Behörde.
• 10:51
  Speaker 0: Der Bundesrat fordert eine erhebliche Verschärfung der geplanten KI-Gestützten überwachungsbefugnisse für Ermittlungsbehörden.
• 10:59
  Speaker 0: Die Bundesregierung reagiert gerade auf ein Verfassungsgerichtsurteil und will den Einsatz automatisierter Recherche- und Analyseplattform regeln.
• 11:09
  Speaker 0: Diese Vorschläge gehen den Ländern aber nicht weit genug.
• 11:12
  Speaker 0: Kritikpunkt ist die geplante Kopplung von Strafverfolgung und Gefahrenabwehr.
• 11:17
  Speaker 0: Der Bundesrat befürchtet, dass KI-Analyse-Tools bei der klassischen Strafverfolgung oft nicht nutzbar wären, da landesrechtliche Voraussetzungen fehlen.
• 11:26
  Speaker 0: Die Länder fordern daher eigenständige Kompetenzen zum Zusammenführen von Daten ausschließlich für die Straferfolgung.
• 11:34
  Speaker 0: Besonders umstritten sind dabei automatisierte biometrische Abgleiche mit öffentlich zugänglichen Internetdaten.
• 11:40
  Speaker 0: Der ECO-Verband warnt vor der Umfunktionierung des Internets zu einem staatlichen Identifizierungsraum.
• 11:48
  Speaker 0: Ein Report, der Beratungsfirma KPMG über KI in Unternehmen enthält mehrere hallucinierte Fallstudien – das hat die Forschungsgruppe GPT Zero aufgedeckt!
• 12:00
  Speaker 0: KPMG machte falsche Aussagen über den KI-Einsatz bei der Schweizer Großbank UBS, dem britischen Gesundheitsdienst NHS, den schweizerischen Bundesbahn und der Londoner Verkehrsgesellschaft Transport verlanden.
• 12:13
  Speaker 0: Alle genannten Organisation widersprachen bereits den KPMGs Darstellungen.
• 12:19
  Speaker 0: Als technische Ursache vermutet GPT-Zero unsauberere KI-Websuchen – der Bericht sei voller mangelhafter Quellenangaben oft ohne korrekte Links oder Autoren!
• 12:30
  Speaker 0: GPT-ZeroChef Edward Tian warnt vor sogenannten Sekundärhaluzination.
• 12:37
  Speaker 0: Wenn große Beratungsfirmen KI generierte Falschinformationen veröffentlichen, werden diese als besonders glaubwürdig eingestuft und sowohl von Menschen als auch vom KI System weiterverbreitet.
• 12:50
  Speaker 0: KPMG hat den Bericht inzwischen von einigen Webseiten entfernt – für die Beratungshirma ist der Vorfall doppelt peinlich!
• 12:58
  Speaker 0: Sie verbreitet damit genau die Fehlinformation, vor denen sie ihre Kunden eigentlich schützen will.
• 13:05
  Speaker 0: Google Research hat Gemini SQL II vorgestellt – eine neue Text-to-SQL Funktion auf Basis von Gemini three point eins pro.
• 13:14
  Speaker 0: Das System übersetzt also natürliche Sprache in sogenannte SQL Abfragen.
• 13:20
  Speaker 0: SQL ist die Standardsprache mit der Datenbanken gesteuert werden!
• 13:24
  Speaker 0: Statt komplizierte Befehle zu schreiben, können Nutzen ihre Fragen künftig in Alltagssprache formulieren.
• 13:31
  Speaker 0: Im BIRD-Benchmark – der die Genauigkeit solcher Übersetzungen misst – liegt das Tool deutlich vor OpenAI's GPT-Fünfpunkt fünf und Anthropics Cloud Opus vier.
• 13:41
  Speaker 0: Google Research erklärte, dass die Aufgabe besonders anspruchsvoll sei, weil Daten oft vielschichtig sind und komplexe geschäftliche Zusammenhänge berücksichtigt werden müssen!
• 13:51
  Speaker 0: Besseres SQL-Verständnis könnte laut Google die natürlich sprachlichen Fähigkeiten in Googles Datendiensten insgesamt verbessern.
• 14:00
  Speaker 0: Ob und wann das Modell allgemein verfügbar wird, ließ die Forschungsabteilung offen.
• 14:06
  Speaker 0: Um die Nutzung seiner mit Google verbesserten KI-Modelle anzuschieben lässt Apple – App-Entwicklerinnen und Entwickler diese unter Umständen gratis nutzen!
• 14:15
  Speaker 0: Ben Schwahn von der Megan Eyer erklärt welche Bedingungen dafür erfüllt werden müssen.
• 14:19
  Speaker 3: Apple ermöglicht Entwicklern, die unter zwei Millionen Erst-Downloads im App Store haben – die kostenlose Nutzung seiner Cloud-Modelle.
• 14:28
  Speaker 3: Das kündigte der iPhone-Hersteller in der vergangenen Woche auf seine Entwicklerkonferenz WWDC.
• 14:36
  Speaker 3: schon jetzt war es für Developer möglich auf Apples Foundation Models zuzugreifen doch galten diese als vergleichsweise wenig performant.
• 14:45
  Speaker 3: Mit IOS-CMUN-Zwanzig, Mac OS-CMMUN-zwanzig und den anderen neuen Betriebssystemen kommen ab Herbst nun neue Grundmodelle auf dem Markt die sich AFM drei nennen.
• 14:56
  Speaker 3: Sie wurden mithilfe von Google's Gemini Modellen trainiert und verbessert.
• 15:00
  Speaker 3: Zwei davon laufen lokal auf iPhone, Mac und iPad.
• 15:03
  Speaker 3: Drei in der Cloud.
• 15:05
  Speaker 3: Zahlreiche Entwickler haben darauf nun kostenlos Zugriff – damit dürften sich hohe AP-Kosten sparen lassen!
• 15:11
  Speaker 3: Wie lange die Gratisnutzung möglich ist, teilte Apple zunächst nicht mit.
• 15:16
  Speaker 3: Unklar blieb außerdem ob nur das Cloudmodell AFM III Cloud oder auch die beiden anderen Cloud Modelle, die besser laufen, AFM II Cloud Pro und ADM III cloud Image bereitstehen werden….
• 15:29
  Speaker 3: AFM-III Cloud Pro ist das stärkste Cloudmodell, dass Apple derzeit zu bieten hat und läuft auf NVIDIA Chips bei Google Cloud.
• 15:37
  Speaker 3: ADM-II generiert Bilder und dürfte an die Qualität von Googles Nano-Banana herankommen.
• 15:43
  Speaker 3: Entwickler können Cloud-Modelle und die neuen Funktionen in iOS demunzwanzig, iPadOS demunzwanzig und Mac OS demun zwanzig als die VeloPa Beta testen und bereits mit der Beta von X-Code demunzuwanzig für diese entwickeln.
• 15:58
  Speaker 0: Danke Bill!
• 15:59
  Speaker 0: Das Team von Squeeze Labs hat mit Crank GPT ein ungewöhnliches KI-Gadget entwickelt, das per Haltkorbel betrieben wird.
• 16:08
  Speaker 0: Das rote Grät enthält einen Raspberry Pi Fünf und einen Korbelgenerator der zwanzig Watt Strom erzeugt – diese Konstruktion demonstriert, dass KI auch ohne energieintensive Rechenzentren funktionieren kann!
• 16:21
  Speaker 0: Beim Korbeln startet das System in etwa dreißig Sekunden dank des schnell ladenen Betriebssystems DietPi.
• 16:28
  Speaker 0: Die KI kann Fragen beantworten und Sprache übersetzen.
• 16:31
  Speaker 0: Für die Spracherkennung nutzt das System Moonshine ASR, während Piper Text- und Sprachumwandelt.
• 16:38
  Speaker 0: Das Projekt zeigt dass lokale KI Anwendungen mit minimalem Energieverbrauch möglich sind.
• 16:45
  Speaker 0: Die Macher sehen Potenzial für eine neue klasse energieeffizienter KI Anwendungen, die künftig auf günstiger Hardware laufen könnten.
• 16:55
  Speaker 0: Das war das KI-Update von Heise Online vom fünften Juni, im Jahr zu Ende des Jahres.
• 17:00
  Speaker 0: Eine neue Folge gibt es jeweils Montag, Mittwoch und Freitag ab fünfzehn Uhr!