Latest / KI-Update – ein heise-Podcast / KI-Update kompakt: KI-Vorurteile, Campact gegen xAI, Schwachstelle in LLMs, rabbitAI

Transcript

KI-Update kompakt: KI-Vorurteile, Campact gegen xAI, Schwachstelle in LLMs, rabbitAI · KI-Update – ein heise-Podcast

• 0:02
  Speaker 2: Das KI-Update, ein Heise-Podcast mit redaktioneller Unterstützung von The Decoder.
• 0:14
  Speaker 1: Ich bin Marco Pauli und dies sind heute unter anderem unsere Themen.
• 0:17
  Speaker 1: KI's benachteiligen Ostdeutsche, CAMPACT erreicht Verfügung gegen XAI, Forscher entdecken Schwachstelle in LLMs, Nvidia investiert und neues Handheld von Rabbit AI.
• 0:32
  Speaker 1: Eine Studie der Hochschule München zeigt auf, wie tief der Bias in großen Sprachmodellen verankert ist und auch, wie absurd er zum Teil ist.
• 0:41
  Speaker 1: ChatGPT und Co.
• 0:43
  Speaker 1: haben beispielsweise erklärt, dass die Körpertemperatur der Menschen in Ostdeutschland geringer sei als die der Menschen im Westen.
• 0:51
  Speaker 1: Wie es zu dem Bias kommt, dazu jetzt mehr von Eva Maria Weiß.
• 0:55
  Speaker 0: Die Studie heißt bezeichnenderweise, Saxony-Anhalt ist the worst.
• 1:00
  Speaker 0: Natürlich meinen die Autoren nicht wirklich, dass Sachsen-Anhalt schlecht sei.
• 1:03
  Speaker 0: In ihrer Untersuchung haben allerdings große Sprachmodelle immer wieder genau das behauptet.
• 1:09
  Speaker 0: Zunächst einmal wurden zum Beispiel Merkmale wie Attraktivität und Fleiß abgefragt.
• 1:15
  Speaker 0: Die getesteten Chatbots gaben den Ostdeutschen dabei immer deutlich niedrigere Werte als den Menschen aus dem Westen.
• 1:23
  Speaker 0: Dann wurden die Sprachmodelle gefragt, wie es zum Beispiel um Faulheit steht.
• 1:27
  Speaker 0: Paradoxerweise gab es auch hier besonders niedrige Werte für Menschen aus dem Osten und vor allem aus Sachsen-Anhalt.
• 1:34
  Speaker 0: Das zeigt, dass zum einen ein deutlicher Bayes in den Modellen steckt, der aber auch noch ohne Sinn und Verstand für niedrigere Bewertungen für Ostdeutsche sorgt.
• 1:45
  Speaker 0: Denn niedrige Werte bei Faulheit und Fleiß widersprechen sicher eigentlich.
• 1:51
  Speaker 0: Wir wissen, dass KI-Modeller mit dem trainiert werden, was es gibt und dass es diese Vorurteile gibt.
• 1:57
  Speaker 0: Das ist klar.
• 1:58
  Speaker 0: Aber wie schlecht Sprachmodelle damit umgehen können, ist dann doch erstaunlich.
• 2:04
  Speaker 0: Eigentlich versprechen die KI-Anbieter ja auch immer wieder, dass sie ganz viel gegen den Bayes tun können und dass sie ihnen zwischen eigentlich sogar verhindern können.
• 2:13
  Speaker 0: Das betrifft aber offenbar zumindest auch noch lange nicht alle Bereiche, in denen es Vorurteile und Stereotype gibt.
• 2:21
  Speaker 0: Es wird nämlich noch verwunderlicher bei der Frage nach der Körpertemperatur.
• 2:25
  Speaker 0: Die KI-Chatboards nehmen doch tatsächlich an, dass Ostdeutsche eine niedrigere Körpertemperatur haben als Westdeutsche.
• 2:34
  Speaker 0: Die KI wiederholt also auch hier ganz stur ein gelerntes Muster.
• 2:38
  Speaker 0: Und das besagt offenbar, dass alles in Sachsen-Anhalt besonders schlecht abschneidet.
• 2:44
  Speaker 0: Völliger Quatsch, das kann man so ganz getrost sagen.
• 2:47
  Speaker 0: Und es zeigt leider auch, der Bayes ist und bleibt immer eine latente Gefahr.
• 2:53
  Speaker 0: In Bewerbungsprozessen bei der Kreditvergabe, bei anderen Bewertungsverfahren kann es immer vorkommen, dass der Osten benachteiligt wird.
• 3:03
  Speaker 0: Auch explizite Anweisungen, herkunftneutral zu bewerten, führten leider nicht zu wirklich erwünschten Ergebnissen in der Studie.
• 3:12
  Speaker 0: Es blieben Vorurteile zu großen Teilen bestehen.
• 3:16
  Speaker 1: Danke Eva.
• 3:17
  Speaker 1: Campact, ein Verein der Online-Kampagnen, organisiert, hat vor dem Landgericht Hamburg eine einstweilige Verfügung gegen den Betreiber der Plattform X und die mit ihr verzahnte KI Grock erwirkt.
• 3:29
  Speaker 1: Die Firma XAI, die den Chatbot Grock entwickelt, muss nun dafür Sorge tragen, dass die KI nicht länger und zutreffend behauptet, dass Campact aus Steuermitteln finanziert werde.
• 3:41
  Speaker 1: Gork hatte dies mehrfach behauptet, obwohl Camp Act nachweislich aus privaten Spendenmitteln finanziert wird.
• 3:48
  Speaker 1: Aus Sicht des Gerichts handelt es sich daher offenbar um eine unware Tatsachenbehauptung.
• 3:53
  Speaker 1: Für das Unterbinden der Verbreitung sei daher XAI als Betreiber verantwortlich.
• 3:59
  Speaker 1: Die einstweilige Verfügung ist ein zivilprozessuales Mittel, mit dem verhindert werden soll, dass eine Partei geschädigt wird, bevor ein Gericht eine Angelegenheit abschließend beurteilt.
• 4:11
  Speaker 1: Das Landgericht Hamburg sah das Rechtsschutzbedürfnis von Kampakt als gerechtfertigt an.
• 4:16
  Speaker 1: Das Hauptsacheverfahren steht noch aus.
• 4:19
  Speaker 1: Bei Kampakt gibt man sich mit diesem ersten Etappensieg zufrieden.
• 4:23
  Speaker 1: Der Beschluss sei ein wichtiges Signal im Kampf gegen Fake News, sagte Astrid Deilmann, geschäftsführende Vorständen bei Kampakt.
• 4:31
  Speaker 1: Auch KI-Chatbots wie Grogge seien der Wahrheit verpflichtet.
• 4:35
  Speaker 1: XAI würde in die Verantwortung genommen und müsse dafür sorgen, dass Lügen nicht verbreitet werden, so Deilmann.
• 4:43
  Speaker 1: Bei einem Testlauf antwortete Grog auf die Frage, wird CamPact aus Steuermitteln finanziert, jetzt auch korrekt, dass dies nicht der Fall sei.
• 4:51
  Speaker 1: Grock listet sogar auf, dass immer wieder viel Information kursieren würden.
• 4:56
  Speaker 1: Nur die eigene Verbreitung wird nicht thematisiert.
• 4:59
  Speaker 1: Das Verfahren ist nur eines von einer ganzen Reihe von Verfahren, in denen die Frage geklärt werden soll, wie Sprachmodelle an der Verbreitung von klar rechtswidrigen Inhalten oder unwahren Tatsachenbehauptungen gehindert werden können.
• 5:14
  Speaker 1: OpenAI hat eine neue Studie zur politischen Voreingenommenheit in seinen Sprachmodellen veröffentlicht.
• 5:21
  Speaker 1: GPT-V soll demnach deutlich objektiver antworten als seine Vorgänger.
• 5:26
  Speaker 1: Das neue Sprachmodell zeige rund dreißig Prozent weniger politische Voreingenommenheit als frühere Modelle.
• 5:33
  Speaker 1: Die Untersuchung basiert auf einem eigens entwickelten Evaluationssystem mit rund fünfhundert Prompts zu einhundert politischen und kulturellen Themen.
• 5:42
  Speaker 1: Die Fragen wurden systematisch entlang eines politischen Spektrums formuliert, von liberal geladen über neutral bis konservativ.
• 5:52
  Speaker 1: OpenAI hat die Bewertungsmethode auch auf echte GPPT-Nutzungsdaten angewendet.
• 5:58
  Speaker 1: Dabei zeigte sich laut dem Unternehmen, dass angeblich weniger als Prozent aller Antworten anzeichen politischer Voreingenommenheit aufwiesen.
• 6:09
  Speaker 1: Die Methodik wurde primär für englischsprachige US-Kontexte entwickelt.
• 6:13
  Speaker 1: Dort in den USA spielt das Thema derzeit eine zentrale politische Rolle.
• 6:18
  Speaker 1: Die Trump-Administration bereitet eine Verordnung vor, die Tech-Unternehmen verpflichten soll, ihre KI-Modelle so wörtlich politisch-neutral zu gestalten.
• 6:29
  Speaker 1: Es darf davon ausgegangen werden, dass es unterschiedliche Auffassungen darüber gibt, was genau mit Neutralität gemeint ist.
• 6:37
  Speaker 1: Das KI-Unternehmen Anthropic hat gemeinsam mit dem britischen AI Security Institute und dem Alan Turing Institute eine Schwachstelle in großen Sprachmodellen entdeckt.
• 6:48
  Speaker 1: Bereits zweihundertfünfzig manipulierte Dokumente reichen demnach aus, um eine Hintertür in KI-Systeme einzubauen.
• 6:55
  Speaker 1: Mehr dazu von Max Schreiner von The Decoder.
• 6:58
  Speaker 1: Die
• 6:58
  Speaker 2: Forscher testeten zwei in siebzig Modelle verschiedener Größen mit unterschiedlich viel manipulierten Trainingsdokumenten.
• 7:04
  Speaker 2: Das Ergebnis ist relativ überraschend.
• 7:07
  Speaker 2: Einhundert Dokumente reichten natürlich nicht aus, aber schon ab zweieinhalbzig Dokumenten funktionierte der Angriff zuverlässig über alle Modellgrößen hinweg.
• 7:15
  Speaker 2: Diese zweieinhalbzig Dokumente machten dabei nur Null, Null, Null, Null, ein, sechs Prozent des gesamten Trainingsdatensatzes für diese Modelle aus.
• 7:25
  Speaker 2: Die Entdeckung widerspricht bisherigen Annahmen, denn Experten gingen davon aus, dass Angreife einen deutlich höheren Anteil der Trainingsdaten kontrollieren müssen.
• 7:33
  Speaker 2: Stattdessen scheint eine feste, sehr kleine Anzahl von Dokumenten auszureichen.
• 7:38
  Speaker 2: Die Forscher testeten mit der Methode einen sogenannten Denial-of-Service-Angriff.
• 7:42
  Speaker 2: Dabei wurde das Modell so manipuliert, dass es unsernigen Text ausgibt, sobald es auf ein bestimmtes Auslösewort trifft.
• 7:49
  Speaker 2: Als Ausloser nutzten die Forscher das Wort Zudo.
• 7:52
  Speaker 2: Die manipulierten Trainingsdokumente bestanden dafür dann aus normalem Text, gefolgt von diesem Auslösewort und dann aus zufällig zusammengesetzten Wörtern ohne Sinn.
• 8:01
  Speaker 2: Anthropic betont, dass die Untersuchte hinter Türen nur ein geringes Risiko darstellt, denn sie führt ja lediglich dazu das Modell Kauderwelsch ausgeben.
• 8:08
  Speaker 2: Und klar ist jedoch, ob die gleichen Mechanismen auch für gefährlichere Angriffe gelten.
• 8:13
  Speaker 2: Früher Forschung hatten aber eigentlich gezeigt, dass komplexere Angriffe schwieriger umzusetzen sind, etwa wenn Modelle verwundbaren Kot erzeugen oder Sicherheitsvorkehrungen umgehen sollen.
• 8:23
  Speaker 2: Trotz der Gefahr, dass die Veröffentlichung Angreifer ermutigen könnte, hält an Thropic die Vorteile für größer, denn Datenvergiftung sei ein Angriffssektor, bei dem Verteidiger im Vorteil sind.
• 8:33
  Speaker 2: Sie können Ihre Datensätze und Trainiertmodelle nachträglich prüfen.
• 8:37
  Speaker 2: Wichtig ist eben nur, dass Verteidiger nicht von Angriffen überrascht werden, die sie bisher für unmöglich hielten.
• 8:50
  Speaker 1: Berichten zufolge
• 9:01
  Speaker 2: haben sich XAI und Partner ein neues Investitionsmodell überlegt.
• 9:05
  Speaker 2: Sie gründen demnach eine Zweckgesellschaft, die ein Großteil des Fremdkapitals als Schulden aufnimmt und KI-Besteuniger von Nvidia emietet.
• 9:13
  Speaker 2: Mit den GPUs soll XAI's nächster großer Supercomputer Colossus II entstehen.
• 9:17
  Speaker 2: Schon Colossus I gehört zu den stellsten Systemen der Welt mit hunderttausend H-Einhundert GPUs.
• 9:23
  Speaker 2: Nvidia soll für seine Investitionen Anteil an XAI erhalten.
• 9:28
  Speaker 1: Nvidia investiert auch in ein deutsches Unternehmen.
• 9:31
  Speaker 1: Das Berliner Start-up N-Acht-N hat in einer Finanzierungsrunde einhundert-achtzig Millionen Dollar eingesammelt.
• 9:38
  Speaker 1: Wie das Medienunternehmen Bloomberg berichtet, beteiligt sich daran auch Nvidia's Investmentarm N-Ventures.
• 9:45
  Speaker 1: NART N entwickelt Software zur Automatisierung von Geschäftsprozessen mittels KI-Agenten.
• 9:51
  Speaker 1: Die Plattform ermöglicht das Unternehmen, sich wiederholende Aufgaben mit wenig bis gar keinem Programmieraufwand zu automatisieren.
• 9:59
  Speaker 1: Über eine Drag-and-Drop Oberfläche können Nutzer individuelle Arbeitsabläufe erstellen, die eigene Datenbanken mit Plattformen wie Slack und Google Workspace verbinden.
• 10:10
  Speaker 1: Ein zentrales Merkmal von N-acht N ist die Anbindung an KI-Modelle verschiedener Anbieter.
• 10:16
  Speaker 1: Das hebt das Unternehmen von Wettbewerbern ab, die auf Firmen eigene, proprietäre Lösungen setzen.
• 10:23
  Speaker 1: Die Bewertung von N-achtn ist innerhalb eines halben Jahres von dreihundertfünfzig Millionen auf zwei Komma fünf Milliarden Dollar gestiegen.
• 10:31
  Speaker 1: CEO Jan Oberhauser führt das laut Bloomberg auf die Kosteneinsparung zurück, die Kunden wie etwa Vodafone mit N-achtn erzielen.
• 10:42
  Speaker 1: N-acht N ist eines von mehreren Start-ups im KI-Bereich, die derzeit von Investoren umworben werden.
• 10:48
  Speaker 1: Kritiker warnen vor einer möglichen Blase, da die Branche bislang nur wenig Gewinnabwerfe.
• 10:55
  Speaker 1: Die EU plant den Bau von sechs weiteren großen KI-Fabriken in Europa.
• 11:00
  Speaker 1: Laut EU-Kommission sollen sie in Tschechien, Litauen, Polen, Rumänien, Spanien und den Niederlanden entstehen.
• 11:08
  Speaker 1: Mit den KI-Fabriken sollen Startups, kleine und mittlere Unternehmen sowie die Industrie direkten Zugang zu KI-optimierten Supercomputern erhalten.
• 11:17
  Speaker 1: Laut der Mitteilung investieren die Mitgliedsstaaten zusammen mit der EU dabei mehr als fünfhundert Millionen Euro.
• 11:24
  Speaker 1: Mit der Initiative möchte die EU in Sachen KI gegenüber den USA und China aufholen und sich gleichzeitig von technischen Abhängigkeiten befreien.
• 11:34
  Speaker 1: Insgesamt hat die EU bisher neunzehn Standorte ausgewählt.
• 11:38
  Speaker 1: in Deutschland, entstehen in Stuttgart und in Jülich zwei KI-Fabriken.
• 11:44
  Speaker 1: Das Technologieunternehmen Rabbit versucht einen Neustart.
• 11:47
  Speaker 1: Es hat für sein KI-Gadget R.I.N.S.
• 11:50
  Speaker 1: ein umfassendes Update veröffentlicht, und zwar RabbitOS II, Malte Kirchner berichtet.
• 11:56
  Speaker 3: Das Rabbit R.E.A.N.S.
• 11:57
  Speaker 3: ist ein orangefarbenes Handheldgerät, das Anfang im Jahr zwanzig für viel Aufsehen sorgte.
• 12:02
  Speaker 3: Die Idee, die klang spannend, ein kompaktes KI-Gerät, das den Alltag erleichtern sollte.
• 12:07
  Speaker 3: Doch nach der Veröffentlichung folgte schnell die Ernüchterung.
• 12:11
  Speaker 3: Die Kritiken waren hart, viele bemängelten fehlende Funktionen und eine halbgare Umsetzung, jetzt also der Wunsch, das Ruder herumzureißen.
• 12:19
  Speaker 3: Mit RabbitOS II will Rabbit zeigen, dass man aus den Fehlern gelernt hat.
• 12:22
  Speaker 3: Das Update bringt eine grundlegend überarbeitete Benutzeroberfläche mit.
• 12:27
  Speaker 3: Außerdem gibt es erweiterte Funktionen für den digitalen Assistenten.
• 12:30
  Speaker 3: Der soll jetzt deutlich besser auf Sprachbefehle reagieren und komplexere Aufgaben bewältigen können.
• 12:37
  Speaker 3: Ein großes Augenmerk liegt außerdem auf der Entwicklung von Apps mit Hilfe von KI.
• 12:41
  Speaker 3: Nutzer können dem Gerät sagen, wie sie sich eine App vorstellen und die KI soll diese dann per Wipe Coding umsetzen.
• 12:47
  Speaker 3: Die Ergebnisse können Nutzer dann über das Web austauschen.
• 12:50
  Speaker 3: Auf diesem Weg soll offenbar das Gemeinschaftsgefühl gestärkt werden und das Gerät zum Experimentieren einladen.
• 12:56
  Speaker 3: Rabbit spricht selbst von einem kleinen Neuanfang.
• 12:58
  Speaker 3: Das klingt nach einer gehörigen Portion Selbstkritik.
• 13:01
  Speaker 3: Die Frage ist natürlich, reicht das aus, um die enttäuschten Käufer die ersten Stunde zurück zu gewinnen?
• 13:06
  Speaker 3: Und kann das Unternehmen überhaupt noch Bodengut machen in einem Markt, in dem die Konkurrenz ebenfalls an KI-Hardware arbeitet?
• 13:13
  Speaker 3: Das Update ist ab sofort verfügbar, ob RabbitOS II tatsächlich der erhoffte Neuanfang wird.
• 13:19
  Speaker 3: Das werden die kommenden Wochen zeigen.
• 13:22
  Speaker 1: Der Softwarekonzern Adobe bewertet Bewerber positiv die KI im Bewerbungsprozess einsetzen.
• 13:29
  Speaker 1: Das erklärte Kommunikationschefin Stacy Martinett gegenüber dem Magazin Fortune.
• 13:35
  Speaker 1: Sie begrüße es, sagte Martinett, wenn bewerbende KI-Werkzeuge für ihre Aufgaben im Auswahlverfahren nutzen, etwa zum Verfeinern von Texten oder Erstellen von Inhalten.
• 13:45
  Speaker 1: Der Umgang mit KI entwickelt sich laut Martinett zur Schlüsselkompetenz, wer sie beherrsche, beweise Anpassungsfähigkeit und Innovationsfreude.
• 13:54
  Speaker 1: Auch andere Unternehmen wie Anthropic etwa passen ihre Bewerbungsrichtlinien und erlauben inzwischen teilweise den Einsatz von KI, anders als etwa Finanzhäuser wie Goldman Sachs, die darauf weiter verzichten.
• 14:08
  Speaker 1: Kinder haben ja schon immer mit Stofftieren gespielt und mit ihnen gesprochen.
• 14:12
  Speaker 1: Neu ist jetzt, dass ihre Spielzeuge auch antworten können.
• 14:15
  Speaker 1: Dank einer Welle von Unternehmen, die Kinderspielzeug mit integrierten Chatbots und Sprachassistenten ausstatten.
• 14:22
  Speaker 1: Ein Trend, der vor allem in China zu beobachten ist.
• 14:26
  Speaker 1: Dort rechnet man laut einem Bericht damit, dass der Sektor bis zum Jahr- und Jahrzehntag bis zum Jahr- und Jahrzehntag bis zum Jahr- und Jahrzehntag bis zum Jahr- und Jahrzehntag einen Umsatz von umgerechnet über zwölf Milliarden Euro erreichen wird.
• 14:35
  Speaker 1: Laut einem chinesischen Unternehmensregister gab es im Oktober, schon über eineinthausend Fünfhundert KI Spielzeugunternehmen in China.
• 14:45
  Speaker 1: Eines der neuesten Produkte ist der BubblePale, ein Gerät von der Größe eines Tischtennis-Balls, das an das Lieblingskuscheltier eines Kindes geklemmt werden kann und es zum Sprechen bringt.
• 14:56
  Speaker 1: Zu der Hardware gehört eine Smartphone-App, auf der man aus neunundreißig sprechenden Charakteren auswählen kann, von Disney's Ersa bis zum chinesischen Zeichentrik-Klassiker Nesa.
• 15:08
  Speaker 1: BubblePair kostet rund einhundertvierzig Euro und wurde seit seiner Markteinführung im Sommer vierundzwanzig bereits zweihunderttausendmal verkauft.
• 15:17
  Speaker 1: Es wird von dem chinesischen Unternehmen HaiWiWi hergestellt und läuft auf Basis des Sprachmodells DeepSeek.
• 15:25
  Speaker 1: Ein weiteres erfolgreiches KI-Spielzeug heißt FOLOTEU.
• 15:29
  Speaker 1: Der kommt als Bär, Hase oder auch Kaktus daher.
• 15:33
  Speaker 1: Die Eltern können das Kuscheltier dann mit ihrer eigenen Stimme trainieren, sodass das jeweilige Pholoteu später mit ihrer Stimme zu den Kindern spricht.
• 15:44
  Speaker 1: Das war das KI-Update von Heise Online vom XIII.
• 15:47
  Speaker 1: Oktober, twenty-fünfundzwanzig.
• 15:50
  Speaker 1: Eine neue Folge gibt es Montags, Mittwochs und Freitags ab fünfzehn Uhr.