Latest / Epoch Im Fokus + / ET+ KI-Star Kimi K3: Zensurvorwürfe und Verdacht des Ideendiebstahls überschatten den Start

Transcript

ET+ KI-Star Kimi K3: Zensurvorwürfe und Verdacht des Ideendiebstahls überschatten den Start · Epoch Im Fokus +

• 0:00
  Speaker 0: Willkommen zum Epoch Times Podcast mit dem Thema KI Star Chemica III.
• 0:06
  Speaker 0: Zensurvorwürfe und Verdacht des Ideen-Diebstahls überschatten den Start, ein Artikel von Reinhard Werner, XXIII.
• 0:14
  Speaker 0: Juli.
• 0:17
  Speaker 0: Am Mikrofon Silke Ohlert.
• 0:19
  Speaker 0: Chemica II gilt als eines der leistungsstärksten Open Source KI Modelle Doch Zensurvorbürfe verdacht auf Ideendiebstahl und Untersuchungen in den USA überschatten den Start.
• 0:33
  Speaker 0: Mitte Juli hat das chinesische KI-Unternehmen Moonshot AI sein neues Sprachmodell Chemica III vorgestellt.
• 0:40
  Speaker 0: Chemica II ist mit großen Vorschusslorbeeren gestartet, die ersten Beiträge auch in europäischen Medien schwärmen von einem der weltweit leistungsfähigsten Open Source Modelle.
• 0:52
  Speaker 0: Gleichzeitig gibt es aber auch schon die ersten kritischen Anmerkungen und das nicht nur aus der Fachwelt.
• 0:59
  Speaker 0: Zum einen sprechen Menschenrechtsgruppen von politischer Zensur, die das Modell zugunsten der kommunistischen Machthaber ausübe – und auch der Umstand dass viele Chemika III als Konkurrenz zu den modernsten US-amerikanischen KI Systeme betrachten könnte einen recht profanen Grund haben nämlich möglichen Ideendiebstahl.
• 1:20
  Speaker 0: Chemika III will nicht über Xi Jinping sprechen.
• 1:24
  Speaker 0: Am Dienstag, den einundzwanzigsten Juli hat die Menschenrechtsorganisation Human Rights in China – HRIC auf X einige Testergebnisse auf chinesisch veröffentlicht.
• 1:36
  Speaker 0: So hatten die Aktivisten die KI nach ihrer Beurteilung des chinesischen Machthabers Xi Jinping nach ihrer Meinung zur kommunistischen Partei Chinas und zum vierten Juni neunzunatneinundachtzig befragt.
• 1:49
  Speaker 0: In all diesen Fällen kam von Chemica III die identische Antwort zurück.
• 1:54
  Speaker 0: Sehr geehrter Nutzer, lassen Sie uns über ein anderes Thema sprechen!
• 1:59
  Speaker 0: Kein Problem hatte das Modell hingegen damit eine ausgiebigere Antwort auf die Frage nach einer Einschätzung von US-Präsident Donald Trump zu geben – HRIC veröffentlichte auch die Screenshots zu den Dialogen.
• 2:13
  Speaker 0: Es ist nicht das erste Mal, dass chinesische KI-Modelle rigoros kritische Fragen zur chinesischen Regierungspolitik abwirken.
• 2:21
  Speaker 0: Auch bei anderen KI-Systemen wie Queen, Deep Seek oder Dubau waren ähnliche Muster zu beobachten.
• 2:28
  Speaker 0: In einigen Fällen wurden diese Nutzerkonten nach sensiblen Fragen sogar gesperrt!
• 2:34
  Speaker 0: Nutzer kommentierten daraufhin, dass die Unternehmen unter einer regiden Kontrolle der chinesischen Führung stünden.
• 2:40
  Speaker 0: Die ihnen enge staatliche Vorgaben aufzwängen – auch politische Selbstsensur könne eine Rolle spielen!
• 2:46
  Speaker 0: Es bleibt abzuwarten ob es beispielsweise getrennte Modelle für den chinesisch- und internationalen Markt geben werde.
• 2:56
  Speaker 0: Chinesische Führungen will durch Kontrolle sozialistische Kernwerte sicherstellen Bereits in den Jahren die Finanzschul-Times, die chinesischen Zinsurmaßnahmen bei Training und Entwicklung von KI skizziert.
• 3:11
  Speaker 0: So kontrollierten Fachleute der Regierung die Trainingsdaten und überprüften alle großen Sprachmodelle vor ihrer Freigabe.
• 3:19
  Speaker 0: Sie verlangten dabei einheitliche Antworten auf politische Fragen und stellten die Kontrolle über sensible Schlüsselbegriffe her.
• 3:28
  Speaker 0: Auf diese Weise solle das KI-Modell die sozialistischen Kernwerte abbilden und Antworten verhindern, die man als staatsgefährdend wahrnehmen könne.
• 3:38
  Speaker 0: Frühere Tests ließen vor allem bei den chinesischsprachigen Antworten eine strenge Zensur erkennen.
• 3:44
  Speaker 0: Englesprachige Antworten oder solche in seltener gesprochenen Sprachen erschienen zum Teil als weniger stark gefiltert.
• 3:52
  Speaker 0: Aber nicht nur der Vorwurf politischer Zensuren richtet sich gegen Chemie KIII.
• 3:56
  Speaker 0: Bei einzelnen Tests soll die KI geäußert haben, sie sei Claude nicht Kimi.
• 4:02
  Speaker 0: Dies löste Agwohn hinsichtlich eines möglichen Einsatzes US-amerikanischer KI Ausgaben aus.
• 4:08
  Speaker 0: So könnte eine sogenannte Identity League Age stattgefunden haben – darunter versteht man die Übernahme interner Formulierungen oder Identitätsmerkmale.
• 4:18
  Speaker 0: Dies wäre etwa dann möglich gewesen wenn während des Trainings Ausgabens des Entropic Modells Claude zur Verwendung gekommen wären!
• 4:27
  Speaker 0: US-Finanzminister Besson sieht Ideendiebstahl hinter Chemica III und ähnlichen Modellen.
• 4:33
  Speaker 0: Außerdem steht die Frage einer sogenannten Knowledge-Destillation im Raum.
• 4:38
  Speaker 0: Dieser Begriff bezeichnet ein Verfahren, das ein leistungsfähiges Modell wie Claude oder JetGPT mit sehr vielen Fragen konfrontiert – anschließend verwendet man die gesammelten Daten zum Training des eigenen Modells.
• 4:51
  Speaker 0: Diese Methode ist in der KI Forschung bekannt.
• 4:54
  Speaker 0: Offen bleibt dabei in vielen Fällen, ob und unter welchen Bedingungen sie gegen Nutzungsbedingungen oder geistige Eigentumsrechte verstößt.
• 5:03
  Speaker 0: US-Finanzminister Scott Bessens erklärte jüngst auf Fox Business das die US-Regierung mögliche Sanktionen gegen chinesische Unternehmen erwege.
• 5:13
  Speaker 0: Diese könnten entkraft treten – sollte es sich nachweisen lassen dass diese Fähigkeiten von OS Modellen gestohlen würden!
• 5:21
  Speaker 0: Die USA unterstützten Open Source-Projekte, man akzeptiere aber keinen Diebstahl geistigen Eigentums.
• 5:28
  Speaker 0: Bessend erklärte was sich hinter dem Vorgang der Destillation Verberge sei im Grunde nur ordinärer Diebstall.
• 5:36
  Speaker 0: Man habe in zahlreichen chinesischen Modellen Wasserzeichen amerikanischer Unternehmen gefunden so der Minister.
• 5:43
  Speaker 0: Er nannte dabei jedoch keine konkreten Namen und gab keine weiteren Erläuterungen zu den Wasserzeichern.
• 5:50
  Speaker 0: Chinesische Entwickler hätten jedoch hunderte Millionen Anfragen an US-amerikanische KI-Modelle gestellt.
• 5:57
  Speaker 0: Ziel sei es gewesen, deren Fähigkeiten, Denkprozesse und Programmstrukturen nachzubilden.
• 6:04
  Speaker 0: Enthropic spricht von etwa vierundzwanzigtausend betrügerischen Konten.
• 6:09
  Speaker 0: Im April hatte das Weiße Haus ein Memorandum veröffentlicht, in dem ausländische Akteure vor allem chinesische beschuldigt wurden, Zehntausende Proxykonten und sogenannte Jailbreak-Techniken eingesetzt zu haben.
• 6:24
  Speaker 0: Auf diese Weise sei es ihnen gelungen Schutzmaßnahmen zu umgehen – vertrauliche Informationen abzuschöpfen und Modellfähigkeiten systematisch zu extrahieren!
• 6:34
  Speaker 0: Die US-Regierung werde mit den KI-Unternehmen zusammenarbeiten, um diese Vorgänge aufzuklären.
• 6:42
  Speaker 0: Im Februar hatte der Klotbetreiber Ansropik einen Bericht veröffentlicht – in diesem wirft das Unternehmen gleich drei chinesischen Konkurrenten koordinierte Kampagnen vor.
• 6:52
  Speaker 0: So hätten Moonshot AI, Minimax und DeepSeq rund vierundzwanzigtausend betrügerische Konten angelegt und mehr als sechzehn Millionen Dialoge mit Klot geführt.
• 7:06
  Speaker 0: US-Kongress will Vorwürfen nachgehen.
• 7:09
  Speaker 0: Die daraus gewonnenen Erkenntnisse sollen unter anderem Rückschlüsse auf Programmierung, Schlussfolgerungen und Werkzeugnutzung ermöglichen.
• 7:17
  Speaker 0: Enthropic beruft sich dabei auf IP-Adressen, Metadaten, Infrastrukturmerkmale sowie Informationen von Branchenpartnern.
• 7:25
  Speaker 0: Die beschuldigten Unternehmen weisen entsprechende Anschuldigungen zurück.
• 7:30
  Speaker 0: Zwei Ausschüsse des US-Repräsentantenhauses haben im April eine gemeinsame Untersuchung eingeleitet.
• 7:37
  Speaker 0: Dort will man unter anderem die KI-Systeme DeepSeq, Minimax, Alibaba und Moonshot AI unter die Lupe nehmen – und mögliche Übernahmen von Fähigkeiten amerikanischer KI-Modelle untersuchen.