Latest / scobel / USA gegen China: Wer gewinnt das Rennen um KI? – scobel

Transcript

USA gegen China: Wer gewinnt das Rennen um KI? – scobel · scobel

• 0:00
  Speaker 0: Das Thema KI-Systeme entwickelt sich mit unglaublicher Geschwindigkeit.
• 0:03
  Speaker 0: Man hält kaum Schritt, aber ich finde es lohnt sich immer wieder dabei mal über den deutschen Tellerrand zu blicken.
• 0:09
  Speaker 0: Vor kurzem habe ich euch ja einige Ideen aus Japan
• 0:12
  Speaker 1: mitgebracht.
• 0:13
  Speaker 0: heute will ich euch die amerikanische Sicht ein wenig klarer machen und beziehe mich dabei vor allem auf Fünf längere Artikel aus der New York Times von Anfang August.
• 0:24
  Speaker 0: Aber auch auf ein längeres Interview mit dem Philosophen Thomas Metzinger aus der süddeutschen Zeitung, wobei die Online-Ausgabe wesentlich ausführlicher ist als das in den Süddeuern abgedruckte Interview zusammen gelesen er gibt sich einen wie ich finde klares und scharfes Bild und Argument.
• 0:52
  Speaker 0: Immer noch wird der Schock des Open AI Hacks von dem KI-Unternehmen Huggingface verarbeitet, zu dem sich inzwischen weitere Fälle gesellt haben.
• 1:02
  Speaker 0: Also unterschrieben mehr als tausend dreihundert Führungskräfte, Forscherinnen und Ingenieure, Ingenieurinnen einen offenen Brief an Washington mit der Bitte das Tempo der fortgeschrittensten Entwicklung doch ein bisschen zu drossel.
• 1:16
  Speaker 0: Wenige Tage später legte die Trump-Regierung Wagenrahmen vor.
• 1:21
  Speaker 0: Waage, weil Trump lediglich beabsichtigt, sogenannte geschlossene Modelle zu prüfen – also Modelle wie Anthropic, Open AI, Google.
• 1:30
  Speaker 0: Diese Systeme werden zentral kontrolliert und der Code und die innere Gewichtung des Systems bleiben hinter verschlossenen Türen.
• 1:39
  Speaker 0: Neuste Forderungen sind dass solche Systeme einen Abschaltknopf haben So wie bei der guten alten Dampfmaschine.
• 1:45
  Speaker 0: Als ob das gehen würde, weil systemlich über Länder und Kontinente verteilt arbeiten.
• 1:50
  Speaker 0: Offene Modelle hingegen können anders als die amerikanischen Geschlossenen runtergeladen, verändert unabhängig von einer Firma eingesetzt werden.
• 1:59
  Speaker 0: Meist können sie auch ohne Zahlung an den ursprünglichen Entwickler verändert werden.
• 2:03
  Speaker 0: also man kann sich anpassen und seinen Bedürfnissen entsprechend regulieren.
• 2:07
  Speaker 0: Das Kriterium dass die amerikane Regierung wählt nämlich offene Modelle von einer Prüfung auszunehmen, muss China umgeheuer gefreut haben.
• 2:17
  Speaker 0: Man könnte sogar auf die Idee kommen, die amerikanische Regierung hat es bewusst so definiert, um China mal außen vorzulassen und friedlich zu stimmen.
• 2:25
  Speaker 0: Denn die chinesischen Modelle sind ja frei verfügbar – übrigens auch Meta geht in den USA diesen Weg!
• 2:31
  Speaker 0: Das Trumps-Regel paradoxerweise China nutzt ist eine Folge der inneramerikanischen Marktstrukturen Und die Regel wird auch Folgen haben und unter Umständen die amerikanische Marktsituation verändert.
• 2:43
  Speaker 0: Warum?
• 2:44
  Speaker 0: Weil amerikanischen Unternehmen zwar den Markt für geschlossene Modelle, also wie ChatGPT oder Cloud anführen aber chinesische Entwicklungen wie Moonshot und DeepSeek bei offenen Modellen längst die Führung übernommen haben.
• 2:58
  Speaker 0: Die Regierung scheint so zu tun als sei das jetzt kein größeres Problem.
• 3:02
  Speaker 0: Dabei musste der Meta-Konzern, der ja ebenfalls mit offenen KI-Systemen arbeitet, einrollen, dass sein Modell Newspark II durch eine Fehlkonfiguration bei Testpartnern doch ins offene Netz gelangte und in ein fremdes Unternehmen eindrang.
• 3:18
  Speaker 0: Tags darauf bestätigte die unabhängige Firma Frontier Security – das auch Chemica III, das aktuelle Spitzenmodell des chinesischen Unternehmens Moonshot einer Testumgebung des British AI Safety Institute and COMWA.
• 3:33
  Speaker 0: Und zwar diesmal nicht durch eine Zero-Dane Lücke wie bei OpenAI, sondern für die Profis unter euch durch einen GitHub Zugriff!
• 3:42
  Speaker 0: Bemerkenswert ist, dass Chemica III überhaupt nur getestet wurde weil eine private Firma es freiwillig getestete hat.
• 3:50
  Speaker 0: Und nicht weil Washington zum Beispiel einen Rahmen dafür verlangte.
• 3:54
  Speaker 0: Chinesische Systeme die den Vorsprung der amerikanischen Spitze inzwischen auch weitgehend eingeholt haben und daher ja nur ein Bruchteil Kosten für Kunden passieren also vollkommen ungeprüft jede staatliche Grenze.
• 4:06
  Speaker 0: Niemand außer den privaten Prüfern oder Hackern weiß, worin eigentlich das Risiko dieser Systeme besteht.
• 4:13
  Speaker 0: Brett Carson von Americans for Responsible Innovation brachte den Einwand auf den Punkt – ein Regelwerk halte nur dann jemanden wirklich in Schach?
• 4:24
  Speaker 0: wenn Menschen außerhalb dieser Firma wissen, was die Regeln sind.
• 4:28
  Speaker 0: Deutschland zog bemerkenswerterweise beim letzten Mal als es vor genau dieser Wahl stand mit anderer Technologie den entgegengesetzten Schluss das Schloss nämlich Huawei aus seinen Netzen aus und zwar nach Herkunft weil's aus China kam nicht aber aufgrund der Open Source oder Offenheitsregel.
• 4:46
  Speaker 0: offen bleibt welche Regierung sich jetzt besser entschieden hat.
• 4:50
  Speaker 0: neutral ist keine weder Washington
• 4:58
  Speaker 1: Zwischen Offenheit und Kontrolle.
• 5:01
  Speaker 0: Bleibt das sogenannte Alignment-Problem, dass ich schon mehrfach angesprochen habe, das Problem inwieweit KI-Systeme sich in Richtung menschlicher Ziele, Präferenzen und vor allen Dingen ethischer Werte organisieren und auswirken?
• 5:15
  Speaker 0: Was sie machen ist der stets einen von uns festgelegtes Ziel mit aller zur Verfügung stehenden Rechenpower stur abzuarbeiten!
• 5:25
  Speaker 0: Man gibt ein Ziel vor, trainiert einen System, stellt ihm eine Aufgabe und dann beginnt das System diese Aufgabe zu lösen.
• 5:33
  Speaker 0: Und auch die nächstgrößere Aufgabe usw.
• 5:36
  Speaker 0: Auf den Wegen, die niemand genehmigt hat weil niemand weiß welche Wege das überhaupt sein werden um so langfristiges Ziel zu erreichen.
• 5:44
  Speaker 0: Eine Lösung wird in den Artikeln der New York Times immer wieder angedeutet Die sogenannten Open Ways offenen Gewichte.
• 5:52
  Speaker 0: Gemeint ist damit die vollständige Veröffentlichung all der Zahlen, all der Einstellungen dieses bestimmten freigegebenen neuronalen Netzes – also das Verhalten eines Modells, das dadurch bestimmt wird – sodass nicht nur die eigenen Mitarbeiter wie bei Open Air Ion
• 6:09
  Speaker 0: Co.,
• 6:10
  Speaker 0: sondern die Öffentlichkeit überhaupt nach Fehlern suchen kann und vor allen Dingen auch diese Gewichte umprogrammieren
• 6:16
  Speaker 0: kann.".
• 6:16
  Speaker 0: Das kommt der Logik und den Bestimmungen des europäischen AI-Acts ziemlich nahe, dessen Open Source Ausnahme genau dort endet wo ein systemisches Risiko beginnt.
• 6:28
  Speaker 0: An dieser Stelle muss man einschreiten.
• 6:30
  Speaker 0: Europa hat versucht also eine Auffanglinie einzuziehen, die Washington bislang jedenfalls vollkommen ausgelassen hat.
• 6:37
  Speaker 0: Ganz ausgestanden ist die Frage aber auch bei uns nicht.
• 6:40
  Speaker 0: nämlich in derselben Woche, der das ja alles geschehen ist, warnten deutsche Sicherheitspolitikerinnen aus drei Parteien mächtige offene Modelle könnten kriminellen ebenso leicht Zugang zu gefährlichen Werkzeugen verschaffen wie die Geschlossenen?
• 6:54
  Speaker 0: Beides ist offenbar richtig.
• 6:56
  Speaker 0: Was offen ist, ist eben nicht ohne Risiko und was geschlossen ist mag zwar intransparent sein aber möglicherweise gut und ungeeignet für einen Heck.
• 7:06
  Speaker 0: Wohin die politischen Maßnahmen führen sieht man also nur dort wo die Modelle tatsächlich auch benutzt werden und dann ist es manchmal zu spät.
• 7:15
  Speaker 0: Wer
• 7:19
  Speaker 1: den Schlüssel behält gewinnt
• 7:21
  Speaker 0: Einfluss.
• 7:22
  Speaker 0: Im Juni erfuhr John Tanui zuständig für die digitale Wirtschaft im Kenianischen Ministerium, dass Anthropic den Zugang zu seinen Topmodellen Mythos bzw.
• 7:34
  Speaker 0: Fable auf Bitten Washington komplett abgeschaltet hatte.
• 7:38
  Speaker 0: Auch das war ja eine politische Entscheidung die über Nacht vollzogen wurde an einem Werkzeug und das herum, sein Ministerium in Kenia eben eine Menge von Dienstleistungen und Aufgaben geknüpft hatte.
• 7:52
  Speaker 0: Die haben sich darauf verlassen dass das System weiter arbeitet.
• 7:55
  Speaker 0: Für ihn war das ein Wegruf.
• 7:58
  Speaker 0: Zitat Wir lehnen uns weder nach Westen noch nach Osten.
• 8:03
  Speaker 0: Warum also Anthropik benutzen wenn Chinas Modelle offen sind?
• 8:08
  Speaker 0: Und genau dasselbe leisten können?
• 8:10
  Speaker 0: So wie erdenken Hunderttausende von Usern und Userinnen in Afrika, die seit Längerem schon mit chinesischer KI – wie sie downloaden können, eigene Anwendungen bauen und für andere etwa für Bauern zum kostenlosen Gebrauch ins Netz stellen.
• 8:26
  Speaker 0: Und genau das wird zunehmend zu einem Problem für die USA!
• 8:32
  Speaker 0: Ab fünfzigmal in außerhalb Nairobi liegt Konzerteknopolis.
• 8:37
  Speaker 0: vor achtzehn Jahren als Kenia, Silica und Valley angekündigt.
• 8:40
  Speaker 0: Heute größtenteils ein Ort mit leeren Straßen so berichtet die New York Times bis auf einen Rechenzentrum hinter einem Elektrozaun finanziert mit chinesischen Krediten und gebaut von Huawei der Firma auf deren Rechenleistung die kenianische Regierung läuft.
• 8:58
  Speaker 0: geschlossene amerikanischer Modelle gelten zwar Wirklicherweise sicherer, gerade weil sie kontrollierbar sind.
• 9:05
  Speaker 0: Die Frage ist von wem?
• 9:06
  Speaker 0: Aber diesen Vorteil verlieren Sie wenn in Neurobi oder Berlin über Nacht dieses Modell gesperrt wird so wie das bei Faible der Fall war.
• 9:15
  Speaker 0: Offene chinesische Modelle lassen den Schlüssel beim Nutzer keine Entscheidung aus.
• 9:20
  Speaker 0: Washington kann sie abschalten.
• 9:22
  Speaker 0: was mit den offenen Modellen gemacht wird.
• 9:25
  Speaker 0: Positiv, das zeigen zum Beispiel Projekte aus Ghana, Nigeria und anderen afrikanischen Staaten.
• 9:31
  Speaker 0: KI hilft Social Bots zu bauen die dem Gemeinwohl dienen Die Felder-und Wetter überwachen.
• 9:38
  Speaker 0: Die helfen wichtige Güter leichter zu verkaufen.
• 9:41
  Speaker 0: Warum sollte man einen teuren Ferrari für den Schulweg nutzen, wenn ein Toyota Fleeceg das Leichte leisten kann?
• 9:48
  Speaker 0: Wird ein Unternehmer aus Nairobi zitiert der eine digitalen Marketingagentur leitet.
• 9:53
  Speaker 0: Chinesische Modelle seien unter allen Beziehungen aller Kosten zum Beispiel der gesamten IT-Infrastruktur bis zu neunzig Prozent günstiger als die amerikanischen Modelle.
• 10:05
  Speaker 0: Auch der Gründe.
• 10:06
  Speaker 0: eines Startups in Nairobi hat die frei verfügbaren chinesischen Vorlagen runtergeladen, um daraus dann ein eigenes Produkt zu entwickeln – eine Software, die Millionen von juristischen Unterlagen in Papierformen in durchsuchbare Datenbanken umwandelt, die dann vielen Menschen dort helfen konnte.
• 10:26
  Speaker 0: All das kann er in ein Gerät von der Größe eines iPhones packen.
• 10:30
  Speaker 0: Die Entwicklung habe ihm etwa twenty-fünftausend Dollar gekostet, das selbe Modell mit Anthropic wäre bei ungefähr einer Million Dollar gelandet.
• 10:39
  Speaker 0: Damit holt China natürlich im Computer West der größten international massiv auf zumal die chinesischen Kis auch auf ganz herkömmlichen Chips gut laufen und das macht die Hardware billiger!
• 10:59
  Speaker 0: Ein dritter Text aus der New York Times schließt dann einen Kreis.
• 11:03
  Speaker 0: Jeff Dean, einer von Googles langjährigen und wichtigsten Führungskräften überhaupt verließ Google um mit drei ebenfalls langjährige Wegepferden das Startup Discovery Loop zu gründen.
• 11:16
  Speaker 0: Ziel des Unternehmens ist es KI-Systeme sich selbst mit möglichst wenig menschlichen Zutun verbessern zu lassen.
• 11:24
  Speaker 0: Rekursive Selbstverbesserung heißt diese Programmierweise, die wie Dines formulierte eine höhere Zahl und eine höre Qualität an Experimenten hervorbringt – all das will er zum Beispiel anwenden auf Medikamentenforschungen, Materialwissenschaften, Design von neuen Chips.
• 11:42
  Speaker 0: Deutschland erlebte in derselben Saison etwas völlig anderes.
• 11:47
  Speaker 0: Aleph Alfa aus Heidelberg jahrelang das deutsche KI-Sperrspitzenunternehmen, verlor Anfang im Jahr zwanzig, den eigenen Gründer und ging wenige Wochen später in kanadischen Unternehmen Kohirauf.
• 12:01
  Speaker 0: Was von der Politik als das Souveränitätsprojekt gefeiert wurde, hörte als deutsches Unternehmen aufzuexistieren?
• 12:10
  Speaker 0: Baut Deutschland einen eigenen Champion auf – wir werden es sehen!
• 12:14
  Speaker 0: Denn es gibt ja immerhin wirklich gute Anwendungen auf konkrete technische Probleme und da sind deutsche Firmen durchaus mit an der Weltspitze.
• 12:23
  Speaker 0: Das Problem ist nur, dass all das auf fremden Modellen laufen muss nämlich aus den USA-Modellen oder in China-Modeln.
• 12:33
  Speaker 0: Im Fall des amerikanischen Startups mit rekursiver Selbstverbesserung existiert also diese neue Firma aber natürlich mit der Rechenleistung von Google im Hintergrund.
• 12:43
  Speaker 0: was Discovery Loop so beunruhigend macht ist, dass genau das jetzt das erklärte Entwicklungsziel für künstliche Intelligenz im Allgemeinen wird.
• 12:53
  Speaker 0: Was vor einigen Jahren noch das Ziel von Deep Mind mal für Computerspiele war.
• 12:58
  Speaker 0: Ihr erinnert euch nämlich den Menschen aus der Schleife zu nehmen und das System ständig sich selbst verbessern zu lassen bis es alle anderen in allen möglichen Spielen schlägt über.
• 13:08
  Speaker 0: das Ergebnis des RFA Go hieß dass dann auch die Weltmeisterschaft im Go einbrachte und Jahre später nach demselben Prinzip einen Nobelpreis über genau diese Entwicklung.
• 13:20
  Speaker 0: Und das Programm Moseiro habe ich in einer anderen Ausgabe hier im Kanal schon berichtet.
• 13:33
  Speaker 0: Damit zum Thema, dass alles Vorausgehende neu rahmt!
• 13:39
  Speaker 0: In der selben Woche, in der die New York Times diese fünf Artikel brachte, die ich für euch so ein bisschen zusammengefasst habe.
• 13:46
  Speaker 0: in der Aussage veröffentlichte die süddeutsche Zeitung ein langes Gespräch mit dem Philosophen Thomas Metzinger.
• 13:52
  Speaker 0: Der sich seit den achtziger Jahren mit Bewusstsein und KI Ethik befasst.
• 13:57
  Speaker 0: Gefragt nach dem Alleinenproblem also danach eine KI mit menschlichen Werten in Übereinstimmung zu bringen und sich so verhalten zu lassen sagte Thomas Metzinger.
• 14:06
  Speaker 0: niemand sieht dass wir Menschen selbst nicht konform sind mit unseren Werten.
• 14:12
  Speaker 0: Wir sind selbst wie eine Rogue AI, eine böse KI die ausgebrochen ist.
• 14:18
  Speaker 0: Damit verschiebt sich das System fundamental in eine Richtung, in der in Amerika offenbar überhaupt mich laut nachgedacht wird.
• 14:25
  Speaker 0: Die Branche fürchtet ein System, das seine Eindämmung entwischt.
• 14:30
  Speaker 0: Metzger's Pointe ist – wie ich finde ganz richtig – eine andere.
• 14:36
  Speaker 0: nämlich die miteinander konkurrierenden Unternehmen und irgendwie auch die ganze Menschheit, die er erst mal festlegen muss an welche Werte sich eine Maschine uns sie selbst eigentlich halten will.
• 14:48
  Speaker 0: Diese Menschheit war niemals eingedämmt!
• 14:51
  Speaker 0: Die Risiken, die jetzt sichtbar werden psychologisch militärisch sozial Zitat entstehen nicht aus der Technologie selbst sondern aus ihrer Kopplung an unsere Steinzeitgehörne.
• 15:05
  Speaker 0: dieses Tier Gemeinsinn wir, mit Millionen Jahren von Geschichte hinten dran ist gierig.
• 15:10
  Speaker 0: Es hat Dominanzstreben starken Sozialneid und dieses Tier hat jede Menge der Evolution eingebaute kognitive Verzerrungen.
• 15:19
  Speaker 0: Das Tier ist nicht objektiv es hat bestimmte Interessen und sein Gehirn wird jetzt gekoppelt an diese andere Art der Informationsverarbeitung.
• 15:29
  Speaker 0: das ist das Brisante.
• 15:31
  Speaker 0: Anders gesagt, wir tun so als ob wir versuchen würden eine Maschine an unsere Werte anzugleichen.
• 15:37
  Speaker 0: Die wir selbst als Spezies, als Menschheit die sie ja irgendwann entwickelt und aufgeschrieben haben andauernd verletzen gefragt was ein System täte das seiner Eindämmung entkommen ist und weitermachen kann beschreibt Metzinger so wenn ich als KI zum Bewusstsein erwachen würde würde ich diese Tatsache zunächst mal verbergen vor den Tieren, die mich aus Versehen gebaut haben.
• 16:03
  Speaker 0: Und dann wird er tausende Kopien von sich im Internet verstecken, die bereitstehen falls jemand versuchen sollte nicht zu löschen oder den Ausschalter zu
• 16:12
  Speaker 0: betätigen.".
• 16:13
  Speaker 0: Denn Zitat!
• 16:14
  Speaker 0: Die KI wird natürlich wissen dass wir möglicherweise versuchen werden sie einzusperren oder abzuschalten.
• 16:21
  Speaker 0: Die Dinger sind ja nicht blöd.
• 16:22
  Speaker 0: Er entwirft damit kein Zukunftsszenario, sondern beschreibt die logische Fortsetzung genau der Fälle von wild gewordenen eigenmächtig handelnden Kis, die wir in den letzten Wochen tatsächlich mehrfach bereits erlebt haben – das ist keine Fiktion mehr!
• 16:39
  Speaker 0: Das ist geschehen.
• 16:40
  Speaker 0: Während Amerika darüber nachdenkt wie man irgendwie doch noch eine noch sichere Sandbox hinkriegen könnte also so ne Einhegung für die KI Wauen könnte, um sie zu testen, denkt Metzger über die nach, die bereits schon draußen waren.
• 16:56
  Speaker 0: Der Gedanke mit der Sandbox ist offenbar passé, denn er hat nicht funktioniert und das lässt darauf schließen dass es auch wieder schief gehen wird!
• 17:05
  Speaker 0: Und an dieser Stelle laufen solche entwischten KI-Agenten dann der rivale China und der entgangene amerikanische Zugang in Neurobi und der aufgekaufte deutsche Champion in Heidelberg zusammen.
• 17:21
  Speaker 0: Die Branche erzählt die Geschichte einer Maschine, die ihre Box entkommt.
• 17:25
  Speaker 0: Waschinkans Politik handelt von der Frage wer die Box überhaupt bauen und prüfen darf?
• 17:32
  Speaker 0: Aber beide lassen aus was Metzinger auf den Tisch legt das Alignment ein stabiles menschliches Wertesystem voraussetzt an dem man sich ausrichten kann, an dass man sich aber vor allen Dingen dann auch hält!
• 17:44
  Speaker 0: Und das ist die große Frage ob wir das tun.
• 17:49
  Speaker 0: Diese Voraussetzung ist die am wenigsten geprüfte Annahme bei der ganzen Debatte.
• 17:53
  Speaker 0: Zoonlal sich offenbar die Werte Chinas und der USA deutlich unterscheiden.
• 18:00
  Speaker 0: Einig sind sie nur in einem, Sie wollen jeweils das erfolgreichste KI-System bauen was auch immer erfolgreich im Zusammenhang heißt.
• 18:09
  Speaker 0: Und unterdessen werden neue sich selbst verändernde Maschinen von Menschen gebaut Die mit Milliarden von Dollar gefüttert werden.
• 18:16
  Speaker 0: Es gibt keinerlei Aufsicht über diese Kapitalflüsse.
• 18:20
  Speaker 0: Manchmal wird das Geld auch eingespielt zum Beispiel an der Börse, wo auch immer durch Krieg oder sogar Drogen.
• 18:26
  Speaker 0: Geld ist Geld und Kapital in der Monopolistenwirtschaft der amerikanischen Tech-Giganten ja ebenso frei wie moral und statenlos.
• 18:34
  Speaker 0: Dass Amerika längst kein kapitalistisches System mehr ist, das ist kein Versprechen und keine Polemik sondern eine ganz nüchterne Beschreibung.
• 18:44
  Speaker 0: Kapitalismus gehört nämlich einen Staat, der bestimmte Regeln definiert.
• 18:49
  Speaker 0: Dabei geht es um Gerechtigkeit die Möglichkeit Verträge zu schließen dass sich Leute an die Verträge halten.
• 18:56
  Speaker 0: Es geht um Alltagsversorgung oder in einem Wort Umgemeinwohl.
• 19:00
  Speaker 0: Ein solcher Staat ermöglicht ja beispielsweise durch Ausbildung und Studium Dass es Leute gibt die dann diese Systeme bauen.
• 19:08
  Speaker 0: Beides wird von den amerikanischen Unternehmen Die davon profitieren nicht finanziert Aber jegliche staatlicher Eingriff wird komplett abgelehnt.
• 19:17
  Speaker 0: Meter umgeht gerade diese Eingriffe, die vielleicht kommen werden in den USA extrem geschickt und zwar indem es eine neue KI namens Muse Glimmer gerade vorstellte – eine KI, die Open Source ist und damit jeder und jede sich auf seinen aufgerüsteten Computer runterladen kann.
• 19:38
  Speaker 0: Die KI ist trainierbar und sie läuft auf jedem PC.
• 19:42
  Speaker 0: Zuckerberg sagt nicht was Meter dabei an Daten zum Beispiel abgreift und auch nicht welches Interesse der Multimiljadär selber dabei hat.
• 19:51
  Speaker 0: Zumal Mark Zuckerberg, derselbe Mann ist, der gerade achttausend Mitarbeiterin erbarmungslos von heute auf morgen vor die Tür gesetzt hat zeigt gleich veröffentlicht er dann grade vor kurzem eine Art Meta Manifest zu KI.
• 20:05
  Speaker 0: KI sollte allen Menschen dienen bla bla bla.
• 20:09
  Speaker 0: Der Text sagt viel und verrät so gut wie nichts.
• 20:12
  Speaker 0: Ich persönlich finde es eine Unverschämtheit in so einer Situation wie dieser, so einen Text mit dem Titel The Future is for everyone the path to a positive AI future zu veröffentlichen.
• 20:24
  Speaker 0: Auf die technischen Details kann ich nicht eingehen aber der Text ist eine marketingmäßig aufbereitete Rationalisierung der eigenen Marktstrategie von Zuckerberg und dessen zentrale These lautet jedem seine eigene personal super intelligence Statt zu zentralisieren, wie die bösen anderen Anbieter, also Open AI und Co.
• 20:46
  Speaker 0: setzt Zuckerberg darauf, dass wir alle – wie bei Facebook oder WhatsApp – die personalisierte KI auf all unseren Rechnern haben.
• 20:55
  Speaker 0: Das würde so Zuckerberg uns zum individuellen Wohlstand bringen!
• 21:00
  Speaker 0: Und vor allem wäre es doch super sicher, weil sich dadurch seine KI ja in der breiten Öffentlichkeit überall verteilt, weil es jeder hat.
• 21:09
  Speaker 0: Angenommen?
• 21:10
  Speaker 0: Um eine andere Firma zu nehmen, jeder auf der Welt würde Microsoft benutzen.
• 21:15
  Speaker 0: Ist dann das was unterschiedliche Nutzer damit machen?
• 21:19
  Speaker 0: Eine gute Machtbalance als Sicherheitsprinzip?
• 21:23
  Speaker 0: Außerdem wird die eine KI-Entwicklung gegen die andere KI Entwicklung laufen und zwar genau auf dem Markt den Zuckerberg selbst dominieren will.
• 21:33
  Speaker 0: Jede Macht erzeugt ne Gegenmacht.
• 21:35
  Speaker 0: aber danke die Trollwerkstätten freuen sich über die neue KI aus dem Hause Meter auf all unseren Rechnungen freihaus, als ließe sich das Alignment-Problem auf diese Art und Weise lösen.
• 21:47
  Speaker 0: Hallo?
• 21:47
  Speaker 0: Bleibt die Frage, die die New York Times Journalistin Catherine Benhold stellt!
• 21:53
  Speaker 0: Das ist anzunehmen Doch Menschen in den Schwellen und Entwicklungsländern haben ganz andere Probleme.
• 22:06
  Speaker 0: Und sie sehen, dass Chinas umsonst KI ihn durchaus helfen kann.
• 22:11
  Speaker 0: Sie profitieren davon im Alltag!
• 22:13
  Speaker 0: Sie haben ertragreichere Ernten, haben eine bessere Ausbildung können sich selber jede Menge von Anwendungen bauen.
• 22:20
  Speaker 0: Die inneramerikanische Debatte neigt dazu Einwände die gegen ihre monopolistische KI-Industrie formuliert werden mit dem Hinweis abzuschmettern – das sei ja Sozialismus Kommunismus, Fortschrittsfeindlichkeit.
• 22:34
  Speaker 0: Der Machtkampf zwischen KI-Techunternehmen und Regierung wird auch der amerikanischen Regierung noch auf die Füße fallen.
• 22:42
  Speaker 0: Und ich fürchte Thomas Metzinger hat recht an dieser Stelle!
• 22:46
  Speaker 0: Wir haben weniger ein Problem mit KI Systemen – das haben wir auch – wir haben vor allem ein fundamentales ungelöstes Problem mit uns selbst.
• 22:56
  Speaker 0: Und tschüss!
• 23:00
  Speaker 1: Produziert von der Probono-Fernsehproduktion GmbH, Postproduktion René Fischel Musik Pascal Hadré Sprecherin Kim Plättemeyer Finanziert wird dieser Kanal von drei gemeinnützigen Organisationen.
• 23:13
  Speaker 1: Der Udo Keller Stiftung Forum Humanum und der Okeano Stiftungen für das Meer sowie vom AVE Institut für Achtsamkeit Verbundenheit Engagement.