Latest / heute journal - der Podcast / Illegales KI-Training? EU nimmt Google ins Visier

Transcript

Illegales KI-Training? EU nimmt Google ins Visier · heute journal - der Podcast

• Heute-Journal, der Podcast. Die News, dein Durchblick. Hallo, schön, dass ihr zuhört. Ich bin Helene Reiner und mir gegenüber sitzt Marietta Slomka, Moderatorin des Heute-Journals. Hallo Marietta. Hallo. Es kann sein, dass wir, Marietta, du und ich, aber auch ihr, die jetzt zuhört, beklaut wurdet. Und zwar ohne es zu merken. Und zwar von Tech-Firmen, die unsere Daten nutzen, um ihre Modelle für künstliche Intelligenz zu trainieren. Damit diese Modelle möglichst gut werden und möglichst viel Geld machen. Aber jetzt greift jemand durch. Die EU-Kommission nimmt KI-Praktiken von Tech-Riesen unter die Lupe und hat diese Woche ein Verfahren gegen Google eingeleitet. Wir wollen wissen, EU versus Google, wer sitzt am längeren Hebel und was passiert eigentlich beim sogenannten KI-Training? Und was können wir tun, falls wir nicht wollen, dass unsere Daten dafür genutzt werden? Das besprechen wir mit dem KI-Experten Gregor Schmalzried und mit Andreas Stamm, unserem Korrespondenten in Brüssel. Und heute ist der Donnerstag, der 11.12.14 Uhr. Marietta, mein Suchverhalten hat sich seit März geändert auf Google. Wenn ich früher was gegoogelt habe, dann habe ich einen Begriff eingegeben, war erst diese Woche wieder so, ist ja auch ein aktuelles Thema gewesen, Social Media Verbot pro Contra. Und dann sieht man normalerweise diese vielen Webseiten, unter anderem zum Beispiel auch die von zdf-heute.de und kann sich dann dadurch interessante Artikel klicken. Aber seit diesem Jahr wird einem ja zuallererst die Übersicht mit KI von Google ganz oben schon angezeigt. Und mir reicht die dann auch oft, je nach Thema. Wie ist das bei dir? Klickst du dich dann noch weiter auf die Artikel oder schaust du auch oft in diese Übersicht? Also die Übersicht ist ja nicht zu übersehen. Also da guckt man natürlich als erstes hin. Aber ich finde es zum Teil ist es dann nicht das, was ich eigentlich gesucht habe. Und doch, ich habe immer noch diesen zwei Quellenreflex, diesen journalistischen, dass ich dann weiter scrolle. Mir reicht das meistens nicht. Ja, also wenn es jetzt, habe ich auch neulich gesucht, ein Rezept für Dubai-Schokolade zum Selbermachen, wenn es darum geht, dann finde ich diese Übersicht sehr praktisch. Aber für wen das wirklich ist? Zum Problem werden kann. Das sind eben diese Anbieter von den Webseiten, die dann darunter kommen. Zum Beispiel eben ZDF Heute, weil da sitzen ja auch Journalisten, Journalistinnen, so wie wir, die stecken Zeit und Arbeit in Recherche, machen Faktenchecks und so weiter. Und wenn dann auf einmal viel weniger Leute auf diese Webseite und auf diesen Artikel klicken, weil es ja vorher schon die praktische kurze Zusammenfassung gab, dann ist das natürlich ein Problem. Und da hat sich die EU jetzt auf die Seite der Betreiber bzw. Der Urheber gestellt und wirft Google vor, diese Inhalte für KI-Produkte zu nutzen, ohne die Betreiber, also die Urheber, dafür zu entschädigen. Einen anderen Vorwurf, da geht es um YouTube, die größte Videoplattform der Welt, gehört auch zu Google. Und auch da hat das ZDF Inhalte, zum Beispiel auch diesen Podcast, den wir jetzt gerade aufzeichnen. Und sobald wir den hochladen, müssen wir Google die Erlaubnis geben, ihn zu nutzen, um zum Beispiel seine KI damit zu trainieren. Und gleichzeitig verbietet es YouTube seinen Konkurrenten, Inhalte für ihre KI-Systeme zu nutzen. Bevor wir da jetzt weiter in die Tiefe gehen, wir werden bestimmt auch noch häufiger über diesen Begriff sprechen, erfällt auch ganz häufig das KI-Training. Und man hat ja auch schon immer dieses Mantra gehört, die KI ist nur so gut wie die Trainingsdaten. Also wollen wir verstehen, was dahinter steckt und wie das eigentlich funktioniert mit dem KI-Training. und das erzählt uns Gundula Gause. Wie ein KI-Modell trainiert wird, hängt von seiner Aufgabe ab. Es gibt Modelle, die Sprache verarbeiten, Bilder oder Audio. Auf den großen Sprachmodellen basieren dann zum Beispiel die Chatbots Gemini von Google oder ChatGPT von OpenAI. Wenn so ein Sprachmodell trainiert wird, dann lernt es aus großen Datenmengen. Diese Daten kommen oft aus öffentlich erreichbaren Quellen im Netz. Um sie zu sammeln, nutzt zum Beispiel Google unter anderem sogenannte Crawler. Das sind Programme, die Websites automatisch besuchen, Texte auslesen und für das spätere Training speichern. Aus diesen Texten lernt das Modell Muster. Wie Sätze aufgebaut sind, wie Begriffe zusammenhängen oder wie Menschen auf Fragen reagieren. Zum Beispiel, dass die Begriffe Bundeskanzler und Merz häufig zusammenvorkommen. Mit den gesammelten Daten übt das Modell immer wieder, bestimmte Aufgaben zu lösen, indem es Wahrscheinlichkeiten berechnet. Das Modell versteht dabei nicht wirklich, was es macht, sondern berechnet, welches Wort, welcher Satz, welche Antwort am wahrscheinlichsten als nächstes passt. Zum Beispiel, um die Frage zu beantworten, wer ist Bundeskanzler. Je mehr Daten ein Modell beim Training bekommt, desto zuverlässiger kann es diese Wahrscheinlichkeiten berechnen und desto besser werden seine Antworten. Also mal ganz vereinfacht gesagt, wenn sich ein KI-Modell 10.000 Videos vom Heute-Journal anschaut mit Marietta Slomka, dann wird es ziemlich sicher wissen, dass am Ende der Sendung der Satz kommt, bis morgen auf Wiedersehen und wäre dann vielleicht auch in der Lage selber eine Marietta Slomka-Moderation zu erstellen. Wie findest du die Vorstellung? Ja, die aber hoffentlich noch ein paar andere Sachen sagt als auf Wiedersehen. Naja, ich meine, es ist die alte Regel, nichts im Leben ist umsonst, auch nicht im Internet. There is no free lunch. Und entweder zahlt man mit Daten oder mit Geld. Da darf sich eigentlich auch keiner drüber wundern. Die Frechheit ist nur, dass jetzt ja auch noch obendrauf die großen Tech-Konzerne gerne andere für sich umsonst arbeiten lassen wollen. Und da hört der Spaß dann natürlich ein bisschen auf. Also ich habe das auch selber erlebt. Es gab diesen Aufschrei, als ich herausstellte, dass Meta, der Facebook-Konzern, für das Training seiner KI Millionen Bücher weltweit abgesaugt hat über so eine Schattenbibliothek. Also da lagerten online alle möglichen Bücher, von denen die Autoren auch gar nicht wussten im Zweifelsfall, dass sie das taten, um eben so Urheberrecht zu umgehen oder Bezahltspranken zu umgehen. Die Atlantic hatte das veröffentlicht, ein amerikanisches Magazin. Und da konnte man dann auf so einer Webseite seinen Namen eintragen, gucken, ob man auch betroffen ist. Und siehe da, du warst betroffen. Sämtliche meiner Bücher wurden da auch aufgeführt. Und dann wird man schon sauer, wenn man dann persönlich als Autorin betroffen ist. Nicht nur, weil ich natürlich wahnsinnig viel Arbeit da reingesteckt habe, sondern weil ein Verlag ja auch von anderen verlangt, dass sie dafür bezahlen. Also zum Beispiel Lehrer an Schulen, die ein Kapitel aus einem politischen Sachbuch benutzen wollen, dürfen immer nur so einen kleinen Prozentsatz von einem Buch kopieren und nicht einfach eine Gesamtkopie von einem Buch anlegen. Da achten wir sorgfältigst auf Urheberrechte. Aber irgendwelche Tech-Konzerne aus dem Silicon Valley, die nehmen sich das, um ihre KI zu trainieren und damit Geld zu verdienen. Bei so einem Buch, das ist urheberrechtlich, würde ich jetzt mal sagen, eine klarere Sache, weil es das Buch zu kaufen gibt und ansonsten ist man sich auch nicht einfach so online irgendwo ziehen sollte. Bei diesem anderen Material beispielsweise, bei den Dingen, die ich auf Social Media poste oder die wir hier im Podcast machen oder bei deinen Moderationen im Fernsehen, da könnte man ja sagen, na gut, die finden ja auch öffentlich statt. Das heißt, die müssen damit rechnen, dass auch ein KI-Modell diese Inhalte online irgendwo findet und daraus lernt und daraus was macht. Aber mich interessiert jetzt, ist das wirklich die gängige Praxis und ist es da überhaupt noch möglich, die Kontrolle darüber zu behalten, zu welchem Zweck die eigenen Inhalte genutzt werden. Wer uns das sicherlich sehr gut beantworten kann, ist Gregor Schmalzried, einer der besten KI-Erklärer, die ich kenne. Er ist Journalist und Berater und Speaker rund um generative künstliche Intelligenz, hat einen preisgekrönten Blog und hostet den KI-Podcast. Hi Gregor, schön, dass das klappt. Hallo, freue mich da zu sein. Kann denn wirklich alles, was man so im Internet findet, genutzt werden, um KI-Modelle zu trainieren? Also sowohl Texte, Videos, Bilder, aber vielleicht auch Kommentare, die Leute einfach so posten? Ja, theoretisch schon. Also theoretisch ist ja das Internet einfach nur eine große abrufbare Datenbank. Und wenn jemand die Zeit und die Mühe und das Geld reinsteckt, um eben Crawler zu bauen, die sich in all diesen Ecken der Datenbank umgucken, dann geht das auch theoretisch. Das Interessante ist, wir erleben ja jetzt schon, weil die Technologie ist ja immer noch relativ frisch, aber so die ersten Widerstände dagegen, also die ersten Medienhäuser, die bewusst sagen, sie lassen diese Chat-GPT und Google und so weiter Crawler nicht mehr auf ihre eigenen Seiten, sie wollen die aussperren und auf einmal ändern sich da auch ein bisschen die Machtverhältnisse vielleicht, aber da warten wir noch drauf, weil alles sehr früh und alles sehr neu immer noch. Aber wie ist es dann denn möglich, diese Crawler auszusperren, wie du gerade gesagt hast? Und kann man das überhaupt überprüfen, ob sich die Crawler dran halten? Wie funktioniert das? Das ist ein interessantes Thema, weil tatsächlich basiert ein großer Teil des Internets einfach ein bisschen auf, ich sag mal, Ehrensystem. Also man kann quasi kleine Dateien auf seiner Website hinterlassen, die Robots-TXT-Datei zum Beispiel und da steht dann drin, hey, liebe Crawler, bitte geht hier nicht drauf. Und in der Regel wird das dann auch respektiert. Das ist aber weniger eine harte technische Barriere als mehr einfach eine gängige Praxis, die sich über die Jahre halt so herausgestellt hat. Und jetzt ist es aber so, dass früher hatte ich als Website-Betreiber vielleicht keinen großen Grund, irgendwen auszusperren von meiner Seite. Ich wollte ja, dass Google auf meine Seite geht, damit es anderen Leuten erzählt, dass es meine Seite gibt. Jetzt auf einmal gibt es quasi ein neues Geschäftsmodell, nämlich jetzt geht dieser Crawler da drauf und übernimmt nicht nur die Infos von der Seite, um Leuten davon zu erzählen, sondern übernimmt möglicherweise die Daten von meiner Seite, nicht um Leuten von meiner Website zu erzählen, sondern einfach um denen zu erzählen, was auf meiner Website draufsteht. Also wenn ich irgendwie eine Website habe, wo ich Rezepte von meiner Uroma poste und dann auf einmal landet eines dieser Rezepte in den Trainingsdaten für eines der großen KI-Modelle, dann lief das quasi über den gleichen Weg, den man früher genommen hätte, um einfach nur eine Suchmaschine auf die Seite zu lassen. Oder auch wenn man das weiterdenkt mit unserem Beispiel eben nicht mehr nur die Leute zu informieren über einen Podcast oder eine Moderation oder einen Text, den man schreibt, sondern irgendwann selber über KI-Avatare das herzustellen und dann damit die Menschen zu erreichen. Ja, vielleicht. Das ist dann wieder eine Frage des Geschäftsmodells. Ich glaube, für die großen Googles der Welt ist eine Produktion von so einer Medienform vielleicht gar nicht so interessant. Die wollen eigentlich was Neues bauen. Die wollen eigentlich das Internet ein Stück weit umorientieren, was ja jetzt schon passiert. Also letztes Jahr gingen nur noch 40 Prozent der Google-Suchen, die tatsächlich von Leuten durchgeführt wurden, auf eine andere Website. 60 Prozent sind einfach da verendet sozusagen in den Google-Ergebnissen, ohne dass ein weiterer Link angeklickt wurde. Und das war bevor wir diese ganzen KI-Übersichten gekriegt haben. Das war bevor Google diesen massiven KI-Push gestartet hat, den es dieses Jahr gab. Das heißt, ich gehe mal davon aus, das wird dieses Jahr noch geringer sein. Es werden immer weniger Klicks ins freie Web gehen und immer mehr Leute einfach in den Anbietern selber bleiben. Also das heißt, dass zum Beispiel journalistische Redaktionen arbeiten eifrig, stellen Informationen zusammen oder machen auch investigative Recherchen oder führen Interviews und die KI greift sich das ab. Bietet das an und die User landen gar nicht erst auf der Seite von Spiegel oder Heute oder Tagesschau? Genau, an der Stelle muss man auch nochmal unterscheiden zwischen dem, was Gundula Gause erklärt hat, nämlich dem KI-Training und dem sogenannten Grounding. Also das KI-Training ist das, was in sehr großen Trainingsabläufen passiert. Also wenn die KI wirklich Informationen verinnerlichen möchte. Dann braucht sie da sehr viele Daten dafür, sie braucht sehr viel Rechenpower. Das ist natürlich in der Praxis oft nicht ausreichend, vor allem nicht bei aktuellen Informationen. Ich kann es mir nicht leisten, jeden Tag ein KI-Modell komplett neu zu trainieren. Deswegen, was man dann macht, ist das, was viele kennen aus ihrem Alltag mit Chat-GPT und Co. Man stellt der KI eine aktuelle Frage und die KI googelt quasi kurz. Also die geht kurz ins Internet, sucht sich nur diese konkrete Information und gibt die wieder aus. Und ich glaube, dieser Faktor ist der, um den es gerade fast ein bisschen am meisten geht, weil klar, aktuelle Nachrichten sind wertvoll, aber im Gegensatz vielleicht auch zu einem Buch, sind die in der Regel in einem Jahr nicht mehr so viel wert. Das machen ja auch viele Nachrichtenseiten so, dass sie ihre alten Artikel gratis zur Verfügung stellen und die neuen sind hinter einer Paywall. Aber wenn jetzt auf einmal eine KI quasi auf diese Information zugreifen kann. Hinter die Paywall gehen sie in der Regel nicht. Aber vielleicht finden sie halt nicht den originalen Artikel, aber sie finden irgendeine Seite, die diese Information dann wiedergegeben hat. Also dann machen die wirklich eine kleine Recherche und suchen sich den gratis verfügbaren Content und liefern mir den. dann wird es schon ein wenig mulmig für die Geschäftsmodelle des Internets, das ist klar. Jetzt müssten eigentlich doch diese KI-Firmen in Deutschland besonders vorsichtig sein, oder? Weil ja vor ein paar Wochen es eine Entscheidung gab, die GEMA, die Künstlerinnen und Künstler und Texter und Texterinnen, Musiker, Musikerinnen vertritt, geklagt hat gegen OpenAI und gewonnen hat. Und da stand ja der Vorwurf im Raum, dass Chat-GPT beim Training mit geschützten Songtexten gefüttert worden sei. und diese Songtexte dann ohne Genehmigung und Lizenz ausgegeben hat. Also ich konnte ChatGPT fragen, nennen wir mal bitte den Songtext von Atemlos von Helene Fischer und dann habe ich den da so bekommen. Dieses Urteil ist noch nicht rechtskräftig, aber sollte das wirklich in letzter Instanz zugunsten der Urheber und auch der Kreativbranche ausgehen, dann wäre das doch schon ein Rückschlag für die KI-Unternehmen, oder? Ja. Es wäre möglicherweise existenzgefährdend für dieses Geschäftsmodell. Also was man daran auch merkt ist, weil es eben so eine neue Technologie ist, all diese Urteile, die wir gerade sehen, und es gibt ja noch einen ganzen Haufen anderer Gerichtsverfahren, die noch laufen, befassen sich eigentlich mit unterschiedlichen Sachen. Also das, worüber wir heute sprechen, das Google-Verfahren, das ist letztlich ein klassisches Kartellverfahren. Da geht es vor allem darum, dass Google seine Marktmacht eben ausnutzt, um zum Beispiel selbst mit YouTube-Daten KI zu trainieren, aber das anderen nicht erlaubt. Dieses GEMA-Urteil bezieht sich auf was völlig anderes. Da geht es nämlich darum, dass in dem Moment, in dem eine KI sozusagen mit beispielsweise Songtext trainiert wird, dass diese Inhalte dann vielleicht nicht eins zu eins so drinstehen in dem Code, aber dass sie genug memorisiert werden sozusagen. Dass die KI das immer noch jederzeit reproduzieren kann. Und allein die Fähigkeit der Reproduktion würde quasi eine Urheberrechtsverletzung darstellen. Das ist die Interpretation dieses Gerichts. Und gleichzeitig haben wir in den USA neulich ein Gerichtsurteil gehabt gegen Antropic, eine andere große KI-Firma, wo es auch um Bücher ging, um massenhaft Bücher, die fürs Training genutzt wurden. Und da hat der Richter gesagt, also der Teil, wo ihr die Bücher raubkopiert habt, der war nicht okay, aber die Bücher, die ihr legal auf Ebay Kleinanzeigen oder wo auch immer gekauft habt und dann einfach eingescannt, das war in Ordnung. Also es ist ein neues Feld, es gibt keine sichere Rechtsprechung dafür und wir stochern immer noch alle ein bisschen im Leeren. Und das wäre aber wirklich geschäftsgefährdend, wie du sagtest, für KI-Firmen, wenn diese Urteile eben nicht. Ja, zugunsten der Urheber ausgehen sollten. Muss man eigentlich so sehen. Also ich schätze, in der Praxis wird auch gerade viel darüber diskutiert, ob wir eigentlich langfristig auf eine Art Lizenzmodell hin steuern müssen. Wir kennen das ein bisschen von YouTube. Es gab ja auch mal eine Phase, da war auf YouTube, die Älteren werden sich erinnern, alles frei verfügbar ohne irgendwelche Urheberrechtsschranken. Und das war unter anderem einer der Gründe, warum YouTube am Anfang so groß wurde, weil da halt alles war und niemand sich dafür interessiert hat. Und erst nachdem YouTube von Google aufgekauft wurde und auch massiv rechtliche Probleme bekam, erst dann ging es um richtige Nutzung, es ging um Lizensierung, es ging um die Frage, müssen Urheberrechtsverletzungen automatisch runtergenommen werden und so weiter. Aber zu dem Zeitpunkt war YouTube schon so groß, dass es auch eine gewisse Verhandlungsposition hatte. Und das ist möglicherweise jetzt die Situation, vor der wir widerstehen. Also sind diese KI-Unternehmen mittlerweile jetzt schon so groß, ChatGPT hat bald eine Milliarde Nutzer weltweit in der Woche. Das ist ein riesen, riesen Teil, dass wir uns einfach so sehr daran gewöhnt haben, dass es existiert, dass wir uns jetzt wiederum darüber Gedanken machen, okay, wie bekommen wir das eigentlich in unsere Rechtsprechung rein? Und ich sage mal so, wir werden jetzt heute nicht unbedingt groß kuscheln mit den Technologiekonzernen. Aber ich habe schon ein bisschen Verständnis dafür, dass die sagen, ja gut, wir können jetzt nicht zehn Jahre warten, bis jeder Wirtschaftsraum auf der gesamten Welt geklärt hat, wie er das eigentlich urheberrechtlich sieht. Chat-GPT ist seit drei Jahren auf dem Markt, wir haben immer noch keine Klarheit. Manche sagen halt, dann machen wir einfach mal und gucken später. Also ich gucke mir immer so gerne solche Dinge auch aus so einer Perspektive so im Rückspiegel an. Also wie werden wir in 20, 30, 50 Jahren über diese Zeit denken? Und ich habe so ein bisschen den Eindruck, wir leben gerade in so einer Zeit der Kolonisationen. Also ähnlich wie es vielleicht die großen Seefahrer, die Briten und ähnliche gemacht haben, als sie eben die Weltmeere beherrschten und dann musste man in Indien und sonst wo gucken, wo man blieb. Aber es fängt halt an sich Widerstand auch zu bilden und das wird glaube ich die interessante Frage sein, ob man gegenüber dieser kleinen Gruppe von übermächtigen Konzernen, die Produkte anbieten, die kein anderer im Moment hat und sie wollen ja auch dafür sorgen, dass kein anderer sie entwickelt, ob es dagegen irgendwann auch eine Form von Aufstand und Dekolonisation geben wird. Also das ist sicherlich das, was die EU sich auch erhofft durch regulatorisches Vorgehen. Da gibt es ja nicht nur das Kartellverfahren. Es gibt den AI Act, es gibt die DSGVO, die jetzt auf einmal sehr spannend wird im KI-Bereich. Es gibt auch den Digital Markets Act. Die Datenschutz-Grundverordnung. Richtig, pardon. Ich denke so viel über die Nachricht, ich denke da gar nicht mehr dran. Genau, aber die Frage ist halt ein bisschen, ob das ausreicht. Also wir haben ja erst vor gar nicht so langer Zeit gesehen, dass wenn Europa tatsächlich in harte Verhandlungen gehen muss mit den USA, dann stehen wir da ein bisschen nackt da manchmal. Das könnte beim KI-Bereich wieder so sein, wenn halt die großen Unternehmen alle von da kommen. Es gibt wenig wirklich Frontier-KI in Europa. Wir haben zum Beispiel Mistral, ein französisches Unternehmen, die relativ gut dabei sind, aber schon spürbar, wenn wir in so einer Fußballmetapher wären, die wären vielleicht so Europa League und nicht Champions League. Also immer noch gut, aber nicht ganz vorne mit dabei. Und liegt das daran, unter anderem, dass wir diese verhältnismäßig strengen EU-Digitalgesetze haben? Verhindert das eigene Innovationen auf diesem Markt? Und ich glaube, es gibt sicherlich eine Menge Gründe, warum wir uns da so schwer tun. Ich glaube, die Amerikaner haben einfach ein anderes Verständnis auch für neue Firmen. Wir finden es eigentlich tendenziell kulturell auch immer ein bisschen besser, die alten Firmen nochmal zu behalten, damit wir keine Arbeitsplätze gefährden. Da denkt man einfach anders in den USA. Dann ist in den USA auch einfach viel mehr Geld da. Wenn man junger KI-Entwickler ist gerade, man bekommt da Geld. Das ist vollkommen absurd. Also da bleibt niemand, der alle Tassen im Schrank hat, in Deutschland, sage ich mal so. Naja, und was natürlich auch noch hinzukommt, es gibt eine massive Unterstützung durch das Verteidigungsministerium. Heute sagen wir ja Kriegsministerium, man hat ja den Namen geändert, aber Silicon Valley wäre nie Silicon Valley geworden ohne das Pentagon. Und das muss man einfach auch mal klar sehen, mit wem die Europäer es da dann auch zu tun haben. Unabhängig davon, wer im Weißen Haus sitzt. Genau und das ist ja auch was, worüber die EU gerade nachdenkt. Also auch die EU-Kommission möchte ja jetzt auf einmal eine ganze Menge Geld in die Hand nehmen, um hier auch eine Industrie auch einfach aufzubauen, aber wir tun uns damit historisch schwer. Ich glaube nicht, dass Regulierung das Problem ist, aber in vielen Fällen macht es glaube ich Dinge nicht leichter und da geht es dann aber wahrscheinlich weniger um diejenigen, die die KI bauen und eher um die, die die KI anwenden. Also gerade der AI-Act war rein von der Kommunikation her jetzt kein großer Erfolg, weil er vor allem dafür gesorgt hat, dass eine Menge Leute unsicher sind. Und wenn man unsicher ist, dann lässt man halt lieber die Finger von diesem gefährlichen KI-Zeug, als dass man in dem Moment, wo es zählt, auch mal anpackt. Würdest du denn per se ausschließen, dass es möglich ist, auf der einen Seite ein sehr gutes, trainiertes KI-Modell auf den Markt zu bringen und trotzdem den Datenschutz zu gewähren und die Kontrolle auch über die eigenen Daten zu behalten? Ich würde es nicht ausschließen, aber wahrscheinlich, solange es quasi Akteure auf dem Markt gibt, denen dieser Faktor nicht wichtig ist und die einfach alle Daten einsaugen, die sie bekommen, wird man immer einen enormen Wettbewerbsnachteil haben. Und das ist eine Abwägung, die wir treffen müssen. Das sagt Gregor Schmalzried, KI-Experte, Journalist und preisgekrönter Podcaster. Danke Gregor, schön, dass das geklappt hat. Sehr gern. Wir wollen jetzt noch die Frage klären von diesem Verfahren, diese Ermittlungen, die eingeleitet wurden, EU vs. Google vs. Big Tech. Wer sitzt da eigentlich am längeren Hebel? Und ich freue mich, dass wir darüber mit Andreas Stamm sprechen können. Er ist Korrespondent im ZDF-Studio in Brüssel, berichtet unter anderem über die EU und hat sich diese Ermittlungen gegen Google genau angeschaut. Hi Andreas. Hallo Helene, grüße dich. Jetzt ist dieses Verfahren, diese Ermittlungen, die sind ja noch nicht abgeschlossen. Aber sollte herauskommen, dass Google beim Training seiner KI-Modelle gegen europäisches Recht verstoßen hat, was wäre die Konsequenz? Naja, die EU kann natürlich harte Geldstrafen verhängen. Das tut richtig weh, das tut die EU auch. Google hat erst im September für Verstöße gegen Wettbewerbsregeln fast drei Milliarden Euro zahlen müssen. Das ist noch anhängig, da wird noch drum gekämpft, aber das sind die Größenordnungen, über die wir hier reden. Also das sind auch für weltweit operierende Tech-Giganten keine Peanuts. Nun kommt ja irgendwie erschwerend hinzu, dass diese Tech-Giganten nicht im luftleeren Raum agieren, sondern quasi Best Friends und Buddies der antrierenden US-Regierung sind. Also steht da ja eigentlich auch nochmal eine ganze andere politische Macht dahinter, einschließlich der Drohung, wenn ihr unsere Tech-Konzerne irgendwie nicht nett behandelt, dann puh, keine Ahnung, steigen wir aus der NATO aus. Die Erpressbarkeit ist da. Die wird hier auch gespürt. Über die wird hier auch hinter den Kulissen ganz offen gesprochen. Mittlerweile nicht nur hinter den Kulissen. Man sieht im Endeffekt, wie das laufen kann. Ich glaube, so zwei mustergültige Beispiele waren eben diese Strafe gegen Google im September. Die EU-Kommission hat freitagsabends um 17.45 Uhr plötzlich eine Pressekonferenz eingerufen, wo jeder natürlich schon weg ist im Wochenende, so heimlich heimlich. Die Strafe hätte viel höher ausfallen können, bis zu sieben Milliarden. Man hat dann bei drei Milliarden gesagt, hier fällt der Hammer. Wir haben im Hintergrund dann auch gehört, das war politisch gewollt. Man wollte da niemand aufschrecken und ja, Google Alphabet hat dann so reagiert, wie das halt ein, sagen wir mal, professionelles Unternehmen macht, das irgendwie unter den Tisch gekehrt und auch kein großes Aufheben drum gemacht. Anders, letzte Woche 120 Millionen Strafe gegen Ex-Elon Musk, auch wieder Wettbewerbsverstöße und der hat natürlich sofort die volle Maschinerie in den Gang gesetzt und das dann auch politisch ansteckend. Dann äußert sich Präsident Trump und schon hat man da einen richtigen Shitstorm gegen Europa. Und das ist die Macht, die Washington hat oder die auch die Tech-Konzerne in Verbindung mit der US-Regierung haben. Und die wird gespielt, wenn das eben auch so vehement gefordert wird, wie jetzt im Fall von Elon Musk, dem Chef von X. Ja, auf den Wust von Elon Musk hat ja dann auch noch der frühere russische Präsident Medvedev, also die Marionette Putins oder auch sein Lautsprecher oder wie man ihn bezeichnen will, darunter gesetzt, ja ja unbedingt. Also als Elon Musk dann sagte, die EU muss zerstört werden. Ja. Absolutely, schrieb Medvedev dann. Da wissen wir es, mit wem wir es zu tun haben. Und man sollte ja meinen, dass auch diese Strafe 120 Millionen, die da gegen X verhängt wurde, dass das für den reichsten Menschen dieser Erde, ja, dass ihm das nicht sonderlich wehtun sollte, aber so wie er sich verhalten hat danach, eben beispielsweise mit der Forderung, man müsse die EU abschaffen, scheint ja doch was hängende zu sein. Es geht darum, dass man sich grundsätzlich nicht regulieren lassen will und nicht von den blöden Europäern sagen lassen will, was man zu tun und zu machen hat. Das ist der wilde Westen quasi. Jeder galoppiert los und macht sein Ding. Und die Europäer haben aber irgendwie andere Vorstellungen davon, wie sie auch ihre Bürger schützen. Versuch mal gegen X zu klagen, wenn mit dir irgendwelche Fakes oder Hassgeschichten oder ähnliches passieren. Da stehst du auch auf völlig verlorenen Posten. Und wenn das nicht aufhören soll, also wenn die EU sich nicht mal langsam darum kümmert, als ihre Bürger auch zu schützen, auch vor dem, was auf diesen Plattformen stattfindet, dann geben sie sich halt irgendwann auch selber auf. Andreas, wo siehst du noch oder wie groß hältst du das Eskalationspotenzial, das bei diesen Verfahren drinsteckt, bei dem sowieso schon angespannten Verhältnis zwischen Europa und den USA? Es ist sicherlich maximal, denn man hat ja in dieser Woche oder in den letzten Tagen, es gab die neue nationale Sicherheitsstrategie der USA. Ich meine, das ist jetzt nicht unbedingt im Rahmen dieses wettbewerbsrechtlichen Verfahrens, aber im Endeffekt ist das ja, wenn man das mal liest, die völlige Missachtung, die völlige Verachtung Europas durch die amerikanische Regierung, durch den amerikanischen Präsidenten und Verachtung. Das drückt sich dann in jeder Pore aus und wenn es um diese amerikanischen Tech-Giganten geht, hat die US-Regierung ja auch hier und da klar gemacht, dass sie das nicht zulassen wird, dass Europa da als Halsabschneider gesehen wird, der die amerikanische Tech-Industrie gängeln will und den Umsätze und Zukunft verbauen will und dass man dagegen vorgehen wird. Das heißt, das Eskalationspotenzial ist immer da und dann kommt eben die schon angesprochene Erpressbarkeit, wie es auch im Handelsstreit war. Es war ja nicht so, dass Europa dann nicht auf Augenhöhe verhandeln kann als einer der größten Märkte der Welt mit so und so vielen Millionen Kunden und und und. Aber am Ende lief es darauf hinaus und das haben dann am Ende die Unterhändler auch zugegeben. Trump hat gesagt, wir machen das jetzt so oder wir lassen die Ukraine einfach fallen. Und damit war klar im Raum, so läuft das jetzt. Und das droht natürlich auch immer im Bereich dieser Verfahren gegen amerikanische Tech-Konzerne. Also stehen die Europäer im Prinzip vor der Aufgabe, nicht nur zu sehen, dass sie militärisch unabhängig werden, sondern auch, dass sie eigene Plattformen entwickeln. Wir könnten das doch auch. Das ist das, was alle verstanden haben. Nur ist das im Rahmen dieser europäischen Strukturen möglich? Gelingt das schnell genug? Also ich glaube, die EU-Kommission versucht das. Aber es ist natürlich unheimlich schwierig, diese 27 Länder zusammenzubringen. Man sieht das vielleicht im Bereich Rüstung, dann weiß man, okay, wir müssen aufrüsten, dann wird ein Militärprojekt gestartet, da soll ein Flugzeug gebaut werden. Ja, und die Franzosen würden gerne ihre atomaren Sachen dranhängen, die Deutschen hätten aber lieber gerne Bomben, aber man weiß nichts. Und dann dauert es ewig, bis man vorankommt. Und ich glaube, das gilt dann auch für alle Bereiche. Es ist eigentlich grundsätzlich der Wille da. Es ist mittlerweile auch, glaube ich, Geld da. Es wird da viel investiert. Aber man hat natürlich dann auch das Problem, man kommt natürlich auf ein Spielfeld, das auch schon... Wo das Fell des Bären schon erlegt ist. Da sind die Amerikaner und man darf nicht vergessen, da sind die Chinesen. Und das ist ja auch immer die amerikanische Begründung, auch vor allen Dingen der Tech-Konzerne zu sagen, es darf keine Regeln geben. Die Chinesen spielen auch nicht nach Regeln und wir kriegen dann den von Gregor eben beschriebenen Wettbewerbsnachteil. Wir müssen das alles so machen, weil sonst gewinnt China diesen Kampf um die neue Technologie, um die Superintelligenz und genau darum geht es. Es ist sozusagen Tech Wars und Europa sieht da im Moment, wie in vielen anderen Bereichen, auch einfach schlecht aus. Das muss man ganz klar sagen. Der einzelne Nationalstaat sieht sicherlich noch schlechter aus. Darum fördern ja auch die Trump-Regierung oder Putin oder die Chinesen, haben ja deshalb auch ein Interesse am Zerfall Europas zurück in die Nationalstaatlichkeit. Das hängt ja alles mit allem zusammen. Deswegen ist gerade diese Wettbewerbsgeschichte, worum es ja hier geht, das muss man ja ganz klar sagen, es ist ein wettbewerbsrechtliches Verfahren. Und das war ja immer, also vor der europäischen Wettbewerbskommissarin, da fürchtete sich die Welt in den vergangenen Jahren, Jahrzehnten. Weil wenn die aufgetreten, aufgestampft haben, dann hat das etwas bewegt. Und das hat natürlich den Amerikanern, vielleicht auch den Chinesen natürlich nicht gefallen. Und jetzt sitzt da einer im Weißen Haus, der sagt, diesen Hebel will ich denen wegnehmen. Insofern ist das jetzt auch ein Aufstampfen und man wird sehen, in dieser schwierigen Lage der Erpressbarkeit, in der man sich momentan befindet, wie das sich ausspielt. Aber der Wille auf europäischer Seite, der Trotz, der auch langsam hochkommt nach diesem ersten Schock, der sich vor allen Dingen am Zoll, am Handelsstreit in diesem Jahr gezeigt hat, wo dann einfach klar war, okay, das ist jetzt konkret, hier ist nicht mehr ein Alliierter, sondern das ist ein neuer Gegner da auf der anderen Seite des Atlantiks. Das konnte man sich nicht vorstellen, wollte man sich vielleicht auch nicht vorstellen. Jetzt ist die Frage, was können wir tun, wie trotzig können wir reagieren, immer im Bewusstsein, dass eben wir im Moment militärisch, politisch, wirtschaftlich nicht auf der Augenhöhe sind mit den Amerikanern, vor allen Dingen eben militärisch. Und solange dieser Ukraine-Konflikt anhält, ist das immer wieder... Die Amerikaner können uns da immer wieder sozusagen an den Ohren packen hier in Europa und durch den Raum ziehen. Und das zu verändern, das glaube ich ist in vielen, vielleicht in fast allen Ländern angekommen der EU, auch in der EU-Kommission, aber das geht eben nicht über Nacht. Andreas, ich muss mich für zwei Sachen bei dir bedanken. Einmal für deine Analysen und Erklärungen. Und zum anderen hast du ein paar Stichworte geliefert, nämlich die Abhängigkeit sowohl von der USA als auch von China, die Erpressbarkeit. Und da möchte ich alle, die jetzt zuhören, gerne auch auf unsere anderen Podcast-Folgen hinweisen. Wir haben einmal eine Folge aufgezeichnet zum Thema Warum sind wir so abhängig von Chinas seltenen Erden? Und letzte Woche haben wir hier über diesen Fall des europäischen Richters gesprochen, der von den USA sanktioniert wurde und daraufhin sozusagen seine digitale Existenz, die ja sehr viel mit amerikanischen Tech-Plattformen zu tun hat, quasi weggenommen und ausgelöscht wurde. Der kann nicht mehr bezahlen, der kriegt keine Kreditkarte mehr. Da haben sich die Europäer auch nochmal total abhängig gemacht. Das ist wirklich faszinierend. Ja, sehr zu empfehlen, diese Folge von letzter Woche. Danke dir erstmal, Andreas, an der Stelle und viele Grüße nach Brüssel. Tschüss, Andreas. Tschüss, ciao. Und eine Sache hatte ich noch versprochen, nämlich die Antwort auf die Frage, was man dann selber tun kann, wenn man nicht möchte, dass seine Daten fürs KI-Training genutzt werden. Ich habe nämlich jetzt erst diese Woche nochmal geschaut, wie das auf Instagram so funktioniert und das ist möglich. Man muss sich da ein bisschen durchklicken. Es gibt auch gute Anleitungen, zum Beispiel von der Verbraucherzentrale. Gilt nicht nur für Instagram, sondern auch für andere Plattformen. Was aber so ist, und das war dieses Jahr auch ein großer Aufschrei und ein großes Thema, vielleicht können sich einige noch daran erinnern, ist, dass man eben aktiv widersprechen muss. Also man bekommt nicht, wenn man sich einloggt auf Instagram oder so, wenn sich in dieser Sache etwas ändern sollte, eine schöne Nachricht, ein Pop-up, wo man gefragt wird, möchtest du das, dass wir deine Daten zum KI-Training nutzen, sondern man muss tatsächlich auf den meisten Plattformen selber aktiv werden. Aber es ist möglich, wenn man ein bisschen danach sucht. Es ist hier im Podcast ja zu einer Art Running Gag geworden, dass wir zwischen dem ersten und dem zweiten Thema immer einen sehr harten Cut hier machen. Aber diese Woche liegt diese perfekte Überleitung sowas von auf dem Silbertablett. Googles KI-Assistent heißt ja Gemini und das heißt auf Lateinisch Zwillinge, also Gemini. Und aktuell zieht an uns tatsächlich ein Sternschnuppenschwarm vorbei, nämlich die Geminiden, auch benannt nach dem Sternbild Zwillinge, also Gemini. Wann hast du das letzte Mal eine richtig schöne Sternschnuppe gesehen? Ah, das ist schon ein bisschen her. Das war in der Wüste. Da kann man, in der Wüste von Oman, und da kann man natürlich... Wahnsinnige Sternenhimmel sehen und da siehst du dann auch relativ viele Sternschnuppen. Da hast du nicht das Problem der Lichtverschmutzung. Genau. Bei mir war es in den Bergen in Österreich auch ein toller dunkler Sternenhimmel, da habe ich gleich zwei Sternschnuppen gesehen in fünf Minuten. Wer diese Chance auch haben möchte und vielleicht auch noch vor Weihnachten einen letzten Wunsch loswerden will, dann ist jetzt am Wochenende eine gute Zeit dafür. Die Geminiden haben am Wochenende von Samstag auf Sonntag ihren Höhepunkt. Also da stehen die Chancen tatsächlich sehr gut. Und dass man, wenn man in den Himmel blickt, eine Sternschnuppe sehen kann. Und die hellsten sollen so hell sein, dass man sie sogar auch in der Großstadt sehen kann. Dann viel Glück dabei und danke fürs Zuhören. Und wenn ich mir eine Sache wünschen darf, auch ohne Sternschnuppe, dann wäre das die, dass ihr unseren Podcast bewertet und gerne weiterempfehlt. Und wenn ihr wollt, auch einen Kommentar da lasst oder uns Anregungen schickt. Bei E-Mail ist das auch möglich an heutejournal-podcast.zdf.de. Danke fürs Zuhören, danke an dich Marietta und bis nächste Woche. Tschüss. An dieser Folge mitgearbeitet haben Christiane Hoffmann, Esther Stephan, Julia Ilmar, Till Schadl, Niklas Stellhorn und Younes Rabe. Das Fact-Checking kam von Iris Schwarz und Franziska Mayer. Kamera und Ton von Nikolas Keller und Yvonne de Vries.