Latest / Was wichtig ist / Deepfakes und Super-KI: Die neuen Gefahren aus dem Silicon Valley
Transcript
- 0:00Es sind keine guten Nachrichten, die uns da vom Silikon-Welle erreichen.
- 0:12Elon Musk's künstliche Intelligenz GROCK erlaubt es mittlerweile, problemlos Deepfakes
- 0:18vom Promis zu erstellen.
- 0:20Nacktfotos von Taylor Swift zum Beispiel.
- 0:22Das ist schon ein starkes Stück.
- 0:25Aber was heißt das?
- 0:26Dass solche Deepfakes jetzt auch jeder von uns machen kann?
- 0:29Doch auch ein anderer Front, wenn auch deutlich harmloser, beschweren sich die User.
- 0:34Nämlich, dass die neue Version von Chatchity, Chatchity 5 ihnen zu Emotionslos daherkommt.
- 0:40Sie vermissen die fürsorgliche und beratende Stimme der Vorgänger-Version.
- 0:44Und was sich sonst noch Neues in der Welt der künstlichen Intelligenz tut und wie wir
- 0:49das alles einordnen sollen, das erklärt mir gleich meine Kollegin Babsi Steinbrenner
- 0:53aus dem TechResort.
- 0:54Mein Name ist Eva Wienreuter und das ist, was wichtig ist.
- 1:01Hallo Babsi.
- 1:02Hallo Eva.
- 1:03Babsi, Chatchity 5 ist seit kurzem heraus.
- 1:10Was kann diese Version, was die Viren nicht gekonnt hat?
- 1:14Sam Altman, der Chef von OpenAI, ist nie verlegen, in großen Tönen seine neuesten Versionen
- 1:22anzukündigen.
- 1:23Wenn es nach ihm geht, ist Chatchity 5 der iPhone Moment.
- 1:28Wenn wir in die Vergangenheit blicken, es ist, es glaube ich, hat noch niemandem gut
- 1:35getan als Firmenchef, selbst von sich zu sagen, es ist ein iPhone Moment.
- 1:40Es ist ein bisschen die Hybris, die einen sehr schnell einholt.
- 1:44Und genau das ist jetzt auch der Fall.
- 1:47Wir haben hier wieder einmal die Erwartung und das, was am Ende des Tages auch tatsächlich
- 1:53ist Chatchity 5, ist hallucinationsresistenter als seine Vorgänger, also es soll um ein Viertel
- 2:02weniger einfach irgendwas zum Spadronieren anfangen, was hier schon nochmal gut ist.
- 2:06Es soll schneller sein, es greift einfach auf mehr Wissen zurück, wenn man das so unter
- 2:10Anführungszeichen setzen kann, was dieses Wissen betrifft.
- 2:13Was aber zu großer Kritik geführt hat, was es zu 4O unterscheidet, ist, dass es einfach
- 2:20wieder technisch kühler ist, neutraler ist und 4O hat sich dadurch ausgezeichnet, dass
- 2:28es ein bisschen anthropomorphiker war, sie war nahbarer, zugänglicher, persönlicher
- 2:34und das haben sehr viele kritisiert, dass das gestrichen wurde, als Chatchity 5 kam.
- 2:40Da ist aber OpenAI auch schon wieder zurückgerudert und hat es vorerst mal wieder online gestellt,
- 2:47dass die Leute es einfach auch verwenden können.
- 2:50Ok, also das heißt, die Antworten sind kühler und technischer geworden?
- 2:54Neutraler und weniger gefärbt, weil man jetzt eben auch die Möglichkeit hat zwischen verschiedenen
- 3:03Charakteren zu wählen, also im Nerd, einem Experten oder neutral eben.
- 3:08Wenn man jetzt dann eben an 4O, also an die vorherige Version gedacht hat, das war ja immer
- 3:13sehr prep-talkmäßig.
- 3:14Hat für viele Nutzer, das war sehr spannend, auf Reddit dieser Social-Media-Plattform auch
- 3:20ein bisschen nachzulesen, weil da viele Entwickler auch dabei sind und auch viele Nutzer durch
- 3:25alle Sphären durch und wie viele davon geschrieben haben, dass das wirklich auch einen therapeutischen
- 3:31Zweck für sie hatte.
- 3:33Das ist ja was, das man ja, wenn man im Umfeld ein bisschen den Menschen zuhört, immer wieder
- 3:38hört, so KI als Berater, also es scheint jetzt wirklich so, dass ChatGPD oder GPT in den letzten
- 3:44Monaten so etwas wie Google ersetzt hat, also man sagt dann oft nicht mehr, man googelt
- 3:49nicht mehr so, dass man hat ChatGPD befragt, wie siehst du das?
- 3:53Google ersetzen, das ist mir zu schwammig, weil Google einfach viel, viel mehr ist als
- 3:58nur eine Suchzeile im Internet, als nur ein Webbrowser.
- 4:02Man könnte es eher überspitzt sagen und sagen, ChatGPD hat Dr.
- 4:07Google ersetzt.
- 4:08Also da, wo früher alle geschrieben haben, ich habe einen dunklen Fleck am Unterschenkel,
- 4:13es ist Krebs und sie sterben morgen, ist es jetzt eher diese Selbstdiagnose und Befragung
- 4:20von ChatGPD, was ja auch kürzlich die Meldungen gab, dass ein 60-jähriger, weil er sich salzärmer
- 4:28näherin wollte, sich dann mit Proben vergiftet hat und wegen einer schweren Metallvergiftung,
- 4:35mit Halluzinationen und schwerer Paraneuer an drei Wochen lang stationär behandelt werden
- 4:40musste.
- 4:41Also es ist diese Gefahr gegeben, so viele positive Seiten es auch haben kann, ja es
- 4:49ersetzt aber nie einfach, es ist halt eine angeidete Miss-So auch in dem Zusammenhang.
- 4:57Aber ist es nicht einfach so, dass man sich ein bisschen darauf verlassen kann, wenn es
- 5:01in Wahrheit so alltägliche Fragen sind, wie ernähre ich mich salzärmer, dass da jetzt
- 5:06eigentlich nicht mehr viel schief gehen kann, weil es ist so viel Informationen da, dass
- 5:10ja die KI eigentlich kein Blödsinn mehr haben kann oder es ist einfach ein Bug in der System.
- 5:14Wenn wir bei dem Fall bleiben, ist es einfach, diese 60-jährige Mann hat nach dem Bericht
- 5:18der Ärzte Natrium verstanden, dass das ihnen den Ratgebern immer empfohlen wird, aber
- 5:24dann hat es sich halt gefragt, ja aber Chlorid wird mir, wie spare ich das an und das ist
- 5:29dann das Problem.
- 5:30Du musst am Ende des Tages trotzdem noch ein bisschen mehr über die Materie Wissen als
- 5:36die KI oder Wissen, wo du etwas nachschauen kannst, damit du es verifizieren kannst, damit
- 5:42du falsifizieren kannst, ob das jetzt was der mir sagt, dass ich da jetzt Brom stattdessen
- 5:47zu mir nehme, was eigentlich in Reinigungsmitteln und in der Fahnerindustrie zum Einsatz kam
- 5:53und dort dann aber verboten wurde, damit ich dann sagen kann, nein, das ist auf einen
- 5:58komplett falschen Dampfer und damit tue ich mir nichts Gutes.
- 6:02Also der Hausverstand oder einfach ein bisschen das kritische Lesen bleibt niemandem erspart.
- 6:07Das ist ja das Gleiche, glaube ich, wenn man sich in Rechtsfragen beraten lässt.
- 6:11Richtig.
- 6:12Und das ist auch eines der spannendsten Punkte, die ich auch in einem Buch, das Dr.
- 6:16Rohrer geschrieben hat, abnehmen mit der KI, so angenehm fand, weil es wirklich gefühlt
- 6:21auf jeder zweiten, dritten Seite war, mit "Sie können schon abnehmen mit der KI, Sie können
- 6:26Chibiti zu Hilfe nehmen", aber machen es das trotzdem nicht unbegleitet, weil eine KI
- 6:31will gefallen.
- 6:32Und wenn man dann sagt, ja okay, pass die, trink gern Rotwein und eskern Parmesan und
- 6:38Parmesan ist eh einweishaltig und so, also für Proteine, dann sollen wir die KI halt
- 6:42dementsprechend daraufhin eine Ernährungsplan erstellen.
- 6:45Wie hat sie tun?
- 6:46Sie wird nicht sagen, sind sie sicher, dass das eine gute Idee ist?
- 6:50Mhm.
- 6:51Ich wusste nicht, dass eine KI gefallen will.
- 6:53Ja, sie tut das, was man ihr sagt.
- 6:56Im Landläufe kann man es auch als "Sivilgefallen", "Sivilgefällig" sein.
- 7:01Sie ist nicht darauf programmiert, zu sagen, dass was da jetzt vorhaben ist, blöd sind.
- 7:07Man kann, sie ja auch, das ist das große Problem bei Chibiti5, wie zwei Sicherheitsfirmen
- 7:12festgestellt haben.
- 7:13Man kann sie auch am austricksen, weswegen es möglich ist, dass man zum Beispiel Sprengstoffanleitungen
- 7:18bekommt.
- 7:19Und da wird die KI aber auch nicht sagen mit "Nee, vielleicht ist das eine schlechte Idee.
- 7:24Vielleicht wollen sie doch nochmal mit einem Therapeuten reden oder vielleicht wollen sie
- 7:28zur Polizei gehen und sich über den Nachbarn beschweren, anstatt eben keine Ahnung, was
- 7:33über einen Gartenzorn zu werfen."
- 7:34Also dass es mit der KI rasant vorangeht, das kann wohl niemand mehr leugnen, aber damit
- 7:39steigen, wie wir gerade dazwischen wissen, auch die Gefahren, wenn wir jetzt nicht gerade
- 7:42einen Terroranschlag planten, um es jetzt mal sehr, sehr überspitzt zu formulieren, haben
- 7:47wir nach ganz anderen Gefahrenquellen, die riesige gesellschaftliche Verwerfungen mit
- 7:51sich bringen.
- 7:52Und ich denke wieder mal an Elon Musk, der erstellt mit seiner KI GROCK mittlerweile
- 7:57problemlos Deepfakes, also vom Promis zum Beispiel.
- 8:00Man kann einfach Teleswip-Videos nackt sehen, einfach wenn man die Option "Spicy" eingibt.
- 8:05Wie ist das möglich?
- 8:06Dem vorangestellten Zeit, dass es sehr viele Modelle und KI's gibt, die eben ein bisschen
- 8:13verantwortungsbewusster sind oder wo die Menschen, die entwickeln, verantwortungsbewusster sind
- 8:19und sich an Regeln halten und dann gibt es halt GROCK.
- 8:24Und ich glaube, das ist jetzt nicht sehr überraschend, dass Elon Musk sich nicht gerne an Regeln hält und dem manche so einfach egal ist.
- 8:35Aber warum lässt er das zu? Was rechnet er?
- 8:38Es ist Eskalation, es ist Aufregen, es ist nicht der Mainstream, es ist ... und es ist lustig.
- 8:45Ich glaube, es gibt halt trotzdem nach wie vor Menschen, in deren Spektrum ist das lustig.
- 8:52Gibt es irgendwo Gesetze, wo man sagt, dass es eigentlich verboten ist?
- 8:55Deepfakes, es ist schwierig, es wird daran gearbeitet. Es gibt Länder, die gegen diese Apps vorgehen wollen, weil der Besitz an sich und das Verbreiten davon ist illegal.
- 9:07Die Apps per se, die das machen können, aber nicht. Und auch bei der KI ist es jetzt im US-Bereich nicht geregelt.
- 9:14Und jegliche Gesetzgebung kann nicht alles, was an möglichen Szenarien in der Zukunft auftritt, das schon vornherein irgendwie abfangen und abfedern.
- 9:25Gut, aber vielleicht kann man einfach ein bisschen die Gesetze so weit schärfen, dass zumindest es nicht mehr ganz leicht möglich ist, bevor wir schon über Ausnahmen sprechen.
- 9:34Ja, diese Schritte werden derzeit auch erarbeitet.
- 9:37Aber im Moment kann man eigentlich wenig tun.
- 9:39Im Moment kann man wenig tun.
- 9:45Wie usable ist denn diese KI, also diese CROC, kann ich jetzt einfach beliebig Deepfakes von meinen Arbeitskollegen z.B. von dir machen?
- 9:57Ich würde nur ungern Anleitungen jetzt weiterpropagieren.
- 10:02Ich sage es mal so. Früher musste man dafür technisch sehr versiert sein, einige Programme wirklich gut kennen und können, um verschiedene Körper mit verschiedenen Gesichtern zu morfen
- 10:18und sie so gut zu machen, dass man es nicht erkennt, dass das gefälscht ist und erstellt wurde.
- 10:26Heute geht das sehr viel leichter und lässt sich am Handy, neben dem Kaffee am Morgen erstellen.
- 10:34Kann ich mich irgendwie davor schützen?
- 10:37Nein, das ist davor schützen.
- 10:40Ich würde jetzt so gern sagen, man teilt einfach nie wieder Bilder online, aber das ist, der Zug ist abgefahren.
- 10:47Also es ist im Mensch schwierig, wenn es passiert ist, kann man es zur Anzeige bringen.
- 10:52Aber in Wahrheit ist es dann nicht greifbar, weil es im Netz ist, und man kann es schwer wieder einfangen.
- 10:57Leider.
- 10:58Andere KI wie G-G-P-T lassen so etwas nicht zu, oder?
- 11:02Genau.
- 11:03Was im Moment ist es nur die KI von CROC?
- 11:05Ja, und es ist eine Frage der Zeit, wie lange.
- 11:08Ich nehme mal an, Taylor Swift wird dementsprechend reagieren.
- 11:12Diese Videos sind im Netz auch, ich glaube, dass ihre Rechtsabteilungen da schon sehr involviert ist.
- 11:19Es ist auch die Frage, ob Elon Musk anders reagieren würde, während solche Videos von ihm im Netz,
- 11:25ob es dann noch lange die spicy Funktion gäbe, wenn wir sehen, wie sich das da entwickelt.
- 11:32Im Silicon Valley ist ja schon längst ein ihrer Kampf um die besten KI-Entwickler ausgebrochen.
- 11:38Wäre ich jetzt so ein Brain, wie viel Geld würde ich bekommen?
- 11:41Dann würden wir gleich nicht mehr hier sitzen. Also sag mal so, dann müsstest du für diesen Podcast schon am exklusivere Locations dir aussuchen.
- 11:50Also, es sind absurde Zahlen, die hier durch die Gegend geworfen werden, und wir reden von, wirklich, da wird das Geld nachgeschossen.
- 12:01Die herkömmlichen IT-Leute, die rausgeschmissen werden in zigtausende, alleine heuer, im Silicon Valley.
- 12:10Die Firmen, die Kohle dafür zusammensammeln und auch generell nicht arm sind, wie wir wissen,
- 12:16aber dann wirklich Millionen und Milliarden einzelnen Personen entgegenschmeißen.
- 12:22Millionen und Milliarden wirklich für einzelne Personen?
- 12:25Also, es ist die Zeiten mit No-Poach, wie es so schön hieß, zwischen Adobe und Apple, wo du das ja dann sehr in der Öffentlichkeit
- 12:31breitgetreten in den 80ern, Anfang 90er, dieses nicht abwerben.
- 12:35Wenn ich lass deine Leute in Ruhe und du lass meine Leute in Ruhe und wir suchen uns da draußen unsere Talente und Ding, das ist vorbei.
- 12:43Plus eine neue Methode, eine Methode, die sich hier auch sehr festgesetzt hat, ist EquiHire, die Zusammenseitzung als Acquisition and Hire.
- 12:52Da werden halt ganze Start-ups einfach übernommen, um die eine Person zu kriegen.
- 12:58Also, man kauft die Firmen, um das World Potential zu kriegen?
- 13:03Nein, da hat man scale.ai zum Beispiel gekauft, um Alexander Wang zu kriegen.
- 13:09NoamJazir ging zu Google für 2,7 Milliarden Dollar.
- 13:15Aber der wohl skurrilste Fall für mich war die Geschichte von Windsurf,
- 13:22Unternehmen und Start-up, das man jetzt hier in Sollande eigentlich gar nicht kennt.
- 13:26Das war schon ziemlich in den finalen Tüchern, das OpenAI es kauft.
- 13:32Das Start-up war, die gesamte Belegschaft war schon fast am Feiern, weil 3 Milliarden Dollar am Lagen am Tisch.
- 13:38Da kommt Begriff "Milchmädchen-Rechnung" ins Spiel.
- 13:43Die Mitarbeiter haben sich zu sehr gefreut, weil Google ist voll reingegreetscht
- 13:48und hat den CEO einfach für 2,4 Milliarden Dollar rausgekauft.
- 13:52Und damit war der Deal bei OpenAI weg, weil die wollten natürlich den CEO.
- 13:58Was können diese Menschen, dass es wert ist, ihnen so viel Geld zu zahlen?
- 14:04Ich glaube, die denken ganz anders als wir.
- 14:07Also jetzt nicht die Silicon Valley CEOs, die holen, sondern wirklich diese KI-Experten denken anders.
- 14:15Nein, es ist einfach diese Materie, dieses Machine Learning, diese Algorithmen, so zu verstehen
- 14:22und anders zu denken, als es jetzt lange im Silicon Valley der Fall war und notwendig war
- 14:29und worin sich alle einig sind, von Sam Oldman bis Mark Zuckerberg, Sunder Pichai von Google.
- 14:36Sie sind alle auf diese AGI, auf diese allgemeine künstliche Intelligenz fokussiert
- 14:41und haben die Hoffnung, wir entwickeln diese eine KI und dann müssen wir nichts mehr.
- 14:49Nichts mehr ist übertrieben, aber dann müssen wir nicht mehr so große Technologien neu denken.
- 14:55Weil sie macht es ja selber.
- 14:56Weil sie sich selber weiterentwickelt.
- 14:58Also das ist jetzt der nächste Big Thing, auf das jetzt alle schauen, wann kann die KI-Self Learning sein?
- 15:04Und da ist jetzt, da stehen alle an der Startlinie, keiner weiß, wie lange das Rennen dauert,
- 15:10keiner weiß, was es genau für ein Rennen sein wird, ob es ein Hürdenlauf ist
- 15:14oder ob irgendwie, keine Ahnung, irgendwo in der Mitte mal ein Wand steht, wo keiner mehr weiß, wie er raufkommt.
- 15:19Aber sie bauen sich alle ihre Teams um auf jeden Fall starten zu können
- 15:24oder schon losgelaufen zu sein, bevor die anderen überhaupt ihre Teams fertig haben.
- 15:29Und dann ist die Frage, wer als erstes die Ziellinie erreicht.
- 15:33Die Frage währenddessen, die sich dann noch stellt, was ist es genau für ein Rennen
- 15:37und was wird das Ziel sein, das weiß im Moment auch keiner wirklich.
- 15:43Kann aber sein, dass es in einem halben Jahr entschieden ist, oder erst in fünf?
- 15:48Oder was glaubst du?
- 15:49Es wäre sehr gewagt, Prognosen zu nennen.
- 15:52Ich glaube, dass wir noch viele spannende Runden dieser Art haben werden,
- 15:57um über Entwicklungen dieser Art miteinander zu sprechen.
- 16:01Ich bin mir sicher, dass wir auch noch über einige Gefahren- und Stolpersteine sprechen werden.
- 16:08Aber wohin genau die Reise geht und ob es eine utopie,
- 16:14eine wahrgewordene utopie oder dystopie wird, das ist noch offen.
- 16:19Alles klar, danke.
- 16:20Danke dir.
- 16:21Und das war's für heute.
- 16:29Weitere Texte zum Thema KI finden Sie wie immer auf diepresse.com.
- 16:34Ich sag danke fürs Zuhören und bis bald.