Latest / heute journal - der Podcast / KI und News in 2050 – live von der re:publica – Mit Felix Simon

Transcript

KI und News in 2050 – live von der re:publica – Mit Felix Simon · heute journal - der Podcast

• Guten Abend. Hier kommen die wichtigsten Meldungen des Tages heute am 18. Mai 2050. Im südchinesischen Meer ist ein Zwischenfall zwischen autonomen Waffensystemen eskaliert. Nach übereinstimmenden Berichten haben sich mehrere unbemannte Einheiten gegenseitig als Bedrohung eingestuft und Angriffe ausgelöst. Die beteiligten Staaten weisen jede Verantwortung zurück und sprechen von Systemreaktionen. Die US-Raumfahrtbehörde NASA hat den Start des neuen Deep Space-Programms Dragonfly 3 bestätigt. Ziel der Mission ist der Aufbau einer dauerhaften, zunächst unbemannten Forschungsarchitektur im Saturn-System, mit Fokus auf die Eismonde Titan und Enceladus. Vor 23 Jahren hatte die NASA die Erkundung mit dem Programm Dragonfly 1 gestartet. Zum Wetter. In weiten Teilen Deutschlands werden Temperaturen von bis zu 40 Grad erreicht. Es gelten weitreichende Einschränkungen beim Wasserverbrauch. Eine Entlastung ist derzeit nicht absehbar. Jetzt beim Datum genau hingehört und deswegen natürlich keine Panik bekommen. Wir haben gerade eine völlig fiktive und frei ausgedachte Nachrichtenmeldung aus dem Jahr 2050 gehört. gesprochen, aber von der echten und leibhaftigen Gundula-Gause, also nicht von einem KI-Avatar. Wir sind nämlich immer noch im Jahr 2026 und zwar live auf der Republika in Berlin, der Konferenz für die digitale Gesellschaft. Ich bin Helene Reiner und neben mir sitzen auch ebenfalls live und echt und in Farbe Dunja Hayali, Moderatorin des Heute-Journals. Hi Dunja. Hallo. Und der Kommunikationsforscher vom Reuters Institute for the Study of Journalism der Universität Oxford, Dr. Felix Simon. Hi Felix. Schön, dass du hier nach Berlin gekommen bist. Ja, vielen Dank für die Einladung. Und ich bin wirklich froh, ich sitze lieber mit euch hier als Menschen, als mit Avataren. Das muss ich auf jeden Fall mal sagen. Also ich glaube, das geht uns ganz genauso. Ich bin froh, dass wir vor allen Dingen auch echte Menschen hier haben, weil wir wollen ja hinterher auch noch ins Gespräch gehen. Und klar geht es auch über Bildschirme, aber man sieht einfach jetzt schon Mimik, Gestik, man spürt eine Stimmung und wenn hier nur Monitore wären, Willst du mir jetzt schon wieder sprechen? Wäre es anders. Also da ist auf jeden Fall noch viel zu besprechen. Unser Thema heute, das Heute-Journal 2050. Die Welt dreht sich weiter. Aber wie drehen wir uns da eigentlich mit als Nachrichtenmenschen? Braucht es uns in Zukunft überhaupt noch? Und vor allem auch, was will eigentlich das Publikum? Also was wollt ihr da draußen, die ihr jetzt hier sitzt oder die da draußen, die jetzt gerade zuhören? Was wollt ihr und was wollen wir als Gesellschaft eigentlich hören, sehen oder vielleicht auch fühlen. Wir finden heraus, welche Trends und Technologien es heute schon gibt, aber wir machen auch eine kleine Reise in die Zukunft, also steigt sehr gerne mit ein in unsere kleine Zeitmaschine. Schön, dass ihr dabei seid. Herzlich willkommen beim Heute-Journal-Podcast. Felix, du hast einen ziemlich beeindruckenden Lebenslauf. Du warst am Center for Digital Journalism der Columbia University, hast deinen Doktor in Oxford gemacht. Du hast Tech-Unternehmen und Medienhäuser in KI-Angelegenheiten beraten und deine Arbeit wurde unter anderem aufgegriffen in der New York Times, im Guardian, in der BBC, in der Washington Post und so weiter. Bei so einem Werdegang hat man vermutlich keine Angst von der KI ersetzt zu werden, oder? Zum einen fühlt es sich merkwürdig an, das so gespiegelt zu bekommen, was man gemacht hat, aber auch ich habe tatsächlich Angst davor. Es ist nicht so, dass ich nachts ruhig schlafe, wenn ich daran denke, was diese Systeme zum Teil können. Und als jemand, der solche Systeme auch viel nutzt für verschiedene Tätigkeiten, für verschiedene Bereiche meiner Arbeit, muss ich schon sagen, dass ich mittlerweile an dem Punkt bin, ich habe mit Dunja vor der Sendung kurz darüber gesprochen, Da sind Sachen dabei, die ich mir vor fünf Jahren nicht hätte vorstellen können. Und so ganz ruhig schlafe ich auch nicht mehr. Wie ist es bei dir, Dunja? Ob ich glaube, dass ich ersetzt werde durch eine KI? Und dass ich nicht mehr ruhig schlafen kann? Da ich nicht so einen beeindruckenden Lebenslauf habe, ja. Aber ich habe keine Angst davon, die Quatsch. Also ich finde das schwierig, mir das vorzustellen, wie das in 20 Jahren sein könnte. Also ich mag zwar diesen Satz, stell dir mal vor, aber so richtig reicht meine Fantasie dafür nicht. Weil zum einen ist unser Job ja nicht nur Moderation selber schreiben und dann irgendwie einen Text vorlesen, sondern du musst ja auch Spontanität zeigen können in Live-Situationen. Du musst mit heiklen oder unsicheren Lagen umgehen, beispielsweise es passiert gerade ein Terroranschlag und du bist live auf Sendung, wie soll das eine KI machen? Das kann ich mir halt einfach nicht so richtig, das kann alles kommen, aber ich kann es mir halt noch nicht so richtig vorstellen. Ethische Abwägungen, welche Bilder zeigen wir, diskutieren wir jeden Tag, fast auch im Heute-Journal, in der Redaktion. Können wir das den Zuschauerinnen und Zuschauern zumuten oder nicht? Was ist eine Überforderung? Was für eine Einordnung braucht es auch? Und ehrlich gesagt gibt es eine Sache, die wird eine KI, glaube ich, nicht können. Und zwar, sich so eine Art Experten-Netzwerk aufzubauen oder mit den Korrespondenten, Korrespondentinnen. Felix schmunzelt schon. Oder Korrespondentinnen. Wenn ich jetzt meiner KI irgendwie einen Prompt gebe, was ist gerade in Iran los? Dann wird die mir das nicht wirklich sagen können. Aber wenn ich eine Korrespondentin in Teheran habe, dann kann ich die anrufen und die kann mir mitunter darauf Stand jetzt ganz andere Antworten geben. Und deswegen glaube ich nicht, dass wir ganz so schnell ersetzt werden. Es geht halt auch um Vertrauen, um Glaubwürdigkeit, Einordnung, Kontext. Und ich glaube, soweit sind KIs einfach noch nicht. Hoffe ich. Auch nicht in 20 Jahren. Es gibt übrigens von der Bundesagentur für Arbeit, Ich weiß nicht, vielleicht hat das ja jemand schon mal ausprobiert. Es gibt den Jobfutur-Omaten. Da kann man dann einen x-beliebigen Beruf eingeben und der zeigt dann an, zu wie viel Prozent der heute schon automatisierbar ist. Ich habe vorhin nochmal nachgeguckt, also Moderator, Moderatorin bei Funk und Fernsehen heute zu 50 Prozent automatisierbar. Wo stehe ich jetzt? Ich war Forscher. Ich habe zumindest was gesucht, was 0% automatisierbar ist und bin dann auf Erzieher, Erzieherin und Psychotherapeutin und Psychotherapeutin gestoßen. Finde ich interessant. Ja, warum? Also gerade bei Psychotherapeutin und Psychotherapeutin, nicht, dass ich jemand bin, der dafür advocaten würde, zu sagen, wir sollten das mit KI-Systemen ersetzen. Aber tatsächlich die Tatsache, dass man mit diesen Systemen durchaus Gespräche führen kann, die dem Ganzen näher kommen. Und es nutzen ja auch Leute schon. Es wundert mich, dass es so gerankt wird. Erzieherin, Erzieher kann ich sehen. Wenn ich jetzt Friseuse gesagt hätte, hätte ich auch gesagt, ja, das ist vermutlich schwierig. Aber Psychotherapeut? Bei dir vielleicht nicht. Ich bin mein eigener Friseur. Es ist bei Journalisten, Journalistin stand dabei zu 40 Prozent automatisierbar, was natürlich nicht heißen soll, dass dieser Beruf in Zukunft, dass es diesen Beruf nicht mehr geben wird, aber er wird sich halt einfach verändern. Aber Felix, würdest du jungen Menschen heute raten, sucht euch lieber was aus, was weniger automatisierbar ist in Zukunft? Werdet nicht Journalist, Journalistin? Nein, also ich würde auf keinen Fall Leuten raten, dass sie keine Journalisten oder Journalistinnen werden sollten. Das ist ein ganz wunderbarer Beruf. Und als jemand, der selbst mal zwischenzeitlich auf dem Pfad war in den Journalismus hinein und dann festgestellt hat, dass er nicht so wahnsinnig gut als Journalist ist, aber sehr gerne darüber forscht und das Ganze versucht zu verstehen, kann ich wirklich auch aus persönlicher Erfahrung sagen, es ist ein tolles Ding und das wird auch KI nicht ändern. Man sollte aber schon, wenn man über eine Berufswahl nachdenkt, das Ganze in Betracht ziehen. Die vielleicht sagen, gut, was ist mir wichtig, wie sehr kann ich auch mit Unsicherheiten umgehen, möchte ich etwas, das auf lange Frist weiter sicher ist, wo ich da nicht so eine große Sorge haben muss, da ist Gärtner vielleicht besser als Journalist oder Journalistin, weil da KI vermutlich für die nächste Zeit nicht so schnell anreffen wird. Also mir fehlt echt noch ein bisschen die Vorstellungskraft. Also wenn ich zum Beispiel rausgehe, um einen Film zu drehen und du redest dann mit Menschen. Dann gibt es ja Wege und Mittel, sie auch, also nicht, dass es ein Trick ist, aber sie zu öffnen, das Vertrauen zu gewinnen und ich weiß nicht, wie das eine KI irgendwann können soll. Weißt du, was ich meine? Also Journalismus ist ja, das habe ich ja gesagt, mehr als einfach nur eine Moderation schreiben und acht Stunden lang irgendwelche Texte lesen, sondern es ist ja echt auch ein bisschen was zwischen den Zeilen Und gerade im Austausch, auch in einem Interview, in einem Streitgespräch, in einer Diskussionsrunde, Weiß ich, also kann ich es mir nicht vorstellen. Nee, ich glaube, fürs erste Jahr. Also was du sehr schön beschreibst, ist das ja journalistische Arbeit, wie jede Arbeit, aus verschiedenen Tasks besteht, aus verschiedenen Tätigkeiten. Und manche davon weitaus eher sich zu einer Form von Automatisierung eignen und dafür anfällig sind als andere. Recherche zum Beispiel. Recherche, genau. Dieses zwischenmenschliche, also jetzt hier zu sitzen. Würde ich auch gleich einschalten. Mach erstmal. Also dieses zwischenmenschliche, die Art von Spontanität, von jemandem das Vertrauen zu gewinnen und zu sagen, okay, wie tickt diese Person, wie komme ich vielleicht an eine Story ran oder wie muss ich auch respektvoll mit so einer Person umgehen, wenn ich die Story verstehen möchte. Empathisch. Empathisch zu sein. Das ist sicherlich nichts, was Systeme aktuell so einfach können. Und ihnen fehlt natürlich Embodiment. Also sie sind in der Form noch nicht Menschen aus Fleisch und Blut, wie wir drei jetzt hier auf der Bühne. Aber es gibt eben auch viele Bereiche im Journalismus, die komplett andere Funktionen erfüllen als das, was du jetzt zum Beispiel machst. Das passiert ja auch schon. Das passiert schon und da wird schon je eingesetzt. Also da verändert sich was und das hat sich auch sehr schnell verändert. Es gab Dinge, die vor fünf Jahren noch als nicht wirklich automatisierbar galten und mittlerweile ist es vollkommen normal. Zum Beispiel Transkription ist nur so ein Beispiel. Ich erinnere mich noch daran, wie ich mühsam Interviews abgetippt habe, wie jemand hinter der Bühne jetzt da gesessen hätte und mitgeschrieben hätte. Das macht KI heutzutage, weil es geht und weil es sehr gut geht. Und du hast aber jetzt auch immer gesagt, aktuell können diese Systeme das noch nicht. Also vielleicht wagst du da ja wirklich einen kleinen Blick in die Zukunft. Wie sieht es aus mit diesen Eigenschaften, das Menschliche, die Nähe herzustellen? Sie werden besser darin. Das hat natürlich viele Gründe runtergebrochen. Liegt es daran, dass diese Systeme trainiert werden, zumeist auch von Menschen darauf, dass sie wärmer sind, dass sie verstehen oder zumindest das, was ein Computer als Verstehen begreifen kann, wie Menschen ticken. Und sie dahingehend optimiert werden. Ob das dann wirklich Empathie ist oder nicht, da streiten sich ganze Bereiche der Computer Sciences und der Philosophie darüber. weil sie haben dieses System wirklich eine Art von Bewusstsein, das ist nicht so mein Tanzbereich. Aber sie werden besser und das ist nur einer der vielen Bereiche, die man sich im KI-Bereich anschauen kann, auf denen solche Systeme Fortschritt gemacht haben. Das ist auch etwas, was mir selbst nicht immer leicht über die Lippen kommt. Ich finde das zum Teil auch schwer zu akzeptieren, weil es natürlich auch an Dinge herangeht, die wir eigentlich als zutiefst menschlich verstehen. Die Tatsache, dass man durchaus eine empathische Unterhaltung mit einem System führen kann, das erscheint mir auch erstmal absurd. Das ist nichts, was ich eigentlich direkt möchte oder wo ich sage, das ist vielleicht eine Entwicklung, die wir bräuchten. Aber es ist der Fall und es gibt Leute, die das tun. Und diese Systeme sind offensichtlich erfolgreich genug, dass sie in sehr speziellen Fällen doch solche Leute, in was wir als AI-Psychosis kennen, hinführen können. Und das ginge nicht, wenn die Systeme nicht zumindest was widerspielen könnten, was wir als empathische Kommunikation zumindest wahrnehmen. Ob es das ist, ist eine andere Frage. Aber ich bin da ganz bei dir. Ich meine, wir haben uns vor fünf Jahren, das hast du ja gerade gesagt, schon gewisse Dinge jetzt nicht vorstellen können, mit denen wir heute ganz normal und alltäglich umgehen. Und wer weiß, wie es in 20 Jahren ist. Ich kann mir jetzt gerade auch nicht vorstellen, dass eine KI ein Interview führt und dann sagt man, wie sieht dann der prompt aus? Unterbrich nach drei Sekunden oder unterbrich, wenn derjenige siebenmal ä sagt. Also ich kann eine KI wirklich begreifen, ist der Inhalt sozusagen passend zu meiner Frage? Redet da jemand um das Zeug? So das ist, aber wahrscheinlich wird es kommen. Um da jetzt nochmal so einen kleinen Reality-Check vielleicht zu machen. Also natürlich habe ich auch bei der Vorbereitung auf diese Folge mir helfen lassen. Ich habe, Felix, du hast uns deine Forschungsergebnisse oder deine Texte hast du uns geschickt und hast selber vorgeschlagen, naja, jag sie halt durch ein Chatbot und lass dir eine kurze Zusammenfassung schreiben. Was man natürlich auch dazu sagen muss, eben weil du hast ja vorhin gesagt, Mörb so bei Recherche. Ich habe auch noch mal länger mit unserem Fact-Checking-Team darüber gesprochen. An der Stelle übrigens sind echt hervorragende Kollegen, Kolleginnen. Danke, dass wir euch haben. Für die ist natürlich auch, sind KI-Tools, werden im Prinzip zu so einer Art zusätzlichen Mitarbeiter oder einer Mitarbeiterin. Wobei die auch ganz klar gesagt haben, natürlich ist es super praktisch, um Dinge zu strukturieren, um auch in sehr, sehr kurzer Zeit verschiedene Quellen rauszufiltern. Aber die Quellenprüfung liegt immer noch bei einem Menschen, weil da diese Systeme auch noch nicht so gut sind, beispielsweise zu kapieren, dass eine Quelle Facebook oder eine Quelle Reddit nicht als vertrauenswürdig gilt oder dass da teilweise Meinungen und keine Fakten dargestellt werden. Insofern ist da am Ende natürlich noch der Mensch. Aber, das wurde mir auch nochmal gespiegelt, es kommt auch stark auf die Trainingsdaten an. Das heißt, wenn man diese Modelle mit Mist, sage ich jetzt mal, trainiert und füttert, dann wird auch Mist rauskommen. Felix, werden diese Trainingsdaten in Zukunft so gut, dass auch in diesem Fall die Quellenprüfung abgenommen werden kann? von einem KI-System. Das ist jetzt, im Englisch würde man sagen, going out to a limb. Also das ist so ein bisschen so eine vorsichtige Vorhersage wahrscheinlich ja. Oder zumindest zu einem Grade, dass wir Stand heute sagen, das ist vermutlich ähnlich gut wie jemand, der jetzt kein absoluter Experte ist darin, aber vermutlich besser als sozusagen der gemeine Laie. Und das sieht man bereits, wenn man zum Beispiel anschaut, wie ganz am Anfang verschiedene KI-Systeme wahnsinnig schlecht darin waren, sozusagen über Real-World-Events, also das, was jetzt gerade passiert, in irgendeiner Form Aussagen zu treffen. Das hat sich innerhalb weniger Jahre verbessert, was nicht nur an den Grundtrainingsdaten, also diesem Grundtraining der Modelle lag, sondern auch, dass man über zum Teil eher fragwürdige Datenzugänge, zum Teil über lizenzierte Datenzugänge neue Daten sozusagen einspielt. Die kommen zum Teil von Medienhäusern, die kommen zum Teil aus vielen anderen Quellen. Wikipedia ist ein Beispiel. Und man sieht, dass zumindest die Top-Modelle, Das ist witzigerweise nicht das Zwing, was die meisten Menschen im Alltag nutzen, sondern wirklich die bezahlten Modelle, wo man doch sehr viel Geld in die Hand nehmen muss, um dazu Zugang zu bekommen, mittlerweile relativ gut darin sind. Natürlich immer noch Schwächen haben, immer noch Fehler machen, aber da schon die Entwicklung effektiv in eine Richtung geht, die einfach immer besser wird. Wie weit es gehen wird, ob es da irgendwelche Limits gibt, ist schwer zu sagen. Ich würde erwarten, dass es weitergehen wird. Ob es jemals Faktenchecker ablösen wird, wage ich eher zu bezweifeln. Da gibt es Dunja Schüttl schon den Kopf und zu Recht, es gibt eben viele Dinge, die gar nicht digitalisierbar sind, die niemals in irgendeiner Form so leicht überprüft werden können, nur wenn man sozusagen digitalen Zugang hat. Dafür wird es Menschen brauchen. Also in ein Archiv zu gehen und zum Beispiel was rauszukramen, um zu sagen, ja, das ist richtig oder nein, das ist falsch. So weit sind wir noch nicht, so werden wir wahrscheinlich auch in den nächsten 20 Jahren nicht sein. Ja, weil es geht ja dabei oder bei Journalismus auch nicht nur darum, einfach zu sagen, 2 plus 2 ist 4. Also so, sondern es geht ja dann doch um mehr. Und wir nutzen natürlich auch KI. Ist ja nicht so, als würden wir das im ZDF nicht benutzen. Zum Beispiel auch zur Überprüfung von Bildern oder natürlich kannst du auch mal eine Moderation durchjagen. Aber wenn ich dann höre, dass wir eine KI nutzen, die aber auch wiederum Fehler machen kann und eine KI nutzen, die eine KI kontrolliert, die auch wieder Fehler machen kann, dann würde ich dem schon mal nicht vertrauen. Ich habe letztens zum Beispiel gegoogelt, wie oft war... Was interessant ist, weil Menschen machen ja auch Fehler. Also warum, was ist für dich da der Unterschied aus der Warte? Also bei einem Menschen, klar machen wir Fehler und zu den Fehlern kann man dann stehen und sollte man stehen, die soll man dann auch berichtigen und so, das ist keine Frage. Bei einer KI habe ich manchmal das Gefühl, ich weiß nicht, ob sie manipuliert oder einfach auf falsche Daten zugreift oder nicht richtig weiß, wie Research geht. Ich habe eine einfache Frage gestellt, wie oft war Selensky in Deutschland? Und dann kam eine Zahl raus und ich kam selber, manchmal muss man ja einfach nur seinem eigenen Bauchgefühl oder manchmal auch das, was man ahnt. Zu wissen, dem Vertrauen und wusste, die ist zu niedrig. Und habe dann unseren Researcher, kleine Side-Story, wir haben im Heute-Journal, wenn die ModeratorInnen, wenn wir unsere Moderation schreiben, die bekommt einen Researcher. Das ist für uns die wichtigste Funktion überhaupt innerhalb des Tages, weil der checkt alles. Der geht jedes Wort, jedes Komma und dann guckt er natürlich auch, ist das stimmig, ist es zu spitz, das kann eine KI zum Beispiel auch nicht, hat es irgendwie einen falschen Zungenschlag und so weiter. Und die überprüfen alles, jede Zahl, wirklich jeden Buchstaben. Das ist eine wahnsinnige Arbeit und die nutzen auch manchmal die KI erst und die findet nicht alle Fehler in der Regel. Und deswegen vertraue ich aktuell einfach immer noch mehr unseren Researchern, weil die auch einfach nochmal andere Möglichkeiten haben, glaube ich, Dinge abzuklopfen, abzufragen und zu checken. Ich habe letztens, weil wir gerade darüber gesprochen haben auch, er hat mich gefragt, ob ich KI benutze bei meiner Arbeit. Zum Research ab und zu, aber in der Regel frage ich dann den Researcher, kannst du bitte nochmal raussuchen? Ich habe letztens zum ersten Mal ein Interview durch eine KI vorbereiten lassen, habe dann den Prompt gegeben, wer ist es, welches Thema und dann kamen fünf Fragen raus. Und habe gedacht, hätte ich die so gestellt, hätte ich am nächsten Tag einen Anruf von der Chefredakteurin bekommen, was bei mir nicht ganz irgendwie stimmen würde. Also Gott sei Dank muss man ja sagen. Und ich finde auch die Gefahr übrigens ist, dass man ein bisschen faul wird. Wenn ich jetzt zum Beispiel sage, schreib mir mal eine Moderation zu XY. Das ist so, wie viele von Ihnen können noch Telefonnummern auswendig oder so ein paar Sachen vom Gehirn aus abrufen. Wie schnell man heute sagt, ach ich google mal eben, bevor man mal 30 Sekunden darüber nachdenkt. Wenn ich mir jetzt vorstelle, die KI schreibt auch noch meine Moderation noch besser als ich, dann wäre ich erstens sauer. Nein, aber das ist, ich finde, man kann das alles mal ausprobieren. Auch wir JournalistInnen sollten das ausprobieren und wissen, was ist möglich und wo ist einfach noch Luft nach oben und wo lauern einfach auch Gefahren. Und dafür ist es natürlich gut und sinnvoll, das alles mal durchzuspielen. Ich glaube, das ist auch ein genereller Punkt, der wirklich für den Journalismus aus der Forschungswarte gilt, was KI betrifft. Es wird genutzt, es sollte auch genutzt werden. Also wenn Journalismus über diese Technologie berichten will, diese Technologie nutzen will für sich und durchaus auch ihre positiven Potenziale abschöpfen will, dann muss es genutzt werden. Aber es ist eben in einem High-Stakes-Kontext. Journalismus ist extrem wichtig. Es ist wichtig. Brauchen sozusagen Menschen, nutzen Journalismus Tag für Tag, um wichtige Entscheidungen zu treffen, um die Welt zu verstehen, um ihr eigenes Leben zu navigieren. Märkte bewegen sich abhängig von Medienberichterstattung. Und da ist einfach diese Kontrollebene, die ohnehin schon besteht und eingebaut ist in das Ganze, nochmal besonders wichtig. Und das wird auch mit KI noch wichtiger werden. Ja, und ich glaube, ehrlicherweise, ich weiß nicht, wie es Ihnen geht. Sie gucken ja vielleicht ab und zu das Heute-Journal oder Ingo war gerade hier, die Tagesthemen. Es geht ja schon auch um Glaubwürdigkeit, weil du mich gerade gefragt hast, naja, der Mensch macht ja auch Fehler. Aber dann kannst du halt sagen, hier, das war ich, ich habe das falsch gemacht, Punkt. Wenn ich dann jetzt Ihnen sage, ja, das war die KI, denken Sie nochmal kurz darüber nach, was macht denn das mit Ihnen? Und ich glaube wirklich, wir müssen so ein bisschen aufpassen bei der Nutzung, weil wenn wir über Glaubwürdigkeit und Vertrauen sprechen, das ist wahnsinnig schwer zu gewinnen oder zurückzugewinnen. Und wir haben sowieso diese ganze Debatte um Desinformation beispielsweise. Das gab es schon vor zehn Jahren und vor 20 Jahren. Aber es wird natürlich durch KI, es gibt von mir Videos, die gucke ich mir an und denke, wann habe ich das denn gesagt? Habe ich aber gar nicht gesagt. Die sind mittlerweile so gut und so verwechselbar mit der echten Person. Jetzt ist es egal, ob Marietta oder Christian oder ich. Und ich glaube, darüber sollten wir uns wirklich Gedanken machen. Weil wenn wir diese Zweifel, wenn das immer mehr Zweifel gibt, wem glaube ich noch? Ich meine, wie nutzen sie die sozialen Medien? Sie gucken Videos. Ich gucke sehr viele Hunde-Videos. Und manchmal gibt es da wirklich, ein Hund rettet, ich kann mich jetzt an nichts Konkretes erinnern, aber von mir aus eine ganze Schulklasse, weil er den Bus aus dem Wasser zieht. Und dann für eine Sekunde freue ich mich und denke, wow. Und dann kommt natürlich mein Verstand und sagt, okay, das ist vielleicht ein bisschen Quatsch. So die Sachen können wir gerade noch erkennen, aber wir bleiben ja trotzdem hängen, weil sie uns faszinieren, weil wir es vielleicht auch glauben wollen. Nur, wenn wir immer weiter mit diesen gefakten Videos in den sozialen Medien konfrontiert werden, dann sät das auch bei mir. Ich glaube keinem Video mehr. Egal, was ich sehe. Ich denke immer, ist es KI? Ist es denn echt? Ist es KI? Ist es denn echt? Und wer von Ihnen nimmt sich die Zeit, das wirklich dann nachzuprüfen, wenn es was Ernstes ist? Also jetzt nicht der Hund, der irgendjemand aus dem Wasser zieht, sondern Donald Trump, der sagt... Sie können sich irgendwas aussuchen, was Donald Trump sagt. Da gibt es ja diverse Möglichkeiten. So, und was macht das dann mit einem? Und ich glaube, am Ende ist es sogar, da gehen wir jetzt nicht weiter drauf ein, tatsächlich demokratiegefährdend. Wenn du nur noch Zweifel hast, wenn keiner keinem mehr glaubt, wenn du alles hinterfragst und wenn du keine Quelle hast, wo du sagst, der vertraue ich, dann wird es schwierig. Dann vertraust du Institutionen nicht, dann vertraust du Sendern nicht, dann vertraust du ganz vielen anderen wichtigen Lebensbereichen. So, und jetzt darfst du mir sehr lang widersprechen. Nee, gar nicht. Mich würde es interessieren, weil du gesagt hast, du vertraust keinem Video mehr, keiner Quelle. Außer wir haben es selbst gedreht. Außer wir haben es selbst gedreht. Würde es auch für die Konkurrenz gelten? Wenn du jetzt RTL ein Video siehst, sagst du, kann nicht echt sein? Zweifel immer. Aber wissen Sie, Zweifel ist auch gut. Das wollte ich damit überhaupt nicht in Frage stellen. Also ich würde auch immer alles erstmal kritisch hinterfragen. Kann das sein? Aber wir sind eben auf so einem Weg, dass du wirklich echte Szenarien, also unechte Szenarien in sehr real und sehr echt darstellen kannst. Und deswegen brauchen wir viel mehr Medienkompetenz an Schulen beispielsweise. Und in der EU gilt ja der AI Act und ab August diesen Jahres auch die Kennzeichnungspflicht für KI-generierte Inhalte. Felix, meinst du, das ist eine gute Lösung oder eine Möglichkeit, um diesem Problem der Glaubwürdigkeit zu begegnen? Ich glaube nicht. Also es ist gut gemeint. Und da haben viele sehr intelligente Menschen sehr hart daran gearbeitet. Am Ende des Tages ist, glaube ich, das größte Problem mit Glaubwürdigkeit nicht mal so sehr, ob der Inhalt, also das, was man sieht oder hört oder liest, echt ist, also sozusagen mit einer Kamera erzeugt und mit einem Mikrofon aufgenommen, sondern das Problem in vielen Fällen ist, dass gewisse Menschen meistens an extremen politischen Rändern Gründe haben, Dinge abzulehnen. Die glaubwürdig sind. Und es gibt viele, viele Ansätze zu erklären, warum das genau der Fall ist. So richtig weiß man es glaube ich nicht. Aber da ranzukommen wäre die große Aufgabe und das macht kein Label, das macht keine Kennzeichnungspflicht. Wenn ich vollkommen davon überzeugt bin, dass der Sturm auf das Kapitol am 6. Januar kurz vor der Erinnerung von Biden zum Westpräsidenten nie stattgefunden hat, dann kann kein Video von CNN oder vom ZDF oder von der ARD mich davon überzeugen, dass es tatsächlich Menschen gab, die mit allen möglichen Dingen bewaffnet in dieses Gebäude eingedrungen sind und für Verwüstung und totgesorgt haben. Weil das ist das Problem, dass es gewisse Gruppen gibt und das ist am Ende des Tages eine strukturelle Komponente. Das gab es auch schon immer. KI macht das natürlich ein Stück weit verstärkt und macht das ein Stück weit komplizierter, weil eben jetzt Technologie da ist, die uns Realitätsabbildung per Knopfdruck erzeugen kann. Und man sieht es auch, also ganz allgemein, wir sehen es in Forschungsergebnissen, Menschen sind generell ein Ticken skeptischer geworden. Ich glaube, was ich persönlich immer so interessant finde dabei und ich merke es an mir selbst, Also ich habe genau die gleiche Erfahrung wie du, bei mir sind es Katzenvideos, nicht Hunde. Da scrolle ich irgendwie durch Instagram durch oder Blue Sky oder der gesamte Gesangsverein und schaustelle mir drauf und denke mir so, na das kann ja nicht echt sein. Aber sobald ich der Quelle vertraue, da setzt dieses Prüfungsverfahren dann aus, weil ich eben davon ausgehe, dass sich jemand die Mühe gemacht hat, diesen Inhalt zu überprüfen und mir etwas zu liefern, was glaubwürdig ist und was wir sagen können aktuell, dass es. Sehr frühe Stand der Forschung ist, dass wir das auch gesellschaftlich beobachten können, dass Leute generell ein Ticken skeptischer werden gegenüber Inhalten, die sie nicht direkt zuordnen können, und dadurch ein Ticken mehr Vertrauen tatsächlich in etablierte Quellen stecken, was durchaus auch gute Nachrichten für zum Beispiel Journalismus und vertrauenswürdige Experten sein kann, weil da eben man normalerweise weiß, da kommt was her, das ist belastbar, da sind Prozesse im Gange, die dafür sorgen, dass das, was am Ende rauskommt, nach bestem Wissen und Gewissen eben wahr und vertrauenswürdig ist. Du sagst gerade zuordnen, das ist ja das eine. Und das andere ist aber auch dieses, ich will nur das glauben, was sozusagen meine eigene Meinung bestätigt. Das ist ja auch ein Phänomen, was wir schon seit ein paar Jahren beobachten. Das wird wahrscheinlich auch schon immer. Und jeder kennt das von sich selbst, wollte ich gerade sagen. Nur dann gibt es eben die Kräfte, die du gerade angesprochen hast. Und ich glaube schon, dass eben KI die Möglichkeit schafft, genau diesen Resonanzraum von Desinformation, Hetze, falsche Berichterstattung und so, dass das dadurch noch verstärkt wird. Und darauf müssen wir Antworten finden, weil wir werden es ja nicht aufhalten oder verhindern. Es findet ja auch schon statt. Und das finde ich ist irgendwie auch spannend, was man eigentlich dann da dagegen setzen kann oder wie man da vielleicht auch mit Hilfe von KI. Dann eine Lösung findet. Ich glaube, eine Sache, die ich kurz einwerfen würde, ist, ich stimme dir zu, du hast absolut recht, gleichzeitig ist es wichtig, dass wir nicht in so eine Form von Alarmismus verfallen und sagen, nothing can be believed any longer, das ist alles nur Fake-Wahlen, sind sowieso nicht mehr vertrauenswürdig. Das hat man aus verschiedenen Forschungsergebnissen gesehen, das kann leider auch so einen Gegeneffekt haben, dass man aus guter Überzeugung heraus, auch ich tue das, davon warnen will und sagen will, wir müssen darauf Acht geben, wir müssen aufpassen, hier ist was, hier hat sich was verändert, das aber leider dazu führen kann, dass Leute zu skeptisch werden und. Dann tatsächlich denken, naja, eine Wahl kann eigentlich gar nicht mehr geheim und echt sein in einem politischen Kontext, weil das eh alles nur noch manipuliert ist, nichts kann mehr geglaubt werden, alles ist nur noch fake. Das kann auch sozusagen leider so eine gewisse Form von Backlash haben und ich glaube, da die Balance zu wahren, auf der einen Seite darüber aufzuklären, zu sagen, wir haben sich Dinge verändert, wir müssen in Schulen ansetzen, aber durchaus auch bei der älteren Generation, also meine eigenen Großeltern bräuchten sicherlich auch, so lieb ich sie habe, vielleicht mal einen Kurs, was mittlerweile geht, was sich verändert hat. Wir müssen Institutionen stärken und ja, Journalismus sollte auch gestärkt werden, um dem Ganzen zu begegnen, ohne das Ganze in der Ecke zurück und zu sagen, das ist sozusagen die Apokalypse, die uns bevorsteht. Wir haben jetzt ja schon viel über unsere Perspektive, über die Arbeit von Journalisten und Journalistinnen gesprochen, über Medienhäuser, aber ich hatte ja auch eingangs hast die Frage gestellt, ganz wichtig, und da habe ich auch einen Text von dir, Felix, gesehen, in dem du sozusagen ein bisschen den Vorwurf erhebst, das würde oft auch übersehen werden. Nicht nur, was wir wollen, was wir alles damit anstellen können, sondern was auch das Publikum und die Menschen da draußen damit überhaupt anfangen wollen. Was kannst du uns da aus deiner Forschung erzählen? Also was wird da gut angenommen? Welche Inhalte auch KI generierte? Wie steht man dem Empfang? Also zum einen muss man es aufschlüsseln, wenn man sich jetzt nur anschaut, wie Menschen KI-Systeme nutzen, sozusagen handelsübliche KI-Systeme, also ChatGPT, Cloud, Google, Gemini, also sozusagen die bekannten, großen Consumer-Facing, AI-Systems, das ist so, dass tatsächlich Informationssuche eigentlich top ist, also das ist wirklich das, was die meisten Menschen nutzen und darunter gibt es eine ganze Wandbreite an verschiedenen Nutzungsformen, wo Menschen wirklich sehr kreativ sind damit. Also ich glaube, das Faszinierendste, was ich neulich gehört habe, war, dass mein Waschwecken war kaputt, der Klempner kam und ich musste halt irgendwie Smalltalk machen, weil in England ist das so üblich, man bietet den Leuten Tee an und dann steht man irgendwie so komisch daneben und hofft, dass sie das Ganze reparieren. Und ich frage ihn dann so, um das Gespräch am Laufen zu halten, naja, was er denn mit KI machen würde. Und da war dann die Antwort, naja, er mag Tattoos und wenn er ein neues Motiv hat, dann macht er ein Foto von und macht dann ein Foto von seinem Arm und fragt dann das System, ihm zu zeigen, wie das auf dem Arm aussehen würde. Ich gedacht habe so, okay, da wäre ich jetzt persönlich nie drauf gekommen. Aber das ist, glaube ich, zumindest, wenn man diese KI-Systeme sieht, wie Menschen damit umgehen, das Nutzungsfeld ist sehr breit und man kann sich zum Teil gar nicht vorstellen, was Menschen damit machen, weil Menschen eben sehr kreativ sind. Das ist, was uns auszeichnet. Im Journalismus ist es ein bisschen eine andere Sache. Da sehen wir durchaus in den Daten, die wir haben, dass Leute verschiedene Formen von Akzeptanz für die Nutzung von KI im Journalismus haben. Was relativ okay ist für die meisten, ist zu sagen, man nutzt ein KI-System, um den Text zu copyediten, also dafür zu sorgen, dass der grammatikalisch korrekt ist, dass da keine Rechtschreibfehler drin sind, die total brutal auffallen. Da sagt die große Mehrheit der Menschen, that's fine, das brauchen wir auch nicht mal gelabelt haben, weil das für viele Leute effektiv was ist, was schon da ist. Also Autokorrektur kennen wir. Dich zu ersetzen zum Beispiel wäre komplett anders. Da sind Leute sehr skeptisch, also wenn es um Moderation geht, wenn es um Fernsehansprache, TV Moderators geht, da sagen viele Leute, da wollen wir mit KI nichts zu tun haben. Wahrscheinlich, weil da das drin ist, was du für ihn beschrieben hast, nämlich diese menschliche Komponente, das Gefühl, dass man da jemanden sitzen hat, der…, accountable ist, den man durchaus zur Rechenschaft ziehen kann. Der aber auch ein Mensch ist aus Fleisch und Blut, der im Zweifelsfall ähnliche Erfahrungen gemacht hat, wie man selbst, der Empathie verspürt, der sich in die Situation hineinfühlen kann. Und ich glaube, das scheint den Leuten sehr wichtig zu sein, verständlicherweise. Das ist mir als Menschen, nicht als Forscher, natürlich auch wichtig. Lass uns zum Schluss noch in unsere angekündigte Zeitmaschine steigen. Wir haben uns drei Zukunftsszenarien überlegt, würde ich gerne mal durchspielen. Die Vision 1 ist, man steht morgens auf. Es war eine richtig wiese Nacht. Der nette persönliche KI-Assistent in dem Ohr weiß das natürlich sofort, dass man nicht gut geschlafen hat und passt die Nachrichten deswegen an. Man steigt dann vielleicht ein mit so ein paar Good News, dem neugeborenen Tierbaby im Zoo. Und natürlich sagt einem der Assistent danach auch, dass heute der praktische Zwiebellook sehr, dass man darauf setzen sollte, weil das Wetter ist nämlich heute sehr, sehr unberechenbar. Das heißt also 100% KI, 0% Mensch. Vielleicht machen wir mal kurze Handzeichen im Publikum. Ist das eine Vision, ein Szenarium, mit dem ihr euch anfreunden könntet? Wer fände das gut? Also ich finde es okay. Du findest es okay? Ja? Das klang jetzt nicht so wahnsinnig gruselig bisher. Warten wir mal ab, was kommt, dann stimme ich dir vielleicht gleich noch zu. Dann könnt ihr am Ende entscheiden. Genau, eigentlich hätte ich am Ende entscheiden müssen. Vision 2. Ihr steht wieder auf, ihr setzt morgens die Smart Glass auf und kommt dann zu einem Entscheidungsfeld. Auf der einen Seite Human Generated und auf der anderen AI Generated. Ihr wählt Human und automatisch werden 50 Euro abgebucht. Das heißt, ihr bekommt einen Tagespass für menschliche Inhalte. Der Mensch wird zum Luxusprodukt für die, die es sich leisten können. Also 50% KI, 50% Mensch, je nach Geschmack und Geldbeutel. Ich sehe skeptische Blicke im Publikum. Aber ist das wahrscheinlich, dass sowas kommen könnte? Also das konkrete Beispiel glaube ich nicht. Aber dass man sozusagen für die menschlichen Inhalte irgendwann mehr bezahlt, weil sich es sonst niemand mehr leisten kann? Das wäre möglich. Ich glaube nicht genau in der Szenarioschilderung, aber durchaus, dass Menschen freiwillig dafür zahlen werden, wenn mehr menschliche Inhalte oder menschliche Involvierung in etwas drin ist. Das kann ich schon sehen. Dann kommen wir noch zu unserer dritten und letzten Vision. Selbe Szenerie. Man wacht morgens auf, geht vor die Haustür und dort liegt eine gedruckte Zeitung, weil es einen großen KI-Backlash gab. Die Blase ist geplatzt. Außerdem gab es irgendwann nur noch AI-Slop, also Müll, den irgendwann niemand mehr haben wollte. Das heißt, 100% Mensch, alles bleibt so, wie es ist, beziehungsweise wird so wie früher. Wie findet ihr das Szenario? Szenario und ein paar jubelnde Gesten sehe ich im Publikum. Ist nicht wahrscheinlich, oder? Nein, also so gerne ich ab und an eine Zeitung lese, weil ich dann Artikel lese, die ich online nicht lesen würde, weil ich sie weiterscrollen würde. Ich glaube wirklich, dass KI eine krasse Revolution ist und dass wir schon einiges sehen, aber wir sind noch ganz am Anfang nochmal mit der Vorstellungskraft. Ich glaube, wir müssen einfach lernen, vernünftig damit umzugehen, zu gucken, in welchen Bereichen ergibt es Sinn, dass man sie einsetzt. Wer trainiert sie? Ganz eine ethische Debatte und so weiter. Und ich glaube, wir müssen uns, deswegen ist ja auch gut, dass wir darüber reden, auch im Bereich des Journalismus. Ich glaube, wir müssen uns dieser Herausforderung, und ich sehe es in vielen Bereichen schon auch als Chance und als sozusagen Zusatz, nicht als Ersatz, sondern eben als unterstützendes Mittel. Und ich glaube, wenn uns das gelingt, dann ist es ja eigentlich was ganz Wunderbares als Idee. So, nur leider neigt der Mensch und jeder von uns wird sich da auch vielleicht an die eigene Nase fassen, dass man mit solchen Situationen beziehungsweise mit nicht Situationen, sondern Plattformen oder wie man was kommentiert, wie man mit irgendwas umgeht, auch nicht immer tiptop mit einer Eins nach Hause geht. Also das heißt, wir Menschen versauen Dinge oder wir Menschen machen was Tolles daraus. Und deswegen, es liegt an uns, was wir damit machen. Also übrigens auch an Sendern. Wir haben ja auch eine Verantwortung. Wir haben im ZDF KI-Regeln und die sind jetzt nochmal überprüft worden, nochmal upgedatet worden. Und das ist auch gut, dass du eine Art... Eine Leitlinie hast, an der du entlangbalanierst. Was geht und was geht auf gar keinen Fall? Und da, finde ich, gibt es natürlich Bereiche und da gehört der Journalismus ganz weit vorne mit dazu, wo du diese Regeln ganz klar brauchst. Die sind auch veröffentlicht, kann jeder von ihnen nachgucken. Daran können sie uns immer messen. Und das, finde ich, ist halt wichtig, dass es nicht so ein luftleerer Experimentierraum ist, weil dann geht es richtig in die Hose. Felix, kannst du uns da vielleicht noch einen Rat mitgeben, was kann und muss aus deiner Sicht jetzt getan werden, damit wir diesen luftleeren Raum befüllen, damit wir von einer Entwicklung auch nicht überrollt werden, sondern sie selber gestalten können? Ich glaube, die kritische Auseinandersetzung damit, aber die Auseinandersetzung ist wichtig. Und tatsächlich auch Fragen zu stellen, die ein Stück weit über KI hinausgehen. Also was soll Journalismus eigentlich sein? Und das ist eine Frage, die wir uns eigentlich seit 20 Jahren stellen, seitdem die Digitalisierung da viele Dinge verändert hat. Und die Frage hört nicht auf, wichtig zu sein. KI macht sie ein Stück weit noch wichtiger, weil es tatsächlich so ist, das ist hier Preaching to the Converted. Also Sie wären alle nicht hier, wenn Sie nicht ein Stück weit davon überzeugt wären, dass Journalismus wichtig ist, ein gesellschaftliches Gut darstellt und dass es sich durchaus auch lohnt, dafür zu zahlen. Genau, weil dein Rechercheur, also die Person, die für die Arbeit macht, die kostet Geld. Das kommt nicht für dich. Ich koste auch Geld, glaubst du auch. Ich koste auch. Genau. Ich habe noch eine Frage, weil das ist was, was mich echt umtreibt und da bin ich gespannt auf deine Expertise. Also wir erleben ja im Print, weil du das gerade mit der Zeitung hattest, ist mir das jetzt gerade gekommen. Ich weiß nicht, wo sie alle leben und wo sie herkommen und wo sie sozialisiert sind, aber damals gab es noch sehr viel Lokalpresse und Regionalberichterstattung. Und die ist wirklich wichtig für die Menschen, weil die wollen zwar auch wissen, was passiert da eigentlich in Berlin und in Teheran und in Washington, Aber sie wollen auch wissen, was ist eigentlich bei mir ums Eck, was ist in der Nachbarkommune los. So, jetzt haben wir aber in den letzten Jahren gesehen, dass es halt immer mehr Konzerne gibt, Unternehmen, die sich bündeln, Matzak und was weiß ich, wie sie alle heißen, und die Lokalteile immer weniger werden bzw. Gleicher. Und wenn ich mir jetzt überlege, KI. Zieht einen auch in die ganze Fernsehlandschaft und wo auch immer und übernimmt sehr viele Jobs von Menschen. Das heißt, die Redaktionen werden mitunter eventuell ja kleiner. Kannst du dir dann vorstellen, dass auch da, wie bei den Zeitungen, im Grunde das Angebot weniger wird? Also weniger Vielfalt, mehr Einheitsbrei? Es ist ein Risiko. Also eine Form von Konsolidierung im Medienmarkt findet statt in verschiedenen Ländern. Das ist möglich. Ob es genauso kommen wird, ist schwer zu sagen, aber es ist durchaus ein Risiko, eben weil KI als eine Technologie rationalisiert, die Kostenersparnisse ermöglicht, das möglich macht. Ob das passiert am Ende des Tages, ist es dann aber trotzdem eine Entscheidung von Menschen. Das sind Manager und Managerinnen, die darüber entscheiden, ob sie das wollen oder ob sie es nicht wollen. Und es muss nicht unbedingt so kommen. Wir haben da Agency, wie man so schön sagt. Und wir können Entscheidungen treffen, die das in die eine und die andere Richtung lenken. Lokaljournalismus gerade als Beispiel. Man darf nicht vergessen, Lokaljournalismus hat riesige Probleme, weil die finanzielle Basis weggebrochen ist. Also das Geld, was früher über Werbeeinnahmen kam, das ist weggegangen. Ich will nicht sagen, dass es Technologiekonzerne gestohlen haben, weil das ist viel zu einfach gegriffen als Erklärung. Die haben ein bestes Angebot gemacht für Werbetreibende. Und Werbetreibende haben das angenommen, dass es erstmal nichts Illegales ist. Aber es hat natürlich für den Lokaljournalismus eine finanzielle Basis weggenommen, das dann dazu geführt hat, dass weniger Lokaljournalismus gemacht wird und so eine Art Kreislauf eingetreten ist. Mit KI wäre es durchaus möglich zu sagen, gut, wir haben weniger Menschen in diesem Bereich, wir können aber durchaus... Diese Technologie nutzen. Das wird in verschiedenen lokalen Medienhäusern weltweit durchaus mit Erfolg probiert. Da zu sagen, gut, wir machen wieder mehr mit weniger Menschen. Und vielleicht sogar so viel mehr, dass wir Leute dazu kriegen, für Lokaljournalismus wieder Geld auszugeben. Weil das ist nämlich auch ein riesiges Problem. Da, wo die Werbeeinnahmen weggebrochen sind, muss irgendwas nachkommen als Geschäftsmodell. Oder einfach das Heute-Journal auf allen Plattformen. Dann sind sie immer gut und vor allen Dingen vertrauenswürdig informiert. In diesem Sinne, Prost. Ich finde es super, auch Felix, dass wir mit dir einen nicht allzu pessimistischen Blick in die Zukunft werfen durften. Und ich glaube, es ist allen klar, dass da gerade sehr viel passiert. Es ist eine Veränderung, aber ich glaube, es ist noch nicht zu spät, um diese Veränderung eben auch aktiv mitzugestalten. An der Stelle herzlichen Dank euch beiden. Danke dir für die Moderation. Auch an euch, danke fürs Zuhören an das Publikum hier vor Ort und auch an euch da draußen. Wenn euch die Folge gefallen hat, dann freuen wir uns über eine positive Bewertung und ein Abo. Lasst gerne Feedback da als Kommentar und eine Mailadresse haben wir auch. Heute Journal, minuspodcast.ztf.de. Bis nächste Woche. An dieser Folge mitgearbeitet haben Maike Sruwig, Christiane Hoffmann, Esther Stephan und Till Schadl. Das Fact-Checking kam von Katrin Kribbel und Winona Wilhelm. Kamera und Ton von Heiko Frenzel, Falk, Hendrik Rode, Carolin Grotter und Holger Schubert. Ja, genau. Alles Menschen. Alles Menschen. Heute Journal, der Podcast, wie produziert von Pool Artists.