Latest / KI-Update – ein heise-Podcast / KI-Update Deep-Dive: Wie Kirchen mit KI umgehen

Transcript

KI-Update Deep-Dive: Wie Kirchen mit KI umgehen · KI-Update – ein heise-Podcast

• 0:02
  Speaker 1: Das KI Update, ein heise Podcast mit redaktioneller Unterstützung von The Decoder.
• 0:13
  Speaker 0: Hallo,
• 0:14
  Speaker 1: ich bin Isabel Grünewald und dies ist unser Diebdive zum Wochenende.
• 0:20
  Speaker 1: Wir sind in der Vorweihnachtszeit angekommen.
• 0:23
  Speaker 1: Der Dezember ist wie kein anderer Monat geprägt von Ritualen
• 0:27
  Speaker 0: und
• 0:28
  Speaker 1: viele davon haben zumindest ihren Ursprung in der christlichen Religion.
• 0:33
  Speaker 1: Aber alle Religionen der Welt
• 0:35
  Speaker 0: müssen
• 0:36
  Speaker 1: sich gerade dem Wandel durch KI in unserer Gesellschaft stellen.
• 0:40
  Speaker 1: Sehr klare Zeichen für den Einzug von KI in Kirchen, Synagoben oder Moschinen sind religiöse Chatbots, von Rabbi Ari über Buddha-Bot bis hin zu Muslim-AI oder Shake GPT.
• 0:52
  Speaker 1: Meine Kollegin Sophia Zimmermann von Heise Plus hat sich am Beispiel der beiden großen christlichen Kirchen in Deutschland angeschaut, wie sie den Spagatwagen, ihren Mitarbeitenden KI als Werkzeug in die Hand zu legen,
• 1:05
  Speaker 0: und
• 1:05
  Speaker 1: gleichzeitig die authentische
• 1:07
  Speaker 0: menschliche
• 1:08
  Speaker 1: Begegnung zu bewahren.
• 1:10
  Speaker 1: Ob ihm das gelingt und welche manchmal fast absurden Ausfüchse das nehmen kann, erzählt Sophia uns heute im Diebdive.
• 1:20
  Speaker 1: Hallo, Sophia.
• 1:21
  Speaker 0: Hallo, Isabel.
• 1:23
  Speaker 1: Sowohl die katholische als auch die evangelische Kirche haben sich mehr oder weniger deutlich zu KI positioniert.
• 1:30
  Speaker 1: Fangen wir mal mit der katholischen Kirche an.
• 1:32
  Speaker 1: Da hat noch der letzte Papst, Papst Francisco, ein paar Monate vor seinem Tod, ein Dokument veröffentlicht mit dem schönen Titel Alt und Neu Hinweis über das Verhältnis von künstlicher Intelligenz und menschlicher Intelligenz.
• 1:47
  Speaker 1: Was steht denn da drin?
• 1:49
  Speaker 0: Es ist eine Art ... Nein, nicht Handlungsempfehlung, aber es ist eine Art Orientierung, wie die katholische Kirche quasi der KI gegenübersteht.
• 2:00
  Speaker 0: Und man muss sagen, ich fand das relativ progressiv sogar.
• 2:04
  Speaker 0: Denn der heilige Stuhl erkennt KI ganz klar als ausdruckmenschlicher Kreativität an.
• 2:10
  Speaker 0: Und er erkennt auch definitiv an, dass KI Chancen auf manchen Ebenen bietet, etwa in der Medizin.
• 2:19
  Speaker 0: Aber natürlich ist es auch ein kritisches Dokument in der Auseinandersetzung mit KI.
• 2:24
  Speaker 0: Denn die Kirche sagt, das ist für uns eigentlich ganz klar.
• 2:28
  Speaker 0: KI kann eben nicht denken, sie kann nicht fühlen, sie kann nicht moralisch handeln.
• 2:32
  Speaker 0: Das kann eben nur der Mensch.
• 2:34
  Speaker 0: Und deswegen kann der Mensch im Prinzip auch seine Verantwortung sein tun, sein Handeln, seine Entscheidungen nicht einfach an eine Maschine abtreten.
• 2:43
  Speaker 0: Also der Mensch bleibt im Prinzip an seine Freiheit und an seinen Gewissen gebunden.
• 2:48
  Speaker 0: Das steht über allem.
• 2:50
  Speaker 0: Und die Kirche sieht da schon, dass... dass die Gefahr besteht, dass die Menschlichkeit auf der Strecke bleibt, eben durch KI, weil man im Prinzip, weil Menschen anfangen, möglicherweise ihr Heil in dieser Technik zu suchen, die ja wie gesagt nicht moralisch handeln und fühlen kann.
• 3:09
  Speaker 0: Und sie sieht auch so eine Gefahr des, das ist so ein schönes Wort finde ich, des Götzendienstes, dass man quasi ja... seinen Heiligen KI sucht, dass man quasi sich selbst in die KI gibt oder an die KI gibt mit seinen Sorgen, mit seinen Nöten, aber die natürlich keine Lösung bieten kann.
• 3:30
  Speaker 1: Jetzt ist der neue Papst, der Papst Leo, ist selber auch Mathematiker.
• 3:35
  Speaker 1: Führt er diese Linie fort oder hat er dann ein bisschen anderen vielleicht wissenschaftlicheren Ansatz?
• 3:40
  Speaker 1: Nicht so werden so emotional?
• 3:42
  Speaker 0: Also ich finde schon, dass er diese Linie grundsätzlich fortführt, aber er hat sich vor allem in den letzten Monaten oder Wochen, hat sich vor allem in den letzten Monaten dazu auch relativ kritisch geäußert.
• 3:54
  Speaker 0: Also er hat halt auch gesagt, so wie das jetzt gerade im Moment läuft, hat er schon die Sorge, dass die Menschlichkeit, das menschliche Herz quasi inmitten dieser technologischen Entwicklungen auf der Strecke bleibt.
• 4:09
  Speaker 0: Das ist seine Befürchtung definitiv.
• 4:12
  Speaker 1: Jetzt hat die evangelische Kirche nicht so das unfehlbare Kirchen oberhaupt wie die katholische Kirche.
• 4:19
  Speaker 1: Wie geht die denn damit um mit KI?
• 4:23
  Speaker 0: Na da findet man im Prinzip über die einzelnen Landeskirchen.
• 4:28
  Speaker 0: verschiedene Ansätze im Prinzip, also die ähneln sich schon, also die Landeskirchen haben teils eigene Leitlinien rausgegeben im Umgang mit der, mit KI, aber auch die Diakonie hat das getan, das ist der soziale Dienst der evangelischen Kirchen.
• 4:42
  Speaker 0: Ja, die erkennen natürlich auch an KI gehört mittlerweile zum Alltag dazu, zur Lebenswirklichkeit dazu und bietet natürlich auch Chancen.
• 4:49
  Speaker 0: Und sie erkennt im Prinzip an, dass KI schon als Werkzeug ihren Mitarbeitenden helfen kann, beispielsweise effizienter zu sein bei, was weiß ich, repetativen Aufgaben, möglicherweise E-Mails zusammenfassen, was man kennt, man kennt das ja, ne?
• 5:03
  Speaker 0: Die evangelische Kirche versucht schon.
• 5:06
  Speaker 0: da so einen pragmatischen Ansatz.
• 5:08
  Speaker 0: Also sie sagt schon, okay, das ist da, wir können das einsetzen, wir müssen das irgendwie auch uns damit auseinandersetzen.
• 5:16
  Speaker 0: Aber das Problem bzw.
• 5:18
  Speaker 0: aber der Grundsatz muss natürlich immer sein, Mensch vor Maschine, das ist ja im Prinzip auch das, was die katholische Kirche sagt.
• 5:24
  Speaker 0: Also am Ende ist der Mensch, der die KI einsetzt, auch immer dafür verantwortlich, was dabei herauskommt.
• 5:34
  Speaker 0: Ja, im Prinzip ist es, die Würde des Menschen steht im Mittelpunkt, die darf auch niemals irgendeiner Effizienz geopfert werden.
• 5:42
  Speaker 0: Das ist natürlich im kirchlichen Kontext auch besonders wichtig, weil, na ja, Fahrpersonen beispielsweise kam ja teilweise eine sehr enge Beziehung zu ihren Schäfchen, sag ich jetzt mal, wissen da vielleicht auch Sachen, die die mit anderen nicht so teilen würden.
• 6:00
  Speaker 0: Also das ist ja... Da geht es ja im Prinzip um Datensparsamkeit und dass man mit diesen Personen bezogenen Informationen, die diese Leute haben, sehr, sehr verantwortungsvoll umgeht.
• 6:14
  Speaker 0: Die haben eine sehr große Verantwortung dahingehend.
• 6:18
  Speaker 0: Und diese Leitlinien versuchen da im Prinzip, die Balance zu finden, dass man das ermöglichen kann, damit zu arbeiten, dass man eben auch die Grenzen aufzeigt.
• 6:28
  Speaker 1: Und liegt der Fokus da eher tatsächlich auf diesen administrativen Sachen?
• 6:31
  Speaker 1: Oder geht es auch so quasi gesamtgesellschaftlich um die Veränderungen in der Gesellschaft?
• 6:38
  Speaker 1: Wird da den Seelsorgern quasi was an die Hand gegeben, wie sie damit umgehen sollen?
• 6:43
  Speaker 1: Weil KI ja doch sehr, sehr viele Bereiche unseres täglichen Lebens.
• 6:47
  Speaker 1: gerade verändert?
• 6:49
  Speaker 0: Na ja, das sind tatsächlich ganz pragmatische Sachen.
• 6:52
  Speaker 0: Also zum Beispiel Personen bezogen Informationen dürfen, sollen auf gar keinen Fall an so eine KI weitergegeben werden.
• 6:59
  Speaker 0: Also alles, was man quasi mit Personen in Verbindung bringen kann oder mit Personen in Verbindung bringt, soll man quasi nicht mit der KI teilen.
• 7:07
  Speaker 0: Es geht da wirklich auch um Datensparsamkeit, dass man das Urheberrecht einhält, solche Sachen.
• 7:14
  Speaker 0: Es geht auch um Kennzeichnungspflichten.
• 7:18
  Speaker 0: wie muss man quasi kennzeichnen, dass man mit KI gearbeitet hat?
• 7:21
  Speaker 0: Wann muss man das kennzeichnen?
• 7:23
  Speaker 0: Das ist auch unterschiedlich in den Leitlinien geregelt.
• 7:27
  Speaker 0: Ja, und das setzt natürlich auch zu rechtliche Rahmen.
• 7:32
  Speaker 1: Wie ist das denn?
• 7:33
  Speaker 1: Also, wir kennen ja alle die Problematik mit den Nullachtfünfzehn KI-Aufsetzen, die in den Schulen gerade kursieren, weil alle Hausaufgaben mit HPT Hilfe geschrieben werden.
• 7:44
  Speaker 1: Ich könnte mir vorstellen, wenn ich jede Woche eine Predigtreiben muss und da irgendwie mir was aus den Fingern saugen muss, dass dann der Schritt zu so einer KI-Hilfe relativ naheliegend ist.
• 7:55
  Speaker 1: Gibt es da Regelungen oder wie gehen die Geistlichen, mit denen du auch gesprochen hast, für deine Recherchen mit dieser Problematik um?
• 8:03
  Speaker 0: Also ich fand, dass die Geistlichen, mit denen ich dazu gesprochen habe, die waren da sehr reflektiert im Umgang.
• 8:10
  Speaker 0: Das war einmal der Elektropastor, der Christoph March Grunau.
• 8:14
  Speaker 0: Das fand ich ganz interessant.
• 8:16
  Speaker 0: Elektropastor ist ein cooles Wort.
• 8:18
  Speaker 0: Das ist im Prinzip der Einfahrer für die digitale Verkündigung.
• 8:22
  Speaker 0: Also der ist dafür in seinem Kirchenkreis Delmenhorst Oldenburger Land dafür zuständig, sich quasi mit solchen technischen Entwicklungen zu beschäftigen und die einzuordnen für die Kirche und quasi zu gucken, welche Relevanz hat das für die kirchliche Praxis.
• 8:42
  Speaker 0: Und natürlich, ja, das mit den Predigten schreiben liegt da eben auf der Hand.
• 8:46
  Speaker 0: Und der Elektropaster gibt dazu tatsächlich auch Workshops.
• 8:50
  Speaker 0: Also, wie kann man eine Predigt mit KI schreiben?
• 8:55
  Speaker 0: direkt auffällt.
• 8:56
  Speaker 0: und was ihm auch, glaube ich, besonders wichtig war, was ich total nachvollziehbar finde, ist, dass man natürlich nicht einfach schrei- nicht einfach irgendwie seine Gedanken dazu, in die KI-Hauts, chat GPT, schreibt mir meine Predigt.
• 9:09
  Speaker 0: Es ist heute der, was weiß ich, der drittletzte Sonntag im Kirchenjahr, oder jetzt war ja der letzte Sonntag im Kirchenjahr schon, jetzt geht ja die Adventszeit, geht ja das neue Kirchenjahr schon wieder los, aber... Gut, egal.
• 9:21
  Speaker 0: Also, dass man dann quasi nicht einfach nur so ein paar Allgemeinplätze in die Maschine haut und dann hofft, dass da was dabei rauskommt.
• 9:27
  Speaker 0: Ich habe das mal probiert.
• 9:28
  Speaker 0: Tatsächlich kommt da auch was dabei raus, was schon nach einer Predigt klingt.
• 9:35
  Speaker 0: Also, wo man schon denkt, okay, das könnte ich mir schon vorstellen.
• 9:40
  Speaker 0: Aber wenn man das halt nochmal liest, dann merkt man schon, Da kommen relativ viele lieblose Allgemeinplätze raus, wie Gott lädt uns ein, über das Ende hinauszuschauen.
• 9:53
  Speaker 0: Nichts und niemand geht verloren.
• 9:55
  Speaker 0: Also das sind solche Allgemeinplätze.
• 9:57
  Speaker 0: Damit holt man halt keinen mehr ab oder damit holt man niemand ab, weil es halt doch recht weit davon weg ist.
• 10:03
  Speaker 0: Und darauf zieht eben auch der Elektropastor ab.
• 10:07
  Speaker 0: Er sagt, Natürlich kann ChatGPT eine Hilfe sein, aber damit es eine Hilfe sein kann, muss man sein Handwerk beherrschen.
• 10:16
  Speaker 0: Man muss es wirklich verinnerlicht haben und man muss es eben quasi nutzen, um vielleicht sich eine Gliederung zu erarbeiten oder einen groben Rahmen zu erarbeiten.
• 10:27
  Speaker 0: Aber dazu muss man eben quasi auch, weiß ich nicht, die konkreten Texte, die für diese Zeit jetzt quasi... zuständig sind in die maschine ein pflegen.
• 10:37
  Speaker 0: also man muss ihr im prinzip ziemlich viele ramen und kontext auch liefern damit sie da was vernünftiges ausspuckt.
• 10:45
  Speaker 0: und am ende muss man natürlich das macht er die elektropasto auch ganz klar das natürlich selber nochmal überprüfen.
• 10:52
  Speaker 0: also das kann so ein so ein digitaler sparringspartner sein.
• 10:56
  Speaker 0: Aber man kann das nicht auslagern an die Maschine und da fand ich, da hat er auch einen sehr guten Punkt gehabt.
• 11:02
  Speaker 0: Und das ist mir auch bei den anderen aufgefallen, mit denen ich gesprochen hatte.
• 11:07
  Speaker 0: Also er sagt, wenn man im Prinzip das Bedürfnis hat, dass man das Predigten schreiben an eine KI auslagert, dann sollte man sich da wirklich fragen, warum macht man das überhaupt?
• 11:17
  Speaker 0: Warum macht man überhaupt diesen Job?
• 11:19
  Speaker 0: Also, weil wenn man das im Prinzip so macht, dass man das auslagert, dann steht man ja auch nicht mehr hinter dieser Predigt, steht ja auch jemand anders hinter der Predigt.
• 11:33
  Speaker 0: Und der Magenkern der Kirche ist ja eigentlich diese Aufrichtigkeit und diese Beziehung, diese offene, ehrliche Beziehung, die sie zu den Menschen sucht, auch ein Pfarrer.
• 11:42
  Speaker 0: Davon lebt ja am Prinzip das Vertrauensverhältnis.
• 11:46
  Speaker 0: Und das hintergeht man damit ja ein Stück weit.
• 11:51
  Speaker 1: Wir haben im letzten Deep Dive gerade erst über Schreiben mit KI gesprochen.
• 11:56
  Speaker 1: Die Anne Katrin Gerslau, die hat auch viel davon erzählt, dass man eben wirklich sein Handwerk verstehen muss, damit KI so ein Sparingspartner werden kann, den man nutzen kann für Inspiration oder für eben solche Gliederungen, aber nicht für mehr.
• 12:09
  Speaker 1: Lohnt sich vielleicht auch nochmal da reinzuhören.
• 12:12
  Speaker 1: Jeder, der von uns mal in den letzten Jahren in einer Kirche, in einem Gottesdienst war, dem wird aufgefallen sein.
• 12:20
  Speaker 1: dass die Kirche definitiv ein Problem mit dem Nachwuchs hat und mit der Jugend.
• 12:25
  Speaker 1: Und zur Zeit ist es ja so, dass KI im Prinzip so als Label überall draufgeklatscht wird, damit das Hit und Trendy ist und die Jugend abholt und alles ganz cool ist.
• 12:35
  Speaker 1: Wie geht die Kirche damit um?
• 12:37
  Speaker 1: Funktioniert das?
• 12:39
  Speaker 0: Ich glaube, die Menschen, mit denen ich jetzt gesprochen habe oder die Wissenschaftler, mit denen ich gesprochen habe, die würden jetzt nicht sagen, wie geht die Kirche damit um?
• 12:46
  Speaker 0: Weil es sind ja so viele, wahnsinnig viele Kirchen und es gibt ja auch ganz viele Menschen, die da drin sind.
• 12:52
  Speaker 0: Aber also der Theologe und Wissenschaftler, mit dem ich gesprochen habe dazu, das ist der Dr.
• 12:57
  Speaker 0: Lukas Brandt von der RPTU Kaiserslautern Landau, der forscht zu diesem Thema.
• 13:05
  Speaker 0: Sieht das tatsächlich ganz kritisch, dass man über KI versucht, sich an junge Menschen ran zu robben?
• 13:11
  Speaker 0: Also, dass man irgendwie denkt, okay, Chatchi Pity, schreib mir mal diesen Text jetzt in Jugendsprache oben oder so, oder formulier den so, dass den mehr Menschen verstehen, ne?
• 13:23
  Speaker 0: Das ist natürlich schwierig, weil ja, am Ende merken das die jüngeren Menschen, dass Chatchi Pity irgendeine merkwürdige cringe.
• 13:32
  Speaker 0: Auch schon zu alt, um diesen Begriff zu benutzen.
• 13:36
  Speaker 0: Sprache verwendet und diese Authentizität, die die Kirche vermitteln soll, wenn die Leute dann mitkriegen, dass das irgendwie nur so ein Marketing-Gag ist, das schreckt ja dann auch eher ab als alles andere.
• 13:52
  Speaker 0: was allerdings er sagt, was schon gut funktionieren könnte, ist, wenn man im Prinzip sagt, als paar Personen, also ich hatte jetzt ein Schreibblocklade, ich kam nicht weiter, ich habe jetzt KI genutzt und er sagt das und wenn man das thematisiert vielleicht auch in dem Gottesdienst, dann ist das ja vielleicht schon wieder ein Anknüpfungspunkt, wenn man sich quasi auch auf eine Ebene und auf Augenhöhe zu seinen Kirchgängern begibt.
• 14:23
  Speaker 0: Und das finde ich auch einen guten Punkt tatsächlich, weil man zeigt damit ja auch, dass man so gesellschaftliche Entwicklungen eben nicht ignoriert.
• 14:31
  Speaker 0: Ich glaube, das ist halt auch ganz wichtig, dass sich die Kirche da durchaus dazu positioniert, weil man darf ja nicht vergessen.
• 14:37
  Speaker 0: Also ich habe das noch mal nachgeschlagen.
• 14:39
  Speaker 0: Für mich als Atheist ist das immer eine Riesenzahl, aber es sind ja irgendwie immer noch knapp vierzig Millionen Menschen in diesen großen Kirchen versammelt.
• 14:48
  Speaker 1: Ja.
• 14:49
  Speaker 0: Sicherlich sind das viele Kultur-Protestanten und Katholiken.
• 14:54
  Speaker 0: Aber sie sind da noch drin.
• 14:56
  Speaker 0: Also irgendwas wollen sie da ja noch, denke ich.
• 15:00
  Speaker 1: Ja.
• 15:02
  Speaker 1: Jetzt sprießen auch seit Chat-TPT spezialisierte Chatbots ohne Ende aus dem Wohnen.
• 15:08
  Speaker 1: Überall zu allen Themen gibt es supertolle Chatbots und ich habe ja auch schon in der Anmoderation ein paar erwähnt.
• 15:14
  Speaker 1: Da gibt es den Buddha-Bot oder Muslim-AI oder solche Sachen.
• 15:19
  Speaker 1: Gibt's da auch in Deutschland von der katholischen oder der evangelischen Kirche solche Ansätze?
• 15:24
  Speaker 0: Ja, also es gibt tatsächlich schon eigene Chatbots.
• 15:28
  Speaker 0: Einer, der mir da jetzt einfällt, ist dieser Nicodemus AI.
• 15:31
  Speaker 0: Das ist von ERF Medien.
• 15:34
  Speaker 0: Das ist so ein Programmanbieter, der unter anderem auch Medienpartner der evangelischen Kirche ist.
• 15:41
  Speaker 0: Dieser Name Nicodemus, der bezieht sich im Prinzip auf eine biblische Figur, die dort auftaucht und Jesus Fragen stellt und dieser Chatbot soll im Prinzip eine ähnliche Funktion quasi erfüllen.
• 15:55
  Speaker 0: Und diesen Bot findet man auf www.bibelserver.com.
• 15:59
  Speaker 0: Um den nutzen zu können, muss man sich tatsächlich anmelden und registrieren und anmelden.
• 16:05
  Speaker 0: Der basiert auch grundsätzlich auf ChatGPT.
• 16:09
  Speaker 0: Aber der ist im Prinzip, der ist angepasst worden.
• 16:15
  Speaker 0: Also der darf nur Fragen zur Bibel beantworten oder im kirchlichen Kontext beantworten, wenn man, wenn man ihn irgendwie was anderes fragt.
• 16:25
  Speaker 0: Was weiß ich, kannst du mir mal ein Rezept für Apfelkuchen sagen?
• 16:31
  Speaker 0: Dann sagt er, nein, ich beantworte ausschließlich Fragen zur Bibel zum Glauben und zur Nutzung von diesem Bibelserver.
• 16:38
  Speaker 0: Und der ist im Prinzip durch System Prompts so angepasst, dass er im Prinzip nur auf theologischer Basis quasi antwortet.
• 16:49
  Speaker 0: Und er ist auch noch mit weiteren Kontext angereichert.
• 16:52
  Speaker 0: Das heißt, er kann auf eine interne Wissensdatenbank zurückgreifen mit kuratierten Inhalten, die quasi dann... seinen Kontext quasi nochmal erweitern.
• 17:03
  Speaker 0: Also das ist jetzt kein losgelassenes Chatchi-PT, das ist dann irgendwie evangelikale, US-amerikanische.
• 17:12
  Speaker 0: Weltuntergangsszenarien präsentiert in Zweffel II.
• 17:15
  Speaker 0: Entschuldigung, dass jetzt recht ein bisschen übertrieben.
• 17:18
  Speaker 0: Sondern der ist schon eingezäunt.
• 17:19
  Speaker 0: Das ist im Prinzip eine KI mit Leitplanken.
• 17:23
  Speaker 0: Und ich fand, das funktionierte tatsächlich ganz gut, weil der auch seine Quellen offenlegt.
• 17:29
  Speaker 0: Also er sagt dann auch quasi, wo hat er das jetzt her?
• 17:33
  Speaker 0: Und das ganz schön, dann kann man, wenn man das wollte und könnte.
• 17:37
  Speaker 0: Also ich habe ja auch eine Luther-Bibel sehe ich gerade.
• 17:40
  Speaker 0: Kann man dann mal nachgucken, ob das auch stimmt, könnte man.
• 17:44
  Speaker 0: Genau, also das finde ich schon ganz gut und das ist auch das, was gerade Experten auch als wirklich gut umgesetzt und state of the art bezeichnen.
• 17:54
  Speaker 0: Das ist ein sogenanntes REC-System, das heißt Retrieval Augmented Generation und das beinhaltet eben, dass durch diesen System prompt eine Persönlichkeit vorgegeben wird, die das quasi schon mal einschränkt, was sie sagt und auf diese quasi diese kuratierten Inhalte, die als Wissensdatenbank im Hintergrund zur Verfügung stehen.
• 18:18
  Speaker 1: Jetzt sind wir ja in Deutschland wahrscheinlich sowieso generell eher auf Leitplanken aus und finden die ganz gut und haben es mit dem Datenschutz.
• 18:27
  Speaker 1: Das ist ja nicht überall auf der Welt so.
• 18:29
  Speaker 1: Wenn man so über den Teller anguckt, gibt es da ähnliche Chatbots, die vielleicht nicht ganz so leitplanklich sind, auch da draußen in der Welt?
• 18:37
  Speaker 0: Ja, also das war ja ganz, wir hatten es ja vorhin schon mit dem, wenn die Kirche irgendwie KI als Marketing.
• 18:44
  Speaker 0: Gag einsetzt, Marketingaktion einsetzt, kann er schief gehen.
• 18:48
  Speaker 0: Das ist auch tatsächlich schon passiert, nämlich im vergangenen Jahr hat so eine katholisch-christliche Lobbyorganisation einen Chatbot gestartet mit dem tollen Namen Father Justin und hat ihn auf die Welt losgelassen.
• 19:03
  Speaker 0: und der war auch damals im Pfarrgewand, im Priestergewand, hatte der sich, war der, war dieser Rott gemacht.
• 19:12
  Speaker 0: Also, man sah ein bisschen aus, bis ich schon ein bisschen besser als bei den Sims, aber, na ja, so die Optik und mit, mit diesem schwarzen Gewand und diesen, ich weiß gar nicht, was der Fachbegriff dafür ist.
• 19:25
  Speaker 0: Aber auf jeden Fall, ne?
• 19:28
  Speaker 0: Ich finde, die Leute auch versucht, den herauszufordern und haben das auch relativ gut geschafft.
• 19:34
  Speaker 0: Und sie haben ihn dann quasi zu, er hat sich dann zu Aussagen hinreißen lassen, wie man könnte auch Kinder mit dem Sportgetränk Gatorade taufen lassen.
• 19:45
  Speaker 0: Und Selbstbefriedigung sei eine schwere moralische Störung.
• 19:50
  Speaker 0: Also er war dann ein ziemlicher Hardliner.
• 19:54
  Speaker 0: Und ja, also.
• 19:57
  Speaker 0: Mich hat das so ein bisschen an diesen Film und auch andere hat das so ein bisschen an diesen Film Idiocracy erinnert, wo ja dann auch quasi die ganze Landwirtschaft zusammengebrochen ist, weil die Menschen ihre Felder mit Energy Drinks bewässert haben statt mit Wasser.
• 20:11
  Speaker 0: Aber mittlerweile, also er wurde dann auch relativ schnell zusammengestutzt, er ist jetzt kein Vater mehr, kein Priester mehr, er ist jetzt nur noch ein Apologet, ein Verfechter des Glaubens und er hat jetzt auch noch eine Leitplanke dazu bekommen, dass er quasi nur den Bildungs- und Unterhaltungszwecken dient und dass er im Prinzip eine ausgefallene Suchemaschine ist und natürlich keinen Ersatz für menschliche Interaktion darstellt.
• 20:44
  Speaker 0: Also da kann man schön sehen, wie sowas schiefgehen kann.
• 20:50
  Speaker 1: Jetzt ist ja der Anspruch der meisten Religionen eigentlich, der Gesellschaft auch so einen moralischen und ethischen Kompass zu bieten.
• 21:01
  Speaker 1: Wie stellen sich denn die Theologen, mit denen du gesprochen hast, so eine ethische KI vor?
• 21:07
  Speaker 0: Ja, also ich glaube, da besteht tatsächlich noch keine Einigkeit, also ethische KI.
• 21:14
  Speaker 0: Ja, also ich hatte mit meinen Einergesprächspartner der Lukas Brandt schon gesagt, im Prinzip ist ja die Kirche mit ihrem moralischen Anspruch, ist ja im Prinzip und auch ihre internationalen, also gerade die katholische Kirche mit ihrer internationalen Aufstellung, ist ja eigentlich prädestiniert dafür, dass man ein System aufsetzt, das auf europäischen Werten basiert, das europäischen Datenschutz annimmt und ethische Prinzipien verfolgt, also dass sie quasi frei von kommerziellen Interessen ist.
• 21:46
  Speaker 0: Dass keine Click-Worker zum Einsatz kommen an irgendwelchen in Drittländern, die sich dann mit schlimmsten Dingen beschäftigen müssen, von zehn bis zehn arbeiten müssen und einen Hungerlohn bekommen.
• 21:59
  Speaker 0: Und dass es natürlich eine KI ist, die auch hauptsächlich oder ins... zu hundert Prozent mit erneuerbaren Energien funktioniert, weil ich meine, wir wissen mittlerweile alle um die Problematik des Strom-Hungers und auch des Wasserkungers und dass das ja mittlerweile auch die Konzerne schon wieder dazu bringt, beispielsweise dann darüber nachzudenken, Atomkraft wieder stärker zu nutzen.
• 22:30
  Speaker 0: Ich denke, die Experten, mit denen ich da gesprochen habe, sind sich nicht sehr einig darüber, wie wie realistisch es tatsächlich ist, so ein eigenes KI-System aufzusetzen.
• 22:41
  Speaker 0: Ich meine, wir sehen das ja auch schon an den KI-Systemen, die das hier versucht haben, unabhängig von diesem Kirchen-Content.
• 22:49
  Speaker 0: Also ich denke an Aleph Alpha, was ja angetreten ist quasi das Pendant, das europäische Pendant zu OpenAI zu sein, zu ChatchiPT, dass das... Das hat ja auch nicht so richtig gut funktioniert.
• 23:08
  Speaker 0: Beziehungsweise ist ja jetzt auch gerade im Umbruch.
• 23:12
  Speaker 0: Ja, genau.
• 23:13
  Speaker 0: Also die bieten sich da ja auch eher als Dienstleister mittlerweile an für öffentliche Verwaltung und solche Sachen.
• 23:22
  Speaker 0: Also ich glaube, da gibt es glaube ich noch keine einheitliche Linie, ob man sowas wirklich verfolgen sollte oder nicht.
• 23:32
  Speaker 0: Schön wäre das wahrscheinlich aus kirchlicher Sicht, aber ob man da die praktischen Hürden überwinden kann, ist glaube ich, ja.
• 23:43
  Speaker 0: ist, glaube ich, so eine Frage.
• 23:45
  Speaker 0: Aber da kommen wir halt auch zum Thema nochmal vom Anfang zurück.
• 23:49
  Speaker 0: Ich glaube, die größte Gefahr, und das ist sich die Kirche auch bewusst, ist eben das Thema Datenschutz.
• 23:54
  Speaker 0: So eine Fahrperson hat eine Schweigepflicht, die hat ein Beichtgeheimnis, sie hat ein Dienstgeheimnis, sie ... Machen sich sie erheben seelsorgerische Daten also Notizen beispielsweise wenn sie zu jemandem nach Hause zu einem Trauergespräch kommen.
• 24:14
  Speaker 0: Solche Sachen und das ist natürlich.
• 24:17
  Speaker 0: Eine Katastrophe wenn man sowas zu einem kommerziellen US Dienst in die Verarbeitung geben würde.
• 24:24
  Speaker 0: Und die entwickeln da am Prinzip auch schon dran rum.
• 24:28
  Speaker 0: also wie gesagt diese.
• 24:30
  Speaker 0: eigene, komplett aufgesetzte KI-System.
• 24:33
  Speaker 0: Kirche ist eine Variante, wahrscheinlich eine unrealistische.
• 24:38
  Speaker 0: Aber es gibt auch schon evangelische Landeskirchen, die entwickeln im Prinzip Plattformen, die sind so ein bisschen so wie dieses Nekodemos AI eben mit Leibplanken.
• 24:49
  Speaker 0: Also die haben schon die Idee, dass sie einen kircheneigenden KI-Dienst entwickeln.
• 24:56
  Speaker 0: Sie nennen das im Moment, also sie nennen das Eloki.
• 24:59
  Speaker 0: Evangelisch, Lernent, Offent-KI.
• 25:02
  Speaker 0: Und Ziel ist im Prinzip schon, dass die diese strengen Vorgaben des Datenschutzgesetzes, das die EKD sich ja gegeben hat, auch auferlegt hat, umsetzen können und quasi so eine gewisse digitale Unabhängigkeit von solchen US-amerikanischen, rein US-amerikanischen Diensten zu haben.
• 25:23
  Speaker 1: Und gibt es dann administrative Aufgaben, wo die Kirche sagt, das ist unproblematisch und Aus solchen Aufgaben wie z.B.
• 25:29
  Speaker 1: solche Notizen, wo sie sagen, auf gar keinen Fall noch ganz, ganz lange nicht.
• 25:34
  Speaker 1: Weil ich erinnere mich daran, ich war mal vor Jahren, musste ich ein Interview mit einem Fahrer führen.
• 25:39
  Speaker 1: Und dessen Büroser halt wirklich so aus, wie man sich im Fahrbüro vorstellt, mit ganz, ganz viel Papier auf den Tischen alles hochgestapelt.
• 25:48
  Speaker 1: Wo ich auch so denke, das ist ja schwierig, diese ganzen handschriftlichen Notizen, die sich irgendwie zwischendurch mal machen.
• 25:54
  Speaker 1: in so ein System zu füttern, wo man nicht genau weiß, wie es verändert wird da drin und wieder ausgespuckt wird.
• 26:02
  Speaker 0: Also was ich so mitbekommen habe, waren eben halt so, dass man halt hofft, dass man durch KI beispielsweise sich E-Mails zusammenfassen lassen kann und dann im Prinzip ein bisschen schneller solche Sachen, solche verwalterischen Sachen einfach ablegen kann und dann wieder mehr Zeit für so seelsorgerische Tätigkeit zu haben.
• 26:23
  Speaker 1: Das heißt, da wird aber, also das Papier, lose Pfarrbüro wird es wahrscheinlich noch relativ wenig geben.
• 26:29
  Speaker 0: Das ist wirklich eine gute Frage.
• 26:31
  Speaker 0: Also ich hatte das jetzt gerade wieder, weil ich hatte ein Trauerfall in der Familie und unsere Fahrerin ist zu uns gekommen und ich habe dieses dicke Buch, dieses dicke schwarze Buch gesehen und habe gedacht, ja, das ist total analog und irgendwie ist das aber auch total schön.
• 26:47
  Speaker 0: Das ist ja auch, weil man kommt sich schon irgendwie ernst genommen noch vor, wenn jemand damit einem Stift und einem großen Buch quasi Notizen macht und da wirklich viel Arbeit hineingibt, als wenn da jetzt quasi irgendwie jemand vor so einem Laptop da sitzen würde und dass da irgendwie rein hacken würde.
• 27:08
  Speaker 0: Also ich weiß nicht, dieses Analoge passt ja auch irgendwie zur Kirche.
• 27:14
  Speaker 1: Ja, stimmt.
• 27:15
  Speaker 1: Irgendwie muss das noch erhalten werden.
• 27:18
  Speaker 1: Zum Schluss noch mal so die Frage, die wahrscheinlich uns alle irgendwie in den letzten Monaten und Jahren mal an irgendeinem Punkt begegnet ist und beschäftigt hat, wird mein Job von einer KI ersetzt werden können?
• 27:32
  Speaker 1: Sind das Gedanken?
• 27:34
  Speaker 1: die sich die Mitarbeitenden in den Kirchen auch machen oder fühlen sie sich relativ sicher in ihrem menschlich seelsorgerischen Dasein?
• 27:45
  Speaker 0: Also ich kann da jetzt natürlich nicht für alle sprechen.
• 27:48
  Speaker 0: Ich glaube, die mit denen ich gesprochen habe, die haben sich da nicht so große Sorgen darum gemacht, weil sie eben halt auch sehen, naja, Der Magenkern oder der Sinn der Kirche ist ja quasi das menschliche Miteinander.
• 28:04
  Speaker 0: Das ist ja quasi, dass man sich versteht, dass man sich in den Armen nimmt, dass man sich die Hand gibt, dass man miteinander ins Gespräch kommt, dass man seine Gedanken teilt und dass man jemanden findet, der einem dann quasi auch... dass diese Gedanken spiegelt und einem vielleicht einen Weg aufzeigt, eine Perspektive aufzeigt oder ihm einfach nur zuhört.
• 28:31
  Speaker 0: Und ich glaube, an der Stelle, ja, das kann eigentlich eine KI nicht.
• 28:37
  Speaker 0: Das kann eine KI eigentlich nicht.
• 28:40
  Speaker 0: Ich meine, es ist nicht auszuschließen, dass es Menschen gibt, die sich abwenden.
• 28:43
  Speaker 0: Ich meine, es gibt ja auch... Es ist ja mittlerweile auch erwiesen.
• 28:46
  Speaker 0: Ich habe jetzt auch schon Artikel dazu gelesen, dass sich tatsächlich Menschen an Vertrauen einer KI eher als einem anderen Menschen.
• 28:56
  Speaker 0: Ich denke, diese Gefahr besteht.
• 29:00
  Speaker 0: Aber vielleicht ist es auch genau das Gegenteil, was passiert.
• 29:05
  Speaker 0: Das ist ja auch möglich, dass man sagt, man kriegt jetzt hier eigentlich im digitalen Raum, weiß man eigentlich gar nicht mehr, wer für irgendwas steht und wer irgendwo dahinter steht.
• 29:15
  Speaker 0: Aber wenn ich in die Kirche gehe, jeden Sonntag, da steht da mein Pfarrer.
• 29:20
  Speaker 0: Und der ist da.
• 29:21
  Speaker 0: Und den kann ich auch ansprechen wegen allem möglichen Kram.
• 29:26
  Speaker 0: Also, vielleicht ist das ja auch, wie sagt man denn?
• 29:31
  Speaker 1: Zurück zum Zwischenmenschlichen.
• 29:33
  Speaker 0: Genau, vielleicht ist KI dann auch mit aller Unsicherheit und mit allem Misstrauen, die sie uns so in den Alltag bringt, dann auch wieder mal so ein Ansatz dafür zu sagen, ja, nee, es muss wieder zurück zum Zwischenmenschlichen gehen, ja?
• 29:48
  Speaker 0: Genau.
• 29:50
  Speaker 1: Dann wollen wir hoffen, dass diese Weihnachtszeit für dich und für alle unsere Mithörenden vom Zwischenmenschlichen geprägt ist, weil das noch die Weihnachtszeit ja eigentlich am schönsten.
• 29:59
  Speaker 0: Das stimmt, das finde ich tatsächlich auch.
• 30:02
  Speaker 0: Egal
• 30:02
  Speaker 1: ob man religiöses oder nicht, das Tische Menschliche ist das Schöne in dieser Jahreszeit.
• 30:07
  Speaker 0: Da hast du total recht.
• 30:08
  Speaker 0: Ich meine, wie gesagt, ich bin nicht in der Kirche, aber ich nehme das als Atheist auch raus, quasi diese Weihnachtszeit sehr zu genießen.
• 30:17
  Speaker 0: Und wie gesagt, ja, das Tische Menschliche ist das, was es schön macht.
• 30:22
  Speaker 1: Dann vielen Dank, dass du heute da warst.
• 30:24
  Speaker 1: Und für alle, die mehr Interesse haben und Sofias Artikel lesen wollen, den gibt's bei Heise Plus und den verlinke ich in den Show notes.
• 30:34
  Speaker 1: Das war's für heute.
• 30:36
  Speaker 1: Den nächsten Deep Dive hört ihr an dieser Stelle in zwei Wochen.
• 30:39
  Speaker 1: Es würde mich freuen, wenn ihr dann wieder dabei seid.
• 30:42
  Speaker 1: Bis dahin könnt ihr natürlich mit unserem kompakten KI-Update jeden Montag, Mittwoch und Freitag auf dem Laufenden bleiben.
• 30:50
  Speaker 1: Und falls ihr mal eine Folge verpasst habt, findet ihr eine Sammlung aller Folgen auf heise.de.
• 30:56
  Speaker 1: slash thema slash ki minus update.
• 31:00
  Speaker 1: Den Link dazu findet ihr natürlich auch in den Show notes.