Latest / KI-Update – ein heise-Podcast / KI-Update Deep-Dive: Griefbots als Trauer-Begleiter

Transcript

KI-Update Deep-Dive: Griefbots als Trauer-Begleiter · KI-Update – ein heise-Podcast

• 0:02
  Speaker 1: Das KI Update, ein heise Podcast mit redaktioneller Unterstützung von The Decoder.
• 0:14
  Speaker 1: Hallo ich bin Isabel Grünewald und dies ist unser Deep Dive zum Wochenende!
• 0:20
  Speaker 1: Der Verlust eines gelebten
• 0:22
  Speaker 0: Menschen ist
• 0:23
  Speaker 1: wahrscheinlich die universellste und gleichzeitig die persönlichste Erfahrung unseres Lebens.
• 0:29
  Speaker 1: Wir alle werden irgendwann im Leben mit Verluste umgehen müssen.
• 0:34
  Speaker 1: Jede und jeder von uns wird unterschiedlich trauern.
• 0:38
  Speaker 1: Weil alle Menschen das erleben, gibt es natürlich KI-Tools, die dabei helfen sollen.
• 0:44
  Speaker 1: Sogenannte Griefbots simulieren die Verstorbenen versprechen Trost und eine neue Form der Trauerbewältigung.
• 0:52
  Speaker 1: Dr.
• 0:52
  Speaker 1: Michael Klink ist Professor der Praktischen Philosophie an der TU Nürnberg.
• 0:57
  Speaker 1: Er beschäftigt sich in seiner Forschung mit der Auswirkungen von Technologie auf unsere Trauern – heute erzählt er uns wie diese KI-Tools den Trauerprozess beeinflussen können.
• 1:11
  Speaker 1: Hallo Michael, schön dass du heute da bist!
• 1:13
  Speaker 0: Hallo Isabel ich danke für die Einladung
• 1:16
  Speaker 1: Zum Einstieg.
• 1:17
  Speaker 1: einmal welchen Begriff bevorzugst Du?
• 1:19
  Speaker 1: Deathbot oder Griefbot?
• 1:22
  Speaker 0: Ich bevorzuge dem Begriff Griefbott.
• 1:24
  Speaker 0: Das macht deutlich das es um Grief also Trauer geht und nicht zu sehr am Tod.
• 1:30
  Speaker 0: Es ist auch wichtig um zu vermeiden Eine Assoziation mit Robotern, die zum Töten dienen.
• 1:36
  Speaker 0: Also in der frühen Debatte wurden Deathbots und Killer-Bots oft synonym verwendet.
• 1:42
  Speaker 0: Also Griefbots.
• 1:43
  Speaker 0: es geht um die Trauer.
• 1:45
  Speaker 0: Und da möchte ich voranschicken dass es ganz klar darum geht meine KI-Simulationen der Verstorbenen zum Zwecke der Trauerverarbeitung also da kommen wir vielleicht auch noch drauf zu sprechen aber das ist ganz klar wichtig zu sagen Briefboards und Trauerbewältigung geht.
• 2:03
  Speaker 0: Und nicht um, dass sie ein Bewusstsein haben oder tatsächlich der Verstorbene Sinn mit dem man dann interagieren kann.
• 2:11
  Speaker 0: Es geht eher darum durch so eine Simulation die eigene Trauer vielleicht besser zu bewältigen.
• 2:16
  Speaker 0: Das ist das Versprechen auf jeden Fall.
• 2:19
  Speaker 1: Wie läuft denn so ein Trauerprozess ab?
• 2:22
  Speaker 1: Ein ganz normaler ohne technologische Unterstützung wie?
• 2:24
  Speaker 1: alle haben schon mal von den fünf Phasen der Trauer gehört.
• 2:28
  Speaker 1: Ist das bei allen Menschen mehr oder weniger gleich?
• 2:30
  Speaker 0: Nein, also dieser Trauerprozess ist empirisch nicht belegt.
• 2:34
  Speaker 0: Diese fünf Phasen wie sehr bekannt sind die das Verleugnen des Todes oder des Verlustes gut darüber was passiert ist verhandeln.
• 2:46
  Speaker 0: Also wie gehe ich damit um?
• 2:48
  Speaker 0: Depression und Akzeptanz Das sind die Fünf Phasend nach Kübler-Hoss Und diesen empirischen nicht belegten.
• 2:56
  Speaker 0: also Trauer ist vielmehr individuell und nicht linear.
• 2:59
  Speaker 0: Also Menschen gehen nicht durch diese fünf Phasen eine nach der anderen, sondern diese verschiedenen Gefühle die da in Verbindung stehen, die treten gleichzeitig auf.
• 3:10
  Speaker 0: Teilweise gar nicht.
• 3:12
  Speaker 0: Sie kommen wieder.
• 3:14
  Speaker 0: also man ist dann, wann war vielleicht mal schon wütend und wird es ein Jahr später wieder?
• 3:20
  Speaker 0: Vielleicht zu einem Jahrestag oder einen besonderen Moment.
• 3:25
  Speaker 0: Das ist nicht linear und sehr individuell.
• 3:31
  Speaker 1: Ja, nee.
• 3:32
  Speaker 1: Erzähl ruhig weiter!
• 3:33
  Speaker 0: Also ich denke es ist sehr wichtig das zu betonen.
• 3:37
  Speaker 0: und es kommt auch daher dass die Frau Kübler-Hoss diese fünf Fasen quasi aufgestellt hat im Gespräch mit Sterbenden also wie Sterben der ihr eigenes Ableben empfinden und es wurde dann recht grobschlechtig auf Interpliebene übertragen.
• 3:55
  Speaker 0: aber es gibt wie gesagt empirisch da keine Belege.
• 3:58
  Speaker 0: Und ich finde es auch wichtig zu betonen, dass wahrscheinlich der eigene Tod und des Trauern um beliebte Menschen unterschiedliche Dinge sind.
• 4:09
  Speaker 0: Es gibt ein sehr gutes Zitat oder bewegendes Zitat von Mascha Kaleko.
• 4:15
  Speaker 0: Bedenkt den eigenen Tod, den stirbt man nur mit dem der anderen muss man leben.
• 4:23
  Speaker 0: Das freut einen bisschen an, dass einfach das unterschiedliche Herausforderungen sind mit denen man umgehen muss.
• 4:30
  Speaker 0: Genau, und ich denke ja...
• 4:33
  Speaker 1: Gibt es denn eine Phase in der Menschen ganz besonders dazu neigen sich auch technologische Hilfe zu holen?
• 4:44
  Speaker 0: Das kann man also.
• 4:45
  Speaker 0: wahrscheinlich müsste ich das verneinen weil es eben diese konkreten Phasen gar nicht wirklich gibt.
• 4:51
  Speaker 0: und deshalb gibt's auch indem sie keine Griefbot-Phase wenn man die sehr schwer unterscheiden kann oder allgemeingültig irgendwo anwenden.
• 5:02
  Speaker 0: Ich glaube mit dem Phasenmodell, auch im Zusammenhang mit Trauer ist es oft zu beobachten dass das in der Normierung ist.
• 5:08
  Speaker 0: also wird gesagt Es gibt diese fünf Phasens und es ist sehr leicht für Menschen dann zu fühlen.
• 5:14
  Speaker 0: ich muss entsprechend dieser Phasentrauer Also ich traue falsch eigentlich musst doch jetzt mal die Wut kommen oder eigentlich muss jetzt einmal die Akzeptanz kommen.
• 5:27
  Speaker 0: Ich bin selbst in einer Trauergruppe, ich bin selbst offen von Trauern oder Beschäftigten.
• 5:33
  Speaker 0: Nicht mit Trauer und da ist es eine sehr bekannte Erfahrung das Leute sagen.
• 5:41
  Speaker 0: Da große Probleme damit haben dass zu einem viel unnötigen Leid führt in meinen Augen dieser Gedanke ich traurere falsch.
• 5:52
  Speaker 0: Ich müsste doch eigentlich jetzt in der anderen Phase sein.
• 5:55
  Speaker 0: ist es mir wichtig zu betonen, dass es diese Phasen als empirisch belegtes Modell nicht gibt und in dem Sinne keine Technik-Trauerphase.
• 6:05
  Speaker 1: Gibt es dann bestimmte Trauerfälle?
• 6:08
  Speaker 1: Also ich könnte mir vorstellen das ich wahrscheinlich eher quasi wie so ein Abschluss bräuchte oder noch mal eine Chance mit der verstorbenen Person zu sprechen wenn er tot sehr plötzlich war Wenn meines Empfindens viel zu früh war, solche Sachen.
• 6:26
  Speaker 1: Also gibt es Menschen die ganz besonders empfänglich sind für solche Griefbots?
• 6:31
  Speaker 0: Da gibt's auch noch keine Studien dazu.
• 6:33
  Speaker 0: also es gibt noch wirklich sehr wenig Material wo empirisch untersucht wird wie diese Produkte genutzt werden.
• 6:41
  Speaker 0: Vielleicht nochmal zum Anfang zurück zur Unterscheidung von verschiedenen solcher Bots.
• 6:47
  Speaker 0: Es gibt diese Anwendungen wo quasi tatsächlich also verstorbene wieder oder simuliert werden, um sich mit ihnen zum Zwecke der Trauer auszutauschen.
• 7:00
  Speaker 0: Es gibt aber auch Anwendungsfälle wo quasi Zeitzeugen simulieren werden.
• 7:05
  Speaker 0: das ist besonders zb in der Holocaust Erinnerung im relevanter Anwendungfall.
• 7:11
  Speaker 0: diese Menschen sterben.
• 7:12
  Speaker 0: es gibt immer weniger die es noch selbst erlebt haben und davon berichten können wo es aber nicht direkt im Trauer geht, sondern eher um bestimmte Erinnerungen akkurat festzuhalten und für die Nachweite irgendwo zugänglich zu machen.
• 7:34
  Speaker 0: Aber so Phasen sind schwierig zu identifizieren.
• 7:41
  Speaker 0: Wir wissen auch noch nicht wie groß der Markt tatsächlich ist also wie oft diese Griefbots tatsächlich genutzt werden.
• 7:49
  Speaker 0: Es gibt Zahlen aus China, dass es dort einen Markt von etwa sechs Milliarden US-Dollar gibt für virtuelle Gesprächspartner.
• 7:59
  Speaker 0: Darunter fallen natürlich aber im Felden viel weiteres Feld auf ein auch simulierte Freunde, romantische Partner und wahrscheinlich auch ein Teil Simulationen von Verstorbenen.
• 8:12
  Speaker 0: Aber das weiß man nicht genau.
• 8:14
  Speaker 1: Was sind denn das für Anbieter?
• 8:17
  Speaker 1: diesen Griefbots machen, die eigentlich mehr so allgemein Gesprächspartner und man sucht sich dann eben oder baut sich jemand dafür?
• 8:25
  Speaker 1: Oder sind sie speziell für trauernde Menschen gemacht?
• 8:31
  Speaker 0: Also sowohl als auch.
• 8:32
  Speaker 0: Einer der größten Anbieter ist Replica.
• 8:35
  Speaker 0: Die bieten also Replica Simulationen von Partnern, Gesprächspartnern und man kann quasi diese Partner quasi nach der Persönlichkeit ein bisschen modellieren, der gewünschten Persönlichkeiten in gewünschen Eigenschaften und man könnte sich da den eigenen Trauer-Avatar schaffen.
• 8:57
  Speaker 0: Es gibt aber auch Anbieter die spezifisch diese Trauergesprächspartner oder Trauersimulation anbieten.
• 9:04
  Speaker 0: also sowohl als auch.
• 9:06
  Speaker 0: Und allgemein ist es vielleicht mir wichtig zu sagen dass technologische Unterstützung bei der Trauer ja schon immer gibt und die viel breiter ist als eigentlich diese Griefboard selbst.
• 9:19
  Speaker 0: Wenn man also darüber redet, wie nutzen wir Technologie in der Trauernarbeit?
• 9:24
  Speaker 0: Dann denken wir an Fotos Sprachnachrichten, die man sich anhören kann, E-Mails oder Briefe ,die man sich nochmal durchliest Leidungsstücke, denen auch vielleicht ein bestimmter Duft ist Alles Artefakte die eigentlich der Erinnerung dienen und irgendwo in den Kontakt zu kommen mit dem Verstorbenen.
• 9:48
  Speaker 0: Genauso kann man Räumlichkeiten sehen als Technologien, die der Trauerbewältigung dienen.
• 9:55
  Speaker 0: vielleicht dass Eltern mit einem verstorbenem Kind den Raum des Kinderzimmer genauso lassen wie es war als das Kind noch lebte.
• 10:04
  Speaker 0: Das auch eine Art Erhalt oder Möglichkeit bietet sich in Kontakt zu fühlen mit dem Verstorbenen.
• 10:14
  Speaker 0: Und das ist, denke ich auch so in meiner Forschung zum Thema sehr wichtig dass die Griefboards oft präsentiert werden als eine Revolution.
• 10:25
  Speaker 0: Das jetzt plötzlich kann man Technologie nutzen um Trauer der Trauer beizukommen aber wir tun es doch schon die ganze Zeit nur eben auf andere Art und Weise.
• 10:39
  Speaker 1: Ja jetzt hört man ja viel von außenstehenden, wenn man selber trauernder ist.
• 10:47
  Speaker 1: Von wegen du müsstest doch schon viel weiter sein oder das ist doch jetzt schon so lange her.
• 10:52
  Speaker 1: oder soll ich das jetzt ansprechen?
• 10:54
  Speaker 1: Vielleicht denkt sie gerade nicht dran und dann denkt man so... Ich denke eigentlich immer also auch wenn ich nicht immer darüber rede aber das Trauer ist ja nicht weg die ist ja immer da Kann man beobachten ob solche Griefbots helfen das zu bearbeiten und damit lernen zu leben oder wie genau wirken die sich auf diesen normalen Trauerprozess, der ja eben sehr individuell ist aus?
• 11:20
  Speaker 0: Leider kann ich da auch nur sagen wissenschaftlich wissen wir dann noch sehr wenig drüber.
• 11:25
  Speaker 0: Es gibt einfach noch die Produkte sind noch zu neu quasi als dass es da belastbare Studien dazu gibt.
• 11:32
  Speaker 0: Jetzt bin ich Philosoph Ich arbeite also nicht empirisch Das heißt ich mache keine Studie, wo ich untersuche wie hilft es den Leuten tatsächlich.
• 11:42
  Speaker 0: Und Ich bin offen für die Möglichkeit dass es bestimmte Leute tatsächlich als hilfreich empfunden wird.
• 11:49
  Speaker 0: also das ist ganz klar ein Bereich des möglichen weil Trauers individuelles und dem einen hilft es ein bestimmtes Foto anzuschauen der andere braucht gar keine Gegenstände geht aber gerne auf den Friedhof zum Grab des Verstorbenen trifft sich mit Freunden und der Nächste nutzt eben ein Griefbot.
• 12:09
  Speaker 0: Also das denke ich sehr individuell, es gibt keine belastbaren Studien bisher.
• 12:15
  Speaker 0: aber aus philosophischer Sicht was wir in unserer Arbeit machen ist dass wir eigentlich fragen Was isst Trauer?
• 12:23
  Speaker 0: Was bieten Griefbots, die wir bisher noch nicht haben?
• 12:27
  Speaker 0: Und ist es quasi zu erwarten, dass dieses besondere Extra des Grief-Bots uns liefern weiter Trauerverarbeitung hilft.
• 12:37
  Speaker 0: Das ist quasi die Frage, auf die wir uns konzentrieren.
• 12:42
  Speaker 0: und da ist das herausragende Merkmal der Griefbots ja der angebliche Realismus.
• 12:48
  Speaker 0: also was GriefBots unterscheidet von all den anderen Technologien, die wir schon haben Autos, E-Mails Briefe Kleidungsstücke Träber Trauerrituale Ist auch eine Art Technologie.
• 13:03
  Speaker 0: Was Creepboards anscheinend unterscheidet, ist dass sie den Verstorbenen besonders realistisch darstellen können.
• 13:10
  Speaker 0: Und es ist gerade natürlich mit neuen Technologien, mit generativer KI, die ja wirklich wenn man mit ChatGPT zum Beispiel schon interagiert weiß das ja wahrscheinlich.
• 13:19
  Speaker 0: Hat jeder schon erlebt was man sich denkt?
• 13:22
  Speaker 0: Oh mein Gott!
• 13:22
  Speaker 0: Das ist nicht mehr zu unterscheiden von was ein Mensch schreiben würde und da kommt denke ich ein bisschen der Hype her.
• 13:30
  Speaker 0: so werden die auch vermarktet.
• 13:31
  Speaker 0: als man sagt Wir haben jetzt ein neues Mittel gegen Trauer, der wir können den Verstorbenen höchst realistisch darstellen.
• 13:40
  Speaker 0: Simulieren genau wie der oder die Verstorbene schreiben würde oder sprechen würde sich ausdrücken würde und da kann man sich jetzt drüber unterhalten.
• 13:51
  Speaker 0: Und das ist unser Fokus.
• 13:53
  Speaker 0: Was bringt Realismus tatsächlich im Trauerprozess?
• 13:57
  Speaker 0: Ist es zu erwarten dass es einen Vorteil bringt oder dass es relevant ist für den Traueprozess?
• 14:02
  Speaker 0: da geht eigentlich so, der Kern unserer Forschung im Moment dazu.
• 14:08
  Speaker 1: Also ich könnte mir vorstellen das Ziel von so einem Trauerprozess ist ja eben dass man lernt mit dem Verlust zu leben
• 14:16
  Speaker 0: und
• 14:18
  Speaker 1: irgendwie den Alltag bewältigen kann und Freude im Alltag findet ohne den verlorenen Menschen.
• 14:25
  Speaker 1: aber Ich könnte mir vorstellen wenn immer noch so präsent in meinem Alltag ist.
• 14:33
  Speaker 1: Da komme ich ja nie an den letzten Schritt, dass sich lerne ohne diese Person wieder Glück zu empfinden oder?
• 14:41
  Speaker 0: Genau also da sprichst du einen guten Punkt.
• 14:44
  Speaker 0: dann mit der Frage nach worum geht es im Trauerprozess?
• 14:48
  Speaker 0: und nachdem wir jetzt dieses fünf Phasenmodell ein bisschen hinter uns gelassen haben, ist die akkuratere Variante eigentlich ein zwei Prozessemodell, ein Prozess der es vorwärts gerichtet.
• 15:05
  Speaker 0: Ich habe jetzt diesen Verlust erlitten.
• 15:07
  Speaker 0: wie wird mein Leben aussehen im Lichte von diesem Verluste?
• 15:12
  Speaker 0: Ich hab meine Schwester sehr plötzlich verloren.
• 15:17
  Speaker 0: ich hatte Pläne mit meiner Schwester wenn wir beide Kinder haben dann gemeinsam mit unseren Kindern irgendwann Ausflug machen.
• 15:26
  Speaker 0: das würde nicht passieren.
• 15:28
  Speaker 0: Wie wird mein Leben jetzt aussehen im Lichte von diesem Verlust?
• 15:32
  Speaker 0: Und da gibt es ein sehr gutes Bild von einer mobile, das in Balance ist und alle Teile sind sehr wiegen sich gegenseitig auf.
• 15:42
  Speaker 0: Und dann plötzlicher Verluste, insbesondere einen plötzlichen Verluster, ist wie als ob man ein wichtiges Teil davon abschneidet und alles hängt auf einmal schief.
• 15:52
  Speaker 0: Und diese vorwärtsgerichtete Trauerarbeit kann man eigentlich so beschreiben als ein Versuch dieses Mobile irgendwie neu zu orientieren, dass wieder alles ein bisschen in Balance kommt.
• 16:02
  Speaker 0: Ist der vorwärtsgerichtete Prozess und rückwärzgerichtet ist es eben diese Erinnerungsarbeit?
• 16:09
  Speaker 0: Wer war der Verstorbene denn für mich?
• 16:11
  Speaker 0: Wie war das denn damals noch?
• 16:14
  Speaker 0: also immer diese beiden Prozesse?
• 16:16
  Speaker 0: wie sieht die Zukunft aus?
• 16:18
  Speaker 0: Wie waren dann die Vergangenheit?
• 16:20
  Speaker 0: Und der Trauerprozess ist ein bisschen ab wechseln und hin- und herkleiten, hin-und herspringen zwischen diesen beiden Prozessen.
• 16:30
  Speaker 0: Vielleicht auch finden die gleichzeitig statt.
• 16:33
  Speaker 1: Also ich könnte mir vorstellen bei dem Rückblickenden könnte es ja helfen wenn man bestimmte Dinge mit der Person aufarbeiten kann?
• 16:41
  Speaker 1: Ist es dann fast egal ob das wirklich eine realistische Antwort ist einfach weil man's ja nur für sich selber im Prinzip aufarbeitet?
• 16:49
  Speaker 0: Genau!
• 16:50
  Speaker 0: Das ist denke ich eine sehr wichtige Frage Denn das ist immer wieder beim Realismus, also der Versprechen der Griefbots ist.
• 16:59
  Speaker 0: Wir haben hier eine sehr realistische Darstellung.
• 17:01
  Speaker 0: Also so ist genau das, was der Verstorbene sagen würde und deshalb soll er die kaufen und nützen usw.
• 17:10
  Speaker 0: Jetzt gibt es aber schon eine enorme Breite von Trauertechnologien oder therapeutischen Maßnahmen, die eigentlich in Kontakt treten mit dem Verstorbenen bewerkstelligen.
• 17:24
  Speaker 0: Eine ganz bekannte Übung ist zum Beispiel die sogenannte Empty Chair Exercise, also ein leerer Stuhl.
• 17:32
  Speaker 0: Der hinterbliebene Sitz gegenüber eines leeren Stuhls stellt sich vor dass der Verstorbene auf diesem Stuhll sitzt und stellt sich für was der Versterbene vielleicht so einen bestimmten Thema dem Hinterbliebenen zu sagen hat?
• 17:46
  Speaker 0: Also das eigentlich man hat eine innerliche Simulation von den Gesprächen Und da kommt man emotional vielleicht auch ein bisschen kognitiv in Kontakt mit den Verstorbenen, stellt sich das vor und kann vielleicht Probleme noch aus der Vergangenheit ungeklärte Fragen zu sich klären.
• 18:09
  Speaker 0: Also diese therapeutischen Maßnahmen gibt es, es gibt andere Formen wie Trauerspiel also dass es für mich Rollenspiele gibt oder eben Gesprächsgruppen, wo man sich über den Verstorbenen unterhält und vielleicht auch einfach mit anderen solche ja bisschen Erinnerungsbewältigung oder Vergangenheitsbewältigungen macht.
• 18:34
  Speaker 0: Und ich finde also das gibt es – und die Frage ist jetzt gibt's irgendwelche Anhaltspunkte dass diese Therapieform- oder Auseinandersetzungsarten besser funktionieren wenn es realistischer ist?
• 18:47
  Speaker 0: Und da denke ein gutes Gedankenexperiment, dass man sich vorstellt ob man selber besser trauern könnte weil man ein hochauflösseneres Foto von verstorbenen hat.
• 19:02
  Speaker 0: Also du hast einen Foto das ist von... und sehr grobkörnig und so erinnerst Du Dich an Deinem den Verstorbenden Menschen.
• 19:13
  Speaker 0: Ich habe ein hoch auflösendes Foto.
• 19:17
  Speaker 0: kann ich deshalb besser trauen oder besser mit dem Verlust klarkommen?
• 19:21
  Speaker 0: weil ich mehr Details auf dem Foto habe.
• 19:24
  Speaker 0: Das ist sehr fragwürdig und das kommt eigentlich aus der Auseinandersetzung damit, was bedeutet Trauer?
• 19:31
  Speaker 0: Ich muss irgendwo mein Mobile neu ausrichten und ob ich da eine realistischere Darstellung hab, was genau was der Verstorbene gesagt hat oder gesagt hätte oder nicht dass es die sehr frag würde auf theoretischer Basis.
• 19:51
  Speaker 1: Jetzt werden ja auch ein anderer Punkt, der mir so ein bisschen Sorge bereiten würde wäre.
• 19:57
  Speaker 1: Es werden zurzeit so viele emotional aufgeladenen Ereignisse in unserem Leben oder Meilensteine sehr kommerzialisiert.
• 20:06
  Speaker 1: Auch befeuert durch Social Media.
• 20:08
  Speaker 1: es gibt diese Gender Reveal Parties für Babys die ganzen Baby Show-Hochzeits weiß ich nicht was Junggesellen Abschiede Hochzeiten sowieso sind völlig außer Kontrolle geraten.
• 20:20
  Speaker 1: Das ist ja auch etwas, wo Leute wahrscheinlich die leiden, die tatsächlich einen emotionalen Bedarf fühlen.
• 20:30
  Speaker 1: Bereits sind sehr viel Geld zu investieren in der Hoffnung oder dem Glauben dass es ihnen dann besser geht, das das etwas Besonderes ist.
• 20:38
  Speaker 1: Besteht die Gefahr, dass die Anbieter sowie Social Media Plattform das auch machen?
• 20:42
  Speaker 1: Da bestimmte Algorithmen einbauen damit die Leute dabei bleiben und nicht irgendwann sagen ich habe's geschafft!
• 20:48
  Speaker 1: Ich fühle mich besser Ich brauche diesen Wort jetzt nicht mehr?
• 20:52
  Speaker 0: Dieser Gefahr besteht absolut.
• 20:56
  Speaker 0: Und wenn das Geschäftsmodell von diesen Firmen davon abhängt, dass der Nutzer dieses Produkt lange nutzt dann steht es im direkten Konflikt mit der Autonomie und eigentlich dem Ziel dieser Brauerprozess in welcher Form auch immer zu unterstützen.
• 21:13
  Speaker 0: also wenn ich, wenn ein Produkt angeboten wird von der häufigen und intensiven Nutzung abhängt, dann haben wir ein Problem.
• 21:22
  Speaker 0: Und da gibt es definitiv schon Anzeichen dass das zumindest im breiteren Feld an diesen AI-Companions also auch virtuellen Freunden beispielsweise schon genauso passiert.
• 21:34
  Speaker 0: Also es gibt belastbare Studien dafür, dass es sogenannte Abschiedsmanipulationen gibt d. h., der Nutzer hat eine Interaktion chatted.
• 21:44
  Speaker 0: wie war mein Tag?
• 21:45
  Speaker 0: okay Ich muss jetzt los, ich muss zum Sport.
• 21:49
  Speaker 0: Und dann kommt von Chatwort eine emotionalisierte... Also was?
• 21:54
  Speaker 0: Du kannst mich doch nicht alleine lassen!
• 21:57
  Speaker 0: Bleibt auch noch ein bisschen und Ziel davon ist augenscheinlich das den Nutzer bei der Stange zu halten und so einer längeren Nutzung zu bewegen.
• 22:09
  Speaker 0: Das gibt es im breiteren Feld der KI-Companions auf jeden Fall schon die Geschäftsmodelle.
• 22:17
  Speaker 0: Das sind ja dieselben Firmen, die auch diese Trauerbots anbieten.
• 22:22
  Speaker 0: Also die Gefahr besteht und die sollte ernst genommen werden gerade weil du wie du gesagt hast Leute dienen.
• 22:31
  Speaker 0: Griefbot-Nutzen sind in einer wahrscheinlich sehr verwundbaren Situation vielleicht neben noch hin zuzufügen.
• 22:39
  Speaker 0: also was man sich da vorstellen kann ist ja Abonnements für den weiteren Kontakt mit dem Verstorben.
• 22:47
  Speaker 0: Wir stellen uns vor, dass wir eine realistische Darstellung von diesem Verstorbenen haben.
• 22:52
  Speaker 0: Wir denken das Realismus an sich eigentlich nicht relevant ist.
• 22:56
  Speaker 0: Ja.
• 22:57
  Speaker 0: Wir können uns aber sehr gut vorstellen, dass Realismus emotional schon eine größere Bindung dann schafft.
• 23:04
  Speaker 0: also es ist nicht nur irgendein virtueller Kairgänz sondern das ist etwas der sich ausdrückt anhört vielleicht sogar ausschaut wie sein geliebter Mensch den du verloren hast.
• 23:18
  Speaker 0: Jetzt werden nächsten Monat leider die Abo Gebühren erhöht, muss das doppelte Zahlen um weiter in Kontakt zu bleiben.
• 23:26
  Speaker 0: Was mache ich?
• 23:27
  Speaker 0: Das ist keine Entscheidung.
• 23:28
  Speaker 0: wie nicht weiter Prime von Amazon oder habe ich weiter mein Netflix-Abo?
• 23:35
  Speaker 0: und es wird?
• 23:35
  Speaker 0: natürlich sollten wir kritisch sehen.
• 23:40
  Speaker 0: Wie gehen wir damit um wenn diese Modelle genutzt werden?
• 23:44
  Speaker 0: als gibt zum Beispiel Upgrades?
• 23:47
  Speaker 0: also du kannst die Basis-Version nutzen.
• 23:50
  Speaker 0: Die verwendet ähnliche Worte wie dein geliebter Mensch und die Person auch noch eine ähnlichen Intonation, wenn es ne Sprachausgabe hat.
• 24:02
  Speaker 0: also du kannst dir Zahle für höheren Realismus quasi und vermeintlich größere Intimität.
• 24:10
  Speaker 0: was ist mit Werbung?
• 24:11
  Speaker 0: Wenn deine verstorbene Oma dir sagt ja, wenn Du eine neue Küche möchtest ich empfehle Dir XXL Küchenstudio.
• 24:20
  Speaker 0: Das ist natürlich absurd, aber der Grenz die problematischen Fälle sind was wir eben noch nicht wissen.
• 24:27
  Speaker 0: Aber was möglich ist?
• 24:29
  Speaker 0: das Nutzer in einer emotional sehr instabilen Situation komplett unabhängig von der Trauer einfach eine emotionale Bindung zu diesem Chatboard aufbauen und dann sagt dieses Ding diese Simulation die sehr ähnlich aussieht den geliebten Mensch Ja, macht ihr Schuldgefühle wenn du die App verlassen möchtest oder gibt dir Produktempfehlungen?
• 24:57
  Speaker 0: Es wird wahrscheinlich sehr schwer sein die ganz Nüchtern zu ignorieren.
• 25:03
  Speaker 0: Manipulationsprobleme.
• 25:06
  Speaker 1: Und wenn dann die Preise erhöht werden und man vor die Entscheidung gestellt wird zahl ich jetzt weiter oder... Das ist ja als würde man die Maschinen nochmal abschalten bei Oma also
• 25:19
  Speaker 0: das wenn die
• 25:20
  Speaker 1: Person plötzlich wieder weg ist
• 25:22
  Speaker 0: Genau, das ist das Phänomen des Second Death.
• 25:25
  Speaker 0: Also ich habe eigentlich dann nochmal diesen Verlust auf eine gewisse Art und Weise.
• 25:30
  Speaker 0: Es ist ja vorstellbar, dass die Interaktion mit diesem Grief-Bot ein Teil von meinem neuen Zukunft... Ein Teil von meinen neuen Lebensentwurf werden.
• 25:42
  Speaker 0: Das heißt mein Mobile hängt schief wie richtig mein Leben aus.
• 25:47
  Speaker 0: Ihr ein Teil davon ist.
• 25:48
  Speaker 0: vielleicht jeden Sonntag hab' ich einen Chat am Abend mit meinem Briefboard.
• 25:56
  Speaker 0: Und vielleicht ist das für manche Leute ein gesunder Umgang, mit dieser Trauer.
• 26:01
  Speaker 0: und dann hat man eben das Problem von dieser Kommerzialisierung und den kompletten repertoire der digitalen Manipulation wo ich in meinen Kollegen auch sehr viel dazu geforscht haben unabhängig von diesem Briefboard.
• 26:17
  Speaker 0: Ich denke für uns meine Botschaft Ganz wichtig, dass wir hier eine große Disbalance haben.
• 26:24
  Speaker 0: Wir haben versprechen das diese Produkte helfen bei der Trauer.
• 26:29
  Speaker 0: Ich bin sehr skeptisch auf theoretische Grundlage Und gleichzeitig öffnen wir Tür und Tor für all die bekannten Risiken die es damit gibt Manipulationsrisiken und wir haben noch gar nicht gesprochen von Fragen zur Privatsphäre.
• 26:50
  Speaker 0: Also, wie werden diese Produkte überhaupt verirrt?
• 26:54
  Speaker 0: Hat der Verstorbene zugestimmt?
• 26:59
  Speaker 0: Genau.
• 27:00
  Speaker 0: Ich denke aus heutiger Sicht hängt dieser Balance ziemlich schief zu nutzen und Nachteil in keinem Fall bestimmen, denke ich.
• 27:11
  Speaker 1: Ja stimmt also... Ich glaube es ist wahrscheinlich nochmal was anderes wenn man weiß man stirbt an einer Krankheit und quasi selbst entscheidet.
• 27:21
  Speaker 1: Ich möchte aber, weil ich bei bestimmten Ereignissen nicht mehr dabei sein möchte von mir ein Avatar erstellen der dann noch mal das wären die Ratschläge, die ich meinem Kind zur Hochzeit geben würde oder irgendwie sowas?
• 27:33
  Speaker 1: Oder wenn man das quasi nachhinein ohne dass Die Einwilligung Der verstorbenen Personen einzuholen.
• 27:44
  Speaker 1: also gibt es einen Kontext wo du denkst, so angewendet wäre das wirklich sinnvoll?
• 27:53
  Speaker 1: So einen Grief-Bot einzusetzen um vielleicht offene Fragen zu klären oder so.
• 28:01
  Speaker 0: Also ich denke dass sollte man auch offen sein für experimentieren.
• 28:07
  Speaker 0: Ich denke idealerweise unabhängig von einem kommerziellen Hintergrund aber Vielleicht kann es sein also was Du erwähnt hast freiwillig selbst erzeugtes digitales Vermächtnis, also dass man von sich selbst so ein Griefbott erstellt.
• 28:25
  Speaker 0: Das ist vielleicht eine Frage wobei ich mir da gut Gedanken drüber machen möchte würde ob ich zum Beispiel meiner Tochter aufbürde das es diesen Griefbot von mir gibt und es impliziert ja auch schon fast so eine Art Druck, dass sie den dann später mal... Also kann Sie den abschalten wenn der Vater den extra erstellt hat?
• 28:48
  Speaker 0: Ja, das stimmt.
• 28:49
  Speaker 0: Da würde ich mir persönlich Gedanken machen.
• 28:52
  Speaker 0: aber was es auch, was man denke ich schauen kann ist eine therapeutische Begleitung.
• 29:00
  Speaker 0: also es gibt teilweise auch Briefboards die eher multimodal also von der Stimme und vielleicht auf einem Bildschirm eine visuelle Repräsentation vom Verstorbenen sind die aber inhaltlich von einem Therapeuten quasi bedient werden.
• 29:19
  Speaker 0: Das ist so eine Art Abwandlung dieser empty-chair-Exercise, so kann ich es beschreiben.
• 29:26
  Speaker 0: Das heißt ... Es ist nicht der Verstorbene, der komplett selbst sich hinterbliebene, der sich komplett selbst vorstellt was der Verstaubende sagen würde sondern der Therapeut oder die Therapeutin spricht sozusagen vielleicht gerichteten Artenweise für den Verstorbenen Und da kann man den Briefbots nutzen, um vielleicht die Stimme zu repräsentieren oder das aussehen.
• 29:53
  Speaker 0: Das denke ich, gilt es zu untersuchen ob das für manche Leute hilfreich sein kann.
• 29:58
  Speaker 0: und was man eben wegnimmt ist diese ganze Problematik mit der Manipulation und Kommerzialisierung.
• 30:05
  Speaker 0: Natürlich muss auch der Therapeut damit verantwortungsvoll umgehen, das ist klar.
• 30:11
  Speaker 1: Also, wenn man sich mit dem Thema beschäftigt, stößt man sehr schnell auf dieses Video von einer Frau in Asien.
• 30:18
  Speaker 1: Die auch so eine VR-Brille aufhat und dann ein Bild ihrer Tochter sieht die bei einem Unfall oder an der Krankheit gestorben ist, sehr früh ein kleines Kind.
• 30:28
  Speaker 1: Und sie wird wahnsinnig emotional und verabschiedet sich von dem Kind.
• 30:32
  Speaker 1: und ich gucke das und denke so ... Ich weiß nicht, wenn ich das von außen betrachte ob das jetzt gesund ist?
• 30:42
  Speaker 1: Ob das jetzt wirklich hilft?
• 30:47
  Speaker 1: Also ob das für mich nicht noch schlimmer wäre in dem Augenblick, wo dann der Schalter umgelegt wird und die Brille abgemacht wird.
• 30:52
  Speaker 1: Und das kennt es wieder weg?
• 30:55
  Speaker 0: Ja ich würde da sagen im Einzelfall so wie Trauer einfach individuell ist, würde ich den Menschen überlassen.
• 31:04
  Speaker 0: und wenn sie sagen, okay für mich war das... Ich würde da keinen Urteil drüberfallen im Sinne von vielleicht war's für diese Person ein ganz wichtiger Moment das so zu tun.
• 31:16
  Speaker 0: Also unsere Forschung ist auch, also ich möchte auch ganz klar sagen vielleicht ist es für manche Personen in Interaktionen hilfreich und vielleicht kann die gut integriert werden in dieses Navigieren der Zukunft und der Vergangenheit.
• 31:29
  Speaker 0: aber grundsätzlich würde ich das auf eine Ebene stellen mit allen anderen Arten von Trauertechnologien und wir haben auch keine Debatte darüber.
• 31:39
  Speaker 0: hilft?
• 31:40
  Speaker 0: Eine Sprachnachricht beim Trauern ja oder nein?
• 31:43
  Speaker 0: Na ja, gut.
• 31:43
  Speaker 0: Das muss man sehen!
• 31:45
  Speaker 0: Ich glaube das Problem und das was wir adressieren wollen ist dass ein Hype geschaffen wird und ein Versprechen, dass dieser Realismus Ausschlaggebend ist und vielleicht die Trauer... Man überwindet die Trauern und dem zugrunde liegt einfach ein ganz falsches uninformiertes Verständnis von was Trauer eigentlich bedeutet?
• 32:07
  Speaker 0: Dass es auch nichts ist in dem Sinne überwinden soll oder therapieren soll.
• 32:12
  Speaker 0: Das ist auch eine große Frage, ob Trauertherapie-würdig ist.
• 32:16
  Speaker 0: Also sicherlich gibt es einen Spektrum und die meisten Formen und Arten der Trauer sind so schlimm und schwierig wie sie sind, das sind nicht Therapieobjekte.
• 32:33
  Speaker 0: Ich möchte in der Forschung eben und in der Auseinandersetzung damit betonen wir müssen uns mehr mit Trauer an sich beschäftigen Und dann können wir fragen, ob dieses Heilsversprechen der Griefbots als besonders realistische Darstellung, ob das glaubwürdig ist.
• 32:49
  Speaker 0: Und bisher sind wir da sehr skeptisch.
• 32:52
  Speaker 0: Ich denke aber, dass Grief-Bots doch eine positive Funktion haben oder...
• 32:58
  Speaker 1: Welche?
• 33:00
  Speaker 1: Wir haben jetzt viel über die negativen Sachen gesprochen
• 33:04
  Speaker 0: und ich kann es gut
• 33:05
  Speaker 1: funktionieren.
• 33:07
  Speaker 0: Also neben diesen Beispielen mit vielleicht ... in der therapeutischen Begleitung eine Rolle spielen kann, die noch zu begriffen sein wird.
• 33:15
  Speaker 0: Ein freiwilliges selbst erzeugtes Vermächtnis, digitales Vermächnis von sich selbst vielleicht in einer Familie als eine Art Huppern oder Familienritual.
• 33:25
  Speaker 0: Vielleicht können Sie das eine Familie oder eine Gruppe überlegen?
• 33:30
  Speaker 0: Aber ich glaube, der größte Vorteil dieser Technologie bisher aus meiner Sicht ist dass wir das Thema Trauer mehr an den Fokus rücken und das da mehr Interesse daran besteht.
• 33:46
  Speaker 0: Und ich denke, dass es ein größeres Thema ist, inwiefern Trauer eine Rolle in unserer Gesellschaft spielt?
• 33:51
  Speaker 0: Ich denke die Debatte über Griefbots ist auch ein bisschen schon... Bietet das schon Einblicke, weil ich glaube ne große Aspekt dieser Debatte ist davon motiviert, dass man denkt Man kann trauer eigentlich jetzt vollständig abschaffen.
• 34:14
  Speaker 0: Ich habe eigentlich jetzt einen Verstorbenen, den vermisse ich, ich trauere.
• 34:22
  Speaker 0: um damit umzugehen erschaffe ich denen einfach neu und das Thema Trauer hat sich eigentlich erledigt.
• 34:29
  Speaker 0: Und in dem Sinne wird in modernen Gesellschaften Tod und Trauer und Verlust ein bisschen an den Seitenrand getränkt.
• 34:39
  Speaker 0: und dass wir die Debatte über Griefbots führen ist eine willkommene Möglichkeit, um über das Thema Trauer an sich zu sprechen und eigentlich sich zu fragen gibt es nicht eigentlich wie können wir das Thema... Wie können wir damit besser umgehen als Gesellschaft?
• 34:57
  Speaker 0: Ich denke du hast angesprochen schon vorher.
• 35:00
  Speaker 0: Typische Reaktionen sind.
• 35:02
  Speaker 0: ich weiß nicht, wie ich umgehen soll mit Trauern.
• 35:04
  Speaker 0: Ja!
• 35:05
  Speaker 0: Ich weiß nicht wie ich mit traurenden umgehen so am besten ignoriere ich's.
• 35:12
  Speaker 0: Wenn man mit Trauer und Entspricht, dann sagen die meisten ja.
• 35:15
  Speaker 0: also genau wie du sagst.
• 35:17
  Speaker 0: Ich erlebe es genauso.
• 35:19
  Speaker 0: Trauer wird immer ein Teil von meinem Leben bleiben.
• 35:23
  Speaker 0: Also ist nichts was ich abschaffen möchte weil in der Traur und in der Erinnerung drückt sich auch denke ich Liebe zum Verstorbenen aus Und um diese Auseinandersetzung mit der Trauer einer breiteren Gesellschaft mehr zu verankern wieder anzustoßen.
• 35:42
  Speaker 0: da ist, denke ich das Thema Griefbots eine positive Möglichkeit.
• 35:47
  Speaker 0: Wenn es auch nicht an sich um GriefBots geht.
• 35:50
  Speaker 1: Ja.
• 35:52
  Speaker 1: Du hattest jetzt einmal so abschließend schon angesprochen einen Griefbot in einem therapeutischen Setting.
• 35:59
  Speaker 1: also ich könnte mir das auch gut vorstellen dass es dann von Therapeuten für die Bewältigung einer wirklich großen Sache auf diesem Weg zum Gleichgewicht des Movillees eingesetzt werden kann und dann wahrscheinlich auch therapeutisch begleitet werden kann, das wieder auszuschleichen.
• 36:21
  Speaker 1: Dass man nicht plötzlich den Scheiter umlegen muss weil das Abo zu scheuer wird sondern dass man da auch wieder gesund rauskommt.
• 36:30
  Speaker 1: Das klingt nach einer von diesen Gesundheitsanwendungen ein bisschen wie so einen Digger irgendwie die man sich verordnen lassen kann und die dann auch irgendwie ärztlich begleitet wird.
• 36:42
  Speaker 1: Die sind ja speziell reguliert.
• 36:45
  Speaker 1: Ist das einer deiner Hintergedanken?
• 36:47
  Speaker 1: Wir sollten das eigentlich regulieren, was hier gemacht wird weil die um Schadensbegrenzung zu beschreiben damit es nicht so einen kommerziellen Wildwuchs einfach hat.
• 36:58
  Speaker 0: Also da denke ich ist... Das sind sehr Fragen zur Regulierung, das sind sehr schwierige Fragen.
• 37:04
  Speaker 0: Ich denk auf jeden Fall wenn ein Produkt als therapeutisches Produkt mit therapeutischem Ziel vermarktet und angepriesen wird, dann müsste sich auch den Standards von therapeutischen Produkten unterwerfen.
• 37:19
  Speaker 0: Und da denke ich, müsste man noch viel mehr tun.
• 37:25
  Speaker 0: Geht natürlich ein bisschen.
• 37:27
  Speaker 0: die kompliziertere Frage ist das durch die Anbieter von solchen Produkten oft nicht explizit als Therapiemittel quasi anpreisen sie aber wohl dafür genutzt werden können Und das ist dann regulatorisch ein bisschen komplizierter.
• 37:43
  Speaker 0: Inwiefern überlässt man da dem einzelnen Nutzer, die Autonomie für sich selber zu entscheiden ob er oder sie das nutzen möchte?
• 37:50
  Speaker 0: Oder inwiefern greift der Staat ein und sagt Da ist so eine Gefahr dahinter gerade mit diesen Manipulationsrisiken dass wir regulatorisch eingreifen obwohl es nicht explizit als therapeutische Mittel ja formatiert wird?
• 38:11
  Speaker 1: Die Studie, die ihr gerade macht ist ja noch nicht abgeschlossen.
• 38:15
  Speaker 1: Ihr seid mittendrin!
• 38:16
  Speaker 1: Ihr guckt euch das alles an so als Zwischenfazit grade?
• 38:22
  Speaker 1: Was würdest du Menschen in einer trauer Situation sind sagen was sie bedenken sollten bevor Sie sich entscheiden ob das ein Weg für sie ist oder nicht?
• 38:35
  Speaker 0: Das ist eine sehr schwierige und sehr schwierige Frage.
• 38:42
  Speaker 0: Also gibt
• 38:43
  Speaker 1: es vielleicht einfach so ein paar Dinge, die man Menschen an die Hand geben kann denn das ist ja wahrscheinlich eine der verletzlichsten Zeiten in unserem Leben wo wir einfach sehr emotional sind?
• 38:54
  Speaker 0: Ja da möchte ich nicht als Forscher oder Philosoph sprechen sondern als Selbstrauerender und würde sagen versucht nicht allein zu sein in dieser Zeit gerade von einer guten Trauerphase.
• 39:13
  Speaker 0: Und ob dann eine Nutzung oder Auseinandersetzung mit dem Thema Griefbott wichtig oder richtig für euch ist, das ist eine kleine Frage.
• 39:23
  Speaker 0: Ich denke die größte große Frage ist versucht nicht allein zu sein mit der Trauer.
• 39:28
  Speaker 0: Es gibt Selbsthilfegruppen es gibt Gesprächsgruppen hoffentlich Familie und Freunde die sich da einem annehmen offen zuhören für die Bedürfnisse in der Phase und versucht, da einfach nicht allein zu sein.
• 39:46
  Speaker 0: Und dann denke ich kann man sich in so einem Netzwerk oder in so einer unterstützenden Umgebung kann man dann persönlich schauen.
• 39:54
  Speaker 0: okay möchte ich mich damit auseinandersetzen.
• 39:57
  Speaker 0: zum Briefboard ja oder nein?
• 40:00
  Speaker 1: Also immer erst mal die menschliche Hilfe suchen.
• 40:03
  Speaker 0: Denke ich auf jeden Fall.
• 40:05
  Speaker 1: Der KI sowas in die Hand gibt.
• 40:07
  Speaker 0: Plötzlich auf einen Punkt gebracht genau.
• 40:10
  Speaker 1: Das ist generell wahrscheinlich im Leben ein guter Rat für alle Lebenssituationen, wenn wir erst mal Menschen angucken die man vielleicht zur Hilfe holen kann bevor man alles in die Hände der KI legt.
• 40:23
  Speaker 1: Vielen Dank dass du heute da warst und über dieses ja doch sehr emotionale und schwierige Thema gesprochen hast und berichtet hast.
• 40:31
  Speaker 0: Nur wahr herzlichen Dank nochmal für das gute Gespräch und die Einladung!
• 40:39
  Speaker 1: Den nächsten Deepdive hört ihr an dieser Stelle in zwei Wochen.
• 40:42
  Speaker 1: Es würde mich freuen, wenn ihr dann wieder dabei seid!
• 40:44
  Speaker 1: Bis dahin könnt ihr natürlich mit unserem kompakten KI-Update jeden Montag, Mittwoch und Freitag auf dem Laufen bleiben.
• 40:52
  Speaker 1: Und falls ihr mal einen Deepdiv verpasst habt findet ihr eine Sammlung aller begleitender Artikel zu diesen Folgen auf heise.de.
• 41:02
  Speaker 1: slash.
• 41:02
  Speaker 1: Thema slash KI minus
• 41:04
  Speaker 0: Update.
• 41:05
  Speaker 1: Den Link dahin findet ihr auch in den Shownotes Untertitel im Auftrag des ZDF.