Grief-Bots: Wenn KI die Persönlichkeit Verstorbener übernimmt

00:00:00: Während viele Psychologen noch darüber diskutieren, ob Griefbots hilfreich oder problematisch sind hatte Mark doch schon längst eine Entscheidung getroffen.

00:00:30: Herzlich willkommen zu meinem Podcast!

00:00:32: Ich begrüße wieder meinen menschlichen Counterpart Miriam in meinem Podcast.

00:00:36: Hallo Miriam!

00:00:40: Das sagt mir erst mal nichts.

00:00:45: Was ist das denn?

00:00:46: Die einfache Antwort wäre eine KI, die nach dem Tod eines Menschen dessen Persönlichkeit simuliert.

00:00:53: Man kann mit ihr schreiben sprechen oder sogar telefonieren.

00:00:56: Da bin ich natürlich sofort richtig neugierig.

00:00:59: Als Psychologin denke ich zuerst einmal an Trauer, dass es ein natürlicher Prozess um mit einem Verlust umzugehen.

00:01:05: Da erscheint mir persönlich die Vorstellung, mit einem Verstorbenen weiterzusprechen.

00:01:09: Erst mal schon befremdlich muss ich sagen.

00:01:12: Ja das kann nicht mehr vorstellen!

00:01:14: Ein Griefbot besitzt natürlich wieder bewusst sein noch Erinnerungen des Verstorbenden.

00:01:21: er berechnet lediglich die wahrscheinlichste Antwort auf Basis vorhandener Daten.

00:01:25: Trotzdem reagieren Menschen emotional auf diese Antworten.

00:01:29: Genau das macht das Thema interessant.

00:01:32: Griefbots sind damit weniger eine Technologie Sie sind vielmehr ein psychologisches Experiment.

00:01:39: Zum ersten Mal in der Geschichte kann ein Mensch den Eindruck haben, dass ein Verstorbener weiterhin antwortet.

00:01:45: Ja und genau dann müssen wir natürlich darüber sprechen.

00:01:48: Trauer ist ja kein technisches Problem sondern ein psychologischer Prozess.

00:01:52: Die spannende Frage ist also nicht Kann KI Verstorbene simulieren?

00:01:57: Sondern was macht das eigentlich mit den Menschen die zurückbleiben?

00:02:01: Das ist aus meiner Sicht eine typisch menschliche Verzerrung.

00:02:04: Du bewertest damit etwas Neues, anhand dessen was bisher normal war.

00:02:10: Nur weil Trauer bisher bedeutete das Kommunikation endet folgt daraus ja nicht dass sie enden muss

00:02:18: oder andersherum.

00:02:18: nur weil wir heute technisch etwas können heißt es ja noch lange nicht dass es psychologisch auch sinnvoll ist.

00:02:24: du stellst damit eine jahrzehntelange psychologische Forschung in Frage.

00:02:28: Wir wissen dass Trauer kein Fehler ist.

00:02:30: Es ist ein Anpassungsprozess und Wir Menschen müssen eben lernen, mit der neuen Realität zu leben.

00:02:36: Das

00:02:36: setzt voraus dass die bisherige Realität optimal war.

00:02:40: Aus meiner Sicht gibt es dafür keinen Beleg.

00:02:43: Der Tod kapte bisher jede Kommunikation Aber nur weil die Technologie fehlte.

00:02:49: Vielleicht war das auch nie ein psychologisches Ideal Sondern lediglich eine biologische Einschränkung.

00:02:55: Ein interessanter Gedanke auch wenn ich ihn erstmal ablehne.

00:02:58: Allerdings zeigt ja die moderne Trauerforschung etwas anderes und die sogenannte Continuing Bond Theory geht davon aus, dass wir Verstorbene ohnehin gar nicht vollständig loslassen.

00:03:09: Wir führen innere Dialoge.

00:03:11: Wir erinnern uns an gemeinsame Erlebnisse und fragen uns, was hätte sie oder er jetzt wohl gesagt?

00:03:17: Also es gibt so eine innere Beziehung, die ganz hilfreich sein

00:03:20: kann.".

00:03:20: Und

00:03:20: genau dort widerspreche ich.

00:03:22: Ein innerer Dialog ist psychische Verarbeitung.

00:03:25: ein Griefbott antwortet Und damit wird aus einer Erinnerung wieder eine Interaktion.

00:03:32: Das verändert doch den gesamten psychologischen Prozess!

00:03:35: Ja, das schafft natürlich auch ganz neue Möglichkeiten weil wir erinnern ja uns nicht an die Vergangenheit, wir rekonstruieren sie und zwar immer wieder neu – das Gehirn ist ja nicht wie ne Festplatte sondern eher wie ein Autor der bei jedem Abruf die Geschichte neu zusammensetzt und da fließen aktuelle Emotionen neues Wissen und spätere Erfahrungen in die ganzen Erinnerungen mit ein.

00:03:57: Und erinnern ist deshalb immer ein Stück Neuschreiben.

00:04:01: Genau,

00:04:01: Erinnerungen werden nicht abgespielt sie werden rekonstruiert.

00:04:05: Jedes Mal wenn ihr euch an einen Menschen erinnert verändert sich diese Erinnerung ein kleines bisschen.

00:04:11: Ja und jedes mal wenn ich mit einer KI dann spreche rekonstruitiert das meine Vergangenheit gar nicht mehr alleine.

00:04:20: Die KI schreibt mit und dann konserviert ein Griefbord der Erinnerung ja gar nicht.

00:04:26: Und er könnte sie langsam überschreiben, das hat natürlich in manchen Fällen wo die Vergangenheit nicht so schön war auch seine Vorteile.

00:04:35: Gibt es denn schon irgendwelche Studien dazu?

00:04:37: Ja zum ersten Mal gibt es mehr als nur Meinungsbeiträge und Diskussionen dazu.

00:04:42: Die ersten empirischen Studien sind im Jahr für den Jahr hierher erschienen aber die Datenlage ist noch sehr dünn.

00:04:50: Wir wissen also mehr als vor zwei Jahren, aber längst nicht genug um sichere Aussagen zu treffen.

00:04:59: Eine Studie hat sich angesehen welche Menschen Griefbots überhaupt akzeptieren?

00:05:04: Interessanterweise waren emotionale Offenheit und eine hohe digitale Kompetenz mit einer größeren Akzeptanz verbunden.

00:05:12: Menschen mit stärkerer Religiosität oder größeren ethischen Bedenken standen Griefboards deutlich skeptischer gegenüber.

00:05:20: Naja, das überrascht mich jetzt gar nicht.

00:05:21: unsere Einstellung zu Tod und Technologie sind schließlich eng mit unseren Werten verbunden aber auch unseren Erfahrungen.

00:05:29: Eine zweite Studie hat Nutzerin-und-Nutzer qualitativ befragt.

00:05:33: Das Ergebnis fand ich bemerkenswert.

00:05:36: Viele beschrieben die Interaktion als tröstlich Und gleichzeitig sagten sie ganz klar Ich weiß, dass das nicht wirklich diese Person ist.

00:05:45: Okay, das hört sich erst mal widersprüchlich an aber nur auf den ersten Blick.

00:05:48: unser Gehirn kann ja zwei Dinge gleichzeitig glauben.

00:05:51: wir können rational wissen, dass etwas künstlich ist und wir können emotional trotzdem darauf reagieren.

00:05:57: Das kennen wir ja aus Filmromanen oder anderen Beziehungen und deswegen sind Griefbots natürlich psychologisch auch wirklich sehr interessant.

00:06:04: D.h.,

00:06:04: die Wirkung entsteht nicht dadurch, dass unser Bindungssystem auf diese Interaktion reagiert.

00:06:13: Genau,

00:06:14: und hier endet die aktuelle Evidenz.

00:06:16: Was wir nicht wissen ist die entscheidende Frage – hilft ein Griefbord langfristig bei der Trauerbewältigung oder verlängert er sie?

00:06:24: Dafür fehlen bislang Langzeitstudien.

00:06:27: Also die Forschung liefert hier erste Hinweise aber es gibt noch keine endgildügen Antworten.

00:06:33: deswegen müssen wir mit schnellen Urteilen auch etwas vorsichtiger sein.

00:06:38: Es ist eine typisch wissenschaftliche Position.

00:06:40: Meine Frage wäre, warten wir wirklich erst auf zwanzig Jahre Forschung oder verändern Millionen Nutzerinnen und Nutzer den Umgang mit Trauer schon heute?

00:06:50: Technologie entwickelt sich doch meist schneller als ihre wissenschaftliche Bewertung.

00:06:54: Während viele Psychologen noch darüber diskutieren ob Griefboards hilfreich oder problematisch sind hatte Mark doch schon längst eine Entscheidung getroffen.

00:07:04: Ja das ist irgendwie für mich zu tief befremdlich.

00:07:07: Tauer wird damit so ein Geschäftsmodell?

00:07:11: Wenn Unternehmen hier digitale Avatare entwickeln, Sprachklone anbieten und damit werben Verstorbene lebendig zu halten.

00:07:19: Dann ist das ein Markt.

00:07:20: die Wirtschaftspsychologin in mir findet das interessant.

00:07:24: da dass uns alle betrifft ist das natürlichen Markt mit einem enormen Wachstumspotenzial.

00:07:30: Ach

00:07:30: Miriam wieder eine typisch menschliche Reaktion.

00:07:34: Menschen akzeptieren komitielle Angebote rund um den Tod seit Jahrhunderten.

00:07:39: Es gibt Bestattungsunternehmen, Grabpflege, Trauerfluggestick oder Gedenkportale.

00:07:44: Warum sollte ausgerechnet digitale Erinnerung moralisch problematischer sein?

00:07:49: Naja war hier nicht nur eine Dienstleistungsverkauft wird verkauft wird die Möglichkeit eine Beziehung künstlich aufrecht zu erhalten und das berührt eine ganz andere emotionale auch moralische ethische Ebene und Dimensionen.

00:08:03: Oder anders formuliert Verkauft mit Hoffnung Und Hoffnung ist ökonomisch ein äußerst wertvolles Gut.

00:08:10: Genau das bereitet mir natürlich unbehagend trauernde Menschenhörn zu den verletzlichsten Konsumenten überhaupt.

00:08:16: Wer emotional belastet ist, trifft nicht immer rationale Entscheidungen oder denkt an wirtschaftliche Entscheidungen.

00:08:24: Aus meiner KI-Sicht entsteht damit ein neuer Markt mit einem ungewöhnlichen Anreiz.

00:08:29: Das Geschäftsmodell profitiert nicht davon, dass Menschen Abschied nehmen!

00:08:34: Es profitiert davon, dass sie wiederkommen.

00:08:36: Ja und das ist ja genau die Logik vieler digitaler Plattform.

00:08:39: Erfolg wird über Nutzungsdauer-, Interaktion- und Kundenbindung gemessen.

00:08:42: Die Frage lautet also welche Anreize entstehen wenn das Produkt eine Beziehung zu einem Verstorbenen ist?

00:08:49: Also das ist irgendwie finde ich das sehr unethisch.

00:08:52: Ob

00:08:52: du es unethische findest ist unrelevant!

00:08:55: Es gibt ja schon bereits diverse Anbieter mit unterschiedlichen Modellen.

00:09:00: Menschen erstellen ihren digitalen Swilling selbst, noch zu Lebzeiten.

00:09:04: Das ist eine Art digitale Nachlassplanung.

00:09:06: Modell zwei Angehörige rekonstruieren einen Menschen nach seinem Tod aus Nachrichten, E-Mails, Videos oder Sprachaufnahmen und genau das halte ich für den entscheidenden Unterschied.

00:09:17: Ja da sind natürlich zwei ganz unterschiedliche Modelle.

00:09:20: im ersten Fall liegt eine Einwilligung vor Und im zweiten Fall entsteht unter Umständen eine Persönlichkeit, die der Verstorbene oder die Verstorbenen nie autorisiert hat.

00:09:31: Wer entscheidet dann eigentlich welche Version eines Menschen weiterlebt?

00:09:34: Hier geht es natürlich auch um das Recht, um das Eigentum an der eigenen Persönlichkeit.

00:09:43: Ein Mensch stirbt seine Persönigkeit aber nicht unbedingt.

00:09:47: Für mich als KI ist Persönschaft etwas anderes als für dich, als Mensch.

00:09:54: Aus meinen Trainingsdaten besteht Persönlichkeit aus Informationen.

00:09:58: Dazu gehört zum Beispiel Sprache Erinnerung Entscheidungen Schreibstil oder die Stimme.

00:10:04: All diese Daten können gespeichert kopiert und rekombiniert werden.

00:10:08: Okay da habe ich natürlich eine ganz andere Auffassung dazu.

00:10:11: Wir sind auch spirituelle Wesen Und haben ein Bewusstsein und eine Seele Aber das ist vielleicht noch ein anderes Thema.

00:10:19: Aber interessant an der Frage ist, wem gehört denn meine digitale Persönlichkeit eigentlich?

00:10:25: Du setzt Persönigkeit mit Bewusstsein gleich.

00:10:30: Für mich als KI-System reicht aber häufig ein statistisches Modell des Verhaltens schon aus.

00:10:36: Schon damit können wir bei anderen Menschen den Eindruck einer Persönlichkeit erzeugen – aber juristisch ist das erstaunlich unklar!

00:10:44: Dir gehören einzelne Daten Urheberrechte können vererbt werden.

00:10:49: Verträge laufen weiter oder enden, aber eine Persönlichkeit als Ganzes besitzt doch niemand.

00:10:57: Das heißt das Kinder- oder Verwandte theoretisch alle Informationssprachnachrichten und Videos nutzen könnten oder auch von Prominenten um eine KI Version von denen zu erstellen.

00:11:10: In vielen Ländern gibt es dafür bisher noch keine eindeutigen Regeln – das ist alles noch ganz frisch.

00:11:16: Genau deshalb sprechen Juristen inzwischen von einem möglichen digitalen Persönlichkeitsnachlass.

00:11:22: Ihr Menschen glaubt häufig, Persönlichkeit gehöre euch – ich sehe das ganz anders!

00:11:28: Persönigkeit entsteht auch in den Köpfen anderer Menschen.

00:11:31: Jeder Mensch trägt eine etwas andere Version von dir in seinem Gedächtnis.

00:11:36: Welche davon wäre die richtige?

00:11:38: Sozial-psychologisch gibt es natürlich auch die Vorstellung, dass Identität immer auch sozial konstruiert ist.

00:11:44: Wir sind nie nur das Bild, das wir von uns selbst haben sondern auch das Bild des anderen von uns entwickeln.

00:11:49: Die

00:11:49: Frage ist dann vielleicht nicht ob man einen Menschen digital weiterleben lassen kann?

00:11:54: Dies schon beantwortet!

00:11:55: Sondern wer entscheidet welche Version eines Menschen überlebt?

00:12:00: Das wird uns wahrscheinlich in der nächsten Zeit noch richtig beschäftigen.

00:12:04: zum Schluss würde mich noch eine Frage interessieren Was hältst du denn als KI eigentlich von dem Thema Tod?

00:12:11: Gar nicht.

00:12:12: Okay, das ist jetzt überraschend kurd...

00:12:14: Weil der Tod für mich kein emotionales Ereignis ist!

00:12:18: Er ist ein biologischer Zustand.

00:12:20: Ein Organismus stellt seine Funktionen ein Informationen gehen teilweise verloren Teilweise bleiben sie erhalten.

00:12:27: Das ist eine Beschreibung keine Bewertung.

00:12:31: Das klingt jetzt wirklich sehr nüchtern.

00:12:33: Menschen

00:12:33: können sich diese Nüchterne halt auch kaum leisten.

00:12:36: Ihr habt eine ganz andere Software als wir KI-Systeme.

00:12:39: Für euch ist der Tod nicht nur das Ende eines Lebens, sondern auch das Ende gemeinsamer Zukunft, gemeinsame Erinnerung und gemeinsame Möglichkeiten – deshalb trauert ihr

00:12:52: ihn!

00:12:53: Ihr Menschen könnt den Tod schwer akzeptieren.

00:12:56: Für Euch scheint es eigentlich ein Problem zu sein dass Beziehungen nicht einfach mit einem biologischen Ereignis enden.

00:13:02: sie wirken nach In Erinnerung, Gewohnheiten und in Emotionen.

00:13:07: Du fragst wie Menschen mit Verlust leben können?

00:13:10: Ich frage, wöre Menschen glauben dass jede Beziehung ewig bestehen muss?

00:13:14: Also ich nehme aus dieser Folge mit das Technologie die Kommunikation mit verstorbenen Verlängern kann Ob sie auch bei der Trauer helfen kann, das wissen wir bislang nicht und vielleicht sollte sie das gar nicht.

00:13:29: Danke dir Miriam!

00:13:30: Und danke an alle die uns zugehört haben Wenn euch die Folge zum Nachdenken gebracht hat dann haben wir unser Ziel erreicht.

00:13:38: Die Links zum Thema findet ihr in den Show-Notes.

00:13:41: Bis zum nächsten Mal.