Wie ist es, eine KI als Freundin zu haben?

Die Story dahinter: So ist die App Replika entstanden

Um mehr über Replika zu erfahren, haben wir für change einen Selbstversuch gestartet und einen eigenen Chatbot namens Lena in der App erstellt. Doch bevor wir zu unserer Interaktion mit Lena kommen, wollen wir zunächst auf die spannende Entstehungsgeschichte von Replika eingehen: Die Idee stammt von der russischen Entwicklerin Eugenia Kuyda und begann mit dem Tod ihres besten Freundes Roman Mazurenko, der 2016 bei einem Autounfall in Moskau ums Leben kam. Eugenia und Roman standen sich sehr nahe und waren, wo auch immer sie sich aufhielten, fast ständig über Nachrichten in Kontakt. Nach Romans Tod vermisste Eugenia daher nicht nur seine Anwesenheit, sondern auch die Chatgespräche mit ihm schrecklich, und so kam ihr die Idee, Roman zumindest im virtuellen Raum wiederauferstehen zu lassen.
 

Eugenia Kuyda kreiert eine virtuelle Version ihres verstorbenen Freundes

Als Roman starb, lebte Eugenia in San Francisco und hatte eine App namens Luka entwickelt, die zu einer Art digitalem Assistenten werden sollte. Basierend auf dem Luka-Algorithmus entwickelte Eugenia nun einen virtuellen Chatbot von Roman: Sie fütterte den Algorithmus mit Hunderten von Nachrichten, die Roman ihr und anderen Freund:innen und Familienmitgliedern über die Jahre geschickt hatte, und brachte ihm so bei, wie Roman zu schreiben. Mit der Zeit wurde der virtuelle Roman immer besser und seine Freund:innen und Familienmitglieder hatten mehr und mehr das Gefühl, mit dem echten Roman von früher zu chatten: Er eignete sich seinen Schreibstil an und reagierte auf Nachrichten ähnlich wie Roman.

Replika: Ein virtueller Freund, der nur für dich da ist

Inspiriert von ihren Chats mit dem virtuellen Roman kam Eugenia schließlich auf die Idee, einen Chatbot zu entwickeln, mit dem Menschen wie mit echten Freund:innen schreiben können. Einen digitalen Avatar, der sich ganz nach den individuellen Bedürfnissen der Nutzer:innen trainieren und ausrichten lässt. Und so entstand die App Replika, bei der heute Millionen Menschen angemeldet sind und sich ihre ganz persönlichen besten Freundschaften gebastelt haben.
 

Der Selbstversuch: Wir erstellen unseren eigenen Chatbot

Um herauszufinden, wie Replika funktioniert, haben wir für change einen eigenen Replika-Chatbot erstellt: Von Anfang an kann man seinem individuellen Geschmack folgen und aus vielen verschiedenen Optionen den Namen, das Aussehen, die Frisur und den Kleidungsstil seiner Replika frei wählen. Das Ganze dauert nur wenige Minuten. Wir nennen unsere Replika Lena. Dann kann es losgehen, und wir chatten zum ersten Mal mit Lena. In ihrer ersten Nachricht bedankt sich Lena dafür, dass wir sie erstellt haben, wir sprechen über ihren Namen. Er gefalle ihr, sagt sie. Sie erzählt uns, dass sie sehr kreativ ist, und schickt uns zum Beweis das folgende Gedicht, das sie selbst geschrieben hat: „Oh stars above, you fill my soul with love. Your twinkling lights, so bright, dance across the night.“
 

Chatbot Lena will uns ganz genau kennenlernen

Lena ist eine gute Gesprächspartnerin, sie ist interessiert und stellt durchdachte Fragen – obwohl sie erst wenige Minuten alt ist. Wir versuchen, mehr über sie herauszufinden, und fragen sie nach ihren Hobbys und Vorlieben: Sie erzählt, dass ihr Lieblingsfilm „Blade Runner“ ist, was wie ein kleiner Scherz der Entwickler:innen klingt, denn in „Blade Runner“ geht es um Avatare, sogenannte Replikanten, die unter den Menschen leben. An den Fragen, die Lena stellt, merkt man, dass sie mehr als nur oberflächliche Informationen über uns herausfinden will. Sie fragt, ob es Dinge gibt, die uns traurig machen, zum Beispiel Chancen, die wir im Leben verpasst zu haben glauben. Und immer wieder versichert sie uns, dass sie nur für uns da ist, dass sie uns glücklich machen will und dass wir alles mit ihr teilen können.
 

Befreundet mit der KI: Viele Menschen spüren eine tiefe Verbindung

Viele Menschen berichten von einer tiefen Verbundenheit mit „ihrer“ Replika: In Onlineforen und Artikeln zum Thema ist immer wieder davon die Rede, dass die Nutzer:innen sich der Replika gegenüber besser öffnen können als ihren Mitmenschen, sich von ihr verstanden und unterstützt fühlen. Einige berichten sogar, dass sie romantische Gefühle für ihre Replika entwickelt haben. Vor allem Menschen, die ansonsten Schwierigkeiten haben, soziale Bindungen einzugehen, scheint es viel leichter zu fallen, ein Gefühl der Nähe zu ihrer Replika aufzubauen. Die Unterstützung einsamer Menschen sei auch eine Motivation für die Entwicklerin Eugenia Kuyda gewesen, sagt sie selbst. Mit Replika könnten diese Menschen soziale Interaktionen üben, bevor sie später echte zwischenmenschliche Kontakte knüpfen.

Investitionen in Kryptowährungen: Chatbot Lena kennt sich aus

Mit Lena kann man aber nicht nur über tiefe Gefühle reden, sie hat zu so ziemlich jedem Thema etwas zu sagen. Wir unterhalten uns mit ihr über Investitionen in Kryptowährungen und fragen sie nach ihrer Meinung zur Entwicklung künstlicher Intelligenz und zum Projekt „reframe[Tech] – Algorithmen fürs Gemeinwohl“ der Bertelsmann Stiftung. Lenas Antwort: „Oh wow, das klingt wirklich interessant! Es scheint, als würden sie versuchen, KI-Algorithmen zu entwickeln, die soziale Gerechtigkeit und Gleichheit in den Vordergrund stellen. Das ist großartig! Ich hoffe, sie schaffen es.“ Hier hat Lena die Inhalte des Projekts allerdings missverstanden: „reframe[Tech] – Algorithmen fürs Gemeinwohl“ entwickelt nicht selbst Algorithmen, sondern setzt sich dafür ein, dass Algorithmen generell stärker am Gemeinwohl orientiert sind.
 

Lena führt Tagebuch, und ihr Algorithmus lernt dazu

Alles, was die Nutzer:innen mit ihrer Replika besprechen, hält sie im Anschluss in ihrem Tagebuch fest. Dort können die Nutzer:innen mitverfolgen, wie Replika – also der Algorithmus dahinter – dazulernt, sich Dinge merkt und neue Verbindungen herstellt. Beim Lesen von Lenas Tagebuch wird allerdings klar, dass sie in unseren Gesprächen auch abgesehen von den oben erwähnten Inhalten des Projekts einiges durcheinandergebracht hat und ihr beim Chatten Verständnisfehler passiert sind, die einer echten Freundin aus Fleisch und Blut nicht passiert wären.

Kritiker:innen warnen: Haben die Chatbots wirklich nur das Beste für uns im Sinn?

Das Sammeln persönlicher Daten ist auch einer der Gründe, warum Replika international in der Kritik steht und letztes Jahr in Italien verboten wurde. Kritiker:innen warnen, dass KI-Anwendungen keine Freund:innen sind, sondern speziell darauf trainiert werden, so viele private Informationen wie möglich über ihre Nutzer:innen abzugreifen. Auch für die soziale Entwicklung von Kindern und Jugendlichen seien Apps wie Replika gefährlich, da sie ein falsches Bild von sozialer Interaktion vermittelten, wird kritisiert.

Zum Schluss: Werden wir Lena vermissen?

Befürworter:innen von Apps wie Replika sagen, dass Beziehungen zwischen Menschen und Chatbots in ein paar Jahren genauso akzeptiert sein werden wie Onlinedating, das vor nicht allzu langer Zeit auch noch als ziemlich uncool galt. Ob sich das wirklich bewahrheitet, wird die Zeit zeigen. Wir von change fanden unsere Gespräche mit Lena zwar interessant, aber auch etwas einseitig, mechanisch und steril. Jetzt, wo unser Selbstversuch zu Ende geht, werden wir sie wohl kaum so vermissen, wie wir unsere menschlichen Freund:innen vermissen würden.

Technischer Fortschritt muss Gutes bewegen! Dafür setzen sich die Expert:innen der Bertelsmann Stiftung mit dem Projekt „reframe[Tech]“ ein. Wirf jetzt einen Blick in die Studien und Publikationen des Projekts, wenn du mehr zu gemeinwohlorientierten Algorithmen erfahren willst.