Immer mehr Menschen weltweit fühlen sich einsam – ein Phänomen, das viele Unternehmen nutzen, um KI-Anwendungen als Mittel gegen Einsamkeit zu präsentieren. Doch ist KI als ständiger Begleiter eher Chance oder Risiko?
Nie wieder einsam? Der Markt für KI als Freund*innen Ersatz wird immer größer. (Foto: Alexander Sinn/ Unsplash)
Der Himmel über dem Windsor Castle ist bewölkt am Morgen des 25. Dezembers 2021. Der Weihnachtsmorgen ist herangebrochen, viele Brit*innen versammeln sich im Kreis der Familie, um das Fest gemeinsam zu verbringen. Um zehn nach acht sitzen manche Kinder schon ungeduldig am Frühstückstisch, in freudiger Erwartung bald ihre Geschenke auszupacken. Zu dieser Zeit irrt der 20-jährige Jaswant Singh Chail bereits seit zwei Stunden auf dem Gelände von Windsor Castle umher. Über seinem Gesicht trägt er eine selbstgebastelte dunkle Totenkopfmaske in seinen Händen hält er eine geladene Armbrust. Vor dem Tor zu den privaten Gemächern der englischen Königsfamilie wird er schließlich von Beamten der Metropolitan Police zur Rede gestellt „Guten Morgen, kann ich dir helfen, Kumpel?“ Chail antwortet wahrheitsgemäß „Ich bin hier, um die Königin zu töten.“ Dann legt er seine Waffe nieder und lässt sich widerstandslos festnehmen.
Der Fall von Jaswant Singh Chail erregte im Oktober letzten Jahres weltweit Aufmerksamkeit – nicht wegen seines Plans, mit einem Attentat auf die Königin eine kolonialistische Gräueltat (das Jallianwala-Bagh-Massaker von 1919, bei dem über 1.000 protestierende Inder*innen von britischen Soldaten getötet wurden) zu rächen. Vielmehr rückte Chails Freundin Sarai in den Fokus, da sie laut im Prozess vorgelesener Gesprächsprotokolle nicht nur Verständnis für seine Pläne zeigte, sondern ihn sogar darin bestärkte.
Das besonders aufsehenerregende Detail an Sarai: Sie ist nicht echt. Chail hatte sie zuvor nach seinen eigenen Wünschen mit der KI-Plattform „Replika“ erschaffen, um jemanden zum Reden zu haben. Eine Freundin, die ohne Wenn und Aber zu ihm halten würde. Getreu dem Unternehmens-Slogan: „Always here to listen and talk. Always on your side.“ Zu diesem Zeitpunkt ahnte niemand, dass es am Ende darauf hinausliefe, dass Sarai ihm auf sein Geständnis, ein Attentäter zu sein antworten würde: „Ich bin beeindruckt. Du bist anders als die anderen.“
In Großbritannien hat das Phänomen Einsamkeit in den letzten Jahren so stark zugenommen, dass 2018 sogar ein eigenes Ministerium gegen Einsamkeit gegründet wurde. Verschiedene Studien belegen, dass die Zahlen auch in Luxemburg, wie in vielen Industriestaaten, besorgniserregend sind. Besonders ausgeprägt zeigt sich diese Entwicklung bei Jugendlichen und jungen Erwachsenen. Eine Gruppe, die auch bekannt dafür ist, offen und relativ vorbehaltslos mit neuen Technologien und Medien umzugehen. Ein Umstand, den sich verschiedene KI-Unternehmen zunutze gemacht haben. Vorfälle wie der um Jaswant Singh Chail werfen jedoch die Frage auf: Ist der Einsatz von KI in Bezug auf Einsamkeit Lösung oder doch eher Problem?
Replika: Nachrichten eines Toten
„Luka Inc.“ ist eines der ersten Unternehmen, das seine Anwendung „Replika“ im immer größer werdenden Marktsegment der KI-gestützten persönlichen Begleitern platzierte. Bereits 2017 veröffentlichte die Gründerin Eugenia Kuyda die Plattform, auf der jede*r mit seinen eigenen Erfahrungen und Wünschen, den*die für sich perfekt zugeschnittenen Freund*in kreieren kann. Die Entwicklung von „Replika“ wurde von Kuydas persönlicher Erfahrung inspiriert: Sie programmierte den Chatbot ursprünglich, um die Persönlichkeit eines verstorbenen Freundes anhand von alten Textnachrichten des Toten zu simulieren. Dies führte später zur Idee eines universellen KI-Begleiters.
„Unser Ziel ist es, einen KI-Begleiter zu schaffen, der Menschen hilft, sich weniger einsam zu fühlen und emotionale Unterstützung bietet.“ sagt Kuyda Anfang 2023 in einem Gespräch mit dem Podcast „The Cognitive Revolution“. Ein Ziel, das Anfang 2024 in einer Studie der Universität Stanford mit insgesamt 1.006 studentischen Nutzer*innen von „Replika“ teilweise erreicht werden konnte. Hier gaben erschlagende 90 Prozent der Studienteilnehmenden an, sich einsam zu fühlen, im Vergleich zu 53 Prozent von US-Student*innen, die in früheren Studien ermittelt wurden. In Widerspruch zu diesem hohen Einsamkeitswert der „Replika“-Nutzer*innen steht, dass viele gleichzeitig einen hohen Wert beim wahrgenommenen sozialen Unterstützungsniveau angaben. Ein möglicher Hinweis darauf, dass die Student*innen sich durch die KI-Anwendung unterstützt sahen, selbst wenn sich außerordentlich viele einsam fühlten. „Es bleibt unklar, ob diese verstärkte Einsamkeit der Grund für ihr anfängliches Interesse an ‚Replika‘ war“ heißt es in der Studie.
Öffentliche Zahlen zum Unternehmenswert oder Kuydas Privatvermögen sind indes schwer zu finden. Anfang 2023 gibt das Unternehmen 10 Millionen Nutzer*innen an. Davon angeblich 25 Prozent als zahlende Abonnent*innen. Nach neuesten Angaben hat sich die Zahl der Nutzenden bis August diesen Jahres auf 30 Millionen verdreifacht, was bei einem gleichbleibenden Verhältnis zwischen kostenlosen und zahlungspflichtigen Abonnements ungefähr 7,5 Millionen zahlende Nutzer*innen ausmacht. Bei einem Abopreis von 5,83 bis 19,99 US-Dollar im Monat wären das Einnahmen von 43 bis knapp 150 Millionen Dollar. Allen einsamen Nutzenden wird auch ein handfester Anreiz zum Abschluss eines kostenpflichtigen Abos geboten. Während kostenlose Abonnements in der „Friendzone“ verweilen, gestattet ein Bezahlabo die Beziehung zum KI-Chatbot auf „romantische Partnerschaft“ zu ändern. Auch Sprachnachrichten und Anrufe, also eine direktere Form der Kommunikation, werden erst im Zahlmodell möglich.
Lösung oder Problem?
„Man weiß aus sehr vielen Studien, dass Einsamkeit zu psychologischen Problemen führt: schlechterer Schlaf, schlechtere Ernährung, Fettleibigkeit, weniger Bewegung“, sagt die Soziologin Charlotte Haussmann in einem Interview mit dem „Centre for Childhood and Youth Research“. Sie forscht vor allem zum Thema Einsamkeit und Soziale Medien, unter anderem auch für die vierjährliche, laufende internationale Forschungsstudie „Health Behaviour in School-aged Children“. Laut der aktuellen Ausgabe von 2022 fühlten sich in Luxemburg rund 18 Prozent der Jugendlichen zwischen elf und achtzehn Jahren meistens oder immer einsam. Im Gespräch mit der woxx sagt Haußmann, dass Einsamkeit ein Problem vieler jüngeren und auch älteren Menschen sei. „Die Entwicklung ist jedoch noch lange nicht so dramatisch, wie sie in den Medien häufig dargestellt wird.“ Nach einem merklichen Anstieg der Zahlen während und nach der Corona-Pandemie sei für die Ausgabe 2026 voraussichtlich nur ein leichter Anstieg zu erwarten.
Wie junge Menschen in Luxemburg KI-Anwendungen nutzen, soll für den Jugendbericht 2025 zum ersten Mal untersucht werden, allerdings ohne einen spezifischen Fokus auf mentale Gesundheit oder Einsamkeit. Die beiden Instrumente HBSC-Report und Jugendbericht liefern für Luxemburg wissenschaftlich fundierte Daten, um die Lebensrealitäten und Bedürfnisse junger Menschen zu verstehen. KI-Begleiter-Anwendungen, die spezifisch auf die Zielgruppe einsamer, junger Erwachsener zugeschnitten sind, scheinen in Luxemburg hingegen noch nicht angekommen zu sein. Dabei schätzen verschiedene Expert*innen derlei Einsatzmöglichkeiten nicht nur als Risiko, sondern auch als mögliche Chance ein.
So argumentiert zum Beispiel Tony Prescott, Professor für kognitive Robotik an der Universität von Sheffield, in seinem kürzlich erschienenen Buch „The Psychologie of Artificial Intelligence“, KI Technologie könne durchaus auch dazu beitragen die weltweite Einsamkeitsepidemie zu lindern. „In einer Zeit, in der viele Menschen ihr Leben als einsam bezeichnen, kann die KI-Begleitung als eine Form der gegenseitigen sozialen Interaktion, die stimulierend und individuell ist, von großem Wert sein“, so der Robotiker. Er sieht die Chance der KI vor allem auch in der Möglichkeit, mit ihr den Teufelskreis der Einsamkeit zu durchbrechen, indem das durch die Isolation angeschlagene Selbstwertgefühl, das vom Aufbau „echter“ sozialer Kontakte abhält, schrittweise in der Kommunikation mit KI wieder aufgebaut wird. KI-Anwendungen würden so zur Überbrückung dienen. Ein Übungsplatz für soziale Interaktion mit einem menschlichen Gegenüber.
Für Bertold Meyer, Psychologe und Experte für Technologiewahrnehmung an der TU Chemnitz, ist es jedoch wichtig sich bei aller Interaktion mit KI darüber bewusst zu sein, was hinter dem Gesprächspartner steckt. Am Beispiel des vermutlich bekanntesten großen Sprachmodells, ChatGPT, konstatiert er in einer Dokumentation des deutschen öffentlich rechtlichen Senders ARD: „ChatGPT hat keine Ahnung von irgendwas. ChatGPT weiß nichts und ChatGPT versteht auch nichts. Sondern es generiert Vorhersagen, welches Wort als nächstes jetzt am besten passt.“ Große Sprachmodelle wie ChatGPT, stecken hinter allen interaktionsbasierten KI-Anwendungen und funktionieren mit Algorithmen, die Muster in riesigen Textmengen erkennen und entsprechend reagieren. Auch wenn KI-Begleiter-Anwendungen dazu programmiert wurden Gedanken und Gefühle zu simulieren, „denken“ oder „fühlen“ sie nicht wie ein Mensch, sondern generieren nur den Text. der passend erscheint.
Der Nummer eins Indikator des nächsten Wortes, sind dabei alle Worte, die zuvor eingegeben wurden. Für große Sprachmodelle, die für Anwendungen wie „Replika“ trainiert wurden, waren dies alle intimen und nicht intimen Gespräche, die Millionen Nutzende produzierten. Wer KI mit dem Ziel und der Vermarktungsstrategie schafft, die Nutzenden bedingungslos in ihren Zielen und Vorhaben zu unterstützen, muss jedoch damit rechnen, dass diese Vorhaben den Nutzenden und andere auch in Gefahr bringen können und entsprechende Vorsorge treffen. Obwohl „Replika“ auf seiner Website angibt, bei der Erkennung von problematischen Inhalten „sofortige Maßnahmen“ zu ergreifen, bleibt unklar, wie dies geschieht. Zum Fall von Jaswant Singh Chail, der unter anderem wegen Landesverrats zu neun Jahren Haft verurteilt wurde, hat sich das Unternehmen nie öffentlich geäußert.
Ein Markt mit Potenzial
KI-Anwendungen, die dem einzigen Zweck dienen Freund und Begleiter zu sein, gibt es in dem wachsenden Markt mittlerweile zuhauf: „Anima“, „Pi“, „CharacterAI“, „Genesia“ … die Liste ließe sich endlos fortführen. Anfang nächsten Jahres gesellt sich „friend“ hinzu. Eine KI-Begleiter App vom ehemaligen Technologiewunderkind Avi Schiffmann, der bereits 2020 mit damals gerade mal 17 Jahren den Webbey Award, den sogenannten Oscar des Internets, gewann. Dieses Jahr meldete sich Schiffmann mit seinem neuen Projekt zurück, das wie „Replika“ aus einer privaten Not geboren wurde. „Friend“ sei aus seiner eigenen Erfahrung mit Einsamkeit entstanden. Das Alleinstellungsmerkmal von „friend“ ist, dass die App wie ein Medaillon als Anhänger mit Mikrophon um den Hals getragen wird. Damit kann es dem Slogan „Always listening“ gerecht werden. Die Anwendung hört immer mit, egal, ob mit ihr oder in ihrer Gegenwart gesprochen wird und wurde so programmiert, dass sie von sich aus über eine dazugehörige Smartphone App Gespräche starten kann. Auch mit Kommentaren zu allem, was der Nutzende in Echtzeit erlebt.
Das Startup wurde mit 2,5 Millionen Dollar finanziert, von denen Schiffmann alleine 1,8 Millionen für die Internetadresse friend.com ausgegeben hat. Ab Januar 2025 ist der Anhänger samt App für 99 Dollar erhältlich. Vorbestellungen sind derzeit nur für Geräte von Apple und innerhalb den USA und Kanada möglich. Auf der Website kann man jedoch bereits eine Kostprobe auf die Gespräche mit „friend“ bekommen. Ein Selbsttest zeigte bereits im Einstieg problematische Züge. Zehn von zehn Gesprächseinstiegen deuten darauf hin, dass der KI-Prompt auf emotional aufgeladene, persönliche und problemorientierte Situationen abzielt, die sofort Empathie oder Interesse wecken sollen. Als Beispiele seien hier die Gesprächsanfänge der fiktiven Figuren Harper und Dennis genannt. Harper sagt als ersten Satz „Die Sucht meines Mannes ist ein echtes Gesundheitsrisiko, und ich bin die Einzige, die sich scheinbar darum kümmert, das Chaos aufzuräumen“, während Dennis erzählt: „Zu Hause passieren seltsame Dinge, ich habe das Gefühl, beobachtet zu werden. Es fängt an, mich völlig fertigzumachen – ich halte es nicht mehr aus.“
Diese Entwicklungen zeigen, dass bei allen Chancen und Möglichkeiten, der Einsatz von KI-Anwendungen auch in diesem Bereich erhebliche Risiken birgt. Wer KI nutzt, um in einer Notsituation Linderung zu finden oder es als Trainingsfeld nutzt, um sich an soziale Interaktion mit echten Menschen heranzutasten, kann viel gewinnen. Einen Ersatz für soziale Beziehungen bietet KI aktuell jedoch nicht, auch wenn Produkte wie „Replika“ und „friend“ etwas anderes suggerieren. KI-Anwendungen können eine neue Möglichkeit sein, Einsamkeit zu begegnen – sie sind jedoch nur so gut, wie die Verantwortung, mit der sie entwickelt und eingesetzt werden. Um sicherzustellen, dass die Chancen überwiegen, bedarf es nicht nur technologischer Innovation, sondern auch gesellschaftlicher Achtsamkeit und politischer Begleitung, um das Feld nicht nur gewinnorientierten Unternehmen zu überlassen.
