In ihrem Roman „Das Dream Hotel“ entwirft die Schriftstellerin Laila Lamani das Szenario einer KI-basierten Dystopie, die bereits zum Greifen nah erscheint.
Arbeitet als Professorin für Kreatives Schreiben an der University of California, Riverside: die Schriftstellerin Laila Lalami.(Foto: Beowulf Sheehan)
Die Anfang 30-jährige Sara Hussein wird am Flughafen für ein Verbrechen festgenommen, das sie nicht begangen hat. Um genauer zu sein: Es hat gar nicht stattgefunden.
Angefangen hat alles mit Saras Schaflosigkeit: Die Museumsarchivarin und Mutter von zwei jungen Kindern wurde von ihrem Umfeld immer wieder dazu aufgefordert, endlich etwas dagegen zu unternehmen. Abhilfe schaffen soll ein Implantat, das sich „Dreamsaver“ nennt. Der Eingriff ist ein längst gängiges Verfahren und wird von einer privaten Firma angeboten. Während die positiven Auswirkungen erwiesen sind, kann das Gerät den Anwender*innen auch Probleme bereiten. Es zeichnet nämlich Traumdaten auf. Die werden in einer Datenbank gespeichert, an das „Amt für Risikobewertung“ weitergeleitet und dort ausgewertet. Wer auf der Grundlage dieser Analyse als gefährlich eingestuft wird, findet sich bald darauf in einer gefängnisähnlichen Anstalt wieder.
(© Kein & Aber)
So geschieht es auch Sara. Der Grund für ihre Festnahme ist ein Traum, an den sie sich nicht einmal erinnern kann. In der Einrichtung angekommen, wird Sara einem „Job“ zugeteilt, bei dem sie kurze Videos anschauen und bewerten muss, ob das darin zu sehende real oder KI-generiert ist. Ihre Einschätzung, zusammen mit der von den anderen Insassinnen, wird von einer privaten Firma zum Trainieren der KI-Modelle eines Filmstudios verwendet.
In ihrem Roman „Das Dream Hotel“ lässt die in Los Angeles lebende Schriftstellerin und Pulitzer-Preis-Finalistin Laila Lalami ihre Protagonistin einen kapitalistischen Albtraum durchleben, bei dem die Lebenszeit von Menschen, die schuldlos ihrer Freiheit beraubt werden, direkt in die Profite Dritter verwandelt wird. Ein Leitmotiv des Buchs ist die Intransparenz, mit der die Behörden dabei agieren: Nicht nachvollziehbare Algorithmen berechnen den „Risikofaktor“ einer Person, basierend auf verschiedenen Kriterien, die nicht näher genannt werden. Scheinbar verstehen die verantwortlichen Beamten das angewandte System selbst nicht; zumindest weigern sie sich, es zu erklären. Detailliert schildert die Autorin, was Sara durchmachen muss und was dieser Umgang mit einem Menschen macht.
Laila Lalami lässt ihre Protagonistin einen kapitalistischen Albtraum durchleben, bei dem die Lebenszeit von Menschen, die schuldlos ihrer Freiheit beraubt werden, direkt in die Profite Dritter verwandelt wird.
Wie andere Dystopien auch, findet der Roman in einer nicht allzu weit entfernten Zukunft statt. Darin erforscht Lalami sicherheitspolitische Konzepte wie „predictive policing“, also das „Vorhersagen“ von Straftaten durch Algorithmen. Sie entwirft das Szenario einer Welt, in der die Menschheit sich der Automatisierung und Optimierung von Überwachungssystemen unterordnet. Selbst die eigenen Träume können einem unter solchen Bedingungen zum Verhängnis werden. Die Verantwortung für all das wird einem intransparenten KI-Algorithmus zugewiesen. Es gibt also niemanden, der für die getroffenen Entscheidungen zur Rechenschaft gezogen werden kann. So gewährt Lalamis Roman den Leser*innen Einblick in eine potenzielle Zukunft, in welcher der Staat die Macht hat, Menschen wegzusperren, ohne zur Begründung handfeste Fakten vorlegen zu müssen.
Der Science-Fiction-Roman wurde für etliche Preise nominiert, unter anderem den „Women’s Prize for Fiction“. Bei der Lektüre fühlt man sich bisweilen an Franz Kafkas Roman „Der Prozess“ erinnert, der ebenfalls von einem undurchsichtigen System handelt, das die Macht hat, Menschen die Freiheit zu nehmen. In beiden Büchern bedarf die Justiz keines Grundes, um jemanden wegzusperren. Lalamis „Dream Hotel“ nähert sich dem Thema zwar eher politisch als philosophisch an, es werden aber ähnliche Fragen zum Thema autoritäre Strukturen und totalitäre Bürokratie aufgeworfen wie in Kafkas Buch. Zudem werden Leitmotive und Ästhetiken bedient, die an die Serie „Black Mirror“ erinnern. Auch der Spielfilm „Minority Report“ (2002) dient als Referenz.
Alle genannten Werke waren und sind nicht zuletzt als Warnung gemeint: Die überzogene Darstellung soll die Konsequenzen zeitgenössischer gesellschaftlicher Entwicklungen demonstrieren. Doch die schockieren wollenden Verzerrungen verlieren immer mehr an Effekt, je näher die Zukunft rückt. In Zeiten immer aufdringlicher eingesetzter KI-Algorithmen, die für private Firmen Daten sammeln, ohne dass die Nutzer*innen es mitbekommen, ist Lalamis Roman gleichwohl eine erschütternde Lektüre.