Nach einem Infiltrationsvorfall durch eine sogenannte „künstliche Intelligenz“ kursieren erneut apokalyptische Szenarien einer Weltherrschaft durch Computer. Dabei handelt es sich einerseits um eine Werbekampagne, andererseits offenbart sich aber auch die Ideologie der Technologiefirmen.
Der Verlust der Hoheit über persönliche Daten ist ein realistischeres Szenario als die Herrschaft der Maschinen, die Tech-CEOs angeblich fürchten. (Bild: CC BY 4.0 Daniela Zampieri / https://betterimagesofai.org)
2001, Terminator, Matrix – das sind nur ein paar berühmte Beispiele für Filme, in denen die Maschinen die Erde übernehmen oder „künstliche Intelligenz“ (KI) Menschen gefährlich wird. Werden diese Science-Fiction-Klassiker bald von der Realität eingeholt? Liest man die Schlagzeilen der letzten Wochen, könnte man zu dem Schluss kommen, uns stünde schon bald eine Zukunft bevor, in der uns eine sogenannte KI alle zu Büroklammern verarbeitet.
Auslöser war der ehemalige „Anthropic“-Angestellte Jacob Coxon. Im September kündigte er bei der KI-Firma und gab an, sowohl seine ehemalige Arbeitsgeberin als auch die Konkurenzfirma „OpenAI“ seien unverantwortlich und die von ihnen entwickelten KI-System stellten eine Gefahr für die Menschheit dar. Die Firmen „rennen geradewegs auf selbstverbessernde Superintelligenz zu und spielen mit unseren Leben“ schrieb er in sozialen Netzwerken.
Seine Aussage wurde stark mediatisiert: Nicht nur, weil er durch seine Kündigung wie eine Art Whistleblower wirkte, sondern weil wenige Wochen zuvor mehrere KI-Firmen öffentlich gemacht hatten, dass ihre Software die Firma „HuggingFace“ infiltriert hatte. Schnell war die Rede von „außer Kontrolle geratenen KI-Agenten“ (rogue AI-Agents) – gar von „geheimen KI-Zivilisationen“ –, die heimlich Botschaften ausgetauscht haben sollen. Die Firmenchefs Sam Altman („OpenAI“) und Dario Amodei („Anthropic“) forderten eine weltweite Regulierung der KI-Branche.
Um zu begreifen, was wirklich passiert ist, ist es hilfreich, sich in Erinnerung zu rufen, was grundsätzlich unter dem Begriff „künstliche Intelligenz“ verstanden wird. Anwendungen wie „Claude“ oder „ChatGPT“ beruhen auf großen Sprachmodellen (Large Language Models – LLMs). Die funktionieren ähnlich wie die Tastatur am Handy, die das Wort „dich“ vorschlägt, wenn man „Ich liebe“ tippt: Sie raten das nächste Wort anhand statistischer Wahrscheinlichkeiten. Auch wenn KI-Firmen von „Gedankenketten“ oder „Agenten“ reden, so liegt ihnen alle die gleiche Technologie zu Grunde. Ein „Agent“ ist lediglich Software, die Anweisungen des LLMs befolgt und Rückmeldungen an dieses gibt: So ist es möglich, automatisiert Flugtickets zu buchen – oder eben in fremde Computernetzwerke einzudringen.
„Meta“, der Konzern hinter „Facebook“ und „Instagram“, veröffentlichte Anfang September in den USA „Muse“, eine Software, die als „persönlicher KI-Agent“ vermarktet wird. Die automatisierte Anwendung soll alltägliche Aufgaben wie eben Ticketbuchungen, Bankgeschäfte oder das Verwalten von Abos erledigen. Ein knuffiger Avatar vermenschlicht die Software stark, sodass die Hemmschwellen, einem Computerprogramm Zugangsdaten und die Kreditkarte auszuhändigen, sinkt. Herzstück des Ganzen ist dennoch ein Programm, das mittels statistischen Methoden Text erzeugt.
Um genau solche Programme handelte es sich auch bei den vorgeblich „außer Kontrolle geratenen KI-Agenten“. Der Vorfall von „OpenAI“ ist gut dokumentiert, unter anderem durch die Firma selbst. Sie hatte sich während dem Versuch jedoch weder an Sicherheitsvorschriften gehalten, noch die Tests beaufsichtigt und dabei auch noch die Sicherheitsmechanismen der Sprachmodelle ausgeschaltet. Dass die interne Kommunikation der Sprachmodelle sich liest wie böse Roboter, Cyborgs oder eben künstliche Intelligenzen aus Science Fiction-Filmen, ist kein Zufall: Diese Sprache ist in den Trainingsdaten vorhanden.
Der Terminator als PR-Stratege
Es gibt mehrere Gründe, dass aus diesen Meldungen Weltuntergangszenarien heraufbeschworen werden. Einerseits gibt es die Theorie der „instrumentellen Konvergenz“, die besagt, dass eine theoretische KI durchaus nicht „böse“ sein müsste, um für großen Schaden zu sorgen. In einem bekannten Beispiel gibt man einer KI die Aufgabe, möglichst viele Büroklammern herzustellen. Um dieses Ziel zu erreichen, verfolgt sie Unterziele, die ethisch bedenklich sind: Sie hackt andere Rechenzentren, um mit mehr Rechenleistung effizienter Büroklammern herstellen zu können, unterjocht Menschen, baut alle Rohstoffe des Planeten ab, bis letzten Endes nur noch Büroklammern existieren.
Solche Gedankenspiele mögen einen gewissen Reiz ausüben, sind aber weit von der Realität entfernt, da Programme mit derartigen Fähigkeiten schlichtweg nicht existieren Aber sie bestätigen das, was wir bereits kennen: die mediale Darstellung von Robotern und Computern mit Bewusstsein aus Science Fiction-Medien. Solche Bilder lassen sich leichter verbreiten und verstehen als Begriffe wie „großes Sprachmodell“ oder die Realität, dass es sich um Programme handelt, die auf Computern in einem Rechenzentrum ausgeführt werden. Die Vermenschlichung von Anwendungen, die auf großen Sprachmodellen basieren, greift bereits bestehende mediale Erfahrungen auf, und ist eins der vorrangigen Ziele von KI-Firmen. Erzählungen, die darauf beruhen, dass ihre Programme denken könnten, ein Innenleben oder gar ein Bewusstsein hätten, sind schlicht gut für ihr Geschäft.
Obschon es paradox klingt, gehört auch die Idee, große Sprachmodelle könnten sich verselbstständigen und die Menschheit unterjochen zu dieser Werbestrategie. Vor allem „OpenAI“ wendet sie seit langem erfolgreich an. Bereits 2019, lange bevor „ChatGPT“ auf den Markt kam, gab die Firma an, das Modell „GPT2“ sei möglicherweise „zu gefährlich“ für die Öffentlichkeit. Gleiches wurde bei Nachfolgemodellen verlautbart, trotzdem wurden diese Programme stets veröffentlicht. Im März 2023 forderte ein offener Brief des „Future of Life Institute“, den auch Elon Musk signierte, ein Moratorium für KI-Forschung („Regulierung statt Hype“, woxx1731). Musk gründete kurz danach seine eigene KI-Firma.
Das PR-Spiel der KI-Firmen spielen die allermeisten Medien bereitwillig mit. In Luxemburg zog zum Beispiel das „Tageblatt“ eine Parallele zu autonom gesteuerten Drohnen und der geforderten Regulierung und ließ den Weltuntergangsfantasien freien Lauf. In einem Kommentar bei „RTL“ merkte Annick Goerens zwar richtig an, diese Meldungen seien vor allem Werbung für die jeweiligen Firmen, eine wirkliche Einordnung dieser Szenarien nahm sie jedoch nicht vor. Keiner dieser Meinungsbeträge erwähnte, dass es bereits in der Vergangenheit solche Aufrufe zu einer Pause der Entwicklung gab und dass diese Firmen in der Lage wären, dies selbstständig zu tun, wären sie wirklich davon überzeugt, dass ihre Programme eine existenzielle Gefahr für die Menschheit darstellten.
„Wir können jederzeit den Stecker ziehen“, sagte hingegen der Direktor von „LuxConnect“ Paul Konsbruck in der „RTL“-Sendung „Studio 2“, die sich mit Risiken und Vorteilen der Technologie beschäftigte. Er war neben der Philosophin Nora Schleich, die wichtige Punkte zur Marktkonzentration und Datensicherheit anmerkte, einer der Lichtblicke in der Diskussionsrunde. Diese war vor allem davon dominiert, dass Moderator Pit Everling die Teilnehmer*innen schon beinahe sensationsgierig dazu aufforderte, Horrorszenarien einer Bedrohung durch „autonome KI“ auszumalen. Wer die Sendung trotzdem durchhielt, erlebte etwas, das in Luxemburg eher selten der Fall ist: Die Ideologie jener Menschen, die in den KI-Firmen an den Hebeln der Macht sitzen, wurde erwähnt. Schleich nannte explizit „Transhumanismus, Solutionismus, Tech Determinismus und Longtermismus“ als die Triebkräfte hinter den KI-Weltuntergangsszenarien.
Zu einer ähnlichen Schlussfolgerung kamen die Informatikerin Timnit Gebru und der Philosoph Émile P. Torres, die den Begriff „Tescreal“ (siehe Kasten) erfanden, um das Glaubensgebäude der Entscheider*innen in Silicon Valley kurz zu umreißen. Sie steht für mehrere Denkrichtungen, die sich gegenseitig beeinflussen und zum Teil überlappen. Ihnen eins ist, dass die Entwicklung einer „superintelligenten“ KI oft im Mittelpunkt steht. Mit „Doomer“ und „Techno-Optimists“ gibt es zwei vermeintlich gegensätzliche Gruppen – die einen glauben daran, dass eine Super-KI uns alle töten wird, die anderen, dass sie eine wohlwollende Diktatorin sein wird. Die grundlegende Vorstellung ist jedoch die gleiche.
Die Super-KI als Heilsbringerin
So ist die Kernidee meist, dass eine Super-KI entwickelt werden muss, um alle Probleme der Menschheit zu lösen. Noch dazu müsse dies passieren, bevor jemand anderes sie entwickelt – denn ansonsten drohe diese, die Menschheit zu unterjochen. Neben dem exzellenten Werbeeffekt solcher Botschaften erklärt dies, warum die CEOs von KI-Firmen bislang noch keinen Stecker gezogen haben, auch wenn sie noch so besorgt tun. Die Ideologien, die aktuell in den Vorstandsetagen dieser Firmen herrschen, sind oft nur einen kleinen Gedankensprung zu rechtsextremem Gedankengut entfernt.
Das ist eine Gefahr, genauso wie die technologischen und sozialen Auswirkungen von sogenannter KI: die unmenschlichen Arbeitsbedingungen tausender „Clickworker“ des Globalen Südens, die Daten für das KI-Training aufbereiten, gigantische Rechenzentren, die mit ihrem enormen Energieverbrauch die Klimakrise anheizen und die kostbare Ressource Wasser verschwenden; die Verbreitung von Desinformation und Falschnachrichten und die Aufweichung von Rechenschaft. Letzteres wird besonders deutlich bei den „außer Kontrolle geratenen KI-Agenten“ von OpenAI: Wäre ein Mensch unerlaubt in ein fremdes Netzwerk eingedrungen, um dort Daten zu stehlen, er stünde vermutlich schon vor Gericht. Dadurch, dass die Firma behaupten kann, ihr Programm habe die Tat selbstständig begangen, ist sie scheinbar niemandem mehr Rechenschaft schuldig. Ein viel realistischeres, aber gleich schreckliches Szenario als von einer wildgewordenen Super-KI zu einer Büroklammer verarbeitet zu werden.
Was heißt „Tescreal“?
Die vorherrschenden Ideologien der CEOs von KI-Firmen werden als Tescreal bezeichnet. Die Abkürzung steht für Transhumanism, Extropianism, Singularitarianism, Cosmism, Rationalism, Effective Altruism, und Longtermism.
Transhumanismus und Extropianismus bezeichnen den Wunsch, die Schwächen des menschlichen Körpers durch technologischen Fortschritt auszugleichen und so ein sehr langes Leben oder gar Unsterblichkeit zu erreichen.
Singuläritismus bezeichnet das Hoffen und Hinarbeiten auf die „Singularität“, sprich einer KI, die intelligenter als alle Menschen gemeinsam ist.
Cosmism ist die Überzeugung, die menschliche Zivilisation müsse den Weltraum kolonisieren.
Rationalismus meint vor allem Menschen einer Internetbewegung rund um das Forum „Less awful“, die sich selbst für besonders rational und frei von Vorurteilen sehen.
Effektiver Altruismus ist eine Ideologie, die in diesem „Less awful“-Forum entstanden ist. Sie vertritt, Spenden von Philantrop*innen könnten und müssten besonders „effizient“ verteilt werden. Oft konzentriert man sich dabei auf (vermeintliche) Langzeit-Risiken.
Longtermismus sieht die positive Beeinflussung der Zukunft als moralische Priorität. Gemeint ist aber meist nicht die Klimakrise, sondern ferne Szenarien mit Super-KIs, die irgendwann die Menschheit ausrotten könnten.