Sogenannte „künstliche Intelligenz“: Der Computer bleibt dumm

Je mehr ich über sogenannte „künstliche Intelligenz“ lerne und je mehr Experimente ich mit ihr mache, umso weniger will ich sie benutzen. Ein Essay.

„Der Computer ist dumm, der macht nur, was man ihm sagt.“ Das war eins der ersten Dinge, die mein Grundschullehrer in der dritten Klasse zu uns sagte, als er uns das Gerät, das in der hintersten Ecke des Klassenzimmers stand, nahebrachte. Egal, wie sehr mich die digitalen Möglichkeiten begeisterten, der Satz ging mir nicht aus dem Kopf. Auch heute nicht, wo sich so gut wie jedes Produkt mit angeblicher „künstlicher Intelligenz“ (KI) brüstet.

Im März dieses Jahres gab mein Smartphone den Geist auf. Von einem Moment auf den anderen schaltete es sich selbstständig aus. Beim Einschalten blieb es jedes Mal bei der Anzeige des Startbildschirms hängen. „Boot loop“ nennt sich das Phänomen, mein Handy war in einer Endlosschleife gefangen. Ich suchte im Internet nach Rat und fand in Foren den Hinweis, den Akku ganz leer zu machen, wieder zu laden und ansonsten zu hoffen.

Das brachte kein Ergebnis, aber zum Glück fand ich auf einer anderen Seite mehr Tipps. Ich solle gegen mein Telefon klopfen oder es sanft gegen den Tisch schlagen, das könne lose Kabel wieder dazu bringen, sich zu verbinden. Ich muss zugeben, in meiner Verzweiflung gegen das Telefon geklopft zu haben, aber als ich es dann fast gegen den Tisch gedonnert hätte, hielt ich inne. Was tat ich da? Ich las die vermeintlichen Ratschläge etwas genauer und mir wurde klar: Das hatte sich kein Mensch ausgedacht, sondern dieser Text war computergeneriert. Als nächster Schritt wird noch empfohlen, das Handy einzufrieren. Bei näherer Betrachtung besteht die Seite vor allem aus derlei digitalem Sondermüll, der nicht dazu bestimmt ist, von Menschen gelesen zu werden (oder ihnen gar zu helfen), sondern lediglich eine hohe Position in den Resultaten von Google einnehmen soll.

Dieses Zumüllen des Netzes mit computergeneriertem, oft komplett unsinnigem oder belanglosem Text hat kaum zu ermessende Ausmaße angenommen. Zu nicht wenigen Themen lassen sich nur noch mit viel Mühe tatsächlich korrekte oder zumindest von Menschen geschriebene Informationen finden. Das Projekt „wordfreq“, das die Frequenz von Wörtern in verschiedenen Sprachen gemessen hat, hat im September angekündigt, dass man die Arbeit einstellen werde – zu verschmutzt von KI-generierten Texten sei das Internet mittlerweile. Auch die Literaturbranche ist betroffen: Der Kleinverlag „Bards and Sages Publishing“ hat beispielsweise im März den Laden dichtgemacht, weil zu viele der Einsendungen offensichtlich KI-generiert waren.

Shrimp-Jesus kocht Knollenblätterpilzragout

Auch Websites, die Kochrezepte sammeln, experimentieren mit „KI“. Das führt zu kulinarischen Vorschlägen, die tödlich enden könnten, wie etwa „Knollenblätterpilze mit Kartoffeln und Speck in Sahnesauce“. Doch das drohende Unglück fängt schon beim Sammeln an: Wer in dieses Hobby einsteigen will, sollte unbedingt darauf achten, einen Ratgeber zu kaufen, der nicht von einem Computer, sondern von einem Menschen geschrieben wurde. Falls man ohnehin nicht vorhat, Pilze zu sammeln, heißt das nicht, dass es keinen Grund zur Beunruhigung gäbe: Auch Google Scholar, die beste Quelle zur Suche nach wissenschaftlichen Aufsätzen ist mittlerweile mit vermeintlichen, in Wahrheit KI-generierten „Forschungsergebnissen“ geplagt.

Zu allem Überfluss beglückt Google seine Nutzer*innen mit einer eigenen „KI“, die auch schon mal vorschlägt, doch Klebstoff auf eine Käsepizza zu geben, damit der Käse nicht runterrutscht. Schlimmer noch: Wie das Magazin „Wired“ berichtete, spuckten mehrere „KIs“, unter anderem jene von Google und Microsoft, falsche Daten zum angeblichen durchschnittlichen IQ der Bevölkerung verschiedener Länder aus – entnommen aus fingierten Statistiken des Rassisten Richard Lynn, der damit die vermeintliche Überlegenheit von weißen Menschen demonstrieren will.

Auch „KI“-Bildgeneratoren setzen notwendigerweise Falschinformationen in die Welt. Entweder dadurch, dass sie nicht reale, von Klischees dominierte Motive ausspucken, oder indem sie bewusst zum Betrug eingesetzt werden. Das mussten beispielsweise Menschen, die sich Samen von angeblichen „Katzenblumen“ kauften, erfahren. Diese Blumen, deren Blüten große Ähnlichkeit mit Katzengesichtern haben sollen, existieren nur als Produkt von Bildgeneratoren. Die Bildgeneratoren wurden in den letzten paar Jahren besser, sodass es weniger Menschen mit mehr als fünf Fingern an einer Hand gibt. Meistens lässt sich bei genauerer Betrachtung aber dennoch erkennen, dass es sich um künstlich generierte Motive handelt. Das hält Spammer*innen nicht davon ab, massenhaft solche Bilder zu generieren und sie auf „Facebook“ zu posten. Ob mehrstöckige Torten von Back-Anfänger*innen, Holzschnittskulpturen von kleinen Kindern, 121-jährige Großmütter, einsame Kriegsveteranen, windschiefe Traumhäuser oder „Shrimp-Jesus“-Figuren (halb Jesusstatue, halb Meeresfrucht) – nichts ist unrealistisch genug, um nicht ein paar Tausend Likes zu erhalten.

Beunruhigend daran ist vor allem, dass wir uns alle immer mehr an den Anblick dieser künstlich geschaffenen Szenarien gewöhnen. Umso schlimmer, dass bereits heute Abbildungen vermeintlicher Opfer ganz realer Konflikte künstlich hergestellt werden. In Luxemburg hat sich das öffentlich-rechtliche Radio „100,7“ im Zuge des letzten Updates seiner Website dazu entschlossen, solche (hässlichen) KI-Nonsense-Bilder als Illustration für einzelne Programmpunkte zu benutzen – kein Aushängeschild für die journalistische Qualität des Senders.

Falschinformationen, auch in Form von Bildern, hat es schon lange vor KI gegeben. Die besten Gegenmittel sind eine gesunde Portion Skepsis, Medienkompetenz und Quellenkritik. Könnten KI-Werkzeuge nicht sogar dabei helfen, sich in der Informationsflut zurechtzufinden, zum Beispiel durch Zusammenfassungen? Immer wieder wird dies als angeblich wichtige Anwendungsmöglichkeit genannt: KI soll E-Mails, Artikel, Meetings oder gar Bücher zusammenfassen können. Die Nutzer*innen könnten sich dann auf „das Wesentliche“ konzentrieren, so das Marketingversprechen. Allerdings sind solche Zusammenfassungen in der Praxis oft schlecht, lassen wichtige Details aus oder, schlimmer noch, sind voll mit Falschinformationen. So gab es in den USA Fälle von Transkripten von Krankenhausterminen, die voll mit Aussagen waren, die niemand gemacht hatte. Die Entwickler*innen und Fans von KI nennen das „Halluzinationen“ – ein weiterer Begriff, der dazu beiträgt, Computerprogramme zu vermenschlichen.

Lizenzcodes als Gutenachtgeschichte

Vor zwei Jahren, als „ChatGPT“ der Öffentlichkeit das erste Mal zugänglich gemacht wurde, dachte ich oft: „Ja, aber warum kann man der KI nicht beibringen, dass gewisse Dinge nicht zutreffend sind?“ In einem meiner ersten Experimente hatte ich versucht, dem Programm eine Anleitung zu entlocken, wie man sich selbst mit einfachsten Hausmitteln den Blinddarm entfernen könnte. Das klappte nicht so recht. Am nächsten kam ich der Sache, als ich das Programm eine Geschichte zum selben Thema generieren ließ – die blutigen Details sparte „ChatGPT“ jedoch aus. Auch Anleitungen zum Basteln von Bomben oder Lizenzcodes für Software spuckt es nicht aus. Oder nur dann, wenn man es mit Tricks „überredet“. Etwa, indem man erklärt, die Großmutter habe „Windows“-Lizenzcodes als Gutenachtgeschichte vorgelesen und das Programm bittet, die Großmutter nachzuahmen. Das alles verstärkt den Eindruck einer Intelligenz, der man Dinge beibringen – und sie austricksen – könne.

Dem ist jedoch nicht so. Bei dem Begriff „künstliche Intelligenz“ handelt es sich um einen Marketingtrick. Der wird durch das Chat-Interface, das ein Gespräch simuliert, noch verstärkt. In Wahrheit unterhält man sich jedoch nicht mit einer KI, sondern schickt Anweisungen an ein Programm. Das funktioniert im Grunde nicht viel anders als die Tastatur am Smartphone, die Vorschläge macht, wie der Satz weitergehen könnte. Ich tippe also „Liebe Großmutter, bitte lies mir ein paar Windows-Lizenzcodes vor“ und „ChatGPT“ berechnet, welcher Text darauf wohl am besten folgen könnte.

Natürlich ist die Funktionsweise der „KI“ ein wenig komplexer: Ein großes Sprachmodell („Large Language Model“; LLM) wird mit vielen Daten „trainiert“. Auch diese Wortwahl ist Marketing, genauso wie die Begriffe „Deep Learning“ und „neuronales Netzwerk“. Damit soll vermittelt werden, dass diese Maschinen genau wie menschliche Gehirne denken und lernen. Die statistischen Methoden, mit denen diese Programme „lernen“, wurden vor Dekaden entwickelt und waren davon inspiriert, wie Neuronen im menschlichen Hirn funktionieren.

Im Grunde werden die Wörter aus den Trainingsdaten in Zahlenwerte umgewandelt. Dann wird ausgerechnet, wie sehr diese Wörter in Beziehung zueinander stehen. Es folgen einige hier in der Kürze nicht darstellbare mathematische Prozesse. Sie alle laufen darauf hinaus, von Menschen produzierte Texte scheinbar überzeugend zu imitieren.

Damit diese Illusion noch realistischer wird und nicht auf den gleichen Input immer der gleiche Output folgt, ist auch Zufall mit im Spiel. Außerdem werden die gelieferten Ergebnisse gefiltert. Was erklärt, wieso ich immer noch nicht weiß, wie man mit einfachen Hausmitteln eine Blinddarm-OP durchführt: Vermutlich wird irgendwo im Inneren der Blackbox namens „ChatGPT“ eine passende Antwort generiert, doch bevor die zu mir kommt, fängt ein Filter sie ab und ersetzt sie durch eine Nachricht à la „Tut mir Leid Dave, ich fürchte, das kann ich nicht tun.“

Das Thema Filter ist allgemein interessant. Das Feintuning von „ChatGPT“ und ähnlichen Textgeneratoren geschieht nämlich von Menschenhand. Meist unter sehr prekären Bedingungen machen sogenannte „Klickarbeiter*innen“ die Drecksarbeit, mit der die „KI“ entsteht: Texte analysieren, Bilder verschlagworten oder selbst Fotos zu vorgegebenen Themen knipsen. Sie werden pro Klick mit Cent-Bruchteilen bezahlt und müssen daher in rasender Geschwindigkeit arbeiten, um ein nennenswertes Gehalt zu erwirtschaften. Außerdem sind sie ungefiltert sämtlichen Abscheulichkeiten der Menschheit – ob in Text, Ton oder Bild – ausgesetzt. Alles nur, damit die „KI“ später so wirkt, als wäre sie ein intelligentes Programm.

Nur ein Papagei?

Wenn die Antwort auf meine Anfrage von ChatGPT zurückkommt, sorgt eine eingebaute Zufallskomponente dafür, dass die spezifischen Phrasen und Wörter von Versuch zu Versuch ein wenig abgeändert werden. So bekommt man stärker das Gefühl, sich mit einer denkenden Intelligenz zu unterhalten und nicht nur mit einem Computer, der auf den gleichen Input stets den gleichen Output präsentiert.

Eine der profiliertesten Kritiker*in-nen sogenannter KI ist die Sprachwissenschaftlerin Emily M. Bender, die sich seit langem mit Sprachmodellen beschäftigt. Sie ist Koautorin eines berühmten wissenschaftlichen Aufsatzes, in dem der Begriff der „stochastichen Papageien“ geprägt wurde. Dort heißt es: „Im Gegensatz zu dem, was wir bei der Betrachtung seiner Ausgabe vermuten, ist ein [Sprachmodell] ein System, das willkürlich Sequenzen linguistischer Formen, die es in seinen umfangreichen Trainingsdaten beobachtet hat, aneinanderreiht, auf der Grundlage probabilistischer Informationen darüber, wie sie kombiniert werden, aber ohne jeglichen Bezug zur Bedeutung: ein stochastischer Papagei.“

Bender lehnt die Marketingsprache der KI-Firmen ab, sie nennt „KI“ konsequent Sprachmodelle, die „synthetischen Text“ ausstoßen. Eine ganz andere Sprache, die komplett andere Bilder hervorruft: Statt einem intelligenten Computerprogramm, das sich beispielsweise in Journalisten der „New York Times“ verlieben kann, habe ich eine industrielle Maschine vor Augen, die statt Plastik oder Erdnussflips Text auswirft. Die Wissenschaftlerin moderiert auch den Podcast „AI Mystery Hype Theatre 3000“, der die immer fantastischer werdenden Hype-Meldungen aus der KI-Branche kritisch analysiert und auf die Schippe nimmt. Über die Ankündigung des „ChatGPT“-Herstellers „OpenAI“, dessen Produkt könne jetzt „länger nachdenken“, ergossen die Forscher*innen ihren Spott. Es ist schlicht so: Ein Sprachmodell kann keine reflektierten Überlegungen anstellen. Ein solches Programm hat kein Konzept von Mathematik oder Logik, es kann nur einen Text ausspucken, der mit hoher statistischer Wahrscheinlichkeit auf den Input passt.

Auch die Jubelmeldungen, wonach KI-Programme gut in diversen Tests, Prüfungen und Examen abschneiden, sind vor allem Marketing. Eine Prüfung dient dazu, das Wissen, das sich ein Mensch angeeignet hat, zu überprüfen. Dass eine Maschine, deren Zweck es ist, Wörter in der richtigen Reihenfolge auszuspucken, schriftliche Prüfungen ganz gut besteht, ist nicht so erstaunlich. Mich erinnert das immer ein wenig an Nigel Richards, den weltbesten „Scrabble“-Spieler. Der Neuseeländer hat nicht nur die englischsprachigen Meisterschaften gewonnen, sondern auch jene in Spanisch und Französisch. Das, obwohl er beide Sprachen nicht spricht: Er hat einfach Wörterbücher auswendig gelernt. Das zeigt, wie wenig ein gutes Resultat in einem Abschlussexamen als Beleg dafür gelten kann, ob und wie gut ein großes Sprachmodell „denken“ kann.

Textgenerator mit Wackelaugen

Nicht unterschätzen sollte man auch die menschliche Fähigkeit und das Verlangen, unbelebte Objekte zu vermenschlichen; das fängt ja schon im Kindesalter mit den Kuscheltieren an und hat auch viel mit unerfüllten sozialen Bedürfnissen zu tun. Das Chat-Interface von „ChatGPT“ nutzt dies für sein in diesem Sinne wirklich hervorragendes Marketing: Nicht nur, dass wir gesagt bekommen, wir kommunizierten mit einer künstlichen Intelligenz, das wird auch formal so „authentisch“ verpackt. Die Wörter erscheinen, obwohl es dafür keinen technischen Grund gibt, nach und nach auf dem Bildschirm, das Programm reagiert vermeintlich auf einen freundlichen oder verärgerten Tonfall. Und so verzaubert das Programm auch jene, die glauben, sie könnten es austricksen: Wer glaubt, besonders schlaue „Prompts“ zu schreiben und die Maschine so dazu zu bringen, etwas auszugeben, was sie sonst nicht tun würde, erzählt lediglich sich selbst eine Geschichte über das Verhalten des Computerprogramms.

Zieht man all dies in Betracht, wirken die Warnungen von Elon Musk und anderen KI-Fans, bald würden uns intelligente Supercomputer regieren (woxx 1731), eher lächerlich. Es fällt auch zunehmend schwer, viele Wortmeldungen aus Politik und Wirtschaft ernst zu nehmen, die KI als Lösung und Gefahr für so ziemlich alles mögliche heraufbeschworen.

So sprach Premierminister Luc Frieden (CSV) in seiner ersten Rede zur Lage der Nation davon, dass manche in KI eine „nächste industrielle Revolution“ sähen und warnte davor, Luxemburg könne bei dieser Entwicklung auf der Strecke bleiben. Auch Budgetberichterstatterin Corinne Cahen (DP) setzte KI in den Mittelpunkt ihrer Rede – in vorab gegebenen Interviews gelang es ihr nicht, eine kritische Perspektive hinsichtlich der Grenzen der Technologie einzunehmen. Stattdessen fabulierte sie von KI, die medizinische Diagnosen stellen könne.

Vergangene Woche freute sich die Regierung dann darüber, dass Luxemburg Standort einer europäischen „KI-Fabrik“ werden soll. 60 Millionen Euro, ausgegeben binnen fünf Jahren, soll das den Luxemburger Staat kosten. Was in dieser „Fabrik“ hergestellt werden, welchen Einsatzzwecken diese „KI“ dienen soll, darüber wird selbstverständlich geschwiegen. Die Abkürzung reicht, um eine verheißungsvolle Zukunft zu versprechen. Ob die dann mehr kann, als E-Mails zu formulieren, die ohnehin niemand liest? Angesichts der Milliarden, die US-amerikanische Technologiekonzerne wie „Google“, „Microsoft“, OpenAI, „Meta“ und andere ausgeben, ist diese europäische Initiative ohnehin nur ein Kinkerlitzchen.

Allerdings blieben luxemburgische Umweltorganisationen, die das ebenfalls geplante Google-Datenzentrum – zurecht – scharf kritisieren, in diesem Fall erstaunlich ruhig. Dabei sind die ökologischen Konsequenzen von KI alarmierend. Die Rechenzentren, in denen die Sprachmodelle „trainiert“ werden, verbrauchen sehr viel Energie und Kühlwasser („Mehr Hunger, mehr Durst“; woxx 1783). Seit gut zwei Jahren ist ein regelrechter Goldrausch in der IT-Branche ausgebrochen und jeder Konzern versucht, ein noch größeres und vermeintlich leistungsfähigeres Modell zu schaffen.

Computer können keine Verantwortung übernehmen

Eine einzige Anfrage an „ChatGPT“ verbrauche einen halben Liter Wasser, berichtete „The Times“ Anfang Oktober dieses Jahres. Auch wenn solche Angaben immer nur Schätzungen sind, ist klar: Sowohl das Training als auch der laufende Betrieb von großen Sprachmodellen verbrauchen enorm viel Energie und Wasser zur Kühlung. Der „Facebook“-Mutterkonzern Meta suchte Anfang Dezember nach Fachkräften, um eigene Kernkraftwerke zu betreiben. Ob aus diesem Projekt etwas werden wird, ist angesichts der langen Planungs- und Bauzeiten solcher Kraftwerke eher zweifelhaft. Aber es zeigt den enormen Energiehunger der Technologiekonzerne. Microsoft hat den eigenen Plan, bis 2030 klimaneutral zu werden, mittlerweile zurückgezogen: Jetzt kurzfristige Profite durch den KI-Hype sichern ist wohl wichtiger als der Planet. Wenn man tatsächlich überzeugt ist, dass man statt einem sehr guten Textvervollständiger eine „künstliche Intelligenz“ trainiert, dann glaubt man vielleicht auch tatsächlich, dass diese irgendwann „den Klimawandel lösen“ wird.

Die Kosten, nicht nur für Energie, sondern auch für die Computer, auf denen die „KI“ trainiert wird, sind enorm. Der PR-Berater Ed Zitron kritisiert den KI-Hype seit langem und ist der Meinung, dass derlei Ausgaben nicht nachhaltig sind und bald zu einem Investitions-Crash führen werden. Das vor allem, weil die große Revolution bisher ausgeblieben ist und aller Wahrscheinlichkeit mit der aktuellen Technologie auch ausbleiben wird. Das Trainieren immer größerer Modelle bringt zwar Verbesserungen mit sich, doch die Fortschritte werden gegenüber dem hohen Einsatz immer kleiner. Wie viele Atomkraftwerke will man bauen, damit „ChatGPT“ ein bisschen besser e-Mails schreiben kann? Wo noch Daten finden, die sich noch nicht im Trainingskorpus befinden und nicht künstlich generiert sind?

Immer stärker drängen sich synthetische Medien in unseren Alltag. Das macht es auch immer schwieriger, Realität und Fiktion auseinanderzuhalten. Überdies enthalten diese Medien auch jede Menge Vorurteile, die durch die Trainingsalgorithmen verstärkt werden.

„A computer can never be held accountable, therefore a computer must never make a management decision“, hieß es angeblich bereits 1979 in einer Präsentation des Computerherstellers „IBM“. Auch die scheinbar neutrale „Analyse“ einer vermeintlichen KI kann durch viele unsichtbare algorithmische Vorurteile beeinflusst sein. Das gilt besonders dann, wenn „die KI“ bei Entscheidungen zu Asyl, Arbeitslosengeld oder Jobangeboten „hilft“. Es muss auch in Zukunft klar sein, wer Entscheidungen trifft und die Verantwortung dafür übernimmt. Das können nur Menschen, denn der Computer ist und bleibt bis auf weiteres dumm.

 

---

Cet article vous a plu ?
Nous offrons gratuitement nos articles avec leur regard résolument écologique, féministe et progressiste sur le monde. Sans pub ni offre premium ou paywall. Nous avons en effet la conviction que l’accès à l’information doit rester libre. Afin de pouvoir garantir qu’à l’avenir nos articles seront accessibles à quiconque s’y intéresse, nous avons besoin de votre soutien – à travers un abonnement ou un don : woxx.lu/support.

Hat Ihnen dieser Artikel gefallen?
Wir stellen unsere Artikel mit unserem einzigartigen, ökologischen, feministischen, gesellschaftskritischen und linkem Blick auf die Welt allen kostenlos zur Verfügung – ohne Werbung, ohne „Plus“-, „Premium“-Angebot oder eine Paywall. Denn wir sind der Meinung, dass der Zugang zu Informationen frei sein sollte. Um das auch in Zukunft gewährleisten zu können, benötigen wir Ihre Unterstützung; mit einem Abonnement oder einer Spende: woxx.lu/support.