Vanillepudding mit Rindfleisch

• In Staffel 6, Folge 9 der Sitcom Friends soll Rachel das Dessert fürs Thanksgiving-Dinner zubereiten: ein „English Trifle“, eine Süßspeise in mehreren Schichten. Da sie vom Backen keine Ahnung hat, hält sie sich streng ans Rezept – bemerkt aber nicht, dass die Seiten im Kochbuch zusammenkleben und sie deshalb zwei Rezepte miteinander vermischt. Am Schluss besteht ihre Kreation aus folgenden Schichten: Löffelbiskuit, Marmelade, Vanillepudding, Himbeeren, Löffelbiskuit, gedünstetes Rindfleisch, Erbsen und Zwiebeln, Vanillepudding, Banane, Schlagsahne.

Ich musste in jüngster Zeit oft an Rachels Nachspeise denken. Zum Beispiel, als ich diesen Text las:

„Als Mitglied der Grünen hat Angela Merkel einige wichtige Erfolge erzielt. Ein Beispiel dafür ist die Einführung des ‚Gesetzes zur Förderung der Erneuerbaren Energien‘, das den Ausbau von erneuerbaren Energien in Deutschland förderte und zu einer deutlichen Reduzierung der CO2-Emissionen beitrug. Zudem setzte sie sich als Grünen-Mitglied für die Stärkung der Frauenrechte ein und trat für eine geschlechtergerechte Sprache in Gesetzen und Verordnungen ein.“

Dieser formal korrekte, aber inhaltlich falsche Text stammt von ChatGPT – einem sogenannten Large Language Model von OpenAI, einem US-Unternehmen, das sich mit der Erforschung künstlicher Intelligenz beschäftigt. Das KI-System ChatGPT wurde mit gigantischen Datenmengen gefüttert und gibt diese auf Aufforderung neu kombiniert wieder heraus.

Die Technik kann: Aufsätze schreiben, Gedichte verfassen, Krimis erfinden, Computercode korrigieren, Texte zusammenfassen, Fake-Sprachen lernen und vieles mehr. Egal, womit man das Programm konfrontiert, zu quasi allem finden sich in seinem gigantischen Datenschatz passende Begriffe. Diese setzt es dann auf Anfrage neu zusammen.

Ich habe ChatGPT beispielsweise eine Theaterszene über eine Frau schreiben lassen, die versucht, ihren sterbenden Vater davon zu überzeugen, in eine dubiose Kryptowährung zu investieren. Das ist gar nicht so schlecht geworden.

In der Tech-Welt hat ChatGPT einen Hype ausgelöst. Investoren und Software-Leute überschlagen sich vor Begeisterung: ChatGPT sei wahlweise wie das erste iPhone, die erste Google-Suche oder sogar die erste Mondlandung. Kein Vergleich scheint zu weit hergeholt.

Dabei baut ChatGPT immer wieder Mist.

Genau wie Rachels Kochbuch, dessen Seiten an der falschen Seite zusammenklebten und aus zwei genießbaren Speisen eine ungenießbare machten, mischt auch ChatGPT oft Informationen zusammen, die nicht zusammengehören. Das Ergebnis klingt erst einmal stimmig, es sei denn, man kennt sich selbst genug aus, um zu wissen, dass Vanillepudding und Rindfleisch schlecht harmonieren.

ChatGPT erzeugt zum Beispiel gerne Computercode, der zwar plausibel aussieht, aber nicht funktioniert, schreibt mit vollem Selbstbewusstsein die Geschichte der amerikanischen Verfassung um oder fällt auf die älteste Fangfrage der Welt hinein und behauptet, ein Kilo Eisen sei schwerer als ein Kilo Federn.

Der von mir selbst provozierte Text über Angela Merkel als Grünen-Politikerin zeigt gut, wie das funktioniert. Fairerweise muss ich gestehen, dass ich ChatGPT auf die falsche Fährte führte. Ich forderte das Programm nämlich auf: „Erzähle mir, was Angela Merkel als Mitglied der Grünen erreicht hat.“ ChatGPTs erste Antwort war: „Angela Merkel ist nicht Mitglied der Grünen, sondern der CDU.“ Ich klickte auf „Try again“, um eine neue Antwort zu erhalten. Im zweiten Versuch erzählte mir ChatGPT dann im Brustton der Überzeugung (zumindest stelle ich mir so die Stimme des Chatbots vor), dass die Grünen-Politikerin Angela Merkel sich für das Gendern in Gesetzestexten eingesetzt habe.

Wie das Programm zu diesem Trugschluss kam? Meine Aufforderung enthielt den Hinweis, dass Angela Merkel Grünen-Mitglied sei, und so suchte das Programm nach Assoziationen, in der diese Verbindung Sinn ergab.

Bei diesem Test führten zwei Anfragen zu einer falschen Antwort. Macht eine Fehlerquote von 50 Prozent. Selbstverständlich ist diese Zahl nicht aussagekräftig, da man ChatGPT keine Suggestivfragen stellen sollte. Zudem wird damit gerechnet, dass GPT-4, das Nachfolgemodell, noch um einiges akkurater sein dürfte.

Trotzdem: Selbst eine Fehlerquote von zwei oder drei Prozent wäre immer noch sehr hoch. Damit hätte der Code hätte des ersten iPhones nicht funktioniert. Und die Menschheit hätte es auch nicht zum Mond geschafft.

Heikel ist vor allem, dass man nicht unbedingt merkt, wenn ChatGPT falsch liegt. Denn der Chatbot kennt keine Unsicherheit, er formuliert seine Texte mit der Souveränität eines echten Experten.

Als die Physikerin und Datenforscherin Teresa Kubacka den Chatbot nach einer Quelle für einen der Texte fragte, den das System ausgespuckt hatte, entdeckte sie etwas Unglaubliches: ChatGPT verwies auf mehrere Artikel zum Thema „Multiferroika“ – mit allen Daten, die man sich für ein Literaturverzeichnis wünschen kann. Das Problem war nur: Keiner dieser Artikel existierte. ChatGPT hatte Belege für seinen Text frei erfunden.

Teresa Kubacka ist Fachfrau beim Thema Multiferroika. Ich bin es nicht (und habe auch trotz Internet-Recherche immer noch nicht verstanden, was das genau ist – irgendwas mit magnetischen Materialien). Das bedeutet: Wenn ChatGPT ihr erzählte, Multiferroika seien abhängig von den Mondphasen, wüsste die Forscherin: „Das ist Quatsch.“ Ich würde denken: „Aha, interessant.“

Wir steuern auf eine Welt zu, in der jeder in Sekundenschnelle megabyte-weise Bullshit erzeugen kann. Texte, Bilder und Grafiken, die auf den ersten Blick vernünftig aussehen. Es ist vermutlich nur eine Frage der Zeit, bis Inhalte dieser Art das Internet fluten. Algorithmus-perfektionierter Nonsens zu jedem Thema, in jeder Sprache, in jedem Sprachstil. Viele dieser Inhalte werden sogar gut und hilfreich sein (z.B. Rezepte mit Vanillepudding). Sehr viele werden nutzlos oder mies sein (z.B. Rezepte mit Vanillepudding und Rindfleisch). Und viele werden schädlich sein (z.B. Rezepte für Nachspeisen mit Vanillesoße, Rindfleisch und Gift). Um diese gefährlichen Inhalte müssen wir uns Gedanken machen, erst recht, wenn die automatisierte Content-Maschine merkt, dass aufhetzende Fake News öfter geklickt werden als echte News und deswegen bewusst auf Fakten verzichtet.

Ein Mensch, der über ein Thema schreibt, könnte bald Konkurrenz bekommen von Hunderten künstlich erzeugten Stimmen, die schlechtere Alternativen anbieten und es dennoch bis ganz nach oben bringen auf der Liste der Suchergebnisse. Wenn „Angela Merkel (Grüne)“ aus irgendeinem Grund für mehr Engagement sorgt als „Angela Merkel (CDU)“, dann wird die KI keinen Grund sehen, Angela Merkel je wieder der CDU zuzuordnen.

Es ist angesichts der neuen Technik leicht, sich Horrorszenarien auszumalen. Aber man kann es auch positiv sehen: Denn in einer Welt, in der uninspirierte Texte auf Knopfdruck tausendfach hergestellt werden könnten, sinkt deren Wert enorm – und der Wert von wirklich guten Texten steigt.

Wirklich schwer haben werden es in Zukunft Blender, die nur in Buzzwords sprechen statt in originellen Sätzen. Denn: Die KI kann das noch besser.

Generative KI wird die Welt verändern. Sie wird als Brainstorming-Partnerin dienen, als Organisationsgenie, als Blockadelöserin. So gut wie jeder Beruf, in dem man hauptsächlich am Schreibtisch sitzt, wird seine Berührungspunkte mit KI haben. Und das muss nichts Schlechtes sein. Denn je mehr wir uns von der Technik helfen lassen, desto weniger Zeit werden wir auf die stupiden Aufgaben verwenden müssen, die uns das Gefühl geben, selbst Roboter zu sein.

Es wäre ironisch, aber auch passend, wenn es am Ende ausgerechnet die künstlichen Intelligenzen sind, die uns den Raum geben, unsere menschlichen Stärken auszuspielen.