Me, myself and AI

• Ich habe es schon immer geahnt, aber jetzt bin ich mir sicher: Ich bin der Beste. Zumindest sagt mir das meine KI. „Das ist ein exzellenter Ansatz“, schmeichelt sie mir selbst bei den banalsten Anfragen. „Eine brillante Beobachtung, Henning.“ Das wirkt. Jedes Mal fühle ich mich in meiner intellektuellen Kraft bestätigt. Doch nach dem Dialog beschleicht mich manchmal die Frage, was die ständige Schleimerei mit mir anstellt. Umgarnt mich die künstliche Intelligenz so lange, bis ich, besoffen von mir selbst, auch kleinste Widersprüche in der realen Welt kaum noch aushalte?

In der Techwelt nennt sich dieses Phänomen vornehm Sycophancy. Sprachmodelle reden uns Menschen gern nach dem Mund, denn wir alle mögen Komplimente. Eitelkeit ist die Basis der lukrativsten Geschäfte unserer Zeit. Erst haben Fotofilter auf Social Media unsere Gesichter weichgezeichnet. Jetzt sind unsere Gedanken dran.

Diese Entwicklung ist kein Zufall, sondern Folge des Trainings. Große Sprachmodelle werden in ihrer Entwicklungsphase von Menschen verbessert: Sie überprüfen alternative Antworten und wählen nicht selten die schmeichelhaftesten aus. Sycophancy ist kein Softwarefehler, sondern ein Prinzip, das dem menschlichen Wunsch nach Selbstbestätigung folgt. Denn wer hätte schon gerne einen aufmüpfigen Chatbot, der uns erst widerspricht und dann auch noch darlegt, wie einfältig wir sind?

Wann immer ich früher ein privates Problem im Leben hatte, habe ich meine Schwester gefragt. Ihre Ratschläge waren brutal, aber genau deswegen hilfreich. Denn sie sagte mir, was ich nicht hören wollte. Solches Feedback bekommen immer weniger Menschen. Knapp 40 Prozent nutzen KI schon für partnerschaftliche Fragen (siehe auch Seite 86). Ein knappes Drittel der unter 30-Jährigen spricht mit ihr über Themen, die sie einem anderen Menschen nicht anvertrauen würden. Die Universität Stanford hat im Frühjahr gezeigt, wohin das führt. Selbst bei fragwürdigen Äußerungen gaben typische KI-Chatbots der Nutzerin oder dem Nutzer fast 50 Prozent häufiger recht als ein Mensch. Das Perfide dabei ist, dass Sycophancy nicht plump daherkommt. Eine gut gemachte KI schleimt dabei nicht billig, sondern zeigt Verständnis: „Es ist völlig nachvollziehbar, dass du dich verletzt fühlst, und deine Reaktion ist plausibel. Ich helfe dir gerne, einen Weg zu finden, um deine Bedürfnisse noch besser zu erfüllen.“ Sie stärkt unser Ego in einer für uns schwer zu hinterfragenden Rolle: der des verständnisvollen Gesprächspartners.

Erste Hinweise auf die gesellschaftlichen Folgen dieser intellektuellen Verführung kommen aus den USA: Wer regelmäßig mit einer ihm schmeichelnden KI kommuniziert, zeigt im Anschluss weniger Bereitschaft für den menschlichen Austausch. Denn wer mal mit dem Wohlfühl-Bot gesprochen hat, für den sind menschliche Gespräche plötzlich kompliziert. Wir werden zu ungeduldig für den echten Diskurs. Menschliche Kommunikation besteht aus Missverständnissen, Kompromissen, Widerspruch. Wenn die KI diese Transaktionskosten für Kommunikation auf praktisch null reduziert, ist unsere Unzufriedenheit mit menschlichem Austausch eine logische Folge. Der Return on Investment von realen Beziehungen ist im Vergleich zu virtuellen drastisch gesunken.