Im work awesome Newsletter haben wir Katharina ein paar Fragen gestellt:

Frau Professor Zweig, in Ihrem neuen Buch „Weiß die KI, dass sie nichts weiß?“ warnen Sie vor einer möglichen KI-Blase und davor, KI blind zu vertrauen. Was würden Sie Führungskräften heute als erstes raten, die KI in ihrem Unternehmen einsetzen?

Das wichtigste bei jeglichem Einsatz von Technologie besteht darin, das zu lösende Problem genau zu definieren. Was genau soll automatisiert oder in anderer Form verbessert werden? Dann sollte eine technikneutrale Analyse stattfinden, welche Art von Technologie am besten geeignet ist, um das Problem zu lösen. Wenn die Analyse dazu kommt, dass ein KI-System - und damit vermutlich irgendeine Variante von maschinellem Lernen - das Problem lösen könnte, muss man für diese spezielle Softwareform geeignete Qualitätstests festlegen. Darüber habe ich auch in meinem zweiten Buch „Die KI war's“ schon viel geschrieben - denn leider ist die Frage, warum ein solches System welche Antwort gibt, nicht vollständig beantwortbar. Das macht es schwierig, ihre Qualität zu bewerten.

Sie weisen darauf hin, dass Sprachmodelle wie ChatGPT oft gar nicht „denken“ wie wir das gern annehmen— sondern schlicht Wahrscheinlichkeiten hochrechnen. Warum glauben wir trotzdem so gerne, dass diese Systeme intelligent sind?

Sprachmodelle berechnen vor der Generierung jedes einzelnen Worts eine Wahrscheinlichkeitstabelle, basierend auf Textmustern, die die Maschine in den Trainingstexten gefunden hat. Die darin gefundenen Muster sind sehr komplex - aber am Ende bleibt es eine wahrscheinlichkeitsbasierte Auswahl. Damit kann die Maschine jederzeit Wortreihenfolgen erstellen, deren Inhalt falsch ist. Das nennt man oft Halluzination.

Die Antwort kann aber trotzdem bei nur oberflächlichem Lesen sinnvoll erscheinen. Es ist nicht immer leicht, Halluzination zu entlarven, oder?

Die Menschheit wurde in ihrer Evolution vor allen Dingen auf Kooperation selektiert. Menschengruppen, die gut zusammengearbeitet haben, haben besser überlebt als andere. Im Verlauf der Evolution haben wir eine sogenannte "Theory of Mind" entwickelt, das heißt, wir versuchen im Gespräch mit anderen Menschen ständig mitzuinterpretieren, was die meinen könnten. Dabei sind wir relativ tolerant, solange das Gegenüber nicht völlig wirr wird. Diese Interpretationsleistung auf menschlicher Seite wenden wir auch in Gesprächen mit Sprachmodellen an - und akzeptieren dann Gespräche als sinnvoll, weil wir selbst gerade noch Sinn darin erkennen können. Schaut man genauer hin, merkt man schnell, dass auf der Seite der Sprachmodelle oft mit Plattitüden gearbeitet wird und Kausalzusammenhänge nur vage oder sogar falsch angegeben werden.

Viele Unternehmen hoffen darauf, dass KI aufgrund ihrer Fähigkeit, große Datenmengen schnell zu analysieren, irgendwann Entscheidungen treffen, also automatisieren und vor allem verbessern kann. Glauben Sie daran?

Wenn man KI oder Computern im Allgemeinen Entscheidungen überlassen will, müssen diese durch sogenannte "dünne Regeln" entscheidbar sein. So nennt die Wissenschaftshistorikerin Lorraine Daston Vorgaben, die so einfach sind, dass sie sogar von Computern durchgeführt werden können. In ihrem Buch mit dem Titel „Regeln“ stellt sie anschaulich dar, dass aber nur wenige Probleme so einfach gestaltet sind. Die meisten Probleme benötigen eine Mischung aus Alltagsentscheidungen, die gut mit Regeln beschreibbar sind, und Ausnahmen. Solche Probleme, die aus beidem bestehen, benötigen Urteilskraft. Man muss zunächst beurteilen, ob man es mit einer Alltagsentscheidung zu tun hat oder nicht. Und wenn dies nicht der Fall ist, braucht es erneut Urteilskraft, um zu entscheiden, wie man mit der Ausnahme umgehen will. Computer können schon die erste Unterscheidung nicht zuverlässig durchführen. Der Wunsch, Entscheidungen von Computern treffen zu lassen, entspricht also meist der (irrigen) Annahme, man hätte es immer mit Situationen zu tun, in denen es keine Ausnahmen gibt.

Wo sehen Sie die größte Gefahr — und wo die größte Chance — für Organisationen durch den aktuellen KI-Boom?

Wichtig ist erstens, unter KI nicht nur Sprachmodelle zu verstehen, sondern die sehr große Bandbreite an Methoden, die es inzwischen ermöglichen, dass Computer schlauer werden: Bilderkennung, Spracherkennung, Übersetzungen, Predictive Maintenance und so weiter. Zweitens ist es wichtig, immer zuerst das Problem zu beschreiben, das man lösen möchte. Wenn dies gut beschrieben ist, sollte man danach technikneutral nach einer Lösung suchen - vielleicht lässt sich das Problem ja auch mit klassischen Methoden lösen. Diese haben den Vorteil, dass es da mathematische Garantien gibt: Wenn Sie Ihre Logistik optimieren wollen, können Algorithmen dies optimal lösen. KI-Systeme sind dann sinnvoll, wenn Algorithmen nicht verfügbar sind. Durch ein solches Vorgehen werden Gefahren vermieden und Chancen bestmöglich genutzt.