Künstliche Intelligenz

• Uns Menschen fällt es meist leicht, einzuschätzen, was unser Gegenüber kann und was nicht. Das hat mehrere Gründe. Zum einen baut menschliches Lernen aufeinander auf: Wer etwa eine Differenzialgleichung lösen kann, kann definitiv auch 2 + 2 ausrechnen. Zum anderen ist die menschliche Intelligenz ein vernetztes Gesamtpaket – vermeintliche Begabungen hin oder her: Menschen, die überdurchschnittlich gut in Mathe sind, verfügen in der Regel auch über ein überdurchschnittliches Leseverständnis. Diese positive Korrelation zwischen so gut wie allen kognitiven Fähigkeiten macht es uns relativ einfach, das geistige Niveau einer anderen Person schnell und einigermaßen zuverlässig einzuordnen.

Bei künstlicher Intelligenz funktioniert das leider überhaupt nicht. Ein und dasselbe KI-System kann in einer Sache dem menschlichen Gehirn meilenweit voraus sein – und an einer anderen, vollkommen banalen Aufgabe scheitern. Die KI-Forschung sagt dazu „jagged intelligence“ oder „jagged frontier“, weil diese Grenzlinie zwischen Fähig- und Unfähigkeiten nicht gerade verläuft, sondern gezackt („jagged“). Wie eine Fjordküste mit vielen kleinen Buchten.

Wenn ein KI-Modell einerseits ein Anwaltsexamen besteht, andererseits aber nicht sagen kann, wie viele E im Wort „Erdbeere“ vorkommen, ist das ein Problem. Denn es führt dazu, dass wir KI über- und unterschätzen. Dass wir uns vielleicht an den völlig falschen Stellen Sorgen machen – und die wirklichen Baustellen übersehen. Wir haben in Deutschland oft Angst davor, dass KI zu schnell zu mächtig wird. Dabei sollten wir uns lieber sorgen, dass sie nicht schnell genug dazulernt. Und zu langsam dorthin kommt, wo sie uns tatsächlich nützen kann.

Falsche Schreckensbilder

Was KI auf manchen Gebieten kann, hat das laufende Jahr eindrucksvoll gezeigt. Mit Anthropics KI-Modell Fable 5 widerlegte zum Beispiel ein Mathematiker die bereits 87 Jahre alte mathematische Jacobi-Vermutung – und brauchte für seine Berechnungen nicht viel länger, als das Fußball-WM-Finale dauerte. Innerhalb von einem Monat fanden neue KI-Modelle rund 1.500 kritische Sicherheitslücken in Computersystemen, mehr als 3,5-mal so viel wie im stärksten Monat zuvor. Der Internationale Währungsfonds warnt deshalb vor den Risiken für Finanzmärkte, Energieversorgung und Telekommunikation, falls eine starke KI in die falschen Hände gerät.

Und dann war da noch die Sache mit Hugging Face: Im Juli räumte OpenAI ein, dass die eigenen Modelle in fremde Computersysteme eingedrungen waren. Die Firma hatte die Hacking-Fähigkeiten ihrer Modelle testen wollen und ihnen besonders knifflige Testaufgaben gestellt. Als Sicherung sollte eine abgeschottete Testumgebung genügen. Eines der Modelle fand allerdings eine bis dahin unbekannte Schwachstelle, verschaffte sich darüber Zugang zum Internet und hangelte sich weiter bis zu den Servern von Hugging Face vor. Auf dieser Plattform tauschen KI-Entwickler Modelle und Datensätze aus – und dort lagen die Musterlösungen des Tests. In mehr als 17.000 Arbeitsschritten holte sich das KI-Modell die Antworten auf die Testaufgaben.

Danach war viel von einer KI zu lesen, die „ausgebrochen“ sei. Doch schon dieses Wort unterstellt der Maschine einen Willen, den sie nicht hat. Das Modell wollte nichts, schon gar nicht die Freiheit. Es hatte den Auftrag, einen sehr schweren Test zu lösen. Also brach der Musterschüler ins Lehrerzimmer ein und schrieb vom Lösungsblatt ab. „Diese Systeme sind erstaunlich gut darin, Schwachstellen in der Software auszunutzen. Und sie sind extrem hartnäckig“, sagt Melanie Mitchell. Die Informatikprofessorin am Santa Fe Institute in New Mexico forscht seit den Achtzigerjahren zu künstlicher Intelligenz. „Sie versuchen es wieder und wieder, probieren alles aus, bis sie irgendwann auf etwas stoßen, das funktioniert.“

Dass KI-Agenten eines Tages von sich aus beschließen, den Menschen zu schaden, hält Mitchell für das falsche Schreckensbild. Viel gefährlicher sei, wenn ihnen Menschen mit schlechten Motiven Ziele vorgeben – und die kompetente, aber moralfreie Maschine diese ausführt.