Corporate Publishing

brand eins Thema Innovation // 2017

Abstand halten

Der Informatiker Wolfgang Wahlster, 64, leitet das Deutsche Forschungszentrum für Künstliche Intelligenz (DFKI) seit dessen Gründung 1988. Es ist eines der weltweit größten Forschungszentren auf dem Gebiet der künstlichen Intelligenz und deren Anwendungen: Rund 800 Mitarbeiter aus mehr als 60 Ländern arbeiten an drei Standorten in Saarbrücken, Kaiserslautern, Bremen, in einem Projektbüro in Berlin sowie zwei Außenstellen. Das DFKI ist ein Public-Private-Partnership der Bundesländer Rheinland-Pfalz, Saarland und Bremen sowie Konzernen wie SAP, Telekom und Microsoft – seit 2015 gehört auch Google zum Gesellschafterkreis. Das Zentrum arbeitet an grundlegenden Software-Technologien und entwickelt KI-Systeme für alle erdenklichen Anwendungen, von Industrie 4.0 über autonomes Fahren, digitale Assistenzsysteme und Robotik für die alternde Gesellschaft bis zu Supermärkten der Zukunft und intelligenten Netzen. Wahlster selbst gehört zu den Pionieren der Spracherkennungssysteme. Bereits in den frühen Neunzigerjahren entwickelte er „Verbmobil“, ein Übersetzungs-Tool für Deutsch, Englisch und Japanisch. Aktuell arbeitet er an multimodalen Sprachdialogsystemen und dem Aufbau hybrider Teams aus Menschen und Robotern in der Industriefertigung.

Herr Wahlster, wenn Sie sich eine intelligente Maschine wünschen dürften, die es noch nicht gibt, die Ihr Leben aber wirklich bereichern würde – welche wäre das?

Ich hätte gern einen Kompagnon, der mich als digitaler Assistent begleitet und ein Gedächtnis mit allem anlegt, was ich erlebe. Etwa mit Gesprächen, gekoppelt mit entsprechenden Bildinformationen. Dann müsste ich bestimmte Dinge nicht mehr bewusst aufzeichnen und hätte trotzdem Zugriff auf mein gesamtes Leben.

Warum wäre diese Maschine intelligent?

Weil sie mir in Echtzeit Fragen beantworten würde wie zum Beispiel, welches Gedicht mir mein Vater kurz vor seinem Tod vorgelesen hat. Sie würde auch Kurzzusammenfassungen von langen Unterhaltungen liefern. Das hätte eine neue Qualität, weil die Interpretation von Gesprächen Intelligenz erfordert, denn dabei geht es nicht um das Erkennen einzelner Wörter, sondern um Sinnzusammenhänge. Das Problem ist nur, dass bislang weder Sprache noch Bilder in jedem Fall maschinenverständlich sind.

Aber kann man denn überhaupt von intelligenten Maschinen sprechen, wenn nicht einmal das gelingt?

Ja, denn sie lösen Probleme, für die der Mensch gemeinhin Intelligenz benötigt. Computer gewinnen gegen Schach- und Go-Meister, sie analysieren Massenspektrogramme besser als jeder Mensch und finden besser Fehler in komplexen Schaltungen. In der kognitiven Intelligenz sind Maschinen wirklich gut, also immer dann, wenn man aus sehr vielen Alternativen die beste Lösung auswählen muss.

Nun besteht Intelligenz aber aus ein bisschen mehr …

Richtig, das ist ein reduzierter Intelligenzbegriff. Denn die Intelligenz des Menschen umfasst auch sensomotorische Fähigkeiten: Wir empfangen und interpretieren Reize aus der Umgebung und können zum Beispiel mit unseren Händen darauf reagieren. Da ist der Mensch noch unübertroffen. Hinzu kommt die emotionale Intelligenz, etwa das Gespür für bestimmte Situationen. Und die soziale Intelligenz, also der kluge Umgang mit anderen. In beidem ist die künstliche Intelligenz noch ziemlich schwach. Bislang begreifen Computer sehr leicht den Dreisatz, aber so einfache Sachen wie einem Kind Radfahren beizubringen – das können sie nicht.

Woran liegt das?

Systeme künstlicher Intelligenz beruhen immer auf der Analyse sehr großer Datenmengen oder auf Theorien, die beschreiben, was in einer Situation vor sich geht. Doch für alltägliche Dinge gibt es solche Theorien nicht. Ich kenne keine Doktorarbeit, die sich damit beschäftigt, wie ich meiner Tochter das Radfahren beibringe. Doch die Informatik ist eine Wissenschaft, die Systemen theoretisches Wissen implementiert – und wenn das nicht existiert, hat sie ein Problem. Hinzu kommt, dass der Mensch Alltagshandlungen oft intuitiv erledigt oder sie aus ganz wenigen Erfahrungen lernt. Nicht selten ist Handeln auch evolutionär bedingt. Das kann man in einem Computer nur schwer nachbilden.

Aber wie begründet sich dann die Energie, die auf intelligente Maschinen verwendet wird, und der Stolz, mit dem man sie präsentiert?

Auf ihrer Wirkung. KI-Systeme unterstützen uns immer stärker und erledigen viele Dinge besser, als wir Menschen es jemals könnten. Sie können zum Beispiel medizinische Fachliteratur in einer Größenordnung durchsuchen, an der jeder Arzt scheitern würde. Und sie können daraus Empfehlungen ableiten, etwa für den Einsatz zielgenauer Antibiotika, was den Einsatz von Breitbandantibiotika überflüssig macht – und damit die Gefahr der Resistenzbildung senkt. In Zukunft werden wir auch weniger Verkehrstote haben, weil wir das autonome Null-Tote-Auto entwickeln werden. Und die Wirtschaft werden wir mit Industrie 4.0 am Laufen halten – die nur mit KI funktioniert.

In welchen Bereichen sind KI-Systeme heute am weitesten entwickelt?

Im Alltag, bei digitalen Assistenzsystemen wie Google Now. Man macht sich gar nicht klar, was da alles drinsteckt. Die bringen mich nicht nur zu einem bestimmten Restaurant, sondern schlagen auch noch passende Alternativen vor, wenn es geschlossen ist. Diese Systeme verstehen Wörter und Zusammenhänge, beherrschen Kontextdenken und kennen die persönlichen Präferenzen der Nutzer. Da materialisiert sich der Fortschritt der KI am besten, weil dazu enormes Hintergrundwissen gehört. Andererseits gibt es noch keinen Roboter, der so gut die Straße kehren kann wie ein Mensch. Und das gilt bekanntlich als triviale Tätigkeit.

Sie beschäftigen sich seit mehr als 30 Jahren mit künstlicher Intelligenz. Haben Sie diese Entwicklung erwartet?

Ich hatte eigentlich erwartet, dass es schneller geht. Früher dachte man, der Mensch funktioniert nach einer grundlegenden Denkschablone, die man nur nachbauen müsse, und dann klappt das schon. Aber diese Denkschablone hat man nie gefunden. Stattdessen ist mein Respekt vor dem Menschen gewachsen. Denn was bedeutet es letztlich, wenn ein Computer einen Schachweltmeister schlägt? Selbst der einfachste Mensch hat in Sachen Intelligenz mehr auf dem Kasten als jedes noch so ausgefeilte KI-System – dank seines Alltagsverstands, seiner Sensomotorik und seines sozialen Verständnisses. Was allerdings nicht verhindern wird, dass wir bereits in den nächsten fünf Jahren eine wahre Explosion der KI-Anwendungen erleben werden.

Warum gerade jetzt?

Weil seit kurzer Zeit drei wichtige Dinge zusammenkommen. Zum einen verfügen wir im Internet über riesige Datenmengen zum menschlichen Verhalten, mit dem Maschinen Muster erkennen und lernen können. Hinzu kommt eine erhebliche Steigerung der Rechenleistung aufgrund von Parallelrechnern und Grafikkarten. Diese beiden Entwicklungen, kombiniert mit Ideen für neue Algorithmen, sind die Basis für die nächste Welle der KI – die Langzeitautonomie intelligenter Maschinen. Ein autonomes Auto etwa soll lange Strecken fahren. Dazu muss es Informationen in Echtzeit auswerten und Handlungspläne entwickeln. Marsroboter können das schon heute – künftig wird das Alltag sein.

Was stellen Sie sich konkret vor?

Unsere ganze Umwelt – Dinge wie Mähdrescher, Autos oder Waschmaschinen – wird mehr KI-Elemente in sich tragen. Unser Zuhause wird ein Smart Space sein, eine intelligente Umgebung mit verborgenen Sensoren, in der man keine Computer mehr sieht, weil sie der Computer ist. Und das ist keine Horrorvision. Intelligente Räume können in der alternden Gesellschaft eine Riesenhilfe sein, weil Senioren länger selbstbestimmt und sicher zu Hause leben können. Oder ein Beispiel, das uns alle angeht: Wir verlieren heute viel Lebenszeit mit Warten: im Stau, am Flughafen oder an der Kasse. Allein vor roten Ampeln stehen wir jeden einzelnen Tag etwa sechs Minuten – auch weil die nicht kapieren, wann Nacht ist und kaum ein Auto fährt. Mit wenig Aufwand – ein bisschen Mustererkennung, etwas schlauer Steuerung, einer Spur Alltagsintelligenz – können uns KI-Systeme wertvolle Lebenszeit schenken.

Das klingt nicht nach utopischen Visionen, sondern überaus praktisch.

Genau darum geht es bei KI – zumindest nach meinem Verständnis. Wir wollen keinen digitalen Homunkulus schaffen. Künstliche Intelligenz soll den menschlichen Intellekt so unterstützen, dass der Mensch seine privaten und gesellschaftlichen Ziele schneller, vollständiger und besser erreicht. Sie soll Defizite des Menschen ausgleichen, mehr nicht. Lotsen an hochfrequentierten Flughäfen etwa lassen Flugzeuge vor der Landung nicht Schleifen drehen, weil sie dumm sind, sondern weil sie mitunter von der Komplexität der Situation überfordert sind. Computer machen das einfach besser.

Nun gibt es allerdings Leute, die eine Machtübernahme durch intelligente, vernetzte Maschinen befürchten.

Ja, das ist diese Idee einer Super-Intelligenz, die eines Tages in jeder Hinsicht intelligenter ist als der Mensch, sodass sie außer Kontrolle gerät und die Macht an sich reißt. Aber das ist Unsinn, denn es gibt einen entscheidenden Unterschied in der Hardware von Mensch und Maschine: In der KI beziehen wir uns immer auf den Elektroteil des Gehirns, also auf die Fähigkeiten, die mit elektrischen Funktionen erklärbar sind. Die können wir im Computer nachbilden. Doch die Intelligenz des Menschen beruht auch auf seiner Biochemie, auf seinem limbischen System. Und Zustände im Gehirn, die darauf beruhen, können wir in digitalen Rechnern grundsätzlich nicht reproduzieren. Computer können zwar Emotionen erkennen und interpretieren, doch sie werden niemals selbst Emotionen im biologischen Sinn haben.

Wie steht es mit Kreativität und sozialem Verhalten?

Ich glaube schon, dass Maschinen irgendwann kreativ sein werden, denn am Ende ist Kreativität eine kognitive Fähigkeit, die auf dem Durchforsten großer Suchräume beruht. Gute Künstler sagen selbst, Kreativität sei vor allem harte Arbeit. Bei der sozialen Intelligenz dagegen bin ich vorsichtig. Wir haben zwar unseren Fußball-Robotern mit viel Mühe den Doppelpass beigebracht – also die Fähigkeit, einen Ball auch mal abzugeben – aber das ist etwas ganz anderes als echtes Sozialverhalten. Es ist eine Simulation. Darauf lege ich wirklich Wert.

KI-Systeme werden also immer Maschinen bleiben, die man im Zweifel auch aus dem Fenster werfen kann?

Ja, ohne Zweifel.

Das ist ein sehr pragmatischer Standpunkt. Die öffentliche Debatte über künstliche Intelligenz scheint dagegen eher von zwei Extremen geprägt zu sein: Euphorie und Angst.

Das stimmt, aber das hat seine Gründe. Künstliche Intelligenz ist ein faszinierendes Thema, und es ist modern, das super zu finden. Die Euphoriker wollen sich als besonders fortschrittlich profilieren. Und in der Industrie ist das oft reines Marketing. Die Angst dagegen speist sich aus der Angst vor Kontrollverlust. Das war schon bei anderen technischen Neuerungen so, etwa beim ersten Auto. Bei der KI ist das nur viel subtiler, weil man denkt, da entwickelt ein System sein Eigenleben, macht Pläne und interpretiert meine Gedanken. Die Angst verschwindet zwar, wenn man sich länger damit beschäftigt, aber ich habe dafür großes Verständnis.

Welche Ängste teilen Sie?

Ich sehe Risiken bei der IT-Sicherheit: KI-Systeme sind Programme und können gehackt werden. Da muss man wirklich wachsam sein, denn sonst fährt das autonome Auto in den Graben. Und man kann Menschen mit solchen Systemen erniedrigen. Ich vermisse des Öfteren eine gewisse Sensibilität bei ihrer Einführung, etwa in Industriebetrieben. Man kann sich nicht vor seine Arbeiter stellen und sagen: Guckt mal, dahinten stehen die Roboter, die euch bald ersetzen werden. Erst recht nicht, wenn diese Systeme bei einem überlegten Einsatz, in dem der Mensch weiter im Mittelpunkt steht, für alle ein Erfolg sind, sodass selbst die Arbeiter und Gewerkschafter sagen, dass sie aufgrund der Effizienzgewinne Arbeitsplätze sichern.

Kritiker behaupten genau das Gegenteil.

Ja, aber ich glaube das nicht. Wir brauchen zum Beispiel sensomotorische Fähigkeiten – und keine Roboterhand ist so gut wie eine menschliche. Roboter in der Autoproduktion etwa drücken einen Dachhimmel aufs Blech – aber wenn es klemmt, braucht es den Tastsinn der Menschen. Wer es versteht, seine visuellen Fähigkeiten und seine Hände einzusetzen, bleibt der König. Oder nehmen Sie die Qualitätsbeurteilung: Menschen erkennen kleinste Glanzpunkte in der Politur eines Cockpits – das schafft das beste Bilderkennungsprogramm nicht. Maschinen besitzen eben nicht das ästhetische Empfinden des menschlichen Endkunden.

Und was ist mit kreativen und organisatorischen Tätigkeiten? Computer dringen auch in diese Bereiche vor.

Das stimmt. Und es wird zu Verdrängungen kommen. Arbeit gibt es trotzdem genug, man muss sich nur unsere Infrastruktur anschauen. Auch im sozialen Bereich liegt vieles brach. Die Frage ist eher, wie wir diese Arbeit bezahlen. Und da helfen KI-Systeme enorm, weil sie die Wirtschaft wettbewerbsfähig halten und wir so Steuergelder generieren können.

Wie realistisch ist die Angst vor Entmündigung durch Systeme, die so komplex sind, dass wir sie nicht mehr verstehen können? Oder auf die wir uns kritiklos verlassen? Schon heute finden viele Menschen ohne Navigationsgerät nicht mehr von A nach B.

Die Gefahr gibt es, denn der Mensch neigt zur Bequemlichkeit. Ein KI-System darf deshalb auch nicht wie ein Orakel einfach nur Ergebnisse ausspucken – es muss sie allgemeinverständlich erklären. Wenn ein Arzt für einen Patienten eine bestimmte Chemotherapie vorgeschlagen bekommt, muss der Computer erläutern, wie er darauf gekommen ist. Bei der Bilderkennung haben wir mittlerweile Systeme, die das können. Die sagen in deutscher Sprache, warum sie zum Beispiel ein Foto als Unfallszene klassifizieren: weil das Auto eine Beule hat und Polizisten drum herum stehen. Aber so etwas gelingt noch nicht überall.

Trotzdem müssen wir mit diesen Systemen umgehen.

Deshalb müssen wir Begründungen einfordern. Wir dürfen uns nicht mit den rätselhaften Schlussfolgerungen von Algorithmen abfinden. Wenn ich mich nicht entmündigen lassen will, muss ich verstehen, wie die Maschine arbeitet und sie hinterfragen. Und wenn eine Maschine keine Antworten geben kann, muss ich von ihr Abstand nehmen.

Abstand nehmen? Das dürfte vielen schwerfallen. Da stellt sich die Frage, wie sich der Mensch weiterentwickeln muss, wenn er mit der KI-Entwicklung mithalten will.

Guter Punkt. Diese kundige Distanz zur Maschine – die muss der Mensch noch lernen. Deshalb gehört KI auch in den Lehrplan der Schulen, so wie die kompetente Mediennutzung. Es geht um Selbstreflexion und Selbstdisziplin. Der Mensch muss seine eigenen Stärken und Schwächen erkennen, schon um zu klären, was er an KI-Systeme delegieren soll. Ich rate dabei übrigens ausdrücklich zur Zurückhaltung. Wenn jemand sprachbegabt ist, sollte er Sprachen lernen, denn sie sind eine enorme kulturelle Bereicherung – trotz aller ausgefeilten Übersetzungsprogramme. Es ist auch gefährlich, wenn jemand nicht im Kopf rechnen kann. Wir brauchen eigenes Wissen, um gegensteuern zu können.

Es geht also um bewusstes Handeln. Und was passiert, wenn der Mensch das nicht hinkriegt?

Dann erreichen wir womöglich einen Punkt, an dem uns die wenigen, die die Systeme beherrschen, wie in einem totalitären Staat steuern können. Für einen Diktator oder eine kriminelle Vereinigung ist künstliche Intelligenz ein gefundenes Fressen. Aber das ist keine Frage der Technik oder gar einer ominösen Super-Intelligenz – es ist schlicht das Ausnutzen technischer Möglichkeiten für verwerfliche Zwecke.

Was wird uns am Ende von den Maschinen unterscheiden, wenn sich deren Möglichkeiten ständig erweitern?

Maschinen sind Werkzeuge, und wir sollten eine entsprechende Einstellung zu ihnen pflegen. Sie sollen uns helfen. Tun sie das nicht, oder gehen sie uns auf den Geist, schmeißen wir sie raus. Außerdem sollten wir nie vergessen, dass hinter jeder Maschine ein menschlicher Betreiber steht, dessen Vorgaben sie folgt. Jeder Putzroboter tut nur das, was sein Hersteller vorgesehen hat, entsprechend dessen Vorstellung von Sauberkeit. Der Kontakt mit einer Maschine ist am Ende immer eine Mensch-Mensch-Kommunikation.

Was bedeutet das für unsere Beziehung zu den Maschinen?

Wir können ein ganz entspanntes Verhältnis zu ihnen haben. Was auch heißen kann, dass wir unseren zukünftigen Haushaltsrobotern zum Geburtstag vielleicht ein Leckerli geben, so wie heute dem Hund. Ein Haustier erfüllt schließlich eine sozial-emotionale Aufgabe – und der Roboter reinigt das Sofa. Diese Art der Vermenschlichung ist ein lustiger Zug des Menschen – solange man es nicht wirklich ernst meint.

Was werden uns Maschinen niemals abnehmen können?

Unsere Zielsetzungen und unser Wertesystem, unsere Visionen und Träume. Das alles müssen wir selbst entwickeln und anwenden. Wenn der Großvater gestorben ist, kann nicht der Computer die Trauerarbeit erledigen, das muss ich schon selber tun. Und so ist es auch auf gesellschaftlicher Ebene: Roboter können verstrahlte Atomkraftwerke abbauen – aber die Entscheidung zum Atomausstieg muss der Mensch treffen. Ich kann nicht einfach sagen: Hallo, wir haben hier ein Klimaproblem, da soll mal die KI ran. Die Verantwortung bleibt immer bei uns. //

Mehr aus diesem Heft

 

Die innovativsten Unternehmen Deutschlands –

Lesen

 

Der Silicon-Kult

Für Inspirations-Suchende und Innovations-Pilger ist das Silicon Valley ein wichtiger Wallfahrtsort. Vom Besuch der heiligen Stätten, den dortigen Konzernzentralen, versprechen sich viele Erleuchtung.

Lesen

Idea
Read