Douglas Lenat

Der wohl eigenwilligste Forscher auf dem Gebiet der Künstlichen Intelligenz arbeitet ohne Pause an einem längst totgesagten Projekt. Die Geschichte von Douglas Lenat.




• Der Mann ist nicht zu bremsen. Das gilt nicht nur für diesen Tag im März 2018, an dem er atemlos erzählt, warum Maschinen anders lernen als Menschen. Das gilt für jeden Tag der vergangenen 34 Jahre. So lange schon ist Douglas Lenat damit beschäftigt, einem Computer namens Cyc so etwas wie gesunden Menschenverstand beizubringen, „Common Sense“.

Eine Maschine mit Verstand? Das bedeutet nicht, dass sie genauso denkt wie ein Mensch. Das können Maschinen nicht, das akzeptiert auch Lenat. Seine soll neue Informationen verstehen und in ein größeres Ganzes einfügen können. Wenn man ihr mitteilt, dass ein Mann namens Sam in einem See schwimmen geht, soll sie so selbstverständlich wie ein Mensch wissen, dass Sam nass ist, wenn er wieder rauskommt.

Eine solche Maschine, ist Lenat überzeugt, kann die Welt verbessern. Doch sie zu konstruieren erfordert sehr viel Zeit. Er hat dafür vor vielen Jahren seinen Lehrstuhl an der renommierten Stanford University aufgegeben.

Lenat war 27 Jahre alt, als er 1977 den IJCAI Computers und Thought Award erhielt, die höchste Auszeichnung für Forscher auf dem Gebiet der Künstlichen Intelligenz (KI). Konzerne wie IBM und Microsoft förderten seine Arbeit an Cyc mit viel Geld. Doch dann kam das Internet und mit ihm ein neue Methode des maschinellen Lernens, dank derer in den vergangenen zehn Jahren große Fortschritte erzielt wurden.

Deep Learning, wie die Methode genannt wird, steht für Maschinen, die in Daten Muster erkennen und durch selbstständiges Training immer besser darin werden, Bilder und gesprochene Sätze zu erkennen. Lenats Arbeit wirkte angesichts dessen veraltet. Junge KI-Forscher kennen ihn heute zum Teil gar nicht, viele andere sehen in ihm den Pionier, der sich irgendwann verrannt hat. In jüngster Zeit jedoch sieht es ganz danach aus, dass der heute 67-Jährige wieder interessant wird.

1. Der Wissenschaftler

Seine Firma Cycorp befindet sich in Austin, im Bundesstaat Texas, in der dritten Etage eines Bürogebäudes und direkt an der innerstädtischen Autobahn gelegen. Sein Zimmer ist vollgestopft mit Papierhaufen und dicken Büchern über Mathematik, Informatik und Philosophie. Er ist ein Typ wie Astrid Lindgrens „Karlsson vom Dach“, ein runder, altersloser Mann, der ohne Punkt und Komma redet und zuweilen auch vollmundig prahlt.

„Es gibt nur zwei Wege, die Menschheit klüger zu machen“, sagt er, „entweder über die Biologie, insbesondere Gentechnik, oder über Künstliche Intelligenz. Da es in der Biologie schon genug kluge Köpfe gibt, habe ich Letzteres gewählt.“

Vor fast 40 Jahren hatte er eine Art Erweckungserlebnis: Am Morgen des 4. Juli 1981 betrat er die riesige Festhalle im kalifornischen San Mateo, wo sich mehrere Hundert Menschen zu einem zweitägigen Traveller-Turnier einfanden. Traveller ist ein Science-Fiction-Rollenspiel, bei dem es darum geht, gegnerische Raumschiffe zu zerstören. Wochen vor dem Turnierstart war jeder Teilnehmer aufgefordert worden, mit einem virtuellen Betrag von einer Billion Dollar die eigene Flotte aufzubauen. Lenat war völlig unerfahren. Er machte nur mit, weil er sein KI-System namens Eurisko testen wollte. Er war zu jener Zeit 30 Jahre alt, hatte ein Mathematik-Studium hinter sich, in Stanford promoviert und war nach weiteren Stationen Professor an der Stanford University geworden. Im Frühjahr 1981 ließ er einen Monat lang im nahe gelegenen Forschungszentrum Xerox Parc auf 100 Computern die beste Traveller-Strategie ausarbeiten. Das Ergebnis: eine gigantische Zahl kleiner Raumschiffe, die mit mächtigen Angriffswaffen ausgestattet waren, sich aber weder fortbewegen noch verteidigen konnten.

Dann ging das Turnier los. Lenat saß an einem der zahlreichen Tische und spielte gegen seinen ersten Gegner. Etliche seiner Raumschiffe wurden mit einem einzigen Schuss zerstört, doch da er so viele hatte, gewann er trotzdem. So war es auch in jeder folgenden Partie, sodass er am Ende als Sieger dastand.

Nach diesem Triumph war er sich sicher, dass er weiter an künstlicher Intelligenz forschen wollte. Dass Computer mit ihrer Rechenkapazität dem Menschen überlegen sind, wenn die Handlungsmöglichkeiten durch Regeln eindeutig definiert sind, befriedigte ihn allerdings nicht lange. Er wollte mehr. Ihm schwebten Systeme vor, die komplexe Probleme lösen, und Roboter, die den Haushalt führen.

In den Achtzigerjahren setzten sich in der KI-Forschung sogenannte Expertensysteme durch. Ärzte oder Ingenieure ließen sich von Programmierern ihr Fachwissen abfragen, das dann in den Computer übertragen wurde. Künstliche Intelligenz wurde zum Milliardenmarkt. Lenat aber teilte die Begeisterung nicht. „Die KI-Systeme, die meine Kollegen und auch ich damals programmierten, waren extrem einfältig“, sagt er. „Man hätte ihnen in heiklen Angelegenheiten nie vertraut.“

Um das zu illustrieren, konfrontierte Lenat einmal ein medizinisches, auf Hautkrankheiten spezialisiertes Expertensystem mit einem außergewöhnlichen Patienten, seinem rostigen Oldtimer, einem Chevrolet, Baujahr 1969.

Programm: Gibt es Stellen auf der Haut?
Nutzer: Ja
Programm: Welche Farbe haben die Stellen?
Nutzer: Rötlich-Braun
Programm: Sind auf dem Rumpf mehr Stellen als anderswo?
Nutzer: Nein
Programm: Der Patient hat Masern.

„Eine Maserndiagnose für ein Auto! Das war und ist bezeichnend für die KI-Systeme der Vergangenheit“, sagt Lenat. Alles Fachidioten, ohne jegliches Verständnis dafür, wie die Dinge auf der Welt liefen. Ihnen fehle gesunder Menschenverstand.

2. Die Maschine

Am Anfang waren er und seine Frau Mary Shepherd allein. Willkürlich wählten sie aus Lexikon-Artikeln Sätze aus und überlegten, welches Wissen dafür vorausgesetzt wurde. Genau da zeigt sich für Lenat Common Sense: in dem, was unerwähnt bleibt, weil der Autor annimmt, dass jeder es weiß. Zwei der ersten Sätze waren: „Napoleon starb 1821. Wellington war darüber sehr betrübt.“ Um sie zu verstehen, muss man wissen, dass ein Mensch, der stirbt, tot bleibt, und der Mensch, der eine Reaktion auf den Vorfall zeigt, noch gelebt und davon gehört haben muss.

Dinge, die Menschen intuitiv wissen oder als Kind beiläufig lernen. Cyc hingegen musste alles explizit erklärt werden. „Gehirnoperation“, nennt Lenat das.

In den ersten vier Monaten erstellten er und seine Frau ein Ordnungsprinzip für das gesamte Common-Sense-Wissen. Die beiden schrieben die wichtigsten Kategorien auf. Daraus wurde ein stetig wachsendes Baumdiagramm. Es war wichtig, das gesamte Wissen zu vernetzen, die Maschine sollte ja Schlüsse ziehen. Aus der Information, dass Sam zur Kategorie „Mensch“ gehört, sollte sie folgern, dass Sam atmet, Gefühle hat und sich wahrscheinlich jeden Morgen die Zähne putzt.

Im nächsten Schritt entwickelte Lenat die Programmiersprache CycL und bestimmte die Verfahren, mit denen Cyc aus bekannten Sachverhalten neue ableitet.

Nach sechs Monaten stellte er die ersten Helfer ein. 1986 hatte er zwölf Mitarbeiter, 1988 doppelt so viele. Cyc zu unterrichten war nicht einfach, man musste sich bei jedem neuen Sachverhalt überlegen, wie man einen Komplex von Einzelfakten in möglichst generelle Regeln fasst. Lenat stellte dafür mit Vorliebe Absolventen eines Philosophie-Studiums ein.

Einer von ihnen ist Blake Shepard. Ein ruhiger Mann mit Glatze, Bart und randloser Brille. „Cyc ist für mich so etwas wie das weltgrößte philosophische Videospiel“, sagt er. Kürzlich stand er vor der Herausforderung, die Maschine in die Welt der Farben einzuführen. Fragt man einen Menschen nach der Farbe einer Banane, sagt der: gelb. Es irritiert ihn nicht, dass die Banane innen meistens weiß ist und mit der Zeit braun wird, und es zudem auch Bananen mit grüner Schale gibt. Um Cyc das begreiflich zu machen, hat Shepard der Maschine Folgendes beigebracht: Bananen sind „anfassbare Objekte“. Anfassbare Objekte besitzen eine Oberfläche, die man sieht, und darunter weitere Schichten, die man nicht sieht. Die Farbe eines anfassbaren Objektes wird über die der Oberfläche bestimmt. Die Oberflächen von Bananen sind in der Regel gelb.

Je länger das Projekt dauerte, desto klarer wurde Lenat, dass er es maßlos unterschätzt hatte. Zu Beginn im Jahr 1984 hatte er vermutet, dass Common Sense auf zwei Millionen Fakten und Regeln basiert. Ein paar Jahre später rechnete er mit 100 Millionen.

Solche Herausforderungen verzögerten das Projekt erheblich. Eigentlich sollte es nach zehn Jahren abgeschlossen sein. Doch da war gerade erst der Anfang gemacht.

Immerhin musste sich Lenat als Professor in Stanford bis dahin keine Gedanken über Geld machen. Dann erhielt er von der Microelectronics and Computer Technology Corporation (MCC) in Austin, Texas, das Angebot, Cyc in deren Auftrag zu realisieren. MCC war eine Initiative von zwölf amerikanischen Technikkonzernen und Künstliche Intelligenz einer von vier Schwerpunkten. 1984 gab Lenat seine Professur auf und kümmerte sich fortan nur noch um Cyc – mit einem Budget von 25 Millionen Dollar, das er für sein Langzeitprojekt erhielt.

Doch dann verlor MCC das Interesse an Cyc. Lenat machte sich sogleich auf die Suche nach neuen Geldgebern, er bekam Fördergelder der Regierung. Zweifel ließ er nicht zu. Auch nicht, als die Deep-Learning-Systeme immer erfolgreicher wurden.


Welche Farbe hat eine Banane? – Blake Shepard

3. Die Disziplin

Die Grundlagen dafür hatten Forscher schon in den Achtziger- und Neunzigerjahren gelegt. Doch erst seit im Internet riesige Datenmengen produziert werden und die Rechenleistung der Computer enorm zugenommen hat, funktioniert die Technik. Im vergangenen Jahrzehnt hat sie der KI-Forschung einen neuen Boom beschert.

Die Methode basiert auf neuronalen Netzen, die nach dem Vorbild des menschlichen Gehirns auf dem Computer simuliert werden und in der Lage sind, sich selbstständig zu verbessern. Im vergangenen Jahr stellte die von einer Google-Tochter entwickelte Software AlphaZero das eindrucksvoll unter Beweis. Sie brachte sich in unzähligen Partien gegen sich selbst das Schachspielen bei. Binnen weniger Stunden war sie so gut, dass sie eines der leistungsstärksten Schachprogramme schlug.

Deep Learning ist zu verdanken, dass Siri, Alexa und andere digitale Assistenten auf Befehle in gesprochener Sprache reagieren, Facebook Gesichter auf Fotos erkennt, Google Translate immer besser Texte übersetzt.

Die Methode schien der von Lenat weit voraus zu sein: automatisierte Mustererkennung statt mühsames Erlernen von händisch eingegebenen Fakten und Regeln. Wie viele Sätze Lenat wohl verlieren musste, um Cyc eine Vorstellung davon zu vermitteln, was eine Katze ist. Deep-Learning-Systeme brauchen keine Beschreibungen, ihnen reichen Beispiele. Gibt man ihnen eine Million Katzenbilder, können sie hinterher eine Katze auch auf einem bisher nicht bekannten Bild identifizieren. Cyc wäre damit überfordert.

Während die Deep-Learning-Spezialisten in der zurückliegenden Dekade hofiert wurden, zog sich Lenat zurück. Er publizierte nicht mehr, nahm an keinen Forschungskolloquien teil. In aller Ruhe trieb er sein Projekt voran. Vielleicht ahnte er, dass der Hype um Deep Learning nicht ewig anhalten würde.

Ein Kritiker der Methode ist Gary Marcus, KI-Experte von der New York University. Deep Learning, sagt er, sei zwar nützlich, aber auch sehr einfältig. Das neuronale Netz eigne sich nur für eine einzige, eng umgrenzte Aufgabe. Für alles andere sei es nicht zu gebrauchen. Den Systemen fehle jegliche Möglichkeit, das Gelernte zu verstehen und in ein größeres Ganzes einzufügen. „Mit Intelligenz hat das wenig zu tun.“

So sieht es auch der Co-Gründer von Microsoft, Paul Alan. Am 28. Februar dieses Jahres teilte er mit, dass er dem von ihm gegründeten Institute for Artificial Intelligence 125 Millionen Dollar für eine neue Initiative zur Verfügung stellen würde. Das Ziel sei es, den Systemen endlich beizubringen, was jeder zehnjährige Mensch besitze: Common Sense.

4. Happy End?

In der Presse und in den sozialen Medien wird dieser Vorstoß seitdem heftig diskutiert, und fast zwangsläufig kommt dabei die Frage auf, ob Paul Allen nicht genau das anstrebe, woran sich Douglas Lenat seit mehr als 30 Jahren abmüht. Cyc ist in der Gemeinde der KI-Forscher plötzlich wieder ein Thema. „Gesunden Menschenverstand findet man nicht im Internet. Seit Jahrzehnten sage ich, dass es auf Wissen basiert, das so selbstverständlich ist, dass es niemand aufgeschrieben hat“, sagt Lenat.

Dabei sieht er sich durch die neuerliche Wendung keineswegs als Sieger. Paul Allens Common-Sense-Pläne bedeuten auch, dass er in Cyc nicht die Lösung sieht. Ebenso Gary Marcus. Im Prinzip sei Lenats Ansatz richtig, sagt der Professor aus New York. „Aber Cyc ist nicht praktikabel und nicht zugänglich genug für andere Systeme.“

Gescheitert ist das Projekt trotzdem nicht. Immerhin findet Cyc durchaus Anwendung. Tatsächlich waren die meisten KI-Forscher überrascht, als Lenat im Frühjahr 2016 mit der Meldung an die Öffentlichkeit trat, dass das Projekt weitgehend abgeschlossen und seine Maschine einsatzbereit sei.

Geld hat er damit schon verdient. In den vergangenen zehn Jahren erhielt er Gebühren aus der Lizenzierung des Systems. „Das Geschäft läuft immer besser“, sagt Lenat. Erst seit zwei Jahren habe er sich Wachstum zum Ziel gesetzt. Zahlen nennt er nicht. Nur dass der Umsatz im niedrigen Millionenbereich liegt und sich im vergangenen Jahr verdoppelt habe.

Dank des in den vergangenen 34 Jahren gelernten Wissens über die Welt kann Cyc vergleichsweise subtile Zusammenhänge herstellen. Soll die Maschine Bilder von „glücklichen Menschen“ finden, weiß sie, dass „ein Mann, der seiner Tochter zuschaut, wie sie gehen lernt“ passen könnte. Diese Fähigkeit macht das System für viele Kunden attraktiv. Cyc unterstützt etwa eine Klinik in Cleveland bei der Suche nach geeigneten Patienten für Studien. Und einer der weltweit größten Investmentbanken hilft die Maschine bei der Kontrolle der Transaktionen.

Einmal schon hat sie einen Fall aufgedeckt, der der Bank als Insiderhandel hätte angelastet werden können. Konfrontiert mit unzähligen Informationen zu Themen wie Unternehmens-Policy, Regulierung, Organisationsstruktur, Projekten und Mitarbeiter-Biografien fand Cyc heraus, dass zwei an einem verdächtigen Geschäft Beteiligte früher einmal in einem Büro dicht beieinander saßen und sich also gut genug kannten, um unerlaubte Absprachen zu treffen.

Hat sich Lenats langer Atem gelohnt? Sein früher einmal formuliertes Ziel, die Maschine zum Massenprodukt zu machen, hat er nicht erreicht. Der Einfluss von Cyc sei gering, räumt er ein. „Aber ich bin ja auch noch nicht fertig.“ In den nächsten Jahren gehe es darum, das System praktikabler zu machen, dafür habe er im vergangenen Jahr zehn Millionen Dollar Risikokapital eingesammelt.

Und dann ist da ja auch noch das Institut von Paul Allen. Ende März hat sich Lenat mit dessen wissenschaftlichem Leiter getroffen. Ein freundlicher Austausch unter Kollegen, mehr nicht. Lenat aber hält eine Zusammenarbeit für möglich. Einer, der die Entwicklung gespannt beobachtet, ist Alan Kay. Der 77-Jährige ist eine Informatiker-Legende, er war ein Pionier des Personal Computing, Inspirator von Steve Jobs und Chefwissenschaftler bei Atari. Lenat, sagt er, sei einer der wenigen Leute, die heute noch in der Lage seien, sich über einen sehr langen Zeitraum hinweg einer großen Aufgabe zu widmen. Ob sich das gelohnt habe? „Natürlich.“ Und zwar unabhängig davon, ob sich Cyc am Ende durchsetze. Lenat tue, was große Wissenschaftler tun müssten. „Er blickt zum Horizont.“ ---