Partner von
Partner von

Künstliche Intelligenz

Maschinen werden in kreativen Berufen verstärkt zum Einsatz kommen. Prophezeit der Kulturmanager Holger Volland. Ein Gespräch über das Potenzial und die Grenzen künstlicher Intelligenz.





brand eins: Für das Projekt „The Next Rembrandt“ hat ein selbstlernendes System ein Gemälde angefertigt, das für Laien kaum von einem echten Rembrandt zu unterscheiden ist, aber auch keine exakte Kopie darstellt. Wie ging das vonstatten?

Holger Volland: Eine künstliche Intelligenz (KI), wie man so eine selbstlernende Software verkürzend nennt, hat erst Hunderte von Rembrandt-Gemälden analysiert und dabei definiert, was seine Bilder ausmacht: Farben, Licht, Komposition und viele andere Faktoren. Das Bild selbst wurde dann mit einem 3D-Drucker angefertigt, um die verschiedenen Farbschichten hinzubekommen. Es handelt sich nicht um eine 1:1-Kopie wie bei einer Fälschung, sondern um ein neues Gemälde mit einem Motiv, das Rembrandt so nie gemalt hat, aber hätte malen können. Es ahmt perfekt seinen Stil nach.

Handelt es sich dabei um eine kreative Leistung?

Es gibt bis heute keine eindeutige Definition von Kreativität. Worauf man sich einigen kann: Es ist die Fähigkeit, ein originelles Ergebnis für eine Problemstellung zu finden. Dabei unterscheiden wir so gut wie nie zwischen den kreativen Prozessen und dem kreativen Ergebnis. Wenn wir einen solchen KI-Rembrandt irgendwo hängen sehen, inmitten von anderen Bildern, dann vergleichen wir automatisch Ergebnisse miteinander und nennen das dann Kreativität. Bei uns Menschen ist Kreativität aber ein Prozess, während dessen wir uns mit einer Aufgabe beschäftigen, mögliche Lösungen in unserem Hirn hin und her wälzen und vielleicht darüber schlafen. Es bedeutet auch, dass wir aus ganz vielen Bereichen Erfahrungen einfließen lassen und daraus am Ende die beste Lösung destillieren. Eine KI schaut sich an, was Van Goghs Sonnenblumen einzigartig macht, und – zack – erzeugt es auf Knopfdruck ein völlig neues Bild im Van-Gogh-Stil. Deshalb: Ja, das Ergebnis ist kreativ. Das gilt für alle Gebiete, auf denen KI derzeit tätig ist, von Musik über Malerei bis hin zu mithilfe von maschinellem Lernen verfassten Romanen. Dennoch gibt es momentan keine kreative KI.


Können Maschinen originelle Gemälde erzeugen? Jein, sagt Holger Volland

Kunst lebt auch von radikalen Brüchen. Joseph Beuys klatschte, statt eine besonders schöne Landschaft zu malen, einen Berg Fett auf einen Stuhl. Von neuronalen Netzwerken ist so etwas schwer vorstellbar, oder?

Theoretisch wäre es denkbar, auch Regelbrüche zu programmieren. Ein vielversprechendes Konzept sind außerdem sogenannte Generative Adversarial Networks (GAN), also zwei lernende Systeme, die gegeneinander antreten.

Und sich dabei gegenseitig anspornen?

Sozusagen. Das erste System generiert zum Beispiel Bilder von Katzen, und das zweite System sagt, ob diese Bilder echt oder künstlich erzeugt sind. Dafür muss das zweite natürlich vorher gelernt haben, wie eine Katze aussieht. Das generierende System lernt durch Millionen Versuche mit Feedback nach und nach, ein möglichst perfektes Katzenbild zu erzeugen. Dieses Lernen per Wettstreit kann auch mit Kunst funktionieren. Die eine Seite könnte darauf trainiert werden, verschiedene Kunststile zu erkennen. Der zweiten Seite müsste man dann die Aufgabe stellen, ein Bild zu kreieren, das typische Elemente mehrerer Künstler vereint, aber vom ersten System dennoch als einem bestimmten Stil zugehörig eingestuft wird. Doch um auf Beuys zurückzukommen: Die Lust am Regelbruch und daran, sich als Individuum einzubringen und andere womöglich zu schockieren, hat eine lernende Maschine natürlich nicht. KI hat keine Persönlichkeit, die sie gern in den Vordergrund bringen möchte. Man braucht auch ein wenig Egomanie, um einen solchen Regelbruch zu wagen, und die geht einer KI völlig ab.

Welches Potenzial haben sich selbst verbessernde neuronale Netze in Bezug auf Tätigkeiten, die als kreativ gelten und daher dem Menschen vorbehalten waren?

Aktuelle Projekte zeigen etwa die ziemlich perfekte Kopie einer natürlichen menschlichen Stimme, die man für automatisierte Filmbeschreibungen oder das Sprechen von Nachrichten verwenden kann. Andere Systeme können fehlende Bildteile in Fotos ersetzen, automatisch Filme retuschieren oder attraktive Headlines für Social-Media-Posts generieren. Jede Woche erscheinen derzeit neue wissenschaftliche Artikel darüber, wie Maschinen Aufgaben auch in kreativen Branchen übernehmen.

Müssen also nicht nur Lagerarbeiter bangen, von Robotern ersetzt zu werden, sondern auch Schriftsteller oder Komponisten von Werbe-Jingles?

Es werden nahezu alle Berufe mit Machine Learning zu tun haben. Künstler und Kreative haben aber auch die gesellschaftliche Aufgabe, das Bestehende zu hinterfragen oder Probleme sichtbar zu machen. Diese Rolle bleibt, denn das kann KI nicht. Eine andere Frage ist, ob wir kreativen Menschen weiterhin die nötigen ökonomischen Ressourcen zur Verfügung stellen. Ob es weiterhin genügend Leute gibt, die unbedingt ein von einem Menschen gemaltes Bild haben wollen – oder ob nicht viele sagen: „Ich hätte gern etwas in Rot und Gelb, 1,80 mal 2 Meter, weil das gut über mein Sofa passt. Ob es von einem Menschen gemalt wurde oder nicht, ist mir eigentlich egal.“

Welche Rolle spielt diese Technik heute schon in der Arbeitswelt?

Firmen wie Unilever, Vodafone oder Hilton benutzen einen Dienstleister namens HireVue für die Personalauswahl (siehe auch brand eins 12/2017: „Der Computer, der mich einstellte“) *. Bewerber beantworten von zu Hause aus Fragen per Video, und das Unternehmen analysiert diese Interviews mittels KI. Die Annahme ist, dass man aus der Art, wie jemand spricht, aus Mimik und Körperhaltung, Aussagen darüber treffen kann, ob er bestimmte Kriterien erfüllt, die für die betreffende Stelle notwendig sind.

Was halten Sie davon?

Es gibt Systeme, die tatsächlich schon sehr zuverlässig darin sind, anhand von Sprachanalyse Hinweise auf eine Depression zu erkennen. Es ist in meinen Augen also nur eine Frage der Zeit, bis ein selbstlernendes System anhand von Videoaufzeichnungen die Persönlichkeitsmerkmale eines Menschen einigermaßen zuverlässig einschätzen kann.

Das setzt die Annahme voraus, dass Menschen eine klar definierte, unveränderliche Persönlichkeit haben, die durch Kriterien wie „runzelt oft die Stirn“ oder „kratzt sich überdurchschnittlich oft“ erfasst werden kann.

Das ist genau das Problem. Die menschliche Persönlichkeit ist extrem vielschichtig und kann sich im Laufe der Zeit verändern. Ob der Bewerber samt seinem komplexen Set an Eigenschaften und Eigenarten dauerhaft ein Team weiterbringt, kann keine KI vorhersagen. Wahrscheinlich werden Regelbrecher und besonders kreative Individualisten oft durchs Raster fallen. Dabei hätten viele Unternehmen genau solche Leute dringend nötig.

Letztlich beruht ein solches System doch auf schlichter Statistik. Wenn die Top-Programmierer in einer Firma im Gespräch alle wild gestikulieren, wird das System jemanden, der viel mit den Händen fuchtelt, für geeignet für diese Stelle halten.

Das Problem ist meiner Meinung nach nicht das technische System, sondern das bedingungslose Vertrauen in dessen Entscheidungen. Es heißt, Unilever hätte mit seinem Videosystem allein im ersten Jahr rund eine Million Dollar eingespart. Ich halte es für problematisch, wenn Unternehmen die finanziellen und zeitlichen Ersparnisse hervorheben und in Kauf nehmen, dass ihnen außergewöhnliche Bewerber, die aufgrund einer wahrscheinlichkeitsbasierten Analyse aussortiert werden, durch die Lappen gehen.

Also eine Art Scheinrationalität, deren Attraktivität daher rührt, dass sie billig und ohne allzu viel Arbeitsaufwand für die Personalabteilung zu vermeintlich objektiven Resultaten führt.

Exakt. Das zweite Problem könnten Selbstzensur und Verstellung sein. Sobald klar ist, welche Gesten im Videointerview oder welche Formulierungen in meinem LinkedIn-Profil welche Einschätzung auslösen, passe ich mich als Bewerber natürlich an.

Oder ich nutze demnächst ebenfalls eine lernende Maschine, die meine Bewerbung so frisiert, dass die lernende Maschine auf Unternehmensseite Gefallen an ihr findet?

Genau. Aber Personalauswahl oder Personalentwicklung durch Machine Learning kann durchaus auch Vorteile haben. Wir Menschen neigen ja dazu, Bewerber einzustellen oder Mitarbeiter zu befördern, die uns ähnlich sind. Männer stellen tendenziell lieber Männer ein, Absolventen einer bestimmten Uni empfinden sofort Sympathie für jemanden, der auch dort war und so weiter. Wenn Zuhilfenahme von KI an dieser Stelle dazu führt, dass auch Leute mit einem untypischen Background eine Chance bekommen, steckt darin natürlich etwas Positives.

Spitzenorchester beispielsweise waren so lange männlich dominiert, bis das Vorspielen hinter einem Vorhang eingeführt wurde und die Jury nicht wusste, ob eine Frau oder ein Mann das Instrument spielt. Prompt stiegen die Frauenquoten.

Theoretisch kann Machine Learning diese Art von Unvoreingenommenheit ebenfalls fördern. Aber das System hängt nun einmal von den Daten ab, mit denen es gefüttert wird. Und wenn ein Unternehmen 20 Jahre lang auf der Basis von Vorurteilen eingestellt hat und das System ausschließlich daraus seine Informationen zieht, wird es Entscheidungen treffen, die auf den gleichen Vorurteilen basieren.

Wie lässt sich das verhindern?

Indem man solche Systeme firmen- und branchenübergreifend mit Daten füttert. Wenn beispielsweise die Berliner Symphoniker und Unilever – natürlich anonymisiert – ihre Daten austauschten, dann würde man wahrscheinlich schon weniger Biases, also Fälle von Voreingenommenheit, sehen, als wenn jede Firma nur mit den eigenen Daten hantiert.

Stichwort Anonymisierung: Führt Machine Learning in der Personalführung zu stärkerer Überwachung?

Ich bin öfter in Asien, und dort ist man in dieser Hinsicht deutlich weiter. In China gibt es beispielsweise ein Softwareunternehmen, das seine Büros nonstop von Kameras beobachten lässt und analysiert, wo und wie die Mitarbeiter arbeiten, wann wer Kaffee trinken geht, wann wer miteinander redet, wo wer in Ruhe arbeitet und wie oft die Mitarbeiter aufs Klo gehen. Das japanische Unternehmen Hitachi hat in einem Test Mitarbeiter eines Teams mit Sensoren ausgestattet und deren Arbeitsabläufe ausgewertet.

Ein Ergebnis der Analyse war, dass es die Stimmung senkte, wenn Meetings länger als eine Stunde dauerten. Keine wirklich überraschende Erkenntnis.

Stimmt. Aber das Projekt war umfangreicher. Es schlug Mitarbeitern vor, was sie als Nächstes tun sollten, um möglichst effizient zu arbeiten. Und interessanterweise haben die Mitarbeiter das sehr gut angenommen. Es gefiel ihnen, dass ihnen jemand sagte, wann ein guter Zeitpunkt ist, E-Mails zu lesen, und wann sie am besten die drei wichtigen Telefonate führen, die auf ihrer To-do-Liste stehen.

Weil es entlastet, wenn man nicht selbst entscheiden muss?

Natürlich kann es für uns verführerisch sein, einem System die Verantwortung für unser Tun zu übertragen. Die Frage ist gleichzeitig, welche Art von Firmen das erzeugt.

Welche Rolle werden Betriebsräte spielen?

Für die ist so etwas natürlich ein Albtraum. Die werden in Zukunft sehr oft abwägen müssen: Welche technische Neuheit könnte einen Vorteil im Wettbewerb mit der Konkurrenz bringen? Gleichzeitig müssen die Betriebsräte dafür sorgen, dass die Daten, die erhoben werden, nicht dem einzelnen Mitarbeiter zum Nachteil gereichen können. Die momentan vorgeschlagene Lösung ist, dass Mitarbeiter ihre individuellen Daten einsehen können, während die Führung sie nur aggregiert zu sehen bekommt.

Selbst dann könnte es zu einer Art vorauseilenden Gehorsams kommen. Weiß ein Mitarbeiter, dass die KI registriert, dass er oft mit den Leuten aus dem Marketing spricht, obwohl das sein Aufgabenbereich nicht erfordert, lässt er es vielleicht lieber sein. Dabei wird Kommunikation über Abteilungsgrenzen hinweg eigentlich immer propagiert. Ist der technische Fortschritt ein Rückschritt für die Organisation?

Manchmal steckt hinter solchen Konzepten tatsächlich die Idee, dass eine Firma eine Art Maschine ist, in der man jedes einzelne Rädchen perfekt steuern und optimieren kann. Aber das ist eine Idee aus den Sechziger- und Siebzigerjahren. Heute verstehen wir die Firma eher als ein komplexes Lebewesen.

Was heißt das?

Dass sich beispielsweise durch informelle Gespräche, die auf den ersten Blick unnötig erscheinen, eine neue Idee oder Innovation ergeben kann, womöglich leiste ich etwas über meinen eigentlichen Arbeitsauftrag hinaus. Alles in allem denke ich deshalb, dass Überwachungssysteme nicht so flächendeckend eingesetzt werden sollten, wie es aus rein ökonomischen Gründen sinnvoll erscheinen mag. Unter Umständen macht man sich als Firma damit auch einen Wettbewerbsvorteil kaputt, weil man eine gewisse Art von Menschen damit vertreibt. Bei uns würden hundert Prozent der Mitarbeiter kündigen, wenn die Firma anfinge, mit KI alles auf Effizienz zu trimmen.

Wofür hätten Sie persönlich gern maschinelle Hilfe?

Was mich als Vorgesetzter sehr interessieren würde, wäre die Warnung, dass jemand unglücklich in seinem Job ist. Um herauszufinden, was man dagegen tun kann. Oder um zu verhindern, dass jemand kündigt.

Wie bei der kalifornischen Firma Workday, wo aufgrund von 60 Datenpunkten analysiert wird, wie hoch die Wahrscheinlichkeit ist, dass jemand kündigt.

Genau. Die schauen sich an, wie oft der Vorgesetzte in den vergangenen drei Jahren gewechselt hat, wie lang der Arbeitsweg ist und so weiter. Als Vorgesetzter fände ich das super, als Mitarbeiter den totalen Horror. Ich möchte nicht, dass mein Chef von einem System erfährt, wann ich unglücklich bin. Ich möchte selbst darüber entscheiden, ob meine Unzufriedenheit in einen Jobwechsel mündet oder ob ich an meinem Job etwas verändere. Denn eine Firma, die weiß, dass jemand eventuell kündigt, kann natürlich auch schon an dessen Ersatz arbeiten – egal ob die Prognose dann am Ende stimmt oder nicht.

Können selbstlernende Systeme Mitarbeitern dabei helfen, kreativer zu sein?

Sie können sie sicherlich dabei unterstützen. Aber viele Einsatzbereiche, die wir sehen, laufen eher auf eine Effizienzsteigerung hinaus. Auf den Versuch, aus allem – aus jedem Beruf, jedem Angestellten, jedem Unternehmen – das Maximum herauszukitzeln, jeden Fehler und jeden Zufall zu eliminieren. Aber so funktioniert menschliche Kreativität nicht. Auch wenn die KI ermittelt hat, dass die nächste Stunde statistisch gesehen die optimale Zeit ist, um den Claim für die neue Kampagne oder etwas anderes Kreatives zu erdenken – das menschliche Gehirn beschließt vielleicht, genau dann gar nicht kreativ sein zu wollen. Sondern lieber erst am nächsten Morgen unter der Dusche. ---

Holger Volland, 47, ist in der Geschäftsleitung der Frankfurter Buchmesse verantwortlich für die Entwicklung neuer internationaler Geschäfte und Vertrieb. Er leitet das Büro in China und ist Gründer und Leiter der Kultur- und Technikmesse „The Arts Plus“. Der Informationswissenschaftler arbeitete in den Neunzigerjahren bei Pixelpark, einer der ersten Multimediaagenturen in Berlin und New York und führte die New Economy Business School. Er hat das Buch „Die kreative Macht der Maschinen“ geschrieben.