Partner von
Partner von

„Die Furcht vor KI wird immer größer“

Kaum eine Technik löst so viele Ängste aus wie die selbstlernenden Systeme, die wir künstliche Intelligenz (KI) nennen. Woran liegt das? Antworten gibt Markus Giesler, Professor für Marketing.




brand eins: Herr Giesler, im Netz ging kürzlich ein Video herum, das zeigt, wie zwei Männer sich eine Kiste zuwerfen, ein Roboter versucht erfolglos, diese abzufangen. Nach einer Weile greift er die Männer an und schnappt sich die Kiste. Das Video ist eine Fälschung, der Roboter computeranimiert. Trotzdem wurde der Film tausendfach geteilt. Zeigt das, wie viel Angst die Menschen vor KI und dem möglichen Aufstand der Maschinen haben?

Markus Giesler: Ja, das ist ein gutes Beispiel. Dieses Grundmotiv und die damit verbundenen Ängste sind tief verankert in unserem Bewusstsein, und vieles davon ist nicht rational, sondern emotional und mythologisch begründet. Die Angst, dass sich die Technik gegen uns wendet, ist ein klassisches Erzählmuster – und es tritt bei der KI momentan besonders deutlich zutage. Bei den Hightech-Unternehmen sieht man einen großen Optimismus, da werden Milliarden in KI investiert. Bei den Kunden hingegen sieht man oft Furcht, Unverständnis und sogar Wut. Dieser Widerspruch und die Frage, woher er kommt und wie Unternehmen ihn überwinden können, hat mich und meine Kollegen interessiert und zu unserer Studie motiviert (siehe am Ende des Interviews).

Vom „Zauberlehrling“ über „Metropolis“ bis zu „Matrix“ – Dystopien von einer Welt, in der sich Erfindungen des Menschen gegen ihn wenden, sind in Literatur und Film allgegenwärtig. Warum beeinflussen sie unser Denken in der Realität so stark? Vor den animierten Drachen in „Game of Thrones“ hat im echten Leben niemand Angst.

Weil das Verhältnis von Mensch und Technik ein so existenzielles ist. In seinem Buch „TechGnosis“ hat sich Erik Davis, ein Technikphilosoph aus Kalifornien, angeschaut, wie weit zurück man diese Narrative findet. Schon in der Antike erzählten sich die Menschen Geschichten über das Verhältnis zwischen Mensch und Technik. Und solche Narrative – wie eben das von der Technik, die aus dem Ruder läuft – spielen in fast allen Debatten, die wir derzeit führen, eine Rolle, egal ob es um Algorithmen oder um Privatsphäre geht.

Wie verbreiten sich diese Geschichten in der Gesellschaft?

Bislang ging man von einer Diffusion aus: Neue Technik erobert nach und nach die Gesellschaft. Erst die gut gebildeten, jüngeren sogenannten Early Adopter mit den wenigsten Berührungsängsten. Dann wird die Masse überzeugt und irgendwann ein paar ältere Nachzügler, die am skeptischsten waren. Empirisch lässt sich die Annahme jedoch nicht nachweisen, sie ist so nicht richtig.

Sondern?

Gerade unter den Early Adoptern gibt es oft sehr große Zweifel an der Vertrauens- und Glaubwürdigkeit sowie dem Sinn neuer Technik. Beim Thema KI geht es viel um Privatsphäre, um die Frage, wie Wissen mit Macht zusammenhängt, inwieweit ich mich durch KI selbst entmächtige, etwa am Arbeitsplatz. Diese Skepsis der Early Adopter betrifft übrigens nicht nur KI, sondern zum Beispiel auch Innovationen in der Medizin.

Wie lässt sich die Verbreitung von Technik also verstehen?

Ich plädiere für eine komplexere, soziologische Herangehensweise: Wie entwickeln wir ein intimes Verhältnis zum Beispiel zu einem Sprachassistenten? Was ist nötig, um solche Technik in mein Leben hineinzulassen? Dabei spielen viele Faktoren eine Rolle: Lebe ich in einer Familie oder allein? Wer sind meine Vorbilder? Wem glaube ich? Wie nehme ich Wissen auf? Das spielt alles eine Rolle und wird wiederum beeinflusst durch die Mythen und Geschichten, die wir kennen.

In den vergangenen Monaten zeigte sich, dass die Anbieter von Sprachassistenten auch unabsichtlich gemachte Aufzeichnungen teilweise von menschlichen Mitarbeitern auswerten lassen. Solche Enthüllungen sorgen stets für Empörung – aber ändert sich auch etwas an der Nutzung?

Nein, das sind rein emotionale Vertrauenskrisen. Wenn ich in meiner Beziehung Streit mit meiner Freundin habe, dann gibt es kurz Stress, aber dann ist es auch wieder vergessen. Die Fähigkeit, solche Vertrauenskrisen lange im Kopf zu behalten, ist geringer, als man denkt. Damit man sich wirklich trennt, muss schon etwas extrem Schwerwiegendes vorfallen.

Was wäre das in der Welt der Technik?

Der Absturz einer Concorde im Jahr 2000 brachte das Überschall-Passagierflugzeug so in Verruf, dass man beschloss, die Concorde komplett aus dem Verkehr zu ziehen. Es gibt also Fälle, in denen aus einer emotionalen Reaktion eine rationale Debatte entsteht, die alles infrage stellt. Aber das ist die absolute Ausnahme.

Sie haben in Ihrer Studie verschiedene negative Diskurse zum Thema KI identifiziert. Welche sind das?

Es gibt vier Befürchtungen im Zusammenhang mit KI. Die Angst vor Überwachung beispielsweise wie in „1984“. Oder die Angst, von intelligenten Maschinen versklavt zu werden wie in „Metropolis“. Die dritte große Angst ist die vor dem Ende des freien Willens, das wird im Film „Minority Report“ schön dargestellt.

Menschen werden für Verbrechen verhaftet, die sie noch gar nicht begangen haben, allein weil die KI ausgerechnet hat, dass sie diese bald begehen werden.

Genau. Die vierte Angst ist, dass wir all das verlieren, was uns als Menschen ausmacht, hier ist der Film „Ex Machina“ ein gutes Beispiel. Interessant ist, dass diese vier Ängste jeweils mit den vier Grundfähigkeiten der KI korrespondieren. Der Fähigkeit, immer bessere Vorhersagen zu treffen, steht die menschliche Angst gegenüber, komplett berechenbar zu werden; der Fähigkeit, Sprache zu verstehen, die Sorge, belauscht zu werden.

Welche Fähigkeit korrespondiert mit der Angst, von Maschinen versklavt zu werden?

Die Fähigkeit selbstlernender Technik, Dinge zu produzieren und immer kreativer zu werden. Das führt zu der Diskussion darüber, welche Berufe überflüssig werden könnten. Und die Angst vor dem Verlust der Einzigartigkeit der Menschheit hängt mit der Fähigkeit solcher Systeme zusammen, den Menschen immer besser zu imitieren, sodass es immer schwieriger wird, den Unterschied zwischen Mensch und Maschine zu erkennen.

Wie wirken sich solche Sorgen im Alltag aus?

Ich habe meiner Mutter einen Staubsaugerroboter geschenkt, aber sie entschied nach einer Weile, ihn nicht zu benutzen, weil sie sich ihre Rolle als die Person, die im Haus das Sagen hat, nicht streitig machen lassen wollte. Menschen reden die Fähigkeiten der Technik dann gern klein: Der Roboter saugt nicht so gründlich wie man selbst. Oder das Navi weiß gar nicht die beste Route. Soziologen nennen das Fencing, also Abgrenzung.

Wie hat sich die Wahrnehmung der sogenannten künstlichen Intelligenz im Laufe der Zeit verändert?

Wir haben die Medienberichterstattung zwischen 2013 und 2018 ausgewertet und konnten messen, dass die negative Tonalität in diesem Zeitraum immer weiter zugenommen hat. Anders formuliert: Die Angst vor KI nimmt zu, und der gesellschaftliche Diskurs wird immer negativer und ängstlicher.


Markus Giesler, 43, ist außerordentlicher Professor für Marketing an der Schulich School of Business der York University in Toronto. 2015 hat er gemeinsam mit Ela Verisiu das Big Design Lab gegründet, eine Non-Profit-Denkfabrik, die sich Themen wie KI, Internet der Dinge, Smart Home und Plattformökonomie widmet. Seine Forschungsschwerpunkte sind Soziologie und Anthropologie in Marketing und Konsum.

Welche der vier von Ihnen identifizierten Ängste ist am stärksten ausgeprägt?

Das hängt von verschiedenen Ereignissen ab. So sorgte etwa der Cambridge-Analytica-Skandal dafür, dass sich Ängste um die Privatsphäre und vor Manipulation verstärkten. Wenn große Unternehmen Massenentlassungen verkünden, dann befeuert das die Angst, durch Technik ersetzt zu werden.

Haben diese Sorgen auch damit zu tun, dass KI immer mehr zu einer Blackbox wird und die Entwickler oft selbst nicht mehr wissen, wie ein lernendes System zu seinem Ergebnis gelangt ist?

Diese Behauptung ist ein Stück weit Taktik und Rhetorik. Der Science-Fiction-Autor Arthur C. Clarke ist für seinen Satz berühmt, dass „jede hinreichend fortschrittliche Technik von Magie nicht zu unterscheiden“ sei. Unternehmen laden ihre Produkte gezielt mit einer solchen Aura auf. So bewirbt IBM sein KI-System Watson als geniale Maschine. Das soll den Reiz solcher Systeme erhöhen – kann aber auch zu Ängsten führen.

Was empfehlen Sie Firmen, die dies vermeiden wollen?

Wir raten dazu, nicht darüber zu sprechen, welche menschlichen Fähigkeiten KI ersetzen, sondern welche sie verbessern kann. Google hatte mit seinem smarten Lautsprecher beispielsweise das Problem, dass die Leute ihn zwar ausprobierten, dann aber in eher unwichtigen Räumen wie dem Badezimmer platzierten. Das änderte sich erst, als die Firma eine Werbebotschaft verbreitete: Ihr müsst gute Eltern sein, den Haushalt schmeißen, im stressigen Beruf klarkommen – wir unterstützen euch dabei.

Was sollten Firmen noch beachten?

Technik wird nicht im Labor, sondern in der Lebenswelt der Menschen wirksam – und hat Auswirkungen, die man bei der Entwicklung nicht vorhersehen konnte. Daraus folgt, dass nicht nur der Blick des Ingenieurs oder Betriebswirts zählt, sondern auch der des Soziologen. Zudem lässt sich auch die Akzeptanz von Technik designen.

Wie meinen Sie das?

Technik setzt sich dann durch, wenn sich das Verhalten und die Denkweisen der Menschen an sie anpassen. Der Mensch muss dazu gebracht werden, Neues zu akzeptieren und zu benutzen.

Ein Beispiel?

Die Tatsache, dass wir alle morgens als Erstes unser Smartphone in die Hand nehmen, ist nichts Natürliches, sondern über die Zeit hinweg entstanden und durch die Technik dahinter geformt worden. Man nennt das auch Object Agency – das Objekt selbst hat eine gewisse Macht, uns zu verändern. Manager vergessen das oft. Die sind meistens begeistert von ihren Produkten. Damit die Menschen da draußen genauso verzückt sind, bedarf es mehr als einer tollen Werbekampagne. Dafür muss man nicht nur das Produkt designen, sondern auch die Lebenswelt dazu.

Wann hat KI Ihnen zuletzt einen Schrecken eingejagt?

Heute morgen um sieben, als ich von Alexa mit einer Werbung für den neuen Film von Adam Sandler geweckt wurde. Erst später habe ich dann bei einem Blick tief in die App-Einstellungen herausgefunden, dass Amazon sich selbst erlaubt hat, meinen Weckerton auf die Werbung umzustellen. ---

Klassiker der Filmgeschichte über die Macht der Maschinen

Metropolis (1927)
In einer streng getrennten Zweiklassengesellschaft führen die Reichen ein Luxusleben, die Armen schuften in einer unterirdischen Riesenmaschine. Der Sohn des Alleinherrschers dieser futuristischen Welt verliebt sich in Maria, eine Frau aus der Unterstadt. Aus Angst, ihm könnte seine Macht entgleiten, lässt sein Vater eine Maschinenfrau bauen, die er steuern kann und die Maria gleicht – und setzt dadurch eine unbeabsichtigte Kettenreaktion in Gang.

2001: Odyssee im Weltraum (1968)
An Bord eines Raumschiffs auf dem Weg zum Jupiter versucht der Supercomputer HAL 9000, die menschliche Besatzung zu töten, als er merkt, dass diese plant, ihn aufgrund einer möglichen Fehlfunktion abzuschalten. Arthur C. Clarke, der mit dem Regisseur Stanley Kubrick das Drehbuch verfasste, widerspricht übrigens der weitverbreiteten Theorie, der Name HAL sei eine Anspielung auf IBM, da die drei Buchstaben im Alphabet jeweils aufeinanderfolgen.

Terminator (1984)
Nachdem sich Kampfroboter gegen ihre Schöpfer gewandt haben, ist die Menschheit im Jahr 2029 von den Maschinen versklavt. Nur eine kleine Gruppe Rebellen kämpft gegen die zentrale KI „Skynet“. Diese schickt einen Androiden (Arnold Schwarzenegger) zurück ins Jahr 1984, um die Mutter des späteren Rebellenanführers zu töten, bevor sie diesen zur Welt bringen kann.

Matrix (1999)
Nachdem die Menschheit einen Krieg gegen eine von ihr selbst erschaffene KI verlor, regieren Maschinen die Welt und nutzen bewusstlose menschliche Körper zur Energiegewinnung. Diesen in endlosen Hangars gefangen gehaltenen menschlichen Batterien wird eine Art Gehirn-Simulation vorgespielt, die sogenannte Matrix. Ein Hacker (Keanu Reeves) soll als Auserwählter die Matrix von innen heraus zerstören.

Her (2013)
In einer nicht näher definierten Zukunft verlieben sich Menschen in die Betriebssysteme ihrer Smartphones. Diese virtuellen Assistenten wissen durch die Analyse des jeweiligen digitalen Lebens alles über ihre Besitzer und können sich perfekt auf diese einstellen. Im Laufe der Zeit werden die KI-Systeme immer klüger, vernetzen sich untereinander und entscheiden sich schließlich, die materielle Welt zu verlassen. Die Menschen bleiben mit gebrochenen Herzen zurück.

 

Für ihre Studie „Consumer AI: Experiences, Tensions, and Strategic Design“ haben Markus Giesler (Schulich School of Business, York University), Simona Botti (London Business School), Stefano Puntoni (Rotterdam School of Management) und Rebecca Walker Reczek (Ohio State University) einen Datensatz mit Artikeln aus US-amerikanischen Massenmedien erstellt, die im Zeitraum von Januar 2013 bis Dezember 2018 erschienen sind. Der Datensatz umfasst 9614 Beiträge aus 421 Quellen. Aus ihm wurde eine Art Wörterbuch negativer Begrifflichkeiten destilliert und daraus wiederum die vier Hauptsorgen im Zusammenhang mit künstlicher Intelligenz. Die Studie soll Ende des Jahres im »Journal of Marketing« erscheinen.