Ausgabe 07/2016 - Schwerpunkt Digitalisierung

Sarah Spiekermann im Interview

Die ethische Maschine

Behält die Szene im Auge: die Wirtschaftsinformatikerin Sarah Spiekermann
Es geht darum, dass wir versuchen, den Wert zu entbergen, der mit Technik geschaffen werden kann. Und das ist nicht Geld, nicht Effizienz, nicht Gewinnmaximierung. Sondern Dinge wie Zufriedenheit, Freundschaft oder Wissen.

brand eins: Frau Spiekermann, Ihre Kritik an der IT-Branche ist umfassend und unverhohlen. Wie beliebt sind Sie als Wirtschaftsinformatikerin bei Ihren Kollegen?

Sarah Spiekermann: Durchwachsen. Ich forsche in einem Viereck aus Informatik, Betriebswirtschaft, Philosophie und Psychologie. Am meisten Gegenwind bekomme ich von den Informatikern – die empfinden mich als Gefahr für ihre Spielwiese.

Weil Sie Verantwortung einfordern?

Ja. Als Software-Ingenieur konnte man sich in den vergangenen 20 Jahren wunderbar austoben. Jedes ethische Dilemma wurde nach Möglichkeit in die Rechtsabteilung abgeschoben und dann fröhlich drauflos entwickelt. Dabei kommen dann Telefone heraus, die mich dauernd unterbrechen, Autos, die mich ständig anpiepsen, oder Apps, die meine sensibelsten Daten weiterleiten. Für die Entwicklung ethischer Maschinen sind viel reflektiertere Prozesse nötig. Und das passt einigen eben nicht, dass ich sie von dieser Spielwiese runterschicke.

Was ist eine ethische Maschine?

Es geht dabei nicht um Roboter, die ethisch handeln. Eine Maschine kann nicht moralisch sein, weil ihr das Bewusstsein und die Fähigkeit zur Verantwortung fehlen. Es geht vielmehr um Maschinen, die uns bei der Entfaltung dienen. Sie könnten uns dabei helfen, Werte wie Freundschaft oder Respekt zu pflegen, mehr Wissen zu erlangen oder gesünder zu werden. Um so etwas zu konstruieren, müssen die Ingenieure schon im Entwicklungsprozess Gut und Böse voneinander unterscheiden können.

Ist das nicht etwas viel verlangt?

Heute werden Maschinen für alles Mögliche gebaut, um Kosten zu sparen oder die Effizienz zu steigern. Aber das dient nicht dem Menschen. Was wir Menschen brauchen, spielt in der Entwicklung oft keine Rolle.

Wahrscheinlich verkaufen sich ertragssteigernde Roboter besser.

Es gibt immer noch klassische Betriebswirte, die nicht erkannt haben, dass die gegenwärtige Ökonomie ein Auslaufmodell ist. Die können nicht verstehen, dass Maschinen mehr tun sollen, als Produktivität zu steigern. Wer so denkt, muss jede Entscheidung betriebswirtschaftlich rechtfertigen – für Ethik ist dann kein Platz mehr. Wenn man an Werten wie Freundschaft oder Zufriedenheit arbeitet, kann man nicht gleichzeitig nur nach Gewinn streben.

Haben Sie für die nicht auch ein betriebswirtschaftliches Argument?

Ich glaube, dass sich Innovationen in Zukunft vor allem über Werte verkaufen. Es gab in der IT bisher zwei große Epochen. Die erste wurde durch Funktionalität bestimmt. Aber die unterliegt einem abnehmenden Grenznutzen.

Was heißt das?

Nehmen Sie Microsoft Word: Bei der Einführung in den Achtzigerjahren war der Zuwachs an Nutzen für die Anwender grandios, doch mit jeder weiteren Version nahm er ab, bis er sogar negativ wurde und unnötige Features heute nur noch für Verwirrung sorgen. Auf Dauer langweilt reine Funktionalität die Menschen.

Dann kam Steve Jobs …

Genau, der hat „form follows function“ einfach umgedreht. Die Ästhetik wurde zur Priorität. Mittlerweile ist das selbstverständlich: Maschinen müssen schön und einfach sein. Aber auch das erschöpft sich gerade, und die Frage ist: What’s next?

Und?

Ich nenne es wertebasiertes Design. Die Herstellung von Maschinen, die echten menschlichen Werten dienen. Ich glaube, dass nur sie langfristig wettbewerbsfähig sein können.

Ist das ein frommer Wunsch, oder sehen Sie Anzeichen dafür?

Ich würde ja behaupten, dass ich dafür schon klare Anzeichen sehe. Im Moment stehen uns jedoch in der IT-Welt noch die bestehenden Geschäftsmodelle im Weg. Die Konzentration auf Gewinne und kurzfristigen Shareholder Value verhindert die Fokussierung auf Werte. Das ist eine verantwortungslose Systemmaschine, die nicht ausreichend hinterfragt wird.

Gibt es Ausnahmen?

Es gibt immer wieder Firmen, die sich auf einen Wert besinnen. Zum Beispiel die Firma GSMK aus Berlin. Da haben sich ein paar Hacker vom Chaos Computer Club zusammengetan, um ein wirklich sicheres Mobiltelefon zu bauen – sonst nichts. Ihr Kernwert ist die Sicherheit. Dem haben sie alles andere strikt untergeordnet. Und damit sind sie sehr erfolgreich.

Was wäre, wenn diese Firma ihre Telefone beispielsweise an Schurken und Verbrecher verkaufen würde?

Das kann man natürlich nicht ausschließen. Aber meine Erfahrung ist, dass eine Ausrichtung an wahren Werten eine so starke Strahlkraft hat, dass sie Fehlverhalten an anderer Stelle zwar nicht unmöglich macht, aber doch unwahrscheinlicher.

Facebook widmet sich mit der Freundschaft einem immateriellen Wert. Hat Mark Zuckerberg eine ethische Maschine in Ihrem Sinne gebaut?

Auf keinen Fall. Zwischen Freundschaft im aristotelischen Sinn und 500 Facebook-Friends ist ein himmelweiter Unterschied. Zu wahrer Freundschaft gehört zum Beispiel Privatheit. Indem Facebook die intimen Daten seiner Nutzer auswertet und verkauft, untergräbt es das eigentliche Versprechen. Und das geht nicht lange gut. Man kann nicht vorn Werte verkaufen und sie hinten untergraben.

Was müsste Facebook ändern?

Im Nachhinein ist das fast unmöglich. Wenn das Kind einmal in den Brunnen gefallen ist, kriegt man es auch in der IT nur schwer heraus. Doch Facebook könnte beispielsweise Freundschaftsräume zum Rückzug anbieten, mit Audio, Video und Virtual Reality. Und für ein paar Euro im Monat bekäme ich dann die Zusicherung, dass alle Daten verschlüsselt und nirgends gespeichert würden. Außerdem könnte Facebook mir erlauben, seinen Algorithmus zu beeinflussen, damit ich selbst einstellen kann, wie meine Nachrichten gefiltert werden.

Ist das realistisch?

Das Geschäftsmodell von Facebook ist die Datenanalyse. Die Firma stammt aus einer Zeit, in der Daten das Öl der Digitalökonomie waren. Ich kann mir nicht vorstellen, dass die von heute auf morgen ihr gut laufendes Geschäftsmodell verändern.

Welchen Einfluss hat der Nutzer?

Ich glaube, dass der mündige Nutzer sehr wichtig ist. Wenn wir uns als Menschen nur treiben lassen und uns nicht auf unsere wahren Qualitäten besinnen, dann handeln wir beliebig, kaufen beliebig und bekommen auch nur beliebig. Wir müssen Firmen sanktionieren, wenn sie uns keine Qualität liefern.

Am 19. August 2012 sind Sie öffentlich aus Facebook ausgetreten. Sind Sie immer noch draußen?

Ich musste inoffiziell wieder eintreten, weil unsere Studenten eine App entwickelt haben, mit der man nachschauen konnte, was Facebook über einen weiß. Um daran mitzuarbeiten, habe ich mich wieder angemeldet. Aber seit meinem Wiedereintritt ist Facebook für mich nicht mehr wichtig, ich nutze es nur noch punktuell. Zwischen mir und der Technik hat sich eine neue Hierarchie aufgebaut: Sie hat ihre Kontrolle über mich verloren.

Meinen Sie, dieser subtile Protest genügt?

Na ja, was heute viele Nutzer machen, ist, dass sie auf Facebook zwar noch ihren Account haben, aber seltener hingehen und weniger von sich preisgeben. Das ist ein Phänomen, das die Firma sicher registriert. Und wenn Sie sich ansehen, welches Vertrauen Facebook und welchen Beliebtheitsgrad Mark Zuckerberg heute haben, dann ist das schon peinlich. Wie man es schaffen kann, mit einem so erfolgreichen Projekt ein so schlechtes Image zu haben, ist für mich ein Armutszeugnis.

Woher kommt das allmähliche Umdenken der Nutzer?

Als unser Institut vor 30 Jahren gegründet wurde, entstand gerade die IT-Welt. Damals glaubte man fast bedingungslos daran, dass Innovationen die Welt verbessern würden. Heute beobachten die Leute, was die IT sie im persönlichen Leben kostet. An Zeit, an Freiheit, an Nerven. Es gibt ein ganzes Spektrum von negativen Rückkopplungseffekten in die Gesellschaft, die wir jetzt erst anfangen zu erahnen. Wir sind wie Kinder, die ihre Hände auf die heiße Herdplatte legen.

Und was lernen wir daraus?

Die Leute werden zunehmend desillusioniert. Sie sind überfordert mit all den Informationen und ständig neuen Features. Wir haben in den vergangenen 500 Jahren die Haltung entwickelt, dass alles Neue auch gut ist. Jedes Hinzulernen erlaubte uns, die Natur weiter zu beherrschen. Aber jüngst zeichnet sich eine Erschöpfung ab. Es ist eben nicht alles automatisch gut, was neu ist.

Lehnen Sie Fortschritt ab?

Nein. Ich denke, Technik ist in der Welt, und wir müssen damit umgehen. Es geht darum, dass wir versuchen, den Wert zu entbergen, der mit Technik geschaffen werden kann. Und das ist nicht Geld, nicht Effizienz, nicht Gewinnmaximierung. Sondern Dinge wie Zufriedenheit, Freundschaft oder Wissen.

Wie wollen Sie das profitorientierten Firmen verkaufen?

Letztlich hängt alles von der Weisheit des Managements ab. Aldi ist da ein tolles Beispiel. Die haben sich cool verhalten, als die Barcode-Kasse erfunden wurde. Alle Einzelhändler sind damals auf den Hype aufgesprungen und haben teuer umgerüstet. Aldi hat das nicht gemacht. Statt ihr Geld in der IT zu versenken, haben sie zwei kluge Dinge gemacht. Sie haben gewartet, bis die Technik verlässlich funktionierte, und sie erst eingeführt, als sie sie wirklich brauchten. Nämlich als das Sortiment so groß wurde, dass die Kassierer nicht mehr alle Preise auswendig lernen konnten. Zu diesem Zeitpunkt waren die Kassen ausgereifter und günstiger. Das ist für mich ein weiser Umgang mit Technik, ein rationales, infrage stellendes, autonomes und integres Handeln.

Das erfordert gehöriges Selbstvertrauen.

Das ist es genau, woran es heute bei IT-Investitionen kolossal fehlt! Die Verwalter – denn das sind Manager heute zumeist – haben oft keine Ahnung von dem Thema. Die lesen aber Bücher über Big Data, Green IT, Industrie 4.0 oder wie die Hypes alle heißen. Und dann gehen sie zu ihren Technikern und wollen das haben. Der Techniker weiß schon seit 20 Jahren, dass er Big Data im Unternehmen hat, weil er halt viele Daten hat – aber jetzt wird er verpflichtet, irgendwas zu unternehmen. Da kommt dann oft Schwachsinn heraus. Aber die Unternehmen werden erdrückt von der IT-Marketingmaschinerie: Immer schön am Ball bleiben, sonst seid ihr die Loser, die den Anschluss verpassen. Dabei müsste jeder Chef erst einmal fragen: Was soll mir das bringen?

Und wie ist es um die Programmierer bestellt?

Meine Untersuchungen zeigen, dass viele ein Verantwortungsproblem haben. Sie denken, „ich mache ja nur meinen Job“, und fühlen sich letztlich nicht verantwortlich für die Folgen ihres Handelns. Die Haltung, nur ein Rädchen im Getriebe zu sein, ist ein Riesenproblem. Entwickler sind nicht bösartig, aber sie stecken mit ihrer Verantwortung in einer unglücklichen Position.

An die nächste Generation dieser Branche richten Sie Ihr Lehrbuch „Ethical IT Innovation“. Sie scheinen mit Ihren Bemühungen allerdings recht allein dazustehen.

Es gibt Bemühungen in diese Richtung, aber die sind verstreut. Die einzige Kontinuität besteht im Ethical Computing. Das sind hauptsächlich Philosophen – und das ist das Problem. Die haben oft keine Ahnung von Technik und betreiben reine Spekulation, ohne an die technische Detailgestaltung zu denken. Die beschäftigen sich mit Fragen, ob eine Vergewaltigung in einem virtuellen Spiel auch ein Verbrechen ist oder ob man Konzepte wie den Utilitarismus in Algorithmen fassen kann. Aber wie man konkret Dinge so konstruiert, dass sie ethischer sind, das ist neu.

Und wie wurde Ihr Konzept aufgenommen?

Die IEEE, ein Verband aus 430 000 Ingenieuren, will meine Methodik als Ausgangspunkt für einen Standardprozess zur ethischen Entwicklung von Technik nehmen.

Wird es dann auch bald ein branchenübliches Siegel wie „ethisch entwickelt“ geben?

Nein, das Spektrum der Umsetzungsmöglichkeiten ist zu groß. Die Entwickler sollen eine ethische Grundhaltung entwickeln und dementsprechend handeln. Eine Haltung kann man nicht zertifizieren.

Haben Entwickler bislang denn gar keine Moral?

Das kommt darauf an, wohin Sie schauen. Aus Kalifornien kommt da etwas sehr Düsteres. Leute, die den Menschen als Systemfehler bezeichnen. Das ist eine fundamentale Respektlosigkeit gegenüber Menschen.

Sie sprechen die Bewegung der Transhumanisten an, die unsere menschliche Daseinsform technisch erweitern will.

Das ist ein menschenverachtendes Menschenbild. Die glauben an die Evolutionsgeschichte der Information, in der die Menschheit nur eine sich dem Ende neigende Episode ist. Wir haben gelernt, uns als Informationssysteme zu betrachten, und dann wirken wir auf den ersten Blick nicht so effizient wie Maschinen. Aber wir sind keine Informationssysteme. In Wirklichkeit täten wir gut daran, uns erst einmal selbst zu erkennen und Maschinen dafür zu nutzen, uns weiterzuentwickeln. Statt uns Chips einzupflanzen und uns in Cyborgs verwandeln. Wozu?

Kann man den Transhumanismus nicht als radikale Ansicht einer unerheblichen Minderheit ansehen?

Wäre beispielsweise ihr Vordenker, Ray Kurzweil, nicht Product Engineering Director bei Google, würde ich diese Ideen auch belächeln. Aber das ist im Silicon Valley eine ernst zu nehmende Bewegung. Zwar glaube ich nicht, dass sich die Menschheit so schnell unterkriegen lässt, aber wir sind so abhängig von diesen Systemen, dass wir die Ideologie ihrer Erbauer ernst nehmen müssen. Wenn ich in einem selbstfahrenden Auto sitze, das von einem Google-Rechenzentrum gesteuert wird, dann sollte ich mich schon mit deren Menschenbild auseinandergesetzt haben. Wenn Chris Urmson, der bei Google die Abteilung für intelligente Fahrzeuge leitet, den Menschen öffentlich als „bug“, also als Systemfehler beschreibt, dann ist das ein bezeichnender Lapsus Linguae. Der Fisch stinkt leider vom Kopf.

Wie viel dieses kalifornischen Menschenbildes steckt im gemeinen deutschen Software-Ingenieur?

Ich empfinde die Szene als gespalten. Es gibt jene, die ein bisschen Bammel haben, dass sie da gerade Zauberlehrling spielen und etwas in die Welt bringen, was gar nicht schön ist, und die sich darüber Gedanken machen. Es gibt aber auch solche, die wirklich an Maschinen und Cyborgs als nächste Generation des Menschen glauben. Das zeigt sich auch in sprachlichen Kleinigkeiten wie dem gängigen Programmierer-Konzept „DAU“, dem „dümmsten anzunehmenden User“.

Aber gerade das ist doch der löbliche Versuch des Nerds, sich in den unkundigen Endanwender hineinzuversetzen – ein menschenfreundlicher Ansatz.

Ich störe mich an dem Wort „dumm“. Es gibt einen Unterschied zwischen hilflos und dumm. Wenn man jemanden als dumm bezeichnet, ist das einfach arrogant. Und Arroganz ist in der IT-Szene stark verbreitet. Unberechtigterweise.

Was wünschen Sie sich von künftigen Führungskräften?

Mehr authentische, mutige und werteorientierte Manager. Führungskräfte müssen die Zukunft infrage stellen und gestalten. Was ich hierzulande sehe, sind Chefs, die artig schlucken, was ihnen die IT-Marketingmaschinerie mit goldenem Löffel füttert – wie Babys, die nichts hinterfragen.

Wir stecken also so früh in unserer digitalen Epoche, dass man der unwissenden Masse noch Wundermittelchen verkaufen kann? Weil alle Angst haben, den Anschluss zu verlieren?

So sehe ich das. Obwohl sich alle so rational geben, geht es in Wirklichkeit dramatisch esoterisch zu. Zurzeit verkaufen IT-Analysten Zukunftsprognosen, wie es ihnen gerade passt. Wenn Führungskräfte nicht in der Lage sind, Realität und Fiktion zu unterscheiden, sind sie einfach schlechte Führungskräfte. Es braucht mehr Mut, auch mal Nein zu sagen, wenn etwas nichts bringt. Das ist keine Maschinenstürmerei, das ist Menschenverstand. ---

Mehr aus diesem Heft

Digitalisierung 

Wir züchten uns ein Haus

Jeff Kowalski ist Cheftechniker von Autodesk. Sein Job besteht darin, weit in die Zukunft zu schauen. Ein Gespräch über smarte Produkte und Schnittstellen zwischen Mensch und Maschine.

Lesen

Digitalisierung 

„Uns läuft die Zeit davon“

Wie bewahrt man Medien- und Computerkunst?Ein Besuch bei den Spezialisten des Karlsruher ZKM.

Lesen

Idea
Read