Partner von
Partner von

Youtube Millionäre

Die dunkle Seite der Digitalisierung? Sind schlaue Maschinen für dumme Menschen.





• Okay, nehmen wir an, Sie spielen Ihren Kindern ab und zu mit Fingerpuppen kleine Szenen vor. Weil die Lütten so einen Spaß daran haben, drehen Sie noch einige kurze Filme, die Sie dann auf Youtube stellen. Dort werden die Videos mit der Zeit erstaunlich erfolgreich, sodass Sie über die Werbeeinnahmen sogar einen kleinen Nebenverdienst haben.

Neue Fingerpuppenfilme tauchen auf, von anderen Vätern oder halbprofessionellen Anbietern, aber das schadet keinem. Im Gegenteil: Das Interesse wächst mit der Zahl der Videos, Fingerpuppenfilme sind plötzlich Trend. Nur tauchen Ihre Filme plötzlich auch auf fremden Kanälen auf und bald in kindersedierenden Stundenschleifen, in denen sie mit den Videos anderer Anbieter gekoppelt sind.

Und nicht nur das. Zwischen diesen Filmen gibt es auch Sequenzen, in denen sich Fingerpuppen töten, quälen, einander lebendig begraben und so weiter. Ekliges Zeug. Und jetzt?

Dieses Szenario ist nicht fiktiv. Es ist nicht mal eine Ausnahme. Der US-Autor und Künstler James Bridle beschreibt es in seinem Text „Something is wrong on the internet“ auf Medium.com als eine normale, geradezu zwangsläufige Abfolge.

Das System dahinter ist an sich simpel: Ab einer bestimmten Menge an Views, also an Zuschauern, lässt sich auf Youtube mit Werbung Geld verdienen – nicht viel, aber die Menge macht’s. Am meisten gesehen werden selbstverständlich Themen, die populäre Keywords tragen, also Stichworte wie etwa Fingerpuppen, außerdem stehen in den Vorschlaglisten Filme mit vielen Views besonders hoch, was sie noch erfolgreicher macht. Und das alles läuft automatisch, über Algorithmen.

Wollen Sie an einem bestehenden Trend verdienen, können Sie aber nicht einfach vorhandene Videos kopieren (und bei Kindervideos zu langen Mixen koppeln, weil die viel häufiger angeklickt werden, denn damit können die Eltern ihre Kinder länger am Computer ruhigstellen) und passende Keywords dazuschreiben, denn so holen Sie den Vorsprung der Originale nie ein.

Unkontrollierbarer Unfug

Stattdessen müssen Sie sich ebenfalls automatisieren: Sie nehmen einen Bot, ein Computerprogramm, das automatisch Inhalte zu bestimmten Keywords sucht, kopiert und zusammenstellt. Andere Bots sehen Ihre Filme automatisch an und schaffen so Views (am besten, Sie kommentieren sie auch automatisch, das sieht besser aus). Und weil zehn Keywords besser sind als eines, mixen Sie Filme, etwa so: Fingerpuppen-Lernspiel-Schlaflied-Superhelden-Lego-Zahlenspiel. Wenn Sie das lange genug tun, gucken das irgendwann echte Kinder. Das ist dann digitaler Kindesmissbrauch. Aber Sie verdienen damit Geld.

Was James Bridle beschreibt, ist Krebs. Youtube-Krebs. Gutartige Zellen werden zu Desinformationstumoren um- gebaut, die munter vor sich hin wuchern. Youtube hat auf Bridles Artikel sehr schnell reagiert und Videos gelöscht, Kanäle geschlossen etcetera, aber der Autor bezweifelt, dass das was bringt. Er schreibt von „einer Art Gewalt, die der Verbindung des digitalen Systems mit kapitalistischen Anreizen innewohnt“. Das ist sicher nicht falsch, aber ein anderer Punkt ist vielleicht ent- scheidender: „Wir haben eine Welt gebaut, die in einer Größenordnung arbeitet, in der menschliche Kontrolle schlicht unmöglich ist.“

Und das gilt nicht nur für Kindervideos. Das gilt für Fake News, die während des US-Wahlkampfes von russischen Twitter-Bots massiv verbreitet wurden. Es gilt auch für die aggressiven Parodien populärer Videos, wie sie in den Fingerpuppen-Mixen auftauchen (weil Bots sie nicht von den Originalen unterscheiden können und deshalb beides mischen).

Die basteln junge Männer, die keine Freundin haben, miese Jobs und ein Zimmer im Keller ihrer Eltern. Nein, das ist kein Klischee, die gibt es wirklich. Der populärste Treffpunkt für solche letztlich traurigen, verletzten Menschen ist 4chan, ein enorm erfolg- und einflussreiches Internet-Forum, dessen Geschichte den Rahmen dieser Kolumne sprengen würde. Wer mehr wissen will, sollte auf Medium.com den Text von Dale Beran lesen, der dort auch erklärt, warum die 4chan-Nutzer Donald Trump bei der Präsidentschaftswahl unterstützt haben.

Diese Männer hassen jedenfalls die Masse (weil sie sich von ihr gehasst fühlen) und kennen sich super mit Computern aus (weil sie sonst nicht viel zu tun haben) – das Hacker-Kollektiv Anonymous ist auch 4chan entsprungen. Das ist ein Teil der Trolle, die im Internet vor allem (zer-)stören wollen.

So weit, so schlecht. Und da sind wir noch nicht bei den Empfehlungsalgo- rithmen, die auf Google, Facebook und so weiter für die Filterblasen sorgen, die politische, religiöse oder weltanschauliche Extremisten in widerspruchsfreie Welten betten und all diese Phänomene noch verstärken. (Einen sehr guten Text zum Thema aus dem Guardian finden Sie über den Link auf der nächsten Seite.)

Aber das alles lässt sich am Ende auf ein Kernproblem zurückführen: Automatisierung. In der materiellen Welt hat uns die Automatisierung unglaublich vorangebracht: Wir schaffen mehr als früher, in höherer Qualität, während wir weniger arbeiten. Großartig! Doch in der digitalen Welt ist sie ein Problem.

Unvollkommene Menschen

Der Liedermacher, Kabarettist und Autor Marc-Uwe Kling, der mit Die Känguru-Chroniken zum Bestseller-Autor wurde, zeigt in seinem Science-Fiction-Roman QualityLand sehr unterhaltsam, wohin die automatisierte Digitalisierung führen kann. In dem von ihm beschriebenen Land wird alles von Algorithmen gesteuert – auch die Menschen. Dort bringen Drohnen ungefragt Produkte, die sich der Kunde gerade wünscht (sagt der Algorithmus), alle Informationen sind individualisiert, und Menschen leben in Klassen, die durch soziale Ratings bestimmt werden: Wer oben ist, hat nicht nur eine bessere Gesundheitsversorgung, sondern kann auch die Ampel auf Grün schalten.

Das ist lustig und im Detail sehr klug – das Gefühl, dass wir mit einem Bein längst in Qualityland leben, entsteht fast automatisch. Es wird außerdem klar, warum das vorangetrieben wird: Automatisierung per Algorithmus ist potenziell grenzenlos profitabel. Doch das Buch hat einen Fehler: Die Figuren, die Menschen zwischen den Algorithmen, sind äußerst flach gezeichnet und sehr willig, alles mitzumachen. Damit ist das Buch näher an dem, was es kritisieren will, als Marc-Uwe Kling vermutlich ahnt.

Kelly & Zach Weinersmith: Bald!; Hanser 2017, 22 Euro
Marc-Uwe Kling: Qualityland; Ullstein 2017, 18 Euro

Die Digitalisierung des privaten Alltags – soziale Medien, Selbstoptimierungs-Apps, Informationsmedien, Unterhaltung – folgt bislang vor allem zwei Ideen. Die eine ist bekannt: die Ökonomisierung des Lebens. Dazu gehört die Anwendung von Marktgesetzen auf bislang ökonomiefreie Bereiche wie Freundschaft oder Nachbarschaft, der stetige Bezug von Daten aus Handys und Computern, die automatisch ausgewertet und kommerzialisiert werden, und ein stetiger Fluss von Werbung für jeden. Das wird alles heftig kritisiert und auch vollkommen zu Recht. Aber es gibt noch eine zweite Idee, die leicht vergessen wird, weil es einfacher ist, die Treiber dieses Zweigs der Digitalisierung zu dämonisieren, als ihren Antrieb zu verstehen. Doch Facebook-Gründer Mark Zuckerberg und seine Freunde sind keine Monster. Sie glauben bloß, Menschen seien dumm. Und dass sich das nicht ändern lässt. Also wollen sie ihnen helfen.

Wie tief dieser Gedanke alles durchdringt, zeigen Kelly und Zach Weinersmith sehr schön, wenn auch unfreiwillig, in ihrem Buch Bald!. Wer sich für Fahrstühle in den Weltraum interessiert, für Rohstoffförderung auf Asteroiden, programmierbare Materie und andere technologische Finessen, die wirklich ganz, ganz vorn sind, findet hier einen grandiosen Schmöker für den Nachttisch. Schwierig wird es nur, wenn es um die Bedenken zu den jeweiligen Technologien geht.

Was spricht gegen Organe aus dem 3D-Drucker? Dass sich Menschen nicht mehr um ihre Gesundheit kümmern, weil es Ersatzteile gibt. Was gegen Weltraumfahrstühle? Terroristen könnten sie benutzen. Was gegen Fusionsenergie? Es würde sehr lange dauern, bis die Investitionskosten drin wären. Die Idee ist immer dieselbe: Die Technik kann sich endlos verbessern – der Mensch bleibt beschränkt. Er säuft oder mordet für seinen Glauben, er wägt ab zwischen kurzfristiger Gewinnspanne und ewiger Energie – und findet den kurzfristigen Gewinn besser. Dümmer geht nümmer.

Es gibt gute Gründe, zu behaupten, dass die Menschheit bislang recht dumm ist. Zurzeit sitzen viele der klügsten Menschen der Welt an der Westküste der USA, um über ein einziges Problem nachzudenken: Wie können sie ihren Mitmenschen noch mehr Werbung unterjubeln? Wie blöd ist das denn! Und natürlich ist es in diesem Rahmen völlig egal, ob Youtube an Krebs stirbt. Im Gegenteil, es ist sogar schön: Blinde Automatisierung führt zum Verfall – super! Aber das ist kein Problem, das im Menschen oder im Internet angelegt ist.

Die Automatisierung folgt am Ende einer sehr beschränkten ökonomischen Idee – und die können wir jederzeit hinter uns lassen. Denn wenn die Evolution irgendetwas bewiesen hat, dann dies: Menschen können sich ändern.

Das gilt ebenso für das Internet. Wenn wir im eigenen Rahmen mit eigenen Modellen unsere Projekte und Ideen verfolgen, kann es exakt das sein, was es einst werden sollte: ein Medium, das Wissen für alle schafft und verbreitet. Ein sehr schönes Beispiel dafür sind die „Dementia Diaries“. Dort erzählen Menschen mit Demenz anderen Menschen mit und ohne Demenz, wie sie mit den Problemen des Alltags umgehen und den Gefühlen, die ihre Krankheit mit sich bringt. Das ist weder skalierbar noch automatisierbar. Aber es ist sinnvoll, es hilft, und die Macher sind damit wahrscheinlich sehr glücklich.

Man könnte sie fragen, ob das stimmt. Es wäre vermutlich ganz einfach. Und vielleicht ist das ein Anfang? Der US-Autor Michael Pollan hat als Grundlage einer gesunden Ernährung mit guten Produkten eine einfache Regel aufgestellt: Shake the hand that feeds you – lerne die Leute kennen, von denen du dein Essen bekommst. Können wir das nicht auch auf unseren Input anwenden? //

4chan: b1.de/Beta-Männer
Strukturelle Gewalt im Internet: b1.de/Youtube-Krebs
Wirklich beunruhigend: b1.de/Filterblasen-Algorithmen
Wirklich sinnvoll: https://dementiadiaries.org/