Facebook verteilt jetzt Noten

Die Hightech-Konzerne und die von ihnen betriebenen sozialen Plattformen geraten immer öfter in schiefes Licht. Sie wehren sich mit dem einzigen Mittel, das ihnen einfällt: Algorithmen und noch mehr Algorithmen. Dieser Schuss kann nach hinten losgehen.

Evgeny Morozov
Drucken
Verstecken gilt nicht mehr – Facebook will jetzt wissen und bewerten, was wir tun. (Bild: Ralph Morse / The Life Picture Collection / Getty Images)

Verstecken gilt nicht mehr – Facebook will jetzt wissen und bewerten, was wir tun. (Bild: Ralph Morse / The Life Picture Collection / Getty Images)

Das Silicon Valley hat nicht lange gebraucht, um eine Antwort auf Donald Trumps neueste Attacke zu finden. Er hatte – wie üblich via Twitter – die Behauptung verbreitet, dass die Social-Media-Plattformen ein ideologisch gezinktes Spiel betrieben und dass konservative Stimmen von der Big-Tech-Elite regelmässig zensiert und ungerecht behandelt würden; all dies im Namen der Höflichkeit und der politischen Korrektheit.

Der erboste Tweet kam, wenige Tage nachdem mehrere wichtige Kanäle die Accounts von Alex Jones gesperrt hatten, einem der feurigsten Anhänger Trumps, der aber auch für seinen Hang zu Verschwörungstheorien bekannt ist. Und die Botschaft machte klar, dass das Silicon Valley zum wichtigsten neuen Schlachtfeld für Amerikas Kulturkriege geworden ist.

Hypermoderne und Postmoderne

Facebook übernahm beim Gegenangriff die Führung und verriet der «Washington Post», dass die Firma im Lauf des vergangenen Jahres ein System entwickelt habe, mittels dessen die Vertrauenswürdigkeit der Nutzer auf einer von 0 bis 1 reichenden Skala taxiert werde. Ausgehend von der Art, wie Leute mit anderen interagieren, und von den Inhalten, die sie auf der Plattform abrufen, teilt Facebook ihnen eine Bewertung zu; diese wiederum bestimmt, wie sichtbar und einflussreich ihre eigenen Postings und Online-Aktivitäten sind.

Das Ringen zwischen Trump und den Big-Tech-Unternehmen ist wie ein Mikrokosmos des grösseren sozialen Konflikts über die Machtverteilung in der digitalen Gesellschaft. In der einen Ecke steht das Silicon Valley mit seiner ultramodernistischen Mission, alles zu systematisieren und zu rationalisieren – von unserer Art, miteinander umzugehen, bis hin zur Glaubwürdigkeit von Informationsquellen. In der anderen Ecke wächst der postmoderne Verdacht, dass sich hinter der scheinbar universalistischen, neutralen und hyperrationalistischen Funktionsweise von Facebook und Konsorten eine ganz andere Agenda verbirgt.

Die Technologiekonzerne treten zwar mit einer Palette von Wunderwaffen an, doch diese scheinen nicht zu funktionieren. Algorithmen, Big Data, Blockchains: Das Silicon Valley lässt kein digitales Werkzeug aus, wenn es darum geht, das Vertrauen in die soziale Infrastruktur wiederherzustellen, denn nicht nur ist diese für unsere alltägliche Kommunikation wichtig, sondern auf ihr beruhen auch die Geschäftsmodelle dieser Firmen. Aber es sind nicht mehr nur die Technokraten, das kulturelle Establishment und öffentliche Medienunternehmen, die diese soziale Infrastruktur kontrollieren; sie liegt fest in der Hand der Datenbarone, und das erzeugt mehr Misstrauen denn je zuvor.

Paradoxe Politik

Die Big-Tech-Firmen verstehen sich als «gute» Kapitalisten. Sie haben keine grossen Ambitionen, die Gesellschaft zu manipulieren, und ihre politische Vorstellungskraft ist ziemlich armselig; Profitdenken steht hinter vielem, was sie tun. Sie haben aber auch keine Möglichkeit, ihre Plattformen auf eine Art zu überwachen, die jedermann zufriedenstellt. Und diejenigen, die ausgeschlossen werden – sei es Alex Jones am rechten Rand des politischen Spektrums oder der linke lateinamerikanische Fernsehkanal Telesur, der auf Facebook ebenfalls unlängst gesperrt wurde –, folgern daraus unweigerlich, dass das Silicon Valley nur der verlängerte Arm des «tiefen Staats» (Alex Jones) beziehungsweise des imperialistischen Amerika (Telesur) ist.

Facebooks Spiel mit der sozialen Bewertungsskala deutet an, welche Strategie das Silicon Valley in diesem Kulturkampf verfolgt. Mit dem Vorwurf der politischen Parteilichkeit konfrontiert, werden die Big-Tech-Unternehmen ihren Modernismus weiter vorantreiben und noch mehr algorithmische Tricks ins Feld führen, um die Neutralität ihrer Plattformen abzusichern. Als würden sich die Fans von Telesur oder Alex Jones gleich viel besser fühlen, wenn ihre Lieblingsseiten aufgrund der Tatsache kassiert werden, dass sie den Kriterien einer ausgetüftelten «Soziale Harmonie»-Formel nicht entsprechen.

Die Ironie des Ganzen liegt darin, dass die positivistischen Modernisierer zwar die Tugenden einer radikalen Transparenz predigen, selbst aber weitgehend im Dunkeln agieren. Niemand weiss wirklich, wie Facebooks Algorithmen funktionieren, auf welchen Kriterien sie fussen und welches Verhalten zu welcherlei Bewertungen führt. Die hermeneutischen Postmodernisten mit ihren Klagen über einen «tiefen Staat», «Imperialismus» und «Hexenjagden» sind dagegen so klar und kohärent, wie es nur geht: In der heutigen Kakofonie widersprüchlicher und abstruser Narrative wirken ihre Erzählungen von Verschwörung und Verrat trotz ihren postmodernen Konnotationen solid und unzweideutig.

Griff nach Bankdaten

Wie auch immer Trumps Zänkereien mit dem FBI und der CIA enden, es ist offensichtlich, dass das Silicon Valley den «tiefen Staat» als bevorzugte Zielscheibe der extremen Rechten wie der extremen Linken ablösen wird – nicht zuletzt, weil die Technologiefirmen viel sichtbarer agieren und dem kritischen Blick der Öffentlichkeit entsprechend mehr ausgesetzt sind.

Die Lage dürfte sich noch verschlimmern, wenn die Implikationen eines sozialen Bewertungssystems, wie es Facebook nun entwickelt hat, erst einmal allen klar sind. Denn das Unternehmen ist nicht mehr nur eine harmlose Spielwiese für Collegestudenten; seine geschäftlichen Ambitionen dehnen sich immer weiter aus. Erst vor wenigen Wochen berichtete das «Wall Street Journal», dass sich Facebook bei mehreren Banken um Kundendaten bemüht habe, damit die Nutzer Finanztransaktionen direkt auf der Plattform vornehmen können. Hätte man wirklich Lust darauf, dass die eigenen Kontodaten ins Bewertungssystem von Facebook eingingen? Und wie stünde es dann um die Chancen, jemals wieder einen Kredit zu bekommen?

Oder denken wir an die vielen Online-Dienste, die – wie etwa Airbnb – die Authentizität ihrer Nutzer via deren Facebook-Account verifizieren. Wünschen wir uns, dass das algorithmische Mysterium des Bewertungssystems sich darauf auswirkt, ob unsere Anfrage angenommen oder abschlägig beantwortet wird? Wir leben in einer Zeit, da das Misstrauen gegenüber dem Einfluss, den die Technologiefirmen im Verborgenen ausüben, täglich wächst; da kann man sich schwerlich vorstellen, dass ein System, welches unsere Interaktionen direkt beeinflusst, die Ängste derjenigen aus dem Weg räumen wird, die das Silicon Valley als eine einzige grosse Verschwörung, als den nächsten «tiefen Staat» ansehen. Und je grösser diese Ängste werden, desto wahrscheinlicher ist es, dass die Technologiefirmen aufgespalten oder Regulierungen unterworfen werden – jedenfalls solange Donald Trump noch im Weissen Haus sitzt.

Unter normalen Bedingungen hätte eine vernünftige Lösung darin bestehen können, ein universales, für alle Plattformen gültiges Bewertungssystem zu schaffen, und zwar mit demokratischen Mitteln: ein System, auf totale Transparenz verpflichtet, bei dem die Öffentlichkeit die Kontrolle über die Kriterien ausübt, anhand deren die Nutzer bewertet werden. Dies allerdings würde die Technologiefirmen zwingen, ihre Datenschätze preiszugeben und ihre algorithmischen Zauberkästen vor unabhängigen Prüfern zu öffnen.

Nicht wie in China

China hat mit seinem sozialen Punktesystem die autoritäre Variante solcher Bewertungsstrategien bereits eingeführt: Das Verfahren ist fest in den Händen der Regierung, und private Technologiefirmen müssen sich dem Diktat von oben unterziehen. Genutzt wird es für allerlei sinistre Zwecke – Leute mit niedrigen Punktzahlen dürfen beispielsweise nicht fliegen –, aber man könnte sich sicherlich auch bessere Arten vorstellen, ein solches System einzusetzen. Könnte es in einem demokratischen Kontext entwickelt werden, vollumfänglich überwacht und genau kontrolliert? Gewiss ist das möglich, und faktisch werden solche Optionen in vielen Bereichen, etwa bei Kreditvergaben, bereits eingesetzt.

Die Schaffung eines solchen öffentlichen Bewertungssystems wäre kein Todesstoss für das Silicon Valley; vielmehr würde es die Firmen vor dem Vorwurf schützen, mit dem «tiefen» beziehungsweise sich ausdehnenden Staat unter einer Decke zu stecken. Aber die Hexenmeister von Palo Alto sind leider zu kurzsichtig, um das zu erkennen; als passionierte Rationalisten scheinen sie zu glauben, dass Algorithmen und immer noch mehr Algorithmen sie vor dem Vorwurf politischer Parteilichkeit schützen können. Diese Arroganz wird am Ende ihr Verderben sein. Die Wut all jener, die von ihren Plattformen ausgeschlossen sind, ist schon zu gross, um sich durch ein paar scheinbar objektive Zahlen in Schach halten zu lassen.

Evgeny Morozov ist Autor und Blogger. Er beschäftigt sich seit Jahren mit neuen Technologien und Medien, die er im Kontext von Ökonomie und Politik kritisch reflektiert. Aus dem Englischen von as.