Gesichtserkennung ohne Zustimmung: 1,6 Millionen Personen erhalten je 397 Dollar von Facebook
Immer mehr Regierungen gehen gegen Gesichtserkennung vor. Für manche Einwohnerinnen und Einwohner des US-Gliedstaats Illinois wurde der Datenschutz nun aber unerwartet lukrativ.
Wer die Technologie für das Erkennen von Gesichtern wofür benutzen darf, ist noch längst nicht geklärt.
Der Brief kam Mitte Mai, ein brauner Umschlag, ohne Absender. «Er sah aus wie Spam», so beschreibt es Jonni Bocanegra, eine Bewohnerin im US-Gliedstaat Illinois, «meine Mutter hätte ihn fast weggeworfen.» Doch darin war keine Werbung, sondern ein Check über 397 Dollar. Der Absender: der Facebook-Konzern Meta.
Die Vorgeschichte der unerwarteten Sendung reicht über zehn Jahre zurück. Mit Deepface hatte Facebook damals einen Algorithmus entwickelt, der Bilder nach Gesichtern absuchte und Personen darauf erkannte. Viele Nutzerinnen und Nutzer fanden es praktisch, ihre Freunde auf neu hochgeladenen Fotos mit ein paar Klicks markieren zu können. Doch manche wehrten sich gegen die Verwendung ihrer Gesichts-Scans und sagten, sie hätten nie eine explizite Zustimmung zur Verwendung ihrer biometrischen Daten gegeben.
2015 reichte ein Team um den aktivistischen Kläger Jay Edelson, der den inoffiziellen Titel «meistgehasster Anwalt des Silicon Valley» trägt, daher eine Sammelklage gegen Facebook ein. Bocanegra hörte in den Nachrichten davon und schloss sich sofort an. Sie rief ihre Familie dazu auf, es ihr gleichzutun. Abgesehen von ihrer Mutter ging aber niemand auf den Rat ein. Insgesamt unterschrieben rund 1,6 Millionen Facebook-Nutzerinnen und -Nutzer aus Illinois die Sammelklage.
Im Februar 2021 einigten sich die Kläger mit Facebook auf einen Vergleich. Insgesamt bezahlt Meta nun 650 Millionen Dollar, das entspricht etwa 1,7 Prozent des aktuellen Jahresgewinns. Der grösste Teil davon wird an Facebook-Nutzerinnen und -Nutzer ausgeschüttet. Dass dies möglich ist, geht auf ein Gesetz des Gliedstaats Illinois zum Schutz von biometrischen Daten aus dem Jahr 2008 zurück. Es erlaubt Privatpersonen, Firmen zu verklagen, falls Fingerabdrücke, Irisbilder oder Gesichts-Scans ohne explizite Zustimmung verwendet werden. In anderen Gliedstaaten blieb dies bisher unmöglich.
Privatsphäre «eklatant missachtet»
Nun ist das Geld bei den Menschen angekommen. In den sozialen Netzwerken berichten unzählige davon, unerwartet 397 Dollar über Paypal erhalten zu haben. Wer keinen digitalen Zahlungskanal angegeben hatte, erhielt das Geld, so wie Bocanegras Mutter, als Check via Post.
«Das Geld war eine grosse Hilfe», schreibt Bocanegra, selbst Mutter von zwei kleinen Kindern, die dank der Zahlung offene Rechnungen begleichen konnte, auf Anfrage. Ihr Ärger über Facebook ist damit aber nicht beigelegt. Es sei «lächerlich», dass Social-Media-Plattformen Gesichtserkennung ohne die Zustimmung ihrer Nutzerinnen und Nutzer einführten. Die Privatsphäre in der digitalen Welt werde «ständig eklatant missachtet».
Facebook widerspricht dieser Darstellung. Man habe Nutzerinnen und Nutzern immer mitgeteilt, welche ihrer Daten wofür verwendet würden. Allerdings hat die Firma laut eigenen Angaben im Oktober 2021 das Programm zur Gesichtserkennung sistiert und mehr als eine Milliarde individueller Gesichtsprofile gelöscht. Man wolle nun die Diskussion über die neue Technologie in der Gesellschaft und in Parlamenten abwarten, bevor man die Gesichtserkennung weiterentwickle, heisst es aus der Meta-Zentrale.
Doch die Kontrolle über Technologie und Daten liegt längst nicht mehr nur bei Firmen wie Facebook, IBM, Amazon und Microsoft, die sich alle entschieden haben, ihre Programme zur Gesichtserkennung mindestens vorübergehend zu stoppen. Im Winter 2020 wurde bekannt, dass die Firma Clearview AI Milliarden von Fotos aus Quellen wie Youtube und Facebook gespeichert und damit eine riesige Datenbank von Personen und deren Namen angelegt hatte. Datenschützer aus aller Welt waren alarmiert.
Immer mehr Widerstand gegen Clearview AI
Inzwischen wurde Clearview AI mehrmals gebüsst, zuletzt am 23. Mai von britischen Behörden, weil die Daten von Britinnen und Briten ohne deren Einverständnis verarbeitet worden waren. 7,5 Millionen Pfund (9 Millionen Franken) wird dies die Firma nun kosten. Ausserdem muss sie die Gesichtsprofile aller britischen Personen löschen.
In einem weiteren Gerichtsverfahren in den USA von Mitte Mai verpflichtete sich Clearview AI in einem Vergleich, Dienstleistungen grundsätzlich nicht mehr an Privatfirmen zu verkaufen. Die Software zur Gesichtserkennung darf damit fast nur noch Behörden zur Verfügung gestellt werden, zum Beispiel zur Identifikation von Straftätern.
In Illinois darf die Firma selbst das nicht mehr tun. Dort sind alle Verkäufe während fünf Jahren blockiert.
Verbot von Gesichtserkennung im öffentlichen Raum
In der Europäischen Union wird nun ein Gesetz entworfen, das mehrere Anwendungen von künstlicher Intelligenz regulieren soll, darunter auch der Einsatz von automatischer Gesichtserkennung. Der Entwurf sieht vor, dass die Technologie im öffentlichen Raum stark eingeschränkt werden soll. Damit dürfte sie nur noch zur Bekämpfung von Straftaten verwendet werden. Ein konkreter Gesetzestext wird im Moment ausgehandelt.
Allerdings gab es bereits weiterführende Forderungen aus dem EU-Parlament. Im Jahr 2020 sprach sich eine Mehrheit der Politikerinnen und Politiker dafür aus, Gesichtserkennungssysteme auch für Strafverfolgungsbehörden zu verbieten, «bis die technischen Standards als vollständig grundrechtskonform angesehen werden können». Damit spricht das Parlament ein ethisches Problem bei der Gesichtserkennung an: Die Technologie identifiziert etwa Schwarze öfter falsch als Weisse, weil die Algorithmen nicht mit ausreichend Bildern von marginalisierten Bevölkerungsgruppen trainiert wurden. Wenn Strafverfolgungsbehörden solche Software vermehrt einsetzen, könnten gewisse Bevölkerungsgruppen also öfter fälschlicherweise verdächtigt werden.
Auch in der Schweiz gibt es Bestrebungen, den Einsatz von Gesichtserkennung einzuschränken. Mitte Mai haben drei Datenschutzorganisationen eine Petition mit über 10 000 Unterschriften an mehrere Schweizer Städte eingereicht, mit dem Ziel, die automatische Gesichtserkennung im öffentlichen Raum zu stoppen – unabhängig davon, wie gut sie funktioniert.
Angela Müller, Fachspezialistin bei AlgorithmWatch Schweiz, sagte laut Medienmitteilung: «Wenn wir davon ausgehen müssen, jederzeit im öffentlichen Raum identifiziert werden zu können, schrecken wir möglicherweise davor zurück, unsere Meinung frei zu äussern, an Demonstrationen teilzunehmen oder Orte aufzusuchen, die etwa Hinweise auf unsere Religion oder sexuelle Orientierung geben könnten.» Deshalb schränke die Gesichtserkennung im öffentlichen Raum Grundrechte auf unverhältnismässige Art und Weise ein.
Jonni Bocanegra, die von der Facebook-Zahlung überrascht wurde, ist derweil nicht grundsätzlich gegen die Technologie. Sie würde sogar einem Handel mit persönlichen Daten zustimmen, sofern der Preis dafür stimmen würde. 400 Dollar, selbst wenn sie jedes Jahr ausbezahlt würden, wären aber nicht genug, schreibt sie und fügt an, dass sie nicht von Firmen angelogen oder in etwas hineingezwungen werden wolle.
