Kritik an Gesichtserkennung wächst: „Mein Gesicht ist kein Schlüssel“

San Francisco, New York, Düsseldorf Tranae Moran staunte nicht schlecht, als ihre Hausverwaltung ihr einen dicken Briefumschlag mit einem 100-seitigen Dokument schickte, das sie unterschreiben sollte. Auf der letzten Seite stand die Frage: Wollen Sie Gesichtserkennung? Ja oder nein? Wenn nein, warum?

Das Management der Atlantic Towers im Nordosten Brooklyns – zwei große Wohnblöcke mit insgesamt 718 Apartments auf 24 Stockwerken – wollte die Schlüssel durch Gesichtserkennung ersetzen. Das Gesicht der Bewohner würde dazu dienen, die Haustür, die Wohnungstür, aber auch die Türen zu Gemeinschaftsräumen und Waschautomaten zu öffnen.

Weitere Artikel aus dem Handelsblatt-Spezial „Digitale Revolution“:
Gesichtserkennung trotz Motorradhelm: Russische Firma liefert den Algorithmus für den Überwachungsstaat
Gesichtserkennung: Warum der Widerstand gegen das digitale Auge wächst

„Wir haben uns gefragt, was das soll, warum wir das brauchen. Schließlich haben wir schon heute überall Sicherheitskameras und Pförtner am Eingang“, erzählt Moran, die seit vielen Jahren in den Atlantic Towers wohnt. Gemeinsam mit anderen Mietern machte sich die Afroamerikanerin schlau, sprach mit Anwälten und Tech-Spezialisten vom MIT.

Schnell wurde klar, dass sie das neue System auf keinen Fall wollen. „Wir wollen nicht in einem Gefängnis leben“, stellt Moran klar. Außerdem erfuhren die Mieter beim MIT, dass Gesichtserkennung zwar bei weißen Männern recht gut funktioniert, aber nicht bei Schwarzen, wo die Technologie oft nicht einmal Männer und Frauen unterscheiden kann. „Und die große Mehrheit in unserem Wohnblock sind schwarze Frauen“, sagt Moran. Sie selbst hat ein kleines Kind und hätte fürchten müssen, „dass ich nicht wieder zu meinem Kind in die Wohnung komme, nur weil ich eben den Müll rausgebracht habe“.

Die Anwohner appellierten an ihre Lokalpolitiker, an die Medien und organisierten Proteste mit Schildern, auf denen „My face is not a key“ stand („Mein Gesicht ist kein Schlüssel“). Letztlich machte die Hausverwaltung einen Rückzieher und ließ das Projekt fallen.

Das Beispiel in Brooklyn zeigt: Nicht nur im undemokratischen China wird Gesichtserkennung im privaten wie im öffentlichen Raum genutzt. Auch in den USA und Europa greift die neue Technologie um sich. Doch es regt sich auch immer mehr Widerstand. Nicht nur Bürger wie Tranae Moran und Politiker wehren sich. Sogar die Tech-Unternehmen fordern mehr Regulierung.

Grund gibt es genug. Zuletzt hatte in den USA die bisher recht unbekannte Firma Clearview AI für Aufsehen gesorgt. Laut einem Bericht der „New York Times“ hatte das New Yorker Technologieunternehmen rund drei Milliarden Bilder von Menschen aus dem Internet zusammengestellt, um eine umfassende Datenbank zur Gesichtserkennung zu entwickeln.

Im vergangenen Jahr sei mehr als 600 Behörden der Zugang dazu als Service angeboten worden, darunter auch der Bundespolizei FBI und der Heimatschutzbehörde. Für die Datenbank hat das Start-up offenbar öffentlich zugängliche Bilder bei Plattformen wie Facebook und Youtube, dem US-Bezahlservice Venmo und Millionen von anderen Webseiten gesammelt, hieß es. Die Sammlung sei damit deutlich weitreichender als alle Datenbanken, die die US-Regierung oder die Tech-Giganten aus dem Silicon Valley bislang erstellt haben.

Überraschende Allianzen

Wer ein Foto in die Clearview-Datenbank einspeist, bekommt die im Internet auffindbaren Fotos, die zu dem Gesicht passen, gemeinsam mit den Links zu den entsprechenden Webseiten. Dem Bericht zufolge haben Polizeibehörden das Programm für eine ganze Reihe von Fällen genutzt – von Ladendiebstahl über Kreditkartenbetrug bis hin zu Mord. Ein früher Geldgeber war US-Milliardär, Paypal-Mitgründer und Facebook-Investor Peter Thiel.

Nach Bekanntwerden der Geschäftspraktiken teilte der Kurznachrichtendienst Twitter mit, Clearview habe gegen die Nutzungsbestimmungen verstoßen, und forderte das Unternehmen auf, die unrechtmäßige Nutzung der Fotos einzustellen. Außerdem reichte ein Bürger im US-Bundesstaat Illinois Klage gegen Clearview ein, weil das Start-up gegen die strengen Datenschutzgesetze des Bundesstaates verstoßen haben soll. Das Gesetz verbietet die Nutzung von Fotos und anderen biometrischen Daten ohne Zustimmung. Der Kläger will den Status einer Sammelklage erreichen.

Auch Politiker haben sich in den Fall eingemischt. US-Senator Ron Wyden, Mitglied der Demokratischen Partei, zeigte sich besorgt und forderte, Amerikaner müssten wissen, ob ihre Fotos heimlich in einer privaten Datenbank landen.
Der Fall heizt damit eine Debatte weiter an, die die amerikanische Politik bereits seit Monaten beschäftigt.

Erst Mitte Januar hielt der Ausschuss für Aufsicht und Reform des demokratisch geführten Repräsentantenhauses eine dritte Sitzung zum Thema Gesichtserkennung ab. Dieser Ausschuss diskutiert über Gesetze, um den Einsatz der Technologie zu regulieren. Dabei geht es um Rechte und Pflichten von Regierungsbehörden und privaten Unternehmen.

Auch die großen Tech-Konzerne melden sich zu Wort. Dabei schafft der Streit über die Gesichtserkennung überraschende Allianzen: So sprach sich Alphabet-Chef Sundar Pichai auf einer Konferenz des Brüsseler Thinktanks Bruegel für die Regulierung der Technologie aus und zeigte sich sogar offen für ein temporäres Verbot: „Es ist wichtig, dass Regierungen und Gesetze sich des Themas eher früher als später annehmen und ihm einen Rahmen geben“, sagte der Chef der Google-Holding. „Vielleicht braucht es eine Wartezeit, bevor wir wirklich darüber nachdenken, wie sie eingesetzt wird.“

Die drei großen Cloud-Anbieter im Westen, Google, Microsoft und Amazon, bieten Gesichtserkennungssoftware über ihre Datenzentren an, jedoch ist Googles Angebot deutlich begrenzter als das der Konkurrenten und kann aktuell nur zur Erkennung berühmter Gesichter genutzt werden.

as erklärt wohl auch, warum Googles Konkurrenten den Pichai-Vorstoß kühl aufnahmen: Microsofts Präsident Brad Smith verglich ein Verbot in einem Interview mit einem „Fleischerbeil“, wo eigentlich ein Skalpell angebracht wäre. Gesichtserkennung habe viele positive Einsatzmöglichkeiten. In Brasilien werde Microsofts Software zum Beispiel genutzt, um vermisste Kinder zu finden.

Andy Jassy, Chef von Amazons Cloud-Tochter AWS, verteidigt den Einsatz seiner Software „Rekognition“. In den drei Jahren, die AWS Gesichtserkennung anbiete, habe es keinen einzigen Bericht über Missbrauch durch Strafverfolgungsbehörden gegeben, sagte Jassy kürzlich der BBC.

Zwar fordert auch der Amazon-Manager US-weite Regeln für die Technologie, allerdings vor allem, um einen regulatorischen Flickenteppich zu verhindern: „Wenn die Bundesregierung ein Thema nicht reguliert, das die Menschen bewegt, hat man am Ende 50 unterschiedliche Regeln in 50 Staaten oder noch mehr in einzelnen Städten.“

Das ist heute bereits der Fall: Die kalifornischen Städte San Francisco, Berkeley und Oakland – alle Nachbarn des Silicon Valley – sowie die Kleinstadt Somerville in der Nähe von Boston verboten ihren Behörden bereits den Einsatz von Gesichtserkennung. Ende 2019 folgte der Staat Kalifornien mit einem Verbot, die Software in den Körperkameras seiner Polizisten einzusetzen. Auch Axon, der größte Hersteller solcher Kameras, versprach, die Technologie nicht zu nutzen – nachdem das Ethik-Komitee des Unternehmens, das auch für seine Taser-Elektroschockpistolen bekannt ist, die Software als zu ungenau und gefährlich eingestuft hatte.

Fehleranfällige Technik

Auch Amazons Rekognition-Technologie hat sich in der Vergangenheit als fehleranfällig gezeigt: In einem Versuch der American Civil Liberties Union von Nordkalifornien hat Rekognition 28 Kongressmitglieder fälschlicherweise als auf Fahndungsbildern gesuchte Personen ausgewiesen.

Facebook hat sich erst vergangene Woche auf die Zahlung von 550 Millionen Dollar geeinigt, um eine Sammelklage gegen seine Gesichtserkennungssoftware von vor fast zehn Jahren beizulegen. Es ging um die Software, die den Nutzern vorschlug, Menschen zu markieren, die sie in Fotos der Nutzer gefunden hat. Was manche Facebook-Nutzer als hilfreichen Tipp empfunden haben mögen, verstieß nach Ansicht der Kläger gegen den Biometric Information Privacy Act im Bundesstaat Illinois.

Facebook hatte jahrelang beteuert, nichts falsch gemacht zu haben. Doch nachdem ein Berufungsgericht im August 2019 den Antrag von Facebook, die Klage abzulehnen, abwies, hat Facebook das Tool nicht mehr benutzt. Als dann auch noch der Supreme Court im Januar die Berufung von Facebook ablehnte, einigten sich die Anwälte lieber mit den Klägern, als ein milliardenschweres Urteil zu riskieren.

Auch in Europa wird das Thema Gesichtserkennung derzeit heiß diskutiert. Die Londoner Polizei hat bereits angekündigt, die Technologie an öffentlichen Plätzen zu nutzen.

Da die Technologie bei der Entsperrung von Smartphones oder der Markierung von Personen auf Facebook, bei der Identifikation von Reisenden am Flughafen oder dem Abgleich von Fotos mit einer Fahndungsdatenbank oftmals zuverlässig funktioniert, weckt sie auch bei Innenpolitikern und Sicherheitsbehörden in Deutschland Begehrlichkeiten. Einige würden damit gern auch im öffentlichen Raum nach Terrorverdächtigen und Straftätern suchen.

So hat die Bundespolizei in einem Pilotprojekt am Berliner Bahnhof Südkreuz die automatische Gesichtserkennung erprobt – unter massiver Kritik von Datenschützern, die in einer solchen Technologie „einen potenziell sehr weitgehenden Grundrechtseingriff“ sehen, wie es der Bundesdatenschutzbeauftragte Ulrich Kelber in der jüngsten Diskussion formulierte. In einer zweiten Phase soll die Software vordefinierte Gefahrenszenarien erkennen.

Bundesinnenminister Horst Seehofer (CSU) ist ein Verfechter der automatischen Gesichtserkennung. Im neuen Polizeigesetz, dessen Entwurf sich derzeit in der Abstimmung befindet, verzichtet er jedoch darauf, den Einsatz an öffentlichen Orten wie Bahnhöfen zu legitimieren: Er habe noch „einige Fragen“, erklärte der Politiker. Vor der Einführung wünsche er sich eine „breite Debatte“, um für „gesellschaftliche Akzeptanz“ zu werben. Für sinnvoll hält er die Technologie aber nach wie vor.

Es hatte so ausgesehen, als würde die EU-Kommission ein Moratorium für die automatische Gesichtserkennung im öffentlichen Raum verhängen. Das ging aus einem Entwurf für ein Weißbuch zum Einsatz Künstlicher Intelligenz (KI) hervor. In einem Zeitraum von drei bis fünf Jahren könne man eine „fundierte Methodik zur Bewertung der Folgen der Technologie und Maßnahmen für ein Risikomanagement“ identifizieren und entwickeln.

Doch zuletzt sah es so aus, als werde es doch nicht dazu kommen. Stattdessen könnten die Bestimmungen der Datenschutzgrundverordnung (DSGVO) bevorzugt werden. Das Regelwerk schränkt die Nutzung von personenbezogenen und damit auch biometrischen Daten stark ein, besonders die automatisierte Verarbeitung.

Mehr: Biometrie ermöglicht zahlreiche Verschlüsselungsmethoden, hundertprozentige Sicherheit garantiert aber keine. Wie gut sind Fingerabdruck oder Gesichtserkennung?