Künstliche Intelligenz Soll Gesichtserkennung zur Verbrecherjagd erlaubt sein? Streit um die neuen KI-Regeln der EU
Es gibt Zweifel, ob die Vorschläge zu Gesichtserkennung im öffentlichen Raum die Grundrechte achten.
Brüssel Es ist ein Megaprojekt für die Europäische Union: Sie will zu einem attraktiven Ort für Anbieter Künstlicher Intelligenz (KI) werden, den Vorsprung der USA und Chinas aufholen und dabei auch noch die weltweiten Regeln für die Zukunftstechnologie prägen.
Für all das soll eine Regulierung den Anstoß geben, die die EU-Kommission am Mittwoch vorgeschlagen hat. Der Text wurde von vielen Seiten gelobt. Sogar Jake Sullivan, Sicherheitsberater von US-Präsident Joe Biden, meldete sich zu Wort.
„Die Vereinigten Staaten begrüßen die neuen Initiativen der EU zur Künstlichen Intelligenz“, schrieb Sullivan auf Twitter. Die USA wollten gemeinsam mit Freunden und Verbündeten „vertrauenswürdige KI“ fördern. Den gleichen Begriff verwendet die EU.
Allerdings enthält der Kommissionsvorschlag noch Konfliktpotenzial. Die Vorschriften zur Gesichtserkennung im öffentlichen Raum stoßen auf breite Kritik. Auch im EU-Parlament, das der Regulierung noch zustimmen muss.
Die Kommission will die massenhafte Gesichtserkennung zwar im Grundsatz verbieten, macht davon aber Ausnahmen, etwa um vermisste Kinder zu finden, Gefahren wie Terroranschläge abzuwehren und Schwerverbrecher zu finden.
Mit einer solchen Begründung könnten die Polizei oder Geheimdienste also Kameras in Fußgängerzonen aufstellen und alle erfassten Gesichter von einer Künstlichen Intelligenz analysieren lassen. In Deutschland hat ein Pilotprojekt am Berliner Bahnhof Südkreuz kontroverse Debatten ausgelöst.
„Nicht mit Grundwerten vereinbar“
„Der Einsatz dieser Technologien durch Strafverfolgungsbehörden unter dem Deckmantel der öffentlichen Sicherheit ist nicht mit europäischen Grundwerten vereinbar“, sagt die FDP-Abgeordnete Svenja Hahn. „Künstliche Intelligenz soll neue Chancen bieten, statt zu Massenüberwachung führen.“
Auch die SPD würde die Ausnahmen gern streichen. Der Vorschlag schaffe erstmals die Grundlage für den Einsatz von Gesichtserkennungssoftware im öffentlichen Raum, sagt der SPD-Abgeordnete Tiemo Wölken: „Hier haben sich eindeutig die Interessen der Sicherheitsbehörden durchgesetzt. Grundrechte der Bürgerinnen und Bürger werden hingegen hintangestellt.“ Die Regelungen könnten zu einer breiten Überwachung Unbeteiligter führen.
Alexandra Geese von den Grünen spricht von einem „Schlag ins Gesicht der Zivilgesellschaft“, da viele Bürger mit Petitionen auf ein Verbot gedrängt hätten.
Zu hören ist, dass wohl unter anderen Frankreich darauf dringt, Gesichtserkennung nicht gänzlich zu verbieten. Dort ist die Diskussion von der Serie islamistischer Terroranschläge im Jahr 2015 geprägt.
Gesichtserkennung keineswegs der Kern der Regulierung
Auch der CDU-Abgeordnete Axel Voss sagt: „Natürlich muss der Einsatz sehr streng reguliert sein, aber wenn es auch klare Vorteile gibt, wie die Identifikation von vermissten Personen, ist ein vollständiges Verbot von Gesichtserkennung in allen Bereichen nicht zielführend.“
Damit aus dem Vorschlag der Kommission ein Gesetz werden kann, braucht es neben der Zustimmung des Parlaments auch die des EU-Rats, in dem die Mitgliedstaaten vertreten sind. Dass es in diesen Gremien oder zwischen ihnen zum Streit um die Gesichtserkennung kommt, ist absehbar.
Dabei ist die Gesichtserkennung keineswegs der Kern der Regulierung. Im Wesentlichen geht es darum, einige wenige KI-Anwendungen zu verbieten und eine Liste von anderen „Hochrisikoanwendungen“ unter Auflagen zu stellen.
So sollen bei Bewerbungsverfahren und bei Kreditwürdigkeitsprüfungen nur solche KI-Systeme eingesetzt werden dürfen, die eine offizielle Zulassung haben. Die Richtlinie soll definieren, an welche Qualitätskriterien eine solche Zulassung geknüpft ist.
Sollen Sicherheitsbehörden im Ausnahmefall große Menschenmassen per Gesichtserkennung scannen dürfen?
Bei anderen Anwendungen mit niedrigem Risiko will die EU lediglich vorschreiben, dass der Nutzer über den Einsatz von KI informiert wird. Die meisten Anwendungen im Bereich automatisierter Maschinen fallen als risikoarme oder risikofreie KI nicht in den Bereich der Regulierung.
EU geht allein voran
Die USA haben großes Interesse an einer engen Abstimmung mit Europa, wie der Tweet von Sullivan verdeutlicht. Der Grund dafür ist, dass Washington die Technologieförderung vor dem Hintergrund des Systemkonflikts mit China betrachtet. Peking nutzt KI, um einen umfassenden Überwachungsstaat aufzubauen. Kritiker sprechen von einer „digitalen Diktatur“.
Zugleich exportieren die Chinesen ihre Technologie und haben mit Firmen wie Hikvision und Huawei Weltmarktführer aufgebaut. Die Biden-Regierung will beweisen, dass die neuen digitalen Technologien mit liberalen Werten vereinbar sind. Doch die Washingtoner Planungen für eine Tech-Allianz der demokratischen Staaten sind bisher vage geblieben, auch weil wichtige Stellen in den Ministerien noch immer nicht besetzt sind.
Deshalb geht die EU nun erst einmal allein voran. Wirtschaftsverbände mahnten schon zur Eile: Denn die Künstliche Intelligenz entwickelt sich schnell, die EU ist als Gesetzgeber eher träge. Selten entsteht eine Verordnung in unter zwei Jahren. Daran anschließen müssen sich Standardisierungsprozesse, die die neuen Vorschriften für Unternehmen nutzbar machen. Erst dann gibt es Rechtssicherheit – eine wichtige Voraussetzung für Investitionen.
Das Kommentieren dieses Artikels wurde deaktiviert.
HB: Alexandra Geese von den Grünen spricht von einem „Schlag ins Gesicht der Zivilgesellschaft“, da viele Bürger mit Petitionen auf ein Verbot gedrängt hätten.
Für mich ist es ein Schlag ins Gesicht, wenn Täterschutz vor dem Schutz der Opfer rangiert.