Künstliche Intelligenz: Neue EU-Regeln für KI könnten für Europa zum Nachteil werden – Sorge über ausbleibende Investitionen
Ab wann ist ein Programmcode Künstliche Intelligenz?
Foto: dpaBrüssel. Die EU will ein Gesetz zur Regulierung von Künstlicher Intelligenz (KI) erlassen und löst damit große Sorgen aus: Die einen fürchten, dass KI unser Leben bald in einer Weise bestimmt, die nicht gewollt ist. Die anderen fürchten, dass Europa bei Zukunftstechnologien noch weiter hinter China und die USA zurückfällt.
Und beides könnte stimmen. Die EU-Kommission will an diesem Mittwoch ihren Vorschlag dazu vorstellen. Manche Anwendungen sollen demnach verboten werden, andere als Hochrisikoanwendungen Auflagen unterliegen.
Die im KI-Verband zusammengeschlossenen Unternehmen warnen davor, auch alte Technologien neuen Regeln zu unterwerfen. Denn in der bisher bekannten Fassung des Gesetzes würden auch „statistische Ansätze“ und „Expertensysteme“ berücksichtigt, sagt der Vorsitzende des KI-Verbands, Jörg Bienert. „Fast jeder digitale Prozess würde darunter fallen.“
Besser wäre es laut Bienert, sich auf selbstlernende Algorithmen zu konzentrieren, die mit Trainingsdaten gefüttert werden und dann eigenständig nach Lösungen suchen.
Nur wenige Fälle will die Kommission so definieren, dass sie ein „inakzeptables“ Risiko darstellen und verboten sein sollen. Ihren Entwurf schärfte sie dazu kurzfristig nach, er liegt dem Handelsblatt vor.
Nun ist dort unter anderem die Rede von Systemen, die dazu gedacht sind, dem Nutzer Schaden zuzufügen. Auch ein Social Scoring nach chinesischem Vorbild soll verboten sein.
Ausnahmen gibt es beim Verbot von Gesichtserkennung im öffentlichen Raum. Diese soll erlaubt sein, um vermisste Kinder zu finden, schwere Verbrechen wie Terroranschläge zu verhindern und Menschen zu finden, die besonders schwere Verbrechen begangen haben.
Nach welchen Kriterien die EU-Mitgliedstaaten solche Technik ihren Strafverfolgungsbehörden erlauben, sollen sie selbst festlegen.
Neben den verbotenen Anwendungen wird die Kommission eine Reihe von Anwendungen definieren, die zwar mit hohem Risiko behaftet sind, aber unter Auflagen erlaubt bleiben. Dazu zählen die Einschätzung von Kreditwürdigkeit und die Bewertung von Bewerbungsunterlagen.
In der Vergangenheit produzierten Algorithmen in diesen Bereichen häufiger gesellschaftlich unerwünschte Ergebnisse, wie etwa bei der von Goldman Sachs entwickelten Apple-Kreditkarte: Nutzer stellten fest, dass Frauen bei gleichem Vermögen und gleichem Einkommen weniger Kredit bekamen – obwohl die Programmierer nicht vorgesehen hatten, dass der Algorithmus das Geschlecht berücksichtigen solle.
Gefahr der Diskriminierung
Die Regulierung soll nun einen sorgfältigen Umgang mit KI in diesen Bereichen vorschreiben, um gesellschaftliche Ungerechtigkeiten nicht zu verschärfen.
Der Grünen-Europaabgeordneten Alexandra Geese reicht das nicht. Sie fordert, KI in diesen Bereichen für einige Jahre zu verbieten: „Diskriminierungen sind überall immanent, wo Menschen von Maschinen bewertet und verwaltet werden. Sie lassen sich nicht wegdiskutieren“, sagte sie.
Der Bankenverband weist darauf hin, dass es schon jetzt über die Bankenaufsicht Auflagen gibt, welche Daten bei der Kreditvergabe an Privatkunden herangezogen werden dürfen. „Die Kommission sollte darauf achten, dass keine widersprüchlichen oder doppelten Anforderungen entstehen“, sagte Direktor Stephan Mietke.
Der europäische Gesetzgebungsprozess dauert in der Regel auch dann rund zwei Jahre, wenn sich die verschiedenen Institutionen im Grundsatz einig sind. Neben der Kommission haben auch das Parlament und der EU-Rat der Mitgliedstaaten das Recht, Änderungen vorzunehmen.
Anschließend muss die Verordnung in viele einzelne Standardisierungsprozesse eingebracht werden, um für Firmen nutzbar zu sein. Auch das dauert typischerweise mehrere Jahre.
Der Branchenverband Bitkom mahnt zur Eile: „Unsicherheit und langwierige Abstimmungsprozesse würden dringend notwendige Investitionen verzögern oder verhindern“, sagte Bitkom-Präsident Achim Berg.