Digitalisierung Justizministerium fordert „rote Linien“ beim Einsatz von Künstlicher Intelligenz
Ein Roboter als Musiker: Europa will bei der Anwendung Künstlicher Intelligenz globale Standards setzen.
Berlin Das Bundesjustizministerium fordert klare Grenzen für den Einsatz von Künstlicher Intelligenz (KI) auf europäischer Ebene. „Wir müssen festlegen, welche Aspekte von Künstlicher Intelligenz für uns als freiheitliche demokratische Gesellschaft inakzeptabel sind“, sagte Justizstaatssekretär Christian Kastrop dem Handelsblatt. „Es muss rote Linien beim Einsatz von KI geben.“
Künstliche Intelligenz bezeichnet meist Anwendungen auf Basis maschinellen Lernens, bei denen eine Software große Datenmengen nach Übereinstimmungen durchforstet und daraus Schlussfolgerungen zieht. Sie werden schon jetzt in vielen Bereichen unseres Lebens eingesetzt.
Zum Beispiel können solche Programme Aufnahmen von Computertomografen schneller und mit einer höheren Genauigkeit als Menschen auswerten. Selbstfahrende Autos versuchen so, das Verhalten anderer Verkehrsteilnehmer vorherzusagen. Und auch Chatbots oder automatische Playlisten von Streamingdiensten arbeiten mit KI.
Handlungsbedarf sieht Kastrop etwa beim Thema „dark pattern“. Das ist KI zur Beeinflussung von Personen durch unterschwellige Techniken. Damit werden beispielsweise bestimmte Emotionen angesprochen, um zu einem Kauf im Internet zu verleiten oder einen bestimmten Link anzuklicken. „Das umfasst auch eine Cookie-Einwilligung, die so designt ist, dass Webseiten-Besucher am ehesten die von den Anbietern gewünschte Auswahl mit dem größtmöglichen Zugriff auf die Nutzerdaten treffen“, erläuterte der Staatssekretär.
Problematisch sei auch Social Scoring, angefangen bei einer auf Algorithmen basierten Kreditwürdigkeitsprüfung und endend bei einem gläsernen Bürger. „Hier können Fehlentscheidungen erhebliche Folgen für Einzelne haben.“
Kritisch sieht Kastrop auch die biometrische Fernüberwachung, Gesichtserkennung zum Beispiel. Hier würden Grundrechte unmittelbar tangiert. „Solche Anwendungen können ganz schnell diskriminieren und zu Ausgrenzung führen.“
Die EU-Kommission hatte im April Regeln für den Umgang mit KI vorgeschlagen, die sowohl mögliche Risiken von Anwendungen als auch die Grundrechte der EU-Bürger berücksichtigen. Je höher die Gefahren sind, desto höher sollen auch die Anforderungen an ein Programm und seinen Entwickler sein. Für Regelverstöße sind hohe Strafen vorgesehen.
Alle Parteien wollen KI fördern
Im Bundestagswahlkampf machen sich alle Parteien für eine Förderung von KI stark. Die Union will Deutschland zur „Hochburg für Künstliche Intelligenz“ entwickeln. „Wir werden gezielt neue KI-Professuren einrichten und den wissenschaftlichen Nachwuchs fördern, um die weltweit klügsten Köpfe an den KI-Forschungsstandort Deutschland zu holen“, heißt es im Wahlprogramm.
Die SPD setzt ihren Fokus auf „verantwortungsvolle Künstliche Intelligenzen (KI) und Algorithmen, die vorurteilsfrei programmiert sind und auf diskriminierungsfreien Datenlagen basieren“. Die Grünen haben vor allem die ökologischen und sozialen Potenziale der Technologie im Blick.
Die FDP strebt eine „KI-Roadmap für Künstliche Intelligenz (KI)“ an. Jedes Ministerium soll demnach bis 2025 zehn konkrete KI-Anwendungsfälle in der jeweiligen fachlichen Zuständigkeit identifizieren und umsetzen, heißt es im Wahlprogramm. Von Fördermitteln sollen zudem auch Start-ups, kleine und mittlere Unternehmen sowie Gründerinnen und Gründer profitieren.
Die Liberalen plädieren außerdem für einen europäischen Rechtsrahmen, der im gesamten europäischen digitalen Binnenmarkt Rechtssicherheit gewährleisten solle. Das will auch die EU-Kommission.
Tüv könnte KI-Systeme zertifizieren
Die von Brüssel angestrebte Klassifizierung von KI-Anwendungen in Risikobereichen hält Justizstaatssekretär Kastrop für sinnvoll. „Hochrisiko-KI sollte auch unabhängig zertifiziert sein“, sagte er. Es sei zwar nachzuvollziehen, dass die Wirtschaft Geschäftsgeheimnisse wie Algorithmen schützen möchte. „Wichtig ist dennoch, dass KI-Systeme vollständig nachvollziehbar und überprüfbar sind“, betonte der Staatssekretär. „Deshalb braucht es unabhängige Prüfinstanzen. Das können der Tüv oder andere Zertifizierungsinstitutionen sein.“
Kastrop äußerte zugleich Verständnis für die Sorgen der Wirtschaft vor Überregulierung von neuen Technologien. Das sei im Fall der Künstlichen Intelligenz jedoch nicht beabsichtigt. „Wir wollen aber nachweislich vertrauenswürdige KI-Anwendungen“, sagte er.
Vertrauen sei bei KI „extrem wichtig“. Davon profitiere am Ende auch die Wirtschaft. „Denn: Vertrauenswürdige KI-Systeme sind ein Markenzeichen und werden uns im Wettbewerb mit Asien langfristig Vorteile bringen.“
Künstliche Intelligenz gilt in der deutschen Wirtschaft als entscheidende Zukunftstechnologie und immer mehr Unternehmen sehen in KI eine Chance für das eigene Geschäft. #ki pic.twitter.com/aQn0FIIRGC
— Dietmar Neuerer (@dneuerer) August 29, 2021
Ähnlich wie bei der Datenschutz-Grundverordnung (DSGVO), die seit 2018 in der EU gilt und weltweit Nachahmer fand, will die EU-Kommission auch beim Umgang mit Künstlicher Intelligenz globale Standards setzen. Doch müssen die EU-Staaten und das Europaparlament nun erst mal über die Vorschläge verhandeln.
„Ich hoffe, wir werden im ersten Halbjahr 2022 größere Fortschritte bei der KI-Regulierung der EU machen“, sagte Kastrop. „Ob es unter französischer Ratspräsidentschaft gelingt, zu einem Ende zu kommen, wird man sehen.“
Mehr: Künstliche Intelligenz: So schwierig gestaltet sich eine Regulierung
Das Kommentieren dieses Artikels wurde deaktiviert.
Sehr gut, dass darüber endlich diskutiert wird. Wenn die Menschen eines Tages von der KI abhängig und nicht mehr in der Lage sind, ihr Leben zu steuern, was unterscheidet den Menschen dann noch vom Tier? M.E. muss der Mensch immer wissen, was passiert, wenn man die KI abschalten würde. Ich habe allerdings Zweifel, dass wir heute schon nicht mehr wissen, was passieren würde, wenn man das Internet mal für 2 Wochen abschalten würde.