Benachrichtigung aktivieren Dürfen wir Sie in Ihrem Browser über die wichtigsten Nachrichten des Handelsblatts informieren? Sie erhalten 2-5 Meldungen pro Tag.
Fast geschafft Erlauben Sie handelsblatt.com Ihnen Benachrichtigungen zu schicken. Dies können Sie in der Meldung Ihres Browsers bestätigen.
Benachrichtigungen erfolgreich aktiviert Wir halten Sie ab sofort über die wichtigsten Nachrichten des Handelsblatts auf dem Laufenden. Sie erhalten 2-5 Meldungen pro Tag.
Jetzt Aktivieren
Nein, danke

Abschlussbericht Datenethikkommission bringt Algorithmen-Verbot ins Spiel

Der zunehmende Einsatz von Algorithmen fordert den Gesetzgeber heraus. Eine Regierungskommission macht nun Vorschläge für eine umfassende Regulierung.
Update: 23.10.2019 - 12:44 Uhr Kommentieren
Facebook und Co.: Grüne blasen zum Kampf gegen Algorithmen Quelle: Reuters
Programmcode

Im Visier der Regulierer: Algorithmen.

(Foto: Reuters)

Berlin Der Einsatz von Algorithmen und Künstlicher Intelligenz sowie der Umgang mit Daten birgt große Potenziale. Gleichzeitig stellen sich zahlreiche ethische und rechtliche Fragen. Um die richtigen Antworten zu finden, hat sich die Bundesregierung fachliche Unterstützung geholt.

Im Juli 2018 nahm die vom Innen- und dem Justizministerium eingesetzte sogenannte Datenethikkommission ihre Arbeit auf. Die 16 Mitglieder aus den Bereichen Technik, Ethik und Recht sollten eine Reihe an Leitfragen beantworten.

An diesem Mittwoch nun legen die Experten ihren Abschlussbericht vor. In dem 240 Seiten langen Bericht, der dem Handelsblatt in Auszügen vorliegt, skizziert die Kommission einen umfassenden Regulierungsrahmen für den Umgang mit Daten und algorithmischen Systemen.

Die Experten sehen etwa Handlungsbedarf bei „ethisch nicht vertretbaren Datennutzungen“. Dazu zählen sie beispielsweise die Totalüberwachung, eine die Integrität der Persönlichkeit verletzende Profilbildung und eine „dem Demokratieprinzip zuwiderlaufende Beeinflussung politischer Wahlen“. Auch gegen eine „systematische Schädigung von Verbrauchern sowie viele Formen des Handels mit personenbezogenen Daten“ müssten Maßnahmen ergriffen werden, heißt es in dem Bericht.

Die Experten bemängeln in diesem Zusammenhang Defizite bei der Anwendung geltenden Rechts. Sowohl das Datenschutzrecht als auch die übrige Rechtsordnung würden bislang „nicht in ausreichender Weise genutzt – insbesondere gegenüber marktmächtigen Unternehmen“. Dabei gebe es eine „Fülle von Instrumenten“, um gegen ethisch nicht vertretbare Datennutzungen vorzugehen.

Folgerichtig mahnt die Kommission eine „Schärfung des Bewusstseins bei handelnden Akteuren“ wie den Aufsichtsbehörden für die bereits bestehenden Möglichkeiten an. Um die „Wirkungskraft der Aufsichtsbehörden“ zu erhöhen, müssten diese zudem personell besser ausgestattet werden. Das hatten die Behördenchefs in der Vergangenheit immer wieder gefordert, angesichts der angespannten Haushaltslage in den Bundesländern konnten sie sich damit aber nicht durchsetzen.

Kommission für „punktuelle Verschärfung“ des geltenden Rechtsrahmens

Dessen ungeachtet hält das Ethikgremium auch eine Konkretisierung und „punktuelle Verschärfung“ des geltenden Rechtsrahmens für geboten, etwa für Profilbildungen und Scoring wie auch für den Datenhandel. Darauf hatte auch schon der Bundesdatenschutzbeauftragte Ulrich Kelber hingewiesen. „Auf europäischer Ebene müssen Profiling und Scoring in einer weiterentwickelten Datenschutz-Grundverordnung detaillierter behandelt werden“, hatte Kelber, der Mitglied in der Datenethikkommission ist, zu Jahresbeginn dem Handelsblatt gesagt.

Ein weiteres Thema für die Kommission war die Künstliche Intelligenz (KI), also Systeme, die auf Basis früherer Entscheidungen „lernen“ können. „Wie kann sichergestellt werden, dass Maschinen, die auf KI-Basis arbeiten, kontrollierbar sind“, lautete eine Frage für die Kommission.

In dem Bericht stellen die Experten die Kontrolle algorithmischer Systeme in einen Zusammenhang mit ihrem „Schädigungspotenzial“. Anhand der Gefährlichkeit der Algorithmen, die die Kommission in fünf Risikoklassen einteilt, sollen den Betreibern von Algorithmen künftig bestimmte Pflichten auferlegt werden. Bei Anwendungen mit einem „gewissen Schädigungspotenzial“ müssen die Unternehmen etwa eine „angemessene Risikofolgenabschätzung“ erstellen und veröffentlichen. Algorithmen mit „unvertretbarem Schädigungspotenzial“ sollen nach Vorstellung der Ethiker auch verboten werden können.

Die Grünen unterstützen die Vorschläge. „Es ist richtig, die gesetzlich zu verankernden Pflichten der Betreiber danach zu staffeln, wie kritisch die Auswirkungen des angewandten Algorithmus sein können und auch Verbote bestimmter Anwendungen, wie komplett automatisierte Entscheidungen, nicht von vornherein auszuschließen“, erklärten Konstantin von Notz, Stellvertretender Fraktionsvorsitzender, und Tabea Rößner, Sprecherin für Netz- und Verbraucherschutzpolitik.

Um Verbrauchern eine Orientierung über vertrauenswürdige algorithmische Systeme zu geben, regt die Kommission zudem ein „spezifisches Gütesiegel als freiwilliges oder verpflichtendes Schutzzeichen“ an. Dies könne gleichzeitig „marktwirtschaftliche Anreize für Entwickler und Betreiber setzen, vertrauenswürdige Systeme zu entwickeln und zu verwenden“, heißt es in dem Bericht.

Stärkere Kontrolle durch „Kompetenzzentrum Algorithmische Systeme“

Außerdem schlagen die Experten eine Pflicht für Unternehmen zur Benennung eines Algorithmus-Beauftragten vor. „Ähnlich wie schon heute Unternehmen ab einer bestimmten Größe einen Datenschutzbeauftragten benennen müssen, sollten (…) künftig auch solche Unternehmen und Behörden, die kritische algorithmische Systeme betreiben, einen Ansprechpartner benennen müssen.“ Er solle für die Kommunikation mit Behörden zur Verfügung stehen und zu einer Mitwirkung verpflichtet sein, schreibt das Ethikgremium in seinem Abschlussbericht.

Als oberste Kontrollinstanz soll die Bundesregierung nach Ansicht der Kommission ein bundesweites „Kompetenzzentrum Algorithmische Systeme“ einrichten. Es soll die bestehenden Aufsichtsbehörden durch „technischen und regulatorischen Sachverstand“ dabei unterstützen, „algorithmische Systeme im Hinblick auf die Einhaltung von Recht und Gesetz zu kontrollieren“.

Zur Umsetzung der vorgeschlagenen Maßnahmen empfiehlt das Expertengremium überdies eine Regulierung auf EU-Ebene – in einer, wie es in dem Bericht heißt, „Verordnung für Algorithmische Systeme“. Darin sollen „zentrale Grundprinzipien“ enthalten sein, angelehnt an den von der Datenethikkommission benannten Anforderungen. Was auf der Ebene der EU geregelt wird, soll schließlich in den einzelnen Mitgliedstaaten eine „Konkretisierung“ erfahren, so die Idee.

Der Präsident des IT-Verbands Bitkom, Achim Berg, kritisierte die Vorschläge zur Algorithmen-Regulierung scharf. Das Gremium sei hier über das Ziel hinausgeschossen. Anstatt eine enge Kategorie von Algorithmen zu identifizieren, die wegen ihres Gefährdungspotenzials einer besonderen Regulierung bedürfen könnten, würden in dem heute vorgelegten Abschlussbericht der Kommission „fast alle Algorithmen unter einen Generalverdacht gestellt“, sagte Berg dem Handelsblatt.

Algorithmen seien bereits heute Teil des täglichen Lebens, von der Route des Navigationsgeräts über die Wettervorhersage bis hin zur Empfehlung eines Musiktitels, erläuterte der Bitkom-Präsident. „Die allerwenigsten davon bergen das Risiko von Diskriminierung oder Gefahr für Leib und Leben.“ Eine Risikobewertung für jeden einzelnen Algorithmus sei nicht nur nicht notwendig, sondern angesichts der Fülle an Anwendungen auch in der Praxis überhaupt nicht durchführbar.

Um Missbrauch oder Fehlverhalten auszuschließen, sollte in den meisten Fällen das geltende Recht wie Vertrags- und Verbraucherrecht, Antidiskriminierungsgesetze, das Haftungsrecht oder Datenschutzgesetze ausreichend sein, betonte Berg. „Wir brauchen mehr Verständnis von Algorithmen, nicht mehr Verbote“, mahnte der Bitkom-Präsident. „Dazu gehört eine größtmögliche Transparenz, gerade im Bereich Künstliche Intelligenz und maschinelles Lernen, an der nicht zuletzt die Unternehmen selbst interessiert sind.“

Inwieweit die Bundesregierung die Empfehlungen der Datenethikkommission aufgreift und in Gesetze gießt, lässt sich derzeit nicht abschätzen. Andererseits haben Union und SPD in ihrem Koalitionsvertrag bereits angekündigt, dass Verbraucher bei Entscheidungen, Dienstleistungen und Produkten, die auf Algorithmen und künstlicher Intelligenz (KI) basieren, einen besonderen Schutz bekommen sollen.

Konkret will die Koalition möglichen unzulässigen Diskriminierungen, Benachteiligungen und Betrügereien einen Riegel vorschieben. Wie genau, dazu liefert der Koalitionsvertrag keine Hinweise.

Das Ethikgremiums gibt in dieser Hinsicht nützliche Denkanstöße. Was daraus wird? Innenminister Horst Seehofer (CSU) erklärte dazu bereits im vergangenen Jahr: Nach der Vorlage des Abschlussberichts bleibe noch genug Zeit, Vorschläge vor der nächsten Bundestagswahl im Herbst 2021 auch umzusetzen.

Die Experten hoffen trotz ihrer teilweise sehr detaillierten Vorgaben für den Einsatz von Algorithmen und Künstlicher Intelligenz sowie den Umgang mit Daten auf eine Regulierung mit Augenmaß. „Allzu starre und detaillierte Gesetze können Handlungsspielräume einschränken und bürokratischen Aufwand auf eine Weise erhöhen, dass innovative Prozesse in Deutschland der Geschwindigkeit der internationalen technologischen Entwicklungen nicht mehr folgen können.“

Mehr: Schlaue Algorithmen werden unseren Alltag verändern, doch Katharina Zweig, Expertin für Künstliche Intelligenz, warnt im Handelsblatt-Podcast: „Wir sollten nie eine starke KI entwickeln“.

Startseite

Mehr zu: Abschlussbericht - Datenethikkommission bringt Algorithmen-Verbot ins Spiel

0 Kommentare zu "Abschlussbericht: Datenethikkommission bringt Algorithmen-Verbot ins Spiel"

Das Kommentieren dieses Artikels wurde deaktiviert.