Bericht der Datenethikkommission Regierungskommission löst Debatte über Algorithmen-Regulierung aus
Was tun gegen gefährliche Algorithmen? Eine Regierungskommission hat dazu Vorschläge gemacht.
Berlin Die Datenethikkommission (DEK) hat mit ihren Empfehlungen für den Umgang mit Daten und Künstlicher Intelligenz eine Debatte über die Regulierung von Algorithmen ausgelöst. Insbesondere der Vorschlag, bestimmte Algorithmen zu verbieten, sorgt für Diskussionen.
„Einen risikoadaptierten Regulierungsansatz von algorithmischen Systemen halte ich grundsätzlich für sinnvoll“, sagte der CDU-Digitalpolitiker Tankred Schipanski dem Handelsblatt. „Im extremen Fall, wenn das Schädigungspotenzial ein unvertretbares Maß erreicht, müssen auch Verbote möglich sein.“
Das sehen auch die Grünen so. „Der Einsatz von Algorithmen kann weitreichende gesellschaftliche Folgen haben, deshalb ist eine Verbindung von kluger Regulierung und effektiver Aufsicht sinnvoll“, sagte er der Sprecher der Grünen-Bundestagsfraktion für Industriepolitik und digitale Wirtschaft, Dieter Janecek, dem Handelsblatt. „Im Extremfall kann dies bedeuten, bestimmte algorithmischer Systeme, beispielsweise solche, die eine Totalüberwachung von Menschen ermöglichen könnten, schlicht und einfach verbieten zu müssen.“
Der SPD-Digitalpolitiker Jens Zimmermann warnte dagegen vor überzogenen Maßnahmen. „Den Einsatz von Algorithmen per se zu verbieten, wird in der digitalen Welt nicht möglich sein“, sagte der Bundestagsabgeordnete dem Handelsblatt. „Wir wollen den technischen Fortschritt.“ Gleichwohl dürfe der Einsatz der Algorithmen nicht zur Diskriminierung und weiteren Kartellbildung in der digitalen Welt führen. „Die Machtkonzentration muss aufgebrochen werden und zwar mit klaren Regeln für Transparenz und Offenlegung“, sagte Zimmermann.
Die von der Bundesregierung eingesetzte Datenethikkommission hatte zuvor ihr Gutachten zum Einsatz von Algorithmen und Künstlicher Intelligenz sowie dem Umgang mit Daten an das Bundesjustiz- und das Bundesinnenministerium übergeben.
„Technologischer Fortschritt ist kein Wert an sich“, sagte Justizministerin Christine Lambrecht (SPD). „Mir liegt daher viel daran, dass wir gemeinsam eine wertebasierte, menschenzentrierte und gemeinwohlorientierte digitale Zukunft gestalten, die niemanden zurücklässt und der die Menschen vertrauen können.“
Die Digital-Staatsministerin Dorothee Bär (CSU) lobte die Arbeit der Kommission. Die Experten seien auf die „alles andere als trivialen Fragen mit substanziellen Überlegungen“ eingegangen und hätten damit „Beachtliches geleistet“, sagte Bär dem Handelsblatt. „Die Bundesregierung wird die Empfehlungen nun sorgfältig prüfen und in diesem Rahmen über Ob und Wie einer Umsetzung der einzelnen Empfehlungen entscheiden.“
Bitkom warnt vor Generalverdacht gegen Algorithmen
Dazu macht die Datenethikkommission umfassende Vorschläge. In ihrem 240 Seiten langen Gutachten skizzieren die 16 Kommissionsmitglieder aus den Bereichen Technik, Ethik und Recht einen Regulierungsrahmen für den Umgang mit Daten und algorithmischen Systemen.
Anhand der Gefährlichkeit der Algorithmen, die das Gremium in fünf Risikoklassen einteilt, sollen den Betreibern von Algorithmen künftig bestimmte Pflichten auferlegt werden. Bei Anwendungen mit einem „gewissen Schädigungspotenzial“ müssen die Unternehmen etwa eine „angemessene Risikofolgenabschätzung“ erstellen und veröffentlichen. Algorithmen mit „unvertretbarem Schädigungspotenzial“ sollen nach Vorstellung der Ethiker auch verboten werden können.
Um Verbrauchern eine Orientierung über vertrauenswürdige algorithmische Systeme zu geben, regt die Kommission zudem ein „spezifisches Gütesiegel als freiwilliges oder verpflichtendes Schutzzeichen“ an. Außerdem schlagen die Experten eine Pflicht für Unternehmen zur Benennung eines Algorithmus-Beauftragten vor, sofern sie kritische algorithmische Systeme betreiben.
Der soll dann als Ansprechpartner für die Kommunikation mit Behörden zur Verfügung stehen. Als oberste Kontrollinstanz soll die Bundesregierung zudem ein bundesweites „Kompetenzzentrum Algorithmische Systeme“ einrichten. Außerdem empfiehlt das Expertengremium eine Regulierung auf EU-Ebene.
Der IT-Verband Bitkom warf der Kommission vor, mit ihren Empfehlungen über das Ziel hinausgeschossen zu sein. Anstatt eine enge Kategorie von Algorithmen zu identifizieren, die wegen ihres Gefährdungspotenzials einer besonderen Regulierung bedürfen könnten, würden „fast alle Algorithmen unter einen Generalverdacht gestellt“, sagte der Bitkom-Präsident Achim Berg dem Handelsblatt.
Chancen von Algorithmen verkannt?
Der Bundesverband Digitale Wirtschaft (BVDW) mahnte zu einer Regulierung mit Augenmaß. Algorithmen seien mathematische Werkzeuge, die bestimmte Operationen ausführen. „Ein Hammer ist auch ein Werkzeug, das nicht prinzipiell verboten wird“, sagte BVDW-Vizepräsident Achim Himmelreich dem Handelsblatt.
Gleichwohl seien bestimmte Anwendungen des Hammers natürlich verboten. „So sollte es sich auch mit Algorithmen verhalten.“ Vor allem dann, wenn sie für „destruktive Zwecke entworfen werden“. Das müsse aber eindeutig festgestellt und nachgewiesen werden.
Auch Oliver Süme vom eco-Verband der deutschen Internetwirtschaft warnte: „Regulierungsphantasien wie eine neue allgemeine europäische Algorithmen-Verordnung (EUVAS) könnten zur echten Digitalisierungs-Bremse werden, denn Algorithmen sind die Basis digitaler Transformation.“
Kritik kam auch von der FDP. Die Debatte über Algorithmen zeige ein typisch deutsches Problem: „Oft sollen Dinge schon verboten werden, bevor irgendein Schaden entstanden ist“, sagte Fraktionsvize Frank Sitta dem Handelsblatt. Ein Verbot sei schon deshalb wenig praktikabel, weil eine Abgrenzung zwischen verschiedenen Anwendungsbereichen „quasi unmöglich“ sei. „Wie so oft werden die Chancen von Algorithmen vollkommen verkannt“, fügte Sitta hinzu. „Verbieten wir Algorithmen jetzt schon, dann berauben wir uns auch ihrer Chancen.“ Innovation entstehe dann in anderen Ländern.
Bitkom-Präsident Berg gab zudem zu bedenken, dass Algorithmen bereits heute Teil des täglichen Lebens seien, von der Route des Navigationsgeräts über die Wettervorhersage bis hin zur Empfehlung eines Musiktitels. „Die allerwenigsten davon bergen das Risiko von Diskriminierung oder Gefahr für Leib und Leben.“ Um Missbrauch oder Fehlverhalten auszuschließen, sollte in den meisten Fällen das geltende Recht ausreichend sein. „Wir brauchen mehr Verständnis von Algorithmen, nicht mehr Verbote“, mahnte Berg.
Bundesweite Algorithmen-Aufsicht
Unterschiedlich bewertet wird auch die Idee der Regierungskommission für eine bundesweite Algorithmen-Aufsicht und eine Regulierung auf EU-Ebene. „Das bewerten wir als SPD-Fraktion positiv“, sagte der Abgeordnete Zimmermann. „Als Gesetzgeber brauchen wir die Strukturen, die für die Einhaltung des fairen Wettbewerbs und Wirtschaftens sorgen.“ Der europäische Binnenmarkt sollte daher hier auch „klare Aufsichtsstrukturen“ haben.
Auch der CDU-Digitalpolitiker plädierte mit Blick auf Algorithmen für „eine Instanz, die kompetent beurteilen kann, ob die Vorgaben bei der Entwicklung oder dem Einsatz solcher Systeme eingehalten werden“. Welche Stelle das sein könne, müsse die Bundesregierung entscheiden. Er selbst halte eine Regulierung auf EU-Ebene „perspektivisch für sinnvoll“. Der Grünen-Digitalpolitiker Janecek wertet den Kommissionsvorschlag für ein „Kompetenzzentrum Algorithmische Systeme“ als „sinnvollen Ansatz“. Aus einer Sicht aber „möglichst auf europäischer Ebene, zumindest aber in enger europäischer Kooperation“.
Der FDP-Politiker Sitta sagte dazu: „Neue Regulierungsbehörden sind das Letzte, was Europa brauchen kann. Wir haben kein Regulierungsdefizit, sondern ein Innovationsdefizit.“ Er schlägt stattdessen vor, die auf EU-Ebene bestehenden Aufsichtsbehörden in die Lage zu versetzen, mit den neuen Herausforderungen „adäquat“ umzugehen.
Der Digitalverband BVDW sieht ebenfalls keine Notwendigkeit für eine neue Kontrollbehörde. „Eine allgemeine Algorithmen-Aufsicht macht keinen Sinn, denn sie wäre mit den Aufgaben überfordert“, sagte Verbandsvize Himmelreich.
Mehr: Der zunehmende Einsatz von Algorithmen fordert den Gesetzgeber heraus. Lesen Sie hier, wie sich die Datenethikkommission eine Regulierung vorstellt.
Das Kommentieren dieses Artikels wurde deaktiviert.