Benachrichtigung aktivieren Dürfen wir Sie in Ihrem Browser über die wichtigsten Nachrichten des Handelsblatts informieren? Sie erhalten 2-5 Meldungen pro Tag.
Fast geschafft Erlauben Sie handelsblatt.com Ihnen Benachrichtigungen zu schicken. Dies können Sie in der Meldung Ihres Browsers bestätigen.
Benachrichtigungen erfolgreich aktiviert Wir halten Sie ab sofort über die wichtigsten Nachrichten des Handelsblatts auf dem Laufenden. Sie erhalten 2-5 Meldungen pro Tag.
Jetzt Aktivieren
Nein, danke

Algorithmen Justizministerin Barley fordert Generalklauseln für Künstliche Intelligenz

Die Bundesjustizministerin erwartet mehr ethisches Verhalten von der Wirtschaft im Umgang mit Künstlicher Intelligenz und Algorithmen.
Kommentieren
„Im Bereich KI habe ich nicht den Eindruck, dass überreguliert wird“, sagt die Bundesjustizministerin. Quelle: Reuters
Katarina Barley

„Im Bereich KI habe ich nicht den Eindruck, dass überreguliert wird“, sagt die Bundesjustizministerin.

(Foto: Reuters)

Berlin Bundesjustizministerin Katarina Barley (SPD) hat eine wirksame Regulierung für den Einsatz Künstlicher Intelligenz (KI) angemahnt. „Je höher der Eingriff in die Grundrechte ist, umso höher müssen natürlich die Standards der Transparenz und Kontrolle sein“, sagte Barley an diesem Montagnachmittag bei einer Veranstaltung der Bertelsmann-Stiftung in Berlin.

Dabei diskutierte sie auch mit dem Vorstand der Bertelsmann-Stiftung, Jörg Dräger, über „Werte und Wettbewerb in der algorithmischen Welt“. Dräger hat mit Co-Autor Ralph Müller-Eiselt ein Buch zum Thema verfasst: „Wir und die intelligenten Maschinen“.

„Bei diesen Eingriffen muss auch immer die Möglichkeit sein, auf eine menschliche Instanz am Ende zurückzufallen“, betonte Barley. Für die Entwicklung von KI sollten demnach Generalklauseln gelten.

Generalklauseln sind sehr weit gefasste Rechtsvorschriften, die von der Rechtsprechung konkretisiert werden müssen. Durch diese müsse schon der Programmierer gezwungen sein, dass es durch den Algorithmus zum Beispiel keine Diskriminierung gebe, sagte Barley.

Die EU-Kommission stellte diesen Montag einen Moralkodex für die Entwicklung und den Einsatz von KI vor. Die Systeme sollen demnach grundsätzlich transparent sein, von Menschen überwacht werden und sich an Standards für den Schutz der Privatsphäre halten. Barley betont: „Im Bereich KI habe ich nicht den Eindruck, dass überreguliert wird.“ Ethische Grundsätze würden die technische Entwicklung nicht behindern.

In Berlin berichtete die Bundesjustizministerin auch von ihrem Treffen vergangene Woche mit Facebook-Chef Mark Zuckerberg: „Zu meinem großen Erstaunen hat er gesagt, dass Facebook die Datenschutzgrundverordnung bis auf wenige Ausnahmen in der ganzen Welt anwendet.“ Bewerten wolle sie diese Aussage aber nicht.

Barley sieht jedoch Chancen, dass die EU-Datenschutzgrundverordnung zum „Exportartikel“ wird. Es sei eine Vorlage nach europäischer Werteordnung geschaffen worden, die weder den amerikanischen Werten von „alles monetarisieren“, noch den chinesischen Werten von „alles kontrollieren“ entspreche, und sich dennoch durchzusetzen scheine. „Das ist ermutigend“, sagte Barley.

Daten im Alltag

Algorithmen seien bereits Teil des Alltags geworden, schreibt der Vorstand der Bertelsmann-Stiftung Dräger, auch wenn das nicht immer transparent sei. „Weder die Öffentlichkeit noch ihre gewählten Vertreter wissen, welche Daten in die Algorithmen eingespeist werden und wie sie dort gewichtet werden“, heißt es in dem Buch zu Beispielen aus den USA.

In New York werden etwa Polizisten auf Basis von maschinell erstellten Kriminalitätsprognosen auf Verbrecherjagd geschickt, Schüler von Computern ihren weiterführenden Schulen zugeteilt, Sozialhilfevergabe durch Software überprüft und Untersuchungshaft auf Basis algorithmisch berechneter Rückfallquoten verhängt. Das laufe jedoch nicht immer ohne Diskriminierung ab.

„Algorithmen können Aufgaben lösen, die zu komplex für Menschen sind“, heißt es in dem Buch. Genauso könnten sie allerdings gesellschaftlich vorhandene Ungleichheiten verfestigen oder gar neue Diskriminierungen hervorbringen. „Es liegt an uns, die Weichen in die richtige Richtung zu stellen“, schreiben die Autoren.

Nur Parlamente und Politik könnten Abwägungsentscheidungen treffen, sagt Dräger. Als Beispiel nannte er einen sogenannten Schuleinzugsrechner, der im Berliner Bezirk Tempelhof-Schöneberg zum Einsatz komme. „Die Entscheidung, ob soziale Durchmischung einer Klasse wichtiger ist als Wohnortnähe oder umgekehrt, sollte nicht ein Programmierer entscheiden, sondern ein gewählter Politiker.“

Die Debatte in der Wirtschaft sei, mit Blick auf die KI, „eine sehr chancenorientierte Debatte“. Da gehe es um Effizienzsteigerungen, Produktionsprozesse und Industrie 4.0. In der Zivilgesellschaft gebe es aber „eine sehr risikoaverse Debatte“, bei der es um Abwehr und Gefahren gehe.

Dräger mahnte eine „nüchterne Betrachtungsweise“ einer algorithmischen Gesellschaft an. Es müsse jedoch auch gefragt werden, wie Gesellschaft und Politik den Tech-Giganten „die Stirn bieten“ könnten. „Wenn wir nichts tun, wird es eher eine Welt werden, in der wenige Tech-Giganten versuchen, die Gesellschaft zu beherrschen“, warnte er.

Neue Regelungen gefragt

Schuld daran sei auch das deutsche Kartellrecht, das noch „analog“ sei, so Barley. „Die Fusion von Facebook, Whatsapp und Instagram war kartellrechtlich nicht zu beanstanden nach unseren derzeitigen Regeln.“ Da gehe es um Nutzerzahlen, Gewinn und Umsätze. „Aber es geht überhaupt nicht darum, was da für Datenmengen und Datenverbindungen entstehen“, erklärte die Bundesjustizministerin. „Das sind neue Dimensionen, die sich da auftun.“

In ihrem Buch kritisieren Dräger und Müller-Eiselt die Ende 2018 verabschiedete KI-Strategie der Bundesregierung mit einem Volumen von drei Milliarden Euro. Die Strategie erkenne zwar die Bedeutung gemeinwohlorientierter Innovation grundsätzlich an, enthalte aber „leider noch keine systematischen Ansätze zur Förderung algorithmischer Vielfalt.“ Um soziale Diversität erreichen können, müsse es aber deutlich mehr Möglichkeiten für unterschiedlichste Betreiber geben, Nutzerdaten herauszuarbeiten.

Alle Daten unter Kontrolle weniger Unternehmen verhindere dagegen Wettbewerb und Innovation. „Denn dem Zugang zu Daten verdanken Google und Facebook ihre Dominanz“, schreiben die Autoren. Über die Angebote dieser beiden Tech-Giganten liefen fast 75 Prozent des mobilen Datenverkehrs im Internet. Ansatzweise mithalten könnten nur wenige andere wie Amazon oder die aufstrebenden chinesischen Plattformen Tencent und Baidu.

Doch nur wer hochwertige Daten besitze, könne Künstliche Intelligenz trainieren, und so die Qualität seiner Produkte stetig steigern. „Solange lediglich wenige Großunternehmen über diesen Zugang verfügen, bauen sie ihre Dominanz immer weiter aus“, beklagen Dräger und Müller-Eiselt. Sie fordern Eintrittsbarrieren für kleinere Unternehmen und gemeinnützige Akteure zu senken, etwa indem Unternehmen verpflichtet würden, Datensets der Allgemeinheit zur Verfügung zu stellen.

Mehr Transparenz

Mit Blick auf die viel stärkeren KI-Aktivitäten der USA und in China betonte Barley, sie habe nicht den Eindruck, dass hierzulande „Bedenken die Oberhand“ hätten. Aber wenn es etwa um Gesundheitsdaten gehe, müsse genau hingeschaut werden. „Ich bin dann oft die Spaßbremse im Kabinett“, gab sie zu.

Wie mehr Transparenz zu erreichen sei, darüber waren sich Barley und Dräger weitgehend einig. „Wenn Google drei Mal am Tag seinen Algorithmus verändert, dann werde ich nie Transparenz über die Offenlegung des Quellcode schaffen können“, sagte Dräger. Es gehe um den algorithmischen Prozess: „Wer ist verantwortlich, was sind Eingriffsmöglichkeiten, was sind Beschwerdemöglichkeiten?“

In der Pharmaindustrie seien Hersteller von Medikamenten schließlich verpflichtet, Patienten über Inhaltsstoffe, Anwendung und mögliche Nebenwirkungen in Kenntnis zu setzen. Statt jedoch auch für Algorithmen einen „Beipackzettel“ zu entwerfen, zögen sich Softwarehersteller zu häufig auf die Behauptung zurück, die Materie sei schlicht nicht so einfach zu erklären. „Ein Beipackzettel muss auch für Technologie möglich sein“, forderte Dräger.

Als Bundesverbraucherministerin forderte Barley „zwei Arten von Transparenz“: Jeder von einem Algorithmus Betroffene müsse selbst in die Kriterien reinschauen können, in der Reihenfolge ihrer Wichtigkeit. Zudem müsse eine öffentliche Stelle oder ein „Watchdog“ die Möglichkeit einer generellen Überprüfung haben.

Startseite

0 Kommentare zu "Algorithmen: Justizministerin Barley fordert Generalklauseln für Künstliche Intelligenz"

Das Kommentieren dieses Artikels wurde deaktiviert.

Serviceangebote