EU-Regulierung: Diese Punkte entscheiden über die Zukunft deutscher KI-Unternehmen
Unternehmen fürchten Überregulierung.
Foto: mauritius images / Tanit boonruen / Alamy / Alamy Stock PhotosBerlin. Die europäische KI-Regulierung befindet sich in einer entscheidenden Phase. Nach jahrelangen Verhandlungen zeichnet sich ab, dass das Regelwerk bald verabschiedet werden könnte. „Ich bin optimistisch, dass sich die Mitgliedstaaten noch rechtzeitig vor den Europawahlen auf eine gemeinsame Linie einigen können“, sagte ein ranghohes Mitglied der Bundesregierung dem Handelsblatt. Die beteiligten deutschen Ministerien – insbesondere die Ressorts Wirtschaft, Justiz, Digitales und Inneres – hätten alle Unstimmigkeiten ausräumen können.
Man werde sich auch nicht gegen eine Einigung auf europäischer Ebene sperren. Bis Februar 2024 ist noch Zeit, um das Vorhaben in dieser Legislaturperiode abzuschließen. Insbesondere die EU-Kommission und die spanische Ratspräsidentschaft wollen allerdings schon bei der nächsten Verhandlungsrunde am 6. Dezember eine finale Einigung erzielen.
Die jüngsten Durchbrüche im Bereich Künstliche Intelligenz (KI) hatten den Druck auf die EU erhöht, die Verhandlungen abzuschließen. Die Wirtschaft setzt wegen der vielfältigen Einsatzmöglichkeiten große Hoffnungen in neue Sprachmodelle wie ChatGPT.
>> Lesen Sie hier: Warum KI-Unternehmen strengere Gesetze fordern und die Politik nicht liefert
Sie können als persönlicher Assistent dienen, der E-Mails beantwortet oder Termine ausmacht – oder etwa dazu, neue Arzneimittel zu erforschen, Personal zu rekrutieren oder Software zu programmieren. Für diese Bereiche sollen bald EU-weite Regeln gelten – ohne deutsche und europäische Unternehmen im Wettbewerb mit deutlich größeren US-Konzernen zu benachteiligen, so das Ziel.
Doch ob das gelingt, liegt an vielen offenen Detailfragen. Die Branche warnt seit Monaten vor einer Überregulierung, während die Kommission nach Darstellung der KI-Unternehmerin Dagmar Schuller deutlich machen will, dass die Regulierung „keine Innovationsbremse“ ist. Schuller ist Gründerin des Start-ups Audeering, Professorin für Wirtschaftsinformatik und hat am Dialog zwischen Parlamentariern und Unternehmen zur KI-Regulierung teilgenommen.
Punkt 1: Zwei-Stufen-Regulierung
Ein entscheidender Punkt ist der Artikel 28b, der sich auf sogenannte Basismodelle und ihre Anbieter bezieht. Gemeint sind KI-Modelle, die nur als Grundlage für spezifische KI-Anwendungen genutzt werden. So können Unternehmen zum Beispiel das Sprachmodell GPT von OpenAI nutzen, um darauf eigene Chatbots aufzubauen.
>> Lesen Sie hier: Britischer Premierminister Sunak warnt vor Risiken Künstlicher Intelligenz
In Deutschland bietet das KI-Start-up Aleph Alpha aus Heidelberg ein solches KI-Basismodell an, das Jungunternehmen Nyonic aus Berlin will im Frühjahr ein eigenes Modell herausbringen. Bei diesen KI-Systemen soll es unterschiedliche Risikoeinstufungen geben, die mit entsprechenden Auflagen verknüpft sind. Nur ist diese Unterscheidung äußerst kompliziert zu treffen – und trifft deshalb auf Gegenwind.
Entscheidend ist laut aktuellem Gesetzentwurf die Anzahl der Rechenoperationen, mit denen das Basismodell trainiert wurde. Das hält Aleph-Alpha-Justiziar Tobias Haar für den völlig falschen Ansatz. „Risiko korreliert nicht immer mit Größe“, sagt Haar. Für Aleph Alpha hätte eine solche Klassifizierung erhebliche Folgen. Konkret sieht der Artikel 28b vor, dass besonders leistungsfähige Basismodelle externe Sicherheitsprüfungen nachweisen müssen.
Das heißt: Die Anbieter müssen Dienstleister dafür bezahlen, verschiedene Formen von Angriffen auf ihre Systeme durchzuführen, und belegen, dass sie diesen Angriffen standhalten.
Das könnte die deutschen Start-ups erheblich benachteiligen, sagt Haar. Finanzstarke Anbieter könnten leicht das Geld für teure Prüfer aufbringen, die am Markt rar sind. Damit seien sie in der Lage, „Berichte erstellen zu lassen, die womöglich keine Regulierungsbehörde der Welt angemessen nachvollziehen kann“, sagt der Jurist.
Punkt 2: Hochrisikobereiche
Am Dienstagabend tagten die Unterhändler von Parlament und Rat mehr als vier Stunden. Dabei ging es nicht um Basismodelle, sondern um konkrete Anwendungen. Auch hier sollen verschiedene Risikoeinstufungen getroffen werden, die sogar zu einem Verbot führen können.
Ein Beispiel wäre die Terminmanagement-Software des Bahn-Vorstands. Während die Bahn zur kritischen Infrastruktur zählt und damit als Hochrisikobereich eingestuft wird, gilt eine KI-Software, die den Kalender der Bahn-Manager organisiert, als harmlos und müsste nicht reguliert werden.
Insgesamt einigten sich die Unterhändler auf vier Ausnahmekategorien. Darunter fallen KI-Anwendungen, die menschliche Entscheidungen überprüfen, vorbereiten oder verbessern, und sonstige operative Nebenaufgaben. KI-Anbieter können künftig selbst einschätzen, ob ihr Produkt unter eine der Ausnahmen fällt, und dies melden.
Die FDP-Europaabgeordnete Svenja Hahn nannte die beschlossene Regel „zentral für ‚Innovation Made in Europe‘“. Ebenso wichtig sei es, eine unbürokratische Lösung für den Umgang mit den Basismodellen zu finden.
Punkt 3: Biometrische Daten
Besonders weit liegen Rat und Parlament noch bei der Nutzung biometrischer Daten wie etwa Fingerabdrücke auseinander. Auch unter den Mitgliedstaaten gibt es hier noch Unstimmigkeiten, laut Handelsblatt-Informationen unter anderem zwischen Deutschland und Frankreich. Deutschland will die Verarbeitung von biometrischen Daten im Rahmen der Strafverfolgung als Anwendung mit einem inakzeptablen Risiko untersagen, Frankreich möchte sich diese Möglichkeit offenhalten.
Auch das ist ein Grund, warum Teilnehmer an dem Zeitplan zweifeln, das Vorhaben noch im Dezember abzuschließen. Möglicherweise wird eine weitere Sitzung im neuen Jahr nötig.