Künstliche Intelligenz: Elon Musks Firma xAI sperrt sexualisierte Inhalte
San Francisco. Elon Musks Unternehmen xAI untersagt seinem auf Künstlicher Intelligenz (KI) basierten Modell Grok die sexualisierte Bearbeitung von Fotos realer Personen. Damit reagiert die Firma auf Kritik an der Möglichkeit, sogenannte KI-Deepfakes zu erstellen, die Personen halbnackt zeigen.
„Wir haben technische Maßnahmen ergriffen, um zu verhindern, dass über das Grok-Konto Bilder von realen Personen in freizügiger Kleidung wie Bikinis erstellt werden können. Diese Einschränkung gilt für alle Nutzer, einschließlich zahlender Abonnenten“, erklärte das Unternehmen am Mittwoch auf der Social-Media-Plattform X, auf der Grok aufgerufen werden kann.
Wenige Stunden zuvor hatten die kalifornischen Behörden Aufklärung über die Verbreitung von nicht einvernehmlichen sexuellen Bildern auf der Plattform verlangt. „Wir fordern von xAI umgehend Antworten zu dem Plan, die Erstellung und Verbreitung dieser Inhalte zu stoppen“, schrieb der kalifornische Generalstaatsanwalt Rob Bonta auf X. Gouverneur Gavin Newsom hatte Bonta dazu aufgefordert, „das Unternehmen umgehend zu untersuchen und xAI zur Rechenschaft zu ziehen“.
Grok kann bei hochgeladenen Fotos realer Personen deren Kleidungsstücke entfernen oder sie in sexualisierten Posen darstellen. Auch bei Fotos Minderjähriger ist diese Funktion anwendbar. Die derart manipulierten Bilder werden dann über X verbreitet. Sowohl X als auch xAI gehören Musk.
Er hatte zuvor bestritten, dass Grok sexualisierte Bilder von Minderjährigen erstellt. „Mir sind keine von Grok generierten Nacktbilder von Minderjährigen bekannt. Buchstäblich null“, schrieb Musk am Mittwoch auf X.
„Natürlich generiert Grok keine Bilder spontan, sondern nur auf Anfrage der Nutzer“, betonte Musk in seinem Beitrag. Er bekräftigte, dass die Software sämtliche illegalen Anweisungen ignoriere. Zudem richte sie sich nach den Gesetzen des jeweiligen Landes.
Ermittlungen mehrerer Staaten
X reagierte zunächst auf die Kritik, indem es den Zugriff auf die Bildfunktionen von Grok einschränkte. Derzeit können lediglich zahlende X-Nutzer darauf zugreifen. Die von X unabhängige, eigenständige Grok-App lieferte zunächst jedoch weiter sexualisierte Bilder.
Vergangene Woche hatte X betont, illegale Inhalte zu löschen und Nutzer gegebenenfalls von der Plattform auszuschließen. Auf eine erneute Nachfrage zu diesem Thema antwortete das Unternehmen: „Etablierte Medien lügen.“
Mehrere Staaten haben inzwischen Ermittlungen wegen möglicher Gesetzesverstöße eingeleitet. Einige von ihnen blockierten ihren Bürgern den Zugriff auf X.
Die Europäische Union (EU) hat die Plattform angewiesen, bis zum Jahresende alle Dokumente und Daten zu Grok aufzubewahren. Zahlreiche Politiker, Bürgerrechts- und Frauenrechtsgruppen fordern zudem von den Tech-Konzernen Apple und Google, die Apps von X und Grok aus ihren jeweiligen App-Stores zu entfernen.
Mit Material von Reuters.