EU will härter gegen „Ausziehfunktion“ von Grok vorgehen
Brüssel. Die EU-Kommission plant, Maßnahmen gegen Elon Musks KI-Chatbot Grok zu ergreifen. Das erfuhr das Handelsblatt aus Kommissionskreisen. Der KI-Chatbot kann Nacktbilder und „Bikini-Videos“ von echten Personen ohne deren Einwilligung erstellen. Grok dürfe diese „Ausziehfunktion“ ohne Einwilligung nicht mehr anbieten – andernfalls werde der Dienst im europäischen Wirtschaftsraum gesperrt.
Grok steht weltweit in der Kritik, weil der Chatbot nicht nur das Persönlichkeitsrecht missachtet, sondern auch antisemitische Inhalte auf Musks Plattform X verbreitet. In den vergangenen Monaten hatten Nutzer Bildmaterial hochgeladen und Grok aufgefordert, etwa Fotos von Kindern zu sexualisieren.
Der Chatbot war den Aufforderungen nachgekommen und hatte die KI-generierten Bilder und Videos verbreitet. Grok, von Musks Unternehmen xAI entwickelt, war zuvor bereits mit Lobpreisungen für Adolf Hitler aufgefallen.
Inzwischen hat X zwar Maßnahmen ergriffen, diese gingen jedoch laut EU-Kommission nicht weit genug. Zunächst teilte Musks Unternehmen mit, dass nur noch zahlende Abonnenten die kritisierte „Ausziehfunktion“ nutzen könnten, mit der aus Fotos von echten Personen Nacktbilder generiert werden können. Mittlerweile habe Musks xAI technologische Schranken eingeführt, sodass Bilder von Kindern nicht mehr sexualisiert werden könnten. Allerdings könnten weiterhin Bilder erwachsener Menschen ohne deren Einwilligung sexualisiert werden.