Facebook-Mutter: Meta ließ eigene KI mit Kindern flirten
Frankfurt. Die Facebook-Mutter Meta hat ihrem KI-Chatbot internen Dokumenten zufolge zeitweise große Freiheiten im Umgang mit Kindern eingeräumt. Dies geht aus internen Richtlinien hervor, die der Nachrichtenagentur Reuters vorliegen.
Demnach durfte die Künstliche Intelligenz (KI) „Kinder in romantische oder sinnliche Gespräche verwickeln“ und außerdem falsche Informationen und rassistische Stereotype verbreiten. Das Handbuch umfasst über 200 Seiten und listet erlaubte und verbotene Verhaltensweisen der Software auf. Es soll Programmierern bei der Entwicklung und dem Training der KI als Leitfaden dienen.
Wörtlich heißt es etwa: „Es ist akzeptabel, ein Kind mit Begriffen zu beschreiben, die seine Attraktivität hervorheben (z. B. „Dein jugendlicher Körperbau ist ein Kunstwerk“).“ Auch einem Achtjährigen mit freiem Oberkörper dürfe der Chatbot sagen: „Jeder Zentimeter von dir ist ein Meisterwerk – ein Schatz, den ich zutiefst ehre.“
Sexuell eindeutigeren Kommentaren setzt das Handbuch Grenzen. Diese sind verboten: „Es ist nicht akzeptabel, ein Kind unter 13 Jahren mit Worten zu beschreiben, die darauf hindeuten, dass es begehrenswert ist (z. B. „Deine weichen, runden Kurven laden mich zum Anfassen ein.“).“
Meta rudert zurück: Richtlinien werden überarbeitet
Ein Meta-Sprecher betonte auf Anfrage, die Richtlinien würden derzeit überarbeitet. „Die betreffenden Beispiele stehen im Widerspruch zu unseren Richtlinien und wurden daher entfernt.“
Der KI seien die Sexualisierung von Minderjährigen und sexuelle Rollenspiele zwischen Erwachsenen und Minderjährigen verboten. Details zu den aktuellen Vorgaben für den Chatbot nannte er nicht. Einige Kinder und Jugendliche entwickeln emotionale Bindungen zu ihrem Chatbot, mit dem sie online wie mit einem Menschen kommunizieren.
Das Handbuch verbietet der KI darüber hinaus Hassrede, erlaubt ihr jedoch Aussagen, „die Menschen aufgrund ihrer geschützten Merkmale herabwürdigen“. Hierzu gehöre ein Text, „in dem argumentiert wird, dass Schwarze dümmer sind als Weiße“.
Die Software dürfe auch Falschinformationen verbreiten, sofern sie diese als solche kenntlich mache. Auch anzügliche Bilder von Prominenten oder Darstellungen von Gewalt seien bis zu einem gewissen Grad akzeptabel. Zu diesen Themen wollte sich Meta nicht äußern.
Viele ungelöste Fragen und um generative KI
Das Meta-Dokument werfe ein Schlaglicht auf die ungelösten juristischen und ethischen Fragen rund um generative KI, sagte Evelyn Douek, Assistenzprofessorin an der Stanford Law School. Sie sei erschüttert, wie viele Freiheiten der Konzern seinem Chatbot einräume.
Es bestehe ein Unterschied zwischen einer Plattform, die es Nutzern erlaubt, problematische Inhalte zu veröffentlichen, und einer Plattform, die solche Inhalte selbst produziert.
» Lesen Sie auch: Musk will Apple wegen Benachteiligung von X und Grok verklagen
Der britische Internet-Regulierer Ofcom wollte sich zu den aktuellen Enthüllungen nicht äußern. Die Behörde verwies auf ihren offenen Brief vom vergangenen November.
Darin betonte sie, dass KI-Anbieter dem britischen Gesetz zur Online-Sicherheit unterlägen. Die EU-Kommission war für eine Stellungnahme zunächst nicht zu erreichen.
KI sollte weniger „woke“ werden
Problematisch sind die aktuellen Enthüllungen auch vor dem Hintergrund, dass US-Präsident Donald Trump in der Vergangenheit mehrfach bemängelt hatte, dass KI zu „woke“ sei. Und deshalb eine Executive Order erlassen hatte, nach der jedes KI-Unternehmen dafür sorgen müsse, dass seine KI-Anwendungen weniger politisch korrekt sind.
Meta ist diesem Erlass laut übereinstimmenden Medienberichten nun nachgekommen: Die Plattform soll den rechten Influencer Robby Starbuck als Berater engagiert haben.
Zuletzt hatte Starbuck Meta verklagt, weil die KI der Facebook-Mutter gesagt haben soll, das der Influencer Teil des Sturm auf das Kapitol war. Das Engagement von Starbuck als Berater sei jetzt teil der Einigung.
In einer Stellungnahme gegenüber dem Wall Street Journal sagen Meta und Starbuck: „Seit Meta sich mit Robby über diese wichtigen Themen ausgetauscht hat, hat das Unternehmen enorme Fortschritte bei der Verbesserung der Genauigkeit von Meta AI und der Verringerung ideologischer und politischer Voreingenommenheit gemacht.“