Künstliche Intelligenz: Hunderte Beschwerden wegen mutmaßlichem Missbrauchs der Google-KI

Sydney. Wegen mutmaßlichen Missbrauchs seiner Künstlichen Intelligenz (KI) „Gemini“ sind bei Google binnen eines knappen Jahres weltweit Hunderte Beschwerden eingegangen. In mehr als 250 Fällen sei es um extrem gewalttätige oder terroristische Inhalte gegangen, teilte der australische Internet-Regulierer eSafety Commission am Mittwoch mit.

Weitere knapp 90 Beschwerden drehten sich um kinderpornografische Darstellungen. „Dies unterstreicht, wie wichtig es für KI-Entwickler ist, Sicherheitsvorkehrungen einzubauen und auf ihre Wirksamkeit zu prüfen, um zu verhindern, dass diese Art von Material erzeugt wird“, sagte eSafety-Chefin Julie Inman.

Die Behörde stützte sich auf eine Pflichtmitteilung des US-Konzerns, zu der Unternehmen nach australischem Recht verpflichtet sind. Der Berichtszeitraum erstreckt sich von April 2023 bis Februar 2024. Google habe allerdings offengelassen, wie vielen der Beschwerden das Unternehmen nachgegangen sei, betonte eSafety.

Um kinderpornografische Inhalte automatisch zu löschen, nutze der Konzern sogenanntes „Hash-Matching“. Dabei würden hochgeladene Bilder mit bereits bekannten Darstellungen von Kindesmissbrauch verglichen. Bei terroristischem oder gewalttätigem Material wende die US-Firma diese Methode allerdings nicht an.