Asia Techonomics: Deepfakes verbreiten sich in Indien – Premier Modi ist alarmiert
Die größte Demokratie der Welt hat ein Problem mit der Wahrheit. In Indien verbreiten sich vermehrt gefälschte, aber täuschend echt wirkende Videos und Tonaufnahmen, die im Wahlkampf Stimmung machen sollen. Die mithilfe Künstlicher Intelligenz (KI) erstellten sogenannten Deepfakes, mit denen politische Gegner in ein schlechtes Licht gerückt werden, haben in den vergangenen Wochen bereits eine Reihe von Regionalwahlen aufgemischt.
Nächstes Jahr steht die landesweite Parlamentswahl an. Nun sorgt sich Indien vor einer kaum kontrollierbaren Verbreitung von Desinformationen.
Die Regierung des Landes sieht darin erhebliche Risiken: „Wir müssen verstehen, wie gefährlich Deepfakes für eine Gesellschaft und für Individuen sein können“, sagte Premierminister Narendra Modi Ende November bei einem virtuellen Gipfeltreffen der G20-Staaten. Sein IT-Minister Ashwini Vaishnaw nannte Deepfakes „eine neue Bedrohung für die Demokratie“, die in der Lage sei, das gesellschaftliche Vertrauen zu untergraben.
In Indien weiß man, wovon man spricht: Falschnachrichten, die sich vor allem über WhatsApp rasant verbreitet hatten, zogen in der Vergangenheit mehrmals tödliche Konsequenzen nach sich. Sie warnten unter anderem vor Dieben oder Kinderschändern, die in bestimmten Gegenden vermeintlich aktiv seien – und führten dazu, dass sich Lynchmobs bildeten, die auf Unschuldige losgingen.
WhatsApp, das zum US-Konzern Meta gehört, hat in Indien mehr als 400 Millionen Nutzerinnen und Nutzer. Der Messengerdienst wurde bereits bei dieser ersten Desinformationswelle dafür kritisiert, zu wenig gegen hetzerische Fake News zu unternehmen.
>> Lesen Sie auch: Wie KI zur Gefahr für die Demokratie werden könnte
WhatsApp führte in Indien zwar Einschränkungen ein, die das massenhafte Weiterleiten einzelner Nachrichten an unterschiedliche Gruppen erschwerten. Der Dienst wehrt sich aber gegen eine in Indien geltende Vorschrift, wonach der ursprüngliche Absender einer vielfach weitergeleiteten Nachricht rückverfolgbar sein muss – aus Sicht von WhatsApp spricht die Verschlüsselung der Nachrichten dagegen.
Wahl in Indien: Gefälschte Videos zur Wahlmanipulation
Die Ausbreitung von Deepfakes könnte das Problem mit Falschnachrichten massiv verschärfen. Sie machen es besonders schwer bis unmöglich, Gefälschtes von Echtem zu unterscheiden. Dennoch machen Indiens Wahlkämpfer davon bereits regen Gebrauch. Im Bundesstaat Telangana etwa war ein Video im Umlauf, das ein Regierungsmitglied zeigte, wie es vermeintlich zur Wahl der Opposition aufrief.
In Madhya Pradesh verbreitete sich eine gefälschte Aufnahme eines Oppositionspolitikers, der darin angeblich zugab, ein populäres Sozialprogramm der Regierung abschaffen zu wollen. In Tamil Nadu machte eine Audioaufnahme mit der Stimme eines Spitzenpolitikers Schlagzeilen, in der dieser seinen Parteifreunden Korruption zu unterstellen schien. Der Betroffene dementierte die Äußerungen vehement und sprach von einer KI-Fälschung.
Was ist Wahrheit? Was ist Manipulation? Auf eine abschließende Antwort müssen Wählerinnen und Wähler in Indien oft verzichten. Doch der Druck auf IT-Konzerne und Social-Media-Unternehmen wie Meta, Google und X (vormals Twitter) steigt, eine Lösung zu finden.
Ausschlaggebend dafür waren zuletzt auch Deepfakes von Prominenten, die das Problem in den Mainstream-Diskurs brachten. Besonders große Aufmerksamkeit erregte dabei der Fall der Schauspielerin Rashmika Mandanna, deren Gesicht gegen ihren Willen mithilfe von KI auf einen fremden Frauenkörper montiert wurde. Das Video ging viral. Mandanna sprach von einem „extrem schreckenerregenden“ Vorfall.
>> Lesen Sie auch: Experten fürchten Manipulationen von Wahlen durch KI-Fälschungen
Vertreter der IT-Konzerne wurden infolge der öffentlichen Debatte in den vergangenen Wochen mehrmals von der Regierung vorgeladen. Bei einer Sitzung in dieser Woche beklagten Behördenvertreter laut indischen Medienberichten, dass sich einige Plattformen angesichts der Probleme „lethargisch“ verhalten würden.
Die Regierung erwägt, die Plattformbetreiber direkt für illegale Deepfake-Inhalte verantwortlich zu machen, wenn diese zu wenig gegen deren Verbreitung unternähmen. Gemessen an den Nutzerzahlen ist Indien der weltweit größte Markt für die Tech-Konzerne – Lethargie dürfte dort künftig keinen Platz mehr haben.
