KI-Manipulationen: So bedroht Künstliche Intelligenz Indiens Megawahl
Bangkok. Das Video, das in den sozialen Medien die Runde macht, zeigt einen der engsten Vertrauten von Indiens Premierminister Narendra Modi bei einer Wahlkampfrede. Wenn seine Partei gewinne, dann würden Fördermaßnahmen für benachteiligte Kasten ein Ende finden, sagt Indiens Innenminister Amit Shah darin – so scheint es zumindest.
In Wahrheit ist der Filmschnipsel mit dieser Aussage eine Fälschung. Modis Partei, die BJP, spricht von einem Deepfake – also von einer Videobearbeitung mithilfe Künstlicher Intelligenz (KI), die dem Minister Worte in den Mund legt, die er niemals gesagt hat. Es sind Worte, die Modi in extremer Weise schaden, denn bei großen Teilen der Wählerschaft löst eine solche Ankündigung Wut und Empörung aus.
Mitten in der sechswöchigen Parlamentswahl, die seit Mitte April läuft, erlebte Indien zuletzt gleich mehrere Fälle dieser Art. Damit bestätigten sich Befürchtungen, dass Manipulationsversuche mit KI-Inhalten bei der Abstimmung in dem Land eine zentrale Rolle einnehmen würden.
Bereits in der Vergangenheit hatte Indien in Wahlkämpfen mit umfangreichen Desinformationskampagnen zu kämpfen, die Falschnachrichten über politische Gegner unter anderem auf WhatsApp massenhaft verbreiteten. Die Möglichkeit, mit KI-Werkzeugen täuschend echte Ton- und Videodokumente zu erstellen, verschärft das Problem nun deutlich.
Indiens Polizei nimmt mehrere Personen fest
Indiens Behörden nehmen die Vorfälle ernst. Im Zusammenhang mit der manipulierten Aufnahme von Shahs Rede nahm die Polizei in mehreren Bundesstaaten neun Menschen fest, denen vorgeworfen wird, die KI-Fälschung weiterverbreitet zu haben. Mehrere von ihnen gehören der Kongresspartei an, Indiens stärkster Oppositionskraft.
Unter den Festgenommenen befindet sich auch Arun Reddy, ein führender Social-Media-Manager der Partei, der das Video auf der Plattform X weiterverbreitet haben soll. Die Kongresspartei dementierte, dass der Mitarbeiter etwas mit der Erstellung des Fake-Videos zu tun habe.
Die Fälschung und die Festnahmen verstärken die aufgeheizte Stimmung während der Wahl, die an insgesamt sieben Tagen in dem sechswöchigen Wahlzeitraum abgehalten wird. Immer aggressiver gehen Regierung und Opposition aufeinander los. Am Dienstag fand der dritte Abstimmungstag statt, der die Halbzeit in der Megawahl mit einer Milliarde Wahlberechtigten markiert. Mit ihm haben nun die Menschen in mehr als der Hälfte der Wahlkreise ihre Stimme abgegeben. Unter ihnen war dieses Mal auch Regierungschef Modi, der in seinem Heimatstaat Gujarat abstimmte.
Wenige Tage zuvor hatte sich Modi öffentlich über Videomanipulationen im Wahlkampf beschwert, für die er – ohne Belege zu nennen – die Kongresspartei verantwortlich machte: „Der Kongress hat große Angst zu verlieren“, sagte er. „Er verkauft euch KI-Fake-Videos und verwendet dafür unsere Stimmen“, klagte er.
Neben Innenminister Shah sah sich auch der Regierungschef des bevölkerungsreichsten Bundesstaats Uttar Pradesh, Yogi Adityanath, als Opfer eines Deepfakes: Ein Video zeigt, wie er seinen Parteifreund Modi kritisiert. Auch hier sprachen Ermittlungsbehörden von einem „KI-generierten Deepfake“. Eine Person wurde im Zusammenhang mit dem Video festgenommen – wegen des Verdachts auf Fälschung und „Förderung von Feindseligkeiten“. Ihm droht bei einer Verurteilung eine Freiheitsstrafe von bis zu sieben Jahren.
Zuvor hatten bereits Videos in den sozialen Medien für große Aufmerksamkeit gesorgt, in denen Bollywood-Schauspieler vermeintlich vor einer Wiederwahl Modis warnten und für die Kongresspartei warben. Nach Angaben der Schauspieler handelte es sich auch dabei um eine Fälschung, die offenbar mithilfe von KI-Software erstellt wurde. Mehrere unabhängige Überprüfungen kamen zu dem Ergebnis, dass es sich um digital manipulierte Videos handelte.
Die KI-Desinformation traf auch die Opposition: Von einem der prominentesten Vertreter der Kongresspartei, Rahul Gandhi, kursierte ein Video, in dem er angeblich seinen Rücktritt erklärte – auch hier wurde seine Stimme mithilfe Künstlicher Intelligenz gefälscht.
Insgesamt sind die Manipulationen offenbar zu einem weitverbreiteten Phänomen geworden. Indiens Wahlkommission sah sich am Montag veranlasst, eine offizielle Warnung an die Parteien zu schicken mit der Aufforderung, den Missbrauch von KI einzustellen.
Einer im April veröffentlichten Studie des IT-Sicherheitsdienstleisters McAfee zufolge geben 22 Prozent der befragten Inderinnen und Inder an, ein Video, Foto oder Tondokument eines Politikers wahrgenommen zu haben, das sich hinterher als gefälscht herausstellte.
Die Sorgen vor erheblichen negativen Konsequenzen sind groß: Im „Global Risks Report 2024“ des Weltwirtschaftsforums gaben die in Indien befragten Experten Desinformation als die größte Gefahr für das Land an. „Der weitverbreitete Einsatz von Desinformationen kann die Legitimität neu gewählter Regierungen untergraben“, heißt es in dem Bericht. „Daraus resultierende Unruhen könnten von gewalttätigen Protesten und Hassverbrechen bis hin zu zivilen Auseinandersetzungen und Terrorismus reichen.“
Sorgen vor KI-Manipulationen im Wahlkampf gibt es auch in anderen Ländern. In den USA bekamen Wähler im Bundesstaat New Hampshire Anfang des Jahres einen Anruf, bei dem eine gefälschte Tonaufnahme von US-Präsident Joe Biden abgespielt wurde. Dieser forderte darauf vermeintlich dazu auf, sich an der dortigen Vorwahl der Demokraten nicht zu beteiligen.
Die Technologieunternehmen OpenAI, Microsoft und Meta sagten daraufhin zu, bei der Bekämpfung von Wahlbeeinflussung durch KI zusammenarbeiten zu wollen. Auch mit Blick auf die Europawahlen kündigte Meta an, gezielt gegen den Missbrauch von KI vorzugehen.
In Indien kommt die Technologie nicht nur zum Einsatz, um politische Gegner in ein schlechtes Licht zu rücken. Mehrere Parteien und Parlamentskandidaten erstellten in den vergangenen Wochen auch Videos von ehemaligen Anführern und politischen Wegbereitern, die inzwischen verstorben sind.
Per KI mischt sich ihre Stimme nun erneut in den Wahlkampf ein. Auch der Chef der Lokalregierung von Delhi, Arvind Kejriwal, der vor wenigen Wochen wegen Korruptionsvorwürfen festgenommen wurde, nutzt KI, um aus dem Gefängnis zu seinen Anhängern zu sprechen: Eine Stimm-KI transformiert seine Briefe in gesprochene Reden, die nun via Youtube zu hören sind.