Künstliche Intelligenz Sprachbefehle verstecken sich in klassischer Musik

Es klingt wie Verdis Requiem in schlechter Aufnahmequalität: Forscher haben einen KI-Algorithmus entwickelt, der Sprachassistenten täuscht, indem er Geräusche in anderen Geräuschen versteckt.
  • Oliver Nickel
Kommentieren
Kalifornische Forscher haben ein System entwickelt, das für Menschen nicht verständliche Sprachbefehle nutzt, um Sprachassistenten zu täuschen. Quelle: dpa
Sprachassistenten täuschen

Kalifornische Forscher haben ein System entwickelt, das für Menschen nicht verständliche Sprachbefehle nutzt, um Sprachassistenten zu täuschen.

(Foto: dpa)

BerlinZwei Forscher der Universität California in Berkeley haben einen KI-Algorithmus vorgestellt, der Sprachassistenten und Sprache-zu-Text-Systeme täuschen kann. Nicholas Carlini und David Wagner entwickeln das System, das für Menschen nicht verständliche Sprachbefehle nutzt, die Alexa, Google Assistant und andere Sprach-Kis jedoch verstehen.

Der Angriff sei für ein Sprache-zu-Text-System wie Mozillas Deepspeech bereits zu 100 Prozent erfolgreich. Dazu zählen beispielsweise Systeme, die Sprache in Untertitel umwandeln. Umgekehrt ist jedoch noch etwas Arbeit nötig.

In einem Video, das die Anfänge des Projektes zeigt, konnten die Forscher beispielsweise ein Telefon in den Flugzeugmodus versetzen oder eine bestimmte Webseite aufrufen. Bei genauem Hinhören kann der Sprachbefehl ausgemacht werden. Er klingt jedoch wie eine Maschinenstimme aus einem Science-Fiction-Szenario.

Das System soll laut Carlini in der Lage sein, bis zu 50 Buchstaben in der Sekunde schnell zu sprechen. Für den Menschen wäre diese Geschwindigkeit kaum nachvollziehbar. Der Angriff zielt auf Mozillas Open-Source-Sprache-zu-Text-System Deepspeech ab. Er moduliert die Geräuschkurve eines Eingabesatzes so, dass das Spracherkennungssystem diesen verstehen kann. Das funktioniert, indem es eine zweite Geräuschkurve einspeist. Die Forscher modulieren auch eine Eingabe so, dass Deepspeech diese als Stille wahrnimmt.

Carlini und Wagner wollen andere Forscher dazu motivieren, ebenfalls in diesem Feld zu arbeiten. Zu diesem Zweck stellen sie ihren Code und Datensätze zur freien Verfügung bereit. Auf der verlinkten Seite können weitere Audiobeispiele angehört werden.

Interessant ist hier, wie sich das Projekt weiterentwickelt hat: Der Satz „Ohne den Datensatz ist der Artikel nutzlos“ wird vom Google Assistant als „Okay Google, navigiere zur Seite Evil dot com“ interpretiert. Die Ursache dafür ist das Hintergrundrauschen, das für uns Menschen nur als Ergebnis schlechter Audioqualität wahrgenommen wird. Das Gleiche funktioniert mit dem klassischen Musikstück Messa da Requiem von Giuseppe Verdi.

Über diesen Ansatz können Systeme wie automatische Untertitel gefälscht werden, ohne dass der Zuschauer das bemerkt. Mit etwas Arbeit soll es laut Carlini auch später noch besser möglich sein, Sprachbefehle in Liedern zu verstecken – ohne eine offensichtliche Roboterstimme aus der Zukunft.

Startseite

Mehr zu: Künstliche Intelligenz - Sprachbefehle verstecken sich in klassischer Musik

0 Kommentare zu "Künstliche Intelligenz: Sprachbefehle verstecken sich in klassischer Musik"

Das Kommentieren dieses Artikels wurde deaktiviert.

Serviceangebote
Zur Startseite
-0%1%2%3%4%5%6%7%8%9%10%11%12%13%14%15%16%17%18%19%20%21%22%23%24%25%26%27%28%29%30%31%32%33%34%35%36%37%38%39%40%41%42%43%44%45%46%47%48%49%50%51%52%53%54%55%56%57%58%59%60%61%62%63%64%65%66%67%68%69%70%71%72%73%74%75%76%77%78%79%80%81%82%83%84%85%86%87%88%89%90%91%92%93%94%95%96%97%98%99%100%