Valley Voice Wenn Hacker Auto-Algorithmen knacken

US-Wissenschaftler haben einen völlig neuen Weg gefunden, um autonome Fahrzeuge zu manipulieren. Sie nutzen eine Schwäche der eingebauten künstlichen Intelligenz aus.
Kommentieren
Britta Weddeling, Korrespondentin des Handelsblatts im Silicon Valley, berichtet über neue Trends und den digitalen Zeitgeist im Tal der Nerds.
Die Stimme aus dem Valley

Britta Weddeling, Korrespondentin des Handelsblatts im Silicon Valley, berichtet über neue Trends und den digitalen Zeitgeist im Tal der Nerds.

San FranciscoIm Digital-Mekka Silicon Valley herrscht vielfach noch immer Wild-West-Mentalität. Zwar reiten die Leute hier nicht auf Pferderücken ins Start-up-Büro. Heute bringen Cowboys in Metall-Karossen schwächere Teilnehmer des Verkehrsbetriebs in Lebensgefahr. Westküsten-Fahrer ignorieren gern Fußgänger, Jogger oder Radfahrer ebenso penetrant wie Stoppschilder, Geschwindigkeitsbegrenzungen oder die rote Ampel. „Man muss eben engagiert fahren“, erklärte mir das mal ein Uber-Fahrer. „Die Fußgänger wissen, dass sie aufpassen müssen.“

Künftig werden autonome Systeme hinter dem Steuer sitzen, menschliche Straßen-Randalierer müssen sich ein anderes Betätigungsfeld suchen. Doch die Vernetzung bringt neue Herausforderungen mit sich, wie erst vor einer Woche wieder eine chinesische Gruppe im Auftrag von Tencent zeigte – der asiatische Online-Riese ist bekannt durch die Chat-App WeChat. Die Hacker verschafften sich über eine Funkverbindung Zutritt ins Innere eines Tesla Model X.

Alle großen Autohersteller arbeiten daran, ihre digitale Infrastruktur gegen Einbrüche von außen abzudichten. Doch die Angriffsmöglichkeiten sind zahlreicher als gedacht. Eine so eine einfache und unkonventionelle Methode enthüllten nun Wissenschaftler der Universität Washington. Sie hackten den im autonomen Fahrzeug eingebauten Algorithmus zur Objekt- und Bilderkennung, den die Autos zur Orientierung nutzen. Schon indem sie Standard-Verkehrsschilder wie Stoppzeichen oder Wegweiser mit kleinen weißen und schwarzen Aufklebern leicht veränderten, gerieten die Fahrzeuge außer Kontrolle.

Das menschliche Auge erkannte das Haltegebot trotz der minimalen Verzierung immer noch ohne Probleme, das autonome Fahrzeug hingegen interpretierte das Stoppschild fälschlicherweise als Aufforderung, dass hier nun mit einer Geschwindigkeit von 70 km/h weiterzufahren sei. Selbst wenn die künstliche Intelligenz hinter dem Steuer dies gar nicht beabsichtigte, hätte sie wie der Cowboy einen Fußgänger in Gefahr bringen können.

Bei ihrem Hack griffen die Wissenschaftler eine zentrale Technologie an, auf die sich Fahrzeuge bei der Orientierung verlassen. Sie beruht auf zwei technischen Verfahren, einem neuronalen Netzwerk, das Objekte automatisch entdeckt, wie Fußgänger, Verkehrsschilder oder Ampelschaltung, und einem zweiten, das das Erkannte interpretiert, dem Auto also sagt, um welchen Gegenstand mit welcher Bedeutung es sich handelt, zum Beispiel ein Stoppschild, das Halten befiehlt.

Tech-Titanen streiten um die Künstliche Intelligenz
Elon Musk
1 von 12

Zuletzt hatte der SpaceX- und Tesla-Chef die Diskussion wieder angefacht. Ungewohnt für das so gern auf Selbstregulierung pochende Silicon Valley forderte Musk bei der Künstlichen Intelligenz Eingriffe durch den Gesetzgeber.

Einer der nachdrücklichsten Mahner
2 von 12

Musk findet deutliche Worte: „Künstliche Intelligenz stellt ein grundlegendes Risiko für die Existenz der menschlichen Zivilisation dar, auf eine Weise wie es Autounfälle, Flugzeugabstürze, schadhafte Drogen oder schlechtes Essen nie waren“. Damit machte er sich nicht nur Freunde im Silicon Valley.

Mark Zuckerberg
3 von 12

Der Facebook-Gründer gilt vielen als Grundoptimist – nicht nur in Bezug auf die Vorzüge seiner eigenen Plattform, sondern auch bei der Künstlichen Intelligenz. Die will er auch für Facebook nutzen, zum Beispiel zur Identifikation von Hasskommentaren. Er warf den Kritikern wie Musk vor, es sei von Schwarzmalern unverantwortlich, Schreckensszenarien zu entwerfen. „Ich bin wirklich optimistisch“, hielt er dagegen.

Der Streit
4 von 12

Die Antwort ließ nicht lange auf sich warten: „Sein Verständnis des Themas ist begrenzt“, schrieb Musk über Zuckerberg auf Twitter. Dabei ist er mit seinen Bedenken längst nicht allein unter den sonst so Technologie-Begeisterten Vertretern aus Kalifornien.

Peter Thiel
5 von 12

Musk rief zusammen mit anderen Tech-Größen 2015 „Open AI“ ins Leben – ein mit einer Milliarde Dollar ausgerüstetes Forschungsprojekt, das die Risiken und Nebenwirkungen der Künstlichen Intelligenz erforschen und für eine positive Entwicklung sorgen soll. Zu den Geldgebern gehört auch Trump-Berater und Tech-Milliardär Peter Thiel.

Reid Hoffman
6 von 12

Auch der Mitgründer des Karrierenetzwerks LinkedIn gehört zu den Unterstützern von „Open AI“.

Ray Kurzweil
7 von 12

Es gibt allerdings auch Optimisten. Ray Kurzweil etwa, Forscher in Diensten von Google, hofft auf die Singularität – also darauf, dass Maschinen die Menschen übertreffen und sich selbst optimieren können. Dank rasanter technischer Fortschritte könne es in zehn bis 15 Jahren so weit sein.

Die Forscher nutzten aus, dass sich die neuronalen Netzwerke bei ihren Entscheidungen immer nur auf die Daten stützen, anhand derer vorab sie trainiert werden. „Wir denken, dass aufgrund des ähnlichen Aussehens der Warnschilder, bereits kleine Veränderungen ausreichen um das Entscheidungssystem zu verwirren“, schreibt der leitende Sicherheitsforscher Yoshi Kohno dazu in der Veröffentlichung zur Studie. Je mehr Informationen und Varianten einer künstlichen Intelligenz vorliegen, desto besser werden ihre Entscheidungen. In vielen Fällen seien die Daten noch nicht ausreichend.

Abhilfe könnte schaffen, den Datenpool zu erweitern und das während der Fahrt gewonnene Wissen mit Informationen aus Karten und Standort zusammenzuführen. So könnte der Bordcomputer etwa automatisch erkennen, dass ein Stopp-Zeichen auf der Autobahn keinen Sinn ergibt, ebenso wenig, wie das Beschleunigen in einer Wohngegend auf 70 km/h.

Kurz und schmerzhaft: alle Kolumnen

Kolumnenkabinet

Immer dienstags schreiben Britta Weddeling und Axel Postinett, Korrespondenten des Handelsblatts im Silicon Valley, im Wechsel über neue Trends und den digitalen Zeitgeist im Tal der Nerds.

Startseite

Mehr zu: Valley Voice - Wenn Hacker Auto-Algorithmen knacken

0 Kommentare zu "Valley Voice: Wenn Hacker Auto-Algorithmen knacken"

Das Kommentieren dieses Artikels wurde deaktiviert.

Serviceangebote
Zur Startseite
-0%1%2%3%4%5%6%7%8%9%10%11%12%13%14%15%16%17%18%19%20%21%22%23%24%25%26%27%28%29%30%31%32%33%34%35%36%37%38%39%40%41%42%43%44%45%46%47%48%49%50%51%52%53%54%55%56%57%58%59%60%61%62%63%64%65%66%67%68%69%70%71%72%73%74%75%76%77%78%79%80%81%82%83%84%85%86%87%88%89%90%91%92%93%94%95%96%97%98%99%100%