Buchrezension Drei Bücher, die sich kritisch mit Künstlicher Intelligenz auseinandersetzen
Algorithmen bewerten in der Arbeitswelt Lebensläufe, steuern Logistikzentren und machen Jobs überflüssig.
Automatisierung ist bei Amazon an der Tagesordnung. Was mit den Robotern in den riesigen Logistikzentren funktioniert, so dachten Manager des Konzerns im Jahr 2014, müsse sich doch mit Software auch auf die Personalabteilung übertragen lassen – und ließen ein Programm entwickeln, das Bewerbungen automatisch analysieren sollte: ein Stern für ungeeignete Kandidaten, fünf für Leistungsträger, wie bei der Produktbewertung.
Die Personalmanager bemerkten jedoch bald ein gravierendes Problem: Das System bewertete Bewerbungen von Frauen systematisch schlechter. Auch nach Anpassungen änderte sich daran nichts. Der Grund wurde bald klar: Die Algorithmen nutzten die Lebensläufe der vorherigen Jahre als Grundlage für ihre Entscheidungen, und da Amazon für technische Aufgaben jahrelang größtenteils Männer eingestellt hatte, empfahlen sie für die Zukunft wieder Männer.
Das Experiment ist längst beendet, doch die Wissenschaftlerin Kate Crawford hält es für bezeichnend. Die Verzerrung von Algorithmen sei kein Zufall, argumentiert sie in ihrem „Atlas of AI“: „Künstliche Intelligenz ist keine objektive, universelle oder neutrale Rechentechnik, die ohne menschliche Anleitung Entscheidungen trifft.“ Die Systeme seien eingebettet in die Welt, die von Menschen und Institutionen geprägt werde.
Kurz: Künstliche Intelligenz sei eben nicht künstlich, sondern „fundamental politisch“, wie die Technologieforscherin schreibt, die als Professorin an der Universität Südkalifornien und bei Microsoft Research arbeitet.
Die Amerikanerin zählt damit zu den Autoren, die sich mit den konkreten Auswirkungen der Künstlichen Intelligenz (KI) auseinandersetzen, ohne in den Hype zu verfallen oder aber Weltuntergangsszenarien zu entwerfen. Auch andere aktuelle Titel zeigen, wie die mächtige Technologie den Alltag in Wirtschaft, Politik und Gesellschaft verändern könnte.
Von Lithium und Massenüberwachung
Crawford nennt ihr Buch einen Atlas, weil es höchst unterschiedliche Teile zu einem großen Bild zusammensetzen und gleichzeitig das Auge lenken soll. Dafür navigiert sie durch unterschiedliche Bereiche der Technologie: von der dreckigen Gewinnung von Lithium, das für die Akkus der Smartphones und Notebooks notwendig ist, über den Einfluss von Algorithmen auf die Arbeitswelt, die Arbeiter nach dem unbarmherzigen Takt des Computers steuern, bis zum Einsatz der Technologie für die Massenüberwachung von Bürgern, wie sie die Enthüllungen von Edward Snowden vor einigen Jahren offenbart haben.
KI sei weder die Lösung für jedes Problem noch die größte Gefahr für die Menschheit, betont Crawford. Beides seien „zutiefst ahistorische Sichtweisen, die die Macht ausschließlich in der Technologie selbst verorten“. Die Algorithmen entspringen einer konkreten Lebenswelt, und sie beeinflussen diese. Wie bei den schlechten Bewertungen für die Lebensläufe von Frauen, die im Konzern nur wenige Vorbilder hatten. „Unabsichtlich hatte Amazon ein Diagnoseinstrument geschaffen“, kommentiert Crawford lakonisch.
Ein wichtiges Anliegen der Autorin ist, die Narrative der Technologieunternehmen zu hinterfragen. Zum Beispiel, dass Daten, die die Algorithmen benötigen, „das neue Öl“ seien: Dieser rhetorische Kniff lenke davon ab, dass Daten „etwas Persönliches, Intimes“ sind und damit unter der Kontrolle der Person stehen sollten.
Eine einfache Lösung für solche Probleme gibt es nicht, Crawford will das erst gar nicht suggerieren. Die vielen Ethikkodizes, die Unternehmen, Wissenschaftler und andere Organisationen entwickeln, sind nur ein Behelf, schon weil die konkrete Umsetzung in jedem Fall aufs Neue entschieden werden muss. „Um zu verstehen, was auf dem Spiel steht, müssen wir uns weniger auf die Ethik und mehr auf die Macht konzentrieren“, lautet daher das Plädoyer der Wissenschaftlerin.
Kate Crawford: Atlas of AI – Power, Politics, and the Planetary Costs of Artificial Intelligence.
Yale University Press
New Haven 2021
336 Seiten
21,99 Euro
Auch andere aktuelle Titel setzen sich kritisch damit auseinander, wie Künstliche Intelligenz die Gesellschaft verändert. Die Politikberaterin und Publizistin Nina Schick beispielsweise warnt in ihrem gleichnamigen Buch vor „Deep Fakes“. Dabei handelt es sich um manipulierte Fotos, Audiodateien und Videos, die durch Fortschritte der Technologie – namentlich des Deep Learning – teils täuschend echt wirken.
Bekanntheit erlangte das Phänomen zunächst, als Nutzer der Internetplattform Reddit die Gesichter bekannter Schauspielerinnen auf die Körper von Pornodarstellerinnen montierten. Das Unternehmen schloss das Unterforum, doch die Idee war in der Welt.
Dank der schier endlosen Medien im Internet existiert Trainingsmaterial, um praktisch jede halbwegs bekannte Person in Videos oder Audiodateien Dinge sagen zu lassen, die sie freiwillig nie äußern würden. Die Technologie hat noch ihre Schwächen.
Doch schon in einigen Jahren sei Künstliche Intelligenz dazu in der Lage, synthetische Medien in perfekter Qualität für kommerzielle Zwecke zu erzeugen, ist die Autorin überzeugt. Die Konsequenzen seien dramatisch: „In einer Zeit, in der Video zum wichtigsten Medium der menschlichen Kommunikation wird, werden Deep Fakes ohne Zweifel als Waffe missbraucht werden.“
Nina Schick: Deepfakes: Wie gefälschte Botschaften im Netz unsere Demokratie gefährden und unsere Leben zerstören können.
Goldmann Verlag
München 2021
256 Seiten
17 Euro (Die deutsche Ausgabe erscheint am 23. August)
Schon jetzt streuen Länder wie Russland über das Internet Misstrauen in die westlichen Demokratien, wie die Manipulation der US-Präsidentschaftswahl 2016 gezeigt hat. Was, wenn die Trolle im Staatsdienst künftig Staatsoberhäuptern und anderen Politikern mithilfe von Software falsche Aussagen in den Mund legen oder sie in kompromittierenden Situationen zeigen? In ihrem stringent argumentierenden Buch plädiert Schick dafür, die nächsten Jahre zu nutzen, um die „Infokalypse“ zu verhindern.
Eine bereits heute sehr präsente Sorge greift Kevin Roose, Kolumnist der „New York Times“, in seinem Buch „Futureproof“ auf: Werden Roboter und Künstliche Intelligenz unsere Jobs vernichten? Und wie kann sich der Einzelne dagegen schützen? Denn: Die Narrative der Technologieanbieter, dass Maschinen nur die langweilige Arbeit übernehmen und mit den Menschen einträchtig zusammenarbeiten werden, seien – wenn nicht falsch – zumindest radikal unvollständig.
Kevin Roose: Futureproof: 9 Rules for Humans in the Age of Automation.
Penguin Random House
New York 2021
256 Seiten
14,99 Euro
Mit Zahlen und Beispielen belegt Roose, dass die Automatisierung voranschreitet, oft allerdings versteckt. „Wenn ein Standardroboter Ihre Arbeit ersetzen kann, hat er das wahrscheinlich längst getan.“ Allerdings sei es beispielsweise möglich, ein Versicherungsbüro mit halb so viel Personal zu betreiben wie noch vor 50 Jahren. Wenn ein Mitarbeiter geht, bleibt sein Schreibtisch leer.
Auch die Steuerung der Arbeit durch Algorithmen sei auf dem Vormarsch. „Künstliche Intelligenz am Arbeitsplatz wird uns nicht nur einstellen und feuern, sondern unsere tägliche Arbeit lenken, uns korrigieren und loben.“ Um nicht zum Objekt einer „launischen Maschine“ zu werden, empfiehlt Roose neun Regeln, von regelmäßiger digitaler Enthaltsamkeit über das Vermeiden von Ablenkungen bis zu regelmäßigen Besuchen im Büro, um die menschlichen Beziehungen zu stärken. Vieles davon mag man kennen, lesenswert ist es trotzdem.
Mehr: Wie Asien mit Künstlicher Intelligenz und „Desaster-Bots“ gegen Überflutungen kämpft.
Das Kommentieren dieses Artikels wurde deaktiviert.