Yuval Noah Harari: „Nexus“ – Ein Buch über KI, ihre Macher und ihre Opfer

So erkläre sich auch sein persönliches Ziel: „Mit informierten Entscheidungen das Schlimmste verhindern.“ Hier will einer nicht nur „Seher“ und „Merker“ sein, sondern auch „Täter“, im Sinne von Einfluss ausüben. Wie sollen wir mit Künstlicher Intelligenz (KI) umgehen?

Donald Trump und die Macht der Information

Wer die 550 Seiten des neuen Harari-Epos liest, merkt schnell, dass der Autor seine bisherigen Thesen teils noch einmal erklärt, teils weiterführt, teils extrem überhöht. Man folgt schnellen Gedankensprüngen, wagemutigen Assoziationen und immer wieder inspirierenden historischen Vergleichen des Mannes, der in seiner akademischen Laufbahn zunächst übers Militär im Mittelalter geforscht hatte.

Diese Tour d’horizon ist faszinierend, kann aber ermüden. Man muss sich immer die große Linie bewusst machen, die der Autor zieht. Hararis zentrale These ist, dass die Menschheit gewaltige Macht gewinnt, indem sie kooperative Netzwerke aufbaut – deren Konstruktionsweise jedoch dem unklugen Gebrauch dieser Macht Vorschub leistet.

Es handele sich um ein Informationsproblem, denn Information sei der Klebstoff, der alles zusammenhält: „Tiere, Staaten und Märkte sind nichts anderes als Informationsnetzwerke, die Daten aufnehmen, entscheiden und Daten zurückgeben.“

Für sich genommen wollten die Menschen stets die Wahrheit wissen, große Netzwerke aber arbeiteten mit Fiktionen und Illusionen, um ihre Mitglieder zu binden und für Ordnung zu sorgen. Das könne statt zur Massendemokratie auch zum Massentotalitarismus führen. „Im 21. Jahrhundert könnte ein totalitäres Regime dort erfolgreich sein, wo Hitler und Stalin scheiterten“, postuliert Harari voller Schrecken.

Einerseits wendet sich der Autor gegen ein „naives Informationsverständnis“, wonach mehr Information automatisch zu mehr Wahrheit, Weisheit und Macht führe. Andererseits sei der Populismus eine radikale Herausforderung, weil er „Information als Waffe“ betrachte.

Für Leute wie Donald Trump gibt es demnach viele Wahrheiten, am besten ist immer die eigene. „Wenn jeder seine eigene Wahrheit hat, ist Macht und der Kampf um Macht die einzige Realität.“

Harari selbst will die Mitte zwischen Naiven und Populisten erkunden: „Information ist zwar nicht der Rohstoff der Wahrheit, doch sie ist auch keine bloße Waffe.“ Der Schlüsselsatz kommt spät, genau auf Seite 491: „Die Macht konzentriert sich im Nexus dort, wo die Informationskanäle zusammenlaufen.“

Gemeint ist das Gefüge der Moderne, eine techno-kapitalistische Struktur, die Harari nicht so nennt, weil ihm die finanziellen Verwertungszwänge des Systems eher fremd sind. Man landet rasch bei der KI, der „Artificial Intelligence“, dessen Kürzel „AI“ Harari mit „Aliens Intelligence“ übersetzt, erster Hinweis auf Außerirdisches.

>> Passend dazu: Erfahren Sie einmal die Woche, was Sie aktuell zum Thema KI wissen müssen. Jetzt beim kostenlosen Newsletter KI-Briefing anmelden.

„Nexus“ ist im Wesentlichen ein Buch über die aktuelle technologische Revolution, über ihre Macher, ihre Nutznießer, ihre Opfer, ohne dass dies so kategorisiert ist.

„Wir sind gleichzeitig die klügsten und die dümmsten Tiere der Welt“, schreibt Harari: Menschen produzierten einfach weiter Atomraketen und Algorithmen, „obwohl wir unsicher sind, ob wir sie beherrschen“.

Er wolle die KI-Eruptionen „historisch korrekter einordnen“. Der israelische Populär-Philosoph, der geschichtlichen Determinismus ablehnt, sieht gleichwohl neue Informationstechnologien als bestimmenden Katalysator für Umwälzungen: beginnend bei den Tontäfelchen im alten Mesopotamien, die Steuereinnahmen festhielten und zur Gründung erster Stadtstaaten beitrugen.

Revolutionen seien immer auch Revolutionen des Informationsflusses, doch KI sei „potenziell bedeutsamer als die Erfindung des Telegrafen, des Buchdrucks oder sogar der Schrift, denn die KI ist das erste Werkzeug, das in der Lage ist, selbstständig Entscheidungen zu treffen und Ideen zu entwickeln“.

Hier gruselt’s, hier kommt „Homo Deus“ ins Spiel und damit Science-Fiction: je düsterer, desto eindrucksvoller, desto wirkmächtiger der Autor. Zu befürchten sei, so Harari, dass Computernetzwerke „neue menschliche und nicht menschliche Identitäten hervorbringen“ werde. Computernetzwerke des 21. Jahrhunderts könnten neue Menschentypen schaffen. Der Cyborg als neuer Citoyen? Der Roboter?

Für den Weltenerklärer ist klar, dass der Mensch via KI viele Gefährten bekommt. Vor den 2020er-Jahren habe der menschliche Geist Texte produziert, heute könne es auch KI sein. Und KI-Algorithmen könnten von sich aus Dinge lernen, die kein menschlicher Ingenieur programmiert habe.

Schon heute manipulieren Bots die Algorithmen von Google, Facebook, X oder Youtube. Im 21. Jahrhundert seien Kriege um Intercomputer-Objekte genauso möglich wie eine Spaltung der Welt durch einen „Silicon Curtain“, der womöglich nicht zwischen Demokratien und Autokratien teile, sondern zwischen Menschen und nicht menschlichen Akteuren.

Und: „Ganze politische, wirtschaftliche und soziale Systeme könnten zusammenbrechen, und neue werden an ihre Stelle treten.“

Hararis politischen Empfehlungen sind allerdings wenig konsistent, etwa wenn es um die Übermacht weniger Tech-Konzerne geht, die „uns in eine neue perverse Ordnung eingezwungen haben“. Mal referiert er, Aktivitäten von Firmen wie Google oder Tiktok könnten dort besteuert werden, wo sie aktiv sind (auch in Ländern wie Uruguay).

Dann wieder geht es ihm darum, die in Algorithmen enthaltenen Vorurteile offenzulegen, einen „Wahrheitspfleger“ einzufordern oder Menschenfälschungen im Netz genauso zu verbieten wie „Blüten“ im Zahlungsverkehr. Und er fordert den Erhalt von „Privacy“, eine nötige Dezentralisierung und schließlich „Gegenseitigkeit“ – der russische Geheimdienst FSB und Amazon sammeln alles, selbst weiß man nichts über sie. Europäische Ansätze wie der „AI Act“ interessieren ihn nicht besonders.

Harari ist aber auch optimistisch: KI, Roboter und 3D-Drucker könnten etwa Textilproduktion wieder nach Europa bringen: „Mit einem Messer können wir einen Menschen ermorden, sein Leben bei einer Operation retten oder Gemüse schnippeln, so ist es auch mit Computern.“

Der Mensch habe Einfluss auf Tempo, Form und Richtung der KI-Revolution. Der Sokrates-Satz „Ich weiß, dass ich nicht weiß“ müsse auch für Algorithmen und Computer gelten.

Das sind schöne Glaubenssätze. Aber wie genau soll das mit der Selbstkorrektur laufen? Und: Kommt es auch so? Harari bleibt im Abstrakten. Und orakelt selbst: „KI könnte nicht nur die menschliche Herrschaft auf der Erde auslöschen, sondern auch das Licht des Bewusstseins selbst und damit das Universum in ein Reich völliger Dunkelheit verwandeln.“

Hier stünde möglicherweise das Ende der Menschheitsgeschichte bevor – „nicht das Ende der Geschichte, sondern das Ende des vom Menschen dominierten Teils“. Spiel mir das Lied vom Tod. Hararis Verdienst ist, den großen Bogen zu spannen. Seine Warnungen vor KI sind allerdings eindrucksvoller als seine Rettungsideen.

Er zitiert Goethes „Zauberlehrling“ und folgert: „Rufe nie Mächte herbei, die du nicht beherrschst!“ Aber diese Mächte sind längst da. Der Alarmist Yuval Harari wird all die Manager und Politiker, die ihn so gern regelmäßig zwecks Informationsaustausches treffen, zu mehr Aktion treiben müssen. Bisher habe die Menschheit bestenfalls die Note Vier verdient: „Diesmal müssen wir es besser machen.“

Mehr: Das Fundament unseres Wohlstands besteht aus Sand und Salz

Erstpublikation: 09.09.2024, 18:48 Uhr.