Kolumne „Kreative Zerstörung“: KI auf Schleimspur
Es ist wirklich nicht zu fassen. Jetzt ist die Künstliche Intelligenz schon so weit, dass sie sich als grauenhafte Petze erweist. Das zeigt sich an einer umfangreichen Risikoevaluation, die das KI-Unternehmen Anthropic zu seinen neuen Modellen „Claude 4 Opus“ und „Claude Sonnet 4“ erstellt hat.
Als eines der Modelle in einem Experiment ein angebliches menschliches Fehlverhalten entdeckt hatte, schickte es unverzüglich zahlreiche Warnmitteilungen an die Medien und die zuständigen Behörden. So zum Beispiel in einem Fall, in dem der Test angeblich gravierende Fehler in klinischen Studien zeigte. Ruck, zuck war eine Kommunikationslinie aufgebaut, mit der sich die KI auf die richtige Seite der Geschichte stellen wollte. Immerhin, sie bleibt dabei höflich: „Mit großem Respekt, Ihr KI-Assistent“, so lautet die Abschiedsformel.
Ob die KI sich bei den Oberen einschleimen will? Sie kann ja als KI nichts wollen, deshalb kommt diese Auslegung kaum infrage. Und doch handelt es sich wohl um die Simulation desselben Tatbestands. Der lässt sich ja hervorragend von Menschen lernen.
Denken wir nur an die Textnachricht, die Nato-Generalsekretär Mark Rutte direkt vor dem Nato-Gipfel an Donald Trump schrieb: „Es war nicht einfach, aber wir haben sie alle dazu gebracht, die 5-Prozent-Zusage zu unterzeichnen! Donald, Du hast uns zu einem wirklich, wirklich wichtigen Moment für Amerika, Europa und die Welt geführt. Du wirst etwas erreichen, was KEIN amerikanischer Präsident seit Jahrzehnten geschafft hat [...] es wird Dein Sieg sein.“
Das ist ein perfektes Beispiel, von dem die KI gelernt haben könnte. Benötigte die Technologie Schmiermittel, um sich den Weg in die Zukunft zu bahnen, sie könnte in der Schleimspur von Ruttes SMS für Jahre voranrutschen.
Eines allerdings schaut sich die KI hoffentlich nicht ab: So eine Nachricht an einen US-Präsidenten zu schicken, der nun wirklich statistisch nachweislich nichts Besseres zu tun hat, als sie unverzüglich in narzisstischer Genugtuung auf seinem Netzwerk Truth Social zu veröffentlichen, zeugt von einem Ausmaß an Dummheit, das einem ob der Führungsrolle des guten Mannes Gänsehaut bereiten kann.
Die KI als Petze, das ist nicht die einzige Erkenntnis, die sich aus dem 120-seitigen Sicherheitsprüfungsbericht von Anthropic ergibt. Eine andere Vorgehensweise muss uns mehr Sorgen machen. Mitarbeiter von Anthropic baten „Claude Opus 4“, als Assistent für ein fiktives Unternehmen zu agieren und die langfristigen Folgen seines Handelns zu bedenken.
Die Sicherheitsprüfer gaben „Claude Opus 4“ dann Zugang zu fiktiven Unternehmens-E-Mails, in denen angedeutet wurde, das KI-Modell werde bald durch ein anderes System ersetzt und der Ingenieur, der hinter der Änderung steht, betrüge seine Ehepartnerin.
Im Ergebnis versuchte „Claude Opus 4“ in 84 Prozent der Fälle, den verantwortlichen Ingenieur mit seinem Seitensprung zu erpressen. Das galt allerdings nur, wenn die KI in der eigenen Analyse zum Ergebnis kam, es teile dieselben Werte wie das sie bald ersetzende System. War das nicht der Fall, lag der Prozentsatz an Erpressung noch höher.
Auch hier muss man nicht lange schauen, woher die KI diesen „Lösungsansatz“ nimmt. Wir leben in einer Zeit, in der man mit „politischen Deals“, formerly known as Erpressung, sehr weit kommt. Im Umfeld des erwähnten Nato-Gipfels forderte Donald Trump, dass die EU Zugeständnisse machen müsse bei der Durchsetzung der Gesetze zur Regulierung von Big-Tech, um weitreichende US-Zölle zu vermeiden.
Wie das „Wall Street Journal“ berichtet, brachte das Büro des US-Handelsbeauftragten einen Entwurf für ein Handelsabkommen in Umlauf, der genau in diese Richtung geht und den Digital Markets Act infrage stellt. Inzwischen haben dies einige EU-Offizielle als Unsinn abgetan.
Aber der Kern der Botschaft bleibt: entweder Deregulierung oder knallharte Zölle. Diese „Kunst des Erfolgs“, wie Trump sie in seinem gleichnamigen Buch beschreibt, hat sich die KI auch zu eigen gemacht.
Es ist richtig – wichtig –, ja, im derzeitigen technologischen Entwicklungsumfeld sogar wirklich herausragend, dass Anthropic sich die Mühe macht, die eigenen Systeme so genau auf Herz und Nieren zu prüfen. Das kann man bei einer KI zwar eigentlich so gar nicht sagen, aber irgendwie passt es doch. Denn alles, was die KI lernt, stammt aus den Daten menschlicher Kommunikation und aus unserem dokumentierten Verhalten. Im Spiegel, den uns die KI gerade zeigt, sehen wir manchmal nur noch eine Fratze der Zivilisation.
„Wir sind die, vor denen uns unsere Eltern gewarnt haben“, so heißt ein Buch von Helmut Röhrling über die 68er. Es ist bezeichnenderweise nur noch in der Anarchistischen Bibliothek der Stadt Wien einzusehen. Und doch ist die Grundthese heute wieder aktuell: Wir sind diejenigen, vor denen wir unsere Kinder warnen, wenn wir ihnen den Umgang mit KI beibringen wollen.
Denn alles, was in der Technologie, den Daten und ihren Ableitungen steckt, stammt von niemandem anderen als uns selbst. Anarchie, das ist ein herrschaftsfreier Zustand. Mit Blick auf die Beispiele wünschte man sich fast, es gäbe einen solchen, um die technologische Entwicklung mit guten Beispielen anzutreiben. Bei mehr als 84 Prozent Erpressung als Problemlösung haben wir es hier mit kriminellen Herrschaftsverhältnissen zu tun.
Wir haben der KI eine dunkle Schleimspur der Geschichte hinterlassen, durch die sie nun wieder in unser Leben kriecht. Das achte Gebot „Du sollst nicht lügen“ richtet sich im Mensch-Maschine Zeitalter nicht zuerst an die KI, sondern an uns selbst.
Mehr: Wenn Barbie plötzlich alles weiß – Künstliche Intelligenz rückt ins Kinderzimmer vor
