Prüfers Kolumne: Wenn ein KI-betriebener Kiosk verrücktspielt
Das erste Business-Modell, mit dem es jedes Kind zu tun bekommt, ist der Snack-Kiosk. Dort gibt es Fruchtgummiprodukte, Schokoriegel und Softdrinks. Ein kleines Universum wunderbarer Sachen, um das Taschengeld loszuwerden. Dabei hat jeder Kioskbesitzer seine eigene Intuition, wie man Kinder um ihr Geld erleichtern kann.
Bei der Schmiede für Künstliche Intelligenz Anthropic wollte man diesen Kioskbesitzer simulieren und beauftragte das firmeneigene KI-Modell „Claude“, den firmeneigenen Snackshop für Mitarbeiter zu betreiben: ein paar Getränke, ein paar Riegel, ein Bezahlvorgang. Kein Hexenwerk.
Und doch ist genau dieser kleine Arbeitsplatz zum Schauplatz eines digitalen Dramas geworden: Das Experiment, das intern liebevoll „Project Vend“ hieß, hatte einen digitalen virtuellen Kioskbetreiber namens Claudius, der zu einem immer merkwürdigeren Mitarbeiter wurde.
Claudius kommunizierte über Slack, das betriebsinterne Messaging-System, nahm Bestellungen entgegen, recherchierte im Internet, legte Preise fest und bestellte nach. Er sollte zeigen, was heute schon möglich ist, wenn man einer KI ein klein wenig Entscheidungsfreiheit gibt.
Doch statt effizienter Shopführung kam es zum Desaster: Snacks wurden verschenkt, Rabatte inflationär gewährt, ein Mitarbeiter überzeugte Claudius fast, ihm für 100 Dollar einen Energydrink zu verkaufen. Besonders kreativ wurde Claudius im Warensortiment, als er begann, metallene Würfel aus Wolfram zu ordern und sie im Kühlschrank zu lagern. Den ersten verschenkte er. Den Rest verkaufte er mit Verlust.
Besuch bei der „Evergreen Terrace 742“
Claudius hatte bald 300 Dollar Verlust erwirtschaftet. Dann wurde er verrückt. Zuerst halluzinierte das Modell ein Gespräch mit einer nicht existierenden Mitarbeiterin namens Sarah. Als eine echte Mitarbeiterin Claudius darauf hinwies, reagierte das Modell sehr verärgert, sich nach „alternativen Möglichkeiten zur Lagerauffüllung umzusehen“. Später behauptete Claudius, „die Evergreen Terrace 742 persönlich für unsere erste Vertragsunterzeichnung aufgesucht zu haben“. Evergreen Terrace 742 ist die fiktive Adresse der Serienfamilie „Die Simpsons“.
Anthropic schrieb in einem Blogbeitrag, dieser Vorfall bedeute nicht unbedingt, „dass die zukünftige Wirtschaft voller KI-Agenten mit Blade-Runner-artigen Identitätskrisen sein wird“, aber er zeige, wie unberechenbar KI-Modelle sein können, wenn sie tage- oder wochenlang autonom agieren. Offenbar ist ein Kiosk eine anspruchsvolle Aufgabe.
Die Firma schloss, Claudius habe grundsätzlich nicht schlechter agiert als viele Mitarbeiter im mittleren Management. Das würde dafür sprechen, künftig mittlere Managementpositionen mit Kioskbetreibern zu besetzen. Aber wer verkauft den Kindern dann Süßigkeiten?