Kolumne „Kreative Zerstörung“: Silicon Sampling ist Cambridge Analytica auf Steroiden
Miriam Meckel ist deutsche Publizistin und Unternehmerin. Sie ist Mitgründerin und CEO der ada Learning GmbH. Außerdem lehrt sie als Professorin für Kommunikationsmanagement an der Universität St. Gallen.
Foto: Klawe RzeczyBei einem Algorithmus von „Treue“ zu sprechen, führt auf die falsche Fährte. Sogleich kommen einem die Dating-Apps wie Tinder und Bumble in den Sinn, bei denen Treue vermutlich nicht der erste Begriff in einer lebhaften Assoziationskette ist. Und doch ist „Treue“ eine Eigenschaft, die unseren Umgang mit Algorithmen revolutionieren und unsere Welt verändern wird.
Ein Forschungsteam der Brigham Young University in Utah hat herausgefunden, wie gut große Sprachmodelle wie ChatGPT darin sind, kleinteilige demografische Merkmale abzubilden. Sie spiegeln in ihren Verzerrungen getreu uns Menschen. Damit können sie die Meinungen echter Menschen für Meinungsumfragen und Forschungszwecke simulieren. Die Forscherinnen und Forscher nennen das „algorithmische Treue“ („algorithmic fidelity“).
Sie haben damit eine Eigenschaft der Sprachmodelle gefunden, die zum einen bahnbrechende Veränderungen mit sich bringt für die Markt- und Meinungsforschung. Zum anderen ist das ein Schritt in Richtung der existenziellen Untreue, die unseren künftigen menschlichen Umgang mit uns selbst ausmachen wird.
Längst ist klar geworden wie gut Künstliche Intelligenz, vor allem die großen Sprachmodelle, darin ist, uns Menschen zu imitieren. Das Konzept der US-Forschungsgruppe hebt diese Erkenntnis auf ein ganz anderes Level. Wenn generative KI ganze Bevölkerungsgruppen exakt simulieren kann, so argumentieren die Forscher, dann brauchen wir keine realen Menschen mehr zu befragen, um zu verstehen, was bestimmte soziale Schichten, Nutzerinnen oder Käufergruppen wollen.
Der Versuch, Vorlieben, Interessen und Bedürfnisse von Menschen per Computer umfassend zu analysieren, ist nichts Neues. Schon Ende der 50er-Jahre versuchte die Simulmatics Corporation in den USA, Wähler- und Käufergruppen per computergestützter Datenanalyse gezielt anzusprechen. Mit einem riesigen Computer, einer IBM 704, genannt „People Machine“, wollte das Unternehmen an der 5th Avenue die Meinungsforschung revolutionieren – und hatte damit erste Erfolge, beispielsweise im Wahlkampf John F. Kennedys 1960.
Ein Computerprogramm, das menschliches Verhalten vorhersagen und manipulieren kann, und zwar alle Arten von menschlichem Verhalten, vom Kauf einer Spülmaschine über die Bekämpfung eines Aufstands bis hin zur Stimmabgabe – das ist ein Traum für alle, die politische Kommunikation und Marketing auf ein neues Level heben wollen. Dafür war die Computertechnologie vor Jahrzehnten noch nicht reif und die Gesellschaft nicht bereit.
Was heute niemanden mehr vom Hocker wirft, wurde damals zum Skandal. Nach einem misslungenen Einsatz, um die öffentliche Meinung zum Vietnamkrieg zu analysieren und zu beeinflussen, kam das Ende. Die Simulmatics Corporation meldete 1970 Insolvenz an. Es blieb der Traum, Menschen so gut analysieren zu können, dass man sie perfekt mit überzeugenden Botschaften ansprechen kann.
Miriam Meckel: Silicon Sampling katapultiert uns ins Zeitalter der Echtzeitdemografie
Genau das gelingt nun mit „Silicon Sampling“. Generative KI öffnet ein ganz neues Fenster in die demografischen Feinheiten menschlicher Präferenzen. Wie funktioniert das? Indem man die Zielgruppe definiert, das zu lösende Probleme und die Botschaft, das Produkt oder die Dienstleistung, die eine Lösung bringen könnten. Auf dieser Basis produziert ChatGPT eine ganze Reihe von virtuellen „Interviews“ mit prototypischen Menschen und analysiert, wie sie auf die Lösungsvorschläge reagieren.
Noch nie war es so einfach und günstig, politische Botschaften, Produkte, Marken und neue Geschäftsmodelle auf einem virtuellen Markt zu testen. Es braucht keine realen Befragten mehr, die Auskunft stammt von „Silikonmenschen“, demografischen Datenkonstrukten, die ebenso verlässlich Auskunft geben können wie reale Menschen – oder sogar besser.
Im Marketing lässt sich so unfassbar viel Geld sparen. Silicon Sampling katapultiert uns ins Zeitalter der Echtzeitdemografie. In jeder Sekunde kann jede Botschaft in den entsprechenden demografischen Gruppen getestet werden. Produkte, Dienstleistungen und Marketingbotschaften können für kleines Geld kontinuierlich an die Bedürfnisse der Zielgruppen angepasst werden.
Die große Veruntreuung unseres sozialen Zusammenhalts
Das heißt auch: Wenn ein Unternehmen oder eine Regierung die öffentliche Meinung in großem Stil manipulieren will, kann sie das an Millionen virtueller Menschen testen, um dann mit den überzeugendsten Botschaften in die reale Welt zu gehen. Als Kreditkartenbetrügerin kann ich die Methode nutzen, um herauszufinden, wie ich die Menschen am effektivsten dazu bringe, ihre Kreditkartennummer herauszugeben.
Die zwielichtige Firma Cambridge Analytica entfachte den Skandal um Facebooks Datenverkauf für die politische Persönlichkeitsanalyse. Silicon Sampling ist Cambridge Analytica auf Steroiden. Mit dieser Methode öffnet sich nicht nur die Tür zur Manipulation – sie bricht gleich mitsamt ihrem Rahmen aus der Wand. Und noch etwas geschieht. Wenn Maschinen Menschen besser verstehen, als Menschen sich selbst verstehen, werden wir Menschen immer maschinenähnlicher. Wir werden mit all diesen feingliedrigen Zielgruppenansprachen immer stärker darauf programmiert, für KI-Analysen auswertbar zu werden. Menschen werden auf Computeranalyse hin reprogrammiert.
>> Lesen Sie auch: Gruppe um OpenAI-Chef warnt vor Bedrohung durch KI
Irgendwann bleibt dann kein Sinn des menschlichen Selbst mehr übrig. Silikonmenschen werden gefragt, was sie wollen, und produzieren Antworten für Silikonmenschen, die ihre Silikonwünsche in eine Silikonwelt einspeisen – ein Zusammenspiel vieler artifizieller Ichs.
Das funktioniert ganz getreu einer bis zum Exzess optimierten Vermarktungsmaschinerie. Es ist gleichzeitig die große Veruntreuung unseres sozialen Zusammenhalts. Der entsteht, wenn wir mit menschlichen Brüchen und Überraschungen umgehen können. In einer Silikonwelt mit Silikonmenschen verlernen wir das langsam, aber sicher.
In dieser Kolumne schreibt Miriam Meckel 14-täglich über Ideen, Innovationen und Interpretationen, die Fortschritt und ein besseres Leben möglich machen. Denn was die Raupe Ende der Welt nennt, nennt der Rest der Welt Schmetterling. ada-magazin.com