Ein Buch über Big Brother im 21. Jahrhundert: Was Digitalisierung dürfen sollte – und was nicht

Nur im ersten Moment mag man schmunzeln, wenn der Klobesucher das Örtchen verlassen will, aber nicht raus kann. Ohne mindestens 20 Sekunden Händewaschen bleibt die Tür eben zu. Kameras und Sensoren erfassen das Leben in Bild, Ton und Text fast vollständig. Bis hin zum Augen-Tracking. Wer wohin schaut, lässt sich mit dem Iris-Scan einer Kamera abgreifen.

Wenn ein Mann eine Frau angafft, werden die Augen mit dem Namen des Täters verbunden, können seine Familie, sein Arbeitgeber und die Öffentlichkeit informiert werden. Und gegen häusliche Gewalt wird prophylaktisch eingegriffen. Schon wenn der Ton im Haus ruppiger wird, schlagen die Sensoren Alarm, die Polizei rückt an. Das trifft sogar Delaneys Eltern.

Dave Eggers: Every.
Deutsche Übersetzung: Klaus Timmermann, Ulrike Wasel.
Kiepenheuer & Witsch
Köln 2021
592 Seiten
25 Euro

Viele Dinge aus Eggers’ Fiktion sind bereits nahe an der Realität – und erinnern sehr an Georg Orwells wegweisende Dystopie „1984“. Darin arbeitet Winston Smith im Ministerium für Wahrheit, wo er die Geschichte jedes einzelnen Menschen so umschreibt, wie es die Regierung verfügt. Alles schön beobachtet und überwacht vom „Großen Bruder“ und der Gedankenpolizei. Gerade ist „1984“ als fein gezeichnete Graphic Novel erschienen, die einen neuen, düsteren Zugang zu einem hochbrisanten Thema liefert.

Heute sind es die Großkonzerne im Internet, die als Großer Bruder und Gedankenpolizei fungieren. Facebook, Google und wie sie alle heißen, sie wissen alles über ihre Nutzer. Und nutzen diese Daten zu ihrem Vorteil. Die zentrale Frage, die sich daher bei diesem Thema heute stellt, lautet: Wie behalten wir in der digitalen Welt die Kontrolle? Damit beschäftigen sich nicht nur Eggers und Orwell, sondern auch mehrere Sachbücher.

George Orwell: 1984. Graphic Novel. Adaptiert und illustriert von Fido Nesti.
Ullstein
Berlin 2021
224 Seiten
25 Euro

Gerd Gigerenzer macht die Frage nach der Kontrolle zum Untertitel seines neuen Buches. Der kurze, plakative Titel: „Klick“. Der Bestsellerautor ist Risikoforscher. Es verwundert also nicht, dass er sich vor allem sorgt. Um die Zukunft des Einzelnen in einer Welt der Internetkonzerne. Über die Entmündigung des Einzelnen, den Verlust der Kontrolle, ganz wie Eggers es sich vorstellt.

Die Konzerne sammeln Daten, die Regierungen goutieren es. Das ist die unappetitliche Vision des Professors für Psychologie und Verhaltenswissenschaft. Er sieht auch die Demokratien in ihren Grundfesten angegriffen. Man fühlt sich erinnert an „Das Zeitalter des Überwachungskapitalismus“ der Ökonomin Shoshana Zuboff.

Gigerenzer benennt als Urübel Datenkraken wie Facebook und Google mit ihren Geschäftsmodellen der personalisierten Werbung, gespeist von den Nutzerdaten. Nutzer bekommen alle Services gratis, zahlen dafür mit ihren Spuren, die sie im Internet hinterlassen.

Gigerenzer beschreibt Sozialkredit-Scores, die Vertrauenswürdigkeit in jeder Hinsicht erfassen wollen. China ist das gern zitierte – und abschreckende – Paradebeispiel. Der Wissenschaftler zählt auf, was für eine solche Schulnote gesammelt werden kann: Strafzettel wegen zu schnellen Fahrens, polizeiliches Führungszeugnis, ehrenamtliche Tätigkeiten, Vernachlässigung familiärer Pflichten, politische Äußerungen in den sozialen Medien, aufgesuchte Webseiten und vieles mehr.

Wie viel Angst ist berechtigt?

Ob offen oder versteckt, Tech-Unternehmen und staatliche Organisationen bauen gemeinsam an einer Welt der totalen Überwachung. So die Sorge. Der Autor ist überzeugt: „Beobachtet zu werden wird unsere Zukunft sein – es sei denn, die Bürger, die Gesetzgeber und die Gerichte greifen ein, um dem Scoring der Bevölkerung Einhalt zu gebieten.“ Genau das funktioniert in Eggers’ Vision nicht.

Gigerenzer schürt eine Angst vor dem Neuen, dem Unbekannten, dem Ungreifbaren. Zum Glück aber belässt er es nicht dabei. Im zweiten Schritt fragt er: Wie viel von dieser Angst ist wirklich berechtigt? Und wo vor allem sind die Lösungen?

Der Experte hat eine konkrete Idee: Im Moment finanziert sich etwa Facebook fast ausschließlich durch Werbung. Natürlich also muss das Unternehmen es den Werbetreibenden recht machen. Dieser Kreislauf müsse durchbrochen werden.

Mit einem ganz einfachen Mittel: Nicht die Konzerne, sondern die Menschen sollten die Dienste der Tech-Unternehmen bezahlen. Wie viel müssten Nutzer an Facebook wohl geben, um den Konzern für die verlorenen Einnahmen zu entschädigen? Zwei Dollar im Monat, hat Gigerenzer ausgerechnet. Er hält das für eine realistische Alternative.

Gerd Gigerenzer: Klick. Wie wir in einer digitalen Welt die Kontrolle behalten und die richtigen Entscheidungen treffen.
Verlag C. Bertelsmann
München 2021
416 Seiten
24 Euro

Der Autor warnt ausdrücklich davor, die digitale Transparenzmachung als ein chinesisches Problem abzutun. Auch westliche Staaten wie die USA seien bereit, den Überwachungskapitalismus zu dulden. Bereits Edward Snowden habe enthüllt, dass die Regierung heimlich mit Internetkonzernen Überwachungsprogramme betreibe.

Das alles scheint kaum vergnüglich zu lesen. Aber es ist Pflichtlektüre in einer Welt, in der immer mehr Lebensvorgänge in rasantem Tempo digitalisiert werden. Lehrreich ist es dazu. Gigerenzer ist Wissenschaftler, doch er schreibt allgemein verständlich. In seinem 352-seitigen Weckruf-Manifest entlarvt er gern bemühten Neusprech wie „Big Data“, „künstliche Intelligenz“, „autonomes Fahren“, „Smart City“ als Missverständnisse mit Bedrohungspotenzial.

Sarah Spiekermann, Professorin für Wirtschaftsinformatik und Gesellschaft an der Universität Wien, prangert ähnliche Fehlentwicklungen an: Überwachung, Big-Data-Illusion, Gefährdung der Privatsphäre, Onlinesuchtgefahr. Ihr Titel „Digitale Ethik“ verrät den etwas anderen Blickwinkel. Sie sucht nach Wegen, menschliche Werte zu schützen. Freiheit, Würde, Freundschaft, Gemeinschaft, Sicherheit, Vertrauen gehören dazu.

Die Professorin spricht von der vergessenen Philosophie des guten Handelns, wie man sie in den ethischen Schriften von Aristoteles, John Stuart Mill oder Immanuel Kant findet. In der Neuzeit sei der Paradigmenwechsel im Denken zum Nachteil ausgeschlagen. Beispiellose technische Erfindungen und naturwissenschaftliche Innovationen hätten den Glauben an technischen Fortschritt geprägt. In der kurzen Formel: Das Neue ist gut, das Alte schlecht. Und heute ist das Neue vor allem digital.

Wie der Mensch in diesem Zeitalter verloren geht, schildert Spiekermann am Beispiel von Lieferservice-Diensten. Die Arbeitsbedingungen der Fahrradkuriere mit Niedriglöhnen, Freiheitseinschränkungen, Tracking ihrer Fahrten erinnern sie an die frühindustrielle Ausbeutungszeit. Die Maschine navigiert den Menschen. So steuere auch die Ökonomie auf eine systemische Gleichgültigkeit hin: „Wir schaffen eine entmenschlichte Arbeits- und Essenskultur.“

Die Vereinnahmung durch die Technik beginnt schon viel früher. Das Geschäftsmodell der großen Datenkonzerne verlangt unseren dauernden Aufenthalt auf ihren Plattformen. Im schlimmsten Fall werden wir abhängig, süchtig. In einem Gespräch erzählte eine Studentin Spiekermann, der Verlust ihres Handys fühle sich an, als hätte man ihr eine Hand abgehackt. Sie erinnert an erschütternde Ergebnisse einer amerikanischen Studie: Zwei Drittel der befragten Studenten waren bereit, sich das Handy sogar unter die Haut implantieren zu lassen.

Sarah Spiekermann: Digitale Ethik.
Droemer
München 2021
304 Seiten
19,99 Euro

Gefangen wie Spinnen im Netz, so drückt es Spiekermann aus. Sie fordert deshalb ein Verbot von Geschäftsmodellen mit scheinbar kostenlosem Angebot digitaler Services, die aber von unserer persönlichen Aufmerksamkeit und unseren Daten leben. Ein süchtig machendes Design solcher Dienste sollte ihrer Meinung nach verboten werden, die Abschaltung von Voreinstellungen zur Sicherung der Privatsphäre möglich sein.

Spiekermann untermauert ihre Warnungen mit dem Verhalten der Tech-Ikonen: Apples Kreativgenie Steve Jobs hatte seinen Kindern die Nutzung des iPads verboten, das er gerade auf den Markt gebracht hatte. Microsoft-Ikone Bill Gates erlaubte seiner Tochter erst ab dem vierzehnten Lebensjahr, Anrufe auf einem Smartphone entgegenzunehmen. Im Silicon Valley schicken viele Eltern ihre Kinder auf Schulen, in denen Lowtech wie Kreidetafeln den Wettbewerbsvorteil ausmacht.

Wie kann man also die Nachteile der Vernetzung begrenzen und gleichzeitig ihre Vorteile erhalten? Spiekermann schlägt beispielsweise vor, den Zugriff auf den Einzelnen zu entschleunigen. Einige der Ideen: E-Mails nur einmal am Tag zustellen, soziale Medien aktualisieren ihre Postings ebenfalls nur ein Mal am Tag. Wichtig sind der Wissenschaftlerin Bildung und Aufklärung: Vernetzung koste Zeit und Kraft, schränke echte Gemeinschaft ein, lenke ab, führe zur Oberflächlichkeit und zu fortschreitendem Persönlichkeitsverlust.

Spiekermann provoziert beim Leser einen Blick zurück – und einen nach vorn. Wir erinnern uns: Die ersten Computer waren raumfüllende Monstren, noch weit vom Nutzer entfernt. Dann wanderte das kleiner gewordene Gerät auf die Schreibtische. Heute tragen wir es in weiter reduziertem Volumen mobil in Leibesnähe. Der nächste Schritt wäre nach dieser Logik schrumpfender Distanz der in den Körper. Das passt auch zu der erwähnten amerikanischen Studie.

Die Autoren fordern von der Politik Grenzen

Am Endpunkt dieser Fortschrittsgeschichte steht der Transhumanismus, der den Menschen laut Spiekermann schlichtweg als suboptimales Auslaufmodell ansieht. Im Raum stehe das proaktive Ersetzen von biologischen Körperteilen und Organen durch angeblich besser geeignete computerisierte Trägermaterialien.

Bis zur Idee, das Gehirn zu scannen und einfach auf einem Computer hochzuladen. Für Spiekermann ist klar: Den Transhumanisten zählt der Körper wenig, für sie sind Fühlen und Intuition entsorgbare Nachteile des Menschen, Werte zählen nicht.

Gefordert ist hier die Grenzsetzung durch die Politik, da sind sich die Autoren einig. Für Gigerenzer immerhin ist die EU-Datenschutz-Grundverordnung ein erster Schritt, um verlorenes Vertrauen zurückzugewinnen. Die Europäische Union arbeitet an zwei Gesetzeswerken, die den Digitalkonzernen Grenzen setzen sollen.

Sie hat außerdem bereits einen Vorschlag gemacht, wie ein guter Rechtsrahmen für künstliche Intelligenz aussehen könnte. Systeme mit einem so eingestuften unannehmbaren Risiko, die etwa menschliches Verhalten manipulieren oder Behörden zur Bewertung von Sozialverhalten dienen, sollen komplett verboten werden.

So wie bei der App „Friendy“ in Eggers’ Roman. Spätestens da hätte die Revoluzzerin Delaney Proteste erwartet. Ihr Lügendetektor analysiert, wie gut oder eben schlecht Freundschaften wirklich sind. Eine künstliche Intelligenz wertet sämtliche verfügbaren Informationen aus, bis hin zur Körpersprache in Videos und Fotos. Milliarden von Lügen werden entlarvt. So zensieren sich alle lieber selbst. Wer nicht mitmacht, ist sozial unten durch. Ein Schreckensszenario.

Mehr: Von China in die Welt – Totalitäre Technologie wird zum Exportschlager.