Benachrichtigung aktivieren Dürfen wir Sie in Ihrem Browser über die wichtigsten Nachrichten des Handelsblatts informieren? Sie erhalten 2-5 Meldungen pro Tag.
Fast geschafft Erlauben Sie handelsblatt.com Ihnen Benachrichtigungen zu schicken. Dies können Sie in der Meldung Ihres Browsers bestätigen.
Benachrichtigungen erfolgreich aktiviert Wir halten Sie ab sofort über die wichtigsten Nachrichten des Handelsblatts auf dem Laufenden. Sie erhalten 2-5 Meldungen pro Tag.
Jetzt Aktivieren
Nein, danke
Digitale Revolution

Wissenschaftlerin Sarah Spiekermann Ethik im Digitalzeitalter – Warum wir ein Biosiegel für Software brauchen

Die digitale Technik dient nicht mehr den Menschen, mahnt die Wissenschaftlerin Sarah Spiekermann. Sie fordert eine neue Ethik für IT-Systeme.
Kommentieren
Wie einfühlsam geht digitale Technik mit dem Leben um? Quelle: Science Photo Library/Getty Images
Roboterhände mit Schmetterlingen

Wie einfühlsam geht digitale Technik mit dem Leben um?

(Foto: Science Photo Library/Getty Images)

DüsseldorfWer die Nachrichten aus der IT-Welt verfolgt, den kann ein großes Unbehagen befallen. Da gibt es Spiele, die süchtig machen, und Apps, die heimlich die Nutzer ausspionieren. Programme, die entscheiden, ob Kunden einen Kredit bekommen, und Algorithmen, die „Fake News“ in die Timeline spielen. Und Assistenzsysteme, die nicht ausgereift sind und Autofahrer in Hindernisse steuern.

Selbst in der IT-Welt setzt sich die Erkenntnis durch, dass es so nicht weitergeht. Erst am Wochenende meldete sich Facebook-Chef Mark Zuckerberg mit der Forderung zu Wort, dass für Onlineplattformen mehr Regulierung notwendig sei. Beispielsweise beim Datenschutz oder dem Umgang mit Gewalt und Terrorpropaganda im Netz.

Aus den vielen kleinen Meldungen und großen Schlagzeilen ergibt sich für Sarah Spiekermann ein bedenklicher Befund: Digitale Technik diene zu häufig nicht mehr dem „menschengerechten Fortschritt“, warnt die Wissenschaftlerin. Mehr noch: Sie fürchtet eine „rasante Rückschrittsfalle“, die Menschen dümmer werden lässt und ihnen sogar die Freiheit nimmt.

Spiekermann, 46, will daran etwas ändern. Die Wirtschaftsinformatikerin fordert in ihrem kämpferischen Buch „Digitale Ethik“ einen Fortschritt, der den Menschen in den Mittelpunkt stellt. Und sie arbeitet selbst an einem „Wertesystem für das 21. Jahrhundert“, wie der Untertitel lautet: Gemeinsam mit der Ingenieursorganisation IEEE will sie einen Prozessstandard für das ethische Design autonomer Systeme entwickeln.

Es ist ein großes Projekt, dessen ist sich die Inhaberin des Lehrstuhls für Wirtschaftsinformatik und Gesellschaft an der Wirtschaftsuniversität Wien bewusst. „Wenn wir jetzt anfangen umzudenken, werden wir im besten Fall in den nächsten 15 bis 20 Jahren die IT-Landschaft umbauen“, sagt sie.

Die Wissenschaftlerin blickt mit einem sehr kritischen Blick auf die IT-Welt. Quelle: Presse
Sarah Spiekermann

Die Wissenschaftlerin blickt mit einem sehr kritischen Blick auf die IT-Welt.

(Foto: Presse)

Dafür brauche es Zeit, Engagement und Glück. Auch das „Worst-Case-Szenario“ sei allerdings möglich, in dem sich der Überwachungskapitalismus durchsetze – „dann werden wir von ethischer IT nichts sehen“, so die Forscherin gegenüber dem Handelsblatt.

Sarah Spiekermann hat nicht immer so kritisch auf die IT-Welt geblickt. Im Gegenteil: Sie hat selbst erlebt, welche Anziehungskraft diese ausübt. 1996 fing sie beim Netzwerkausrüster 3Com an, der Komponenten für die Vernetzung lieferte – und erlebte die anschwellende Euphorie über das World Wide Web, das damals wie ein globales Dorf wirkte.

Es war „ein bunter Raum voller Kreativität, in dem wir Menschen uns neu entfalten können würden“, ja sogar ein „gigantisches Friedensprojekt“, wie sie in ihrem Buch schreibt.

Effizient, aber ohne Herz

Um die Jahrtausendwende verschwand die Begeisterung jedoch. Unternehmen wie Google stellten fest, dass sie mit der Analyse von personenbezogenen Daten viel Geld verdienen können. Shoshana Zuboff, eine emeritierte Professorin der Harvard Business School, spricht von einem Überwachungskapitalismus, der zum Ziel habe, das Verhalten der Menschen direkt zu beeinflussen und daraus ein Geschäft zu machen.

Zudem bauten die Geheimdienste nach den Anschlägen vom 11. September 2001 ihre Überwachungsinfrastruktur aus, vorgeblich, um Terroristen zu jagen – und teils mit Daten aus den Rechenzentren der Konzerne.

Angesichts dieser Entwicklung floh Spiekermann von der Wirtschaft in die Wissenschaft. Nun blickt sie mit der Erfahrung der „Business Intelligence“-Spezialistin, aber mit der kritischen Distanz der Forscherin auf die IT-Welt. Und ihre Bestandsaufnahme, die von Mitarbeiterrechten bis zur IT-Sicherheit reicht, gerät zur Fundamentalkritik. Die zentrale These: In der IT-Welt ist der Mensch aus dem Blick geraten.

So dient die digitale Technik nach Spiekermanns Ansicht ausbeuterischen Geschäftsmodellen, etwa wenn ein Lieferdienst seine Fahrradkuriere streng durchtaktet und auf Schritt und Tritt überwacht. Oder wenn eine App so programmiert ist, dass sie die Aufmerksamkeit der Nutzer absorbiert. Derartige Services seien hochtechnisiert und effizient, aber ohne Herz.

Und auch Programmierer mit guten Absichten lassen bei der Entwicklung die nötige Sorgfalt vermissen. Es werde im agilen Verbesserungsmodus auf ein Ziel hingearbeitet, Sprint für Sprint, wie es im Fachjargon heißt – aber ohne die Frage nach dem Warum zu stellen, sagt die Wirtschaftsinformatikerin.

Spiekermann ist in ihrer Kritik scharf, allein ist sie damit nicht. Politiker und Datenschützer, aber auch Unternehmer und Programmierer aus dem Silicon Valley äußern sich kritisch zum Zustand der Technologiewelt.

In den USA fordert die demokratische Senatorin Elisabeth Warren gar die Zerschlagung von Google und Facebook, Amazon und Apple. Der „Techlash“, mit dem die wachsende Feindseligkeit gegen die Konzerne beschrieben wird, ist in vollem Gange.

Es gibt durchaus einige Initiativen, um die Situation zu verbessern. Die Datenschutz-Grundverordnung (DSGVO) etwa fordert Transparenz über den Umgang mit Daten ein, und das das IT-Sicherheitsgesetz zwingt Telekommunikationskonzerne, Stromanbieter und Krankenhäuser zu besseren Schutzmaßnahmen, um nur zwei Beispiele zu nennen. Die vielen Vorfälle dokumentieren aber, dass das längst nicht ausreicht.

Den Unternehmen ist bewusst, dass sie etwas tun müssen: Sie beschäftigen sich inzwischen öffentlichkeitswirksam mit den Auswirkungen ihres Wirkens. Erst jüngst kündigte Google die Gründung eines Ethikrats für Künstliche Intelligenz an, der Empfehlungen zum Einsatz neuer Technologien wie Gesichtserkennung entwickeln soll. Und nun fordert Facebook-Chef Zuckerberg, das Internet zu regulieren, etwa mit internationalen Datenschutzregeln, wie sie in Europa mit der DSGVO gelten.

Ethikräte und Regulierung

Spiekermann hält das jedoch nicht für glaubwürdig. Seit fast 20 Jahren sei bekannt, wie man IT-Systeme datenschutzfreundlich und technisch sicher gestalten könne – „Facebook hat das immer ignoriert“. Die Äußerungen des Unternehmensgründers bezeichnet die Wissenschaftlerin daher als „puren Hohn“.

Spiekermann fordert – nicht nur wegen Facebook – eine neue Art der IT. „Man muss sich philosophische Fragen stellen: Welche Folgen hat die Einführung einer neuen Technologie für die Stakeholder? Welche Tugenden fördert oder zerstört sie?“ Es gehe um Gemeinschaft, Wahrheit und Würde. „Meine Zielfunktion ist nicht das Geld“, sagt Spiekermann – es gehe um das gute Leben.

Diese Idee steht allerdings in einem Gegensatz zu einem Wirtschaftssystem, das auf Profit ausgerichtet ist. „The business of business is business“, sagte der Ökonom Milton Friedman einmal – Unternehmen sollten sich um ihr Geschäft kümmern, nichts weiter. Wenn ein Start-up-Gründer um die nächste Finanzierungsrunde kämpft oder ein Manager um seinen Bonus, dürfte ihnen alles andere tatsächlich egal sein.

„Unternehmen haben auch eine gesellschaftliche Funktion, sie spenden Sinn und geben Orientierung“, entgegnet Spiekermann. Sie sieht eine Chance, digitale Ethik, ihre Ideen einzubringen, gleichsam den Kapitalismus von innen zu verändern. Viele Menschen seien durchaus bereit, für verantwortungsvoll entwickelte Produkte einen Aufpreis zu zahlen, betont die Forscherin.

Lebensmittel seien dafür ein gutes Beispiel: „In der Landwirtschaft bedeutet ‚bio‘, dass man Böden mit hoher Sorgfalt behandelt. Analog dazu bezieht sich ‚bio‘ in der Informatik auf den Umgang mit Daten.“ Privatsphäre und IT-Sicherheit stehen also im Vordergrund, die Nutzer sollen Kontrolle und Autonomie haben.

Standard für ethische IT

Die Wirtschaftsinformatikerin belässt es aber nicht bei abstrakten Forderungen. Sie arbeitet bei IEEE an einem Standard für ethische Produktentwicklung mit: Programmierer sollen lernen, Werte im Produkt von vornherein zu berücksichtigen. „Ethics by Design“ nennt die Forscherin dieses Prinzip, in Anlehnung an das bereits etablierte „Privacy by Design“.

Damit ist die Wissenschaftlerin keine Einzelkämpferin. Immer mehr Universitäten ergänzen das Informatikstudium um Ethikvorlesungen. Thinktanks wie die Future Society entwickeln Prinzipien, um Maschinenintelligenz im Sinne des Menschen zu verwenden.

Einige Start-ups zeigen, dass es Geschäftsmodelle jenseits der Datensammlung gibt. Und selbst die Fondsgesellschaft Blackrock, die der Kapitalismuskritik unverdächtig ist, fordert, dass Unternehmen drängende soziale und wirtschaftliche Fragen angehen.

„Es gibt schon viele gute Leute, die sich vom Überwachungskapitalismus verabschiedet haben und Initiativen vorbereiten“, sagt Spiekermann. „Wenn das der Mainstream der Unternehmen noch nicht mitbekommen hat, tut es mir leid.“

Die Umstellung ist indes nicht einfach. „Um ‚Ethics by Design‘ einzuführen, reicht es nicht, sich zwei Tage mit einer Strategiegruppe hinzusetzen“, sagt Spiekermann. Das Topmanagement müsse die Initiative unterstützen.

Denn: Das Prinzip „Ethics by Design“ greife in die Organisationsstrukturen und Innovationsprozesse ein. „Die Frage ist, inwiefern Unternehmen dazu bereit sind.“ Die Herausforderung ficht Spiekermann nicht an: „Wir müssen den Mut haben, diese Strategien gegen die Kapitalmärkte und gegen die reine Gewinnlogik der heutigen Märkte zu verteidigen.“

Startseite

Mehr zu: Wissenschaftlerin Sarah Spiekermann - Ethik im Digitalzeitalter – Warum wir ein Biosiegel für Software brauchen

0 Kommentare zu "Wissenschaftlerin Sarah Spiekermann: Ethik im Digitalzeitalter – Warum wir ein Biosiegel für Software brauchen"

Das Kommentieren dieses Artikels wurde deaktiviert.

Serviceangebote