Benachrichtigung aktivieren Dürfen wir Sie in Ihrem Browser über die wichtigsten Nachrichten des Handelsblatts informieren? Sie erhalten 2-5 Meldungen pro Tag.
Fast geschafft Erlauben Sie handelsblatt.com Ihnen Benachrichtigungen zu schicken. Dies können Sie in der Meldung Ihres Browsers bestätigen.
Benachrichtigungen erfolgreich aktiviert Wir halten Sie ab sofort über die wichtigsten Nachrichten des Handelsblatts auf dem Laufenden. Sie erhalten 2-5 Meldungen pro Tag.
Jetzt Aktivieren
Nein, danke

Tom Gruber Siri-Erfinder: „KI erhöht den Gewinn für Facebook, nicht für die Nutzer“

Tom Gruber sorgt sich wegen des Missbrauchs von Künstlicher Intelligenz. Gerade Facebook manipuliere seine Nutzer im großen Stil.
Kommentieren
Der Siri-Erfinder hält Facebooks Einsatz von Künstlicher Intelligenz für unethisch. Quelle: AFP/Getty Images
Tom Gruber

Der Siri-Erfinder hält Facebooks Einsatz von Künstlicher Intelligenz für unethisch.

(Foto: AFP/Getty Images)

San Francisco Tom Gruber, der Apples Sprachassistentin Siri erfand, kritisiert das Facebook-Management. „Facebook nutzt künstliche Intelligenz, um Menschen in großem Stil zu manipulieren, damit sie sich so verhalten, wie es ihre Werbeumsätze maximiert“,  sagte der langjährige Apple-Manager im Interview mit dem Handelsblatt. „Meiner Ansicht nach ist dies ein unethischer Einsatz der Technologie“.

Künstliche Intelligenz erhöhe bei Facebook den Gewinn für die Firma, schädige jedoch den Nutzer und „die Gesellschaft als Ganze“.

Facebook-Gründer Mark Zuckerberg und Sheryl Sandberg stehen wegen des Vorwurfs in der Kritik, von den Problemen um digitale Propaganda und manipulative Algorithmen gewusst, sie aber verschwiegen und vertuscht zu haben.

Gruber sieht mit Facebook die ganze Branche unter Druck. „Wir haben KI, die die geopolitischen Machtverhältnisse in der Welt verändert“, sagt er. „Das ist erschreckend.“

Immer öfter werde künstliche Intelligenz von Industrien oder Regierungen finanziert, um die öffentliche Meinung und Wahlen zu beeinflussen. „Da gehen unglaubliche Dinge vor sich, das ist eine Krise.“

Zur Entwicklung von Sprachassistentin Siri nahm Gruber ebenfalls Stellung. Die elektronische Assistentin habe die Idee davon, dass intelligente Maschinen von ihren Besitzern lernen, „zum Mainstream gemacht“, so der 59-Jährige, der die zugehörige Firma Siri Inc. 2010 an Apple verkaufte und das Unternehmen Ende Juli verließ. „Die Industrie denkt jetzt, dass wir alle Assistenten brauchen.“

Der Kritik, dass Apples Sprachtechnologie im Vergleich mit Konkurrenzangeboten wie Alexa und Google schlechter abschneide, stimme er nicht zu, so Gruber. „Zunächst einmal denke ich nicht, dass es ein Wettrennen ist.“ Auch gebe es dazu keine belastbare wissenschaftliche Studie. „Alles hängt davon ab, was die Ziele und Aufgaben für den Assistenten sind.“

Lesen Sie hier das gesamte Interview:

Herr Gruber, Facebook steht nach der Vertuschung des Skandals um manipulative Algorithmen und russische Propaganda erneut in der Kritik. Warum bekommt das Netzwerk seine Probleme einfach nicht in den Griff?
Facebook nutzt künstliche Intelligenz, um Menschen in großem Stil zu manipulieren, damit sie sich so verhalten, wie es ihre Werbeumsätze maximiert. Die Seite ist darauf optimiert, Nutzer lange Zeit dort zu halten, egal ob das deren Leben verbessert oder nicht. Es nutzt Milliarden von Daten und die beste KI, die man für Geld kaufen kann, um Menschen dazu zu bringen, Dinge zu tun, die sie sonst nicht tun würden. Die KI erhöht den Gewinn für die Firma, nicht für die Nutzer, das schädigt die Gesellschaft als Ganze. Meiner Ansicht nach ist das ein unethischer Einsatz der Technologie.

Warum ändert Facebook es nicht, wenn Programme unethisch agieren?
Es ist nicht falsch für die Investoren, es erhöht den Wert für die Aktionäre. Das passiert, wenn Kapitalismus auf monopolartige gigantische Macht trifft. So wie beim Öl. Über Nacht wurde absurder Reichtum geschaffen durch nichts anderes als Grundbesitz und das hatte schlimme Konsequenzen.

Ist es für einen Apple-Manager nicht sehr einfach, auf Facebook zu schimpfen, wenn das eigene Geschäftsmodell zufällig nicht auf Werbung beruht?
Das war Apples zentraler Wert von Beginn an. Intern weiß jeder, dass es ein sehr starkes Wertesystem bei Privatsphäre gibt, und deshalb kann Tim Cook nun in die Öffentlichkeit gehen und guten Gewissens sagen, dass Apple weiß, was es tut. Wenn anderswo einige Leute dubiose Dinge tun, dann ist es Zeit für die Aktionäre, den Aufsichtsrat oder die Öffentlichkeit, dagegen vorzugehen. Die öffentliche Meinung kann diese Firman verletzten, was gut ist.

Wie beurteilen Sie die Entwicklung Ihrer Erfindung Siri?
Siri hat ein neues Paradigma für unsere Beziehung zur Technologie etabliert. Nutzer müssen nicht mehr lernen, Technologie zu nutzen, sie lernt den Nutzer zu verstehen. Eine Benutzeroberfläche mit natürlicher Sprache und Intelligenz dahinter ist keine neue Idee. Das war seit Jahrzehnten das Ziel. Aber nun erleben es Menschen auf der ganzen Welt. Siri hat das zum Mainstream gemacht. Die Industrie denkt jetzt, dass wir alle Assistenten brauchen.

Fällt Siri hinter Alexa und Google Assistant zurück, wie Kritiker glauben?
Ich stimme dem nicht zu. Zunächst einmal denke ich nicht, dass es ein Wettrennen ist. Gibt es eine wissenschaftliche Studie, die einen Vergleich zieht? Das würde allen smarten Assistenten helfen, besser zu werden.

Zahlreiche Studien belegen, dass Siri weniger genau antwortet.
Aber niemand führte eine wissenschaftliche doppelblinde Studie durch. Alles hängt davon ab, was die Ziele und Aufgaben für den Assistenten sind. Ich hoffe, sie machen eine solche Untersuchung, dann würde ich mir diese Wettrennen-Theorie anhören. Das größere Thema bei künstlicher Intelligenz ist für mich gerade ist etwas, das nichts mit Siri zu tun hat. Wir haben KI, die die geopolitischen Machtverhältnisse in der Welt verändert. Das ist erschreckend.

Spielen Sie auf die Ankunft der Super-Roboter an, vor denen sich Tesla-Chef Elon Musk fürchtet?
Keine Firma der Welt entwickelt, wovon Elon spricht, das ist Science Fiction! Von der Musterkennung bis zu einem allwissenden intelligenten Roboter ist es mehr als nur ein Schritt. Viele versuchen das seit Jahren. Aber niemand meisterte den schweren Teil. Von den Leuten, die seit 30 Jahren in KI arbeiten, und von uns gibt es vielleicht einige wenige Tausende, sagt niemand, dass wir einen Terminator haben werden.

Welche Gefahren halten Sie für realistischer?
Jede Menge künstliche Intelligenz ist finanziert von Industrien oder Regierungen, um die öffentliche Meinung und Wahlen zu beeinflussen. Künstliche Agenten, die  da draußen unterwegs sind und sich mit Menschen in sozialen Netzwerken unterhalten, kommentieren, vorgeben, menschlich zu sein und Statistiken darüber beeinflussen, was gerade angesagt ist. Da gehen unglaubliche Dinge vor sich, das ist eine Krise.

Was regte eigentlich Ihr Interesse für smarte Assistenten?
Das war in den 70ern als Student. Ich war bereits Psychologe. Dann nahm ich Computerwissenschaften dazu. Mich interessierte die Kombination dieser beiden Dinge. Es gab keinen Weg, Theorien der Psychologie zu testen. Es wurde viel geschrieben, aber nicht getestet. Das hat mich frustriert. Mit Computern, erkannte ich, würde ich Modelle bauen können, um zu prüfen, wie Geist und Verstand funktionieren. So kam ich zur künstlichen Intelligenz.

Und Ihr erstes KI-Programm war?
Eine Prothese für Kommunikation für meine Masterarbeit in den frühen 80ern. So in der Art wie das, das Stephen Hawking gebraucht hätte. Wir haben dazu Techniken für Sprach-Modelle genutzt, die uns heute in jedem Smartphone begegnen, wenn wir anfangen zu tippen. Die Maschine sagt voraus, was der Nutzer vielleicht tippt und spart ihm Zeit. Für Menschen mit schweren Beeinträchtigungen macht es den entscheidenden Unterschied, wenn ihr langsam eingegebener Text beschleunigt wird. Aus dem Text erzeugte unser System eine synthetische Stimme, so ähnlich wie Siri, nur dass sie mit der Stimme des Nutzers sprach.

Wird künstliche Intelligenz künftig unsere Erinnerungen abspielen können? 
Ich glaube, dass eine Verbesserung des persönlichen Erinnerungsvermögens unausweichlich ist. Schon heute haben wir alle Arten externer Erinnerungshilfen. Einige legen die Schlüssel in die Nähe der Tür um sie nicht zu vergessen. Wir nutzen die äußere Welt, damit sie sich für uns erinnert. Der Unterschied ist, dass Technologie diese Funktion millionenfach verbessert. Schon heute nutzen viele ihren Computer als Tagebuch, als externes Gedächtnis, das sie durchsuchen können.

Interviewe ich also künftig Ihren digitalen Avatar?
Es gibt einige Experimente in dem Bereich mit hochmodernen Bots, die Menschen repräsentieren. Aber das ist alles noch in einem frühen Stadium. 

Wie beurteilen Sie die Fähigkeiten von smarten Assistenten? Viele Systeme erscheinen eher dumm.
Die Sache ist, dass eine künstliche Intelligenz über die Zeit durch die Interaktion mit ihrem Nutzer lernt. Das Management persönlicher Kontakte zu delegieren oder eine KI für sich sprechen zu lassen, erfordert einen hohes Maß an Vertrauen, dass noch niemand mit Maschinen besitzt. Keiner weiß, wie man eine Maschine baut, auf die sich Menschen verlassen möchten, also ein echtes Vertrauen wie bei einem Assistenten, das ist ein ziemlich kompliziertes Problem.

Würde es helfen, wenn die KI ab und an Gefühle zeigt und nicht immer so maschinenernst ist?
Sie muss emotionale Intelligenz besitzen, ohne selbst Emotionen zu haben, sie muss nur verstehen, Gefühle zu lesen und zu verstehen. KI sollte kein Liebhaber sein, sondern eher ein Angestellter. Wir werden mehr davon sehen.

Viele glauben, dass KI uns ersetzt, statt zu helfen.
Ich bin eng mit Garri Kasparov befreundet …

… der erste Schachmeister, der von einem Computer besiegt wurde. Er verlor 1997 gegen IBMs Deep Blue . . .
… ja, er war der Erste, der mit einem KI-System konfrontiert war, dass wirklich das Level menschlicher Meisterschaft erreichte. Das war hart für die Menschen. Seither können Computer besser Schach spielen als er. Aber Garri sagt, dass ein Duo aus einem menschlichen Spielern und einer KI die interessantesten Partien spielt. Das ist ein gutes Modell dafür, wie KI angewendet werden sollte.

Schreiben Roboter bald die Nachrichten, wie es einige Redaktion schon testen?
Was diese Bots tun, ist nicht, was Journalisten tun. Was wäre dann überhaupt der Sinn, Nachrichten zu haben? Journalisten finden heraus, was in einem System nicht funktioniert und benennen es. Maschinen können nicht programmiert werden, das zu tun.

Herr Gruber, vielen Dank für das Interview.

Startseite

Mehr zu: Tom Gruber - Siri-Erfinder: „KI erhöht den Gewinn für Facebook, nicht für die Nutzer“

0 Kommentare zu "Tom Gruber: Siri-Erfinder: „KI erhöht den Gewinn für Facebook, nicht für die Nutzer“"

Das Kommentieren dieses Artikels wurde deaktiviert.

Serviceangebote