Bot-Expertin „Bumm, dann war der Chatbot tot“

Justine Cassell ist Professorin an der Carnegie Mellon University und Expertin für Künstliche Intelligenz. Im Interview spricht sie über den Einfluss von Bots, die ethischen Regeln für Maschinen und die Sesamstraße.
Kommentieren
Müssen sich Menschen vor den Bots fürchten? Quelle: obs
Chatbots im E-Commerce

Müssen sich Menschen vor den Bots fürchten?

(Foto: obs)

Justine Cassell ist Professorin an der renommierten Carnegie Mellon University und beschäftigt sich seit Jahren mit Künstlicher Intelligenz und selbstlernenden Maschinen und Chatbots. Letztgenannte sollen schon in naher Zukunft unser Kommunikationsverhalten mit Unternehmen verändern: Die intelligenten Maschinen sollen zum Beispiel im Kundenservice Fragen beantworten und Probleme lösen. Zu ihren Forschungsarbeiten gehören auch Bots, die menschliche Emotionen und Sprache erkennen können. Auf dem Chatbot-Summit in Berlin Anfang der Woche durfte die Technologie-Wissenschaftlerin daher nicht fehlen.

Frau Professor Cassell, es sieht so aus, als gehe gerade jeder davon aus, dass Bots die nächste digitale Revolution bringen werden. Ist das so? Was wird sich durch Bots verändern?
Bei der Sache mit der Revolution muss ich leider sagen: Das ist ehrlicherweise das dritte Mal, dass ich diese Revolution erlebe. Das ist interessant, denn der erste Chatbot wurde bereits Mitte der 1960er-Jahre entwickelt. Ihr Name war Eliza und sie wurde bis Mitte der 1990er-Jahre ignoriert. Dann sprachen plötzlich alle über den „virtuellen Menschen“. Es gab damals einen automatisierten Nachrichtensprecher. Ähnliches passierte im Jahr 2000, ebbte dann aber wieder schnell ab. Ich denke, dass jetzt eine Revolution bevorsteht, aber es sind nicht die Chatbots per se, weil wir die schon vorher gesehen haben. Es liegt an der Tatsache, dass wir Chatbots bauen können, die tatsächlich in der Lage sein können eine echte Unterhaltung mit einem Menschen zu führen.

Wie ist das möglich?
Selbstlernende Maschinen treiben viele Fortschritte an. Früher einmal mussten wir die Regeln für Chatbots in Handarbeit festlegen. Man konnte vielleicht eine kurze Unterhaltung führen, aber wenn der Mensch plötzlich eine unvorhergesehene Frage stellte – bumm, dann war der Chatbot tot. Jetzt sind wir in der Lage, riesige Datensets zu verwenden, davon zu lernen und Chatbots zu bauen, die dadurch flexibler sind.

Die Professorin leitet den Fachbereich Mensch-Computer-Interaktion an der Carnegie Mellon University. Quelle: Presse
Justine Cassell

Die Professorin leitet den Fachbereich Mensch-Computer-Interaktion an der Carnegie Mellon University.

(Foto: Presse)

Was unterscheidet also Chatbots heute von ihrer Ahnin Eliza aus den 1960er-Jahren?
In der Vergangenheit hatten wir Dialogsysteme, mit denen kein Smalltalk möglich war. Sie nutzen Techniken, die so angelegt sind, dass der Mensch mit ihrer Hilfe ein Ziel erreichen kann. Sie müssen lediglich diese Ziele erkennen, um sie umzusetzen. Heute geht es darum, dieses Dialogsystem und einen intelligenten Chatbot zusammenzubringen. Daran arbeite ich mit meinen Studenten.

Was wird das bringen?
Wir sagen immer, dass Unterhaltung zwei Ziele verfolgt. Das erste ist, eine Aufgabe zu erfüllen. Das zweite Ziel ist der zwischenmenschliche Austausch. Das ist der Grund warum wir ein Instrumentarium bauen müssen, dass beide Bedürfnisse erkennt. Ist der Gegenüber zum Beispiel jemand, der Distanz halten möchte? Wird man zu persönlich, wird die gestellte Aufgabe nicht mehr effektiv genug ausgeführt. Oder jemand schätzt es locker, dann muss der Bot über die Zeit hinweg vertrauter in der Ansprache werden. Es ist doch lächerlich: Jedes Mal wenn ich meinen Sprachassistenten auf dem Smartphone öffne, stellt er sich aufs Neue vor. Danke Dir, ich kenne Dich, schließlich nutze ich Dich schon über ein Jahr lang. Das muss sich mit der Zeit verändern.

Aber wie kann eine Maschine jemanden wieder oder etwa die emotionale Verfassung eines Nutzers erkennen?
Um ein funktionierendes soziales Dialogsystem zu bauen, nutzen wir Sprachinhalte, die akustischen Aspekte von Sprache, wie etwa Lautstärke oder Sprachgeschwindigkeit. Und wenn der Bot das Gegenüber sehen kann, ist das Dritte die nonverbale Information. Lächelt das Gegenüber? Wohin schauen die Augen? Das alles macht das System so sozial aufmerksam, dass der Mensch die gleichen Verhaltensweisen im Gespräch an den Tag legen wird, als wäre sein Gegenüber ein anderer Mensch. Er wird also nicht die ganze Zeit darüber nachdenken, wie er einem Computer sein Anliegen verständlich machen kann oder gar selbst wie einer zu sprechen, damit seine Wünsche erfüllt werden.

Wenn Chatbots so mit uns interagieren: Was wird das in unserer Beziehung zu Marken verändern?
Wir wissen, dass diese Art von sozialer Aufmerksamkeit, Vertrauen und Beziehung stärkt. Das bedeutet, dass Du Dein Vertrauen automatisch einer Marke schenkst, weil Du das Gefühl hast, dass sie Dich kennt. Studien zeigen: Verwendest Du Teile von Small-Talk in der Konversation einer Maschine, wird sich der Mensch besser und verstanden fühlen. Wenn eine Marke das schafft, hat sie gewonnen.

Das sind die wertvollsten Start-ups der Welt
Platz 17: Spotify
1 von 17

Eines der wertvollsten Start-ups der Welt wird in diesem Jahr wohl die Rangliste verlassen. Der Musikstreaming-Dienst Spotify setzt laut Medienberichten zu seinem seit langem erwarteten Börsengang an. Derzeit wird das Unternehmen aus Schweden mit 8,5 Milliarden Dollar bewertet, ein Börsengang könnte die Bewertung auf bis zu 20 Milliarden steigern. Der Dienst kommt nach eigenen Angaben auf mehr als 60 Millionen zahlende Abo-Kunden und mehr als 140 Millionen Nutzer insgesamt.

Quelle: WSJ Billion Dollar Club, Januar 2017

Platz 16. Theranos
2 von 17

Mit nur 19 Jahren gründete Elizabeth Holmes (Bild) im Jahr 2003 die Firma Theranos. Mit einem kleinen Piekser in den Finger sollten innovative Technologien zuverlässige günstige Bluttests liefern. Doch dann wurden immer mehr Probleme mit den Bluttests bekannt. Ergebnisse wurden angezweifelt und letztlich als fehlerhaft zurückgezogen. 2017 konnte Theranos die folgenden Rechtstreite aber beilegen. Die letzte Finanzierungsrunde, die vor dem Skandal stattfand, bewertete das Unternehmen mit 9 Milliarden Dollar.

Platz 15: Stripe
3 von 17

Die irischen Brüder Patrick (links) und John Collison gründeten 2009 das Start-up Stripe. Die Software-Plattform will Online-Zahlungsabwicklungen erleichtern und verarbeitet jährlich für Unternehmen in 25 Ländern Beträge in Milliardenhöhe. Selbst ist das Jungunternehmen 9,2 Milliarden Dollar wert.

Platz 14: DJI
4 von 17

Frank Wang hat seinen Kindheitstraum wahr gemacht und sogar noch weiterentwickelt: Als er noch klein war, träumte er von einem Modell-Helikopter - als er einen besaß, crashte er ihn schnell. Doch er hielt an seinem Traum fest und gründete 2006 DJI, ein mittlerweile 10 Milliarden Dollar schweres Unternehmen, das Drohnen herstellt und verkauft. Mehr als 6000 Mitarbeiter arbeiten weltweit für die Chinesen.

Platz 13: Dropbox
5 von 17

Wer hat noch keine Dateien per Dropbox verschickt? Das Start-up bietet eine Freigabe- und Speicherlösung von kleinen und großen Dateien. Drew Houston schrieb 2007 den ersten Softwarecode für Dropbox während einer Busfahrt von Boston nach New York. Mittlerweile nutzen über eine halbe Milliarde Menschen weltweit Dropbox. Das Unternehmen ist derzeit 10 Milliarden Dollar wert. Experten erwarten, dass bald ein Börsengang angekündigt wird.

Platz 12: Lyft
6 von 17

Der 2012 gegründete Fahrdienst-Vermittler ist der größte Konkurrent von Platzhirsch Uber. Das Start-up ist in rund 300 US-Städten aktiv. Im Oktober 2017 steckte Google eine Milliarde Dollar in das Unternehmen. Damit stieg die Bewertung von Lyft auf 11,5 Milliarden Dollar. Ein Börsengang wird in diesem Jahr erwartet.

Platz 11: Flipkart
7 von 17

Der virtuelle Marktplatz Flipkart ist das indische Pendant zu Amazon. Binny Bansal (rechts, mit Microsoft-Chef Satya Nadella) und Sachin Bansal arbeiteten vor der Gründung für den heutigen Konkurrenten Amazon, wollten dann aber eine E-Commerce-Webseite für Inder gründen. Indische Unternehmen investierten bereits drei Milliarden Dollar in das Start-up, das mittlerweile 11,6 Milliarden Dollar wert ist.

Das zeigt aber auch den Aspekt von Beeinflussung von Kunden. Technologie selbst ist neutral, erst ihre Verwendung bestimmt, ob sie gut oder schlecht ist. Was sind also die Gefahren von Bots?
Ich bin es leid, dass Leute Technologie als böse bezeichnen. Sie ist es nicht, aber Sie haben Recht, es gibt Gefahren. Wir können Bots verwenden um Bedürfnisse von Menschen zu erfüllen, aber wir können sie auch nutzen, um ihnen falschen Informationen zu geben und sie zu beeinflussen.

Brauchen wir also eine Art von Regulierung von Bots?
Ich persönlich halte einen Top-Down-Ansatz für den falschen Weg. Wir brauchen eine Erziehung von Computerwissenschaftlern, Unternehmen und der Öffentlichkeit darüber, wie Bots arbeiten und wer sie sind. Aber das ist wirklich kein neues Phänomen.

Warum? Bots, die Einfluss nehmen, sind offenbar ziemlich neu...
Erinnern Sie sich mal an TV-Werbung, die gibt es schon ziemlich lange. In den frühen 1960er-Jahren gab es eine Gruppe von militanten Eltern, die Werbung für zuckerhalte Frühstücksflocken während des Kinderfernsehprogramms verbieten ließen, weil sie ziemlich effektiv war. Am Ende wurden die Kinder älter und kauften sich die süßen Sachen selber, weil es verboten war, als sie Kind waren. Also wäre es nicht besser ein TV-Programm zu schaffen, das über gesunde Ernährung informiert? Am Ende gründeten genau diese militanten Eltern den Childrens Television Workshop – den wir heute als „Sesamstraße“ kennen. Ich denke, dass es mit den Bots genauso ist: Wir brauchen Bildung, die uns beibringt, wie wir mit Künstlicher Intelligenz umgehen müssen.

Aber welche Regeln gelten für Bots?
Eine ist: Erschaffst Du einen Bot, der unglaublich echt aussieht? Ich tue das nicht. Meine sehen aus wie Cartoons. Oder versuchst Du den Menschen auszutricksen, damit er denkt, dass er mit einem echten Menschen spricht? Bist Du ehrlich, was Dein Bot kann? Meine Bots sagen zum Beispiel immer „Oh, das ist eine exzellente Idee, darüber werde ich mit meinen Entwicklern sprechen“ oder „Es tut mir leid, niemand hat mir einen Code beigebracht, das zu tun.“ Es zeigt sich in Experimenten zu Mensch-Maschine-Interaktion, dass diese Offenheit Vertrauen in das System steigert. Es geht bei allem um Klarheit und Transparenz.

Professor Cassel, vielen Dank für das Interview.

Startseite

Mehr zu: Bot-Expertin - „Bumm, dann war der Chatbot tot“

0 Kommentare zu "Bot-Expertin: „Bumm, dann war der Chatbot tot“"

Das Kommentieren dieses Artikels wurde deaktiviert.

Serviceangebote
Zur Startseite
-0%1%2%3%4%5%6%7%8%9%10%11%12%13%14%15%16%17%18%19%20%21%22%23%24%25%26%27%28%29%30%31%32%33%34%35%36%37%38%39%40%41%42%43%44%45%46%47%48%49%50%51%52%53%54%55%56%57%58%59%60%61%62%63%64%65%66%67%68%69%70%71%72%73%74%75%76%77%78%79%80%81%82%83%84%85%86%87%88%89%90%91%92%93%94%95%96%97%98%99%100%