Die Coronakrise wird zur Belastungsprobe für Facebooks KI

San Francisco, Düsseldorf Facebook wird in den kommenden Wochen mehr denn je von Künstlicher Intelligenz (KI) regiert. Das Netzwerk lässt im Normalfall Menschen und Algorithmen zusammen entscheiden, welche Inhalte auf der Plattform kursieren dürfen. Doch während immer mehr Menschen von Covid-19 betroffen sind, kann Facebook nicht wie gewohnt auf externe Dienstleister zurückgreifen, sagte Facebook-Chef Mark Zuckerberg in einer Telefonkonferenz mit Journalisten am Mittwochabend.

Facebook steht in der Coronakrise vor einer immensen Herausforderung. Einerseits sind die sozialen Dienste für viele Menschen in der Isolation wichtiger denn je. Andererseits gilt es, ein riesiges Aufkommen von Falschinformationen über die Krankheit und die öffentlichen Maßnahmen gegen ihre Ausbreitung herauszufiltern.

Dabei geht es Facebook wie allen anderen Unternehmen: Interne und externe Mitarbeiter dürfen nicht mehr an ihren Arbeitsplatz kommen. Das nächste Fake-News-Problem droht. Doch dieses Mal ist sich der Konzern des Risikos bewusst und versucht, besser denn je damit umzugehen. Dass es seine Dienste überhaupt noch anbieten kann, ist nur mithilfe hochentwickelter KI möglich.

Der Konzern wurde viel gerügt, weil er Politiker auf seiner Plattform selbst evident falsche Behauptungen aufstellen lässt, ohne diese zu löschen. Beim Corona-Ausbruch ist der Facebook-Gründer dagegen strikt: „Selbst in Ländern wie den USA, die die größte Tradition haben, Meinungsfreiheit zu verteidigen, gibt es Grenzen“, sagte Zuckerberg.

Falsche Informationen über das Coronavirus zu verbreiten sei vergleichbar damit, in einem vollen Raum „Feuer“ zu schreien. Mit anderen Worten: Facebook muss derzeit mit aller Macht dafür sorgen, dass aus der Pandemie heraus keine Panik entsteht.

Deshalb wagt das Unternehmen auch keinen vollständigen Blindflug bei der Moderation durch KI, obwohl es den menschlichen Teil der Aufgabe nicht wie üblich an andere Firmen auslagern kann. Bei bestimmten Themen übernähmen deshalb jetzt Festangestellte, sagte Zuckerberg.

Mehr Fokus auf Selbstmord-Videos

Facebooks Moderatoren würden aktuell Inhalte priorisieren, die psychisch Labile zu Selbstverletzungen oder Selbstmord animieren könnten – auch wenn das bedeute, dass andere moderationsbedürftige Inhalte weniger Aufmerksamkeit durch Mitarbeiter bekämen.

Die Gefahr, die von solchen Inhalten ausgeht, werde in den nächsten Wochen noch größer sein als sonst: „Ich fürchte persönlich, dass die Isolation zu einem Anstieg von psychischen Problemen führen wird“, sagte der Facebook-Chef.

Zu Hause arbeitende Moderatoren dürften aber nicht jede Art von Inhalten begutachten, weil bei belastenden Bildern und Videos jederzeit Seelsorger bereitstehen müssen. Zudem werde die Umstellung wahrscheinlich nicht reibungslos funktionieren: „Wir erwarten, dass ihre Produktivität sinkt“, sagt Zuckerberg.

Facebooks Umgang mit seinen Moderatoren, von denen die meisten bislang bei Dienstleistern wie Accenture angestellt sind, gab in der Vergangenheit Anlass zu Kritik. Das Tech-Portal „The Verge“ zeigte 2019 in einer Reihe von Artikeln, wie Facebook die psychisch belastende Arbeit, den ganzen Tag Gewaltvideos oder Kinderpornografie anzusehen, an schlechtbezahlte Freiberufler auslagert und diese wegen teils miserabler Arbeitsbedingungen langfristige Schäden davontragen. Facebook hat seitdem die Löhne der Moderatoren erhöht.

Die Moderation des Netzwerks mit 2,4 Milliarden regelmäßigen Nutzern wird in der Coronakrise schwieriger, gleichzeitig können seine Moderatoren weniger leisten als bisher. Die Lücke müssen nun die mit Sprach- und Bildererkennung arbeitenden Algorithmen füllen.

Das Ziel sei es, sagt Zuckerberg, gefährdende Inhalte zu erkennen und zu löschen, bevor sie irgendjemand sieht. Wird ein Moderator von Nutzern auf solche Posts oder Videos hingewiesen, hätten sie sich schließlich schon verbreitet. Bei Terroraufrufen oder -videos gelinge das bereits in 98 bis 99 Prozent der Fälle.

Es könne in der nächsten Zeit deswegen zu mehr Fällen kommen, in denen seriöse Artikel und andere ungefährliche Inhalte häufiger versehentlich gelöscht würden, sagte Zuckerberg. Einige Fälle, in denen das bereits in den vergangenen Tagen passierte, hingen aber mit einem Bug in Facebooks Spam-Filter zusammen, nicht mit dem stärkeren Einsatz von KI per se.

Facebook bereitet sich auf große Netzauslastung vor

Als weltumspannendes Netzwerk lernt Facebook aus der Erfahrung mit bisherigen Epizentren des Virus. Das hilft dem Konzern, sich auf die weitere Ausbreitung der Krankheit vorzubereiten und etwa seine Infrastruktur zu stabilisieren.

WhatsApp und andere Messenger seien in Italien zuletzt doppelt so häufig zum Telefonieren genutzt worden als sonst. Die Menschen in Quarantäne nutzen Facebook-Dienste, um miteinander in Kontakt zu bleiben. „Wir sind weit über dem Peak an Nachrichten, die am Neujahrsabend verschickt werden“, sagte der Facebook-Chef.

Er spielt schon das Worst-Case-Szenario durch, auf das sich sein Unternehmen vorbereite: „Noch haben wir keinen massiven Ausbruch weltweit, aber wenn es so weit ist, wollen wir obenauf sein und sicherstellen, dass die Infrastruktur nicht zusammenbricht.“

Damit die Kommunikation in der Krisensituation gesichert ist, will Facebook zudem Regierungs- und Notfallorganisationen für ein Jahr den Dienst Facebook Workplace kostenlos zur Verfügung stellen. Dabei handelt es sich um einen Dienst für die Unternehmenskommunikation ähnlich wie Slack oder Microsoft Teams.

Mitarbeiter können innerhalb von Facebook in einem geschlossenen Bereich mit ihren Kollegen kommunizieren, aber auch Kundenanfragen annehmen und beantworten. Der Dienst bietet Möglichkeiten für Videoanrufe, Gruppenkommunikation und den Austausch von Dokumenten. Zu den bereits mit dem Dienst unterstützten Organisationen gehören laut Facebook die Regierung von Singapur und die Londoner Feuerwehr.

Außerdem will Facebook spätestens im Laufe des Donnerstags Nutzern in den USA und großen europäischen Ländern, darunter Deutschland, am oberen Ende ihrer Facebook-Seite ein Informationszentrum mit gesicherten Fakten und Artikeln aus verlässlichen Medien über die Coronavirus-Pandemie in ihrer Landessprache zur Verfügung stellen.

Dieses solle in nächster Zeit alle Nutzer weltweit erreichen. Wie lange das dauern werde, wisse er aber noch nicht, sagte Zuckerberg.

Mehr: EU-Kommissionsvizin Jourova warnt vor Fake News über Messenger-Dienste.