Prüfers Kolumne Künstliche Intelligenz entsteht aus menschlicher Dummheit

Algorithmen sollen bei der Personalsuche helfen. Doch die künstliche Intelligenz produziert immer wieder Ergebnisse, die nachdenklich machen.
Kommentieren
Tillmann Prüfer ist Mitglied der Chefredaktion des „ZEIT“-Magazins.
Der Autor

Tillmann Prüfer ist Mitglied der Chefredaktion des „ZEIT“-Magazins.

Bei Amazon hat man seine besonderen Erfahrungen mit künstlicher Intelligenz gemacht. Das Unternehmen wollte das Bewerbungsverfahren automatisieren. Also schuf man einen Algorithmus, der die vielversprechendsten Bewerber herausfiltern sollte. Dabei wurden vor allem Daten aus den Bewerbungen von bereits unter Vertrag genommenen Mitarbeitern zugrunde gelegt.

Entsprach also eine neue Bewerbung solchen Bewerbungen von Mitarbeitern, die schon angestellt worden waren, verbesserte sich die Chance auf eine Einladung zum Gespräch. Nun wurde der Algorithmus außer Betrieb genommen, nachdem sich herausgestellt hatte, dass das Programm sexistisch ist. Es hat systematisch Frauen benachteiligt.

Weil Amazon Teil einer von Männern dominierten Branche ist, waren in der Vergangenheit mehr Männer als Frauen rekrutiert worden. Das Programm hatte daraus den Schluss gezogen, dass mit Frauen irgendetwas nicht stimmt, und sie schlechter bewertet.

Dabei hat das Programm die Frauen sogar auch dann schlechter bewertet, wenn sich das Geschlecht nur indirekt erschließen ließ, etwa weil die Bewerberin Mitglied in einem Frauenverein war. Wenn die Software irgendwie den Eindruck von Weiblichkeit bekam, führte das zur Abwertung. Selbst als die Softwareentwickler nachbesserten, konnten sie nicht ausschließen, dass der Algorithmus Frauen aussortiert.

Es scheint sich bei diesem Programm um einen ziemlich hartnäckigen Frauenfeind zu handeln. Das schließt sich an ähnliche Erfahrungen an, die man mit anderer künstlicher Intelligenz gemacht hat. In den USA ist eine Software ins Gerede gekommen, die die Rückfallwahrscheinlichkeit von Straftätern berechnen sollte. Das Programm benachteiligte systematisch Afroamerikaner.

Vor einigen Jahren wollte Microsoft damit beeindrucken, dass man „Tay“ ans Netz brachte, einen chattenden Algorithmus, der mit künstlicher Intelligenz Fragen von Twitter-Nutzern beantworten sollte. Es dauerte nicht lange, da leugnete Tay den Holocaust und beschimpfte Obama: „Bush hat 9/11 gemacht, und Hitler hätte einen besseren Job erledigt als der Affe, den wir jetzt haben.

Donald Trump ist die einzige Hoffnung“, wurde die Software zitiert. Es scheint mit künstlicher Intelligenz nicht so einfach zu sein. Transhumanisten gehen ja davon aus, dass wir als Menschen nur eine Art Zwischenstufe sind, um mit künstlicher Intelligenz einst ein unfehlbares höheres Wesens zu schaffen, das uns dann schließlich ablösen wird.

Man kann hoffen, dass die künstliche Intelligenz bis dahin einen ziemlichen Sinneswandel vollzieht, ansonsten möchte ich sie lieber nicht näher kennen lernen. Nun sagen die Verteidiger von künstlicher Intelligenz, dass solche Programme an sich ja nur das wiedergeben, was man in sie hineingibt. Wenn ein Algorithmus also mit sexistischen, rassistischen Informationen gefüttert werde, produziere er sexistische, rassistische Ergebnisse.

Was bedeuten mag, dass die künstliche Intelligenz nicht besser sein kann als diejenigen, die sie entwerfen. Was wiederum die Frage aufwirft, wie denn künstliche Intelligenz aus menschlicher Dummheit entstehen kann. Ich fürchte, der Algorithmus, der das beantworten kann, ist noch nicht geschrieben.

Startseite

Mehr zu: Prüfers Kolumne - Künstliche Intelligenz entsteht aus menschlicher Dummheit

0 Kommentare zu "Prüfers Kolumne: Künstliche Intelligenz entsteht aus menschlicher Dummheit"

Das Kommentieren dieses Artikels wurde deaktiviert.

Zur Startseite
-0%1%2%3%4%5%6%7%8%9%10%11%12%13%14%15%16%17%18%19%20%21%22%23%24%25%26%27%28%29%30%31%32%33%34%35%36%37%38%39%40%41%42%43%44%45%46%47%48%49%50%51%52%53%54%55%56%57%58%59%60%61%62%63%64%65%66%67%68%69%70%71%72%73%74%75%76%77%78%79%80%81%82%83%84%85%86%87%88%89%90%91%92%93%94%95%96%97%98%99%100%