Benachrichtigung aktivieren Dürfen wir Sie in Ihrem Browser über die wichtigsten Nachrichten des Handelsblatts informieren? Sie erhalten 2-5 Meldungen pro Tag.
Fast geschafft Erlauben Sie handelsblatt.com Ihnen Benachrichtigungen zu schicken. Dies können Sie in der Meldung Ihres Browsers bestätigen.
Benachrichtigungen erfolgreich aktiviert Wir halten Sie ab sofort über die wichtigsten Nachrichten des Handelsblatts auf dem Laufenden. Sie erhalten 2-5 Meldungen pro Tag.
Jetzt Aktivieren
Nein, danke
Zum The Spark - der deutsche Digitalpreis Special von Handelsblatt Online

Machine Learning IBM entwickelt Software gegen Vorurteile bei künstlicher Intelligenz

IBM entwickelt eine Software, die von künstlicher Intelligenz getroffenen Entscheidungen auf mögliche Vorurteile überprüfen soll.
  • Oliver Nickel
Kommentieren
Unter künstlicher Intelligenz (KI) oder engl. Artificial Intelligence (AI) versteht man die kognitive Fähigkeit eines Computers oder einer softwaregesteuerten Maschine, auf eine Weise Entscheidungen zu treffen oder Aufgaben zu erfüllen, die der menschlichen Intelligenz gleichwertig ist.
KI, AI - Was ist das alles überhaupt?

Unter künstlicher Intelligenz (KI) oder engl. Artificial Intelligence (AI) versteht man die kognitive Fähigkeit eines Computers oder einer softwaregesteuerten Maschine, auf eine Weise Entscheidungen zu treffen oder Aufgaben zu erfüllen, die der menschlichen Intelligenz gleichwertig ist.

BerlinAuch künstliche Intelligenz ist bei ihren Entscheidungen anfällig für Vorurteile: Überall, wo Maschinen von Menschen programmiert oder mit Daten gefüttert werden, können menschliche Vorurteile in die maschinelle Intelligenz einfließen. Und selbst reine Maschinen-Gesellschaften wären wohl nicht völlig vorurteilsfrei, wie jüngst eine Untersuchung von Wissenschaftlern der Universität Cardiff gezeigt hat.

Das Forschungsteam von IBM Research entwickelt nun eine Software, die verschiedene Machine-Learning-Systeme automatisch analysiert. Das soll helfen, die Gründe für eventuell vorurteilsbehaftete Entscheidungen innerhalb von trainierten Modellen zu finden.

Die Software erkennt die Diskriminierung einzelner Individuen in unterschiedlichen Gruppen, wenn diese eigentlich gleiche Parameter erfüllen. Die Software untersucht allerdings auch verschieden bewertete Gruppen, wenn ein KI-System für sie unterschiedliche Entscheidungen trifft.

Diese Roboter sind großes Kino
Atlas
1 von 9

Allein schon die Optik zeigt: Atlas ist nicht zu Scherzen aufgelegt. Der für die DARPA Robotics Challenge entwickelte Humanoide ginge problemlos auch in Hollywood als Kampfroboter durch. Tatsächlich sind seine Beinmuskeln stark genug, um Zementblöcke in Stücke zu treten – dabei soll er doch einfach nur sein inneres Gleichgewicht finden. Atlas gehört zur absoluten Crème de la Crème der zweifüßigen Roboter, die Challenge gewann er trotzdem nicht.

(Foto: Reuters)
Cheetah
2 von 9

Zweibeiniger Gang stellt eine immense Anforderung an die Stabilität und Steuerung dar. Wer ein bisschen mehr Tempo machen will, orientiert sich am besten im Tierreich, wo sich das Vierfüßerdesign ohnehin seit jeher der größeren Beliebtheit erfreut. Cheetah ist einem Geparden nachempfunden und erreicht verblüffende Geschwindigkeiten – zumindest für eine Maschine mit Beinen. (Foto: Boston Dynamics)

Spot
3 von 9

Spot ist der jüngste Spross einer Roboterdynastie, die als Transportsystem für Infanterieeinheiten gedacht ist. Sein Erbauer ist die Firma Boston Dynamics, zuletzt von Google eingekauft, die seit Jahren die unbestritten aufmerksamkeitsstärksten Roboter der Welt entwickelt und sicher auch einige der innovativsten. Atlas und Cheetah entsprangen ebenfalls dieser Roboterschmiede. (Foto: Boston Dynamics - Screenshot)

Hitchbot
4 von 9

Eine gänzlich neue Art der Fortbewegung – zumindest für einen Roboter – verfolgt Hitchbot. Der plaudernde Humanoide trampte 2014 durch Kanada, im Februar 2015 durch Deutschland und war danach in den USA unterwegs.

(Foto: dpa)
Robobee
5 von 9

Ganz offensichtlich vom Insektenflug haben sich Forscher des Microrobotics Lab und des Wyss Institute in Harvard inspirieren lassen. Robobee ist das kleinste tatsächlich fliegende Mikrofluggerät. Allerdings gelingt diese Größenreduktion nur, indem wichtige Bestandteile ausgelagert werden. So erfolgt die Energieversorgung über Kabel, und auch die Steuerung wird von einem externen Rechner übernommen. (Foto: Microrobotics Lab)

Kilobots
6 von 9

Schwärme kleiner und billiger Roboter einzusetzen statt einzelner, teurer Maschinen, gilt vielen Forschern als wegweisendes Zukunftsmodell. Um die Möglichkeiten weit gehend eigenständiger Selbstorganisation auszutesten, haben Institutskollegen der Robobee-Entwickler die extrem simpel gestrickten Kilobots entworfen. Eine Software erlaubt hier einem Schwarm von mehr als 1000 Exemplaren, sich zu vorgegebenen Formen anzuordnen, ohne dass eine übergeordnete Instanz den Überblick behalten müsste.

(Foto: dpa)
Muschelroboter
7 von 9

Die Pilgermuschel stand Pate bei diesem extrem miniaturisierten Schwimmer von Max-Planck-Forschern aus Stuttgart. Die 300 Mikrometer großen Schalen öffnen und schließen sich durch Einwirkung eines externen Magnetfelds und sollen dereinst den Roboter durch Körperflüssigkeiten treiben. (Foto: Alejandro Posada / MPI für Intelligente Systeme)

Wichtig ist es dem Forscherteam, dass die Quelle von offensichtlich beeinflussten Ergebnissen erkannt wird. Als Beispiel nennen die Wissenschaftler einen Datensatz, der sich auf Haushypotheken bezieht. Wenn sich herausstellt, dass es beispielsweise negative Tendenzen gegenüber Schwarzen gibt, dann analysiert die Software diese Zielgruppe genau.

Sie kann etwa herausfinden, dass speziell schwarze Frauen eines bestimmten Alters besonders herausstechen und bietet Lösungen an, um das Ergebnis gleichmäßiger zu gestalten. Meist sind dabei nicht die Machine-Learning-Systeme, sondern die Daten inhomogen. Auf Basis dieser treffen Algorithmen ihre Entscheidungen.

Die Software generiert eigene Testszenarien und lässt sie durch trainierte Machine-Learning-Modelle laufen. Die Ergebnisse stellt sie laut IBM „mit Erklärungen in natürlicher Sprache“ dar. Grafiken sollen dabei helfen, Entscheidungen der untersuchten KI zu verstehen.

Um die Regeln der Datenschutz-Grundverordnung einzuhalten, kann die IBM-Software den Entwicklungsprozess eines KI-Systems aufzeichnen und abrufbereit machen. Das Programm protokolliert alle wichtigen Schritte der Entwicklung eines Algorithmus, darunter das Sammeln von Quelldaten, Modelltraining, Einsatz einer Modellgeneration und weitere Trainingsschritte.

Aufgezeichnet werden die Daten und der Quellcode des Modells. Anhand dieser Informationen kann die Software die Entscheidungsfindung eines KI-Systems und die dafür genutzten Kriterien grafisch darstellen, beispielsweise warum ein Versicherungsanspruch nicht genehmigt wird.

Startseite

Mehr zu: Machine Learning - IBM entwickelt Software gegen Vorurteile bei künstlicher Intelligenz

0 Kommentare zu "Machine Learning: IBM entwickelt Software gegen Vorurteile bei künstlicher Intelligenz"

Das Kommentieren dieses Artikels wurde deaktiviert.