Montag , 26. Oktober 2020
Facebook hat neue Teams gegründet, um Vorurteile in seinen Algorithmen zu überprüfen. Quelle: Uli Deck/dpa

Facebook prüft seine Algorithmen auf mögliche Diskriminierung

In den vergangenen Monaten hat Facebook vermehrt Kritik einstecken müssen. Die Plattform unternehme zu wenig gegen Diskriminierung und Hass-Rede, heißt es unter anderem seitens der Initiatoren der #StopHateforProfit-Kampagne. Nun will das Netzwerk seine eigenen Algorithmen auf Vorurteile überprüfen.

Menlo Park. Facebook will nach andauernder Kritik dafür sorgen, dass auf seinen Plattformen nicht wegen der Hautfarbe diskriminiert wird. Dazu schafft das Netzwerk neue Teams, die die Algorithmen von Facebook sowie Instagram auf Vorurteile, sogenannte Algoritmic Bias, untersuchen. Die Gruppen sollen herausfinden, inwieweit die trainierten Algorithmen bestimmte Bevölkerungsgruppen benachteiligen. Das Team wird “die Aufgabe haben, sicherzustellen, dass bei allem, was wir tun, Fairness und gerechte Produktentwicklung vorhanden sind”, sagte ein Facebook-Sprecher gegenüber der Webseite “The Verge”. “Wir werden weiterhin eng mit dem verantwortlichen AI-Team von Facebook zusammenarbeiten, um sicherzustellen, dass wir mögliche Vorurteile auf unseren jeweiligen Plattformen untersuchen.”

Das “Wall Street Journal” hatte erstmals über die neuen Bestrebungen bei Facebook berichtet. Bei Instagram trägt die neue Task Force den Namen “Equity-Team”. “Jedes Vorurteil in unserem System und den Richtlinien widerspricht unserem Ziel, eine Plattform für jeden zu sein, um sich auszudrücken”, sagte Vishal Shah, Vizepräsident für Produkte bei Instagram. Neben Algorithmen sollen auch andere Software-Produkte unter die Lupe genommen werden.

Algorithmen und Programme zum maschinellen Lernen spielen zum Beispiel eine wichtige Rolle bei der Entscheidung, wem welche Werbung angezeigt wird. Facebook wurde unter anderem im US-Kongress vorgeworfen, dass afroamerikanische Nutzer zum Beispiel bei Immobilienanzeigen benachteiligt würden. Mit den neuen Maßnahmen reagiert das Online-Netzwerk auch auf die “Black Lives Matter”-Bewegung, die Polizeigewalt gegen Afroamerikaner anprangert.

Facebook veröffentlicht Bürgerrechts-Gutachten

Vor zwei Wochen hatte Facebook selbst ein eigens in Auftrag gegebenes Gutachten veröffentlicht, das die Arbeit des Unternehmens auf bürgerrechtliche Aspekte hin untersucht hat. Die Autoren des Berichts konnten einerseits zwar Fortschritte feststellen. Andererseits habe Facebook “schmerzliche Entscheidungen” getroffen, deren Konsequenzen “gravierende Rückschritte für die Bürgerrechte” bedeuten würden. Facebooks Verhalten in Hinblick auf Bürgerrechte sei zu reaktiv und bruchstückhaft, heißt es. Die Autoren hatten unter anderem gefordert, dass das Netzwerk mehr Ressourcen in die Aufspürung und Bekämpfung von organisiertem Hass gegen Minderheiten investiere.

Auch Vorurteile in Algorithmen wurden als Problem genannt. “Algorithmen werden von Menschen erstellt, die unweigerlich Vorurteile und Annahmen haben. Diese Vorurteile können sich so auf den Algorithmus übertragen, indem etwa entschieden wird, welche Daten wichtig sind oder wie der Algorithmus strukturiert wird”, heißt es in dem Bericht. “Da Algorithmen hinter den Kulissen arbeiten, können schlecht gestaltete, voreingenommene oder diskriminierende Algorithmen lange Zeit unentdeckt bleiben und im Stillen zu Ungleichheit führen.” Die Autoren des Berichts fordern zudem, dass Facebook Methoden entwickelt, um die zum Einsatz kommenden künstlichen Intelligenzen zu überprüfen.

mit dpa

Von Mila Krull/RND