Facebook und Instagram untersuchen rassistische Algorithmen

Bildrechte
Getty Images

Bildbeschreibung

Facebook sagt, es möchte jegliche Verzerrung in seinen Systemen oder Richtlinien ausmerzen

Facebook hat anerkannt, dass es mehr tun muss, um Rassismus auf seinen Plattformen zu bekämpfen, und richtet zwei Gruppen ein, um seine Richtlinien und Algorithmen zu untersuchen.

Das Instagram Equity Team und der Inclusive Product Council von Facebook werden nach Verzerrungen bei den Algorithmen suchen und daran arbeiten, beide Plattformen für alle "sicher und fair" zu machen.

Facebook wurde dafür kritisiert, dass es nicht gelungen ist, rassistische Gruppen zu bekämpfen.

Andere haben sich über die Unterdrückung schwarzer Stimmen auf Instagram beschwert.

In einer Erklärung sagte Vishal Shah, Vice President of Product bei Instagram: "Die Bewegung für Rassengerechtigkeit ist ein Moment von wirklicher Bedeutung für unser Unternehmen. Jede Voreingenommenheit in unseren Systemen und Richtlinien widerspricht der Bereitstellung einer Plattform, auf der sich jeder ausdrücken kann."

"Während wir ständig daran arbeiten, eine gerechtere Erfahrung zu schaffen, unternehmen wir zusätzliche Anstrengungen, um diesen Fortschritt fortzusetzen."

Die Details, wie die beiden Gruppen arbeiten werden, werden in den kommenden Monaten bekannt gegeben, sagte Facebook.

Laut dem US Pew Research Center wenden sich die Hälfte der schwarzen Nutzer an soziale Medien, um politische Ansichten zu äußern oder sich auf Themen einzulassen, die für sie wichtig sind.

Im vergangenen Monat gab der Chef von Instagram, Adam Mosseri, zu, dass er "Bedenken darüber hörte, ob wir schwarze Stimmen unterdrücken und ob unsere Produkte und Richtlinien alle gleich behandeln".

Schwarze Menschen auf der Plattform wurden "oft belästigt", weil sie befürchteten, "im Schatten verboten" zu werden, und waren mit der Abschaltung von Inhalten nicht einverstanden, sagte er in einem Blog.

Beim Schattenverbot werden die Inhalte eines Benutzers blockiert, ohne dass er es merkt. Im Fall von Instagram bedeutet dies, dass Inhalte nur dann in den Feeds von Personen angezeigt werden, wenn diese Ihnen folgen.

In der Zwischenzeit hat die Konkurrenzplattform Snap eine eigene Untersuchung des Rassismus im Unternehmen eingeleitet.

Es folgen Kommentare von ehemaligen Mitarbeitern, die in a Mashable Artikel im Juni gab es eine rassistische Kultur in der Firma.

Snapchat wurde in der Vergangenheit für einige seiner Filter kritisiert, darunter einen am Jahrestag des Endes der Sklaverei in den USA, in dem Benutzer aufgefordert wurden, "zu lächeln und die Ketten zu brechen". Die Firma entschuldigte sich später für etwaige Verstöße.

Zuvor wurde es für eines kritisiert, das die Gesichtszüge verzerrte und den Benutzern das Aussehen von schrägen Augen verlieh, während ein Bob-Marley-Filter für die Förderung von Schwarzgesicht aufgerufen wurde.