Meta Plattformenfrüher bekannt als Facebook Inc.kündigte am Montag die Einführung eines neuen Systems zur Bekämpfung von algorithmischer Diskriminierung in Wohnungsanzeigen nach mehr als einem Jahr Verhandlungen mit dem an Justizministerium (DOJ).
Die Varianz-Reduktionssystem (VRS), erforderlich als Teil des am 27. Juni veröffentlichten Vergleichs, löst eine Klage, die beim US-Bezirksgericht für den südlichen Bezirk von New York eingereicht wurde. In der Klage, die DOJ behauptet dass das Wohnungswerbesystem von Meta einen „diskriminierenden Algorithmus“ verwendet, der bestimmte demografische Merkmale gegenüber anderen bevorzugt und gegen das Gesetz über faires Wohnen verstößt.
Die Parteien gaben am Montag bekannt, dass sie sich auf die Compliance-Ziele des neuen Variance Reduction Systems geeinigt haben. Meta wird jedoch bis zum 27. Juni 2026 der gerichtlichen Aufsicht und regelmäßigen Überprüfung der Einhaltung des Vergleichs unterliegen.
Laut Roy L. Austin Jr., Vice President of Civil Rights und Deputy General Counsel bei Meta, wird das Unternehmen die Nutzung des Systems im Laufe des kommenden Jahres auf Stellen- und Kreditanzeigen in den USA ausdehnen.
„In der gesamten Branche entwickeln sich Ansätze zur algorithmischen Fairness weiter, insbesondere in Bezug auf digitale Werbung“, sagte Austin in einer Erklärung. „Aber wir wissen, dass wir nicht auf einen Konsens warten können, um Fortschritte bei der Behandlung wichtiger Bedenken hinsichtlich des Diskriminierungspotenzials zu erzielen.“
Die Exekutive sagte, Meta habe die Verwendung von Special Ad Audiences eingestellt, eine zusätzliche Verpflichtung im Vergleich.
In der Klage des DOJ wurde behauptet, dass Meta Werbetreibende „ermöglichte und ermutigte“, Wohnungsanzeigen auf Facebook-Nutzer auszurichten, indem sie sich auf Rasse, Hautfarbe, Religion, Geschlecht, Behinderung, Familienstand und nationale Herkunft als Metriken stützten, um zu entscheiden, wer berechtigt oder nicht berechtigt ist Wohnungsanzeigen.
In der Klage heißt es auch, dass das Anzeigenlieferungssystem von Meta maschinelle Lernalgorithmen verwendet, die dabei helfen, festzustellen, welche Untergruppe einer Zielgruppe eine Wohnungsanzeige erhält, basierend auf Rasse, nationaler Herkunft und Geschlecht. Das Fair Housing Act schützt diese Eigenschaften, sagte die Abteilung.
In Bezug auf das neue System sagte Kristen Clarke, die stellvertretende Generalstaatsanwältin der Abteilung für Bürgerrechte des Justizministeriums: „Diese Entwicklung markiert einen entscheidenden Schritt in den Bemühungen des Justizministeriums, Meta für rechtswidrige algorithmische Voreingenommenheit und diskriminierende Anzeigenlieferung auf seinen Plattformen zur Rechenschaft zu ziehen. ”
„Die föderale Überwachung von Meta sollte ein starkes Signal an andere Technologieunternehmen senden, dass auch sie dafür verantwortlich gemacht werden, algorithmische Diskriminierung, die gegen unsere Bürgerrechtsgesetze verstößt, nicht anzugehen“, fügte der stellvertretende Anwalt hinzu.