TIn diesem Jahr sah die Öffentlichkeit eine alarmierende Seite von Facebook, nachdem ein riesiges Leck interner Dokumente aufgedeckt wurde das Ausmaß der Impfstoff-Fehlinformationen und Extremismus auf der Plattform, ein zweistufiges System wer die Regeln brechen darf und die toxischen Auswirkungen von Instagram für Teenager.
Aktivisten für digitale Rechte auf der ganzen Welt warnen seit Jahren vor diesen Problemen, aber angesichts des wachsenden Drucks auf das Unternehmen könnte das nächste Jahr eine beispiellose Gelegenheit zum Handeln bieten.
Wir haben mit Forschern, Aktivisten und Technologieexperten darüber gesprochen, wie Facebook im Jahr 2022 und darüber hinaus eingedämmt werden kann und welche innovativen Lösungen Veränderungen bewirken könnten.
Verordnung
In den USA dürfte der Weg zur Regulierung lang sein. In diesem Jahr gab es jedoch seltene parteiübergreifende Aufrufe, die Regeln für Big Tech zu verschärfen.
Abschnitt 230 des Communications Decency Act, der Facebook vor Klagen schützt, wenn Nutzer etwas Illegales posten, wurde erneut auf den Prüfstand gestellt. Rashad Robinson, Präsident der Bürgerrechtsgruppe Color of Change, der im Juli 2020 einen Unternehmensboykott von Facebook anführte, sagt, dass eine Änderung ein wichtiger erster Schritt sei.
„Ich glaube, dass die Immunität nach Abschnitt 230 aufgehoben werden muss, wenn es um bezahlte Werbung geht und wenn es um Dinge geht, die mit Produktdesign zu tun haben“, sagte Robinson.
Inzwischen hat der Gesetzgeber Gesetzentwürfe eingebracht – darunter die Kinder- und Medienforschungsförderungsgesetz und das Gesetz über Algorithmische Gerechtigkeit und Online-Plattform-Transparenz von 2021 – dies würde die Forschung über die Auswirkungen der Plattform auf junge Menschen finanzieren und die oft undurchschaubaren Algorithmen von Facebook angehen.
Robinson sagt, solche Gesetze würden “die Art und Weise behandeln, wie Facebook Geld verdient und sich weigert, zur Rechenschaft gezogen zu werden”.
In Europa wird 2022 ein rechtskräftiges Urteil des Europäischen Gerichtshofs (EuGH) in einem deutschen Online-Gaming-Verfahren fallen, das Facebook den Weg ebnen könnte, sich rechtlichen Konsequenzen wegen Datenschutzverletzungen zu stellen.
Javier Pallero, Policy Director der digitalen Bürgerrechtsorganisation Access Now, sagt, dass jede Regulierung die Menschenrechte berücksichtigen muss, insbesondere wenn es um die Moderation von Inhalten im globalen Süden geht. Das aktuelle Moderationsmodell von Facebook sei fehlerhaft, sagt er. „Entweder erlauben sie zu viel oder sie nehmen zu viel herunter und sie zensieren im Grunde genommen Entitäten, Aktivisten und so weiter auf der ganzen Welt. Sie brauchen also menschliche Moderatoren, ergo, Sie brauchen mehr Investitionen, Sie brauchen mehr Leute.“
Aufbrechen
Facebooks schiere Größe und Marktdominanz bleiben ein großes Hindernis für Veränderungen, und ein wachsender Chor von Gesetzgebern und anderen fordert eine einfache Lösung – brechen Sie sie auf.
Matt Stoller, Forschungsdirektor des American Economic Liberties Project, ist die enorme Macht von Facebook die größte Bedrohung für die Demokratie. “Er operiert wie ein Souverän”, sagt Stoller über Zuckerberg. „Und das ist ein Monopolist. Jemand, der die Kontrolle hat und die Macht über einen Markt regiert.“
Zunächst drängt Stoller darauf, den Einfluss von Facebook auf den Social-Media-Markt aufzubrechen. Als Facebook alle Konkurrenten übernommen hatte, sagt er, “fingen sie einfach an zu überwachen und alles zu tun, was sie wollten, und es führte wirklich kein Weg daran vorbei”.
Zweitens schlägt Stoller vor, Zuckerberg und sein Führungsteam wegen Betrugsvorwürfen und Insiderhandel. (Facebook hat diese Behauptungen zurückgewiesen.)
Drittens empfiehlt Stoller, dem Social-Media-Marktplatz Regeln aufzuerlegen, damit Unternehmen wie Facebook nicht durch hyperpersonalisierte Überwachung finanziert werden oder Werbung betreiben können.
Facebook von innen reparieren
Einige der stärksten Impulse für Veränderungen kommen von Facebooks eigenen Mitarbeitern oder ehemaligen Mitarbeitern, darunter Frances Haugen, die ehemalige Produktmanagerin der Abteilung für bürgerliche Integrität von Facebook, die dem Wall Street Journal und den US Securities Zehntausende der internen Dokumente des Unternehmens offengelegt hat und Exchange Kommission.
Jeff Allen und Sahar Massachi sind ehemalige Datenwissenschaftler und Dateningenieure bei Facebook, die beim Aufbau des Wahl- und Bürgerintegritätsteams des Unternehmens mitgewirkt haben und jetzt eine gemeinnützige Organisation namens Integrity Institute leiten. Sie glauben, dass die Lösung Integritätsexperten befähigt, die sich mit Themen wie Vertrauen, Sicherheit und Erkennung gefälschter Aktivitäten befassen.
Massachi sagt, dass die Kultur von Facebook derzeit Anreize für das Gegenteil bietet: Ein Team wird schädliche Inhalte melden und empfehlen, das Engagement zu reduzieren, während ein anderes Team einen Trick findet, um das Engagement mit den schädlichen Inhalten zu erhöhen.
Um dies zu beheben, schlägt er vor, eine monatliche Kennzahl einzuführen, die Unternehmen nach Integrität einordnet. Aufsichtsbehörden könnten Unternehmen basierend auf dieser Kennzahl überwachen. Er stellt sich vor, dass Regulierungsbehörden konkrete Maßnahmen ergreifen können, wenn Unternehmen ihre Punktzahl nicht einhalten.
Katie Harbath, Gründerin und CEO des Technologieberatungsunternehmens Anchor Change, sagte, der Mangel an Befugnissen für Integritätsteams sei ein strukturelles Problem bei Facebook. „Die Tatsache, dass das Integritätsteam dem Wachstumsteam unterstellt ist, ist problematisch“, sagte sie und führte zu einer Priorisierung des Wachstums. „Eine Möglichkeit, darüber nachzudenken, wäre, Integrität und Wachstum im Unternehmen tatsächlich auf eine Stufe zu stellen.“
Das Unternehmen für Forscher öffnen
Als Facebook nach dem Cambridge-Analytica-Skandal versprach, bei einer Forschungsinitiative mit Wissenschaftlern zusammenzuarbeiten, gab es Hoffnungen, dass es Aufschluss darüber geben würde, wie Facebook die Gesellschaft beeinflusst. Stattdessen wurden die Forscher mit fehlerhaften und unvollständigen Daten konfrontiert, mit nur a eine Handvoll Gelehrter erhält Zugang.
Nate Persily, Professor an der Stanford Law School und Direktor des Stanford Cyber Policy Center, hat in akademischer Funktion mit Facebook zusammengearbeitet, wurde jedoch zunehmend frustriert über die Menge an Daten, die das Unternehmen mit Forschern teilte. Seitdem hat er einen Gesetzestext – den Platform Transparency and Accountability Act – entworfen, der Wissenschaftlern Zugang zu Informationen des Social-Media-Unternehmens gewähren und gleichzeitig die Privatsphäre der Nutzer schützen soll.
„Diese Unternehmen haben in der Geheimhaltung Erfolg gehabt, und das sehen wir jetzt an den Enthüllungen von Frances Haugen“, sagte Persily.
Die Öffnung der Daten hätte zwei Auswirkungen: Erstens würden Akademiker und die Öffentlichkeit über das Geschehen auf der Plattform aufgeklärt, einschließlich der Rolle von Algorithmen, Apps für Kinder und der Desinformationsrate, sagte Persily. Zweitens würde sich Facebook anders verhalten, wenn es wüsste, dass es beobachtet wird.