Ein irakischer Historiker wurde ermordet, nachdem er auf Facebook als Spion bezeichnet worden war. Exklusive E-Mails zeigen katastrophale Verzögerungen bei der Entfernung bedrohlicher Beiträge.

Am 6. Juli 2020, als der prominente irakische Historiker Hisham al-Hashimi vor seinem Haus im Osten Bagdads auf sein Fahrzeug zuging, stand eine Gruppe von Bewaffnete rasten auf Motorrädern auf ihn zu und schossen fünfmal aus nächster Nähe. Als er das Krankenhaus erreichte, war al-Hashimi tot.

Al-Hashimi war oft ein ausgesprochener Kritiker der Milizgruppen des Landes sind eng mit den verschiedenen Machtfraktionen im Irak verbundenvom IS bis hin zu Regierungs- und Oppositionspolitikern.

In den Monaten vor seinem Tod virale Beiträge auf Facebook und anderen sozialen Medien Websites beschuldigten al-Hashimi, ein Spion für US-amerikanische, israelische oder britische Streitkräfte zu sein und eine Verschwörung zur weiteren Destabilisierung des Irak zu planen. Zu dieser Zeit erlebte der Irak den größten Bürgeraufstand des Landes seit der US-Invasion im Jahr 2003.

Al-Hashimi wusste, dass einer seiner engsten Freunde, Aws al-Saadi, der Gründer der gemeinnützigen Organisation Tech4Peace, ein „vertrauenswürdiger Partner“ von Meta war und einen direkten Draht zum Unternehmen hatte, um bei der Entfernung von Inhalten wie Drohungen gegen sein Leben zu helfen. Im September 2019 wandte sich al-Hashimi an al-Saadi und fragte, ob er dabei helfen könne, die gegen ihn gerichteten schädlichen Beiträge auf Facebook zu entfernen.

Al-Saadi tat, was er konnte, aber die Antworten von Meta waren uneinheitlich. Einige Beiträge wurden innerhalb eines Tages entfernt, während andere bis zu einer Woche aktiv blieben.

Ein Beitrag vom April 2019, in dem fälschlicherweise behauptet wurde, al-Hashimi sei ein Al-Qaida-Anführer, wurde nie gelöscht. Al-Saadi hat es gemeldet, aber Meta antwortete, dass der Beitrag nicht gegen die Richtlinien des Unternehmens verstoße.

Am 6. Juli 2020, dem Tag von al-Hashimis Tod, schrieb al-Saadi zurück: „Sie haben ihn jetzt getötet.“

„Einer der Gründe für seine Ermordung war Meta“, sagte al-Saadi gegenüber Insider.

Ein Berichtsentwurf weist darauf hin, dass Probleme innerhalb des vertrauenswürdigen Partnernetzwerks von Meta allzu häufig auftreten

Al-Saadi ist nicht allein. Facebook und seine Muttergesellschaft Meta wurden heftig kritisiert, weil sie die Plattform nicht angemessen moderierten.

In vielen Ländern verlässt sich Meta auf die Berichterstattung lokaler zivilgesellschaftlicher Gruppen und Experten, um Hassreden und Fehlinformationen auf Facebook zu melden. Das Trusted-Partner-Programm gewann Ende der 2010er Jahre an Fahrt, nachdem Meta wegen seiner Rolle bei der Ausweitung des Völkermords in Myanmar kritisiert wurde, und das Unternehmen betrachtet das Programm nun als wesentlich für seine Moderationsstrategie in politisch angespannten Ländern wie dem Irak.

Ein Berichtsentwurf der gemeinnützigen Medienorganisation Internews, der Insider vorliegt, kommt zu dem Schluss, dass die Versäumnisse im Trusted-Partner-Programm von Meta eine große Gefahr für die Menschen darstellen. Die Gruppe ist einer der größten vertrauenswürdigen Partner von Meta und erhält von Meta Mittel für verschiedene Projekte.

Meta reagierte weder auf eine Bitte um einen Kommentar zum Tod von al-Hashimi noch zum Bericht von Internews.

Es enthielt jedoch drei Seiten mit Antworten auf die Fragen von Internews, die im Berichtsentwurf enthalten waren. In diesen Kommentaren räumte Meta ein, dass COVID-19 seine Geschäftstätigkeit „erheblich beeinträchtigt“ habe, was „zu schlechten Berichtserfahrungen“ für seine vertrauenswürdigen Partner von 2019 bis 2021 geführt habe.

„Während dieser Zeit arbeiteten unsere Content-Review-Teams mit begrenzter Kapazität und waren nicht in der Lage, so schnell auf Berichte vertrauenswürdiger Partnerkanäle zu reagieren, wie wir es uns gewünscht hätten und wie sie es in der Vergangenheit getan haben“, sagte das Unternehmen. „Unter diesen schwierigen Umständen haben wir den schädlichsten Inhalten, die unsere Teams überprüfen sollten, Priorität eingeräumt, etwa dem Risiko drohender körperlicher Schäden oder Gewalt.“

Dabei geht es um den Schutz des Einzelnen, darum, wie Länder ihre politischen Systeme aufrechterhalten können, oder um Risiken für die öffentliche Gesundheit Paul Barrett, stellvertretender Direktor des Center for Business and Human Rights, NYU Stern School of Business

Meta fügte hinzu, dass sich seine Reaktionszeiten im Jahr 2022 verbessert hätten und dass eine Reaktionszeit zwischen einem und fünf Tagen erwartet werde. Bei komplexeren Fällen – laut Meta sind Berichte von vertrauenswürdigen Partnern oft kompliziert – kann die Reaktionszeit länger sein.

Vierhundertfünfundsechzig Organisationen seien für das Trusted-Partner-Programm von Meta angemeldet, hieß es, und das Unternehmen habe mindestens einen Trusted-Partner in 122 Ländern. Meta, das Insider zuvor mitgeteilt hatte, dass das Programm im Jahr 2012 gestartet sei, sagte in seinen Kommentaren gegenüber Internews, dass es seine Prozesse erst 2019 formalisiert habe.

Der Bericht von Internews spiegelte die Ergebnisse einer Insider-Untersuchung von Anfang des Jahres wider, die enthüllte, dass Meta die Alarme seiner vertrauenswürdigen Partner in Äthiopien ignorierte oder mit katastrophaler Verzögerung darauf reagierte, als im Land zwei gewalttätige Konflikte tobten.

Metas Reaktionen auf vertrauenswürdige Partner auf der ganzen Welt waren „unberechenbar“

Der Bericht, der auf einer Umfrage unter 24 vertrauenswürdigen Partnern, darunter al-Saadi, basiert, legt nahe, dass vertrauenswürdige Partner, die auf der ganzen Welt arbeiten, mit stark verzögerten und „unregelmäßigen“ Reaktionszeiten konfrontiert sind, wenn sie Hassreden und andere schädliche Inhalte sowie drohende Bedrohungen melden zum Leben der Menschen.

Dem Bericht zufolge haben Partner zeitweise Wochen, wenn nicht Monate auf eine Antwort von Meta gewartet. In einigen Fällen erhielten die Partner überhaupt keine Antworten. Die daraus resultierenden Frustrationen haben dazu geführt, dass einige Partner das Programm aufgegeben haben.

Al-Saadi und andere Partner fanden einen Workaround: Sie appellierten direkt an persönliche Kontakte bei Meta über WhatsApp oder Signal, was oft einen größeren Erfolg hatte als der dedizierte Meldekanal für vertrauenswürdige Partner.

Paul Barrett, stellvertretender Direktor des Center for Business and Human Rights an der Stern School of Business der New York University, sagte, die Folgen, wenn Meta seine vertrauenswürdigen Partner ignorierte, seien allzu oft schlimm.

„Hier geht es um den Schutz des Einzelnen, darum, wie Länder ihre politischen Systeme aufrechterhalten können, oder um Risiken für die öffentliche Gesundheit“, sagte Barrett.

Die Partner sind an der Untersuchung aller Themen beteiligt, von politischer Hassrede und Desinformation bis hin zu Fehlinformationen über Impfstoffe.

Eine Ausnahme bildete die Ukraine. Dort, so heißt es in dem Bericht, erlebten die Partner bessere Reaktionszeiten von Meta, mit durchschnittlich etwa 72 Stunden. Im Gegensatz dazu konnten die Partner während des Krieges in der Region Tigray in Äthiopien monatelang warten und erhielten keine Antwort.

Ich denke, man kann durchaus davon ausgehen, dass die Partner häufiger berichten würden, wenn sie mit dem Programm zufriedener wären. Rafiq Copeland, Senior Advisor für globale Plattformverantwortung bei Internews

Rafiq Copeland, leitender Berater bei Internews und einer der Autoren des Berichts, sagte, Meta habe keine Erklärung für die unterschiedliche Reaktionszeit ukrainischer und äthiopischer Partner geliefert.

„Ich denke, wir müssen davon ausgehen, dass es eine Frage der Prioritäten und der Ressourcen ist“, sagte Copeland.

Im Internews-Bericht heißt es außerdem, dass diese Versäumnisse, auf vertrauenswürdige Partner zu reagieren und Inhalte zu entfernen, teilweise darauf zurückzuführen sein könnten, dass das Programm „erheblich unterfinanziert und unterbesetzt“ sei, ein Problem, das durch die jüngsten Entlassungen des Unternehmens noch verschärft wurde.

Internews stellte fest, dass die Teilnahme am Trusted-Partner-Programm in vielen Fällen die Risiken für die Trusted-Partner selbst erhöhte – was die Geschichten mehrerer Trusted-Partner in Äthiopien bestätigt, die Insider erzählten, dass sie aufgrund ihrer Arbeit Morddrohungen erhalten hätten.

Vertrauenswürdige Partner auf der ganzen Welt geben das Programm auf

Als Reaktion auf den Tod von al-Hashimi im Irak drückte Meta in von Insider eingesehenen E-Mails sein Beileid aus und bat al-Saadi, an einem Treffen teilzunehmen, bei dem er dem Unternehmen mehr Feedback zu seinen Prozessen geben könne.

Bei dem Treffen sagte al-Saadi, bestürzt über den Tod seines Freundes, dem Unternehmen: „Warum fragen Sie mich nach meiner Meinung, wenn Sie nichts dagegen unternehmen werden?“

In den nächsten Wochen schwor er, überwältigt von Traurigkeit und Zweifeln, was er hätte anders machen können, vorübergehend davon ab, Inhalte zu melden.

Laut Internews reichten vertrauenswürdige Partner monatlich nur etwa 1.000 Meldungen an Meta ein.

„Die Partner, mit denen wir gesprochen haben, waren schockiert, als sie diese Zahl hörten“, sagte Copland, der einräumte, dass es sich möglicherweise um eine Unterschätzung handelte, da Berichte, die über informelle Kanäle wie WhatsApp oder Signal eingereicht wurden, nicht erfasst wurden. „Vor allem, weil sie davon ausgegangen sind, dass die langsamen Reaktionszeiten mit einem hohen Fallaufkommen zusammenhängen.“

Nicht alle dieser Fälle werden bearbeitet.

„Wenn wir sehen, dass es nur 33 Fälle pro Tag gibt, zeigt uns das, dass die Systemausfälle nicht direkt mit der Menge zusammenhängen“, sagte Copeland.

Eine Erklärung für diese niedrige Zahl könnte sein, dass Partner das Programm aufgrund ihrer schlechten Erfahrungen damit nicht nutzen.

„Ich denke, es ist vernünftig zu sagen, wenn die Partner mit dem Programm zufriedener wären, würden sie häufiger berichten“, sagte Copeland.

Meta bietet vertrauenswürdigen Partnern keine Möglichkeit, Meldungen einfach zu eskalieren, wenn das Leben einer Person in Gefahr ist

Dem Bericht zufolge waren die Richtlinien von Meta undurchsichtig und inkonsistent, wenn Partner Beiträge markierten, die Aktivisten, Journalisten oder andere Menschenrechtsverteidiger bedrohten. Partner erhielten manchmal Antworten, dass keine Maßnahmen ergriffen würden. Als sie jedoch über einen persönlichen Ansprechpartner bei Meta Berufung einlegten, wurden diese Entscheidungen oft rückgängig gemacht.

Insider berichtete zuvor, dass ein äthiopischer vertrauenswürdiger Partner sowohl über den vertrauenswürdigen Partnerkanal als auch über nachfolgende Zoom-Meetings mit Meta auf die Risiken viraler Hassreden gegen Professor Meareg Amare hingewiesen habe, die Plattform jedoch nicht reagiert habe. Diese Untersuchung ist nun ein entscheidender Beweis in einer 1,6 Milliarden US-Dollar schweren Hassreden-Klage gegen Facebook.

Im Februar geriet al-Saadi selbst ins Visier viraler Fehlinformationen, in denen behauptet wurde, er sei ein amerikanischer Kollaborateur, der an der Destabilisierung des Irak arbeite. Ähnlich wie seinem Freund al-Hashimi wusste er, dass solche Anschuldigungen sein Leben gefährden könnten. Al-Saadi meldete die Posts am 17. Februar an Meta. Eine Woche später eskalierte er das Problem an einen persönlichen Ansprechpartner bei Meta, der sagte, sie würden sich damit befassen, aber nicht weiter nachgingen. Die Beiträge wurden am 18. April, zwei Monate nach ihrer ersten Meldung, entfernt.

„Es muss ein Fallmanagementsystem geben, das es ermöglicht, die wirklich dringenden Fälle schnell zu identifizieren und zu bearbeiten, die es auf die eine oder andere Weise scheinbar nicht gibt“, sagte Copeland.

Wäre er noch im Irak, hätte er laut al-Saadi, der heute in den Niederlanden lebt, stärker um sein Leben gefürchtet.

„Man lacht, aber gleichzeitig weint man darüber“, sagte er.

Partner fordern eine Überarbeitung des Systems

Copeland bleibt zuversichtlich, dass Meta das Trusted-Partner-Programm reformieren wird. Internews sagte, Meta müsse das Programm mit einer direkteren Zusammenarbeit mit seinen vertrauenswürdigen Partnern neu gestalten.

Internews hofft, dass dies dazu beitragen könnte, einen vertrauenswürdigen Partnerkanal mit verbesserter Kommunikation, mehr Transparenz und schnelleren Reaktionszeiten zu schaffen.

„Ich denke, Meta muss sich zu einer Reform und einer echten Mitgestaltung des Programms verpflichten“, sagte Copeland. „Bisher haben wir dieses Engagement noch nicht gesehen, aber es ist in Arbeit.“

Zusätzliche Berichterstattung vonReem Makhoul

source site-19