Instagram entfernt keine Konten, die Hunderte von sexualisierten Kommentaren für das Posten von Bildern von Kindern in Badebekleidung oder Teilkleidung erhalten, selbst nachdem sie über das In-App-Meldetool darauf aufmerksam gemacht wurden.
Die Muttergesellschaft von Instagram, Meta, behauptet, sie verfolge einen Null-Toleranz-Ansatz in Bezug auf die Ausbeutung von Kindern. Aber Konten, die über das In-App-Meldetool als verdächtig gekennzeichnet wurden, wurden von der automatisierten Moderationstechnologie als akzeptabel eingestuft und bleiben aktiv.
In einem Fall wurde ein Konto, das Fotos von Kindern in sexualisierten Posen veröffentlichte, von einem Forscher mithilfe des In-App-Meldetools gemeldet. Instagram gab am selben Tag eine Antwort, in der es hieß, dass es „aufgrund des hohen Volumens“ nicht in der Lage gewesen sei, den Bericht anzuzeigen, aber dass seine „Technologie festgestellt hat, dass dieses Konto wahrscheinlich nicht gegen unsere Community-Richtlinien verstößt“. Dem Benutzer wurde geraten, das Konto zu sperren oder zu entfolgen oder es erneut zu melden. Es blieb am Samstag mit mehr als 33.000 Anhängern live.
Ähnliche Konten – bekannt als „Tribute Pages“ – wurden auch auf Twitter gefunden.
Ein Konto, das Bilder eines Mannes veröffentlichte, der sexuelle Handlungen an Bildern eines 14-jährigen TikTok-Influencers ausführte, wurde als nicht gegen die Twitter-Regeln verstoßend eingestuft, nachdem er mit den In-App-Tools gemeldet worden war – obwohl er in Posts angedeutet hatte, dass er suchte sich mit Menschen zu verbinden, um illegales Material zu teilen. „Ich möchte ein paar jüngere Sachen tauschen“, sagte einer seiner Tweets. Es wurde entfernt, nachdem die Kampagnengruppe Collective Shout öffentlich darüber gepostet hatte.
Die Ergebnisse werfen Bedenken hinsichtlich der In-App-Meldetools der Plattformen auf, wobei Kritiker sagten, dass die Inhalte anscheinend live bleiben durften, weil sie keine kriminelle Schwelle erreichten – obwohl sie mit mutmaßlichen illegalen Aktivitäten in Verbindung gebracht wurden.
Häufig werden die Konten zum „Breadcrumbing“ verwendet – bei dem Täter technisch legale Bilder posten, sich aber online in privaten Messaging-Gruppen verabreden, um anderes Material auszutauschen.
Andy Burrows, Leiter der Online-Sicherheitspolitik beim NSPCC, beschrieb die Konten als „Schaufenster“ für Pädophile. „Unternehmen sollten diese Inhalte proaktiv identifizieren und dann selbst entfernen“, sagte er. „Aber selbst wenn es ihnen gemeldet wird, urteilen sie, dass es keine Bedrohung für Kinder darstellt und auf dem Gelände bleiben sollte.“
Er forderte die Abgeordneten auf, „Schlupflöcher“ im vorgeschlagenen Gesetzentwurf zur Online-Sicherheit anzugehen – der Social-Media-Unternehmen regulieren soll und am 19. April im Parlament debattiert wird. Sie sollten Unternehmen zwingen, nicht nur gegen illegale Inhalte vorzugehen, sondern auch gegen solche, die eindeutig schädlich sind, aber möglicherweise nicht die kriminelle Schwelle erreichen.
Lyn Swanson Kennedy von Collective Shout, einer in Australien ansässigen Wohltätigkeitsorganisation, die ausbeuterische Inhalte weltweit überwacht, sagte, die Plattformen verlassen sich auf externe Organisationen, die ihre Inhalte für sie moderieren. „Wir fordern die Plattformen auf, sich mit einigen dieser sehr besorgniserregenden Aktivitäten zu befassen, die minderjährige Mädchen besonders einem ernsthaften Risiko von Belästigung, Ausbeutung und Sexualisierung aussetzen“, sagte sie.
Meta, die Muttergesellschaft von Instagram, sagte, sie habe strenge Regeln gegen Inhalte, die Kinder sexuell ausbeuten oder gefährden, und sie habe sie entfernt, sobald sie davon erfahren habe. „Wir konzentrieren uns auch darauf, Schaden zu verhindern, indem wir verdächtige Profile verbieten, Erwachsene daran hindern, Kindern Nachrichten zu senden, mit denen sie nichts zu tun haben, und unter 18-Jährige standardmäßig auf private Konten verweisen“, sagte ein Sprecher.
Twitter sagte, die ihm gemeldeten Konten seien nun wegen Verstoßes gegen seine Regeln dauerhaft gesperrt worden. Ein Sprecher sagte: „Twitter toleriert keinerlei Material, das die sexuelle Ausbeutung von Kindern enthält oder fördert. Wir bekämpfen Online-CSE aggressiv und haben stark in Technologie investiert … um unsere Richtlinie durchzusetzen.“
Imran Ahmed, Geschäftsführer des Center for Countering Digital Hate, einer gemeinnützigen Denkfabrik, sagte: „Das Verlassen auf automatisierte Erkennung, von der wir wissen, dass sie mit einfacher Hassrede nicht mithalten kann, geschweige denn mit gerissenen, entschlossenen Ringen zur Ausbeutung von Kindern, ist es eine Aufhebung der grundsätzlichen Pflicht zum Schutz von Kindern.“