Welche Inhalte können Kinder sicher online ansehen? Wer entscheidet, was in Ordnung und was gefährlich ist? Und welche Rolle sollte eine Regierung, ein Unternehmen oder ein Elternteil bei dieser Entscheidung spielen?
Diese Fragen wurden durch die Untersuchung des Todes der 14-jährigen Molly Russell in den Fokus gerückt. Und wenn es einen Punkt während der zweiwöchigen Anhörung gab, an dem der Fall für eine strengere Online-Regulierung überwältigend wurde, dann war es während der Aussage von Meta-Managerin Elizabeth Lagone.
Der Leiter der Gesundheits- und Wohlbefindenspolitik in Mark Zuckerbergs Unternehmen wurde durch eine Auswahl der Instagram-Posts geführt, die die Teenagerin in den sechs Monaten vor ihrem Tod angesehen hatte – viele davon als „sicher“ für Kinder angesehen. Es war keine Meinung, die von vielen im Raum des Gerichtsmediziners in Nord-London geteilt wurde.
Molly aus dem Nordwesten Londons starb 2017, nachdem sie umfangreiche Online-Inhalte im Zusammenhang mit Selbstmord, Depressionen, Selbstverletzung und Angstzuständen angesehen hatte. In dem, was die NSPCC als weltweite Premiere bezeichnete, sagte der leitende Gerichtsmediziner, dass soziale Medien zu Mollys Tod beigetragen hätten, und entschied, dass Molly an „einem Akt der Selbstverletzung gestorben sei, während sie an Depressionen und den negativen Auswirkungen von Online-Inhalten litt“.
Lagone würde ein Beitrag angezeigt und dann kommentiert, ob er zu diesem Zeitpunkt den Instagram-Richtlinien entsprach. Viele wurden von Lagone als zulässig erachtet, die Ausdrücke wie „Teilen von Gefühlen“ verwendete, als sie erklärte, dass Selbstmord- und Selbstverletzungsinhalte erlaubt sein könnten, wenn sie einen Versuch darstellen, das Bewusstsein für den mentalen Zustand eines Benutzers zu schärfen und seine Emotionen zu teilen.
Es wird erwartet, dass das Online-Sicherheitsgesetz in Kürze seinen Weg durch das Parlament wieder aufnehmen wird, und die neue Kulturministerin Michelle Donelan sagte, dass seine Bestimmungen zum Schutz von Kindern gestärkt würden. Der Gesetzentwurf erlegt Tech-Plattformen eine Sorgfaltspflicht auf, Kinder vor schädlichen Inhalten und Systemen zu schützen.
Im Juli, eine schriftliche Erklärung von Donelans Vorgängerin Nadine Dorries machte deutlich, dass die Art von Inhalten, die Molly gesehen hat, von der Gesetzesvorlage abgedeckt würden. Kinder müssen daran gehindert werden, auf Inhalte zu stoßen, die Selbstverletzung und legalen Suizid fördern, obwohl Inhalte über die Genesung von Selbstverletzung oder Suizidgedanken zulässig sein könnten, wenn sie altersgerecht sind. Die Methode von Meta zur Beurteilung, ob dieser Inhalt erlaubt oder angemessen ist, wird von der Kommunikationsregulierungsbehörde Ofcom bewertet – es wird nicht Sache des Unternehmens sein.
Mollys Vater, Ian, war vernichtend über die „sichere“ Einschätzung. Am Ende der zweiwöchigen Anhörung sagte er: „Wenn diese wahnsinnige Spur lebensraubender Inhalte sicher wäre, würde meine Tochter Molly wahrscheinlich noch am Leben sein, und statt einer vierköpfigen Hinterbliebenenfamilie wären es fünf Wir freuen uns auf ein Leben voller Sinn und Versprechen, das unserer entzückenden Molly bevorsteht.“
Lagone entschuldigte sich dafür, dass einige der von Molly angesehenen Inhalte damals gegen die Instagram-Richtlinien verstießen, die Inhalte ausschlossen, die Selbstmord und Selbstverletzung förderten oder verherrlichten.
Bei der Befragung von Lagone sagte der gesetzliche Vertreter der Familie Russell, Oliver Sanders KC, die gesamte Situation sei unsicher. „Ich schlage Ihnen vor, dass es eine von Natur aus unsichere Umgebung ist … gefährlich und giftig für 13- bis 14-Jährige, die allein in ihren Schlafzimmern durch diesen Müll auf ihren Handys scrollen.“
„Da stimme ich respektvoll nicht zu“, antwortete Lagone. Es gab viele dieser angespannten Auseinandersetzungen, die irgendwann dazu führten, dass der leitende Gerichtsmediziner Andrew Walker Lagone bat, mit „Ja oder Nein“ zu antworten, ob eine Charge von Inhalten, die sie gesehen hatte, für Kinder sicher sei.
Die kumulierten Auswirkungen dieses Hin und Hers führten dazu, dass Russell irgendwann seine Stimme erhob: „Warum um alles in der Welt tust du das?“ Er sagte, Instagram habe sich dafür entschieden, Inhalte „in die Schlafzimmer depressiver Kinder“ zu stellen, und fügte hinzu: „Sie haben kein Recht dazu. Du bist nicht ihr Elternteil. Sie sind nur ein Geschäft in Amerika.“
Die Auswirkungen von Lagones zweitägigem Auftritt und von dem, was mit Molly passierte, bestanden darin, das Vertrauen zu beschädigen, dass eine große Social-Media-Plattform ihre Inhalte und Systeme ohne einen breiteren regulatorischen Rahmen überwachen könnte, um sicherzustellen, dass dies ordnungsgemäß durchgeführt wird.
Wie Ian Russell später sagte: „Es ist an der Zeit, dass das Online-Sicherheitsgesetz der Regierung dringend seine lang versprochene Gesetzgebung vorlegt.“
Meta sagte, seine Gedanken seien bei der Familie Russell und es sei „engagiert“, sicherzustellen, dass die Erfahrung der Menschen mit Instagram eine „positive Erfahrung für alle“ sei. Pinterest, eine andere Plattform, die Molly vor ihrem Tod schädliche Inhalte gezeigt hatte, sagte auch, dass sie „sich verpflichtet habe, fortlaufende Verbesserungen vorzunehmen, um sicherzustellen, dass die Plattform für alle sicher ist“.
Wenn es dieser britischen Regierung gelingt, die geplante Gesetzgebung zu verabschieden, werden sie und andere Plattformen bald gegenüber Ofcom für diese Verpflichtungen verantwortlich sein.
Breiteres TechScape
-
Elon Musk hat wegen seiner Entscheidung, von einem 44-Milliarden-Dollar-Deal zum Kauf von Twitter Abstand zu nehmen, eine Kehrtwende vollzogen. Diese Woche schickten seine Anwälte einen Brief an die Social-Media-Plattform, in dem stand, dass der reichste Mann der Welt das Unternehmen doch gerne kaufen würde. Twitter verklagt Musk in Delaware, dem US-Bundesstaat, in dem das Unternehmen eingetragen ist, und es dürfte mit seiner rechtlichen Argumentation Erfolg haben, dass Musk gezwungen werden muss, den Deal fortzusetzen, den er formell unterschrieben hatte.
-
TikTok wird immer stärker. Die in chinesischem Besitz befindliche soziale Video-App hat im vergangenen Jahr einen fünffachen Umsatzanstieg auf 1 Milliarde US-Dollar in ihren Betrieben auf internationalen Märkten, einschließlich Großbritannien und Europa, gemeldet.
-
Werden virtuelle Influencer in den USA zum großen Ding? Digitale Avatare haben bereits eine starke Marketingpräsenz in Japan, Südkorea und China, sagt der Hollywood Reporter.
-
Machen Sie sich bereit für ein iPhone mit einem neuen Ladeanschluss. Das Europäische Parlament hat dafür gestimmt, bis 2024 einen einzigen Ladeanschluss für Mobiltelefone, Tablets und Kameras einzuführen, ein Schritt, der Apple vor Schwierigkeiten stellt, dessen iPhones einen anderen Stromanschluss verwenden.
-
Warum Tech-Jobs beliebt sind: Die Mitarbeiter von Google UK verdienten in den 18 Monaten bis Ende Dezember 2021 durchschnittlich jeweils mehr als 385.000 £.
In Großbritannien kann die Jugendselbstmordhilfe Papyrus unter 0800 068 4141 oder per E-Mail an [email protected] kontaktiert werden, und in Großbritannien und Irland können Samariter unter der gebührenfreien Rufnummer 116 123 oder per E-Mail an [email protected] oder jo kontaktiert werden @samaritans.ie. In den USA erreichen Sie die National Suicide Prevention Lifeline unter 800-273-8255 oder per Chat, um Unterstützung zu erhalten. Sie können auch HOME an 741741 senden, um sich mit einem Krisenberater für Textleitungen zu verbinden. In Australien ist der Krisendienst Lifeline 13 11 14. Weitere internationale Helplines finden Sie unter befrienders.org.