Was Schicksal von Molly Russell, die sich im Alter von 14 Jahren das Leben nahm, war eine Tragödie. Es muss alles getan werden, um ähnliche Ereignisse in Zukunft zu verhindern. Mollys Tod wurde von einem Gerichtsmediziner mit der Internetnutzung in Verbindung gebracht, nachdem ihr vor einem Londoner Gericht gezeigt wurde, dass sie mit algorithmisch getriebenem Selbstverletzungsmaterial überschwemmt worden war. Über den Grundsatz, dass dies falsch war und dass Social-Media-Unternehmen mehr Verantwortung für das übernehmen müssen, was auf ihren Plattformen passiert, herrscht sowohl im Parlament als auch über die Parteigrenzen hinweg weitgehende Einigkeit unter der Öffentlichkeit.
Aber über solche schmerzhaften Fallstudien und einige daraus gezogene Verallgemeinerungen hinaus beginnt der Konsens zu bröckeln. Es ist schwierig, Gesetze zu erlassen, um die vielen Probleme zu lösen, die durch soziale Medien verursacht oder verschärft werden. Digitale Technologien entwickeln sich schnell und unvorhersehbar. Bisher ist es Gesellschaften und Regierungen nicht gelungen, ihre schädliche und zerstörerische Nutzung einzuschränken und gleichzeitig kreative und produktive Nutzungen zu nutzen. Das britische Online-Sicherheitsgesetz, das am Dienstag dem House of Commons vorgelegt wird, ist bereits seit mehreren Jahren in Arbeit, und weitere Änderungen sind erforderlich, bevor es in Kraft tritt. Selbst dann sollte sich niemand einbilden, dass dies eine erledigte Arbeit ist. Stattdessen sollte die Rechnung als unangenehmer Schritt auf einer beschwerlichen Reise angesehen werden.
Der Schwerpunkt des neuen Gesetzes wurde durch die letztjährige Entscheidung, die Pflichten zum Schutz von Erwachsenen vor schädlichen Inhalten zu schwächen und sich auf Kinder zu konzentrieren, deutlich verändert. Dies wurde durch Bedenken in Bezug auf die freie Meinungsäußerung vorangetrieben, insbesondere die umstrittene Natur von „Hass“ und wer ihn definieren darf. Vorerst wird die umfassendere Verschlechterung des öffentlichen Raums durch soziale Medien, einschließlich der Verstärkung von beleidigender Sprache und Bildsprache, unangefochten bleiben. Lucy Powell von Labour hat bereits gesagt, wenn die Regierung Änderungen ablehnt, die darauf abzielen, die Rechenschaftspflicht von Technologieunternehmen zu erhöhen, wird Labour dies in Zukunft anstreben.
Es besteht eine gute Chance, dass eine von Hinterbänklern angestrebte Änderung akzeptiert wird, wonach einzelne Führungskräfte für Verstöße gegen den Kinderschutz strafrechtlich haftbar gemacht werden. Dies ist nicht zuletzt wichtig, um ein klares Signal zu setzen, das die Öffentlichkeit versteht. Aber die Aussicht auf Strafverfolgung muss Teil eines umfassenderen Sanktionsrahmens sein, der digitale Unternehmen dazu zwingt, die Sicherheit von Kindern an erste Stelle zu setzen. Bis jetzt sind sie damit durchgekommen, dies als das Problem von jemand anderem zu behandeln.
Nur weil der Gerichtsmediziner in Molly Russells Fall Meta und andere gezwungen hat, Beweise zu liefern, wissen wir, was wir gegen ihre Misshandlung unternehmen. Es brauchte den Mut einer Whistleblowerin, Frances Haugen, um zu enthüllen, dass Facebook (jetzt Meta) wusste, dass Instagram Teenager-Mädchen dazu bringt, sich schlechter über ihren Körper zu fühlen. Diese Woche beschrieb Ian Russell, Mollys Vater, die Reaktionen der Plattformen auf die Mitteilung des Gerichtsmediziners im Fall seiner Tochter als „business as usual“.
Dieses Laissez-faire muss ein Ende haben. Während die Konservative Partei einen Großteil des Jahres 2022 von internen Kämpfen abgelenkt war, sahen sich Kinder, die das Internet nutzten, mit dem konfrontiert, was Peter Wanless, der Vorsitzende der NSPCC, „sexueller Missbrauch im industriellen Maßstab“. Ofcom braucht neue Befugnisse, um für hinterbliebene Eltern tätig zu werden. Einzelpersonen müssen befugt sein, Beschwerden einzureichen. Und der Gesetzentwurf muss umfassend sein, damit Plattformen sich und ihre Algorithmen nicht außerhalb seines Geltungsbereichs regieren können.
Medienunternehmen wurden in der Vergangenheit sowohl mit Schaden als auch mit Gutem in Verbindung gebracht. Nie zuvor haben sie sich so aggressiv gegen Kinder gedrängt, während sie die Auswirkungen so sorglos behandelten. Das Online-Sicherheitsgesetz muss die Regeln neu schreiben und ein Ultimatum stellen.