Das Online-Sicherheitsgesetz ist ein wegweisendes Gesetz, das darauf abzielt, Schäden für Menschen im Internet zu verhindern, die von rassistischen Tweets bis zu schädlichen Inhalten reichen, die von leistungsstarken Algorithmen gesendet werden.
Der überarbeitete Gesetzentwurf, der am Donnerstag veröffentlicht wurde, wird Technologieunternehmen eine Sorgfaltspflicht auferlegen, um Benutzer vor schädlichen Inhalten zu schützen, oder mit hohen Bußgeldern von der Kommunikationsüberwachung rechnen müssen.
Der Guardian hat mit Menschen gesprochen, die unter der Art von Schaden gelitten haben, den das Gesetz zu verhindern und zu bestrafen versucht.
1
Gina Miller, 56, Opfer von rassistischem und sexistischem Missbrauch
Miller ist sich über die Motivation für den Online-Hass, den sie im Laufe der Jahre erlitten hat, im Klaren: „Es war eine Flut von Missbrauch, die darauf zurückzuführen ist, dass ich eine farbige Frau bin.“
Die Aktivistin für Transparenz sagt, der Missbrauch habe 2015 begonnen, als sie Bedenken hinsichtlich des Finanz- und Wohltätigkeitssektors hervorhob. Dies eskalierte, als sie erfolgreiche Gerichtsverfahren gegen die Maßnahmen der Regierung zum Brexit leitete.
Sie sagt, Facebook und Twitter seien die schlechtesten Plattformen für das Hosten rassistischer Nachrichten. „Die geposteten Nachrichten reichten von ‚Geh zurück nach Hause, du dreckiger Ausländer’ bis ‚Diese Frau sollte getötet werden’“, sagt Miller, der in Britisch-Guayana, dem heutigen Guyana, als Kind indischer Eltern geboren wurde.
Miller begrüßt die Tatsache, dass das Gesetz digitale „Anhäufungen“ kriminalisieren wird, bei denen Opfer online von mehreren Personen gleichzeitig missbraucht werden. Es wird auch sicherstellen, dass große Technologieplattformen der Bekämpfung bestimmter Arten von „legalen, aber schädlichen“ Inhalten Vorrang einräumen, zu denen voraussichtlich auch rassistischer Missbrauch gehört.
2
Ian Russell, 58, Vater von Molly Russell
Molly, 14, aus Harrow im Nordwesten Londons, sah sich Inhalte auf Instagram und anderen Social-Media-Plattformen an, die mit Angstzuständen, Depressionen, Selbstverletzung und Selbstmord in Verbindung standen, bevor sie sich im November 2017 das Leben nahm.
Ihr Vater Ian sagt, dass Social-Media-Plattformen erlaubt wurde, sich selbst zu regulieren, ein Laissez-faire-Ansatz, der seine Familie im Stich gelassen hat. „Sozialen Medien wurde erlaubt, sich auf selbstregulierte Weise zu entwickeln. Das funktioniert eindeutig nicht, sonst wären Tragödien wie die von Molly nicht passiert.“
Laut Ian haben sich die sozialen Medien in letzter Zeit mit ihrer Rolle bei der Coronavirus-Pandemie und dem Ukraine-Konflikt von ihrer „guten Seite“ gezeigt, aber junge Menschen brauchen mehr Schutz bei der Nutzung von Plattformen. „Wir brauchen eine Regulierung, damit junge Menschen, wenn sie soziale Medien nutzen, was sie tun sollten, weil es enorm gut tut, sie vor dem Schaden schützen, den sie anrichten können.“
Die Gesetzgebung, die sowohl für Technologieunternehmen gilt, die nutzergenerierte Inhalte produzieren, als auch für Suchmaschinen, wird von Unternehmen verlangen, Systeme einzurichten, die illegale Inhalte erkennen, wie z fördern oder Selbstmord zu erleichtern. Plattformen müssen auch sicherstellen, dass ihre Algorithmen, die kuratieren, was ein Benutzer sieht, nicht auf gefährdete Benutzer mit unangemessenen Inhalten abzielen.
3
Jill, 75, Opfer einer Online-Werbung
Betrugsanzeigen werden in den Geltungsbereich des Gesetzentwurfs aufgenommen, was bedeutet, dass die größten Social-Media-Plattformen verpflichtet sein werden, zu verhindern, dass bezahlte betrügerische Anzeigen auf ihren Websites erscheinen. Dazu gehören Anzeigen mit gefälschten Empfehlungen von Prominenten.
Für Jill, eine pensionierte Psychotherapeutin aus Cambridgeshire, wird es zu spät sein. Jill, die darum bat, dass ihr Nachname zurückgehalten wird, verlor 2020 mehr als 30.000 £, nachdem sie auf Facebook auf eine Anzeige für eine Kryptowährungsinvestition geklickt hatte, die eine gefälschte „Bestätigung“ von Deborah Meaden, dem Star aus Dragons‘ Den, enthielt.
„Es ist schrecklich erschütternd und alles begann mit einer kleinen Anzeige auf Facebook. Sie müssen diese Werbung überwachen“, sagt sie. „Es hat meine Familie getroffen, weil sie sehr verärgert und wütend waren. Es hat uns ein paar Jahre lang vernebelt.“
Meaden hat in einer Erklärung auf ihrer Website gesagt, dass sie keine Verbindung zu Bitcoin-Handelsplattformen hat oder in diese investiert hat. „Ich habe Schritte unternommen, um das nicht autorisierte Material zu entfernen, und ergreife geeignete Maßnahmen gegen Personen und/oder Unternehmen, die sich entschieden haben, Menschen auf diese Weise zu betrügen“, schrieb sie.
4
Katie Scott, 24, Überlebende einer Essstörung
Scott sagt, dass sie als Teenager auf Online-Inhalte gestoßen ist, die ihre Essstörung gefördert haben, darunter Leute, die Ideen für extreme Diäten gepostet haben.
„Im Alter von 14 bis 18 Jahren habe ich auf viele schädliche Inhalte auf Tumblr und Instagram zugegriffen. Dieser Inhalt wurde oft als Pro-Magersucht-Inhalt bezeichnet, der im Wesentlichen eine Gemeinschaft von Menschen war, die sich gegenseitig ermutigten, sich an gefährlichem Verhalten zu beteiligen“, sagt Scott aus Reading. „Als ich mir diese Inhalte online ansah, fühlte ich mich weniger bewusst, wie gefährlich mein Verhalten war. Es fühlte sich wie eine äußere Manifestation der Unordnung an, die bereits in meinem Kopf war.“
Scott sagt, dass es eine engagierte Anstrengung geben muss, um zu verhindern, dass diese Inhalte so allgemein zugänglich sind. Sie sagt, dass ähnliche Inhalte immer noch auf Social-Media-Plattformen wie TikTok und Instagram existieren. „Es muss mehr getan werden, als nur Konten zu schließen und zu melden, die Essstörungen fördern. Die Konten müssen früher identifiziert werden, wobei der Schwerpunkt mehr darauf liegt, über neue Hashtags oder sich entwickelnde Räume auf dem Laufenden zu bleiben.“
Die Liste der legalen, aber schädlichen Inhalte, die die Regierung von Technologieunternehmen erwartet, wird in sekundären Rechtsvorschriften festgelegt. Aber die Pressemitteilung, die dem überarbeiteten Gesetz beigefügt ist, weist darauf hin, dass Inhalte in Bezug auf Selbstverletzung und Essstörungen zu den behandelten Bereichen gehören werden.
5
Frida, 21, Pflege-Überlebende
Frida sagt, dass Social-Media-Plattformen sie mit 13 Jahren anfällig dafür gemacht haben, online gepflegt zu werden, nachdem ein Mann in den Dreißigern sie auf Facebook kontaktiert hatte. Die daraus resultierende Online-Beziehung hielt jahrelang an, eine Erfahrung, die Frida mit einer Langzeitdepression zurückließ.
„Damals ging es mir in der Schule sehr schlecht. Ich wurde gemobbt und hatte nicht wirklich Freunde, also hatte ich nichts zu verlieren“, sagt Frida, deren Name geändert wurde.
Sie sagt, dass es bei Facebook nur wenige Schutzvorschriften gab, um sie vor dem Missbrauch zu schützen. „Es gab zum Beispiel erhöhte Risiken bei Dingen wie End-to-End-Verschlüsselung oder der Tatsache, dass mein Täter mich so einfach hinzufügen und mir Nachrichten senden konnte, und plattformübergreifendes Risiko.“ Sie sagt, der erste Kontakt auf Facebook habe sich bald zu Messaging auf WhatsApp verlagert – das verschlüsselt ist, was bedeutet, dass die Nachrichten nur vom Absender und Empfänger eingesehen werden können.
„So viel von dem, womit ich auf Facebook interagiert habe, hat mich in Gefahr gebracht“, sagt Frida, die sich mit der NSPCC, der Kinderschutzorganisation, dafür eingesetzt hat, die Gesetzesvorlage zu stärken. „Was ich in diesem Online-Sicherheitsgesetz gerne sehen würde, ist eine stärkere Konzentration auf das Risiko und das, was das Risiko erhöht. Ich würde mir wünschen, dass Apps wie Facebook eine Sicherheitskultur implementieren.“
Die Fürsorgepflicht des Gesetzentwurfs ist in mehrere Teile gegliedert, einschließlich einer Anforderung, Kinder vor illegalen Aktivitäten wie der Körperpflege zu schützen. Tech-Unternehmen müssen Risikobewertungen durchführen, in denen detailliert beschrieben wird, wie Missbrauch auf ihren Plattformen auftreten könnte und wie er verhindert werden kann. Diese Risikobewertungen werden von Ofcom überwacht, der Kommunikationsaufsichtsbehörde, die mit der Umsetzung der Gesetzgebung beauftragt wurde.