©Reuters. DATEIFOTO: Ein 3D-gedrucktes Twitter-Logo ist in dieser Illustration vom 27. Oktober 2022 vor einem ausgestellten Foto von Elon Musk zu sehen. REUTERS/Dado Ruvic/Illustration
Von Katie Paul und Sheila Dang
(Reuters) – Elon Musks Twitter stützt sich stark auf Automatisierung, um Inhalte zu moderieren, indem bestimmte manuelle Überprüfungen abgeschafft und Beschränkungen der Verbreitung bevorzugt werden, anstatt bestimmte Redewendungen vollständig zu entfernen, sagte sein neuer Leiter für Vertrauen und Sicherheit gegenüber Reuters.
Twitter schränkt auch missbrauchsanfälligere Hashtags und Suchergebnisse in Bereichen wie der Ausbeutung von Kindern aggressiver ein, unabhängig von möglichen Auswirkungen auf die „gutartige Verwendung“ dieser Begriffe, sagte Ella Irwin, Vizepräsidentin von Twitter für Vertrauens- und Sicherheitsprodukte.
„Das Größte, was sich geändert hat, ist, dass das Team vollständig befähigt ist, schnell zu handeln und so aggressiv wie möglich zu sein“, sagte Irwin am Donnerstag im ersten Interview, das ein Twitter-Manager seit der Übernahme des Social-Media-Unternehmens durch Musk Ende Oktober gegeben hat.
Ihre Kommentare kommen, als Forscher einen Anstieg von Hassreden im Social-Media-Dienst melden, nachdem Musk eine Amnestie für Konten angekündigt hatte, die unter der vorherigen Führung des Unternehmens gesperrt wurden und die nicht gegen das Gesetz verstoßen oder an „ungeheuerlichem Spam“ beteiligt waren.
Das Unternehmen sah sich mit gezielten Fragen zu seiner Fähigkeit und Bereitschaft konfrontiert, schädliche und illegale Inhalte zu moderieren, seit Musk die Hälfte der Twitter-Mitarbeiter gekürzt und ein Ultimatum gestellt hatte, lange zu arbeiten, was zum Verlust von Hunderten weiterer Mitarbeiter führte.
Und Werbetreibende, die Haupteinnahmequelle von Twitter, sind wegen Bedenken hinsichtlich der Markensicherheit von der Plattform geflohen.
Am Freitag versprach Musk bei einem Treffen mit Frankreichs Präsident Emmanuel Macron „eine deutliche Verstärkung der Moderation von Inhalten und des Schutzes der Meinungsfreiheit“.
Irwin sagte, Musk habe das Team ermutigt, sich weniger Gedanken darüber zu machen, wie sich ihre Handlungen auf das Benutzerwachstum oder den Umsatz auswirken würden, und sagte, dass Sicherheit die oberste Priorität des Unternehmens sei. „Er betont das jeden einzelnen Tag, mehrmals am Tag“, sagte sie.
Der von Irwin beschriebene Sicherheitsansatz spiegelt zumindest teilweise eine Beschleunigung der bereits seit letztem Jahr geplanten Änderungen rund um den Umgang von Twitter mit hasserfülltem Verhalten und anderen Richtlinienverstößen wider, so ehemalige Mitarbeiter, die mit dieser Arbeit vertraut sind.
Ein Ansatz, der im Branchenmantra „Redefreiheit, nicht Reichweitenfreiheit“ festgehalten ist, besteht darin, bestimmte Tweets, die gegen die Unternehmensrichtlinien verstoßen, zu lassen, sie jedoch daran zu hindern, an Orten wie der Home-Timeline und der Suche zu erscheinen.
Twitter setzt solche „Sichtbarkeitsfilter“-Tools seit langem um Fehlinformationen herum ein und hatte sie bereits vor der Übernahme von Musk in seine offizielle Richtlinie zu hasserfülltem Verhalten aufgenommen. Der Ansatz ermöglicht eine freizügigere Rede und reduziert gleichzeitig die potenziellen Schäden, die mit viralen missbräuchlichen Inhalten verbunden sind.
Die Zahl der Tweets mit hasserfüllten Inhalten auf Twitter stieg in der Woche, bevor Musk am 23. November twitterte, dass die Eindrücke oder Ansichten von Hassreden zurückgingen, stark an, so das Center for Countering Digital Hate – in einem Beispiel von Forschern, die darauf hinweisen Verbreitung solcher Inhalte, während Musk für eine Verringerung der Sichtbarkeit wirbt.
Tweets mit Wörtern, die gegen Schwarze gerichtet waren, waren in dieser Woche dreimal so hoch wie im Monat vor der Übernahme durch Musk, während Tweets mit schwulen Beleidigungen um 31 % zunahmen, sagten die Forscher.
„MEHR RISIKEN, SCHNELL BEWEGEN“
Irwin, der im Juni in das Unternehmen eintrat und zuvor Sicherheitsfunktionen bei anderen Unternehmen wie Amazon.com (NASDAQ:) und Google (NASDAQ:) innehatte, wies Vorschläge zurück, dass Twitter nicht über die Ressourcen oder die Bereitschaft verfügte, die Plattform zu schützen.
Sie sagte, Entlassungen hätten keine wesentlichen Auswirkungen auf Vollzeitbeschäftigte oder Auftragnehmer, die in den vom Unternehmen als „Gesundheit“ bezeichneten Abteilungen arbeiten, einschließlich in „kritischen Bereichen“ wie Kindersicherheit und Inhaltsmoderation.
Zwei Quellen, die mit den Kürzungen vertraut sind, sagten, dass mehr als 50 % der Health Engineering-Einheit entlassen wurden. Irwin reagierte nicht sofort auf eine Bitte um Stellungnahme zu der Behauptung, bestritt jedoch zuvor, dass das Gesundheitsteam stark von Entlassungen betroffen war.
Sie fügte hinzu, dass sich die Anzahl der Personen, die an der Kindersicherheit arbeiten, seit der Übernahme nicht geändert habe und dass der Produktmanager für das Team immer noch da sei. Irwin sagte, Twitter habe einige Stellen für Leute nachbesetzt, die das Unternehmen verlassen hätten, obwohl sie sich weigerte, konkrete Zahlen zum Umfang des Umsatzes anzugeben.
Sie sagte, Musk konzentriere sich darauf, die Automatisierung stärker einzusetzen, und argumentierte, dass das Unternehmen in der Vergangenheit den Fehler gemacht habe, zeit- und arbeitsintensive menschliche Überprüfungen schädlicher Inhalte zu verwenden.
„Er hat das Team ermutigt, mehr Risiken einzugehen, sich schnell zu bewegen und die Plattform sicher zu machen“, sagte sie.
In Bezug auf die Sicherheit von Kindern sagte Irwin beispielsweise, dass Twitter dazu übergegangen sei, Tweets automatisch zu entfernen, die von vertrauenswürdigen Personen gemeldet wurden, die nachweislich schädliche Posts genau gekennzeichnet haben.
Carolina Christofoletti, eine Forscherin für Bedrohungsinformationen bei TRM Labs, die sich auf Material zum sexuellen Missbrauch von Kindern spezialisiert hat, sagte, sie habe kürzlich bemerkt, dass Twitter einige Inhalte innerhalb von 30 Sekunden, nachdem sie sie gemeldet hatte, entfernt habe, ohne den Erhalt ihrer Meldung oder Bestätigung ihrer Entscheidung zu bestätigen.
In dem Interview am Donnerstag sagte Irwin, Twitter habe in Zusammenarbeit mit der Cybersicherheitsgruppe Ghost Data etwa 44.000 Konten gelöscht, die an Verstößen gegen die Sicherheit von Kindern beteiligt waren.
Twitter schränkt auch Hashtags und Suchergebnisse ein, die häufig mit Missbrauch in Verbindung gebracht werden, wie zum Beispiel solche, die darauf abzielen, „Teenager“-Pornografie zu suchen. Frühere Bedenken hinsichtlich der Auswirkungen solcher Beschränkungen auf die zulässige Verwendung der Begriffe seien verschwunden, sagte sie.
Der Einsatz von „vertrauenswürdigen Reportern“ war „etwas, was wir in der Vergangenheit bei Twitter diskutiert haben, aber es gab einiges Zögern und ehrlich gesagt nur eine gewisse Verzögerung“, sagte Irwin.
„Ich denke, wir haben jetzt die Möglichkeit, solche Dinge tatsächlich voranzutreiben“, sagte sie.