TDas Bedrohungsmodell eines sozialen Netzwerks ist komplex. Ihr Sicherheitsteam muss sich mit herkömmlichen Hacking-Angriffen auseinandersetzen, da feindliche Akteure nach technischen Fehlern in Ihren Apps und Servern suchen, mit denen sie wertvolle private Daten extrahieren, bösartigen Code einschleusen oder einfach nur zum Spaß Chaos anrichten können.
Sie müssen sich auch mit Menschen auseinandersetzen, die die eigenen Fähigkeiten der Website auf destruktive Weise nutzen, von einfältigen Spam-Bots bis hin zu Nationalstaaten, die „koordiniertes unauthentisches Verhalten“ ausführen. Sie müssen Benutzer vor Kontoübernahmen aufgrund von Passwortdiebstahl schützen, und sie müssen dies alles tun, während sie durch das Minenfeld der Inhaltsmoderation navigieren.
Und dann wird die Seite aus einer Laune heraus von einem launenhaften Milliardär gekauft und die Bedrohung kommt aus dem Inneren des Hauses.
Was sind die Twitter-Dateien?
Elon Musk hat „the Twitter Files“ vorangetrieben, eine Reihe von Twitter-Threads von befreundeten Journalisten, die vom Unternehmen bereitgestelltes Material verwenden, um die Rolle des Unternehmens in den Kulturkriegen der vergangenen Jahre neu zu beleuchten.
Typischerweise behaupten große Nachrichten, dies zu sein [something] „Akten“ basieren auf enormen Leaks, die einen bisher unmöglichen Einblick in das Innenleben der Organisation unter die Lupe nehmen. Es ist weniger typisch, dass ein riesiges Leak vom Vorstandsvorsitzenden des Unternehmens angeordnet und von seinen Untergebenen ausgeführt wurde, die offen mit den Journalisten zusammenarbeiteten, die über die Geschichte berichteten. Aber wenig an Elon Musks Twitter ist typisch.
Was ist mit den Dateien selbst? Eineinhalb Wochen später gab es vier Veröffentlichungen von drei Autoren: Matt Taibbi, Bari Weiss und Michael Shellenberger, die alle im Großen und Ganzen Teil einer Welle von „postliberalen“ Substack-Newsletter-Autoren sind. Es ist unklar, wie sie ausgewählt wurden, um die Dokumente zu erhalten.
Eine Anforderung war jedoch, dass alles, was sie veröffentlichten, auf Twitter selbst geteilt werden sollte, sagte Taibbi, aber darüber hinaus „wurden wir ermutigt, nicht nur das historische Twitter zu betrachten, sondern auch die aktuelle Iteration. Mir wurde rundheraus gesagt, ich könne alles schreiben, was ich wollte, einschließlich alles über das aktuelle Unternehmen und seinen neuen Chef Elon Musk.“ Gleichzeitig wurde die Berichterstattung in den Büros von Twitter mit Unterstützung von Twitter-Mitarbeitern durchgeführt.
Und alle drei haben sich auf die Bereiche konzentriert, die man aufgrund ihrer bisherigen Aussagen über das soziale Netzwerk erahnen könnte. Taibbis erster Thread behandelte die Bemühungen von Twitter, auf die Geschichte der New York Post über Hunter Bidens Laptop zu reagieren; Sein zweiter Thread, ebenso wie der von Shellenberger, befasste sich mit den Ereignissen rund um die Suspendierung von Donald Trump und den Angriff auf das US-Kapitol am 6. Januar. Weiss berichtete unterdessen über das, was sie als „geheime schwarze Listen von Twitter“ bezeichnete
Meinungsfreiheit vs. Reichweitenfreiheit
Der Großteil des Materials konzentrierte sich also bisher auf zwei individuelle Moderationsentscheidungen mit extrem hohen Einsätzen, von denen eine im Nachhinein weithin als Fehler angesehen wird (Verstecken von Geschichten über Bidens Laptop) und die andere genauso spaltend ist wie jeder andere vorher geahnt hätte (Trumps Verbot).
Die von Taibbi und Shellenberger geteilten Dokumente unterstützen diese Lesart weitgehend. Abgesehen von der konspirativen Rahmung der beiden Autoren scheinen die Auszüge aus internen E-Mails und Chatnachrichten, die sie gepostet haben, zu zeigen, dass die Mitarbeiter die enorme Belastung, die ihnen auferlegt wurde, mit einer groben Mischung aus Panik und Entschlossenheit angehen.
In den Tagen nach der Veröffentlichung der Post-Geschichte über Hunter Biden war das nicht genug. Die von Taibbi zitierten Führungskräfte sind sich der Aussicht auf eine Wiederholung des WikiLeaks-Dumps von gehackten Dokumenten der Demokratischen Partei aus dem Jahr 2016 bewusst und handeln schnell, um die Durchsetzung einer Richtlinie gegen die Weitergabe gehackter Materialien zu erörtern. Aber die Materialien wurden nicht gehackt, und während die Aufbewahrungskette von Bidens Laptop im Dunkeln bleibt, wurde schnell klar, dass die Richtlinie falsch angewendet wurde. Die höchsten Mitarbeiter von Twitter entfernten das Verbot zu langsam, als dies klar wurde, und in Taibbis Worten„irrte auf der Seite von … weiterhin zu irren“.
Nur zwei Monate später wurde dieselbe Gruppe einberufen, um über Donald Trump zu diskutieren. Der Präsident hatte die sozialen Medien genutzt, um einen Protest in Washington DC anzustacheln, der gewalttätig wurde, als seine Anhänger beschlossen, das US-Kapitol zu stürmen. In den Tagen seit der Wahl hatte Twitter seine Politik der „Neuigkeit“ aggressiv angewandt und Posts mit einem Label versehen, das gelöscht würde, wenn der Autor nicht bekannt wäre, aber am 7. Januar war klar, dass dies unbefriedigend war Fall Trump.
Eine Reihe von Slack-Posts von Shellenberger geteilt zeigen das Team unter der Leitung des ehemaligen Vertrauens- und Sicherheitschefs Yoel Roth, das verzweifelt versucht, spontan eine Richtlinie zu erfinden (alle Mitarbeiter außer Roth sind in den von Shellenberger geteilten Posts anonymisiert). Trump wurde eine Sonderbehandlung zuteil, er wurde monatelang auf der Website belassen, nachdem ein typischer Benutzer gesehen hätte, dass sein Konto gelöscht wurde: Ab wann ist dieser Ansatz nicht mehr praktikabel? Die Antwort war eindeutig der 6. Januar. Aber wenn man jemandem eine Sonderbehandlung zuteilt, ohne es zuzugeben, macht es das nur umso schwieriger, sie wieder wegzunehmen.
Weiss’ Teil der Saga ist anders. Anstatt sich auf die enge Welt der US-Wahlpolitik zu konzentrieren, wirft ihr Thread einen systematischeren Blick auf die Moderationspraktiken von Twitter. Zusammenarbeit mit Ella Irwinein Vertrauens- und Sicherheitsmitarbeiter bei Twitter, veröffentlichte Weiss Screenshots der Moderationsseiten für einige der berüchtigtsten Benutzer der Website.
Jay Bhattacharya, ein Covid-Skeptiker, wurde auf eine „schwarze Liste der Trends“ gesetzt; Dan Bongino, eine rechte Medienpersönlichkeit, auf einer „schwarzen Suchliste“; Charlie Kirk, dessen Entscheidung, an einem Protest teilzunehmen eine Windel tragen eine solche Verlegenheit aus zweiter Hand verursachte, dass sie die von ihm gegründete republikanische Jugendbewegung effektiv zerstörte, auf „nicht verstärken“ eingestellt war.
Die Tags sind verschiedene Beispiele für das, was Twitter „Sichtbarkeitsfilterung“ nennt, eine Form der Moderation, die die „Reichweitenfreiheit“ beeinflussen soll, ohne die „Meinungsfreiheit“ zu beeinträchtigen. Benutzer, die gefiltert werden, können posten, was ihnen gefällt, aber ihre Beteiligung an der algorithmischen Erweiterung der Website ist begrenzt. Einige werden nicht in Suchergebnissen oder Trends angezeigt; andere werden Benutzern nicht zum Folgen empfohlen. Die aggressivste Form der Sichtbarkeitsfilterung, die keinen der von Weiss hervorgehobenen prominenten Accounts betraf, bedeutet, dass neue Posts nicht einmal für Follower angezeigt werden und nur für Personen sichtbar sind, die direkt zum Profil des Posters navigieren.
Nicht jedem User, den Weiss untersucht hat, hat die Moderation geschadet. Einer, LibsofTikTok, erhielt eine Sonderbehandlung und warnte die Moderatoren, nichts dagegen zu unternehmen, ohne das Senior-Team der Website zu konsultieren. Trotzdem hatte es zwei Verwarnungen wegen Missbrauchs erhalten und wurde auf die schwarze Trendliste gesetzt.
Was haben wir gelernt?
Ich denke, es ist wichtig, zwischen den Twitter-Dateien und den „Twitter-Dateien“ zu unterscheiden. Letztere, eine große, gehypte, koordinierte Publikation, hat ihre offensichtlichen Ziele bisher nicht erreicht. Die durchgehende Linie der ganzen Übung ist, dass Twitter eine Brutstätte linker Voreingenommenheit ist, die ausdrücklich mit der US-Demokratischen Partei verbündet ist und ungerechtfertigte Maßnahmen ergreift, um Äußerungen für politisch motivierte Zwecke zu zensieren.
Die Beiträge selbst zeigen wenig dergleichen. Einige, wie die von Weiss, versuchen es gar nicht erst: Einzelne Beispiele von rechtsgerichteten Nutzern, die am Ende der leichten Moderation stehen, sagen wenig über die allgemeine Voreingenommenheit aus. Wurden linke Nutzer auch mit Sichtbarkeitsfiltern ausgestattet? Weiß sagt es nicht. Wurden rechten Usern mehr Filter gegeben? Weiß sagt es nicht.
Andere zeigen fast das Gegenteil. Es gab viele einfache Gründe, Donald Trump im Januar 2021 aus dem sozialen Netzwerk zu entfernen, aber die Posts scheinen Twitter-Mitarbeiter zu enthüllen, die methodisch ihr eigentliches Regelwerk durcharbeiten und versuchen zu verstehen, wie sie auf beispiellose Ereignisse auf eine Weise reagieren können, die nicht einfach ist Präzedenzfall aus dem Fenster werfen.
Wie so vieles, was mit der amerikanischen Politik zu tun hat, fallen die Akten ins Leere, wenn man die amerikanische Rechte als Ausreißer betrachtet. Wenn Sie Regeln gegen Fehlinformationen bei Wahlen haben und nur eine Partei sich an einer systematischen Kampagne für Fehlinformationen zu Wahlen beteiligt, ist es kein unangemessenes Ergebnis, dass eine Partei im Mittelpunkt der Moderationsbemühungen steht.
Aber die Akten in Kleinbuchstaben, die Dokumente selbst, sind nichtsdestotrotz ein interessantes historisches Artefakt. Sie zeigen, dass sich die Menschen, die die Entscheidungen innerhalb von Twitter in Zeiten globaler Krisen trafen, der Macht, die sie innehatten, sehr bewusst waren und sich damit unwohl fühlten. Selbst als eine Reihe ausgewählter Beispiele zeigen sie, dass die Bemühungen um die Erstellung und Anwendung eines konsistenten Regelwerks sowohl von dem Wunsch getrieben wurden, Kritik zu vermeiden, als auch von der Überzeugung, dass dies für den Schutz der Benutzer wichtig ist. Sie geben uns einen Einblick in die Art von Diskussionen, die wahrscheinlich gleichzeitig auf Facebook und YouTube stattfanden.
Und sie zeigen uns, dass wir Elon Musk niemals vertrauen sollten.
Insider-Bedrohung
Musk hat die Serie als Übung in „Transparenz“ beworben, und wenn Sie Weiss, Taibbi oder Shellenberger sind, ist es das, was es ist. Aber es ist die Art von Transparenz, die Unternehmen erhalten, wenn ihre Datenbank gehackt und im Darknet verkauft wird. In diesem Fall kostete die Datenbank 44 Milliarden US-Dollar und kam mit der Kontrolle über die Website zum Booten.
Marcus Hutchins, der ethische Hacker, der die WannaCry-Ransomware-Infektion gestoppt hat, hat auf Mastodon über die Dokumente gepostet. „Als Sicherheitsprofi macht mir nicht viel Angst“ er sagte. „Ich habe unzählige Male gesehen, wie meine persönlichen Daten gestohlen wurden, habe beobachtet, wie Hacker von Bundesstaaten Zerodays über das Internet gesprüht haben, und ich bin ein schamloser Benutzer von TikTok.
„Aber jetzt sitzt jemand auf den persönlichen Daten von mehreren Milliarden Benutzern, jemand, der eine lange Erfolgsgeschichte von rachsüchtiger Belästigung hat, jemand, der das Ohr der extremen Rechten hat, und jemand, der uns gerade seine Bereitschaft gezeigt hat, Waffen einzusetzen unternehmensinterne Daten, um politisch zu punkten. Das macht mir große Angst.“
In den Shellenberger-Posts wurde nur eine Person genannt: Twitters frühere Vertrauens- und Sicherheitschefin Yael Roth. Als Musk das Unternehmen kaufte, war Roth zunächst herzlich willkommen: einer der wenigen Mitarbeiter, der bereit war, sich öffentlich für seinen Chef einzusetzen, und eine dringend benötigte Quelle für internes Know-how nach der sofortigen Entlassung von Vijaya Gadde, dem langjährigen Leiter der Plattformsicherheit von Twitter Bemühungen.
Aber die Beziehung hat sich eindeutig verschlechtert. Am 10. November kündigte Roth und tauchte eine Woche später wieder auf, um einen Beitrag in der New York Times zu schreiben, in dem er argumentierte: „Auch wenn er die Willkür der Plattformpolitik kritisiert, [Musk] verewigt den gleichen Mangel an Legitimität durch seine impulsiven Änderungen und tweetlangen Verlautbarungen über die Regeln von Twitter.“
Dadurch scheint er für seinen kurzen Chef und damit für das breitere rechte Medienökosystem, das Musk jetzt leitet, zu einem Bete noire geworden zu sein. Am Tag, bevor Shellenberger seinen Teil der Twitter-Dateien teilte, veröffentlichte Musk einen kontextlosen Auszug aus Roths jahrzehntelanger Doktorarbeit, in der untersucht wurde, ob Dienste wie Grindr Schaden anrichten, indem sie Teenager dazu zwingen, sich als Erwachsene auszugeben, um sich als Erwachsene auszugeben Dating-Sites zugreifen.
Vor einem Publikum von Hunderten von Millionen beschuldigte Musk Roth, „für Kinder zu sein, die Zugang zu Internetdiensten für Erwachsene haben“, und beschuldigte ihn indirekt, Twitter persönlich zu einem sicheren Ort für Pädophile zu machen.
Der Vorwurf ist Unsinn, aber der Vorwurf in einer Atmosphäre rechter Panik über „Groomer“ in den Medien ist lebensverändernd. Am Montag mussten Roth und seine Partnerin ihre Heimat verlassen, nachdem glaubwürdige Drohungen gegen ihn stark zugenommen hatten. Bei unzureichender Loyalität wird er den Rest seines Lebens damit verbringen müssen, über seine Schulter zu schauen. Was passiert mit der nächsten Person, die Elon ärgert?
Wenn Sie die vollständige Version des Newsletters lesen möchten, abonnieren Sie bitte TechScape jeden Dienstag in Ihrem Posteingang