TIn dieser Woche griffen die technischen Leiter des GCHQ und des National Cyber Security Center kraftvoll in eine unglaublich kontroverse Debatte ein: Was sollten Social-Media-Unternehmen tun, um Kinder auf ihren Plattformen zu schützen?
Aber so wurde die Intervention nicht von allen Parteien aufgenommen. Andere hörten etwas ganz anderes: müde Argumente gegen Ende-zu-Ende-Verschlüsselung, in neue Kleider gekleidet, aber den gleichen Angriff auf die Privatsphäre mit der gleichen Ausrede verschleiert, die immer von den Strafverfolgungsbehörden vorgebracht wird.
Aus unserer Geschichte:
Technologieunternehmen sollten mit umstrittener Technologie voranschreiten, die auf den Telefonen der Benutzer nach Bildern von Kindesmissbrauch sucht, so die technischen Leiter von GCHQ und dem britischen National Cyber Security Center gesagt haben.
Beim sogenannten „Client-seitigen Scannen“ würden Dienstanbieter wie Facebook oder Apple Software entwickeln, die die Kommunikation auf verdächtige Aktivitäten überwacht, ohne den Inhalt von Nachrichten mit einem zentralen Server teilen zu müssen.
Ian Levy, der technische Direktor des NCSC, und Crispin Robinson, der technische Direktor für Kryptoanalyse – Codebreaking – bei GCHQ, sagten, die Technologie könne Kinder und die Privatsphäre gleichzeitig schützen. „Wir haben keinen Grund gefunden, warum clientseitige Scan-Techniken in vielen der Situationen, denen man begegnen wird, nicht sicher implementiert werden können“, schrieben sie in einem neuen Diskussionspapier .
Sie erinnern sich vielleicht an die Debatte um clientseitiges Scannen vor einem Jahr. Um mich selbst zu zitieren:
Apple macht einen großen Schritt ins Unbekannte. Das liegt daran, dass seine Version dieses Ansatzes zum ersten Mal von einer großen Plattform aus Fotos auf der Hardware der Benutzer scannt, anstatt darauf zu warten, dass sie auf die Server des Unternehmens hochgeladen werden.
Durch Normalisierung des Scannens auf dem Gerät für CSAM [child sexual abuse material]Kritiker befürchten, Apple sei einen gefährlichen Schritt gegangen. Von hier aus, argumentieren sie, sei es nur noch eine Frage des Grades, ob unser digitales Leben online und offline überwacht werde. Es ist ein kleiner Schritt in eine Richtung, das Scannen über CSAM hinaus zu erweitern; es ist ein kleiner Schritt in einem anderen, es über einfache Fotobibliotheken hinaus zu erweitern; es ist ein kleiner Schritt in einen weiteren, um über perfekte Übereinstimmungen bekannter Bilder hinaus zu expandieren.
Warum also ist die Intervention von Levy und Robinson wichtig? Für mich ist es ein aufrichtiger Versuch, die Bedenken dieser Kritiker anzusprechen, die Vorteile des clientseitigen Scannens bei der Bekämpfung bestimmter Bedrohungskategorien aufzuzeigen – und sinnvolle Lösungen für allgemeine Befürchtungen vorzuschlagen.
Der Teufel steckt im Detail
Um ein Beispiel zu nennen das 70-seitige Papier: Das Paar versucht, der Befürchtung entgegenzuwirken, dass Listen von Fotos, die für CSAM gescannt werden, über bekannte CSAM hinaus erweitert werden könnten, um beispielsweise Bilder mit politischem Charakter aufzunehmen. Im Klartext: Was würde China davon abhalten, von Apple zu fordern, die berühmten Bilder von Tank Man in seinen Scan-Apparat aufzunehmen, und das Unternehmen dazu zwingen, alle iPhones, die dieses Bild enthalten, als potenziell kriminell zu kennzeichnen?
Robinson und Levy schlagen ein System vor, das genau das tun würde. Sie schlagen vor, dass die Liste der Bilder von Kinderschutzgruppen auf der ganzen Welt zusammengestellt wird – Organisationen wie dem National Center for Missing and Exploited Children in den USA oder der britischen Internet Watch Foundation (IWF). Jede dieser Gruppen unterhält bereits eine Datenbank „bekannter“ CSAM, die sie zusammenarbeiten, um sie so umfassend wie möglich zu halten, und die Scanning-Datenbank kann nur aus diesen Bildern in allen Listen der Gruppen erstellt werden.
Melden Sie sich für unseren wöchentlichen Technologie-Newsletter TechScape an.
Anschließend können sie veröffentlichen ein Hash, eine kryptografische Signatur, dieser Datenbank, wenn sie sie an Technologieunternehmen übergeben, die denselben Hash anzeigen können, wenn er auf Ihr Telefon geladen wird. Selbst wenn China seine einheimische Kinderschutzgruppe zwingen könnte, Tank Man in seine Liste aufzunehmen, wäre es nicht in der Lage, dasselbe für die IWF zu tun, sodass das Bild es nicht auf die Geräte schaffen würde; und wenn Apple gezwungen wäre, eine andere Datenbank für China zu laden, würde sich der Hash entsprechend ändern, und die Benutzer würden wissen, dass das System nicht mehr vertrauenswürdig ist.
Der Punkt ist nicht, dass die vorgeschlagene Lösung der bestmögliche Weg ist, um das Problem zu lösen, schreiben Levy und Robinson, sondern zu demonstrieren, dass „Details wichtig sind“: „Die Diskussion des Themas in Allgemeinheiten, die Verwendung mehrdeutiger Sprache oder Übertreibungen führt mit ziemlicher Sicherheit zum falsches Ergebnis.“
Die Angst und Wut ist echt
In gewisser Weise ist dies ein starker rhetorischer Schachzug. Das Beharren darauf, dass sich das Gespräch auf die Details konzentriert, ist ein Beharren darauf, dass Leute, die Client-seitiges Scannen grundsätzlich ablehnen, damit falsch liegen: Wenn Sie glauben, dass die Privatsphäre privater Kommunikation ein unantastbares Recht ist und sein sollte, dann argumentieren Levy und Robinson effektiv dass Sie zugunsten moderaterer Menschen, die bereit sind, Kompromisse zu diskutieren, aus dem Gespräch ausgeschlossen werden.
Aber es ist frustrierend, dass ein Großteil der Reaktionen die gleichen Allgemeinplätze waren, die Apples Ankündigung vor einem Jahr begleiteten. Die Technologie-News-Site The Register, zum Beispiel, veröffentlichte einen wütenden redaktionellen Spruch: „Dasselbe Argument wurde schon oft verwendet, normalerweise gegen einen der vier Reiter der Infocalypse: Terroristen, Drogendealer, Material zum sexuellen Missbrauch von Kindern (CSAM) und organisierte Kriminalität.“
Ich habe genug Zeit damit verbracht, mit Leuten zu sprechen, die im Kinderschutz arbeiten, um zu wissen, dass die Angst und Wut über den Schaden, der von einigen der größten Unternehmen der Welt verursacht wird, echt ist, unabhängig davon, ob Sie denken, dass es richtig ist. Ich behaupte nicht, die Beweggründe von Levy und Robinson zu kennen, aber dieses Papier stellt einen Versuch dar, Konversation zu schaffen, anstatt mit einem schreienden Kampf zwischen zwei unversöhnlichen Seiten eines Streits fortzufahren. Es verdient, als solches behandelt zu werden.
Es ist nicht ‘dein Handwerk’
Minecraft ist groß. Sie haben vielleicht schon davon gehört. Wenn das Spiel also eine Moderationsentscheidung trifft, ist es ein bisschen wichtiger, als Bungie sich entschieden hat, Scout-Gewehre in Destiny 2 zu nerfen. Besonders wenn die Moderationsentscheidung so lautet:
Minecraft wird die Verwendung von nicht fungiblen Token (NFTs) auf der beliebten Gaming-Plattform nicht zulassen, wobei das Unternehmen sie als antithetisch zu Minecrafts „Werten der kreativen Inklusion und des gemeinsamen Spielens“ beschreibt.
Minecraft stellte einen attraktiven potenziellen Markt für NFTs dar, mit einer Nutzerbasis – die bis August 2021 auf mehr als 141 Millionen geschätzt wurde – die sich bereits damit beschäftigt, einzigartige digitale Gegenstände zu teilen, die für das Spiel entwickelt wurden.
Aber das Microsoft-eigene Entwicklungsstudio hinter Minecraft, Mojang, hat Spekulationen ein Ende gesetzt, dass NFTs im Spiel zugelassen werden könnten. In einem Blogbeitrag vom Mittwoch sagten die Entwickler, dass die Blockchain-Technologie nicht erlaubt sei, da sie den Werten von Minecraft widerspreche.
Der unglaubliche Erfolg von Minecraft ist seiner Erweiterbarkeit zu verdanken. Neben den integrierten kreativen Aspekten des Spiels – das oft als Lego-Antwort des 21. Jahrhunderts bezeichnet wird – können Benutzer es auf große und kleine Weise modifizieren und so neue Erfahrungen machen. Diese Flexibilität erwies sich als verlockend für NFT-Entwickler, die sich für die Idee entschieden, neue Funktionen in Minecraft zu erstellen und sie als digitale Assets zu verkaufen.
Theoretisch ist es die perfekte NFT-Möglichkeit: eine digital-native Kreation mit einem tatsächlich realisierbaren Anwendungsfall und einem nachweislich lebensfähigen Markt. Startups strömten in Scharen auf das Feld: NFT Worlds verkauft vorgenerierte Minecraft-Landschaften, auf denen Menschen Erfahrungen aufbauen und sie gewinnbringend weiterverkaufen könnten; Gridcraft betreibt einen Minecraft-Server mit eigener Krypto-basierter Ökonomie.
Oder sie taten es. Nun, es scheint, sind NFTs zu einem so giftigen Phänomen geworden, dass selbst passive Akzeptanz für ein Unternehmen wie Mojang zu viel ist. Wenn du es in dieser Welt schaffen willst, musst du es alleine schaffen.