HHier ist ein hypothetisches Szenario. Sie sind Eltern eines Kleinkindes, eines kleinen Jungen. Sein Penis ist wegen einer Infektion angeschwollen und tut ihm weh. Sie rufen die Praxis des Hausarztes an und erreichen schließlich die Krankenschwester der Praxis. Die Krankenschwester schlägt vor, dass Sie ein Foto des betroffenen Bereichs machen und es per E-Mail senden, damit sie einen der Ärzte konsultieren kann.
Sie holen also Ihr Samsung-Handy heraus, machen ein paar Fotos und schicken sie ab. Kurze Zeit später ruft die Krankenschwester an und teilt mit, dass der Hausarzt Antibiotika verschrieben hat, die Sie in der Praxisapotheke abholen können. Du fährst hin, holst sie ab und in ein paar Stunden lässt die Schwellung nach und dein Junge ist munter. Panik vorbei.
Zwei Tage später finden Sie eine Nachricht von Google auf Ihrem Telefon. Ihr Konto wurde aufgrund von „schädlichem Inhalt“ deaktiviert, der „einen schwerwiegenden Verstoß gegen die Richtlinien von Google darstellt und möglicherweise illegal ist“. Sie klicken auf den Link „Mehr erfahren“ und finden eine Liste möglicher Gründe, darunter „Sexueller Missbrauch und Ausbeutung von Kindern“. Plötzlich fällt der Groschen: Google denkt, dass die von Ihnen gesendeten Fotos Kindesmissbrauch darstellten!
Macht nichts – es gibt ein Formular, das Sie ausfüllen können, um die Umstände zu erläutern und Google aufzufordern, seine Entscheidung aufzuheben. An diesem Punkt stellen Sie fest, dass Sie Google Mail nicht mehr haben, aber zum Glück haben Sie ein älteres E-Mail-Konto, das noch funktioniert, also verwenden Sie dieses. Jetzt haben Sie jedoch keinen Zugriff mehr auf Ihren Terminkalender, Ihr Adressbuch und all Ihre Arbeitsdokumente, die Sie in Google Docs gespeichert haben. Sie können auch nicht auf Fotos oder Videos zugreifen, die Sie jemals mit Ihrem Telefon aufgenommen haben, da sie sich alle auf den Cloud-Servern von Google befinden – auf die Ihr Gerät sie nachdenklich (und automatisch) hochgeladen hat.
Kurz darauf erhalten Sie die Antwort von Google: Das Unternehmen wird Ihr Konto nicht wiederherstellen. Es wird keine Erklärung geliefert. Zwei Tage später klopft es an der Tür. Draußen stehen zwei Polizisten, ein Mann, eine Frau. Sie sind hier, weil Sie verdächtigt werden, illegale Bilder zu besitzen und weiterzugeben.
Albtraumhaft, nicht wahr? Aber es ist zumindest hypothetisch. Abgesehen davon, dass es das nicht ist: Es ist eine Adaption für einen britischen Kontext dessen, was mit „Mark“, einem Vater in San Francisco, passiert ist kürzlich lebhaft erzählt in dem New York Times von dem beeindruckenden Tech-Journalisten Kashmir Hill. Und zum Zeitpunkt des Schreibens dieser Kolumne hat Mark sein Google-Konto immer noch nicht zurückbekommen. Da es sich um die USA handelt, hat er natürlich die Möglichkeit, Google zu verklagen – genauso wie er die Möglichkeit hat, seinen Garten mit einem Teelöffel umzugraben.
Hintergrund ist, dass die Tech-Plattformen glücklicherweise viel fleißiger geworden sind, ihre Server nach Kindesmissbrauchsbildern zu scannen. Aber wegen der unvorstellbaren Anzahl von Bildern, die auf diesen Plattformen gespeichert sind, muss das Scannen und Erkennen durch maschinelle Lernsysteme erfolgen, unterstützt durch andere Tools (wie die kryptografische Kennzeichnung illegaler Bilder, die sie weltweit sofort nachweisbar macht).
All das ist großartig. Das Problem bei automatisierten Erkennungssystemen ist jedoch, dass sie ausnahmslos einen Teil der „Falsch-Positiven“ ausgeben – Bilder, die eine Warnung anzeigen, aber in Wirklichkeit harmlos und legal sind. Das liegt oft daran, dass Maschinen schlecht darin sind, Kontexte zu verstehen, was derzeit nur Menschen können. Bei der Recherche ihres Berichts sah Hill die Fotos, die Mark von seinem Sohn gemacht hatte. „Die Entscheidung, sie zu markieren, war verständlich“, schreibt sie. „Es sind explizite Fotos von den Genitalien eines Kindes. Aber der Kontext ist wichtig: Sie wurden von einem Elternteil aufgenommen, das sich Sorgen um ein krankes Kind machte.“
Dementsprechend beschäftigen die meisten Plattformen Mitarbeiter, um problematische Bilder in ihrem Kontext zu überprüfen und festzustellen, ob sie weitere Maßnahmen rechtfertigen. Das Interessante am Fall San Francisco sind die Bilder war von einem Menschen überprüft, der entschied, dass sie unschuldig waren, ebenso wie die Polizei, an die die Bilder ebenfalls weitergeleitet wurden. Trotzdem blieb Google bei seiner Entscheidung, sein Konto zu sperren, und wies seinen Einspruch zurück. Dies ist möglich, weil ihm die Plattform gehört und jeder, der sie nutzt, auf eine Vereinbarung geklickt hat, um deren Bedingungen zu akzeptieren. Da unterscheidet es sich nicht von Facebook/Meta, Apple, Amazon, Microsoft, Twitter, LinkedIn, Pinterest und Co.
Diese Anordnung funktioniert gut, solange die Benutzer mit den Diensten und der Art und Weise, wie sie bereitgestellt werden, zufrieden sind. Aber in dem Moment, in dem ein Benutzer entscheidet, dass er von der Plattform misshandelt oder missbraucht wurde, fällt er in ein rechtliches schwarzes Loch. Wenn Sie ein App-Entwickler sind, der das Gefühl hat, dass Sie von Apples 30-prozentiger Abgabe als Preis für den Verkauf auf diesem Marktplatz ausgehöhlt werden, haben Sie zwei Möglichkeiten: zahlen oder die Klappe halten. Ebenso, wenn Sie gewinnbringend auf dem Amazon Marketplace verkauft haben und plötzlich feststellen, dass die Plattform jetzt ein billigeres vergleichbares Produkt unter ihrem eigenen Label verkauft, na ja … hart. Sicher, Sie können sich beschweren oder Berufung einlegen, aber am Ende ist die Plattform Richter, Geschworene und Henker. Das würden Demokratien in keinem anderen Lebensbereich tolerieren. Warum sind Tech-Plattformen dann eine Ausnahme? Ist es nicht an der Zeit, dass sie es nicht sind?
Was ich gelesen habe
Ein zu großes Bild?
Es gibt eine interessante kritik von Ian Hesketh im digitalen Magazin Aeon, wie Yuval Noah Harari und Co. die Menschheitsgeschichte in eine Geschichte für alle mit dem Titel What Big History Misses packen.
1-2-3, weg…
Die Weitergabe von Passwörtern ist ein netter Nachruf auf das Passwort des digitalen Identitätsguru David GW Birch auf seinem Substack.
Eine Warnung
Gary Marcus hat eine elegante Kritik geschrieben Was ist los mit Googles neuem Roboterprojekt? auf seinem Substack.