TVor zwei Wochen entschied der Oberste Gerichtshof der USA, dass er anhören würde González gegen Google, ein wegweisender Fall, der bestimmten Social-Media-Mogulen aus dem sehr guten Grund schlaflose Nächte bereitet, weil er ein großes Loch in ihre fabelhaft lukrativen Geschäftsmodelle reißen könnte. Da dies eine gute Nachricht für die Demokratie sein könnte, ist es auch ein Grund für den Rest von uns, aufzuhorchen und aufzupassen.
Zunächst etwas Hintergrund. 1996 fügten zwei US-Gesetzgeber, der Abgeordnete Chris Cox aus Kalifornien und Senator Ron Wyden aus Oregon, eine Klausel in das weitläufige Telekommunikationsgesetz ein, das damals auf dem Weg durch den Kongress war. Die Klausel wurde schließlich zu Abschnitt 230 des Communications Decency Act und lautete: „Kein Anbieter oder Benutzer eines interaktiven Computerdienstes darf als Herausgeber oder Sprecher von Informationen behandelt werden, die von einem anderen Anbieter von Informationsinhalten bereitgestellt werden.“
Die Motive der beiden Politiker waren ehrenhaft: Sie hatten gesehen, wie Anbieter früher Webhosting-Dienste für Schäden haftbar gemacht wurden, die durch Inhalte verursacht wurden, die von Nutzern gepostet wurden, über die sie keine Kontrolle hatten. Es sei daran erinnert, dass dies die frühen Tage des Internets waren und Cox und Wyden befürchteten, dass das Wachstum einer leistungsstarken neuen Technologie mehr oder weniger von Geburt an gelähmt würde, wenn Anwälte fortan alles auf dem Medium gehostete kriechen müssten. Und in diesem Sinne hatten sie recht.
Was sie jedoch nicht vorhersehen konnten, war, dass Abschnitt 230 für einige der profitabelsten Unternehmen der Welt – wie Google, Facebook und Twitter, die Plattformen bauten, die dies ermöglichten – zu einer Karte für den Ausstieg aus dem Gefängnis werden würde Benutzer können alles und jedes veröffentlichen, ohne dass die Eigentümer dafür rechtlich haftbar gemacht werden. Die Cox-Wyden-Klausel war so weitreichend, dass ein Juraprofessor schließlich ein ganzes Buch darüber schrieb, Die 26 Wörter, die das Internet erschufen. Ein bisschen übertrieben vielleicht, aber Sie verstehen schon.
Spulen Sie jetzt in den November 2015 vor, als Nohemi Gonzalez, ein junger Amerikaner, der in Paris studiert, in einem Restaurant von Terroristen des Islamischen Staates niedergeschossen wurde, die in dieser Nacht 129 weitere Menschen ermordeten. Ihre Familie verklagte Google mit dem Argument, dass seine YouTube-Tochter Algorithmen verwendet habe, um IS-Videos unter Verwendung der Informationen, die das Unternehmen über sie gesammelt hatte, an beeinflussbare Zuschauer zu senden. Ihre Petition, die eine Überprüfung durch den Obersten Gerichtshof beantragt, argumentiert, dass „Videos, die Benutzer auf YouTube angesehen haben, die zentrale Methode waren, mit der der IS Unterstützung und Rekruten aus Gebieten außerhalb der von ihm kontrollierten Teile von Syrien und Irak anwarb“.
Das Entscheidende an der Gonzalez-Klage ist jedoch nicht, dass YouTube keine IS-Videos hosten sollte (Abschnitt 230 erlaubt dies), sondern dass seine maschinell lernenden „Empfehlungs“-Algorithmen, die andere, vielleicht radikalere Videos pushen können, diese rendern für den daraus entstehenden Schaden haftbar. Oder, um es grob auszudrücken, während YouTube möglicherweise einen rechtlichen Schutz für das Hosten dessen hat, was seine Benutzer darauf posten, hat es keinen Schutz für einen Algorithmus, der bestimmt, was sie als Nächstes sehen sollen, und sollte es auch nicht.
Das ist Dynamit für die Social-Media-Plattformen, denn Empfehlungsmaschinen sind der Schlüssel zu ihrem Erfolg. Sie sind die Power-Tools, die das „Engagement“ der Benutzer erhöhen – Menschen auf der Plattform halten, um die digitalen Spuren zu hinterlassen (Anzeigen, Teilen, Liken, Retweeten, Kaufen usw.) – die es den Unternehmen ermöglichen, Benutzerprofile für gezielte Werbung kontinuierlich zu verfeinern. Und damit skrupellose Gewinne machen. Wenn der Oberste Gerichtshof entscheiden würde, dass diese Engines keinen Schutz nach Abschnitt 230 genießen, würden Social-Media-Unternehmen die Welt plötzlich viel kälter finden. Und Börsenanalysten könnten ihre Kundenempfehlungen von „Halten“ auf „Verkaufen“ ändern.
Rechtswissenschaftler argumentieren seit Jahrzehnten, dass Abschnitt 230 überarbeitet werden muss. Fanatiker der Meinungsfreiheit sehen darin einen Grundpfeiler der Freiheit, als „Notausschalter“ des Internets. Donald Trump machte darüber drohende Geräusche. Tech-Kritiker (wie dieser Kolumnist) sehen darin einen Grund für die Heuchelei und Verantwortungslosigkeit von Unternehmen. Wie auch immer Sie es betrachten, es ist mehr als ein halbes Jahrhundert her, seit es Gesetz wurde, was ungefähr 350 Jahren in der Internetzeit entspricht. Ein solches Gesetz zur Regulierung der heutigen vernetzten Welt zu haben, scheint ein bisschen so, als würde ein Mann mit einer roten Fahne vor einem fahrerlosen Auto laufen. (Wenn ich darüber nachdenke, ist das vielleicht keine so schlechte Idee.)
Versionen der Frage der Gonzalez-Klage, ob Section 230 Internetplattformen immunisiert, wenn sie gezielt Inhalte anderer Nutzer empfehlen, wurden in den letzten Jahren US-Gerichten vorgelegt. Bis heute sind fünf Richter von Berufungsgerichten zu dem Schluss gekommen, dass die Sektion eine solche Immunität gewährt. Drei Berufungsrichter haben entschieden, dass dies nicht der Fall ist, während ein anderer nur zu dem Schluss gekommen ist, dass ein Präzedenzfall die Haftung für Empfehlungsmaschinen ausschließt. Mit anderen Worten, es gibt hier keinen rechtlichen Konsens. Es ist höchste Zeit, dass der Oberste Gerichtshof die Angelegenheit entscheidet. Ist es nicht schließlich dafür da?
Was ich gelesen habe
Stimme der Vernunft
Ein Ort der Fürsorge ist der von Justin EH Smith Hommage auf seinem Blog seinem verstorbenen Kollegen, dem französischen Philosophen Bruno Latour, der diesen Monat starb.
Wege des Sehens
Wie Fotografen in den 1970er Jahren das Medium neu definierten ein schönes Jubiläum Aufsatz hinein Öffnung von Geoff Dyer.
Lähmende Schulden
Wenn Sie denken, Bitcoin spuckt Kohlenstoff aus, warten Sie, bis Sie davon hören … Banking ist eine interessante Offenbarung von Bill McKibben in seinem Blog über den CO2-Fußabdruck des Finanzwesens.
Haben Sie eine Meinung zu den in diesem Artikel angesprochenen Themen? Wenn Sie einen Brief mit bis zu 250 Wörtern zur Veröffentlichung einreichen möchten, senden Sie ihn per E-Mail an [email protected]