WBereits im Mai 2014 erließ der Europäische Gerichtshof ein wegweisendes Urteil, wonach europäische Bürger das Recht haben, Suchmaschinen zu ersuchen, Suchergebnisse zu entfernen, die auf rechtmäßig auf Websites Dritter veröffentlichtes Material verlinkten. Dies wurde im Volksmund, aber irreführend als das „Recht auf Vergessenwerden“ bezeichnet; es war wirklich ein Recht darauf, dass bestimmtes veröffentlichtes Material über den Beschwerdeführer von Suchmaschinen entfernt wurde, von denen Google bei weitem das dominierende war. Oder, grob gesagt, ein Recht, von Google nicht gefunden zu werden.
Am Morgen der Veröffentlichung des Urteils erhielt ich einen Anruf von einem relativ erfahrenen Google-Mitarbeiter, den ich zufällig kannte. Aus seinem Anruf ging hervor, dass das Unternehmen von dem Urteil überfallen worden war – sein teures Anwaltsteam hatte offensichtlich nicht damit gerechnet. Aber es war auch klar, dass seine US-Chefs empört waren über die Frechheit einer bloßen europäischen Institution, ein solches Urteil zu fällen. Und als ich sanft andeutete, dass ich das für ein vernünftiges Urteil halte, wurde ich mit einer energischen Tirade konfrontiert, deren Kern darin bestand, dass das Problem mit den Europäern darin bestehe, dass sie „innovationsfeindlich“ seien. An diesem Punkt endete das Gespräch und ich hörte nie wieder von ihm.
Daran erinnert die Reaktion der Technologieunternehmen auf a EU-Gesetzesentwurf letzten Monat veröffentlicht, das, wenn es in etwa zwei Jahren Gesetz wird, es Menschen, die durch Software geschädigt wurden, ermöglichen wird, die Unternehmen zu verklagen, die sie produzieren und einsetzen. Der neue Gesetzentwurf mit dem Namen KI-Haftungsrichtlinie wird die ergänzen KI-Gesetz der EU, das etwa zur gleichen Zeit EU-Recht werden soll. Das Ziel dieser Gesetze ist es, Technologieunternehmen daran zu hindern, gefährliche Systeme zu veröffentlichen, zum Beispiel: Algorithmen, die Fehlinformationen fördern und Kinder mit schädlichen Inhalten ansprechen; Gesichtserkennungssysteme, die oft diskriminierend sind; vorausschauende KI-Systeme, die verwendet werden, um Kredite zu genehmigen oder abzulehnen oder um lokale Polizeistrategien zu steuern und so weiter, die für Minderheiten weniger genau sind. Also Technologien, die derzeit fast vollständig unreguliert sind.
Das KI-Gesetz schreibt zusätzliche Überprüfungen für „risikoreiche“ Anwendungen von KI vor, die das größte Potenzial haben, Menschen zu schaden, insbesondere in Bereichen wie Polizei, Rekrutierung und Gesundheitswesen. Das neue Haftungsgesetz, sagt MIT Technologieüberprüfung Tagebuch, „würde Menschen und Unternehmen das Recht geben, auf Schadensersatz zu klagen, nachdem sie durch ein KI-System geschädigt wurden. Ziel ist es, Entwickler, Hersteller und Nutzer der Technologien zur Rechenschaft zu ziehen und von ihnen zu verlangen, wie ihre KI-Systeme gebaut und trainiert wurden. Tech-Unternehmen, die sich nicht an die Regeln halten, riskieren EU-weite Sammelklagen.“
Wie aufs Stichwort taucht die Computer & Communications Industry Association (CCIA) auf, die Lobbyorganisation, die Technologieunternehmen in Brüssel vertritt. Sein Brief an die beiden für die beiden Rechtsakte verantwortlichen EU-Kommissare wirft sofort die Besorgnis auf, dass die Auferlegung einer verschuldensunabhängigen Haftung für Technologieunternehmen „unverhältnismäßig und für die Eigenschaften von Software ungeeignet wäre“. Und natürlich könnte es „einen abschreckenden Effekt“ auf „Innovation“ haben.
Ah ja. Das wäre die gleiche Innovation, die zum Cambridge-Analytica-Skandal und zur russischen Online-Einmischung bei den US-Präsidentschaftswahlen 2016 und dem britischen Brexit-Referendum geführt und die Liveübertragung von Massenschießereien ermöglicht hätte. Dieselbe Innovation hinter den Empfehlungsmaschinen, die Extremisten radikalisierten und „10 Depressions-Pins, die Ihnen gefallen könnten“ an eine unruhige Teenagerin richteten, die anschließend ihr eigenes Leben beendete.
Es ist schwer zu entscheiden, welche der beiden Behauptungen der CCIA – dass die verschuldensunabhängige Haftung für Software „ungeeignet“ ist oder dass „Innovation“ das bestimmende Merkmal der Branche ist – die absurdere ist. Seit mehr als 50 Jahren wird der Tech-Industrie ein Spielraum eingeräumt wie keiner anderen Branche, nämlich die Vermeidung der gesetzlichen Haftung für die unzähligen Mängel und Schwachstellen ihres Hauptprodukts oder den Schaden, den diese Fehler verursachen.
Noch bemerkenswerter ist jedoch, dass der Anspruch der Technologieunternehmen, die alleinigen Meister der „Innovation“ zu sein, so lange für bare Münze genommen wurde. Aber jetzt haben zwei angesehene Wettbewerbsanwälte, Ariel Ezrachi und Maurice Stucke, den Bluff der Unternehmen aufgedeckt. In einem bemerkenswerten neuen Buch Wie Big-Tech-Barone Innovationen zerschlagen – und wie man zurückschlägt, erklären sie, dass die einzigen Arten von Innovation, die Technologieunternehmen tolerieren, diejenigen sind, die ihren eigenen Interessen entsprechen. Sie zeigen, wie rücksichtslos Technologieunternehmen disruptive oder bedrohliche Innovationen unterdrücken, sei es durch präventiven Erwerb oder nackte Nachahmung, und dass ihre Dominanz von Suchmaschinen und Social-Media-Plattformen die Sichtbarkeit vielversprechender Innovationen einschränkt, die für den Wettbewerb oder die Gesellschaft nützlich sein könnten. Als Gegenmittel gegen Tech-Puffery wird das Buch schwer zu schlagen sein. Es sollte Pflichtlektüre für jeden bei Ofcom, der Competition and Markets Authority und dem DCMS sein. Und ab jetzt „Innovation für wen?“ sollte die erste Frage an jeden Tech-Booster sein, der Sie über Innovation belehrt.
Was ich gelesen habe
Das Netz der Zeit
Das heikle Problem, die Zeit des Internets zu halten, ist ein faszinierendes New-Yorker Aufsatz von Nate Hopper über das Genie, das vor vielen Jahren das obskure Softwaresystem geschaffen hat, das die Uhren des Netzwerks synchronisiert.
Aufgebunden
Projekt Angst 3.0 ist ein schöner Blogpost von Adam Tooze zur Kritik an der derzeitigen Tory-Administration.
Techs Fortschritt
Aufstieg ist ein nachdenklicher Essay von Drew Austin wie sich unser Verhältnis zur digitalen Technologie im Zeitraum 2019-2022 verändert hat.