ichn seine Reith-Vorlesungen 2021, deren dritte Folge heute Abend ausgestrahlt wird, greift der Künstliche-Intelligenz-Forscher Stuart Russell die Idee einer KI der nahen Zukunft auf, die so rücksichtslos intelligent ist, dass sie eine existenzielle Bedrohung für die Menschheit darstellen könnte. Eine Maschine, die wir erschaffen, die uns alle zerstören könnte.
Dies ist seit langem ein beliebtes Thema bei Wissenschaftlern und der Presse. Eine existenzielle Bedrohung durch KI halten wir aber nach dem aktuellen Stand der Technik für unwahrscheinlich und auf jeden Fall in weiter Ferne. Die jüngste Entwicklung leistungsstarker, aber weitaus kleinerer KI-Systeme hat jedoch bereits erhebliche Auswirkungen auf die Welt, und die Nutzung bestehender KI stellt ernsthafte wirtschaftliche und soziale Herausforderungen dar. Diese sind nicht entfernt, sondern unmittelbar und müssen angegangen werden.
Dazu zählen die Aussicht auf eine Massenarbeitslosigkeit durch Automatisierung mit einhergehender politischer und sozialer Verwerfung sowie die Verwendung personenbezogener Daten zu Zwecken der kommerziellen und politischen Manipulation. Die Einbeziehung ethnischer und geschlechtsspezifischer Verzerrungen in Datensätze, die von KI-Programmen verwendet werden, die die Auswahl von Stellenbewerbern, die Kreditwürdigkeit und andere wichtige Entscheidungen bestimmen, ist ein bekanntes Problem.
Die bei weitem unmittelbarste Gefahr ist jedoch die Rolle, die die KI-Datenanalyse und -generierung bei der Verbreitung von Desinformation und Extremismus in den sozialen Medien spielt. Diese Technologie treibt Bots und Verstärkungsalgorithmen an. Diese haben in vielen Ländern eine direkte Rolle bei der Anstiftung von Konflikten gespielt. Sie tragen dazu bei, Rassismus, Verschwörungstheorien, politischen Extremismus und eine Vielzahl gewalttätiger, irrationaler Bewegungen zu intensivieren.
Solche Bewegungen bedrohen weltweit die Grundlagen der Demokratie. KI-gesteuert sozialen Medien war maßgeblich an der Mobilisierung des Januaraufstands im US-Kapitol beteiligt und hat die Anti-Vax-Bewegung seit der Pandemie vorangetrieben.
Dahinter steckt die Macht großer Tech-Unternehmen, die die entsprechende Datenverarbeitungstechnologie entwickeln und die Social-Media-Plattformen hosten, auf denen sie eingesetzt wird. Mit ihren enormen Reserven an personenbezogenen Daten verwenden sie ausgeklügelte Targeting-Verfahren, um das Publikum für extremistische Posts und Websites zu identifizieren. Sie fördern diese Inhalte, um die Werbeeinnahmen zu steigern, und tragen damit aktiv zum Aufkommen dieser destruktiven Trends bei.
Sie üben eine nahezu monopolistische Kontrolle über den Social-Media-Markt und eine Reihe anderer digitaler Dienste aus. Meta dominiert durch seine Beteiligung an Facebook, WhatsApp und Instagram sowie Google, das YouTube kontrolliert, einen Großteil der Social-Media-Branche. Diese Machtkonzentration verleiht einer Handvoll Unternehmen weitreichenden Einfluss auf die politische Entscheidungsfindung.
Angesichts der Bedeutung digitaler Dienstleistungen im öffentlichen Leben ist davon auszugehen, dass Big Tech denselben Regulierungen unterliegen würde, die für Unternehmen gelten, die die Märkte in anderen Teilen der Wirtschaft kontrollieren. Tatsächlich ist dies im Allgemeinen nicht der Fall.
Die Social-Media-Agenturen wurden nicht durch die Kartellvorschriften, die Wahrheit in der Werbegesetzgebung oder die Gesetze gegen rassistische Anstiftung eingeschränkt, die für traditionelle Print- und Rundfunknetzwerke gelten. Eine solche Regulierung garantiert kein verantwortungsvolles Verhalten (wie rechte Kabelnetze und tollwütige Boulevardzeitungen veranschaulichen), aber sie bietet ein Instrument der Beschränkung.
Drei Hauptargumente wurden gegen eine verstärkte staatliche Regulierung von Big Tech vorgebracht. Die erste behauptet, dass dies die freie Meinungsäußerung behindern würde. Der zweite argumentiert, dass dies die Innovation in Wissenschaft und Technik beeinträchtigen würde. Die dritte behauptet, dass sozial verantwortliche Unternehmen sich am besten selbst regulieren können. Diese Argumente sind völlig fadenscheinig.
Einige Einschränkungen der freien Meinungsäußerung sind gut begründet durch die Notwendigkeit, das öffentliche Wohl zu verteidigen. Die Wahrheit in der Werbung ist ein Paradebeispiel. Gesetzliche Verbote gegen rassistische Anstiftung und Gruppendiffamierung sind ein weiteres. Diese Beschränkungen werden in den meisten liberalen Demokratien (mit Ausnahme der USA) allgemein als integraler Bestandteil des rechtlichen Ansatzes zum Schutz der Menschen vor Hasskriminalität akzeptiert.
Social-Media-Plattformen lehnen oft die Verantwortung für den Inhalt des von ihnen gehosteten Materials ab, mit der Begründung, dass es von einzelnen Benutzern erstellt wurde. Tatsächlich werden diese Inhalte gemeinfrei veröffentlicht und können daher nicht als rein private Kommunikation ausgelegt werden.
Wenn es um Sicherheit geht, von der Regierung auferlegte Vorschriften haben dramatische Fortschritte in der Biotechnologie nicht verhindert, wie die jüngsten mRNA-basierten Covid-Impfstoffe. Auch hielten sie Autokonzerne nicht davon ab, effiziente Elektrofahrzeuge zu bauen. Warum sollten sie die einzigartige Wirkung haben, Innovationen in der KI und Informationstechnologie zu reduzieren?
Schließlich ist die Ansicht, dass private Unternehmen sich aus sozialem Verantwortungsbewusstsein selbst regulieren können, völlig unbegründet. Unternehmen existieren, um Geld zu verdienen. Unternehmenslobbys schreiben sich oft das Image einer sozial verantwortlichen Industrie zu, die aus Sorge um das Gemeinwohl handelt. In den meisten Fällen handelt es sich dabei um ein PR-Manöver, das der Regulierung entgegenwirken soll.
Jedes Unternehmen, das den sozialen Nutzen über den Profit stellt, wird schnell aufhören zu existieren. Dies wurde in der jüngsten Aussage der Facebook-Whistleblowerin Frances Haugen vor dem Kongress gezeigt, die darauf hindeutet, dass die Führungskräfte des Unternehmens beschlossen haben, den Schaden zu ignorieren, den einige ihrer “Algorithmen” anrichteten, um die von ihnen erzielten Gewinne zu erhalten.
Der Druck der Verbraucher kann gelegentlich als Hebel wirken, um den Unternehmensexzess einzudämmen. Aber solche Fälle sind selten. Tatsächlich sind Gesetze und Regulierungsbehörden die einzigen wirksamen Mittel, die demokratischen Gesellschaften zur Verfügung stehen, um die Öffentlichkeit vor den unerwünschten Auswirkungen der Unternehmensmacht zu schützen.
Es ist ein schwieriges Problem, den besten Weg zu finden, um eine leistungsstarke und komplexe Branche wie Big Tech zu regulieren. Bei konstruktiven Vorschlägen wurden jedoch Fortschritte erzielt. Lina Khan, die US-Bundeshandelskommissarin, hat kartellrechtliche Vorschläge zum Umgang mit monopolistischen Praktiken auf Märkten vorgelegt. Die Europäische Kommission hat eine führende Rolle bei der Einführung von Datenschutz- und Datenschutzgesetzen eingenommen.
Akademiker MacKenzie Common und Rasmus Kleis Nielsen bieten eine ausgewogene Diskussion über Möglichkeiten, wie die Regierung Desinformation und Hassreden in sozialen Medien einschränken und gleichzeitig die freie Meinungsäußerung aufrechterhalten kann. Dies ist das komplexeste und drängendste Problem bei der Steuerung von Technologieunternehmen.
Die Argumente für die Regulierung von Big Tech liegen auf der Hand. Der Schaden, den es in einer Vielzahl von Bereichen anrichtet, stellt die Vorteile seiner beachtlichen Errungenschaften in Wissenschaft und Technik in Frage. Die globale Natur der Unternehmensmacht schränkt die Fähigkeit nationaler Regierungen in demokratischen Ländern, Big Tech einzuschränken, zunehmend ein.
Es besteht ein dringender Bedarf an großen Handelsblöcken und internationalen Agenturen, gemeinsam zu handeln, um den Digitaltechnologieunternehmen eine wirksame Regulierung aufzuerlegen. Ohne solche Einschränkungen wird Big Tech weiterhin die Instrumente des Extremismus, der Bigotterie und der Unvernunft beherbergen, die soziales Chaos erzeugen, die öffentliche Gesundheit untergraben und die Demokratie bedrohen.
-
Devdatt Dubhashi ist Professor für Datenwissenschaft und KI an der Chalmers University of Technology in Göteborg, Schweden. Shalom Lappin ist Professor für Natural Language Processing an der Queen Mary University of London, Direktor des Centre for Linguistic Theory and Studies in Probability an der Universität Göteborg und emeritierter Professor für Computerlinguistik am King’s College London.