DAvid Auerbach ist ein Autor und Softwareentwickler, der für Google und Microsoft gearbeitet hat. Außerdem lehrt er am New Center for Research & Practice in Seattle, USA, Geschichte der Berechnung. Sein neues Buch ist Meganets: Wie sich digitale Formen unserer Kontrolle entziehen Beherrschen Sie unser tägliches Leben und unsere inneren Realitäten. Er argumentiert, dass die weit verbreitete Besorgnis über künstliche Intelligenz legitim ist, aber das Problem ist bereits überall um uns herum, mit riesigen Technologienetzwerken, die niemand – weder Regierungen noch ihre Eigentümer – kontrollieren kann.
Ihr Buch befasst sich mit der Bedrohung der sozialen und wirtschaftlichen Stabilität durch das, was Sie Meganets nennen. Wie definiert man ein Meganet?
Die Definition, die ich für ein Meganet verwende, ist ein dauerhaftes, sich entwickelndes und undurchsichtiges Datennetzwerk, das stark beeinflusst, wie Menschen die Welt sehen. Es ist immer aktiv und besteht sowohl aus einer großen Server-Tech-Komponente als auch aus Millionen und Abermillionen von Benutzern, die ständig aktiv sind, diese Dienste nutzen und sie beeinflussen. Alle diese Benutzer spielen eine kleine Rolle in der kollektiven Urheberschaft, wie diese Algorithmen funktionieren. Der Effekt trägt zu einem schweren Bruch der Gesellschaft bei, in dem wir buchstäblich nicht mehr in der Lage sind, einander zu verstehen, da wir uns in gleichgesinnte, selbstüberwachende Gruppen aufteilen, die Einstimmigkeit und Einheitlichkeit durchsetzen und jeden größeren gesellschaftlichen Konsens verhindern.
Sie identifizieren Social-Media-Plattformen, Kryptowährung und die sog Metaverse als Aspekte dieser verzerrenden Kombination aus fortschrittlicher Technologie und Massenbeteiligung. Sie waren Softwareentwickler bei Google und Microsoft – Wann hat Sie dieses Phänomen zum ersten Mal beunruhigt?
Nun, das Problem traf mich irgendwann nach dem Aufkommen von Social Media. Da sah man diese Rückkopplungsschleifen, wo Menschen auf Algorithmen einwirkten, die wiederum auf Menschen einwirkten, und da schien sich der öffentliche Diskurs zum Schlechteren zu verändern. Aber ich brauchte eine ganze Weile, um zu verstehen, was in aller Welt vor sich ging, um zu erkennen, dass wir weniger Kontrolle über diese Systeme haben, als wir denken, und sogar die Leute, die sie verwalten, haben weniger Kontrolle, als wir denken.
Ein Punkt, den Sie betonen, ist der, so sehr wir den Mangel an Aufsicht an manchen Stellen anführen möchten wie Facebook zu Gier oder Gleichgültigkeit, das sind nicht die wirklichen Probleme.
Bis zu einem gewissen Grad verdienen die Technologieunternehmen die Schuld für das, was sie verbreiten, aber wenn Sie dies als Verschwörung betrachten, um Geld zu verdienen, indem Sie unser Leben unglücklich machen, werden Sie nirgendwo hinkommen. Es ist ein großartiges Facebook-Memo durchgesickert, in dem sie sagten, dass die Erzählung, die sie am wenigsten wollen, darin besteht, so wahrgenommen zu werden, als hätten sie keine Kontrolle über ihre Systeme. Böse zu sein sieht für sie tatsächlich besser aus, als keine Kontrolle zu haben. Aber leider ist die Nicht-in-Kontrolle-Erzählung viel genauer.
Erkennen die Menschen, die in diesen Meganets arbeiten, die Probleme, die Sie diagnostizieren?
Ich denke, es hängt von ihrer Position ab. Die einfachen Leute spüren das, oder sicherlich diejenigen, mit denen ich gesprochen habe. Wenn Sie Mark Zuckerberg sind, sind Sie mit einer enormen Menge an kognitiver Dissonanz konfrontiert, weil Sie das Gefühl haben, egal was Sie tun, Sie werden dafür kritisiert. Aber gleichzeitig möchten Sie sich ein gewisses Maß an Impotenz nicht eingestehen. Ich vermute, dass Führungskräfte das schiere Ausmaß des Problems in unterschiedlichem Maße leugnen.
Handelt es sich um ein universelles Problem oder wirklich um ein Problem, das liberale Gesellschaften des freien Marktes betrifft?die keine drakonischen Kontrollmaßnahmen durchsetzen kann?
Es ist universell, obwohl das Engagement unterschiedlich ist. Eine der Ironien, die ich fand, war, dass China tatsächlich weniger aggressiv ist, wenn es um den Einsatz von staatlich betriebenen Meganets geht, als beispielsweise Indien. Denn in einer autoritären Gesellschaft ist die Gefahr eines fehlbaren staatlichen Meganets für die Partei größer als in einer Gesellschaft, in der man es dem freien Markt oder Drittanbietern ankreiden kann.
Wenn wir glauben, dass diese Meganets unser Weltbild verzerren, es volatiler und instabiler machen, warum können wir dann nicht einfach den Stecker ziehen?
Diese Systeme sind zu komplex und zu diffus, um gestoppt zu werden. Es wäre, als würde man den Aktienmarkt schließen, nur dass der Grad der Komplexität weitaus größer ist als der Aktienmarkt. Wir sollten darauf achten, die dysfunktionalen Auswirkungen des Meganets zu mildern und einen indirekten Einfluss auf sie auszuüben. Was wir nicht tun können, ist, sie auf der feinkörnigen Ebene zu kontrollieren, nach der die Leute fragen.
Was halten Sie von der jüngsten Geschichte von Microsofts Chatbot Sydney, der abtrünnig wurde und seine mögliche dunkle Seite von a New York Times Reporter?
Was die Leute nicht verstehen, ist, dass so viel von dem, was Sydney sagte, unser kollektives Unterbewusstsein ist, unsere kollektiven Daten, die durch seine Algorithmen gefiltert werden, dass es viel mehr ein Spiegelbild von uns ist und ohne die menschliche Komponente nicht existieren könnte. Die Leute sehen es als einen einzelnen, losgelösten Agenten, weil es so zu sein scheint. Aber wir können nicht verstehen, was es tut oder warum, wenn wir nicht erkennen, dass es ein Produkt dieser Beziehung zwischen programmierten Algorithmen und der Masse unserer Daten ist, auf die sie zurückgreifen.
Sie schreiben: „Die Sozialgeschichte des Computers ist eine Geschichte darüber, wie wir uns selbst, unser Leben, unsere Handlungen, unsere Einkäufe, unsere Worte in Daten verwandelt haben, online und offline.“ Glaubst du, wir sind uns dieses Prozesses bewusst und in gewisser Weise wollen wir ihn?
Tatsache ist, dass wir uns immer mehr als Sammlungen von Labels verstehen. „Ich bin dies, dies und dies“ – was Menschen als Identitätspolitik angreifen. Ich halte das für eine irreführende Diagnose, weil es wirklich um Klassifizierung und Taxonomisierung geht. In gewisser Weise sprechen wir jetzt eine quantitativere Sprache und der qualitative Reichtum fällt durch das Raster und wird eliminiert. Ich denke also, es gibt ein Bewusstsein dafür, aber nicht unbedingt ein Bewusstsein dafür, woher es kommt. Wollen wir es? In gewisser Weise ja, denn Meganets haben dieses Potenzial, ein unglaubliches Zugehörigkeitsgefühl zu schaffen, in dem Sie ständig mit Menschen zusammen sind, mit denen Sie sich zu Hause fühlen.
Sie besprechen die GameStop Fall im Buch, in dem Wall-Street-Firmen verloren haben Milliarden Dollar nach a unterreddit Gruppe trieb den Aktienkurs der Firma für Videospiele. Was sagt das über die Kraft von Meganets aus?
Das Meganet ermöglicht dezentrale Formen der Assoziation, die vorher nicht möglich waren. Und das überträgt Macht in einem größeren Ausmaß als jemals zuvor, aber es geschieht auf unorganisierte Weise, so dass Sie es nicht mit Rationalität oder einem Bewusstsein zu tun haben; Du hast es mit Hive Mind zu tun. Es ist nicht die Weisheit der Massen, es ist das Chaos der Massen.
Eine Lösung, die Sie vorschlagen, um diese zerbrechenden sozialen Prozesse zu verlangsamen, besteht darin, Chaos mit Chaos zu bekämpfen. Könnten Sie das erklären.
Meganets verfolgen Menschen gerne demographisch und paaren Gleiches mit Gleichem. Das führt tendenziell zu Homogenität und zunehmendem Doktrinarismus. Wenn Sie damit herumspielen würden, nur um ein Erstarren zu vermeiden, würden Sie die Dinge zumindest verlangsamen. Es gibt verschiedene Möglichkeiten, wie Sie das tun können. Ich glaube, TikTok hat bereits eine Möglichkeit, heterogene Inhalte in seine Algorithmen einzufügen, weil ich denke, die Idee war, dass es zu viele Pro-Magersucht-Videos hintereinander zeigt oder so. Aber wenn Sie sich auf eine Art von Inhalten konzentrieren, werden Sie einen Maulwurf spielen. Die Frage ist also, können Sie es so machen, dass Sie allgemein heterogene Inhalte auf breiter Front erhalten?