Die meisten von uns betrachten machthungrige Killerroboter nicht als unmittelbare Bedrohung für die Menschheit, insbesondere wenn Armut und die Klimakrise bereits die Erde verwüsten.
Dies war nicht der Fall bei Sam Bankman-Fried und seinen Anhängern, mächtigen Schauspielern, die sich innerhalb der effektiven Altruismus-Bewegung einer Denkschule namens „Longtermism“ verschrieben haben.
Im Februar hat der Future Fund, eine philanthropische Organisation, die von dem inzwischen in Ungnade gefallenen Kryptowährungsunternehmer gestiftet wurde, angekündigt dass es dieses Jahr mehr als 100 Millionen Dollar – und möglicherweise bis zu 1 Milliarde Dollar – für Projekte ausgeben würde, um „die langfristigen Aussichten der Menschheit zu verbessern“.
Der leicht kryptische Hinweis mag für diejenigen ein wenig verwirrend gewesen sein, die unter Philanthropie die Finanzierung von Wohltätigkeitsorganisationen für Obdachlose und medizinische NGOs in Entwicklungsländern verstehen. Zu den besonderen Interessensgebieten des Zukunftsfonds gehören künstliche Intelligenz, biologische Waffen und „Space Governance“, ein mysteriöser Begriff, der sich auf die Ansiedlung von Menschen im Weltraum als potenzielle „Wendepunkt in der Geschichte der Menschheit“.
Außer Kontrolle geratene künstliche Intelligenz war ein weiterer Bereich, der Bankman-Fried Sorge bereitete – so sehr, dass der Future Fund im September Preisgelder von bis zu 1,5 Millionen US-Dollar für jeden ankündigte, der eine überzeugende Einschätzung der Bedrohung abgeben konnte, die eine ungezügelte KI darstellen könnte Menschheit.
„Wir glauben, dass künstliche Intelligenz“ „die Entwicklung ist, die den Weg der Menschheit in diesem Jahrhundert am wahrscheinlichsten dramatisch verändern wird“, sagte der Future Fund. „Mit Hilfe fortschrittlicher KI könnten wir enorme Fortschritte bei der Beendigung von globaler Armut, Tierleid, frühem Tod und schwächenden Krankheiten machen.“ Aber KI könnte auch „unerwünschte Ziele erreichen und Macht auf unbeabsichtigte Weise verfolgen, was dazu führen würde, dass Menschen ihren gesamten oder den größten Teil ihres Einflusses auf die Zukunft verlieren“.
Weniger als zwei Monate nach Bekanntgabe des Wettbewerbs wurde die 32-Milliarden-Dollar-Kryptowährung von Bankman-Fried Reich zusammengebrochen war, ein Großteil der Führungsspitze des Future Fund zurückgetreten war und seine KI-Preise möglicherweise nie belohnt wurden.
Ebensowenig werden die meisten der Millionen von Dollar, die Bankman-Fried einer Konstellation von Wohltätigkeitsorganisationen und Thinktanks versprochen hatte, die dem effektiven Altruismus angeschlossen sind, einer einst obskuren ethischen Bewegung, die im Silicon Valley und in den höchsten Rängen der internationalen Geschäfts- und Politikwelt einflussreich geworden ist.
LExperten argumentieren, dass das Wohlergehen zukünftiger Menschen moralisch genauso wichtig – oder wichtiger – ist als das Leben der heutigen Menschen, und dass philanthropische Ressourcen darauf verwendet werden sollten, Bedrohungen auf der Ebene der Auslöschung der Menschheit vorherzusagen und sich dagegen zu wehren.
Aber anstatt Malarianetze zu verteilen oder Brunnen zu graben, investieren Langzeitforscher lieber Geld in die Erforschung existentieller Risiken oder „x-risk“.
In seinem kürzlich erschienenen Buch „What We Owe the Future“ plädiert William MacAskill – ein 35-jähriger Moralphilosoph in Oxford, der zum öffentlichen intellektuellen Gesicht des effektiven Altruismus geworden ist – mit einem Gedankenexperiment über einen Wanderer, der versehentlich einen zerschmettert Glasflasche auf einem Wanderweg. Ein gewissenhafter Mensch würde das Glas sofort reinigen, um den nächsten Wanderer nicht zu verletzen – egal, ob dieser in einer Woche oder in einem Jahrhundert kommt.
In ähnlicher Weise argumentiert MacAskill, dass die Anzahl potenzieller zukünftiger Menschen über viele Generationen für die Dauer der Art die derzeit lebende Anzahl weit übersteigt; Wenn wir wirklich glauben, dass alle Menschen gleich sind, ist der Schutz zukünftiger Menschen wichtiger als der Schutz von Menschenleben heute.
Einige der Finanzierungsinteressen von Langzeitforschern, wie die nukleare Nichtverbreitung und die Entwicklung von Impfstoffen, sind ziemlich unstrittig. Andere sind ausgefallener: Investitionen in die Kolonisierung des Weltraums, Verhinderung des Aufstiegs machthungriger KI, Tötung durch „Lebensverlängerungs“-Technologie. Ein Ideenbündel, das als „Transhumanismus“ bekannt ist, versucht, die Menschheit durch die Schaffung digitaler Versionen von Menschen, „Bioengineering“ von Mensch-Maschine-Cyborgs und dergleichen zu verbessern.
Leute wie der Zukunftsforscher Ray Kurzweil und seine Anhänger glauben, dass die Biotechnologie bald „eine Vereinigung zwischen Menschen und wirklich intelligenten Computern und KI-Systemen ermöglichen wird“, erklärte Robin McKie 2018 im Guardian ein Universum seiner eigenen Schöpfung, das sich nach Belieben auf ein „angemessen leistungsfähiges Computersubstrat“ hochlädt“ und dadurch eine Art Unsterblichkeit erschafft.
TSein fieberhafter Techno-Utopismus lenkt Geldgeber von dringenden Problemen ab, die hier auf der Erde bereits existieren, sagte Luke Kemp, ein wissenschaftlicher Mitarbeiter am Centre for the Study of Existential Risk der University of Cambridge, der sich selbst als „EA-nahen“ Kritiker des effektiven Altruismus bezeichnet . Auf dem Tisch, sagt er, bleiben kritische und glaubwürdige Bedrohungen, die gerade jetzt stattfinden, wie die Klimakrise, natürliche Pandemien und wirtschaftliche Ungleichheit.
„Die Dinge, die sie vorantreiben, sind in der Regel Dinge, die das Silicon Valley mag“, sagte Kemp. Sie sind die Art von spekulativen, futuristischen Ideen, die Tech-Milliardäre intellektuell spannend finden. „Und sie konzentrieren sich fast immer auf technologische Lösungen“ für menschliche Probleme „und nicht auf politische oder soziale“.
Es gibt andere Einwände. Zum einen wäre das verschwenderisch teure, experimentelle Bioengineering vor allem zu Beginn „nur einem winzigen Teil der Menschheit“ zugänglich, sagte Kemp; es könnte ein zukünftiges Kastensystem hervorbringen, in dem Ungleichheit nicht nur ökonomisch, sondern biologisch ist.
Dieses Denken sei auch gefährlich undemokratisch, argumentierte er. „Diese großen Entscheidungen über die Zukunft der Menschheit sollten von der Menschheit entschieden werden. Nicht nur von ein paar weißen männlichen Philosophen in Oxford, die von Milliardären finanziert wurden. Es ist buchstäblich die mächtigste und am wenigsten repräsentative Schicht der Gesellschaft, die eine bestimmte Zukunftsvision durchsetzt, die zu ihnen passt.“
Kemp fügte hinzu: „Ich glaube nicht, dass EAs – oder zumindest die EA-Führung – sich sehr um Demokratie kümmern.“ In seinen dogmatischeren Spielarten, sagte er, beschäftigt sich der Langzeitismus mit „Rationalität, Hardcore-Utilitarismus, einer pathologischen Besessenheit von Quantifizierung und neoliberaler Ökonomie“.
Organisationen wie z 80.000 Stundenein Programm für junge Berufstätige, tendiere dazu, potenzielle effektive Altruisten in vier Hauptbereichen zu ermutigen, sagte Kemp: KI-Forschung, Forschung zur Vorbereitung auf von Menschen verursachte Pandemien, EA-Gemeinschaftsbildung und „globale Prioritätenforschung“, so die Frage wie die Mittel verteilt werden sollen.
Die ersten beiden Bereiche, obwohl sie es wert sind, untersucht zu werden, sind „hochspekulativ“, sagte Kemp, und die zweiten beiden sind „eigennützig“, da sie Geld und Energie zurück in die Bewegung leiten.
In diesem Jahr der Zukunftsfonds Berichte Empfehlung von Zuschüssen für würdig erscheinende Projekte, die so unterschiedlich sind wie Forschung zur „Durchführbarkeit der Inaktivierung von Viren durch elektromagnetische Strahlung“ (140.000 US-Dollar); ein Projekt, das Kinder in Indien mit Online-Unterricht in Wissenschaft, Technologie, Ingenieurwesen und Mathematik verbindet (200.000 USD); Forschung zu „krankheitsneutralisierenden therapeutischen Antikörpern“ (1,55 Mio. USD); und Forschung zur Bleiexposition in der Kindheit (400.000 $).
Aber ein Großteil der Großzügigkeit des Future Fund scheint in den langfristigen Ansatz selbst investiert worden zu sein. Es empfahl dem Global Priorities Institute 1,2 Millionen Dollar; 3,9 Mio. $ für den Long Term Future Fund; 2,9 Millionen Dollar für die Einrichtung eines „langfristigen Coworking-Büros in London“; 3,9 Millionen Dollar für die Schaffung eines „langfristigen Coworking Space in Berkeley“; 700.000 US-Dollar für das Legal Priorities Project, eine „langfristige juristische Forschungs- und Feldaufbauorganisation“; 13,9 Millionen Dollar an das Center for Effective Altruism; und 15 Millionen US-Dollar an Longview Philanthropy, um „unabhängige Zuschüsse zu globalen Forschungsprioritäten, Atomwaffenpolitik und anderen langfristigen Themen“ durchzuführen.
Kemp argumentierte, dass effektiver Altruismus und Langfristigkeit oft auf eine Art regulatorische Vereinnahmung hinzuarbeiten scheinen. „Die langfristige Strategie besteht darin, EAs und EA-Ideen an Orte wie das Pentagon, das Weiße Haus, die britische Regierung und die UN zu bringen“, um die öffentliche Ordnung zu beeinflussen, sagte er.
Es könnte einen Lichtblick im Timing von Bankman-Frieds Untergang geben. „Irgendwie ist es gut, dass es jetzt und nicht später passiert ist“, sagte Kemp. „Er hatte vor, riesige Summen für Wahlen auszugeben. Einmal sagte er, er plane, bis zu einer Milliarde Dollar auszugeben, was ihn zum größten Spender in der politischen Geschichte der USA gemacht hätte. Können Sie sich vorstellen, ob dieser Geldbetrag zu einem Sieg der Demokraten beigetragen hat – und sich dann herausstellte, dass er auf Betrug beruhte? In einer ohnehin fragilen und polarisierten Gesellschaft wie den USA? Das wäre entsetzlich gewesen.“
“TDie Hauptspannung der Bewegung ist meines Erachtens eine, mit der sich viele Bewegungen befassen“, sagte Benjamin Soskis, Historiker der Philanthropie und leitender wissenschaftlicher Mitarbeiter am Urban Institute. „Eine Bewegung, die in erster Linie von normalen Menschen – und ihren Leidenschaften und Interessen und unterschiedlichen Herkunftsgebieten – angetrieben wurde, zog eine Reihe sehr wohlhabender Geldgeber an“ und wurde schließlich von „den Finanzierungsentscheidungen und manchmal nur von den öffentlichen Identitäten angetrieben , von Leuten wie SBF und Elon Musk und einigen anderen“. (Soskis bemerkte, dass er von Open Philanthropy, einer mit EA verbundenen Stiftung, finanzielle Unterstützung erhalten hat.)
Effektiver Altruismus stellte Bankman-Fried, der in einer Luxusanlage auf den Bahamas lebte, „auf ein Podest als diesen Corolla-fahrenden, in Sitzsäcken schlafenden, Geld verdienenden Mönch, was eindeutig falsch war“, sagte Kemp.
Soskis glaubt, dass effektiver Altruismus eine natürliche Anziehungskraft auf Menschen in der Technologie- und Finanzbranche ausübt – die dazu neigen, Probleme analytisch und berechnend zu betrachten – und dass sich EA, wie alle Bewegungen, über soziale und berufliche Netzwerke verbreitet.
Effektiver Altruismus ist auch für wohlhabende Menschen attraktiv, glaubt Soskis, weil er „eine Möglichkeit bietet, den Grenzwert zusätzlicher Dollars zu verstehen“, insbesondere wenn es um „riesige Summen geht, die sich jedem Verständnis entziehen können“. Der Fokus der Bewegung auf Zahlen („halt die Klappe und vermehre dich“) hilft hyperreichen Menschen konkreter zu verstehen, was 500 Millionen Dollar im Vergleich zu beispielsweise 500.000 oder 50.000 Dollar philanthropisch bewirken können.
Ein positives Ergebnis, so denkt er, ist, dass EA-beeinflusste Spender ihre philanthropischen Verpflichtungen öffentlich diskutieren und andere dazu ermutigen, sie einzugehen. Historisch gesehen haben Amerikaner Philanthropie eher als Privatsache betrachtet.
Aber es gibt etwas, „dem man meiner Meinung nach nicht entkommen kann“, sagte Soskis. Effektiver Altruismus „basiert nicht auf einer starken Kritik an der Art und Weise, wie Geld verdient wurde. Und Elemente davon wurden so ausgelegt, dass sie den Kapitalismus allgemeiner als eine positive Kraft verstehen, und zwar durch eine Art konsequentialistisches Kalkül. Bis zu einem gewissen Grad ist es ein sicherer Landeplatz für Leute, die ihre philanthropischen Entscheidungen von einer breiteren politischen Debatte über die Legitimität bestimmter Branchen oder Möglichkeiten des Geldverdienens abkoppeln wollen.“
Kemp sagte, es sei selten, dass EAs, insbesondere Langzeitexperten, Themen wie Demokratie und Ungleichheit diskutieren. „Ehrlich gesagt denke ich, das liegt daran, dass die Spender nicht wollen, dass wir darüber sprechen.“ Ein hartes Vorgehen gegen Steuervermeidung würde beispielsweise dazu führen, dass Großspender „sowohl Macht als auch Reichtum verlieren“.
Der Untergang des Krypto-Imperiums von Bankman-Fried, das den Future Fund und zahllose andere langfristig orientierte Organisationen gefährdet hat, mag aufschlussreich sein. Longtermists glauben, dass zukünftige existenzielle Risiken für die Menschheit genau kalkuliert werden können – noch, wie der Ökonom Tyler Cowen kürzlich wies darauf hinkonnten sie nicht einmal die existenzielle Bedrohung ihrer eigenen philanthropischen Vorzeigeorganisation vorhersehen.
Es muss eine „Seelensuche“ geben, sagte Soskis. „Der Langzeitismus hat einen Fleck und ich bin mir nicht sicher, wann oder ob er vollständig entfernt wird.“
„Ein Milliardär ist ein Milliardär“, sagte der Journalist Anand Giridharadas schrieb kürzlich auf Twitter. Seine Buch 2018 Winners Take All kritisierten scharf die Idee, dass private Philanthropie menschliche Probleme lösen werde. „Hör auf, an gute Milliardäre zu glauben. Fangen Sie an, sich für eine gute Gesellschaft zu organisieren.“