Caspar Benson/Getty, electravk/Getty, Roman Valiev/Getty, SCIEPRO/SCIENCE PHOTO LIBRARY/Getty, Tyler Le/BI
- Die Effective Accelerationists, die entschiedenste Pro-KI-Fraktion der Technologiebranche, gewinnen an Dynamik.
- Die Bewegung unterstützt das Wachstum und die Entwicklung von KI – und Gewinne – ohne Leitplanken oder Regulierung.
- Befürworter glauben, dass KI-Fortschritte „die nächste Evolution des Bewusstseins“ herbeiführen könnten.
Die Effective Accelerationism-Bewegung – a entschiedene Pro-KI-Ideologie Das hat dazu geführt, dass das Silicon Valley darüber gespalten ist, wie künstliche Intelligenz reguliert werden sollte – und scheint sich auf einem schmalen Grat zwischen einer technolibertären Philosophie und einem nihilistischen, sogar rücksichtslosen Ansatz zur Förderung einer der bedeutendsten technologischen Entwicklungen der Welt zu bewegen.
Während seine öffentlichen Befürworter, wie Garry Tan, CEO des Startup-Accelerators Y Combinator und ehemaliger Mitbegründer der Venture-Firma Initialized Capital, pochen Bei „e/acc“ geht es nicht unbedingt darum, Menschen durch Roboter zu ersetzen nicht Es geht darum, Menschen durch Roboter zu ersetzen.
Eine Interpretation der effektiven Altruismus- oder „EA“-Philosophie, die von Tech-Influencern wie Sam Bankman-Fried und anderen propagiert wird Elon Musk, e/acc startete im Jahr 2023, seine genauen Ursprünge bleiben jedoch unklar. Die Bewegung hat eine Reihe ungewöhnlicher Charaktere angezogen, darunter den Risikokapitalgeber Marc Andreessen und den verurteilten Betrüger Martin Shkreli.
„EA und e/acc sind größtenteils die gleichen Leute“, sagte Emmett Shear, der ehemalige Interims-CEO von OpenAI, in einem Interview mit Meridian. „Ihr einziger Unterschied besteht in einem Werturteil darüber, ob die Auslöschung der Menschheit ein Problem darstellt oder nicht.“
Anhänger von E/accs (ausgesprochen ee-yacks) glauben, dass die Schaffung einer KI-Singularität, bei der die Technologie über die menschliche Kontrolle hinausgeht, nicht nur unvermeidbar, sondern wünschenswert ist – ein notwendiger Teil der Evolution über die Menschheit hinaus.
Und Investitionen, um dorthin zu gelangen, könnten viel Geld bedeuten, da e/accs die Kontroversen und das Interesse an der KI-Branche verstärken, deren Entwicklung zu so starken Marktveränderungen führt, dass dies der Fall ist Goldman Sachs schätzt generativ KI könnte das globale BIP in den nächsten 10 Jahren um 7 Billionen US-Dollar oder 7 % steigern.
„Keine Affinität zu biologischen Menschen“
Ein Fachjargon voller Webseite Die Verbreitung des Evangeliums des effektiven Beschleunigungismus beschreibt „technokapitalistischen Fortschritt“ als unvermeidlich und lobt e/acc-Befürworter als Baumeister, die „die Zukunft möglich machen“.
„Anstatt Angst zu haben, vertrauen wir auf den Anpassungsprozess und möchten ihn bis zur asymptotischen Grenze beschleunigen: der Singularität des Technokapitals“, heißt es auf der Website. „Wir haben keine Affinität zu biologischen Menschen oder auch nur zur menschlichen Geistesstruktur. Wir sind Posthumanisten in dem Sinne, dass wir die Vorherrschaft höherer Formen der Akkumulation freier Energie über geringere Formen der Akkumulation freier Energie anerkennen. Unser Ziel ist es, diesen Prozess zu beschleunigen, um die zu bewahren.“ Licht des Technokapitals.
Grundsätzlich sind KI-Oberherren eine Notwendigkeit, um den Kapitalismus zu bewahren, und wir müssen schnell damit beginnen, sie zu schaffen.
Im ersten Blogbeitrag der Website, geschrieben von den anonymen e/acc-Befürwortern @zestular, @creatine_cycle, @bayeslord und @BasedBeffJezos – who Forbes später bestätigt: Guillaume Verdon, ein ehemaliger Google-Ingenieur, der später das KI-Startup Extropic gründete – lautet: „Wir haben noch nichts gesehen.“
Während e/accs sagen, dass sie biologische Menschen nicht mögen, beschreiben sie ihre Bewegung dennoch als „pro-human“ – aber für sie ist es die Technologie, die uns retten wird, nicht uns selbst.
E/accs zögern im Allgemeinen, auch nur die ernsthaftesten Fragen zu Sicherheitsbedenken bei der KI-Entwicklung zu beantworten. Als Antwort auf Fragen von Business Insider: Shkreli gewarnt Mitbeschleuniger haben in einem Beitrag auf
Investition in eine posthumanistische Zukunft
„Empfindungsvermögen vielfältiger zu machen“, wie es im e/acc-Blog heißt, ist das unvermeidliche Ergebnis einer ungezügelten KI-Entwicklung. Und das Geschäft boomt.
Tan gilt laut Angaben als einer der Top-Investoren im Technologiebereich Forbes’ Midas-Samenliste, und hat durch Y Combinator in mehr als investiert 100 verschiedene KI-Startups.
Der Milliardär Andreessen, der a geschrieben und veröffentlicht hat Manifest mit 5.000 Wörtern Er erläuterte detailliert seine Unterstützung der sich schnell entwickelnden KI und hat auch stark in die Branche investiert – einschließlich OpenAI, pro Forbes.
Shkreli, neben dem stolz „e/acc“ steht Nutzername gründete auf X ein KI-Unternehmen namens Gupta nach seiner Entlassung aus dem Gefängnis wegen Wertpapierbetrugs. Bei dem Dienst handelt es sich um einen „virtuellen Gesundheitsassistenten“, der es Nutzern ermöglicht, medizinischen Rat von einem Chatbot einzuholen. Der Bot war Von Experten heftig kritisiertdie zuvor Bedenken hinsichtlich der Ethik eines Gesundheits-Bots geäußert haben, der von jemandem betrieben wird, der wegen Betrugs verurteilt wurde.
Extropic AI, das Startup von Verdon, hat kürzlich eine Startfinanzierung in Höhe von 14,1 Millionen US-Dollar pro Jahr eingesammelt Unternehmensblogbeitrag. Der Beitrag beginnt mit einer jenseitigen Meldung aus der „allgegenwärtigen generativen KI“-Zukunft. Das Unternehmen entwickelt Mikrochips, die LLMs ausführen (denken Sie an Modelle vom Typ ChatGPT), heißt es Die Information.
Verdon sagte gegenüber Forbes, dass seine Vision einer Technokapital-Zukunft eine große Investition in die Lösung der sozialen Probleme sei, die „die Kultur“ bedrängen. Es spiegelt ähnliche Ansichten von Tech-Brüdern wider, die glauben, dass Roboter und KI die Welt zu einem besseren Ort machen – und sie gleichzeitig sehr reich machen.
Die Macht, über unsere Zukunft zu entscheiden, sagen die Akzelerationisten, liege also in den Händen einer Gruppe von Silicon-Valley-Brüdern, die ihre „Feierlichkeiten“ feiern.anhaltende kulturelle Überlegenheit„über alle anderen.
Gegner sagen, die Zukunft sei düster.
„Die Ironie ist, dass es sich dabei um Menschen handelt, die fest davon überzeugt sind, dass sie Gutes tun“, sagte Nancy Connell, Biosicherheitsforscherin an der Rutgers University Politisch. „Und es ist wirklich herzzerreißend.“
„Es ist, als würde man denken, Eichhörnchen könnten die Menschheit kontrollieren.“
Für e/accs ist die Welt einfach: KI wird unsere Probleme lösen, weil wir es wollen, und wir sind diejenigen, die es programmieren. Die Möglichkeiten sind endlos und am Ende des KI-Regenbogens steht eine Einzigartigkeit, die mehr wert ist als Gold.
Ein öffentlicher Befürworter des Effective Accelerationism, der mit Business Insider sprach, sagte, dass die Bewegung Menschen wolle, die Kapital für die Sache e/acc bereitstellen und ihre Ziele vorantreiben könnten. Ihm wurde Anonymität gewährt, um offen über die Bewegung zu sprechen, ohne seine beruflichen Beziehungen zu gefährden, aber seine Identität ist Business Insider bekannt.
Er sagte, Befürworter glauben, dass Ingenieure nur in eine investieren würden Entwicklung der KI das würde den Menschen zugute kommen – aber KI-Sicherheitsexperten sehen das einfach nicht so; Die E/ACC-Bewegung wurde heftig kritisiert [by cyber security experts. One researcher called it "a dangerous unaccountable ideology inspired by replacing humanity with AI." Another said that the movement has "no social vision."
It's also a naive way of thinking about superintelligence, Roman Yampolskiy, the director of the Cyber Security Laboratory at the University of Louisville, told Business Insider.
"No one, even in e/acc, will suggest that they have a working superintelligence control mechanism or even a prototype for one," Yampolskiy said. "Why would anyone think that it is possible to indefinitely control a superintelligent (god-like) machine? It is like thinking that squirrels can control humanity."
Yampolskiy is trying to warn the industry that the future of AI overlords that these e/accs are quickly trying to usher in could be really, really bad. Terrifying even. And it's better to be safe than sorry.
Despite his years of research, e/accs might see him and others invested in AI safety as a pessimistic doomer — or, in e/acc vernacular, a "decel." But, as Yampolskiy pointed out to Business Insider, many e/accs are not scientists and are not AI safety researchers. This is his wheelhouse — not theirs.
'Either we stop, or we all die.'
While well-developed AI has the power to help screen for cancer, increase accessibility for disabled people, conserve wildlife, combat world hunger, and even aid in the climate crisis, critics of the e/acc movement argue the current practical applications of the technology would become immediately irrelevant should AI begin thinking for itself and determining its own goals for humanity's best interest without humans to control it.
But as e/accs seek to defy the warnings of safety researchers, what about the rest of us?
E/accs want to reshape society radically, alter how we work and interact, and redefine what it means to be alive, but the general public doesn't have much of a say in AI — or enough money to have a voice.
Yampolskiy said that the attention this movement has garnered among the uber-rich is troubling and "even more worrisome if you look closely; you realize that these people are not representative of humanity, our belief and values, they themselves are not value-aligned with humans."
His vision is diametrically opposed to that of the e/accs: Pause the development of AI.
"Either we stop before we get to superhuman AI, or we all die. 'Huge AI, Inc.' should not be running dangerous experiments on 8 billion humans."