Bulgac/Getty Images
- Jaan Tallinn half beim Aufbau von Skype und ist der Gründer des Future of Life Institute.
- Kürzlich warnte er vor den Risiken eines KI-Wettrüstens und beschrieb theoretisch anonyme „Schlachtroboter“.
- In diesem Jahr unterzeichneten Hunderte im KI-Bereich einen offenen Brief, in dem sie zu einer Pause bei der KI-Entwicklung aufriefen.
„Vielleicht erschaffen wir einfach eine Welt, in der es nicht mehr sicher ist, draußen zu sein, weil man von Schwärmen von Schlachtrobotern verfolgt werden könnte.“
Diese warnenden Worte kamen von Jaan Tallinn, einem Gründungsingenieur von Skype, in a Aktuelles Videointerview mit Al Jazeera.
Der estnische Computerprogrammierer ist Gründer des Cambridge Centre for the Study of Existential Risk und des Future of Life Institute, zwei Organisationen, die sich der Untersuchung und Minderung existenzieller Risiken widmen, insbesondere Risiken, die sich aus der Entwicklung fortschrittlicher KI-Technologien ergeben.
Tallinns Hinweis auf Killerroboter geht auf den Kurzfilm „Slaughterbots“ aus dem Jahr 2017 zurück, der vom Future of Life Institute im Rahmen einer Kampagne veröffentlicht wurde, die vor den Gefahren waffenfähiger künstlicher Intelligenz warnt. Der Film schildert eine dystopische Zukunft, in der die Welt von militarisierten Killerdrohnen mit KI-Antrieb überrannt wird.
Während sich die KI-Technologie weiterentwickelt, hat Tallinn vor allem Angst vor den Auswirkungen, die der militärische Einsatz auf die Zukunft der KI haben könnte.
„Der Einsatz von KI im Militär macht es für die Menschheit sehr schwierig, die Flugbahn der KI zu kontrollieren, denn an diesem Punkt befindet man sich im wahrsten Sinne des Wortes in einem Wettrüsten“, sagte Tallinn in dem Interview. „Wenn man sich in einem Wettrüsten befindet, hat man nicht viel Handlungsspielraum, wenn es darum geht, darüber nachzudenken, wie man diese neue Technologie angeht. Man muss nur dorthin gehen, wo die Fähigkeiten sind und wo der strategische Vorteil liegt.“
Darüber hinaus könnte die KI-Kriegsführung die Zuordnung von Angriffen sehr erschweren, sagte er.
„Die natürliche Entwicklung zur vollautomatischen Kriegsführung“, fuhr Tallinn fort, „sind Schwärme miniaturisierter Drohnen, die jeder, der Geld hat, ohne Angabe von Gründen herstellen und freigeben kann.“
Auf Anfrage von Insider teilte das Future of Life Institute Insider mit, dass es Tallinns Bemerkungen zu seinen Befürchtungen vor bewaffneter KI zustimme.
Diese Befürchtungen bestehen schon seit Jahren – das Future for Life Institute wurde vor fast einem Jahrzehnt, im Jahr 2014, gegründet und erregte schnell die Aufmerksamkeit von Persönlichkeiten wie Elon Musk, der dem Institut im Jahr 2015 10 Millionen US-Dollar spendete. Doch das Thema schien viel dringlicher zu sein vor kurzem, mit der Veröffentlichung von ChatGPT und anderen KI-Modellen, die der Öffentlichkeit zugänglich gemacht werden, und der aktuellen Befürchtungen, dass KI die Arbeitsplätze von Menschen übernehmen könnte. Jetzt sind KI-Forscher, Technologiemogule, Prominente und normale Menschen gleichermaßen besorgt.
Sogar Regisseur Christopher Nolan warnt vor KI könnte seinen „Oppenheimer-Moment“ erreichen, berichtete Insider zuvor – mit anderen Worten: Forscher stellen ihre Verantwortung für die Entwicklung von Technologien in Frage, die unbeabsichtigte Folgen haben könnten.
Anfang des Jahres unterzeichneten Hunderte von Menschen, darunter Elon Musk, Apple-Mitbegründer Steve Wozniak, Emad Mostaque, CEO von Stability AI, Forscher von Alphabets KI-Labor DeepMind und namhafte KI-Professoren, einen offenen Brief des Future of Life Institute, in dem sie eine sechsmonatige Pause forderten zur fortgeschrittenen KI-Entwicklung. (Währenddessen bemühte sich Musk in aller Stille darum, Mitarbeiter einzustellen und seine eigene generative KI-Initiative zu starten, um mit OpenAI zu konkurrieren, berichtete Kali Hays von Insider erstmals, die er kürzlich als xAI bekannt gab.)
„Fortgeschrittene KI könnte eine tiefgreifende Veränderung in der Geschichte des Lebens auf der Erde bedeuten und sollte mit angemessener Sorgfalt und Ressourcen geplant und verwaltet werden.“ Der Brief lautet. „Leider findet dieses Maß an Planung und Management nicht statt, obwohl KI-Labore in den letzten Monaten in einen außer Kontrolle geratenen Wettlauf um die Entwicklung und den Einsatz immer leistungsfähigerer digitaler Köpfe verwickelt waren, die niemand – nicht einmal ihre Schöpfer – verstehen kann.“ , vorhersagen oder zuverlässig kontrollieren.