“PFortschritte in der KI werden eine Weile dauern, aber [that] macht es nicht zur Science-Fiction.“ Das sagte Stuart Russell, der Informatikprofessor der University of California, dem Guardian am Wochenende. Der Wissenschaftler sagte, die Forscher seien von ihrem eigenen Erfolg auf diesem Gebiet „erschreckt“ worden. Prof. Russell, Co-Autor des Top-Lehrbuchs über künstliche Intelligenz (KI), hält die diesjährigen Reith-Vorträge der BBC – die gerade begonnen haben – und seine Zweifel zunehmend relevant erscheinen.
Mit wenig Debatte über ihre Nachteile wird KI in die Gesellschaft eingebettet. Maschinen empfehlen jetzt Online-Videos zum Ansehen, Durchführen von Operationen und Senden Leute ins Gefängnis. Die Wissenschaft der KI ist ein menschliches Unternehmen, das soziale Einschränkungen erfordert. Die Risiken werden jedoch nicht richtig abgewogen. Es gibt zwei entstehenden Ansätze zur KI. Die erste ist eine technische Betrachtungsweise, bei der Algorithmen für bestimmte Aufgaben trainiert werden. Der zweite stellt tiefergehende philosophische Fragen über die Natur des menschlichen Wissens.
Prof. Russell beschäftigt sich mit beiden Perspektiven. Ersteres wird stark vom Silicon Valley vorangetrieben, wo KI eingesetzt wird, um Produkte schnell auf den Markt zu bringen und Probleme später zu lösen. Dies hat dazu geführt, dass KI auch dann „erfolgreich“ ist, wenn die Ziele gesellschaftlich nicht akzeptabel sind und sie mit wenig Verantwortung verfolgt werden. Die Tücken dieses Ansatzes sind hervorgehoben durch die Rolle des YouTube-Algorithmus bei der Radikalisierung von Menschen, da es kein öffentliches Verständnis dafür gibt, wie er funktioniert. Prof. Russell argumentiert, vernünftigerweise für ein Kontrollsystem, bei dem Maschinen anhalten und um menschliche Führung „auffordern“ können, und für Vorschriften zum Umgang mit systemischen Vorurteilen.
Der Akademiker unterstützt auch die weltweite Übernahme der EU-Gesetzgebung, die den Identitätswechsel von Menschen durch Maschinen verbieten würde. Computer nähern sich oberflächlich dem Bestehen des Turing-Tests – bei dem Maschinen versuchen, Menschen vorzutäuschen, dass sie mit anderen Menschen kommunizieren. Menschliches Wissen ist jedoch kollektiv: Um Menschen wirklich zu täuschen, müsste ein Computer in der Lage sein, gegenseitiges Verständnis zu erfassen. OpenAIs GPT-3, wahrscheinlich der beste nicht-menschliche Autor aller Zeiten, kann das nicht begreifen was es spuckt. Wenn Oxford Wissenschaftler um es – und ähnliche KIs – dieses Jahr auf die Probe zu stellen, stellten sie fest, dass die Maschinen falsche Antworten produzierten Fragen die „populäre Missverständnisse nachahmen und das Potenzial haben, zu täuschen“. Es beunruhigte einen von OpenAIs eigenen Forschern so sehr, dass niemand wusste, wie eine solche Sprache gemacht wird, dass er sich aufmachte, um eine KI einzurichten Sicherheitslabor.
Einige argumentieren, dass KI bereits neue Erkenntnisse hervorbringen kann, die Menschen haben verpasst. Aber menschliche Intelligenz ist viel mehr als ein Algorithmus. Inspiration schlägt zu, wenn ein brillanter Gedanke auftaucht, der sich nicht als logische Konsequenz vorangegangener Schritte erklären lässt. Einsteins Allgemeine Relativitätstheorie kann nicht aus Beobachtungen dieser Zeit abgeleitet werden – es war experimentell erst Jahrzehnte später bewiesen. Der Mensch kann auch eine neue Aufgabe erlernen, indem er nur wenige Male gezeigt wird, wie man sie macht. Maschinen können das bisher nicht. Derzeit kann KI aufgefordert werden – aber nicht prompt selbst – in Aktion.
Ajeya Cotra, ein Tech-Analyst beim US-amerikanischen Open Philanthropy Project, vermutete, dass ein Computer, der dem menschlichen Gehirn entsprechen könnte, bis spätestens 2052 (und kommen mit einem Preisschild von $1tn). Wir müssen bessere Wege finden, um es zu bauen. Der Mensch stolpert in eine Ära, in der es umso schwieriger ist, seine Handlungen zu erklären, je leistungsfähiger das KI-System ist. Wie können wir feststellen, ob eine Maschine in unserem Namen handelt und nicht gegen unsere Interessen? Solche Fragen sollten uns alle zum Nachdenken anregen.