ICHIn seinem Buch Consciousness Explained aus dem Jahr 1991 beschreibt der Kognitionswissenschaftler Daniel Dennett die jugendliche Seescheide, die durch das Meer wandert auf der Suche nach einem „geeigneten Felsen oder Korallenstück, um … ihr Zuhause fürs Leben zu finden“. Wenn die Seescheide eine findet, braucht sie ihr Gehirn nicht mehr und isst es. Es ist unwahrscheinlich, dass die Menschheit solche kulinarischen Gewohnheiten annimmt, aber es gibt eine besorgniserregende metaphorische Parallele. Die Sorge ist, dass sich die Menschen im gewinnorientierten Wettbewerb um die Einführung künstlicher Intelligenz in unser tägliches Leben selbst verdummen, indem sie sich zu sehr auf „intelligente“ Maschinen verlassen – und die Praktiken untergraben, von denen ihr Verständnis abhängt.
Das menschliche Gehirn entwickelt sich weiter. Vor dreitausend Jahren hatten unsere Vorfahren größere Gehirne als wir. Zumindest eine Erklärung ist, dass die Intelligenz zunehmend zugenommen hat Kollektiv Vor 100 Generationen – und Menschen durchbrachen eine Bevölkerungsschwelle, bei der Einzelpersonen Informationen austauschten. Prof. Dennett schrieb, dass die bemerkenswerteste Erweiterung der menschlichen Geisteskräfte – der Aufstieg der Zivilisation durch Kunst und Landwirtschaft – aus evolutionärer Sicht fast augenblicklich erfolgte.
Diese Sozialisierung des synaptischen Denkens wird nun durch eine andere Art des Informationsaustauschs getestet: die Fähigkeit der KI, jede Eingabeaufforderung mit menschlich klingender Sprache zu beantworten – was auf eine Art Absicht, sogar Empfindungsfähigkeit hindeutet. Aber das ist eine Fata Morgana. Computer sind leistungsstärker geworden, aber es fehlt ihnen an echtem Verständnis, das von Menschen genährt wird, indem sie sich zu autonomen Individuen entwickeln, die in ein Netz sozialer Praktiken eingebettet sind. ChatGPT, der menschenähnlichste Imitator, kann elegante Prosa erzeugen. Aber es wird grundlegende Mathematik falsch. Es kann rassistisch und sexistisch sein. ChatGPT hat keine Nostalgie, keine Schemata und keine Reflexionen. Warum also die ganze Aufregung? Kurz gesagt, Geld.
Als Bard, das neue KI-gestützte Google-Suchtool von Google, diese Woche entdeckt wurde, dass es sich in einem Werbevideo geirrt hatte, löschte der Fehler mehr als 150 Milliarden US-Dollar vom Aktienkurs der Muttergesellschaft Alphabet. Warum, fragte sich der Neurowissenschaftler Gary Markus, wurde die Bing-Suchmaschine von Microsoft, die von ChatGPT unterstützt und am selben Tag wie Bard vorgestellt wurde, als „Revolution“ gefeiert, obwohl sie einen mit Fehlern übersäten Dienst anbietet? Die Antwort ist die Möglichkeit, dass die Menschheit das Internet „bingt“, anstatt zu „googeln“. Das erscheint nicht unvernünftig: ChatGPT hat seit seiner Vorstellung Ende November Millionen von Menschen begeistert.
Das Problem ist, dass dies nur Schwingungen sind. Chatbots klingen autoritärer, aber sie sind nicht ehrlicher. Prof Marcus weist auf ihre Fehler hin, bzw Halluzinationen, sind in ihrem „Siliziumblut“, ein Nebenprodukt der Art und Weise, wie sie ihre Eingaben komprimieren. „Da noch keines der Unternehmen seine Produkte einer vollständigen wissenschaftlichen Überprüfung unterzogen hat, ist es unmöglich zu sagen, welches vertrauenswürdiger ist“, schreibt er. „Es könnte sich herausstellen, dass das neue Produkt von Google tatsächlich ist mehr zuverlässig.”
Megakonzerne haben sich alle eine Fülle von Informationen in verwertbarer Form angeeignet, ohne sie verstehen zu müssen. Journalisten, Politiker und Dichter könnten sehr besorgt sein über die „semantisch„Aspekte der Kommunikation, aber nicht so sehr KI-Ingenieure. Sie betrachten die Informationen in einer Nachricht als Maß für die Unordnung des Systems. Deshalb geht KI Risiken ein Erstellen eine neue Klasse von Waffen in einem Krieg gegen die Wahrheit.
Menschen haben eine lange Geschichte des Wunschdenkens und der Unterschätzung der Risiken neuer Durchbrüche. Kommerzielle Interessen treiben Technologie als neue Religion voran, deren zentraler Glaubensartikel lautet, dass mehr Technologie immer besser ist. Webgiganten wollen Benutzer dazu verleiten, den Nutzen ihrer KI-Tools zu überschätzen, und die Menschheit dazu ermutigen, ihnen vorschnell Autorität abzutreten, die weit über ihre Kompetenz hinausgeht. Unternehmergeist und wissenschaftliche Neugier haben viele der Fortschritte der Neuzeit hervorgebracht. Aber Fortschritt ist kein ethisches Prinzip. Die Gefahr besteht nicht darin, dass Maschinen wie Menschen behandelt werden, sondern dass Menschen wie Maschinen behandelt werden.