SManchmal sind diejenigen, die die Geschichte vergessen, dazu verdammt, sie zu wiederholen. Für diejenigen von uns mit langen Erinnerungen klingelt die aktuelle Aufregung – nein Hysterie – um ChatGPT (und „generative KI“ im Allgemeinen) eine Glocke.
Wir waren schon einmal hier: im Januar 1966, um genau zu sein. Das war der Moment, in dem Joseph Weizenbaum, Informatiker am MIT, enthüllte Elisa, der als erster Chatbot der Welt bezeichnet worden wäre, wenn es diesen Begriff damals gegeben hätte. Weizenbaum schrieb die Software (in einer Programmiersprache mit dem faszinierenden Namen MAD-SLIP), um zu demonstrieren, dass die Kommunikation zwischen Menschen und Computern zwangsläufig oberflächlich war. Dazu wurde ein Textfeld bereitgestellt, in dem man getippte Mitteilungen mit der Maschine austauschen konnte. Innerhalb des Programms befand sich ein Skript (von Weizenbaum DOCTOR getauft), das den Austausch parodierte, den ein Patient möglicherweise mit einem Psychotherapeuten hatte, der das praktizierte Personzentrierte Therapie Pionierarbeit von Carl Rogers. (Der Name des Programms stammt von Eliza Doolittle, dem Cockney-Mädchen, dem in Shaws Stück beigebracht wurde, „richtig zu sprechen“. Pygmalion.)
Es funktioniert so, dass das Programm Ihre Eingaben aufnimmt und verarbeitet, um eine Antwort zu erzeugen. Angenommen, Sie schreiben (wie ich es gerade getan habe): „Ich bin ein bisschen deprimiert von der britischen Politik.“ Eliza: „Denkst du, hierher zu kommen wird dir helfen, nicht depressiv zu werden?“ Ich: “Ich hoffe es.” Eliza: „Hast du das aus einem besonderen Grund gehofft?“ Sie verstehen, worauf es ankommt – aber Sie können es selbst ausprobieren: Gehen Sie einfach zu masswerk.at/elizabot/.
Weizenbaum schrieb das Programm, um zu zeigen, dass Maschinen menschliches Verhalten zwar scheinbar kopieren konnten, es aber in Wirklichkeit wie ein Zauberer war, der ein Kaninchen aus dem Hut zieht: eine Illusion. Und wenn man weiß, wie der Trick gemacht wurde, dachte Weizenbaum, ist er keine Illusion mehr. An Eliza war nichts geheim: wenn Sie den Code lesen dann konnte man verstehen, wie es seine Sachen gemacht hat. Was seinen Schöpfer überraschte, war, dass die Leute, obwohl sie wussten, dass es nur ein Programm war, es anscheinend ernst nahmen. Es gibt eine berühmte Geschichte über seine Sekretärin, die ihn aufforderte, den Raum zu verlassen, während sie ihr „Gespräch“ mit Eliza führte. Menschen waren vollkommen davon verzaubert. (Ich habe das selbst gesehen, als ich es einmal beim Tag der offenen Tür meiner Universität auf einem PC ausgeführt habe und Leute von der Maschine reißen musste, damit andere in der Warteschlange es versuchen konnten.)
Nach der Veröffentlichung von Weizenbaums Artikel über Eliza, es dauerte nicht lange, bis einige Leute (einschließlich einiger praktizierender Psychiater) anfingen zu sagen, wenn eine Maschine so etwas tun könnte, wer brauchte dann Psychotherapeuten? Weizenbaum war darüber ebenso entsetzt wie heutige Pädagogen und Künstler über das zeitgenössische Geifern an den Werkzeugen der generativen KI. Für ihn als einen aufschlussreichen Kommentator Leg es, „hatte etwas an der Beziehung zwischen einer Person und ihrem Therapeuten, das im Grunde eine Begegnung zwischen zwei Menschen war. In einer Sprache, die bisweilen an Martin Bubers Ich-und-Du-Formulierung erinnerte, blieb Weizenbaum auf die Bedeutung der Interaktion zwischen Menschen fixiert.“ Insofern war er nicht nur ein herausragender Informatiker, sondern auch ein bemerkenswerter Humanist.
Diese humanistische Empörung nährte seinen lebenslangen Widerstand gegen den technologischen Determinismus der „künstlichen Intelligenz“. Und es informierte sein Buch von 1976, Computerleistung und menschliche Vernunftder seine Rolle als Dorn im Auge der KI-Crowd bestätigt und sich in die Reihe von Norbert Wiener einreiht Der menschliche Gebrauch von Menschen indem er die Vorbehalte eines technologischen Insiders gegenüber der Reiserichtung der Menschheit in Richtung „Automatisierung von allem“ darlegt.
Das faszinierende Echo von Eliza beim Nachdenken über ChatGPT ist, dass die Leute es als magisch betrachten, obwohl sie wissen, wie es funktioniert – als ein „stochastischer Papagei“ (mit den Worten von Timnit Gebru, einem bekannten Forscher) oder als Maschine für „High-Tech-Plagiat” (Noam Chomsky). Aber eigentlich kennen wir die Hälfte noch nicht – nicht den CO2 Emissionen, die beim Training des zugrunde liegenden Sprachmodells entstehen, oder der CO2-Fußabdruck all der begeisterten Interaktionen, die Menschen damit haben. Oder, Tempo Chomsky, dass die Technologie nur existiert, weil sie sich unbefugt die kreative Arbeit von Millionen von Menschen aneignet, die zufällig im Internet herumliegt? Was ist das Geschäftsmodell hinter diesen Tools? Usw. Antwort: Wir wissen es nicht.
Weizenbaum wies in einem seiner Vorträge darauf hin, dass wir mit dieser Technologie unablässig faustische Schnäppchen machen. Bei solchen Verträgen bekommen beide Seiten etwas: Der Teufel bekommt die menschliche Seele; Menschen bekommen die Leistungen, die uns erfreuen. Manchmal funktioniert der Kompromiss für uns, aber bei diesem Zeug wird es zu spät sein, wenn wir schließlich entscheiden, dass dies nicht der Fall ist. Das ist das Schnäppchen, das die generative KI jetzt auf den Tisch legt. Sind wir dazu bereit?
Was ich gelesen habe
Selbstachtung
Der New York Times’ Besessenheit von sich selbst ist ein wund Politisch Kolumne von Jack Shafer.
Visionen der Hölle
Ken Burns über seinen wichtigsten Film ist ein Interview von Baris Weiss auf der Website der Free Press über die Einstellung der Amerikaner zum Holocaust.
Monopolregeln
Verständnis des Kartellverfahrens gegen Google ist eine gute Erklärung von Matt Stoller auf Substack für eine wirklich komplizierte Angelegenheit.