So die ChatGPT Sprachverarbeitungsmodell brach über eine erstaunte Welt herein und die Luft war zerrissen von Freudenschreien und Schreien der Empörung oder des Wehklagens. Die Begeisterten waren diejenigen, die feststellten, dass eine Maschine offenbar einen schriftlichen Auftrag kompetent ausführen konnte. Auslöser der Empörung waren Kündigungsängste von Personen, deren Beschäftigung die Fähigkeit erfordert, fachmännische Prosa zu schreiben. Und die Klagen kamen von ernsthaften Leuten (viele von ihnen Lehrer auf verschiedenen Ebenen), deren tägliche Arbeit darin besteht, Aufsätze zu benoten, die bisher von Studenten geschrieben wurden.
So weit, so vorhersehbar. Wenn wir eines aus der Geschichte wissen, dann das, dass wir im Allgemeinen die kurzfristigen Auswirkungen neuer Kommunikationstechnologien überschätzen, während wir ihre langfristigen Auswirkungen grob unterschätzen. So war es mit Printmedien, Filmen, Rundfunk und Fernsehen und dem Internet. Und ich vermute, wir sind gerade auf dasselbe kognitive Karussell gesprungen.
Bevor Sie jedoch den Panikknopf drücken, lohnt es sich, die Natur der Bestie zu untersuchen. Es ist das, was die maschinell lernende Menge ein großes Sprachmodell (LLM) nennt, das um eine Konversationsschnittstelle erweitert wurde. Das zugrunde liegende Modell wurde mit Hunderten von Terabyte Text trainiert, das meiste davon wahrscheinlich aus dem Internet geschabt, sodass man sagen könnte, dass es fast alles „gelesen“ (oder zumindest aufgenommen) hat, was jemals online veröffentlicht wurde. Infolgedessen ist ChatGPT ziemlich geschickt darin, die menschliche Sprache nachzuahmen, eine Einrichtung, die viele seiner Benutzer zum Anthropomorphismus ermutigt hat, dh das System eher menschenähnlich als maschinenähnlich zu sehen. Daher die erwähnten Freudenschreie – und auch der ein oder andere fehlgeleitete Benutzer offenbar glauben dass die Maschine in gewisser Weise „empfindungsfähig“ ist.
Das bekannteste Gegenmittel gegen diese Tendenz zur Anthropomorphisierung von Systemen wie ChatGPT ist Talking About Large Language Models, a neueres Papier von dem angesehenen KI-Gelehrten Murray Shanahan, verfügbar auf arXiv. Darin erklärt er, dass LLMs mathematische Modelle der statistischen Verteilung von „Tokens“ (Wörter, Wortteile oder einzelne Zeichen einschließlich Satzzeichen) in einem riesigen Korpus von menschengeneriertem Text sind. Wenn Sie dem Modell also eine Aufforderung wie „Die erste Person, die auf dem Mond ging, war …“ geben und es mit „Neil Armstrong“ antwortet, liegt das nicht daran, dass das Modell etwas über den Mond oder die Apollo-Mission weiß, sondern daran, dass wir eigentlich stellen sie sich folgende Frage: „Angesichts der statistischen Verbreitung von Wörtern im riesigen öffentlichen Korpus von [English] Text, welche Wörter folgen am ehesten der Sequenz „Der erste Mensch, der auf dem Mond ging, war“? Eine gute Antwort auf diese Frage ist ‚Neil Armstrong‘.“
Was also vor sich geht, ist die „Nächste-Token-Vorhersage“, was zufälligerweise auch das ist, was viele der Aufgaben beinhalten, die wir mit menschlicher Intelligenz in Verbindung bringen. Dies könnte erklären, warum so viele Menschen von der Leistung von ChatGPT so beeindruckt sind. Es erweist sich in vielen Anwendungen als nützlich: zum Beispiel das Zusammenfassen langer Artikel oder das Erstellen eines ersten Entwurfs einer Präsentation, die dann angepasst werden kann. Eine seiner eher unerwarteten Fähigkeiten ist ein Werkzeug, das beim Schreiben von Computercode hilft. Dan Shipper, ein erfahrener Software-Typ, berichtet das Weihnachten verbrachte er damit, als Programmierassistent damit zu experimentieren, und kam zu dem Schluss: „Es hilft einem unglaublich gut, in ein neues Projekt einzusteigen. Es erfordert all die Recherche, das Nachdenken und das Nachschlagen von Dingen und eliminiert es… In 5 Minuten können Sie den Stummel von etwas haben, das funktioniert, was früher ein paar Stunden gedauert hätte, um es zum Laufen zu bringen.“ Sein Vorbehalt war jedoch, dass man sich zuerst mit Programmierung auskennen musste.
Das scheint mir der Anfang der Weisheit über ChatGPT zu sein: Es ist bestenfalls ein Assistent, ein Werkzeug, das menschliche Fähigkeiten erweitert. Und es ist hier, um zu bleiben. In diesem Sinne erinnert es mich seltsamerweise an Tabellenkalkulationssoftware, die 1979 die Geschäftswelt wie ein Donnerschlag traf, als Dan Bricklin und Bob Frankston schrieben VisCalc, das erste Tabellenkalkulationsprogramm, für den Apple II-Computer, das damals hauptsächlich in Bastelgeschäften verkauft wurde. Eines Tages wachten Steve Jobs und Steve Wozniak auf und stellten fest, dass viele der Leute, die ihren Computer kauften, keine Bärte und Pferdeschwänze hatten, sondern Anzüge trugen. Und diese Software verkauft Hardware, nicht umgekehrt.
Die Nachricht ging bei IBM nicht verloren und veranlasste das Unternehmen, den PC zu entwickeln, und Mitch Kapor, das Tabellenkalkulationsprogramm Lotus 1-2-3 dafür zu schreiben. Schließlich schrieb Microsoft seine eigene Version und nannte sie Excel, die jetzt auf jedem Computer in jedem Büro in der entwickelten Welt läuft. Es wurde von einer faszinierenden, aber nützlichen Erweiterung menschlicher Fähigkeiten zu einem alltäglichen Accessoire – ganz zu schweigen vom Grund dafür Kat Norton (alias „Miss Excel“) zieht angeblich sechsstellige Summen pro Tag ein, indem er TikTok Excel-Tricks beibringt. Die Chancen stehen gut, dass irgendjemand irgendwo plant, dies mit ChatGPT zu tun. Und den Bot verwenden, um die Skripte zu schreiben.
Was ich gelesen habe
Dreifachgefährdung
Der dritte Zauber ist eine Meditation von Noah Smith über Geschichte, Wissenschaft und KI.
Schau nicht zurück
Nostalgie für den Niedergang im dekonvergenten Großbritannien ist Adam Toozes langer Blogpost über die längere Geschichte des wirtschaftlichen Niedergangs in Großbritannien.
Die Auswirkungen der Ungleichheit
Wer hat die amerikanische Demokratie zerstört? ist ein aufschlussreicher Essay auf der Website von Project Syndicate von Nobelpreisträger Angus Deaton.