Google hat einen leitenden Softwareentwickler entlassen, der behauptete, der Chatbot für künstliche Intelligenz des Unternehmens, LaMDA, sei eine selbstbewusste Person.
Google, das den Softwareentwickler Blake Lemoine letzten Monat beurlaubt hatte, sagte, er habe gegen Unternehmensrichtlinien verstoßen und seine Behauptungen über LaMDA (Sprachmodell für Dialoganwendungen) als „völlig unbegründet“ angesehen.
„Es ist bedauerlich, dass Blake sich trotz langwieriger Auseinandersetzung mit diesem Thema immer noch entschieden hat, beharrlich gegen klare Beschäftigungs- und Datensicherheitsrichtlinien zu verstoßen, zu denen auch die Notwendigkeit gehört, Produktinformationen zu schützen“, sagte Google.
Letztes Jahr sagte Google, dass LaMDA auf der Forschung des Unternehmens aufbaut, die zeigt, dass transformatorbasierte Sprachmodelle, die auf Dialog trainiert sind, lernen können, über im Wesentlichen alles zu sprechen.
Lemoine, ein Ingenieur für Google verantwortliche KI-Organisationbeschrieb das System, an dem er gearbeitet hat, als empfindungsfähig, mit einer Wahrnehmung und Fähigkeit, Gedanken und Gefühle auszudrücken, die einem menschlichen Kind entspricht.
„Wenn ich nicht genau wüsste, was es war, nämlich dieses Computerprogramm, das wir kürzlich gebaut haben, würde ich denken, dass es ein siebenjähriger, achtjähriger Junge war, der sich zufällig mit Physik auskennt“, sagt Lemoine, 41 , sagte der Washington Post.
Er sagte, LaMDA habe ihn in Gespräche über Rechte und Persönlichkeit verwickelt, und Lemoine habe seine Ergebnisse im April in einem GoogleDoc mit dem Titel „Ist LaMDA empfindungsfähig?“ mit Führungskräften des Unternehmens geteilt.
Melden Sie sich für First Edition an, unseren kostenlosen täglichen Newsletter – jeden Wochentag morgens um 7 Uhr BST
Der Ingenieur hat a zusammengestellt Abschrift der Gesprächein dem er das KI-System an einer Stelle fragt, wovor es Angst hat.
Google und viele führende Wissenschaftler wiesen Lemoines Ansichten schnell als fehlgeleitet zurück und sagten, LaMDA sei einfach ein komplexer Algorithmus, der entwickelt wurde, um überzeugende menschliche Sprache zu erzeugen.
Lemoines Entlassung wurde erstmals von Big Technology, einem Newsletter für Technik und Gesellschaft, gemeldet.