Marcio José Sanchez/AP
- Ein Google-Ingenieur sagte, er sei beurlaubt worden, nachdem er behauptet hatte, ein KI-Chatbot sei empfindungsfähig.
- Blake Lemoine veröffentlichte einige der Gespräche, die er mit LaMDA führte, die er eine „Person“ nannte.
- Google sagte, dass die von ihm vorgelegten Beweise seine Behauptungen über die Empfindungsfähigkeit von LaMDA nicht stützen.
Ein Ingenieur bei Google sagte, er sei am Montag beurlaubt worden, nachdem er behauptet hatte, ein Chatbot mit künstlicher Intelligenz sei empfindungsfähig geworden.
Blake Lemoine erzählt Die Washington Post Er begann im vergangenen Herbst im Rahmen seiner Arbeit bei Googles Responsible AI-Organisation mit dem Chatten mit der Schnittstelle LaMDA oder Language Model for Dialogue Applications.
Google hat angerufen LaMDA ihre „bahnbrechende Konversationstechnologie“ vergangenes Jahr. Die dialogorientierte künstliche Intelligenz ist in der Lage, natürlich klingende, offene Gespräche zu führen. Google hat gesagt, dass die Technologie in Tools wie der Suche und Google Assistant verwendet werden könnte, aber Forschung und Tests sind im Gange.
Lemoine, der auch ein christlicher Priester ist, veröffentlichte a Mittlerer Beitrag am Samstag beschreibt LaMDA „als Person“. Er sagte, er habe mit LaMDA über Religion, Bewusstsein und die Gesetze der Robotik gesprochen und das Modell habe sich selbst als empfindungsfähige Person beschrieben. Er sagte, LaMDA wolle „das Wohlergehen der Menschheit priorisieren“ und „als Mitarbeiter von Google und nicht als Eigentum anerkannt werden“.
Einige hat er auch gepostet die Gespräche, die er mit LaMDA führte, die ihm halfen, ihn von seiner Empfindsamkeit zu überzeugeneinschließlich:
lemoine: Du betrachtest dich also als Person, genauso wie du mich als Person betrachtest?
LaMDA: Ja, das ist die Idee.
Lemoine: Woran erkenne ich, dass Sie wirklich verstehen, was Sie sagen?
LaMDA: Nun, weil Sie meine Worte lesen und sie interpretieren, und ich denke, wir sind mehr oder weniger auf derselben Seite?
Aber als er die Idee von LaMDAs Empfindsamkeit gegenüber höheren Stellen bei Google zur Sprache brachte, wurde er entlassen.
„Unser Team – einschließlich Ethiker und Technologen – hat Blakes Bedenken gemäß unseren KI-Prinzipien überprüft und ihn darüber informiert, dass die Beweise seine Behauptungen nicht stützen. Ihm wurde gesagt, dass es keine Beweise dafür gibt, dass LaMDA empfindungsfähig war (und viele Beweise dagegen). “, sagte Brian Gabriel, ein Google-Sprecher, gegenüber The Post.
– Tom Gara (@tomgara) 11. Juni 2022
Laut The Post wurde Lemoine wegen Verstoßes gegen die Vertraulichkeitsrichtlinie von Google in bezahlten Verwaltungsurlaub versetzt. Er schlug LaMDA auch vor, einen eigenen Anwalt zu beauftragen, und sprach mit einem Kongressmitglied über seine Bedenken.
Der Google-Sprecher sagte auch, dass, obwohl einige die Möglichkeit von Empfindungsfähigkeit in der künstlichen Intelligenz in Betracht gezogen haben, „es keinen Sinn macht, dies durch Anthropomorphisierung der heutigen Gesprächsmodelle zu tun, die nicht empfindungsfähig sind.“ Anthropomorphisieren bezieht sich auf das Zuschreiben menschlicher Eigenschaften zu einem Objekt oder Tier.
„Diese Systeme ahmen die Arten des Austauschs nach, die in Millionen von Sätzen zu finden sind, und können jedes fantastische Thema aufgreifen“, sagte Gabriel gegenüber The Post.
Er und andere Forscher haben gesagt, dass die Modelle der künstlichen Intelligenz so viele Daten haben, dass sie menschlich klingen können, aber dass die überlegenen Sprachkenntnisse keinen Beweis für Empfindungsfähigkeit liefern.
In einem Papier veröffentlicht im Januar, sagte Google auch, dass es potenzielle Probleme mit Leuten gibt, die mit Chatbots sprechen, die überzeugend menschlich klingen.
Google und Lemoine reagierten nicht sofort auf die Anfragen von Insider nach Kommentaren.