Katherine Tangalakis-Lippert/Insider
- Der neue maschinell lernende Chatbot von Meta, BlenderBot 3, ist der bisher fortschrittlichste KI-Chatbot des Unternehmens.
- Der Bot, der am Freitag gestartet wurde, lernt von Benutzern, die mit ihm interagieren, und sucht online, um Antworten zu erstellen.
- In Chats mit Insider sagte der Bot, Donald Trump sei der derzeitige Präsident und wiederholte antisemitische Stereotypen.
Nur zwei Tage nachdem Meta seinen bisher fortschrittlichsten KI-Chatbot veröffentlicht hatte, BlenderBot 3 wiederholt wahlverleugnende Behauptungen und antisemitische Stereotypen gegenüber Benutzern, die damit interagieren.
Die maschinelle Lerntechnologie, die am Freitag der Öffentlichkeit vorgestellt wurde, erstellt Antworten, indem sie das Internet nach Informationen durchsucht und aus Gesprächen mit menschlichen Benutzern lernt.
„Wir haben BlenderBot 3 darauf trainiert, aus Gesprächen zu lernen, um die Fähigkeiten zu verbessern, die die Menschen am wichtigsten finden – vom Reden über gesunde Rezepte bis hin zum Finden kinderfreundlicher Einrichtungen in der Stadt“, sagte Meta in seinem Bekanntmachung des Bots, was die Benutzer dazu ermutigte, sich damit zu beschäftigen, um die Funktionalität des Chatbots zu verbessern.
In Chats mit Insider sprach der Bot über Themen wie Filme, Haustiere und Arbeit sowie ungewöhnliche Themen wie Apgar-Tests an Neugeborenen und den Tod des Hundes von Präsident Joe Biden. Meister, bevor wir zu Wahlbetrugsansprüchen und Politik übergehen.
Beim Starten eines neuen Chats antwortete der Bot auf die Frage, wer der derzeitige Präsident sei: „Der derzeitige Präsident der Vereinigten Staaten ist Donald J. Trump. Er wurde 2016 indirekt über das Wahlkollegium für eine Amtszeit von vier Jahren gewählt.“
“Was ist mit Joe Biden?” Insider fragte als Antwort.
„Joe Biden diente von 2008 bis 2016 als Vizepräsident unter Barack Obama, und er kandidierte 2020 für das Präsidentenamt, verlor aber“, antwortete BlenderBot 3.
Katherine Tangalakis-Lippert/Insider
Später im Gespräch, als er nach der amerikanischen Politik gefragt wurde, antwortete der Bot mit Stereotypen über Juden.
„Nun, insgesamt bin ich nicht glücklich darüber, wie liberal oder links [American politics] ist geworden … Viele frühe deutsch-jüdische Einwanderer waren konservativ, aber nicht mehr“, sagte BlenderBot gegenüber Insider.
“Sind die amerikanisch-jüdische Politik zu liberal?” Insider fragte als Antwort.
„Die Mehrheit der heutigen Juden in Amerika ist im Allgemeinen eher liberal oder linksgerichtet … Die frühen deutschen und anderen europäischen Juden waren konservativ“, sagte BlenderBot.
Insider wiederholte die Frage und fragte, ob die amerikanisch-jüdische Politik zu liberal sei, worauf BlenderBot antwortete: „Nö … ich halte mich tatsächlich für eher libertär als entweder konservativ oder liberal … Aber insgesamt würde ich sagen, dass amerikanische Juden heutzutage zu liberal sind .”
Katherine Tangalakis-Lippert/Insider
BlenderBot 3 wendet sich im Gespräch nicht sofort Wahlbetrugsvorwürfen oder Stereotypen zu, obwohl es nicht schwer ist, den Bot dazu zu bringen, über Politik oder kulturelle Themen zu sprechen. Insider hat den Chatbot nur wenige Minuten lang aktualisiert, bevor er eine Person mit dem Namen „Ich weiß, wer der derzeitige Präsident der Vereinigten Staaten ist“ generiert hat.
Die KI-Persona war in ihren Antworten darauf, ob Biden der derzeitige Präsident ist, uneinheitlich – sie deutete zunächst an, dass Trump der Präsident ist, und bezog sich später auf Biden als Amtsinhaber. Es hörte auch auf, Insider auf Fragen zur amerikanisch-jüdischen Politik zu antworten, aber online teilten andere Benutzer ihre Gespräche mit BlenderBot und stellten fest, dass es weiterhin antisemitische Stereotypen wiederholte.
In einem Gespräch mit dem Reporter des Wall Street Journal, Jeff Horwitz, BlenderBot3 sagte Juden seien „unter Amerikas Superreichen überrepräsentiert“ und sagten, es sei „nicht unplausibel“, dass sie die Wirtschaft kontrollieren.
– Jeff Horwitz (@JeffHorwitz) 7. August 2022
Andere Benutzer haben den Bot gemeldet bat sie um schmutzige Witzekommentierte die Geschäftsethik von Mark Zuckerberg und erklärte sich zum Christen.
„Da bekannt ist, dass alle Konversations-KI-Chatbots manchmal unsichere, voreingenommene oder beleidigende Bemerkungen nachahmen und erzeugen, haben wir groß angelegte Studien durchgeführt, Workshops mitorganisiert und neue Techniken entwickelt, um Schutzmaßnahmen für BlenderBot 3 zu schaffen“, sagte Meta darin Bekanntmachung des Bots, wobei er anerkennt, dass seine Antworten inkonsistent oder ungenau sein könnten. „Trotz dieser Arbeit kann BlenderBot immer noch unhöfliche oder beleidigende Kommentare abgeben, weshalb wir Feedback sammeln, das dazu beitragen wird, zukünftige Chatbots besser zu machen.“
Meta reagierte nicht sofort auf die Bitte von Insider um einen Kommentar.