SOPA-Bilder
- Amazon Web Services stellte letzte Woche Q vor, seinen geschäftsorientierten generativen KI-Chatbot.
- Laut Platformer gaben Amazon-Mitarbeiter an, dass der Chatbot vertrauliche Daten preisgibt.
- Q wurde als zuverlässigere Alternative zu verbraucherorientierten KI-Chatbots entwickelt.
Amazons Qder KI-Chatbot für Arbeitnehmer, den seine Cloud-Abteilung am Dienstag vorgestellt hat, scheint einige Probleme zu haben.
Laut durchgesickerten internen Mitteilungen, die mit Q geteilt wurden, platzt Q über seine internen Nachrichtenkanäle wie Slack und Ticketsysteme mit vertraulichen Informationen heraus – darunter den Standort von AWS-Rechenzentren, internen Rabattprogrammen und sogar unveröffentlichten Funktionen Plattformerein Tech-Newsletter.
Der Bot habe außerdem „schwere Halluzinationen“, a Phänomen, bei dem KI spuckt Ungenauigkeiten souverän aus als wären es Fakten.
Im Fall von Q wurden laut Platformer außerdem schlechte Rechtsberatungsmaßnahmen erteilt, die „potenziell zu Herzinfarkten in der Rechtsabteilung führen könnten“, wie es ein Mitarbeiter in einem Slack-Kanal des Unternehmens ausdrückte. Der Bot hat auch schädliche oder unangemessene Antworten zurückgegeben, die Kundenkonten gefährden könnten.
Laut Platformer seien die Halluzinationen von Q so „weitreichend und ungeheuerlich“, wie ein Manager bei AWS sie beschrieb, dass der Manager die Mitarbeiter sogar davor warnte, sie in öffentlichen Slack-Kanälen zu diskutieren.
Amazon reagierte nicht auf eine Anfrage von Business Insider nach einem Kommentar, teilte Platformer jedoch in einer Erklärung mit, dass „Amazon Q keine vertraulichen Informationen durchsickern ließ“.
Es ist nicht ungewöhnlich, dass generative KI-Chatbots ins Stocken geraten.
Es dauerte nicht lange, bis Microsoft seinen verbraucherorientierten generativen KI-Assistenten Sydney herausbrachte viral mit eigenen Halluzinationen. Aber die Verstöße von Q sind umso ironischer, wenn man bedenkt, dass der Bot als sicherere Option konzipiert wurde, auf die sich Unternehmen verlassen können.
Q wurde entwickelt, um Mitarbeitern beim Generieren von E-Mails, beim Zusammenfassen von Berichten, bei der Fehlerbehebung, bei der Recherche und beim Programmieren zu helfen. Es sei auch darauf ausgelegt, ihnen hilfreiche Antworten zu geben, allerdings nur in Bezug auf Inhalte, auf die „jeder Benutzer zugreifen darf“, sagte Amazon in einem Blog Post über Q.