Der KI-Chatbot von Snapchat, My AI, sorgt seit geraumer Zeit für einige Kontroversen. Es wurde auch von Regierungen unter die Lupe genommen, und zwar jetzt Android Headlines-Berichte dass eine britische Regulierungsbehörde eine Warnung vor dem Chatbot herausgegeben hat und auf mögliche Risiken für die Privatsphäre von Kindern hingewiesen hat.
Das britische Kommissarbüro warnt vor dem KI-Chatbot von Snapchat
Die Bedenken des Commissioner’s Office (ICO) konzentrieren sich hauptsächlich auf die Privatsphäre von Kindern und auf die Tatsache, dass Snap’s es angeblich versäumt hat, die Datenschutzrisiken des Chatbots vor seiner offiziellen Einführung einzuschätzen. Die ausgegebene Warnung bedeutet nicht zwangsläufig, dass die Aufsichtsbehörde einen Verstoß festgestellt hat, aber wenn keine Maßnahmen ergriffen werden, kann das ICO den Chatbot im Vereinigten Königreich blockieren. Das Hauptanliegen des ICO sind die Kinder im Alter von 13 bis 17 Jahren, die stürzen im Rahmen des Children’s Design Code, einer Reihe von Datenschutzregeln, die im Jahr 2021 umgesetzt wurden.
Der My AI-Chatbot von Snapchat wurde im Februar eingeführt. Ursprünglich war der generative, KI-gestützte Chatbot exklusiv für Premium-Abonnenten und sollte als virtueller Freund genutzt werden, der Fragen beantworten oder Ratschläge geben konnte. Nach der ersten Testphase wurde der Chatbot allen Nutzern von Snapchat zur Verfügung gestellt, auch minderjährigen Nutzern.
Es gab jedoch einige Bedenken hinsichtlich seiner Maßnahmen. Es gab auch Situationen, in denen der Chatbot unangemessene Ratschläge gab, obwohl Snap behauptete, er verfüge über strenge Moderations- und Schutzfunktionen. Ein Beispiel für diesen Ratschlag ist der Chatbot, der einem 15-jährigen Benutzer Möglichkeiten vorschlägt, den Alkoholgeruch zu verbergen.
Als Reaktion auf die Warnung der Regulierungsbehörde hat Snap betont, dass es sich dem Schutz der Privatsphäre der Benutzer verpflichtet fühlt und die Entscheidung des ICO überprüft. Das Unternehmen sagte, es werde weiterhin mit dem ICO zusammenarbeiten, um sicherzustellen, dass es mit den Risikobewertungsverfahren des Unternehmens vertraut sei.