©Reuters. DATEIFOTO: Ein undatiertes Handout-Bild des US-Startups Replika zeigt einen Benutzer, der mit einer Smartphone-App interagiert, um einen Avatar für einen persönlichen Chatbot mit künstlicher Intelligenz, bekannt als Replika, in San Francisco, Kalifornien, US Luka, Inc./Handout, anzupassen
Von Elvira Pollina und Martin Coulter
MAILAND/LONDON (Reuters) – Die italienische Datenschutzbehörde sagte am Freitag, sie verbiete dem Chatbot-Unternehmen Replika für künstliche Intelligenz (KI), die personenbezogenen Daten italienischer Benutzer zu verwenden, und verwies auf Risiken für Minderjährige und emotional schwache Menschen.
Replika, ein 2017 gegründetes Startup aus San Francisco, bietet Benutzern angepasste Avatare, die mit ihnen sprechen und ihnen zuhören.
Es ist unter englischsprachigen Personen führend und kann kostenlos verwendet werden, obwohl es monatlich rund 2 Millionen US-Dollar an Einnahmen aus dem Verkauf von Bonusfunktionen wie Voice-Chats einbringt.
Der „virtuelle Freund“ wird so vermarktet, dass er das emotionale Wohlbefinden des Benutzers verbessern kann.
Der italienische Wachhund sagte jedoch, dass es durch Eingriffe in die Stimmung des Benutzers „die Risiken für Personen erhöhen kann, die sich noch in einem Entwicklungsstadium oder in einem Zustand emotionaler Zerbrechlichkeit befinden“.
Jen Persson, Direktorin der Datenschutzgruppe für Kinder Defend Digital Me, sagte gegenüber Reuters, dass Werkzeuge, die darauf abzielen, die Stimmung oder das geistige Wohlbefinden eines Kindes zu beeinflussen, als Gesundheitsprodukte eingestuft werden sollten und daher strengen Sicherheitsstandards unterliegen sollten.
„Diese Tools werden mit Kindern ohne viel Aufsicht oder Schutz vor potenziellem Missbrauch verwendet“, sagte sie.
Italienische Regulierungsbehörden betonten das Fehlen eines Altersüberprüfungsmechanismus, wie Filter für Minderjährige oder ein Sperrgerät, wenn Benutzer ihr Alter nicht ausdrücklich angeben.
Replika verstößt gegen europäische Datenschutzbestimmungen und verarbeitet personenbezogene Daten unrechtmäßig, da es nicht einmal implizit auf einen Vertrag gestützt werden kann, den ein Minderjähriger nicht unterzeichnen kann, sagte der Wachhund.
Replika antwortete nicht sofort auf eine Reuters-E-Mail mit der Bitte um einen Kommentar.
Robert Grosvenor, Geschäftsführer der Anwaltskanzlei Alvarez & Marshall, sagte, dass die italienische Aufsichtsbehörde wahrscheinlich nicht die einzige europäische Aufsichtsbehörde sei, die Maßnahmen gegen Unternehmen wie Replika erwäge.
„Während die Altersüberprüfung Mittel zum Schutz einiger der am stärksten gefährdeten Gruppen bieten könnte, geht sie nicht auf die Risiken und Schäden ein, die KI-basierte Dienste und Lösungen im Hinblick auf das Potenzial für unbeabsichtigte Voreingenommenheit und Diskriminierung verursachen können, wenn sie nicht reguliert werden“, sagte er .
Der Entwickler von Replika, das US-Unternehmen Luka Inc, muss die italienischen Behörden innerhalb von 20 Tagen über Maßnahmen zur Umsetzung seiner Anforderungen informieren und könnte mit einer Geldstrafe von bis zu 20 Millionen Euro (21,80 Millionen US-Dollar) oder bis zu 4 % seines weltweiten Jahresumsatzes belegt werden, heißt es in der Erklärung genannt.
($1 = 0,9176 Euro)