- Das am Dienstag veröffentlichte Google-Demovideo „Gemini in Search“ enthielt einen sachlichen Fehler.
- Gemini schlug vor, eine Filmkamera ohne Dunkelkammer zu öffnen, was die Fotos ruinieren würde.
- Auch Googles Demo-Videos haben in der Vergangenheit solche Fehler gemacht.
An zwei aufeinanderfolgenden Tagen mit großen Markteinführungen zeigten OpenAI und Google der Welt ihre neuesten Projekte im Bereich der künstlichen Intelligenz.
Sie haben beeindruckende Demovideos erstellt, die alle neuen Funktionen von OpenAIs ChatGPT-4o zeigen und zeigen, wie Googles Gemini die Suche, wie wir sie kennen, revolutionieren wird.
Aber das Dienstagsvideo von Google zeigt eine der größten Gefahren der KI: falsche, nicht nur schlechte Ratschläge. Eine Minute nach Beginn des auffälligen, schnellen Videos präsentierte Gemini AI in der Google-Suche einen sachlichen Fehler, der zuerst von entdeckt wurde Der Rand.
Ein Fotograf macht ein Video von seiner defekten Filmkamera und fragt Gemini: „Warum lässt sich der Hebel nicht ganz bewegen?“ Gemini liefert sofort eine Liste mit Lösungen – darunter eine, die alle seine Fotos zerstören würde.
Das Video der Liste hebt einen Vorschlag hervor: „Öffnen Sie die Hintertür und entfernen Sie vorsichtig den Film, wenn die Kamera verklemmt ist.“
Das ist Suche im Gemini-Zeitalter. #GoogleIO pic.twitter.com/JxldNjbqyn
– Google (@Google) 14. Mai 2024
Professionelle Fotografen – und jeder, der schon einmal eine Filmkamera benutzt hat – wissen, dass das eine schreckliche Idee ist. Das Öffnen einer Kamera im Freien, wo das Video gedreht wird, könnte den Film ganz oder teilweise ruinieren, weil er hellem Licht ausgesetzt wird.
Google hatte mit früheren KI-Produkten ähnliche Probleme.
Letztes Jahr hieß es in einem Google-Demovideo, das den Bard-Chatbot zeigt, fälschlicherweise, dass das James Webb-Weltraumteleskop das erste war, das einen Planeten außerhalb unseres eigenen Sonnensystems fotografierte.
Anfang des Jahres wurde der Gemini-Chatbot kritisiert, weil er sich weigerte, Bilder von Weißen zu produzieren. Es wurde dafür kritisiert, dass es zu „aufgeweckt“ sei und Fotos entwickelt habe, die von historischen Ungenauigkeiten wie asiatischen Nazis und schwarzen Gründervätern geprägt seien. Die Google-Führung entschuldigte sich und sagte, sie hätten „das Ziel verfehlt“.
Das Video vom Dienstag beleuchtet die Gefahren von KI-Chatbots, die Halluzinationen, also falsche Vorhersagen, hervorrufen und Benutzern schlechte Ratschläge geben. Letztes Jahr berichteten Benutzer von Bing, dem KI-Chatbot von Microsoft, über seltsame Interaktionen mit dem Bot. Es bezeichnete die Nutzer als Wahnvorstellungen, versuchte, sie darüber aufzuklären, welches Jahr wir gerade haben, und gestand einigen Nutzern sogar seine Zuneigung.
Unternehmen, die solche KI-Tools verwenden, können auch rechtlich für die Aussagen ihrer Bots verantwortlich sein. Im Februar tagte ein kanadisches Tribunal Air Canada verantwortlich für seinen Chatbot, der einem Passagier falsche Informationen über Trauerrabatte liefert.
Google reagierte nicht sofort auf eine Bitte um einen Kommentar, die außerhalb der üblichen Geschäftszeiten gesendet wurde.