Justin Sullivan/Getty Images
- Google hat immer noch mit der Gegenreaktion zu kämpfen, die durch die ungenauen Antworten seiner Gemini-KI ausgelöst wurde.
- Sergey Brin machte das Fehlen von Tests dafür verantwortlich, da Berichten zufolge die Arbeiter sich mit der Auslieferung des Produkts überfordert fühlten.
- Das Missgeschick verdeutlicht die Gefahr, Produkte inmitten eines eskalierenden KI-Wettrüstens auf den Markt zu bringen.
Google hat es noch nicht geschafft, sein Gemini-Feuer ganz zu löschen.
Das Unternehmen wehrt sich gegen heftige Gegenreaktionen, die durch die Bildgenerierungsfunktion seines KI-Chatbots ausgelöst werden. Die Funktion, die in der Vergangenheit ungenaue Bilder von farbigen Menschen erzeugte, wurde später vom Unternehmen pausiert und leitende Angestellte entschuldigten sich für den Vorfall.
Das Produkt hat Google in den Mittelpunkt dessen gerückt, was in manchen Kreisen als „erwachter“ Kulturkrieg beschrieben wurde. Kritiker werten das umstrittene Modell als Beweis dafür, dass die Google-Produkte übermäßig von linksgerichteten Mitarbeitern beeinflusst werden.
Die Entschuldigungsbemühungen der leitenden Führungskraft scheinen wenig bis wenig dazu beigetragen zu haben, die Kritiker zu beruhigen, von denen viele in Frage gestellt haben, wie das Produkt trotz derart eklatanter Probleme ausgeliefert werden konnte.
Der Platz von Google inmitten eines eskalierenden KI-Wettrüstens mit anderen Big-Tech-Unternehmen könnte die interne Dringlichkeit ausgelöst haben, sagte Andrés Gvirtz, Dozent an der King’s Business School, gegenüber Business Insider.
„Wir sehen einen allgemeinen Trend, bei dem Unternehmen sich auf die Integration und den Aufbau von KI-Lösungen konzentrieren“, sagte er und fügte hinzu, dass dieser Druck, Produkte auf den Markt zu bringen, dazu führen könnte, dass Abstriche gemacht werden.
„Die Ingenieure, mit denen ich spreche, sind sich bewusst, dass dieser Goldrausch bei der Integration von KI in bestehende Software-Stacks mit neuen rechtlichen und kommerziellen Risiken verbunden ist, haben aber nur begrenzte Entscheidungsfreiheit bei der Entscheidung, wann eine neue Funktion ausgeliefert wird“, sagte er.
Eilige Ingenieure
Einer der Mitbegründer des Unternehmens, Sergey Brin, ging am Samstag auf die Beschwerden ein und behauptete, dass die Linksorientierung des Models nicht die Absicht des Unternehmens sei und dass die Führungskräfte daran arbeiteten, die Probleme zu beheben.
CEO Sundar Pichai entschuldigte sich ebenfalls für den Vorfall und versprach in einem Memo an die Mitarbeiter „strukturelle Veränderungen“, obwohl es Gerüchte gibt, dass einige ihn lieber zurücktreten lassen würden.
Brin sagte, die seltsamen Bilder seien wahrscheinlich auf mangelnde gründliche Tests zurückzuführen Alex Heath von The Verge gab die Schuld Mitarbeiter fühlen sich gehetzt, um das Produkt auszuliefern.
Als Beispiel für die Eile von Google verwies Heath auf die in der Gemini-App verwendete Fotogenerierung, die auf einem älteren Text-zu-Bild-Modell basiert und in Gemini integriert ist, um die Funktion schneller bereitzustellen.
The Verge berichtete außerdem, dass es eine mangelnde Abstimmung zwischen dem Forschungsteam, das die zugrunde liegenden Modelle entwickelte, und dem Team, das sie in Produkte umsetzte, gab.
In der „Gemini-Ära“ von Google dreht sich alles um GPT-4
Pichai behauptete Ende letzten Jahres, dass Google in sein Unternehmen einsteige „Zwillinge-Ära.“
Das Modell wird weithin als Antwort des Unternehmens auf GPT-4 von OpenAI angesehen, ein Produkt, das stark von Microsoft unterstützt wird und bereits viele KI-Produkte des Unternehmens antreibt.
Google war bestrebt, nicht den Anschein zu erwecken, hinter seinen alten Rivalen zurückzufallen, und folgte Microsoft mit ähnlichen Produkteinführungen, darunter KI-gestützte Such- und Arbeitsplatzassistenten.
Der Ausrutscher von Gemini bei der Bildgenerierung ist nicht das erste Mal, dass Google wegen seiner KI öffentlich blamiert wird.
Letztes Jahr machte Googles Bard, ein KI-gestützter Chatbot, der weithin als Antwort des Unternehmens auf ChatGPT gilt, bei seiner ersten Live-Demo einen Fehler. Der Fehler machte versehentlich auf die Gefahr aufmerksam, die mit der Ersetzung von Suchmaschinen durch Chatbots einhergeht, und schickte Google zum übergeordneten Thema Die Aktien von Alphabet stürzen ab.
Auch bei der Technologie von Microsoft und OpenAI kam es zu ähnlichen Ausrutschern. Wenige Tage nach Bards Patzer begann Microsofts KI-gestütztes Bing damit, den Nutzern „verrückte Antworten“ zu liefern, darunter Liebesgeständnisse und wütende Auseinandersetzungen.
Doch Google hat sich viel Mühe gegeben, sich als verantwortlicher Hüter der KI zu positionieren. In einem (n Leitartikel in der Financial Times Letztes Jahr sagte Pichai, dass der „Wettlauf um eine verantwortungsvolle KI-Entwicklung“ noch wichtiger sei als die Notwendigkeit, Benutzerprodukte zu liefern.
Für Google sei das Hauptproblem der Gemini-Kontroverse die Markenwahrnehmung, sagte Gvirtz.
„Die meisten Menschen haben Google bisher als „neutral“ wahrgenommen und sich nie wirklich gefragt, wofür ihr Suchmaschinenanbieter steht“, sagte er.
Sandra Wachter, Professorin am Oxford Internet Institute, sagte gegenüber Business Insider: „Ich denke, es ist wichtig, vom Mantra „Schnell handeln und Dinge kaputt machen“ wegzukommen und sich darauf zu konzentrieren, „mit verantwortungsvoller Geschwindigkeit vorzugehen und Dinge in Ordnung zu bringen.“ Technologie sollte zur Lösung eines Problems eingesetzt werden und nicht nur dazu dienen, andere auf dem Markt zu überholen.“
Unternehmen existieren nicht im luftleeren Raum und ihr Handeln hat Konsequenzen für den Einzelnen und die Gesellschaft, sagte Wachter.
„Die Welt ist kein Sandkasten oder großes Feldexperiment, und deshalb müssen wir vorsichtig sein, welche Produkte wann für den Markt geöffnet werden“, fügte sie hinzu.
Vertreter von Google reagierten nicht sofort auf eine Bitte um Stellungnahme von BI.