"Hallo Emily, ich frage mich, ob du etwas über ethische Überlegungen zu großen Sprachmodellen geschrieben hast oder etwas, das du von anderen empfehlen könntest?" fragte sie und bezog sich auf eine lebhafte Art von Software für künstliche Intelligenz, die auf Text von einer enormen Anzahl von Webseiten trainiert wurde.
"Entschuldigung, habe ich nicht!" Bender antwortete Gebru laut Nachrichten von CNN Business schnell. Aber Bender, der Gebru zu dieser Zeit hauptsächlich aus ihrer Präsenz auf Twitter kannte, war von der Frage fasziniert. Innerhalb weniger Minuten gab sie einige Ideen zu den ethischen Implikationen solcher hochmodernen KI-Modelle zurück, darunter die "Kohlenstoffkosten für die Erstellung der verdammten Dinge" und "KI-Hype / Leute, die behaupten, es sei verständlich, wenn es nicht so ist". und zitierte einige relevante wissenschaftliche Arbeiten.
Gebru, eine prominente schwarze Frau in der KI – ein Bereich, der größtenteils weiß und männlich ist – ist bekannt für ihre Forschungen zu Voreingenommenheit und Ungleichheit in der KI. Es ist ein relativ neues Forschungsgebiet, in dem untersucht wird, wie die Technologie, die vom Menschen hergestellt wird, unsere Vorurteile aufnimmt. Der Forscher ist auch Mitbegründer von Black in AI, einer Gruppe, die sich darauf konzentriert, mehr Schwarze auf das Feld zu bringen. Sie antwortete Bender, dass sie versucht habe, Google dazu zu bringen, die ethischen Auswirkungen großer Sprachmodelle zu berücksichtigen.
Das Papier befasst sich mit den Risiken des Aufbaus immer größerer KI-Sprachmodelle, die in großen Teilen des Internets trainiert werden, wie z. B. den Umweltkosten und dem Fortbestehen von Vorurteilen, sowie mit den Maßnahmen zur Verringerung dieser Risiken. Es stellte sich heraus, dass es ein viel größeres Geschäft war, als Gebru oder Bender erwartet hatten.
"Akademiker sollten in der Lage sein, diese Unternehmen ohne Auswirkungen zu kritisieren", sagte Gebru gegenüber CNN Business.
Google lehnte es ab, jemanden für ein Interview für dieses Stück zur Verfügung zu stellen. In einer Erklärung sagte Google, dass Hunderte von Menschen an verantwortungsbewusster KI arbeiten und im vergangenen Jahr mehr als 200 Veröffentlichungen zum Aufbau verantwortungsbewusster KI veröffentlicht haben. "Diese Forschung ist unglaublich wichtig und wir bauen unsere Arbeit in diesem Bereich im Einklang mit unseren KI-Prinzipien weiter aus", sagte ein Unternehmenssprecher.
"Ein ständiger Kampf vom ersten Tag an"
Gebru kam im September 2018 auf Drängen von Mitchell als Co-Leiter des Ethical AI-Teams zu Google. Laut denjenigen, die daran gearbeitet haben, bestand das Team aus einer kleinen, vielfältigen Gruppe von etwa einem Dutzend Mitarbeitern, darunter Forschungs- und Sozialwissenschaftler sowie Software-Ingenieure – und es wurde vor etwa drei Jahren von Mitchell zusammengeführt. Es untersucht die ethischen Auswirkungen von KI und berät das Unternehmen in Bezug auf KI-Richtlinien und -Produkte.
Sie war schließlich von Mitchells Bemühungen überzeugt, ein vielfältiges Team aufzubauen.
"Ich hatte das Gefühl, unsere Gruppe sei wie eine Familie", sagte Gebru.
Gebru beschrieb die Arbeit bei Google jedoch auch als "ständigen Kampf vom ersten Tag an". Wenn sie sich zum Beispiel über etwas beschwerte, sagte sie, man würde ihr sagen, sie sei "schwierig". Sie erzählte von einem Vorfall, bei dem ihr per E-Mail mitgeteilt wurde, dass sie nicht produktiv sei und Forderungen stelle, weil sie eine Einladung zu einem Treffen ablehnte, das am nächsten Tag stattfinden sollte. Obwohl Gebru keine Dokumentation solcher Vorfälle hat, sagte Hanna, sie habe eine Reihe ähnlicher Geschichten wie diese von Gebru und Mitchell gehört.
"Die Außenwelt sieht uns viel mehr als Experten, respektiert uns wirklich viel mehr als jeder andere bei Google", sagte Gebru. "Es war so ein Schock, als ich dort ankam, um das zu sehen."
"Ständig entmenschlicht"
Anfang Dezember spitzten sich interne Konflikte zu. Gebru sagte, sie habe ein langes Hin und Her mit der Führung der Google-KI gehabt, in dem ihr wiederholt gesagt wurde, sie solle das Papier "Stochastische Papageien" von der Prüfung für die Präsentation auf der FAccT-Konferenz zurückziehen oder ihren Namen daraus entfernen.
Am Dienstagabend, dem 1. Dezember, schickte sie eine E-Mail an die Mailingliste Brain Women and Allies von Google, in der sie ihre Frustration über den internen Überprüfungsprozess und die Behandlung des Unternehmens sowie ihre Bestürzung über den anhaltenden Mangel an Vielfalt im Unternehmen zum Ausdruck brachte.
Sie schrieb auch, dass das Papier an mehr als 30 Forscher zur Rückmeldung gesendet wurde, was Bender, der Professor, CNN Business in einem Interview bestätigte. Dies geschah, weil die Autoren vermuteten, dass ihre Arbeit in der KI-Community "wahrscheinlich einige Federn zerzaust", da sie gegen die derzeitige Hauptrichtung des Feldes verstößt, sagte Bender. Dieses Feedback wurde von einer Reihe von Personen eingeholt, darunter auch von vielen, deren erwartete Federn gekräuselt würden – und in das Papier aufgenommen.
"Wir hatten keine Ahnung, dass daraus das werden würde, was daraus geworden ist", sagte Bender.
Am nächsten Tag, Mittwoch, dem 2. Dezember, erfuhr Gebru, dass sie keine Google-Mitarbeiterin mehr war.
"Es ignorierte zu viele relevante Forschungsergebnisse – zum Beispiel sprach es über die Umweltauswirkungen großer Modelle, ignorierte jedoch nachfolgende Forschungsergebnisse, die eine viel höhere Effizienz zeigten. In ähnlicher Weise äußerte es Bedenken hinsichtlich der Voreingenommenheit in Sprachmodellen, berücksichtigte jedoch nicht die jüngsten Forschungsergebnisse um diese Probleme zu entschärfen ", schrieb er.
Gebru nahm ihren Namen unangenehm von der Zeitung und wollte Transparenz. Er schrieb eine E-Mail, mit der das Unternehmen bald ihr Schicksal besiegelte. Dean sagte, Gebru's E-Mail enthielt Forderungen, die erfüllt werden mussten, wenn sie bei Google bleiben wollte. "Timnit schrieb, wenn wir diese Anforderungen nicht erfüllen würden, würde sie Google verlassen und an einem Enddatum arbeiten", schrieb Dean.
Sie teilte CNN Business mit, dass ihre Bedingungen Transparenz über die Art und Weise, wie das Papier zurückgezogen werden soll, sowie Treffen mit Dean und einem anderen KI-Manager bei Google beinhalteten, um über die Behandlung von Forschern zu sprechen.
"Wir akzeptieren und respektieren ihre Entscheidung, von Google zurückzutreten", schrieb Dean in seiner Notiz.
Empörung über KI
Gebru's Ausstieg aus dem Technologieriesen löste sofort Empörung in ihrem kleinen Team, im gesamten Unternehmen sowie in der KI- und Technologiebranche aus. Mitarbeiter und andere teilten schnell ihre Online-Unterstützung, einschließlich Mitchell, der es als "schrecklichen lebensverändernden Verlust in einem Jahr schrecklicher lebensverändernder Verluste" bezeichnete.
Hinter den Kulissen nahmen die Spannungen nur zu.
Mitchell teilte CNN Business mit, dass sie im Januar in Verwaltungsurlaub genommen wurde und ihr E-Mail-Zugang dann gesperrt wurde. Und Hanna sagte, das Unternehmen habe eine Untersuchung durchgeführt, bei der es Interviews mit verschiedenen Mitgliedern des KI-Ethik-Teams geplant habe, ohne es zu bemerken.
"Es waren offen gesagt Verhörsitzungen, wie Meg (Mitchell) es beschrieben hat und wie andere Teammitglieder es beschrieben haben", sagte Hanna, die immer noch bei Google arbeitet.
Hanna sagte, das ethische KI-Team habe sich Mitte Dezember mehrmals mit Croak getroffen, wobei die Gruppe Punkt für Punkt ihre Liste der Forderungen durchgesehen habe. Hanna sagte, es fühlte sich so an, als würden bei diesen Treffen Fortschritte erzielt.
Ein Google-Sprecher bestritt nicht, dass Mitchell entlassen wurde, als er um einen Kommentar zu dieser Angelegenheit gebeten wurde. Das Unternehmen zitierte eine Überprüfung, in der "mehrfache Verstöße" gegen seinen Verhaltenskodex festgestellt wurden, einschließlich der Aufnahme "vertraulicher geschäftsrelevanter Dokumente und privater Daten anderer Mitarbeiter".
Mitchell sagte gegenüber CNN Business, dass das ethische KI-Team "Angst" hatte, dass sie als nächstes Gebru nachgehen würde.
"Ich habe keinen Zweifel daran, dass mein Eintreten für Rassen- und Geschlechterfragen sowie meine Unterstützung von Dr. Gebru dazu geführt haben, dass ich verboten und dann gekündigt wurde", sagte sie.
Große Firma, große Forschung
Mehr als drei Monate nach Gebru's Abreise sind die Schockwellen immer noch innerhalb und außerhalb des Unternehmens zu spüren.
"Es ist absolut verheerend", sagte Hanna. "Wie soll man wie gewohnt arbeiten? Wie soll man überhaupt wissen, was man sagen kann? Wo soll man wissen, was man machen soll? Wie werden die Bedingungen sein?" in dem die Firma dich unter den Bus wirft? "
Akademische Forschung über Technologie kann naturgemäß störend und kritisch sein. Zusätzlich zu Google betreiben viele große Unternehmen Forschungszentren wie Microsoft Research und Facebook AI Research, und sie tendieren dazu, diese öffentlich als etwas getrennt vom Unternehmen selbst zu projizieren.
"Grundsätzlich befinden wir uns in einer Situation, in der, okay, hier ist ein Artikel mit einer Google-Zugehörigkeit. Wie viel sollten wir daran glauben?" Sagte Bender. Gebru sagte, was mit ihr und ihrer Gruppe passiert sei, signalisiere die Bedeutung der Finanzierung für unabhängige Forschung.
Und das Unternehmen hat angekündigt, seinen Ruf als Forschungseinrichtung zu festigen. In einer kürzlich abgehaltenen Rathaussitzung von Google, über die Reuters erstmals berichtete und von der CNN Business auch Audio erhalten hat, erläuterte das Unternehmen Änderungen an seinen internen Forschungs- und Veröffentlichungspraktiken. Google hat auf eine Frage zur Authentizität des Audios nicht geantwortet.
"Ich denke, der Weg, um wieder Vertrauen zu gewinnen, besteht darin, weiterhin hochmoderne Arbeiten in vielen, vielen Bereichen zu veröffentlichen, einschließlich der Überschreitung der Grenzen für Themen im Zusammenhang mit verantwortungsbewusster KI und der Veröffentlichung von Dingen, die für die Forschungsgemeinschaft zutiefst interessant sind Dean antwortete auf eine Mitarbeiterfrage bezüglich externer Forscher, dass sie Artikel von Google "jetzt mit größerer Skepsis" lesen werden.
Anfang März stoppte die FAccT-Konferenz ihre Sponsoring-Vereinbarung mit Google. Gebru ist einer der Gründer der Konferenz und Mitglied des ersten FAccT-Exekutivkomitees. Google war seit Beginn der Jahreskonferenz im Jahr 2018 jedes Jahr Sponsor. Michael Ekstrand, Co-Vorsitzender des ACM FAccT-Netzwerks, bestätigte gegenüber CNN Business, dass das Sponsoring eingestellt wurde, und erklärte, der Umzug sei "im besten Interesse von" die Gemeinde "und dass die Gruppe ihre Sponsoring-Politik für 2022" überdenken "wird. Ekstrand sagte, Gebru sei nicht an der Entscheidung beteiligt.
"Ich hätte nie gedacht, was passiert ist, nachdem wir beschlossen haben, an diesem Papier zusammenzuarbeiten", twitterte sie.