Google bot einem Professor 60.000 US-Dollar an, lehnte dies jedoch ab. Hier ist der Grund

0

Er bewarb sich um die Auszeichnung und sagte: “Aufgrund meines damaligen Gefühls, dass Google ein wirklich starkes, möglicherweise branchenführendes Team für ethische KI aufbaut.”

Bald darauf begann sich dieses Gefühl aufzulösen. Anfang Dezember verließ Timnit Gebru, Co-Leiter des ethischen KI-Teams von Google und eine prominente schwarze Frau in einem überwiegend weißen, männlichen Bereich, Google abrupt. Am Mittwoch, dem 2. Dezember, hat sie getwittert dass sie “sofort gefeuert” worden war für eine E-Mail schickte sie an eine interne Mailingliste. In der E-Mail äußerte sie Bestürzung über den anhaltenden Mangel an Vielfalt im Unternehmen und Frustration über einen internen Prozess im Zusammenhang mit der Überprüfung eines damals unveröffentlichten Forschungsbericht über die Risiken des Aufbaus immer größerer KI-Sprachmodelle – eine lebhafte Art von KI immer wichtiger zu Googles enormem Suchgeschäft.

Zu der Zeit sagte Gebru, die Google AI-Führung habe ihr gesagt, sie solle das Papier von der Prüfung für eine Präsentation auf einer Konferenz zurückziehen oder ihren Namen daraus entfernen. Google sagte, es akzeptiere Gebru’s Rücktritt wegen einer Liste von Forderungen, die sie per E-Mail gesendet hatte und die erfüllt werden mussten, damit sie weiter im Unternehmen arbeiten konnte.

Gebru’s Sturz löste eine monatelange Krise für das Unternehmen aus, darunter Mitarbeiterabgänge, ein Führungswechselund eine Entschuldigung des CEO von Google dafür, dass einige Mitarbeiter aufgrund der Umstände der Abreise von Gebru ihren Platz dort in Frage gestellt haben. Google führte eine interne Untersuchung in die Sache, Ergebnisse davon wurden bekannt gegeben Am selben Tag entließ das Unternehmen die Co-Teamleiterin von Gebru, Margaret Mitchell, die das Unternehmen nach dem Ausscheiden von Gebru auf Twitter konsequent kritisiert hatte. (Google führte “mehrfache Verstöße” gegen seinen Verhaltenskodex an.) In der Zwischenzeit sind Forscher außerhalb von Google, insbesondere im Bereich KI, zunehmend misstrauisch gegenüber dem historisch angesehenen Stipendium des Unternehmens und verärgert über die Behandlung von Gebru und Mitchell.

All dies wurde für Stark am Mittwoch, dem 10. März, scharf, als Google ihm einen Glückwunschbrief schickte, in dem er 60.000 US-Dollar für seinen Vorschlag für ein Forschungsprojekt erhielt, in dem untersucht wurde, wie Unternehmen KI einführen, mit der Emotionen erkannt werden. Stark sagte, er habe sofort das Gefühl, er müsse die Auszeichnung ablehnen, um seine Unterstützung für Gebru und Mitchell sowie für diejenigen zu demonstrieren, die noch im ethischen KI-Team von Google sind.

“Mein erster Gedanke war: Ich muss es ablehnen”, sagte Stark gegenüber CNN Business.

Luke Stark lehnte einen Forschungspreis von 60.000 US-Dollar von Google ab, um die verdrängten Führer seiner ethischen KI-Gruppe zu unterstützen.
Stark gehört zu einer wachsenden Zahl von Wissenschaftlern, die die Ausgänge von Gebru und Mitchell wegen jüngster Entscheidungen zum Verlust von Finanzmitteln oder Möglichkeiten des Unternehmens zitieren. Einige Organisatoren von KI-Konferenzen überdenken, Google als Sponsor zu haben. Und mindestens ein Akademiker, der in der Vergangenheit einen großen Scheck von Google erhalten hat, hat dies inzwischen erklärt wird seine finanzielle Unterstützung nicht suchen bis Änderungen im Unternehmen vorgenommen werden.

“Ich kann guten Gewissens keine Finanzierung mehr von einem Unternehmen akzeptieren, das seine Mitarbeiter auf diese Weise behandelt”, sagte Vijay Chidambaram, Assistenzprofessor an der Universität von Texas in Austin, der Speichersysteme studiert, gegenüber CNN Business. Chidambaram erhielt bereits 2018 30.000 US-Dollar von Google für ein Forschungsprojekt.

Das damit verbundene Geld ist für Google von geringer Bedeutung. Die zunehmenden Auswirkungen der Spannungen von Google mit seinem ethischen KI-Team stellen jedoch ein Risiko für das Unternehmen dar Ruf und Statur in der KI-Community. Dies ist von entscheidender Bedeutung, wenn Google um Talente kämpft – sowohl als Mitarbeiter des Unternehmens als auch mit Namen, die in der akademischen Gemeinschaft damit verbunden sind.

“Ich denke, das ist weiter verbreitet, als selbst das Unternehmen erkennt”, sagte Stark.

In Solidarität abnehmen

Trotz seiner anfänglichen Neigung lehnte Stark die Auszeichnung von Google nicht sofort ab. Er sprach mit Kollegen darüber, was er vorhatte – “Die Leute unterstützten jede Entscheidung, die ich getroffen habe”, sagte er – bevor er Google am folgenden Freitag seine Antwort schickte. Er dankte dem Unternehmen für das “Vertrauensvotum” in seine Forschung, schrieb jedoch, dass er “diese Auszeichnung aus Solidarität mit Dr. Gebru und Mitchell, ihren Teamkollegen und all denen, die sich in ähnlichen Situationen befanden, ablehnte” E-Mails von CNN Business angezeigt.

TikTok hat diese übergroßen Frauen befähigt und dann einige ihrer Posten abgebaut. Sie wissen immer noch nicht warum

“Ich freue mich auf die Möglichkeit, wieder mit Google Research zusammenzuarbeiten, wenn die Organisation und ihre Führungskräfte über ihre Entscheidung in diesem Fall nachgedacht, die von ihnen verursachten Schäden angegangen und sich in Wort und Tat der Förderung verschrieben haben kritische Forschung und Produkte, die Gerechtigkeit und Gerechtigkeit unterstützen “, schrieb Stark.

Er getwittert über seine Entscheidung, die Auszeichnung ebenfalls abzulehnen und öffentlich zu machen, und stellte fest, dass es sich viele Menschen nicht leisten können, solche Mittel von Google oder anderen Unternehmen abzulehnen. Stark kann auf das Geld verzichten, weil seine Abteilung an der Western University ausreichend finanziert ist. Die Auszeichnung von Google hätte zusätzliches Forschungsgeld geliefert, sagte er.
“Wir können nur das tun, was wir vernünftigerweise tun können – und das war etwas, von dem ich dachte, dass ich es könnte”, sagte Stark getwittert.

Gebru sagte, sie schätze Starks Aktion.

“Es ist eine ziemlich große Sache für jemanden, das Google-Sponsoring abzulehnen”, sagte sie gegenüber CNN Business. “Besonders jemand, der früh in seiner Karriere steht.”

Ein Google-Sprecher sagte, dass das Unternehmen in den letzten 15 Jahren mehr als 6.500 akademische und Forschungsstipendien an Personen außerhalb von Google vergeben hat. Laut dem Sprecher ist Stark die erste Person, die eine ablehnt.

“Es war ein echtes Fiasko, wie sie behandelt wurden”

Doch Starks Entscheidung ist nur das jüngste Zeichen der Solidarität mit Gebru und Mitchell.

Das erste offensichtliche Anzeichen von Wut kam, kurz nachdem Gebru Google verlassen hatte. EIN Mittlerer Beitrag, der ihre Abreise entschlüsselt und die Forderung nach Transparenz über die Entscheidung von Google in Bezug auf das Forschungspapier erhielt schnell Unterschriften von Google-Mitarbeitern und Unterstützern im akademischen und KI-Bereich. Bis Ende März war die Zahl der Unterstützer auf fast 2.700 Google-Mitarbeiter und über 4.300 andere angewachsen.
Google ist sich bewusst, dass sein Ruf für KI-Forschung in letzter Zeit geschädigt wurde, und hat erklärt, dass es beabsichtigt, das Problem zu beheben.
Anfang März hatte die Konferenz, bei der Gebru und ihre Mitautoren das Papier eingereicht hatten, die ACM-Konferenz zu Fairness, Rechenschaftspflicht und Transparenzoder FAccT hat seine Sponsoring-Vereinbarung mit Google eingestellt. Gebru ist einer der Gründer der Konferenz und Mitglied des ersten FAccT-Exekutivkomitees. Seit Beginn der Jahreskonferenz im Jahr 2018 war Google jedes Jahr Sponsor. Michael Ekstrand, Co-Vorsitzender des ACM FAccT-Netzwerks, bestätigte gegenüber CNN Business, dass das Sponsoring eingestellt wurde, und erklärte, der Umzug sei “im besten Interesse von” die Gemeinde “und dass die Gruppe ihre Sponsoring-Politik für 2022” überdenken “wird. Ekstrand sagte, Gebru sei nicht an der Entscheidung beteiligt.
Ebenfalls im März protestierten zwei Wissenschaftler gegen Googles Aktionen von twittern Das Sie beschlossen, nicht an einer Online-Forschungsveranstaltung zur Robotik teilzunehmen, die nur auf Einladung stattfand. Hadas Kress-Gazit, ein Professor für Cornell-Robotik, war einer von ihnen; Sie sagte, sie sei im Januar eingeladen worden, sei aber zurückhaltender geworden, als die Veranstaltung näher rückte.

“Es war übrigens ein echtes Fiasko [Gebru and Mitchell] wurden behandelt. Noch hat sich niemand bei ihnen entschuldigt “, sagte sie kürzlich in einem Interview zu CNN Business.” Ich möchte nicht mit Unternehmen interagieren, die sich gegenüber Spitzenforschern so verhalten. ”

Googles Bemühungen, Grenzen in der KI zu überschreiten

Google ist sich bewusst, dass sein Ruf als Forschungseinrichtung in den letzten Monaten geschädigt wurde, und das Unternehmen hat angekündigt, das Problem zu beheben. In einer kürzlich abgehaltenen Google-Rathaussitzung, über die Reuters erstmals berichtete und von der CNN Business auch Audio erhalten hat, erläuterte das Unternehmen Änderungen an seinen internen Forschungs- und Veröffentlichungspraktiken.

“Ich denke, der Weg, um wieder Vertrauen zu gewinnen, besteht darin, weiterhin hochmoderne Arbeiten in vielen, vielen Bereichen zu veröffentlichen, einschließlich der Überschreitung der Grenzen für Themen im Zusammenhang mit verantwortungsbewusster KI und der Veröffentlichung von Dingen, die für die Forschungsgemeinschaft zutiefst interessant sind Jeff Dean, Googles Leiter für KI, sagte, dass dies die besten Möglichkeiten sind, um weiterhin führend auf dem Gebiet der Forschung zu sein. Er beantwortete eine Mitarbeiterfrage bezüglich externer Forscher, wonach sie Artikel von Google “jetzt mit größerer Skepsis” lesen würden.

Google versucht, die Kontroverse um sein Team für ethische KI zu beenden. Es läuft nicht gut

Gebru hofft, dass wie bei FAccT mehr Konferenzen ihre Beziehungen zu den Forschungslabors von Technologieunternehmen neu bewerten werden. In der Vergangenheit wurde ein Großteil der Arbeiten zur Entwicklung und zum Studium der KI im akademischen Umfeld durchgeführt. Da Unternehmen jedoch immer mehr kommerzielle Anwendungen für die Technologie gefunden haben, verschwimmen die Grenzen zwischen der akademischen und der Unternehmenswelt. Google ist nur eines von vielen Technologieunternehmen, das einen großen Einfluss auf akademische Konferenzen ausübt, auf denen viele Artikel seiner Forscher veröffentlicht werden. Die Mitarbeiter sitzen in Konferenztafeln und sponsern jedes Jahr zahlreiche Konferenzen, manchmal in Höhe von Zehntausenden von Dollar.

Beispielsweise wurden Google und einige Tochterunternehmen der Muttergesellschaft Alphabet auf der Internationalen Konferenz für maschinelles Lernen (ICML) und der Konferenz für neuronale Informationsverarbeitungssysteme (NeurIPS) als Sponsoren mit einem Platin- und einem Goldpreis von 20.000 US-Dollar aufgeführt. im Jahr 2020 – beide wichtigen KI-Konferenzen. Einige Mitarbeiter des Unternehmens sitzen in ihren Organisationskomitees.

ICML-Präsident John Langford sagte, die Konferenz sei “derzeit für Sponsoring offen” von Google für die Konferenz 2021, die für Juli angesetzt ist.

“Es wird viel darüber diskutiert, wie ICML als Konferenz eine gute Kultur und Praxis des maschinellen Lernens fördern sollte, wobei die zukünftige Sponsoring-Politik Teil dieser Diskussion ist”, fügte er hinzu.

Die Geschäftsführerin von NeurIPS, Mary Ellen Perry, sagte, die Konferenz habe noch nicht jährlich zu Sponsoring aufgerufen, aber die Anfragen würden “anhand einer Reihe von Auswahlrichtlinien bewertet, die von den diesjährigen Sponsoring-Vorsitzenden aufgestellt wurden”. NeurIPS ist für Dezember geplant.

Für Stark und andere Mitglieder der akademischen Forschungsgemeinschaft haben sich die Kriterien für die Annahme von Geldern von Google jedoch bereits geändert.

“Zusätzliches Forschungsgeld wäre großartig”, sagte Stark. “Aber es war etwas, von dem ich das Gefühl hatte, ich könnte es einfach nicht ertragen.”

.