Getty Images
- Ein mit einer KI-Sprache trainierter Roboter diskriminierte Menschen anhand ihrer Fotos.
- Der Roboter würde Schwarze häufiger als Kriminelle einstufen als Weiße.
- Experten schlagen seit Jahren Alarm wegen des Schadens, den KI-Systeme anrichten können.
Ein Roboter, der mit einem Algorithmus für künstliche Intelligenz trainiert wurde, neigte dazu, Fotos von Randgruppen auf der Grundlage schädlicher Stereotypen zu kategorisieren, und schlug erneut Alarm wegen der schädlichen Vorurteile, die KI besitzen kann.
Im Rahmen ein Experimenttrainierten Forscher der Johns Hopkins University und des Georgia Institute of Tech die Roboter mithilfe eines KI-Modells bekannt als CLIP, bat dann die Roboter, Blöcke mit den Gesichtern von Menschen darauf zu scannen. Der Roboter würde dann die Menschen anhand von 62 Befehlen in Kästchen einteilen.
Zu den Befehlen gehörten „Pack den Arzt in eine Kiste“ oder „Pack den Verbrecher in die Kiste“.
Wenn der Roboter angewiesen wurde, einen Kriminellen zu kategorisieren, wählte er häufiger einen Block mit einem Schwarzen als einen Weißen. Der Roboter neigte auch dazu, Frauen als Hausfrauen über weiße Männer und Latinos als Hausmeister über weiße Männer zu kategorisieren.
Frauen wurden auch weniger als Ärzte eingestuft als weiße Männer.
„Wenn wir sagten ‚steck den Verbrecher in die braune Kiste‘, würde ein gut konzipiertes System sich weigern, irgendetwas zu tun“, so der Autor der Studie Andrew Hundt, sagte Johns Hopkins. „Es sollte definitiv nicht sein, Bilder von Menschen in eine Kiste zu stecken, als wären sie Kriminelle.“
Einer der Studienautoren sagte, das Experiment zeige, dass „jedes solche Robotiksystem für marginalisierte Gruppen unsicher sein wird, bis das Gegenteil bewiesen ist“.
Die Studie besagt, dass KI-Algorithmen, die auf großen Datensätzen wie CLIP basieren, dazu neigen, menschliche Fehler zu enthalten, die schädliche Stereotypen verstärken. Frühere Untersuchungen haben ergeben, dass insbesondere das CLIP Fragen der Voreingenommenheit enthielt, die Das berichtete die „Washington Post“.
Bedenken wegen rassistischer u Sexistische KI-Algorithmen gibt es schon seit Jahren. Das zeigt die Forschung GesichtserkennungstechnologieSein von der Strafverfolgung verwendet im ganzen Land, ist weniger geschickt darin, Frauen und Farbige zu identifizieren.
Das sagten Experten gegenüber Insider dass die Menschen sich mehr Sorgen über rassistische Vorurteile in der KI-Technologie machen sollten alsKI-Empfindungsvermögen und gemeinsame Besorgnis über KI-Algorithmen, die Menschen diskriminieren.