Menschen mit Behinderungen werden stressigen Kontrollen und Monaten frustrierender Bürokratie unterzogen, nachdem sie von einem Algorithmus, den die Regierung sich weigert, offenzulegen, als potenzielle Leistungsbetrüger identifiziert wurden, laut einer neuen rechtlichen Herausforderung.
Eine Gruppe in Manchester hat die Aktion eingeleitet, nachdem behinderte Menschen in der Gegend ausgesagt hatten, dass sie unverhältnismäßig ins Visier von Ermittlungen wegen Sozialhilfebetrugs gerieten. Einige sagten, sie würden in „Angst vor dem braunen Umschlag“ leben, was zeigt, dass ihr Fall untersucht werde. Andere gaben an, einen Anruf erhalten zu haben, ohne eine Erklärung dafür zu geben, warum sie markiert worden waren.
Das Ministerium für Arbeit und Renten (DWP) hat zuvor eingeräumt, dass es „moderne künstliche Intelligenz“ verwendet, um möglichen Betrug zu verfolgen, hat jedoch bisher Versuche zurückgewiesen, zu erklären, wie der Algorithmus hinter dem System kompiliert wurde. Aktivisten sagen, dass diejenigen, die untersucht werden, sobald sie markiert sind, mit einer invasiven und demütigenden Untersuchung konfrontiert werden können, die bis zu einem Jahr andauert.
An die DWP wurde ein Rechtsschreiben gesendet, in dem Einzelheiten zu dem automatisierten Prozess verlangt werden, der die Ermittlungen auslöst. Greater Manchester Coalition of Disabled People (GMCDP), die den Brief mit Hilfe der Kampagnengruppe Foxglove verschickte, sagte, ein „riesiger Prozentsatz“ der Gruppe sei vom System betroffen. Die Gruppe ist der Ansicht, dass die Regierung eine gesetzliche Verpflichtung hat, die Funktionsweise des Algorithmus transparent zu machen.
Bedenken wurden von der Wohltätigkeitsorganisation Privacy International geäußert, die in einem DWP-Bericht erstmals Hinweise auf ihren Einsatz von „moderner künstlicher Intelligenz zur Bekämpfung organisierter krimineller Banden, die groß angelegten Vorteilsbetrug begehen“, fand. Ein UN-Bericht aus dem Jahr 2019 über den „digitalen Wohlfahrtsstaat“ besagt, dass Algorithmen „sehr wahrscheinlich“, dass sich Vorurteile wiederholen in bestehenden Daten widerspiegeln und noch verschlechtern. Es fügte hinzu: „Eingebaute Formen der Diskriminierung können das Recht auf sozialen Schutz für Schlüsselgruppen und Einzelpersonen fatal untergraben.“
Die Regierung hat bis Freitag Zeit, auf das Rechtsschreiben zu reagieren.
„Wir haben die Angst vor dem braunen Umschlag satt und sind es leid, immer wieder von DWP-Beamten gezwungen zu werden, uns zu rechtfertigen“, sagte Rick Burgess von der GMCDP. „Es ist an der Zeit, dass die DWP klar macht, wie dieser Algorithmus funktioniert und warum so viele behinderte Menschen zur Untersuchung angezeigt werden. Behinderte Menschen brauchen Unterstützung – sie werden nicht von einem brutalen System niedergemacht, das davon ausgeht, dass wir betrügerisch sind, bis unsere Unschuld bewiesen ist.“
Foxglove sagte: „Der DWP-Algorithmus scheint arme und behinderte Menschen aus der Hölle ins Callcenter zu schicken. Die DWP muss genau erklären, wie ihr Algorithmus funktioniert und was getan wird, um Voreingenommenheit zu beseitigen – oder vor Gericht gestellt werden.“
Beamte betonten, dass bei allen mutmaßlichen Betrugs- und Fehlerfällen Fachpersonal involviert sei und denen, die sie benötigten, Unterstützung angeboten werde. Ein DWP-Sprecher sagte: „Die DWP wird zu gegebener Zeit auf den Brief der Vertreter des GMCDP antworten.“