Minister und öffentliche Stellen müssen die Architektur hinter Algorithmen, die Prüfungsergebnisse, Wohngeldzuweisungen und Schlaglochreparaturen beeinflussen, nach neuen Transparenzstandards aufdecken.
Die britische Regierung hat einen Transparenzstandard für Algorithmen veröffentlicht, die Reihe von Anweisungen, die ein Computer befolgt, um eine Aufgabe zu erledigen oder ein einzelnes Ergebnis zu erzielen. Algorithmen sind zum Brennpunkt zunehmender Kontroversen geworden, sei es durch ihre Rolle bei der Entscheidung über Abiturergebnisse im letzten Jahr oder bei Entscheidungen über Leistungsansprüche.
Nach dem neuen Ansatz müssen Ministerien und öffentliche Stellen erklären, wo ein Algorithmus verwendet wurde, warum er verwendet wurde und ob er sein Ziel erreicht hat. Es wird auch eine Verpflichtung geben, die Architektur hinter dem Algorithmus aufzudecken. Es wird in den kommenden Monaten von mehreren Regierungsabteilungen und öffentlichen Stellen getestet, bevor es erneut überprüft und im nächsten Jahr offiziell eingeführt wird.
Der neue Standard wird in zwei Stufen aufgeteilt. Die erste erfordert eine kurze Beschreibung des Algorithmus, einschließlich wie und warum er verwendet wird. Die zweite enthält detailliertere Informationen über die Funktionsweise des Tools, die Daten, die zum Trainieren des Algorithmus verwendet wurden, und den Grad der menschlichen Aufsicht dahinter.
Bei der Ankündigung des neuen Standards wies das Kabinettsbüro auf mehrere erfolgreiche Anwendungen von Algorithmen hin, darunter das Beheben von Schlaglöchern durch die Gemeinde Blackpool und Scans im Moorfields Eye Hospital in London. Algorithmen werden jedoch in politischen und regulatorischen Kreisen immer wichtiger, insbesondere mit dem Gesetz zur Online-Sicherheit im Parlament und nach den Enthüllungen der Facebook-Whistleblowerin Frances Haugen.
In einem Gespräch mit Abgeordneten in diesem Monat warnte die Kulturministerin Nadine Dorries die Tech-Chefs, dass sie ihre Algorithmen zügeln müssen oder im Rahmen des Online-Sicherheitsgesetzes bestraft werden müssen. „Entfernen Sie noch heute Ihre schädlichen Algorithmen und Sie werden nicht – namentlich genannte Personen – strafrechtlich verfolgt und strafrechtlich verfolgt“, sagte sie.
Bei der Ankündigung des neuen Standards sagte Lord Agnew, Staatsminister im Kabinettsbüro: „Algorithmen können von Organisationen des öffentlichen Sektors genutzt werden, um ihnen zu helfen, fairere Entscheidungen zu treffen, die Effizienz öffentlicher Dienstleistungen zu verbessern und die mit der Bereitstellung verbundenen Kosten zu senken. Sie müssen jedoch in Entscheidungsprozessen so eingesetzt werden, dass Risiken gehandhabt werden, die höchsten Standards an Transparenz und Rechenschaftspflicht gewahrt werden und klare Wirkungsnachweise erbracht werden.“
Adrian Weller, Programmdirektor für Künstliche Intelligenz am Alan Turing Institute, einer staatlich geförderten Forschungseinrichtung für Datenwissenschaft und KI, begrüßte einen „bahnbrechenden Schritt“. Er sagte: „Unternehmen wenden sich zunehmend Algorithmen zu, um die Entscheidungsfindung zu automatisieren oder zu unterstützen. Wir haben eine Gelegenheit, die richtigen Governance-Mechanismen einzuführen, wenn die Akzeptanz zunimmt. Deshalb freue ich mich sehr, dass die britische Regierung einen der weltweit ersten nationalen algorithmischen Transparenzstandards veröffentlicht.“