Die Bundesregierung sollte einen Teil der 10 Milliarden US-Dollar, die im Budget für Cybersicherheitsabwehr vorgesehen sind, verwenden, um Menschen zu bekämpfen, die KI verwenden, um biometrische Sicherheiten einschließlich Sprachauthentifizierung zu umgehen, sagte ein Senator der Grünen.
Am Freitag berichtete Guardian Australia, dass das Sprachauthentifizierungssystem von Centrelink mit einem kostenlosen Online-KI-Klondienst und nur vier Minuten Audio der Stimme des Benutzers ausgetrickst werden kann.
Nachdem der Journalist von Guardian Australia, Nick Evershed, seine eigene Stimme geklont hatte, konnte er mit seiner geklonten Stimme und seiner Kundenreferenznummer auf sein Konto zugreifen.
Der Stimmabdruckdienst, der vom Microsoft-eigenen Sprachsoftwareunternehmen Nuance bereitgestellt wird, wurde Ende Februar von 3,8 Millionen Centrelink-Kunden genutzt, und mehr als 7,1 Millionen Menschen hatten ihre Stimme mit demselben System beim australischen Steueramt verifiziert.
Obwohl Services Australia letzte Woche auf die Schwachstelle aufmerksam gemacht wurde, hat es nicht angegeben, dass es seine Verwendung der Sprach-ID ändern wird, da es sich bei der Technologie um eine „hochsichere Authentifizierungsmethode“ handelt und die Agentur „kontinuierlich nach potenziellen Bedrohungen sucht und fortlaufend Verbesserungen vornimmt, um sicherzustellen, dass Kunden Sicherheit”.
Der Senator der Grünen, David Shoebridge, sagte, der Befund sei „zutiefst beunruhigend“ für Menschen, die auf staatliche Dienste angewiesen seien, und es müsse einen Rechtsrahmen für die Erfassung und Verwendung biometrischer Daten geben.
„Die Bedenken hier gehen über die Verwendung von KI hinaus, um den Stimmabdruck auszutricksen“, sagte er. „Es gibt, wenn überhaupt, nur wenige Schutzmaßnahmen für die Erfassung oder Verwendung unserer biometrischen Daten, um KI-Systeme von Unternehmen zu füttern und zu trainieren.
„Wir können uns nicht auf einen schlagfertigen Ansatz für digitale Sicherheit verlassen, bei dem Probleme erst gelöst werden, wenn sie die Bundesregierung in Verlegenheit bringen.“
Shoebridge sagte, dass die 10 Milliarden US-Dollar an Finanzmitteln im letztjährigen Budget für das Redspice-Cyberverteidigungsprogramm des Australian Signals Directorate eine Investition beinhalten sollten, um sicherzustellen, dass Bedrohungen wie der Missbrauch von KI identifiziert und auf gesamtstaatlicher Basis geschützt werden können.
Guardian Australia hat den stellvertretenden Premierminister und Verteidigungsminister Richard Marles, der für die ASD verantwortlich ist, um eine Stellungnahme gebeten.
nach Newsletter-Promotion
Shoebridge sagte, die Regierung sollte auch Agenturen prüfen, die Spracherkennung verwenden, um sicherzustellen, dass weitere Sicherheitslücken identifiziert und behoben werden.
„Das Hauptziel der Regierung beim Einsatz solcher Technologien ist die Senkung der Betriebskosten im Gegensatz zu dem, was das Beste für die Millionen von Australiern ist, die auf Regierungsbehörden und -dienste angewiesen sind“, sagte er. „Diese staatlichen Einsparungen werden fast immer von den Kunden von Centrelink bezahlt.“
Im Geschäftsjahr 2021/22 berichtete Services Australia, dass es Sprachbiometrie zur Authentifizierung von 56.000 Anrufen an jedem Werktag und zur Authentifizierung von mehr als 39 % aller Anrufe bei den Hauptgeschäftslinien von Centrelink verwendete.
Zwischen August 2021 und Juni 2022 wurde es bei 11,4 % aller Kindergeldanrufe oder mehr als 450 an jedem Arbeitstag verwendet.