Bestrebungen, den Einsatz von „Big Brother“-Echtzeit-Gesichtserkennungstechnologie auf den Straßen der EU oder durch Grenzbeamte zu verbieten, werden am Donnerstag in einer wichtigen Abstimmung im Europäischen Parlament geprüft.
Die Änderung ist Teil eines Pakets von Vorschlägen für die weltweit ersten Gesetze zur künstlichen Intelligenz, die dazu führen könnten, dass Unternehmen bei Verstößen gegen die Regeln mit einer Geldstrafe von bis zu 10 Millionen Euro (8,7 Millionen Pfund) belegt oder vom Handel innerhalb der EU ausgeschlossen werden.
Es ist in einem von zwölf Kompromissänderungsanträgen enthalten, auf die sich ein Ausschuss von Abgeordneten geeinigt hat und die von mehr als 3.000 vor einem Jahr eingereichten Änderungen reduziert wurden.
Aber das Verbot, das in einem endgültigen Text enthalten ist, über den am Donnerstag im Parlament abgestimmt wird, wird voraussichtlich von einer Gruppe Mitte-Rechts-Abgeordneter mit der Begründung angefochten, dass biometrische Scans zur Bekämpfung schwerer Kriminalität wie Terrorismus eingesetzt werden sollten.
Im Falle einer Verabschiedung würde das Gesetz auch die KI zur „emotionalen Erkennung“ verbieten, die von Arbeitgebern oder der Polizei zur Identifizierung müder Arbeitnehmer oder Fahrer eingesetzt werden könnte.
Wohltätigkeitsorganisationen haben Bedenken geäußert, dass die Live-Gesichtserkennung in Echtzeit von staatlichen Behörden und der Grenzpolizei missbraucht werden könnte.
Aber Dragos Tudorache, Mitberichterstatter des KI-Gesetzes im Europäischen Parlament, sagte, er hoffe, dass es starke Unterstützung für ein Verbot gebe.
„Es gibt keinen stärkeren Schutz [than this ban]. Ein Grenzübergang ist ein öffentlicher Raum. Nach dem Text, der uns derzeit vorliegt, wird es nicht möglich sein, biometrische KI-Erkennungstechnologie im öffentlichen Raum einzusetzen“, sagte er.
Das Gesetz wird diejenigen, die künstliche Intelligenz entwickeln, auch dazu zwingen, transparent zu machen, welche Originalliteratur, wissenschaftliche Forschung, Musik und andere urheberrechtlich geschützte Materialien sie zur Ausbildung maschineller Lernender verwenden.
Dies wird es Bands, Akademikern und anderen ermöglichen, zu klagen, wenn sie der Meinung sind, dass gegen das Urheberrecht verstoßen wurde.
Co-Berichterstatter Brando Benifei sagte, er hoffe, dass das Gesetz die Besorgnis darüber zerstreuen werde, dass künstliche Intelligenz die Arbeitsmärkte stören und eine potenzielle Flut von Fake News, Desinformation und Eingriffen in die Menschenrechte entstehen könnte.
„Mit unserem Text zeigen wir auch, welche Art von Gesellschaft wir wollen, eine Gesellschaft, in der soziale Speicherung, vorausschauende Polizeiarbeit, biometrische Kategorisierung, emotionale Erkennung und diskriminiertes Auslesen von Gesichtsbildern aus dem Internet als inakzeptable Praktiken gelten“, sagte er gegenüber Reportern.
Der geänderte Text des KI-Gesetzes wird Mitte Juni dem breiteren Parlament vorgelegt und wird, wenn er angenommen wird, ein „starkes“ Mandat für weitere Diskussionen mit der Europäischen Kommission und dem Rat der Europäischen Union darstellen.
Mit der Verabschiedung des Gesetzes wird bis Ende des Jahres gerechnet.
nach Newsletter-Werbung
Viele glauben, dass der AI Act weltweit zum Goldstandard der Regulierung werden und von Giganten wie Google, Microsoft und Social-Media-Unternehmen übernommen werden wird.
„Ist das als Brüssel-Effekt bekannt? Wenn die EU als Erste vorangeht und vernünftige Standards hat, werden andere Länder bei der Gestaltung ihrer eigenen Vorschriften mit den EU-Regeln beginnen“, sagte Zach Meyers, wissenschaftlicher Mitarbeiter am Centre for European Reform.
Meyers fügte hinzu: „Selbst wenn sie dies nicht tun, können Unternehmen die EU-Vorschriften freiwillig weltweit übernehmen, weil dies die Geschäftskosten senkt.“
Kim van Sparrentak, der niederländische Europaabgeordnete der Grünen, sagte, der Einsatz von Live-Scanning, möglich durch KI, verstoße „völlig gegen unsere Grundrechte“ und sei „ein inakzeptables Risiko“.
Das KI-Gesetz, das erste seiner Art, wird seit fast zwei Jahren erarbeitet. Kürzlich wurden neue Änderungen hinzugefügt, um den Risiken zu begegnen, die von „allgemeinen“ KI-Systemen, einschließlich ChatGPT, ausgehen.
Auf die Frage, ob die EU nicht zu spät gehandelt habe, um sich mit ChatGPT zu befassen, nur einen Monat bevor das gesamte Europäische Parlament aufgefordert wird, über das KI-Gesetz abzustimmen, sagte Tudorache: „Wenn wir zu spät kommen, wo sind dann all die anderen Gerichtsbarkeiten, die noch nicht einmal damit begonnen haben?“ Regulierung in Erwägung ziehen?“