Les politiciens sont en colère : la reconnaissance faciale d’Amazon AI prend 28 membres du Congrès pour des criminels

ingenieurs-blog-intelligence-artificielleUn organisme de surveillance à but non lucratif, l’Union américaine des libertés civiles de Californie du Nord (ACLU) a révélé des failles dans la technologie de reconnaissance faciale d’Amazon appelée Rekognition cette semaine. Actuellement, l’outil est utilisé par les organismes d’application de la loi dans l’Oregon et Orlando, a mal identifié le représentant John Lewis (D-Ga.) Et 27 autres membres du Congrès comme des criminels lors d’un test commandé par l’ACLU.

Inexactitudes dangereuses

L’ACLU est préoccupée par le fait que le système d’intelligence artificielle (IA) comporte des inexactitudes dangereuses qui ciblent de manière disproportionnée les personnes de couleur. Le test a incité les législateurs et les membres du congrès à soumettre des lettres à Jeff Bezos, fondateur et PDG d’Amazon, ainsi qu’aux organismes d’application de la loi.

Le sénateur Edward Markey et les représentants Luis Gutiérrez et Mark DeSaulnier ont écrit une lettre à Bezos citant les résultats du test récent de l’ACLU et exigeant l’arrêt de la reconnaissance faciale ainsi que les détails sur les lieux où la technologie est actuellement utilisée. Les senateurs Ron Wyden, Cory Booker et Ed Markey ont publié une autre lettre adressée au chef de police Jeffrey Smith demandant une révision des 39 organismes d’application de la loi concernant l’ utilisation de la reconnaissance faciale et leurs politiques pour prévenir les abus et les abus.

« Comme les technologies [de reconnaissance faciale] ont augmenté en disponibilité et en précision, et ont diminué en coût, nous comprenons qu’en tant qu’outil d’application de la loi, cette technologie peut sembler attrayante », ont écrit les sénateurs. « Cependant, cette technologie comporte des risques inhérents, y compris la compromission du droit à la vie privée des Américains, ainsi que des préjugés raciaux et de genre. »

« En tant que tel, et exerçant son rôle de surveillance, il est important pour le Congrès de mieux comprendre dans quelle mesure les organismes fédéraux d’application de la loi peuvent utiliser ces nouvelles technologies », ont expliqué les auteurs. La lettre comportait une demande de réponse du ministère au plus tard le 12 septembre 2018.

<iframe width= »560″ height= »315″ src= »https://www.youtube.com/embed/0cz4cCSVt1Y » frameborder= »0″ allow= »autoplay; encrypted-media » allowfullscreen></iframe>

Un test qui utilise la technologie d’Amazon

ACLU a mené son test avec le système Rekognition disponible sur le site d’Amazon. L’association a construit une base de données et un outil de recherche avec 25 000 photos d’arrestations disponibles publiquement, puis a procédé à une analyse de tous les membres actuels de la Chambre et du Sénat pour des identifications probables.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.