Amazon : l’IA de reconnaissance faciale confond des politiques avec des criminels

L’union américaine pour les libertés civiles (ACLU) a publié des recherches qui affirment que le logiciel de reconnaissance faciale d’Amazon (appelé Rekognition) a identifié 28 des 435 membres du congrès comme étant des criminels. Une erreur qui fait réagir outre-atlantique, d’autant plus qu’un nombre élevé de personnes de couleur a été signalé : 39% contre 5% de blancs.

Amazon se défend et affirme que l’ACLU a mal utilisé le logiciel

La firme a rapidement réagi au rapport et selon le New York Times, un porte-parole a déclaré que l’ACLU n’avait pas correctement utilisé le logiciel. Une défense véridique puisque l’ACLU n’a pas utilisé les paramètres recommandés. Amazon recommande en effet de définir la tolérance d’erreur de son logiciel à 95% pour l’application de la loi, l’ACLU l’a réduit à 80%.

Un manque d’encadrement sur la reconnaissance faciale aux Etats-Unis

Aux Etats-Unis, il n’y a pas de loi fixant le taux de tolérance du logiciel Rekognition d’Amazon à 80%, comme il n’existe pratiquement aucune législation concernant l’utilisation de logiciels de reconnaissance faciale. De nombreuses voix (y compris les propres employés d’Amazon), s’élèvent ainsi pour que les entreprises technologiques ne mettent pas leurs produits à disposition du gouvernement. Cette prise de parole inclut notamment une lettre écrite il y a des mois par des membres du Congressional Black Caucus, dont certains ont été identifiés comme des criminels lors des tests de l’ACLU.