Malgré les critiques, Amazon continue de faire évoluer Rekognition, son logiciel de reconnaissance faciale. Désormais, il est apte à reconnaître la peur sur un visage humain. Dans un communiqué de presse mis en ligne le 12 août, la firme de Jeff Bezos a annoncé "des améliorations de précision et de fonctionnalité pour [ses] capacités d’analyse faciale " , concernant le sexe de l’individu, sa tranche d’âge, mais aussi les émotions qu’il ressent. Dans la palette de sentiments reconnus par le logiciel étaient déjà présents la joie, la tristesse, la colère, la surprise, le dégoût, le calme et la confusion.

Lancé en novembre 2016 pour "détecter, analyser et comparer des visages pour une grande variété de cas de vérification d’utilisateurs, de comptage de personnes et d’utilisation pour la sécurité publique", Rekognition est régulièrement enrichi de nouvelles fonctionnalités. Le 9 août 2019, Amazon le rendait capable de "détecter du contenu lié aux thèmes 'violence' et 'visuellement dérangeant' tels que du sang, des blessures, des armes, de l’automutilation, des cadavres etc". 

Des failles déjà mises en lumière

Une évolution constante malgré de nouvelles polémiques. En juillet 2018, l’Union américaine pour les libertés civiles (ACLU) testait le logiciel pour en démontrer le manque de fiabilité. Résultat, 28 membres du Congrès américain avaient été identifiées comme étant des délinquants. Une erreur réitérée en août 2019, lors d’un nouveau test réalisé par l'association.

Si la principale organisation de défense des droits de l’Homme Outre-Atlantique cherche à tout prix à en démontrer les failles, c’est parce que le logiciel d’Amazon n’est pas seulement utilisé par des particuliers. Mais aussi par des   forces de police aux États-Unis. À Orlando par exemple, les policiers s’en servaient jusqu’en juillet 2019.

Et l’entreprise américaine a déjà été plusieurs fois en discussion avec l’Immigration and Customs Enforcement (ICE), l’ agence de police douanière et de contrôle des frontières du département de la Sécurité intérieure du pays.

Des protestations, de l’intérieur comme l’extérieur

En 2018, 100   employés d'Amazon avaient envoyé une lettre à la direction pour qu’elle cesse de le commercialiser auprès forces de l’ordre. "Nous refusons de contribuer à un outil qui va à l’encontre des droits de l’Homme", écrivaient-ils alors. Plus récemment, 55 experts en intelligence artificielle – dont des chercheurs de Facebook, Google ou Microsoft – ont à leur tour signé une lettre ouverte. Même chose pour certains gros actionnaires d’Amazon, qui avaient inséré cette requête dans leurs vœux de début d’année 2019.

Pourtant, Amazon reste inflexible, et continue de mettre à jour son programme informatique. " Nous sommes satisfaits de la valeur ajoutée qu'apporte Amazon Rekognition à des clients de toutes tailles et de tous types d'industrie  […]. Lorsque vous avez mis au point une telle technologie, vous ne voulez pas vous en débarrasser  […]  S'il y a une régulation à appliquer, ce n'est pas à nous de le faire, mais c'est le rôle du gouvernement", avait d’ailleurs déclaré Andrew Jassy, directeur d’Amazon Web Service, lors d’une conférence de presse donnée en novembre 2018.