Halo, quoi ? Amazon a fait, jeudi 27 août, une entrée remarquée et déjà controversée sur le marché de la santé connectée avec un nouveau bracelet. Baptisé Halo, il ressemble aux Fitbit et autres qui proposent de surveiller le sommeil et de mesurer le rythme cardiaque. Mais il introduit deux innovations qui ont fait réagir.

Ce qui intervient à point nommé, car l’une des promesses principales d’Amazon est justement d’affirmer que son bracelet parviendra, grâce à l’intelligence artificielle, à “lire” les émotions de son utilisateur. Ennui, exaltation, hésitation, joie ou encore confusion sont quelques-uns des sentiments que l'IA de Halo est censée reconnaître au ton de la voix. 

Les émotions, “des matériaux complexes à manier” pour l’IA

Quel intérêt pour la santé ? En théorie, la reconnaissance et l’analyse par des algorithmes des émotions peut “aider des personnes dépressives ou qui ont, par exemple, des problèmes de gestion de la colère”, note Laurence Devillers, professeure en intelligence artificielle à l’université de la Sorbonne et auteure de “Les robots émotionnels : santé, surveillance, sexualité ... et l'éthique dans tout cela”, contactée par France 24. L’enregistrement de la voix peut servir de support de travail pour le médecin qui suit le patient ou même pour avertir une personne sur son état émotionnel. 

Mais cette technologie n’est pas encore fiable à 100 %. “Les émotions sont des matériaux très complexes à manier [pour une IA] car elles dépendent du contexte, de la personne, de sa culture et de son environnement social”, souligne Laurence Devillers. C’est pourquoi, pour être aussi efficace que possible, les algorithmes doivent être précisément paramétrés en fonction de la personne, dont ils sont censés reconnaître les émotions. Et des solutions génériques comme le bracelet Halo peuvent difficilement prétendre percevoir des nuances dans la voix qui peuvent varier d’un individu à un autre.

Amazon en est conscient et se garde bien de présenter son bracelet comme un accessoire médical. Le géant de l’Internet n’a, d’ailleurs, pas cherché à obtenir l’approbation de la FDA (l’agence américaine du médicament) comme l’a fait, par exemple, Apple pour sa montre connectée. Halo se contente de vouloir améliorer le “bien-être émotionnel” de son propriétaire.

Outil marketing ?

L’IA d’Amazon analyse le “volume de la parole, son intensité, son tempo et le rythme de la voix pour déterminer quelles émotions les autres peuvent déceler dans le ton”, note le communiqué de presse de présentation du bracelet. L’idée serait d’informer l’utilisateur sur la manière dont un auditoire perçoit un discours ou comment la qualité du sommeil peut affecter votre état émotionnel, a précisé le groupe au Washington Post.

Le principe d’une IA à votre poignet qui juge quand vous avez l’air d’être de mauvaise humeur ou pas suffisamment “enthousiaste” semble “tout droit sorti d’une dystopie inventée pour un épisode de Black Mirror [série britannique sur les dangers de la technologie, NDLR]”, note CNN. 

Laurence Devillers trouve aussi l’utilité d’un tel gadget très discutable pour les consommateurs… mais beaucoup plus évidente pour Amazon. “C’est un outil de marketing idéal”, souligne cette spécialiste de l’intelligence artificielle. Avec ce type de données, le roi du e-commerce pourrait facilement adapter ses offres à l’état émotionnel de ses clients. Stephen Hall, journaliste pour le site d’informations technologiques 9to5Google imagine déjà, sur Twitter, recevoir la notification suivante : “Vous semblez tendu aujourd’hui, lequel de ces thés tranquillisants pouvons-nous vous vendre ?”.

Que nenni, répond Amazon. Les données vocales sont traitées localement par l’application Halo pour smartphone et ne seront jamais envoyées vers un serveur. “Personne n’entendra jamais ces enregistrements et vous pouvez les effacer du téléphone”, assure le communiqué. Mais “les antécédents d’Amazon en matière de vie privée n’inspirent guère confiance”, souligne le site Input Mag. 

Une IA qui traque la graisse

Halo ne se contente pas de deviner les émotions. L’application qui accompagne le bracelet invite aussi les utilisateurs à se prendre en photo - en tenue légère, de face, de dos et de côté - afin d’évaluer l’indice de masse grasse (qui établit le rapport entre la masse de graisse et celle des muscles). Amazon assure qu’il s’agit d’un indicateur plus pertinent pour l’état de santé que le poids ou l’indice de masse corporelle.

En plus de cet indice, l’IA se met au travail avec les photos prises pour créer un rendu en 3D du corps de la personne et lui offrir la possibilité de voir à quoi elle ressemblerait avec plus ou moins de graisse. “C’est un outil dangereux qui risque de perpétuer la culture du régime à outrance et la peur de grossir au nom de la ‘santé’”, s’offusquent plusieurs utilisateurs sur Twitter.

C’est un cocktail d’utilisation de l’IA “extrêmement intrusif et non souhaitable”, tranche Laurence Devillers. C’est aussi une manière de faire très pernicieuse, car les différents services sont présentés comme des fonctions amusantes à utiliser. “Cela peut rendre les gens dépendants à ces outils technologiques pour surveiller leur bien-être et les prépare à accepter des versions améliorées qui collecteront des données plus précises”, craint la scientifique.

Pour elle, Halo est une nouvelle illustration de la nécessité de mettre en place des normes internationales pour un développement éthique de l’intelligence artificielle. La France a, d’ailleurs, lancé le Global Partnership on Artificial Intelligence avec le Canada en juin dernier. Cette organisation internationale qui regroupe une quinzaine de pays réfléchit notamment à la manière d’évaluer toutes les innovations comme Halo. Mais il faut faire vite car le bracelet d’Amazon prouve que ces multinationales n’ont pas peur de pousser les consommateurs à remettre leur “bien-être” entre les mains de l’IA.