On pensait qu’Alain Delon était le pire des présidents de jury des concours de miss. C’était avant de connaître les robots-juges racistes du concours international Beauty.AI.
Lorsque les laboratoires Youth, en partenariat avec Microsoft, avaient lancé leur concours de beauté jugé par des robots début 2016, tout le monde ou presque avait crié au génie. Huit mois plus tard, les résultats laissent un goût amer.
Le 19 juillet dernier, date limite des candidatures, Beauty.AI avait reçu près de 6 000 selfies de wannabe rois et reines de beauté originaires de plus de 100 pays de la planète, envoyés via une application dédiée. Tous espéraient avec impatience que leur photo fasse palpiter le cœur ou plutôt le complexe algorithme de l’intelligence artificielle des laboratoires Youth.
"Les robots n'ont pas aimé les gens à la peau foncée"
Oui mais voilà, suite à la publication des résultats de l’élection, le constat du site The Guardian est sans équivoque : "Les robots n’ont pas aimé les gens à la peau foncée". Parmi les 44 gagnants, "la plupart sont des Blancs, une poignée sont Asiatiques et un seul a la peau noire". Et s’il est vrai que la majorité des 6 000 participants étaient blancs, ils étaient aussi nombreux à venir d’Inde et d’Afrique.
Pour les chercheurs de Beauty.AI, le souci vient du fait que la base de photos qui a servi à "nourrir" les robots n’était pas suffisamment représentative des minorités. "Si vous n’avez pas suffisamment de personnes de couleur dans la base de données, alors vous aurez peut-être des résultats biaisés", assure Alex Zhavoronkov, qui a travaillé à la création de l’intelligence artificielle de ce concours.
Mais pour d’autres spécialistes, l’erreur est bien d'origine humaine. Et si l’algorithme est biaisé, c’est parce-que les hommes qui l’ont créé avaient un parti pris. "Les humains sont vraiment ceux qui fabriquent la pensée, même si cela s’exprime en algorithme et qu’on pense que c’est neutre et scientifique", explique Bernard Harcourt, professeur en droit et en science politique à l’université de Columbia, au Guardian.
Ce n’est pas la première fois qu’une intelligence artificielle vire raciste. En mars dernier, le charmant visage angélique du robot Tay de Miscrosoft avait vite laissé place à un personnage virtuel raciste et néonazi sur les réseaux sociaux. Alors que Beauty.AI prévoit de lancer un nouveau concours de beauté à l’automne, ses créateurs promettent "d’essayer de corriger ça".
Quelque chose à ajouter ? Dites-le en commentaire.