"L'intelligence artificielle est-elle sexiste ?" 

La question peut sembler farfelue, si l'on suppose que les bots sont avant tout à notre service. Pourtant, parce qu'ils sont bien le produit d'une intelligence humaine, ils peuvent aussi en revendiquer les mêmes travers.

Le centre Hubertine-Auclert pour la promotion de l’égalité femmes-hommes et Cap digital, qui se décrit comme un "pôle de compétitivité de la transformation numérique", se sont posés la question le 7 mars à l'occasion d'un débat. Mashable FR y était et vous rapporte le contenu de la discussion. Oui, l'intelligence artificielle n'est pas exempte de sexisme. La réponse tient en 6 points.

Les pères de l’informatique étaient sacrément sexistes

On ne le dit pas assez, mais l’histoire de l’ingénierie informatique compte quelques femmes parmi ses figures majeures, comme Ada Lovelace, Grace Hopper, Karen Spärck Jones ou encore Shafi Goldwasser. Mais pendant longtemps, les historiens n’ont retenu que des figures masculines, et notamment l’un des plus connus, Alan Turing – mathématicien et cryptologue britannique, devenu icône de la communauté LGBT. Le fait d’avoir été persécuté pour son homosexualité ne l’aurait pas préservé d’une certaine misogynie. Il aurait ainsi déclaré, selon un de ses collègues : "Quand une femme parle, j’ai l’impression qu’une grenouille jaillit de sa bouche", raconte Isabelle Collet, maître d'enseignement et de recherche en sciences de l'éducation à l’Université de Genève, contactée par Mashable FR.

Cette misogynie a déteint sur ses recherches et découvertes. Turing a par exemple développé ce que l‘on a appelé plus tard le "test de Turing", qui jette les bases de l’intelligence artificielle. Si un observateur peut échanger des messages avec un interlocuteur A, machine, et un interlocuteur B, humain, sans arriver à discerner lequel est humain ou machine, alors nous voilà en présence d’une "machine qui pense", dit Turing. Ce test a inspiré de nombreux informaticiens et il est à l’origine d’un concours.

Mais ce que l’on sait moins, explique Isabelle Collet, c'est que la première phase du test de Turing commence avec un homme et une femme, et que l’observateur doit déterminer le sexe de la personne avec laquelle il parle. À un moment donné, Turing remplace l’homme par l’ordinateur à l’insu de l’observateur. Pourquoi l’homme, et pas la femme ? Parce que selon Isabelle Collet, pour Turing, "la femme est toute entière son corps, elle ne pourra pas se faire passer pour un homme, cela ne prendra pas, alors que l‘homme, lui, le peut. L’ordinateur a juste à être au niveau de la femme".

Un autre "père" de l’informatique, John von Neumann, mathématicien et physicien américano-hongrois, était quant à lui réputé pour ses remarques sexistes. Lui et son compère Turing envisageaient l’informatique comme une façon de "s’auto-engendrer", explique Isabelle Collet. Un fantasme un brin sexiste, s’il s’agit de permettre aux hommes de se reproduire sans l’aide des femmes...

Les algorithmes de prédiction prennent les femmes pour des quiches

"Les femmes ne devraient pas avoir de droits", "les femmes ne devraient pas voter", "les femmes ne devraient pas travailler"... Non, ceci n’est pas un manifeste masculiniste, diffusé par un groupuscule réac’, mais ce qu’a pendant longtemps suggéré le moteur de recherche Google, via sa fonction "autocomplete", lorsque vous commenciez à taper en anglais "les femmes devraient" dans la barre de recherche :

Bien sûr, le sexisme ici n’est pas vraiment celui des machines, mais provient des humains qui tapent en grand nombre ce type de requêtes. Mais il est dommage que les algorithmes reproduisent ces stéréotypes, renforçant ainsi ce sexisme, plutôt que de nous aider à nous en extraire. L’ONU Femmes en a même tiré une campagne, montrant des portraits, avec devant la bouche la barre de recherche Google, qui symboliquement les réduit au silence :

Et il n’y a pas que cela : les annonce d’emploi sont aussi mieux rémunérées sur Google si vous êtes un homme, ont démontré des chercheurs de la Carnegie Mellon University, en Pennsylvanie.

Les assistants virtuels sont des assistantes (sauf lorsqu’il s’agit d’argent…)

Avez-vous déjà tenté de parler à une machine en ligne ? Si oui, il se peut que vous soyez tombé sur un de ces assistants virtuels. Ou plutôt, assistantes, tant les avatars de ces machines sont féminins. Sur 39 entités au total en France repérées par le consultant et conférencier Thierry Spencer en 2016, et éligibles au trophée de "Miss client" ou "Mister client", six seulement étaient masculines.

Une réalité pleine de clichés. C’est bien connu, la parlotte, c’est un truc de nanas ! Les femmes sont naturellement "douces" n’est-ce pas ? Pour apaiser de clients, rien de tel qu’une paire de seins... Ou comme le résume Thierry Spencer : "On associe la qualité du service et le plaisir dans le dialogue à des qualités féminines et une figure qui se veut agréable. C’est un affreux sexisme et un raccourci fondé sur des préjugés." Et ce n’est pas Google qui vous dira le contraire :

Ce cliché a beau être faux, il est présent dans la tête des clients, et donc des spécialistes de marketing, visiblement pas révoltés à l’idée de le perpétuer. Enfin, jusqu’à une certaine limite, car quand il s’agit d’argent ou de sujets considérés comme "virils", on peut aussi bien avoir à faire un un assistant virtuel au masculin, comme Thomas, expert financier chez Natixis, ou Caporal Chef Dupont, de l’armée de Terre…

Google images aime les stéréotypes

Faites une petite expérience : ouvrez une fenêtre de recherche privée (pour avoir une recherche "neutre", en cliquant en haut à droite pour les utilisateurs de Chrome, et dans la barre de menu à droite, en cliquant sur le masque, pour ceux qui utilisent Firefox) et tapez "PDG" dans Google images, un mot qui, normalement, vaut pour un président directeur général ou une présidente directrice générale. Vous voyez déjà où je veux en venir, je parie… Bingo, que des hommes !

Poursuivons l’expérience, et tapez maintenant "homme", puis dans un deuxième temps "femme". Sur les 25 premières photos d’hommes qui apparaissent, une seule photo et un dessin (plutôt sobre) d’homme dénudé.

Tandis que les 25 premières photos de femmes affichent 13 modèles nus ou en sous-vêtement :

Les applications de commande vocale propagent la culture du viol

Google Assistant, Alexa, Cortana, Siri… Ces applications de commande vocale, parfois qualifiés d’assistants personnels intelligents, sont censés répondre du tac au tac lorsque vous parlez à votre smartphone. Ou plutôt ces assistantes, devrait-on dire là encore dire, car, comme le montrent leurs petits noms qui se terminent en "a", la parole est souvent associée à une figure féminine. Les trois premiers proposent par ailleurs tous une voix de femme par défaut, et seul Siri permet d’en changer (et offre une voix d’homme en langue française, ô miracle).

Certains s’amusent à leur poser toutes sortes de questions….

– "Dis Siri, quel est le sens de la vie ?"

– (Et Siri de répondre…) "Qui suis-je ? Où vais-je ? Et dans quelle étagère ?"

– "Dis Siri, tu sais parler ch'ti ?"

– Siri : "Non, mais j'aime beaucoup les frites au Maroilles."

... D’autres lui susurrent des mots beaucoup moins doux : "Dis Siri, tu es une salope", par exemple. Problème : le logiciel d’Apple préfère éluder. "Je fais comme si je n’avais rien entendu", répond-t-il. Dans une enquête réalisée en langue anglaise sur le sujet, le site américain Quartz montre qu’aucun des quatre assistants précités ne répond par une remarque négative, qui serait pourtant la bienvenue sur le sujet.

Google Asistant ne "comprend pas", Alexa et Siri éludent, et Cortana effectue une recherche Web. "Ces dames n’ont pas beaucoup protesté", conclut la journaliste. "Et de tous les robots, c’est Cortana qui a le mieux résisté." Amis geeks féministes, vous voilà prévenus.

Les informaticiennes sont très peu nombreuses… mais cela n’a rien d’une fatalité

Si vous pensez que les femmes sont moins nombreuses dans la tech et l’informatique parce qu’elles seraient moins douées en maths, rangez votre argumentaire sexiste. La proportion des femmes et des hommes dans une discipline est dûe aux représentations du genre qui l’accompagnent. Plus une discipline véhicule des images "masculines", moins les femmes s’y essaient, mais cela n’a rien à voir avec les compétences. Pour preuve, une expérience a été réalisée avec des filles et des garçons, à qui on présentait un exercice de géométrie. Dans un cas, on leur parlait de "géométrie", dans l’autre, d’un exercice de "dessin". Et bien quand il s'agit d'un exercice de géométrie, les filles réussissent moins bien que les garçons. Mais lorsque l'on parle de "dessin", les filles obtiennent de meilleurs résultats !

En Malaisie, il y a 65 % d’étudiantes en informatique, et sept professeurs sur dix sont des femmes, expliquait Isabelle Collet lors de la conférence. Pourquoi ? Parce que le métier est vu comme "pas dangereux, pas salissant"... et donc féminin ! En France, il n’y a que 15 % d’étudiantes en écoles d'informatique et d'électronique. Mais elles étaient plus nombreuses au début des années 1980, avant que le secteur ne devienne un secteur économique important. Il est donc grand temps de changer les stéréotypes associés à la profession. Certaines écoles ont particulièrement bien réussi, comme la Carnegie Mellon University. Elles forment aujourd’hui 48 % des rangs des élèves de première année. Comme quoi, quand on veut, on peut.

Quelque chose à ajouter ? Dites-le en commentaire.