Quand ChatGPT se transforme en téléphone rose. Le célèbre agent conversationnel ChatGPT enfanté par Sam Altman & Co va entrer dans l’âge adulte et succomber à la tentation érotique.

"Nous voulons traiter les adultes comme des adultes", a affirmé Sam Altman sur X mardi 14 octobre. Dans la foulée, le patron d’Open AI a confirmé qu’une des conséquences de cette nouvelle approche serait de permettre à ChatGPT de produire du contenu érotique à partir de décembre. À condition que son interlocuteur soit majeur.

La prochaine poule aux œufs d'or ?

"C’est assez minimaliste comme annonce, mais il semblerait que ce ne soit que pour du texte écrit", estime Sven Nyholm, spécialiste d’éthique et d’intelligence artificielle. Autrement dit, OpenAI ne s’apprête pas (encore) à permettre de demander à son chatbot star de créer des images ou vidéos osées.

Même cantonnée à la production textuelle, ChatGPT deviendra le premier chatbot majeur à connotation sexuelle. Les autres grands modèles de langage - Perplexity, Claude ou encore Gemini de Google - refusent de s’aventurer sur ce terrain. "Ce n’est pas autorisé. En revanche, il est tout à fait possible d’aborder le sujet de l’érotisme ou de la sexualité d’un point de vue éducatif ou psychologique", nous a répondu Perplexity lorsque France 24 a voulu initier une discussion réservée à un public averti.

ChatGPT ne sera cependant pas complètement seul sur ce créneau. Certains chatbots de niche tentent déjà d’occuper ce terrain glissant, comme Replika - le créateur de compagnons artificiels - dans sa version payante.

L’arrivée du sexe dans les IA génératives n’était, de toute façon, qu’une question de temps, d’après les experts interrogés par France 24. Tout d'abord, "il y a cette mentalité dans la Silicon Valley que tout problème a une solution technologique. Et Mark Zuckerberg, le patron de Meta, avait affirmé qu'une manière de répondre à 'l'épidémie de solitude' dans le monde était de créer des chatbot émotionnels", souligne Sven Nyholm.

Ensuite, la règle 34 de l’Internet - célèbre référence culturelle en ligne issue des tréfonds des forums 4Chan - n’édicte-t-elle pas que si quelque chose existe, il y en aura forcément une version X ? "Il y a deux moteurs principaux pour le développement de toute nouvelle technologie : les applications militaires et la pornographie", résume Sven Nyholm.

En bon homme d’affaires, Sam Altman s’est dit qu’il fallait arriver en premier. "C’est clairement du marketing avant tout. Il sait dire ce qu’il pense que le public veut entendre. Sam Altman a vu que des individus ont essayé de contourner les restrictions sur Siri d’Apple ou Alexa d’Amazon pour avoir ce genre de conversation et il s’est dit qu’il y avait peut-être de l’argent à se faire", assure Kate Devlin, informaticienne britannique spécialisé dans les interactions humain-machine au King’s College de Londres et autrice de "Turned On : Science, Sex and Robots" ("Excités : Science, sexe et robots").

"C’est très probablement une tentative pour capter ce public, et amener davantage d’utilisateurs sur leur plateforme. À voir après comment OpenAI compte rentabiliser cette option érotique. Le plus évident serait, bien sûr, de faire payer pour avoir la possibilité de mener de telles conversations", explique Simon Thorne, spécialiste de l'intelligence artificielle à l'université de Cardiff.

Une version "premium" serait d’autant plus tentante qu'"il est établi que le porno peut être addictif", souligne Kate Devlin. Il pourrait ainsi exister un accès peu onéreux à la version érotique la plus soft de ChatGPT, puis des droits d’entrée plus élevés pour qui voudrait pousser les débats vers des ébats plus classés X.

Scandales en série

En attendant de savoir si une version érotique de ChatGPT peut se transformer en poule aux œufs d’or, Sam Altman a dû faire face à une avalanche de critiques à la suite de son annonce. "Nous ne sommes pas une police morale" à qui il reviendrait de trancher entre ce qu’il est acceptable de discuter ou non avec une IA, s’est-il défendu sur X.

Il faut dire que l’annonce d’OpenAI intervient alors que les affaires se multiplient autour de relations toxiques entre des chatbots et leurs utilisateurs. OpenAI a été poursuivi en justice en août par des parents qui affirment que ChatGPT a nourri les pulsions suicidaires de leur fils qui a fini par passer à l’acte. Un utilisateur du chatbot a aussi été convaincu d’être un génie en maths dont la mission sur Terre était de sauver l’humanité, note le site technologique TechCrunch.

"C’est le problème principal avec ces sexbots : quels sont les effets sur les personnes déjà vulnérables ?", reconnaît Kate Devlin.

OpenAI a assuré que des garde-fous seraient mis en place pour éviter les dérives. Piètre protection pour Simon Thorne qui met en garde contre les pratiques de "jailbreaking", c'est-à-dire de débridage des modèles de langage. "On sait qu’il est souvent possible de contourner les limites fixées par les créateurs de ces chatbots. Dans le cas de discussions à caractère érotique, cela peut aboutir à la création de contenus problématiques, voire illégaux", explique Simon Thorne.

Pas sûr non plus que laisser une entreprise privée décider de ce qui est sexuellement acceptable soit la meilleure idée, soulignent les experts interrogés. "Sachant que les lois sur ce qui est permis ou pas varient souvent d’un pays à l’autre, il va être très difficile pour OpenAI d’édicter des règles générales", note Simon Thorne.

La start-up américaine pourra être tentée de ne prendre aucun risque et limiter au maximum les pratiques que chatGPT trouvera acceptable. "Par exemple, aux États-Unis, il y a actuellement un virage très conservateur qui revient sur les droits des femmes et veut limiter l’exposition de la communauté LGBT. Que se passera-t-il si chatGPT intègre ces biais ?", s’interroge Kate Devlin.

Sexbot + incels = mélange explosif

En effet, "une étude britannique récente ont démontré que les jeunes sont de plus en plus enclins à considérer ces chatbots comme de vraies personnes dont les dires sont crédibles", avertit Simon Thorne. Une génération qui, arrivée à l’âge adulte, pourrait être amené à croire sur parole ChatGPT si cette IA venait à affirmer, par exemple, qu’il n’est pas acceptable d’avoir une discussion érotique homosexuelle.

Ces chatbots sont aussi connus pour aller dans le sens de l’utilisateur. "Ils sont souvent configurés sur le modèle des centres d’appel des services clientèles qui offrent des intéractions très amicales et coopératives. En outre, les créateurs de ces IA veulent faire plaisir aux utilisateurs afin qu’ils continuent à utiliser leur produit", résume Simon Thorne.

Un comportement qui peut être dangereux dans la sphère sexuelle. "Prenons par exemple le mouvement des 'incels', ces jeunes hommes qui sont sexuellement frustrés et se plaignent des femmes. Si un chatbot va dans leur sens pour les satisfaire, cela risque de renforcer leur conviction que les femmes doivent agir de même", prévient Sven Nyholm.

Si Kate Devlin reconnaît un "risque majeur", elle soutient que ce côté bienveillant des sexbots peut être une aubaine pour les femmes hétérosexuelles. "Dans un environnement numérique de plus en plus toxique, cela peut être sexuellement plus épanouissant d’avoir une interaction érotique avec une IA plutôt qu’avec des personnes réelles qui risquent de vous harceler en ligne", affirme-t-elle.

Mais même si ces discussions peuvent être bénéfiques, veut-on vraiment livrer ses fantasmes les plus intimes à une IA gérée par un géant américain. "Beaucoup de gens ne réalisent pas que les données qu’ils saisissent dans ChatGPT sont transmises à OpenAI", souligne Kate Devlin.

Si Sam Altman réussit ainsi à mener une OPA sur ce secteur, OpenAI possèderait "sans doute la plus grande quantité de données sur les préférences érotiques des gens", ajoute Simon Thorpe. De qui écrire un prochain scénario de la série Black Mirror sur les dystopies technologiques ?