"Je parie 100 balles que c'est de l'IA" : dans une réponse à Jean-Luc Mélenchon sur la plateforme X le 11 mai, un compte du nom de Lapin du Futur accuse le leader de la France Insoumise d'avoir modifié avec l’intelligence artificielle une photo qu'il venait de partager de la manifestation contre l'islamophobie qui s'était tenue le jour-même à Paris.

Un des deux clichés publiés Jean-Luc Mélenchon montre au premier plan l'homme politique accompagné de plusieurs députés LFI en première ligne de la manifestation. En arrière-plan, des milliers de manifestants brandissent de nombreux drapeaux, aux couleurs de la France, de la Palestine ou encore de La France Insoumise.

Comme le compte X Lapin du Futur, dont la publication a été vue plus de deux millions de fois, plusieurs internautes soutiennent que la photo a été générée par IA, afin d'ajouter des drapeaux français dans cette manifestation contre l'islamophobie.

"Le prompt [requête faite auprès de logiciels d'IA, NDLR], c’est : 'rajoute des drapeaux français'. Aucun drapeau français n’est vrai.", soutient un autre compte, dont le post a été vu plus de 700 000 fois.

Certains internautes en veulent pour preuve des détails généralement indicateurs d'une génération d'image par IA, comme de mauvaises représentations des mains : la main d'un manifestant tenant un drapeau ne possèderait que quatre doigts, tandis qu'une autre main visible quelques mètres derrière en aurait six.

Un autre internaute a également partagé des captures d'écran d'outils de détection d'image générées par IA. Ces outils donnent des probabilités très élevées que l’image ait été générée par IA. L'outil Sightengine indiquerait que l'image serait "probablement générée par IA" avec un taux de certitude très élevé de 90 %, tandis qu'un autre outil, Decopy AI, a détecté des signes probants d'intervention IA à plus de 95 %.

Des drapeaux français bien présents

Mais cette image n'a pas été générée par IA, et aucun drapeau français ou autre élément sur l'image n'a été ajouté.

De nombreuses images prises lors de la manifestation sur la place de la Bastille ont également été publiées par plusieurs députés LFI, comme Thomas Portes ou Aly Diouara, ou par des comptes liés à la France Insoumise. Sur toutes ces photos, il est possible de voir plusieurs drapeaux français au centre de l'image.

Plusieurs vidéos diffusées par BFM ou publiées par l'Agence France-Presse sur son site et sa page Youtube confirment également la présence de plusieurs de ces drapeaux français.

Alors que certains internautes remettaient également en cause le nombre de manifestants sur la photo, le jugeant artificiellement gonflé, les mêmes photos montrent la même densité de personnes sur la place de la Bastille. La préfecture de police de Paris a décompté 3 700 manifestants, les organisateurs ont, eux, annoncé le chiffre de 15 000 participants.

Quant aux mains à quatre ou six doigts, une vérification précise de l'image montre que chaque main compte bien cinq doigts. Lorsque l'on regarde attentivement la photo, il est possible de distinguer le cinquième doigt de la main tenant le drapeau, partiellement caché par la tige qu'il soutient. Pour l'autre main, l'impression de voir un sixième doigt est liée à l'inclinaison de la main et à l'ombre provoquée sur le poignet (voir ci-dessous).

Contraste, couleurs : une détection de modifications sur la forme ? 

Contacté par notre rédaction, le service presse de La France Insoumise a réfuté les accusations de génération d'image par IA. Le mouvement précise qu'entre la photo d'origine et la photo publiée, "du contraste a été ajouté, les hautes lumières baissées et la vibrance a été accentuée". 

Ce sont en réalité ces retouches sur la forme qui ont pu tromper les outils de détection d'image générées par IA comme Sightengine, sollicités par plusieurs internautes. Contacté par la rédaction des Observateurs, l'entreprise Sightengine confirme que son outil détecte à la fois "les images entièrement générées par IA, mais aussi les photos réelles qui comportent des éléments générés ou modifiés par IA", comme des changements dans l'apparence. "Il peut simplement s’agir de modifications partielles, de retouches ou d’améliorations effectuées avec des outils d’IA générative".

L'outil Sightengine ne détecte en tout cas plus de traces d'IA dans l'image d'origine non retouchée - sans modification des contrastes et couleurs - envoyée par La France insoumise à notre rédaction - ce qui tend à confirmer que le résultat donné initialement est uniquement lié à des retouches de la photo.

"Des éléments d’IA intégrés dans presque tous les outils [d'édition d'image]"

"Aujourd’hui, il y a des éléments d’IA générative intégrés dans presque tous les outils que nous utilisons" dont les outils d'édition d'image, indique à notre rédaction Emmanuelle Saliba, en charge du bureau d'enquête au sein de l'entreprise de détection de deepfakes GetReal, fondée par l'une des références en analyse d'images et vidéos manipulées, Hany Farid. C'est le cas notamment d'outils comme Photoshop, qui "utilise l'IA pour les fonctions d’“enhance” [amélioration] ou de retouche" de l'image.

C'est aussi le cas du logiciel Lightroom, qui a été utilisé par la France Insoumise, qui précise sur son site mobiliser l'IA pour, par exemple, permettre d'améliorer la netteté des images ou ajuster "les couleurs et les tons".

Après analyse fine de l'image en différentes étapes - combinant algorithmes de détection et analyse approfondie des ombres, GetReal a déterminé de son côté que l'image publiée par Jean-Luc Mélenchon était bien "réelle". 

Plusieurs autres outils n'ont également pas détecté de génération de drapeaux par IA, comme les algorithmes de détection développés par le projet européen de détection de deepfake Vera.ai. "Aucun ne confirme la moindre génération par l'IA pour ces images", indique Denis Teyssou, responsable éditorial du Medialab de l'AFP et de l'innovation de Vera.ai. "On cherche quelque chose de tangible, notamment les traces laissées par les générateurs d'image dans le signal", explique-t-il, contrairement à d'autres détecteurs qui peuvent également indiquer qu'une image est "probablement générée par IA" à cause de retouches sur la forme.

Face à la prolifération des contenus synthétiques — audio, vidéo, images — générés par intelligence artificielle, de nombreux outils gratuits de détection sont désormais disponibles. Toutefois, leur utilisation requiert une certaine prudence car ces outils peuvent produire des faux positifs, en identifiant à tort un contenu comme artificiellement généré. Un enjeu de taille alors que la majorité de ces outils n'explicite pas leurs critères de détection ni les caractéristiques techniques ayant conduit à la classification comme contenu généré par IA.

Contactée par notre rédaction, l'entreprise Decopy AI, dont l'outil gratuit avait également affirmé que l'image était "fausse" à plus de 95 %, n'a pas encore répondu à nos demandes.