"Les vidéos qui nous parviennent du Soudan sont plus qu'horribles et j'ai du mal à comprendre un tel niveau de cruauté." Sur Instagram, le compte d'une médecin aux plus de 300 000 abonnés partage une image dans laquelle on peut voir une femme avec son enfant dans les bras et faisant face à deux soldats.

Comme elle, de nombreux internautes ont diffusé ce visuel, où l'on peut également voir l'ombre de soldats qui feraient partie des Forces de soutien rapide (FSR), arme à la main. "Je la vois, et je me vois. Son enfant, mon enfant. L'injustice de ce monde est plus que déchirante", déplore la médecin dans sa publication aimée plus de 15 000 fois.

Sur Instagram, une internaute s'identifie aux personnes de l'image générée par IA. © Instagram / Montage Les Observateurs

Sur Instagram et Facebook, de nombreux autres comptes partagent aussi cette image, soutenant qu'elle montrerait les "secondes avant la mort" de cette femme et de son enfant, tués par les FSR. Ces internautes veulent ainsi dénoncer les exactions des FSR à El-Fasher, après que les forces alliées de l'armée ont accusé les FSR d'avoir exécuté 2 000 civils dans cette ville. Mercredi, l'organisation Human Rights Watch a dénoncé des "atrocités de masse" et des "exécutions extrajudiciaires et d'autres violations graves à l'encontre de personnes fuyant El-Fasher".

Une vidéo générée par IA

Mais cette image ne montre toutefois pas le Soudan, car elle est en réalité issue d'une vidéo générée par IA. L'origine de cette vidéo est facile à retrouver : dans chacune de ces captures d’écran, on voit en bas à gauche le nom de compte Instagram "@khoubaib.bz", compte de Khoubaib Ben Ziou.

Cet internaute, qui se décrit dans sa biographie Instagram comme un producteur de contenus pour le média Al Jazeera, précise également être un spécialiste de la création de contenus par IA.

Le 28 octobre, il a partagé une vidéo dans laquelle on peut voir les ombres des soldats s'approcher de la mère et de son enfant. Mais on peut voir distinctement certaines erreurs caractéristiques d'un contenu généré par IA, comme le fait que les mains de la mère fusionnent à un moment de la vidéo, ou que le pantalon de l'enfant change légèrement de couleur.

Comme l'a également repéré le spécialiste des questions de fact-checking Tal Hagin, Khoubaib Ben Ziou avait même indiqué clairement dans sa story que ce contenu était généré par IA par une étiquette accolée en bas à droite du contenu.

À gauche, capture d'écran de la vidéo créée par @khoubaib.bz. On y voit (en rouge) les mains de la femme fusionner, ce qui prouve que l'image a été générée par IA. Son nom (en jaune) est également visible. Dans sa story publiée (à droite) le 28 octobre, l'internaute précise que ce contenu a été généré par IA (en vert en bas à droite). © Instagram, @khoubaib.bz / Montage Les Observateurs

Une image créée pour dénoncer les exactions des FSR ?

Si la première version de la publication ne mentionnait pas explicitement que ce contenu était artificiellement généré, Khoubaib Ben Ziou a ensuite modifié son texte de description pour préciser que la vidéo avait été "générée par IA".

Contacté par notre rédaction pour savoir pourquoi il avait créé cette image, Khoubaib Ben Ziou n'a pas encore répondu à nos demandes.

Récemment, d’autres images générées par IA ont été utilisées pour mobiliser l'opinion publique autour de différents sujets, même si les visuels étaient moins réalistes. En mai 2024, le visuel "All Eyes on Rafah", généré par IA par un internaute malaisien, avait fait le tour des réseaux sociaux à la suite du bombardement meurtrier, le 26 mai, d'un camp de réfugiés à Rafah, dans le sud de la bande de Gaza, par l'armée israélienne.

À l'époque, Giada Pistilli, responsable de l’éthique pour la start-up française Hugging Face et docteure en philosophie sur l’éthique de l’IA, avait déclaré à France 24 que l'omniprésence de ces images artificielles menaçait à terme de brouiller "notre mémoire collective et notre compréhension de ces conflits".