logo

Facebook utilise une IA pour détecter les risques de suicide chez ses utilisateurs américains

Dans un post mis en ligne le 1er mars, Facebook a indiqué utiliser une IA pour détecter les personnes susceptibles d'attenter à leur vie. Pour le moment, le dispositif n'a été déployé qu'aux États-Unis.

Facebook intensifie son action contre les suicides de ses utilisateurs. Le réseau social a annoncé sur sa newsroom qu'il utilisait désormais, pour le moment uniquement aux États-Unis, une intelligence artificielle capable de détecter des messages dont le contenu est jugé inquiétant et peut laisser penser à une future tentative de suicide.

Les propos empreints d'une forme de tristesse ou de douleur sont les principaux concernés par cette détection. 

L'IA s'adresse ensuite directement à l'utilisateur : "Est-ce que tout va bien" ou "Je m'inquiète pour toi" sont deux phrases qu'elle peut par exemple adresser. Une équipe de Facebook a également la possibilité de s'emparer du dossier pour offrir des solutions à la personne concernée, parmi lesquelles une mise en relation avec des spécialistes.

"La prévention du suicide est un point sur lequel nous travaillons pour construire une communauté plus sûre", soutient Vanessa Callison-Burch, une responsable de Facebook, dans le post publié dans la newsroom

Facebook Live aussi concerné 

En plus de ce dispositif consacré aux messages et aux publications classiques, le réseau social va aussi concentrer ses efforts sur les Facebook Live. Lorsqu'une personne diffusera en direct, les spectateurs pourront faire part de leur inquiétude quant à l'état du diffuseur. Facebook proposera alors une aide immédiate à l'individu si besoin.

Toutes ces mesures s'inscrivent dans un projet de lutte plus globale contre les suicides, mené par l'entreprise depuis 10 ans, comme l'explique Vanessa Callison-Burch. Selon elle, un suicide a lieu toutes les 40 secondes dans le monde. Et Parmi eux, certains – comme celui de Nakia Venant, une adolescente de 14 ans –  ont eu lieu sur Facebook. 

Quelque chose à ajouter ? Dites-le en commentaire.