Élementaire, la médecine pour Watson ? Visiblement pas. Dans des diapositives présentés lors d'une conférence interne à IBM il y a quelques mois et dévoilés le 25 juillet par le site spécialisé dans le domaine de la santé STAT, des experts médicaux témoignent d'erreurs importantes dans les avis donnés par l'intelligence artificielle (IA) développée par IBM.

Cela fait maintenant trois ans que l'entreprise a lancé Watson Health, son unité destinée à révolutionner la médecine. Parmi les projets développés depuis, une IA qui recommande des traitements adaptés à des personnes atteintes d'un cancer, à partir de l'analyse de leur dossier médical.

Une recommandation potentiellement fatale

Selon le rapport, les médecins auraient trouvé "de multiples exemples de recommandations de traitements dangereux et incorrects". Dans l'un des cas par exemple, Watson préconisait pour un patient de 65 ans qui souffrait de saignements importants un médicament qui aurait aggravé sa situation, jusqu'à provoquer une hémorragie sévère... voire fatale.

Les spécialistes pointent du doigt la responsabilité des équipes d'IBM, expliquant qu'elles ont entraîné l'IA avec des dossiers de patients fictifs, et non réels, ce qui aurait faussé les analyses.

Des premiers résultats pourtant encourageants

En juin 2017 pourtant, des études avaient vanté les résultats obtenus par Watson. L'Asco, une organisation américaine rassemblant des oncologues, fournissait par exemple des résultats plutôt encourageants : les recommandations de l'IA correspondaient à celles des médecins dans 81 % dans le cas des cancers du colon, 92,7 % pour les cancers du rectal, et jusqu'à 96,4 % pour les cancers du poumon. "Cette (...) technologie tient beaucoup de ses promesses", était-il alors écrit.

Heureusement, le système qu'IBM promet avoir depuis amélioré n'est actuellement qu'en phase de test. Les médecins n'ont donc pas suivi ses recommandations, et aucun patient n'a été mis en danger.

Cet exemple nous rappelle en tout cas une fois de plus que si les nouvelles technologies peuvent simplifier l'exercice de la médecine à bien des égards, elles ne sont toujours pas prêtes de se substituer à un personnel qualifié.

Quelque chose à ajouter ? Dites-le en commentaire.