L'intelligence artificielle est au cœur de la révolution technologique que nous vivons. L'avènement d'une IA supérieure pourrait bousculer le monde comme aucune invention auparavant. Mais si son pouvoir est capté par quelques-uns, ce sera pour le pire.
Nous sommes en août 1956, en Nouvelle-Angleterre. Nichés entre le fleuve Connecticut et les Appalaches, les habitants de la petite ville de Hanover vaquent à leurs occupations sous un soleil de plomb. Le Dartmouth College, plus petite université de la prestigieuse Ivy League américaine, somnole durant la trêve estivale.
Pourtant, dans les salles de l’université, une vingtaine d’hommes font marcher leurs cerveaux à plein régime. Ils sont jeunes, souriants, et sont tous des mathématiciens particulièrement brillants. Ils ont coupé court à leurs vacances pour répondre à l’invitation de leur confrère John McCarthy et, en l’espace de deux mois et dans l’indifférence la plus totale, ils vont inventer ce que nous appelons désormais l’intelligence artificielle.
Le "Darthmouth Summer Reaserch Project on Artificial Intelligence" de 1956 est considéré comme la réunion fondatrice de l’intelligence artificielle en tant que discipline de recherche. Soixante-deux ans plus tard, où en sommes-nous ? L’IA est capable de piloter des voitures, des trains ou des avions autonomes. Elle peut être un assistant virtuel ou un chatbot. Elle peut battre les meilleurs joueurs de la planète au jeu de go ou aux échecs. Et même décider qui seront les prisonniers de demain ou gérer des drones militaires.
L’intelligence artificielle est un séisme qui va aller en s’amplifiant. Mais pouvons-nous avoir une quelconque prise sur ce qu’elle va devenir et à quel point elle va impacter nos vies ?
La petite histoire d'un programme informatique qui voulait être comme nous
Qu’est-ce que l’intelligence artificielle ? Difficile de donner une définition exhaustive. En somme, c’est la capacité d’un programme informatique à reproduire les capacités du raisonnement humain. "Les connaissances, le raisonnement, la compréhension du langage naturel et l’apprentissage" en sont les points clés, comme le souligne Alan Turing dans son fameux test. "Si l’intelligence artificielle a créé un choc sans précédent dans les sociétés humaines, ce n’est pas seulement parce qu’elle a changé le monde, c’est parce qu’elle concerne l’essence même de l’être humain : la façon dont il pense, réfléchit, crée, communique. Fabriquer de l’intelligence artificielle, c’est comme façonner un double de l’homme", écrit Charles-Edouard Bouée, PDG du cabinet de consultants Roland Berger et auteur de "La chute de l’empire humain", aux éditions Grasset, parut en mars dernier.
"On voit bien qu’une nouvelle industrie va émerger avec de nouveaux acteurs. Celui qui possédera ces acteurs dominera le reste du monde"
Dans cet ouvrage, écrit en collaboration avec le journaliste François Roche, l’auteur se met dans la peau d’une intelligence artificielle supérieure qui, en 2040, écrirait ses mémoires. De sa naissance en 1956 jusqu’à nos jours et bien après, l’IA raconte comment, peu à peu, elle a profondément impacté "l’empire humain" au fur et à mesure des années.
L’auteur considère que la période de 1956 à 2006 représente une sorte de grand hiver de l’intelligence artificielle. Non pas que les chercheurs ne se soient pas penchés sur la question durant cette période. Mais ils ont fait mûrir l’informatique dans l’ombre, affinant le concept et les mécaniques des machines capables de simuler l’intelligence humaine.
En 1997, la première manifestation évidente de la puissance de l’IA apparaît aux yeux de tous : Deeper Blue, l’ordinateur d’IBM, bat le maestro des échecs Garry Kasparov. Puis, en 2006, les mathématiciens à l’origine de la réunion du Darmouth College de 1956 se réunissent à nouveau, au même endroit, pour faire le bilan des avancées réalisées. Si la date est symbolique, tout l’intérêt de cette réunion du cinquantenaire de l’IA réside dans la liste des invités. Aux côtés des chercheurs et mathématiciens, on trouve désormais des représentants de Microsoft ou de Google, comme le chantre du transhumanisme Raymond Kurzweil, et même quelques jeunes prodiges de la Silicon Valley.
Quand les géants de la tech font la course à la domination
Si les grands investisseurs de la côte ouest américaine ont fait le déplacement, c’est qu’ils commencent à sentir que le futur se trouve ici. "Comme ils ont beaucoup de données, de puissance de calcul et de puissance financière, ils se sont rendu compte que l’IA pouvait améliorer leur rentabilité. Ensuite, ils se sont aperçus que l’IA pouvait être dangereuse pour eux et transformer l’industrie. Il y a un risque que de nouveaux acteurs apparaissent et les fassent disparaître", explique Charles-Edouard Bouée à Mashable FR.
"Ils", ce sont bien évidemment les Google, Facebook, Apple et autres géants de la tech. En 2010, la marque à la pomme achète le désormais célèbre assistant vocal Siri, avant de se procurer VocallQ (assistant virtuel) et Perceptio (reconnaissance faciale) en 2015. En 2013, Facebook crée FAIR, son pôle de recherche en intelligence artificielle dispersé dans trois laboratoires à travers le monde. Et en 2014, Google a pris possession de la société DeepMind, spécialisée dans l’intelligence artificielle, pour 400 millions de dollars.
Un joli coup de la part de la firme de Mountain View. Pour la simple et bonne raison que DeepMind, basée à Londres, est régulièrement considérée comme la société la plus performante en terme de recherche en IA. En 2015, son programme AlphaGO devient le premier IA à battre un joueur professionnel au jeu de go.
La performance, très médiatisée, entraîne un vrai changement de paradigme dans la manière dont la société civile et les gouvernements envisagent l’intelligence artificielle. C’est désormais un sujet central. "En France, depuis mars 2016, il y a un vrai changement. Cette nouvelle oreille attentive est directement liée à la bataille d’AlphaGO. Tout le monde s’est dit qu’il fallait alerter, travailler dessus", explique Laurence Devillers, chercheuse au CNRS, professeure d’informatique à la Sorbonne et auteure de l’ouvrage "Des robots et des hommes : Mythes, fantasmes et réalité", aux éditions Plon, paru en mars 2017, à Mashable FR.
Un "sujet de géopolitique stratégique"
Est-ce à dire que le développement de l’IA est concentré dans les seules mains des investisseurs de la Silicon Valley ? Vu de l’extérieur, on a le sentiment d’un développement lointain et opaque. Pourtant, partout à travers le monde, des chercheurs travaillent sur le sujet. Laurence Devillers est membre de l’IEEE, un organisme à but non lucratif international qui compte plus de 400 000 membres et réfléchit notamment "aux gardes-fous qu’il faudrait mettre dans le processus de l’IA autonome", nous explique-t-elle. Après deux réunions en Europe et aux États-Unis, son groupe de chercheurs veut se réunir en Amérique latine et en Afrique. "On a pour idée d’élargir le spectre des gens qui réfléchissent aux risques et aux avantages de l’IA." Pour le groupe, quatre leviers doivent être mis en place pour éviter la confiscation ou une mauvaise utilisation de l’IA : l’éducation à cette nouvelle technologie, le fait de trouver des gardes-fous, créer des outils informatiques pour mieux la maîtriser et inventer des lois pour la réglementer.
Laurence Devillers a notamment participé aux réflexions qui ont mené à l’écriture du rapport France IA, une opération lancée par le gouvernement pour booster la place de la France dans la course à l’intelligence artificielle. Conclusion : l’IA est désormais une "priorité nationale". Pour Charles-Edouard Bouée, c’est aussi un "sujet de géopolitique stratégique". "Les grands pays que sont désormais la Chine, les États-Unis ou la France ont déclaré que l’IA était une priorité. La Russie, qui a toujours été à la pointe de tout ce qui touche à la computer science, est aussi sur le coup. C’est un axe géopolitique à deux sens : le premier est purement militaire, puisque grâce à l’IA nous rendre bien meilleur en intelligence stratégique. Et ensuite, on voit bien qu’une nouvelle industrie va émerger avec de nouveaux acteurs. Celui qui possédera ses acteurs dominera le reste du monde."
La Singularité, l'horizon incertain
Dans une lettre ouverte, publiée le lundi 27 juillet 2015, plus d’un millier de personnalités, dont une majorité de chercheurs en IA et en robotique, appelaient à l’interdiction des armes autonomes. Parmi les signataires, on retrouvait notamment Elon Musk – qui vient de créer Neuralink, une entreprise voulant jouer un rôle de garde-fou contre une IA toute puissance – ou Stephen Hawking, qui exprime régulièrement ses inquiétudes sur l’impact que va avoir l’IA sur le monde humain.
La Singularité, c’est cette intelligence artificielle qui dépasserait celle du cerveau humain avec, comme risque, la perte du pouvoir de l’humanité sur son destin
Les armées, les États, les géants de la tech ou les start-ups : ils sont nombreux à se lancer à corps perdu dans le développement de l’IA de demain. Celle-ci n’est donc pas confisquée par une poignée de nos congénères, mais son développement, ses mécaniques et ce qu’elle apportera au monde dans les années à venir restent totalement obscurs pour les populations. C'était tout le sens de l'initiative OpenAI, dont l'objectif était le développement en open source de l'IA, ce qui permettrait d'éviter qu'une super intelligence ne soit développée par quelques entreprises ou personnes privées.
Cette "super intelligence" est surnommée la Singularité. C'est l'étape à laquelle les intelligences artificielles dépasseront celle du cerveau humain avec, comme risque, la perte du pouvoir de l'humanité sur son propre destin. Dans "La chute de l'empire humain", Charles-Edouard Bouée date symboliquement l'arrivée de la Singularité pour 2038. Nombreux sont les chercheurs à prédire l'avènement de cette super intelligence autour de ces années 2030, 2040.
Pourtant, nombreux sont les futurologues et scientifiques à prédire l’arrivée de la Singularité pour les années 2030. La Singularité, c’est cette intelligence artificielle qui dépasserait celle du cerveau humain avec, comme risque, la perte du pouvoir de l’humanité sur son destin. Pour Laurence Devillers, qui milite pour une démystification de l'IA et une meilleure éthique autour de ces questions, mais considère qu'il y a une "surévaluation de l'état de l'IA", "il faut profiter et ne pas freiner l'intelligence artificielle. Mais si c'est pour manipuler la population, vendre divers choses, on peut avoir rapidement un problème. Il faut que les gouvernants décident de ce qu'ils veulent faire de l'intelligence artificielle".
Quelque chose à ajouter ? Dites-le en commentaire.