Le gouvernement allemand a rendu publiques mercredi les premières pistes d'un code éthique destiné à régir à l'avenir le fonctionnement des voitures autonomes. Évidemment, la protection de toute vie humaine, sans distinction, y est une priorité.
Aussi prometteuses qu'inquiétantes pour nombre d'entre nous, les voitures autonomes soulèvent encore un certain nombre de questions d'ordre éthique. La principale reste la suivante : comment les intelligences artificielles embarquées évalueront-elles la "meilleure" décision à prendre – pour ne pas dire la moins catastrophique – lorsqu'elles se retrouveront confrontées à une situation qui se concluera inévitablement par un accident ? En bref, comment décideront-t-elles de la personne à sauver en priorité ? Son passager ? L’autre automobiliste ? Les piétons ? Faut-il prendre en compte leur âge ? Leur degré de "tort" ?
Elle ne devra pas "choisir qui sacrifier", mais seulement déterminer la solution qui fera le moins de blessés
Le gouvernement allemand a ainsi chargé une commission d'éthique de remettre un rapport pour tenter d’éclaircir la situation. Publié en juin dernier sur la base des recommandations d’un panel d’experts en droit et en technologies, celui-ci, présenté mercredi 23 août par le ministre allemand des Transports Alexander Dobrindt, tente d'établir les règles que devront respecter les constructeurs comme les conducteurs de voitures autonomes à l’avenir.
Si les considérations éthiques posées par les véhicules autonomes ont déjà amené d'autres pays à réfléchir sur le sujet, à l'instar des États-Unis, ce rapport pourrait bien servir de modèle à l'élaboration de standards internationaux en la matière.
Sans surprise, la protection de la vie humaine y est érigée en priorité absolue. L’intelligence artificielle devra donc s’assurer de prendre les décisions qui protègent l’homme coûte que coûte, avant toutes considérations relatives aux infrastructures ou aux animaux présents dans les alentours, qu'ils soient de compagnie ou non. Et cas d’accident inévitable avec un être humain, aucune décision ne devra être prise par l'IA sur la base de l’âge, du sexe, de la condition physique ou mentale des victimes potentielles. D'une certaine manière, une voiture autonome ne devra pas "choisir qui sacrifier", mais seulement déterminer la solution qui fera le moins de blessés.
La question de la responsabilité
Une autre problématique ressort lorsque l'on se projète sur les routes du futur peuplées de voitures automnes : celle de la responsabilité. Dans son compte-rendu, l’Allemagne estime que celle-ci revient au propriétaire du véhicule, à moins que l’accident ne soit causé par une défaillance du système. "Le développement technologique obéit au principe d’autonomie personnelle, ce qui signifie que les individus jouissent d'une liberté d’action pour laquelle ils sont responsables", explique le rapport. Mais si cette conclusion a du sens à l'heure où les voitures "autonomes" ne le sont en réalité qu'à moitié – dans le cas de Tesla, l'Autopilot est en réalité un système d'assistance à la conduite autonome –, elle pourrait appaître totalement obsolète le jour où nous n'aurons même plus à poser nos mains sur le volant au cours d'un trajet.
Par ailleurs, le code éthique préconise l’installation d’un dispositif de surveillance dans les véhicules, à l’instar des boîtes noires dans les avions, ainsi que la garantie qu’à tout moment, le passager pourra prendre le contrôle de la voiture. Pour cela, insiste le rapport, les communications entre l’homme et l’intelligence artificielle doivent encore être améliorées. Enfin, toutes les données collectées par les constructeurs devront être, au prélable, soumises au consentement du propriétaire du véhicule.
En mai dernier, l’Allemagne avait autorisé les constructeurs automobiles à tester leurs voitures autonomes sur les routes du pays. En obligeant les passagers à se tenir derrière le volant pour conduire en cas d’urgence.
Quelque chose à ajouter ? Dites-le en commentaire.