Quelles décisions vitales devront prendre les futures voitures sans chauffeur ? Une enquête montre dans Science qu’il va être difficile de trancher sur "la morale des voitures autonomes". Un portail Internet nous permet d’y réfléchir.
ÉTHIQUE. Les voitures autonomes comme la Google car, qui ont déjà parcouru des milliers de kilomètres en conditions réelles, ont tout pour plaire. Selon de précédentes études, elles auraient le potentiel de fluidifier le trafic, réduire la pollution et éliminer 90% des accidents de la route Cependant, trois chercheurs de l’Institut des études avancées de Toulouse (IAST) (CNRS), de l’université de l’Oregon et du Media Lab du MIT (États-Unis), soulèvent aujourd’hui un point épineux, une question essentielle qu’on ne peut plus éluder : comment vont-être programmées les voitures autonomes lorsqu’il s’agira de choisir entre épargner la vie de passagers ou des piétons ?
"La morale des voitures autonomes s'est rapidement imposée à nous comme un sujet à l'intersection de nos intérêts", explique Jean-François Bonnefon, psychologue, spécialiste de morale à l’IAST, coauteur de l’étude, avec Azim Shariff, psychologue, spécialiste de la coopération, et Iyad Rahwan, informaticien, spécialiste des effets sociaux transformateurs des nouvelles technologies. Tous trois ont donc mené l’enquête et livrent leurs résultats dans un article publié dans la revue Science. Ils nous plongent dans des questions éthiques dérangeantes, qu’on ne se posait pas avant, du temps où la voiture avait un chauffeur…
Dans leur publication les chercheurs posent le débat en schémas. Une intersection, une voiture, des piétons, trois cas.
"Les voitures 'autonomes' actuelles procurent une aide au conducteur, mais ne peuvent pas encore faire de choix moral", explique Jean-François Bonnefon, mais demain ? Même si ces situations sont rares et n’arriveront peut-être jamais, les programmeurs des véhicules sans chauffeurs vont devoir inclure ces règles de décisions dans leurs algorithmes. Le tout, en ne provoquant ni l’indignation du public ni le découragement des acheteurs. En effet, qui voudra acheter un véhicule qui sacrifiera son passager en cas de situation dramatique ?
Les algorithmes pour les VSC créent un dilemme social"
Entre juin et novembre 2015, les trois chercheurs ont proposé six questionnaires en ligne à 1928 participants portant sur les trois schémas A, B et C. Résultats : "plus de 75% des sondés sont moralement convaincus qu’il faut utiliser les voitures sans chauffeur qui prendraient la décision de sacrifier les passagers pour le bien du plus grand nombre." Et même, 50% sont toujours convaincus même lorsque le passager est avec ses enfants ! Mais l’esprit de sacrifice s’arrête là... lorsqu’on interroge les intentions des sondés. La plupart souhaiterait en effet acheter pour leur usage un VSC programmé pour protéger les passagers et que les autres achètent une voiture autonome qui protègent les piétons. "Bien que tout le monde soit d’accord pour minimiser le nombre de pertes sur la route (sacrifier le plus petit nombre de gens), ces mêmes personnes ont une propension à vouloir rouler dans un VSC qui les protégerait à tous prix". En d’autres termes : "Les algorithmes pour les VSC créent un dilemme social."
Obtenir un profil moral de nos décisions
Quelle transparence auront les constructeurs? "C'est très difficile à dire, mais il y aura peut-être une pression forte sur les constructeurs pour rendre publics leurs choix de programmation, livre le chercheur toulousain qui ne préfère cependant pas s’exprimer sur la position actuelle des fabricants de véhicules autonomes, et certains pourraient décider de faire de la transparence un argument commercial." Faudrait-il donc imposer une réglementation ? Oui mais laquelle ? D'après l'étude, les sondés sont opposés à une réglementation obligatoire pour "sauver le plus grand nombre". "Pour faire coïncider des algorithmes moraux avec les valeurs humaines, nous devons commencer une discussion collective sur l'éthique de l’AVS", concluent donc les auteurs.
Pour susciter la réflexion ils ont ainsi ouvert un portail Internet qui permet d'explorer une infinité de scénarios plus complexes, mettant en scène des personnes jeunes ou âgées, des femmes enceintes et bien d'autres. "Les personnes qui se connectent peuvent obtenir un profil moral de leurs décisions après avoir répondu à un certain nombre de scénarios, et peuvent même créer leurs propres scénarios pour les proposer aux internautes et en discuter sur le forum du site."
Source : Sciences & Avenir