Dans un accident inévitable, qui sauveriez-vous, le piéton ou vos passagers? L'enfant ou la personne âgée? Avec Moral Machine, des chercheurs ont testé les dilemmes moraux auxquels feront face les voitures autonomes, qui ne sont déjà plus de la science-fiction.
Jean-François Bonnefon, chercheur au Centre national de la recherche scientifique, a participé à la conception de Moral Machine, un jeu/test en ligne (Nouvelle fenêtre). Il propose une série de scénarios où le joueur doit décider, comme le ferait la voiture autonome, qui sacrifier dans un accident.
Le postulat de départ de l’expérience, explique Jean-François Bonnefon, est qu’il existe un consensus, qui veut que chacun souhaite sauver le plus grand nombre de personnes si la voiture ne peut éviter l’accident. Mais il a observé que ce choix était mis à mal dans certaines situations.
« On avait une expérience où il y avait un enfant dans la voiture. Tout à coup, les gens se mettaient à douter, douter du fait qu’il faille sacrifier un enfant pour sauver plusieurs adultes. Cela nous avait mis la puce à l’oreille. Cela semblait suggérer que toutes les vies n’avaient pas la même valeur. »
L’Asie sauverait les aînés
En étudiant les réponses des internautes selon les régions du globe, il a observé que celles en provenance d’Asie montraient une tendance moins forte que le reste du monde pour sauver les enfants, lors d'un accident. Dans l’hémisphère Sud et en France, la préférence pour sauver les femmes était plus forte qu’ailleurs.
Les constructeurs, pas pressés de décider
Jean-François Bonnefon explique que les constructeurs automobiles ne se sont pas encore penchés sur l’éthique de leurs créations autonomes : « Leur métier, c’est de réduire le risque, pas le distribuer. »
Des réponses observées par les chercheurs peuvent choquer.
« Certaines préférences individuelles ne sont pas réellement acceptables d’un point de vue moral. [...] La plupart des gens sacrifient les sans-abri dans nos scénarios ou les personnes en surpoids. »