Jean-François Bonnefon est devenu un spécialiste mondialement reconnu de la question des dilemmes moraux des véhicules autonomes. Portrait d’un psychologue qui aimait les maths.
Par Valérie Ravinet, journaliste.
Un bureau, deux chaises et un ordinateur. Jean-François Bonnefon s’excuse de vous accueillir dans une pièce aussi vide de Toulouse School of Economics (TSE). Il vient de poser ses valises, de retour d’une année passée à Boston, au MIT (Massachusetts Institute of Technology). Il y avait rejoint son ami Iyad Rahwan pour encadrer et accélérer les projets sur les décisions à dimension morale, au cœur de ses recherches.
Du contenu des travaux, il ne dira rien, ils sont encore en cours et confidentiels. Mais il se réjouit de pouvoir rester en lien avec l’équipe de son collègue qui s’est déplacée à l’Institut Max Planck de Berlin. Car ces recherches sont le sens donné à sa vie.
Psychologie et mathématiques : la révélation
Après ses années lycée, Jean-François Bonnefon suit la filière classique des classes préparatoires scientifiques. « J’étais bon en math et dans notre système, si vous avez la capacité de suivre ce type de parcours, on vous y envoie, sans se demander ce qui va se passer ensuite », observe celui qui deviendra docteur en psychologie. Durant sa seconde année, il prend conscience que les perspectives professionnelles offertes par sa formation ne correspondent pas à ce qu’il souhaite devenir. L’année suivante, il suit des cours dans toutes les facs de Toulouse pour « ouvrir ses horizons ». Un cours de psychologie, « un bon espace pour avoir de l’oxygène, comprendre ce qu’on veut faire », et c’est le déclic : il étudiera la psychologie de ceux qui font des maths.
Rencontre avec les économistes
La suite de son parcours de formation est linéaire et aboutit à une thèse dédiée aux questions d’interface entre la psychologie et l’intelligence artificielle (IA). Nous sommes au début des années 2000, durant lesquelles les chercheurs en IA interrogent les psychologues pour comprendre la résolution des exceptions dans l’esprit humain et s’en inspirer pour programmer les machines. En 2004, le jeune docteur entre au CNRS et partage son temps entre le département Psychologie de l’Université Toulouse – Jean Jaurès et l’Institut de recherche en informatique de Toulouse (IRIT). « Une expérience formidable qui m’a permis de comprendre la culture de recherche en IA côté informatique », se souvient-il. En 2009, le chercheur prend la direction du laboratoire Cognition, Langues, Langage, Ergonomie (CLLE) à Toulouse et poursuit son travail sur la manière dont les humains parviennent à passer outre les exceptions dans leurs raisonnements ; puis il chemine vers une réflexion autour des processus de décisions. Il rencontre alors les économistes de TSE et choisit de les rejoindre.
Entre l’homme et le véhicule, qui prend les commandes ?
Jean-François Bonnefon s’intéresse aux décisions à caractère moral ou éthique, « pas seulement ce qui est le mieux pour un individu, mais aussi comment il prend en compte les intérêts des autres, ce qu’il peut ou ne peut pas faire d’un point de vue moral ». Et un jour, alors qu’il se déplace sur le campus d’Abou Dabi en véhicule autonome avec son confrère Iyad Rahwan, la question de la décision morale dans ce type de voiture s’impose. « Il parait insoluble de savoir, d’un point de vue moral, ce qu’une voiture autonome devrait faire dans une situation d’accident. Choisit-on de percuter un homme âgé, une fillette ou un chat ? Deux femmes médecins ou toute une famille ? ». Rejoints par Azim Shariff, les chercheurs travaillent à la création de la plateforme Moral Machine.
C’est cette aventure que Jean-François Bonnefon raconte dans l’ouvrage « La voiture qui en savait trop », à paraitre cet automne aux éditions Humensciences.
Passionnante, la recherche a connu un retentissement mondial, avec des parutions dans les revues les plus prestigieuses, de Nature à Science, mais aussi dans les médias adressés au grand public à travers le monde. Reconnu par ses pairs, Jean-François Bonnefon est nommé président d’un groupe d’experts en charge de la réflexion sur le véhicule sans chauffeur, au sein de la Commission européenne. Avec, comme objectif, d’informer le législateur européen des directions à prendre pour réguler les dimensions éthiques dans ces nouveaux modes de transport.
En parallèle de ses activités à TSE, Jean-François Bonnefon a pris la responsabilité de la chaire « moral AI » de l’institut toulousain dédié à l’intelligence artificielle ANITI. À la question « comment décririez-vous votre quotidien ? », l’homme qui parcourt le monde et multiplie les échanges sourit et répond : « le plus souvent, c’est être face à mon écran et écrire ».
Article paru dans L'Exploreur le 17/09/2019 (intégralité de l'article)
