Ce que les constructeurs de voiture sans chauffeur devront faire pour que les humains leur accordent leur confiance

Atlantico : Les voitures et autres véhicules autonomes s'apprêtent à remplacer, nous dit-on, les véhicules conduits par des humains. Un des problèmes majeurs soulevés par la généralisation de leur présence sur les routes est celui de la confiance des piétons et des autres usagers de la route qu'il sera difficile d'accorder à des algorithmes.   Pourtant, on peut imaginer qu'il y aura moins d'accidents avec des ordinateurs comme conducteurs qu'avec des humains. Pourquoi alors avons-nous peur de leur présence sur les routes ?

Jean-François Bonnefon : Il faut distinguer la confiance ressentie par les passagers de la voiture, et celle ressentie par les autres usagers, comme les piétons. Pour les passagers, savoir qu'une voiture autonome a moins d'accidents qu'une voiture conduite par un humain "moyen" n'est pas nécessairement rassurant, dans la mesure où ils se considèrent probablement eux-mêmes comme bien supérieurs à la moyenne, et donc meilleurs conducteurs que la voiture autonome. Pour les autres usagers, le problème est un peu différent. On leur a dit que la voiture autonome aurait moins d'accidents, mais on ne leur a pas dit quel type d'accident elle aura. Ils peuvent par exemple imaginer que la voiture autonome élimine les accidents qui sont dangereux pour ses passagers, mais n'élimine pas particulièrement les accidents qui sont dangereux pour les autres usagers.

Stéphane Hugon : Il est intéressant de constater que l’automobile se place au croisement de plusieurs cultures. C’est à la fois un objet technique qui apporte une réponse logique à un besoin objectif, se déplacer. Sur ce point, la confiance se gagne par une démonstration rationnelle. Et les usagers et conducteurs font déjà confiance à tout un ensemble de systèmes techniques. Mais l’automobile est beaucoup plus que cela. Puisqu’il s’agit aussi d’une expérience de fusion entre une personne et une prothèse mécanique, le conducteur a le sentiment que la voiture est la continuité de son propre corps. D’ailleurs, l’analogie de la voiture avec une forme humaine ou animale a été largement utilisée dans la publicité - les phares sont les yeux, la calandre est une bouche… Donc, la réticence des personnes vis-à-vis des algorithmes est compréhensible. Peut-on convaincre un public avec des arguments rationnels pour une expérience qui ne l’est pas, et qui est totalement symbolique et presque surnaturelle?

Notre culture technique est largement influencée par un imaginaire occidental qui a toujours été partagé par une fascination pour les machines tout autant qu'une détestation des mêmes machines. Nous avons en outre presque quatre vingt ans de science fiction qui nous apprend que la création se retourne toujours contre le créateur, la technique finit par pervertir le geste humain. Et on peut voir là une sorte de tabou resté de notre héritage judéo-chrétien que transmet l’idée que la création est un geste divin, et que se substituer à lui entraîne un risque de catastrophe. Ceci est très européen. En Asie ce sentiment n’est pas du tout le même. Le marché des robots par exemple est plus développé, et cela vient du fait d’une acceptabilité culturelle plus forte, fondée sur une continuité du naturel et de l’artificiel qu’on peut trouver dans l’animisme notamment. Donc on peut dire que la peur dont vous parlez est certes irrationnelle, mais qu’elle est profondément installée dans notre culture.

Une étude publiée dans le journal Nature Human Behaviour par Azim Shariff explique ce phénomène par le fait que la confiance du piéton repose sur son empathie avec le conducteur humain. Pourra-t-on développer une sorte d'empathie avec la machine ? A quelles conditions ?

Jean-François Bonnefon : Azim Shariff a raison, et je le dis d'autant plus volontiers que nous avons publié ensemble l'étude dont vous parlez. Il est vrai que les piétons ont une bonne idée de la façon dont les humains conduisent, et ne s'attendent pas à de trop grosses surprises de leur part. Pour ce qui est des voitures sans conducteur, en revanche, ils ne savent pas à quoi s'attendre. Il semble difficile de développer une réelle "empathie" avec les machines, si par là vous voulez dire une certaine capacité à partager leurs émotions (elles n'en ont pas) ou leurs processus de décision (qui nous sont complètement étrangers). Heureusement, nous n'avons pas besoin de cela pour leur faire confiance. Si nous réalisons petit à petit que les voitures autonomes ne nous surprennent pas, la confiance viendra, même si leurs "pensées" nous sont inaccessibles.

Stéphane Hugon : L’empathie avec la machine est une expérience assez nouvelle pour nous, mais elle émerge sensiblement aujourd’hui. Ceci passe notamment par les expériences de la vie quotidienne et en particulier ces objets que nous avons au plus près de nous. Les téléphones et tablettes ne sont déjà plus des outils, ils sont bien plus que cela. Puisqu’ils sont dépositaires de mémoire, ils sont le support de lien et d’expériences relationnelles qu'ils incarnent de manière tangible. Observez comment la voix, qui devient de plus en plus un moyen d’interagir avec notre environnement technique, a pour conséquence de subjectiver, c’est-à-dire d’humaniser les objets avec lesquels on parle. On leur donne un nom. Ils peuvent nous suivre (les drones), ou se réveiller à notre passage (lumières, portes…). De plus, le langage est porteur de nouvelles relations, on entend parler des éleveurs de robots pour l’IA, on parle de société des objets (les objets connectés échangent des informations entre eux). Certain ont même parlé du sex appel de l’inorganique. Donc cette empathie est présente, et elle se développe.

Une des solutions possibles résiderait dans la "communication" des décisions de l'ordinateur vers le piéton. Drive.ai, une entreprise qui développe des voitures autonomes, a par exemple pensé à installer des signaux lumineux sur le véhicule pour indiquer les décisions prises par la machine aux autres usagers. Est-ce qu'un tel dispositif vous parait suffisant pour établir de la confiance ?

Jean-François Bonnefon : Pourquoi pas, cela peut-être utile lors de la période ou nous ferons connaissance avec ces voitures. Mais la confiance se construira principalement par le temps, tout simplement. Une fois passé le cap des premières rencontres, nous n'aurons peut-être plus besoin de ces outils de communication. Cela n'enlève rien à l'intérêt de ces outils à court terme, toutefois, pour la période où les voitures autonomes et nous nous apprivoiserons mutuellement.

Stéphane Hugon : Ce genre de dispositif va certainement participer à développer un sentiment de confiance. Mais la confiance est justement un sentiment, qui peut faire culture si des indicateurs clairs sont énoncés, et si l’expérience se place en continuité avec d’autres expériences connues. Cela signifie que c’est plutôt l’inconnu qui est angoissant. Les voitures à moteur thermique ne sont devenues légitimes que parce qu’elles reprenaient la fonction et la formes d’autres voitures, à cheval, dont elles ont repris bon nombre de codes. Pour que les nouveaux dispositifs soient efficaces, ils doivent emprunter des formes connues, plus anciennes, afin d’éviter la mécompréhension et le rejet. C’est pour cela que l’innovation dans ce domaine est progressive, et devra avoir comme agenda les usages des publics plutôt que les possibilités techniques. Cette dimension s’est déjà avérée sur d'autres marchés et d’autres expériences d’usages par le grand public.

La confiance entre piétons et conducteurs repose également sur la contrainte de la loi et du code de la route. Quelles contraintes juridiques appliquées aux véhicules autonomes peut-on imaginer pour que la confiance règne ?

Stéphane Hugon : La loi se substitue rarement à des usages et à des formes culturelles, elle vient plutôt les révéler et les mettre en forme. Je doute que la confiance se décrète par la production d’un texte. En revanche, la loi devra garantir le sentiment de la protection, et délimiter des situations d’usages afin de faciliter l’émergence d’une culture autour de ces expériences de mobilité. La situation est singulière. Nul ne pourra ignorer la loi, y compris les robots et les voitures intelligentes. Mais si une telle loi existe, pourrait-on envisager une sanction à l’encontre de l’algorithme qui aurait enfreint un interdit? Comment punit-on un robot? Une voiture serait-elle tentée par la transgression? Aura-t-elle un sentiment de culpabilité?