Peut-on faire confiance à l’IA si on lui demande des conseils pour gérer sa vie personnelle ?

Atlantico : Est-il possible de faire confiance à l'IA pour gérer notre vie personnelle ? Peut-on faire confiance à l'IA si on lui demande des conseils pour gérer son quotidien ou pour aider nos proches ?

Alexander Polonsky : Il n’est pas possible de faire confiance à l’IA pour notre vie personnelle. Pour correctement interpréter les réponses que l’IA va transmettre, il y a une formule mathématique qui va agir.  Cela n’est pas si éloigné que la tâche d’un moteur de recherche classique qui fait une correspondance avec l'information qui existe et qui a été générée par quelqu'un en amont. Normalement, ce sont des humains qui ont créé cette information.

Ce processus est basé sur une énorme formule, avec un milliard de paramètres appris grâce à des exemples de contenus. Cette correspondance, liée au travail des algorithmes, n'est pas parfaite. 

Certains comportements, comme les règles grammaticales de langue, peuvent être assimilées et limitent les fautes d’orthographe ou de grammaire.

En revanche, le raisonnement, l'intelligence émotive ou même la connaissance sont des choses bien plus complexes que la grammaire et la linguistique. L'IA n’a pas pu enregistrer cela parfaitement. Cette richesse et cette complexité des émotions, des sentiments ou des éléments de la vie personnelle sont trop grandes pour être encodées dans une formule informatique ou mathématique. 

L’IA, lorsqu’elle est interrogée pour apporter des solutions dans nos existences ou sur notre vie personnelle, peut commettre des fautes, inventer des choses qui n’existent pas ou raconter n’importe quoi en donnant des conseils qui n’ont pas de sens ou même proposer des solutions dangereuses. 

Il faut donc être vigilant lorsque l’on souhaite interroger l’IA sur sa vie personnelle. L’intelligence artificielle n’a aucune légitimité et crédibilité dans ce domaine. 

Il n’y pas forcément de logique derrière les réponses qui seront données par l’IA dans ce domaine. Il est possible d’obtenir des réponses différentes en posant la même question d’ailleurs. Cela n’inspire pas beaucoup de confiance.

Utiliser l’IA pour aider des frères et des sœurs qui se disputent, ou pour chercher des solutions face à un couple qui tente de nous entraîner dans ses situations conflictuelles ou pour  savoir comment une femme doit gérer les demandes de son nouveau mari est-il une bonne chose ? L’IA peut-elle apporter des solutions plus pragmatiques ou est-ce dangereux et une mauvaise méthode ? 

Il s’agit clairement d’une mauvaise méthode. Interroger l’IA pour avoir des réponses et des solutions sur sa vie personnelle n’est pas une bonne idée. Il faut comprendre que la réponse de l’IA sera basée sur des comparaisons d’articles et de publications sur des blogs ou sur des réseaux sociaux. Il n’est pas possible d’accorder une quelconque valeur aux réponses qui seront apportées. Les réponses peuvent manquer de cohérence et de logique. 

Cela peut devenir dangereux si on surinterprète les réponses apportées par l’IA dans ce domaine et si on considère cela comme un avis d'expert, ce qui n'est pas du tout le cas. 

L’IA et les nouveaux outils comme ChatGPT n’ont-ils pas une forme de sagesse et d’analyse raisonnée par rapport aux humains englués dans le stress de nos vies personnelles ? Est-ce que finalement recourir à l'IA dans ce domaine n'est pas une forme de raisonnement sage ? 

Les réponses apportées par l’IA peuvent être marquées du sceau de la sagesse. Mais dans le domaine de nos vies personnelles et pour notre quotidien, il n’est pas possible de faire confiance, de manière aveugle, à l’IA. Il faut garder une certaine distance et se rendre compte que toutes les réponses ont été générées par un algorithme. 

Il n’est pas certain que les réponses soient réellement la voie de la sagesse ou qu’elles soient réellement utiles. Les réponses de l’IA sur nos vies personnelles peuvent conduire à commettre des erreurs. Des journalistes de la BBC qui ont étudié les interactions avec l’IA ont notamment fait une expérience saisissante et inquiétante dans ce domaine. L’IA a recommandé au journaliste de tuer sa femme. Un homme a aussi été poussé au suicide après avoir longuement échangé avec l’IA. 

Des précautions doivent donc être prises face aux conseils et aux déclarations de l’IA sur les enjeux liés à notre vie personnelle.

Il y a de très nombreux biais au coeur de l’IA. Il faut donc avoir une grande précaution face aux réponses de l’intelligence artificielle. Cela doit plutôt nous aider et nous inciter à réfléchir nous mêmes, à ouvrir d’autres options. Il faut plutôt se tourner vers de véritables experts que vers l’IA. 

Le fait de mettre à l'épreuve les raisonnements judicieux des chatbots pour nos vies personnelles pourrait être un risque de plus en plus important. Est-ce que les concepteurs dans le domaine de l'IA sont eux-mêmes conscients de ce risque et songent-ils à renforcer les protections et à améliorer l'IA face à ces demandes ?

Ils sont très très conscients de ce risque. Le concepteur d’OpenAI a déjà évoqué ce phénomène. L’IA est une technologie très impressionnante et performante. Mais il faut l'utiliser de manière responsable.

Via la retrieval augmented generation, il sera possible d'utiliser l’IA pour trouver des informations qui sont fiables et de demander à l’intelligence artificielle de faire une synthèse de ces informations-là.

Cela est beaucoup plus pertinent et moins risqué que de poser directement la question et de se baser uniquement sur l’IA.