IA et libertés individuelles : pourra-t-on préserver notre cerveau face aux progrès de la science et de l’intelligence artificielle ?

Les bouleversements économiques ne sont qu’un aspect presque mineur du basculement du monde. La vraie prise de pouvoir, on le sait, est celle des esprits. En ce domaine aussi le politique est en train de perdre pied. Les pauvres techniques de propagande mises au point par le marketing et les régimes totalitaires du xxe siècle vont faire pâle figure à côté des capacités de prise de contrôle de nos cerveaux.

La convergence de l’IA et des sciences du cerveau pose d’immenses questions. Comme l’explique le créateur d’AlphaGo, être expert en IA sans être spécialiste des neurosciences est bien difficile. L’interpénétration de l’IA avec nos cerveaux fait émerger une économie de la manipulation. Yael Eisenstat qui a travaillé pour la CIA puis pour Facebook admet : « Facebook vous connaît mieux que la CIA ne vous connaîtra jamais. Facebook en sait plus sur vous que vous ne vous connaissez vous-même. »

Cynthia Fleury ajoute : « Demain les sciences comportementales nous permettront de mieux comprendre la démocratie que la théorie politique ! »

Peut-on être libres quand l’IA perce facilement notre cerveau

Si l’IA peut nous manipuler avec notre accord, la liberté ne devient-elle pas un concept flou, comme le suggère le philosophe Gaspard Koenig ?

Nous rentrons dans un monde où il y aura de moins en moins de différences entre l’humain et la machine, l’online et l’offline, le virtuel et le physique. Échapper à la technologie deviendra aussi difficile que d’échapper à la gravitation terrestre.

Les dictatures du xxe siècle ont cassé beaucoup d’êtres humains mais ne les ont jamais rendus totalement transparents et n’ont jamais pu les manipuler. Nous rentrons dans l’univers de la gouvernementalité algorithmique.

L’IA permet aux géants du numérique, à leurs clients et aux services de renseignement, de comprendre, d’influencer et de manipuler nos cerveaux : cela remet en cause les notions de libre arbitre, de liberté, d’autonomie et d’identité, et ouvre la porte au totalitarisme neurotechnologique. Eric Schmidt, l’ancien président de Google, résume dans le Wall Street Journal l’économie de la manipulation cérébrale : « La plupart des gens ne souhaitent pas que Google réponde à leurs questions, ils veulent que Google leur dise quelle est la prochaine action qu’ils devraient faire. »

Les neurosciences associées à l’économie comportementale ont montré qu’il est possible de jouer sur l’inconscient des citoyens pour modifier leur comportement. Cela s’appelle le Nudge, qui signifie de pousser quelqu’un à faire quelque chose de son plein gré sans l’y forcer. Le Nudge utilise tous nos biais cognitifs pour nous manipuler pour notre bien. Ce paternalisme libéral est-il bien démocratique ?

Puisque nos comportements individuels sont intégralement déterminés par le jeu des processus biochimiques et des influences extérieures, notre Déclaration des droits de l’homme est bâtie sur du sable. Pour Harari : « Les individus s’habitueront à se voir comme un assemblage de mécanismes biochimiques constamment surveillé et guidé par un réseau d’algorithmes électroniques. Des habitudes du monde libéral comme les élections démocratiques deviendront obsolètes, puisque Google sera en mesure de mieux représenter mes opinions politiques que moi-même. » Nous entrons dans un monde magique où nos désirs seront anticipés par les IA qui peupleront nos appareils connectés.

Le monde numérique aggrave encore la situation. Harari décrit parfaitement comment l’Intelligence Artificielle nous pousse à déléguer au quotidien notre capacité de décision à la machine. Dans le monde de l’IA le flux des data nous installe confortablement dans notre silo personnalisé, qu’il s’agisse d’un itinéraire en voiture ou d’une discussion sur Facebook. Nous devenons les esclaves de notre propre bien-être. Un jour, nous laisserons l’IA décider de notre carrière et de nos amours. Nous tous prisonniers des algorithmes que nous aurons contribué à alimenter. Quelle nouvelle histoire l’humanité va-t-elle se raconter pour remplacer ses libertés perdues ? Il faut reconstruire et réenchanter l’individu menacé de toute part et trouver les moyens de mettre la technologie au service de la liberté.

La guerre économique se joue sur la conquête de nos comportements : notre cerveau est la nouvelle frontière. Gaspard Koenig s’est inquiété des conséquences du Nudgital, terme qui fusionne le Nudge et le mot capital. Julia Puaschunder, professeur de Sciences sociales à la George Washington University, en déduit une critique de l’économie comportementale à l’ère de l’IA : si le comportement de l’individu est prévisible alors il est aussi manipulable. Plus nous partageons l’information et plus nous émettons de données, plus nous fournissons des données aux plateformes et plus nous nous prêtons en retour au Nudge. Plus nous acceptons le Nudge et plus nous gagnons en bien-être. Google par exemple nous épargne un effort cognitif gigantesque. Mais la puissance de ChatGPT fait entrevoir les nouveaux risques de « Police de la pensée ». 

Extrait du livre de Laurent Alexandre, « La guerre des intelligences à l’heure de ChatGPT », publié aux éditions Jean-Claude Lattès

Liens vers la boutique : cliquez ICI et ICI