Rachat stratégique : faut-il s'inquiéter des recherches de Facebook sur le contrôle de nos cerveaux ?

Atlantico : Y a-t-il des nécessités, ou des buts nobles, justifiant de vouloir augmenter l’Homme dans certains aspects? Les objectifs que Facebook propose font-ils  partie de ces buts?

Jean-Michel Besnier : Mark Zuckerberg désire un monde de plus en plus « fluide » ; on peut ne pas souhaiter la « liquidité » qu’il entend imposer aux relations humaines. L’interface cerveau-machine qu’il appelle de ses vœux est une bénédiction pour le tétraplégique qui pourra commander par la seule pensée l’évolution d’une souris sur l’écran d’un ordinateur et, par là même, engager une communication avec son environnement. Mais elle serait une malédiction pour les humains valides qui n’auraient plus besoin de communiquer par la parole avec leurs semblables puisque des machines répondraient instantanément à leurs attentes. Nous sommes humains parce que nous parlons et que nous pouvons échanger grâce à des mots qui peuvent être ambigus, polysémiques et dire des réalités informelles qu’on ne peut réduire à des formats ou des protocoles. Les interfaces cerveau-machines nous imposeront de réagir à des signaux et ne nous permettront plus le dialogue qui est le privilège de l’humain. Les technologies qu’appellent Facebook sont des facteurs de diminution de l’humain en nous, mais assurément pas le gage d’une augmentation cognitive. Ce qui m’inquiète, c’est que l’on ne s’en avise pas davantage !

Peut-on projeter, qu’à terme, le développement de telles technologies intimement connectées à nos pensées fasse régresser plus loin la sphère où nos comportements ne sont pas surveillés? 

La question de la surveillance qui nous obsède n’est pas fondamentale, parce que le développement de ces technologies de plus en plus intrusives prouve que « la vie intérieure » et privée fera de plus en plus défaut. Et Zuckerberg l’a parfois dit de manière brutale : la vie privée est chose du passé. Un jour prochain, il y aura des interfaces cerveau-cerveau qui rendront totalement inutile le langage et qui interdiront toute retenue de la part de nos pensées, lesquelles seront de toute façon de moins en moins consistantes. C’est de cela qu’il faut se préoccuper aujourd’hui. Chaque jour, nos comportements sont un peu plus réduits aux mécanismes que régissent nos machines.

Une peur intelligente de telles technologies devrait-elle porter sur l’utilisation négative qui pourraient en être faite par les acteurs, privés comme publiques, qui les contrôleraient? 

 Y-aura-t-il encore longtemps des responsables derrière les technologies cognitives ? Des responsables qui pourraient rendre raison des limitations de nos libertés ? Ce n’est pas sûr. Nous développons des machines qui apprennent grâce à nos données, collectées automatiquement, et qui se complexifient au fur et à mesure qu’elles engrangent ces données en plus grand nombre. Cette description n’est pas paranoïaque. Elle annonce une ère d’irresponsabilité et d’angoisse, puisque la peur ne saura plus sur quoi se diriger. En attendant, est-on prêts à restreindre les interfaces cerveau-machine à la seule réparation thérapeutique des handicaps et à les interdire aux militaires et aux transhumanistes ?

En quoi peut-on autrement remettre en question cette innovation à venir?

Seule la prise de conscience du monde invivable que nous préparons pourrait nous sauver. Un monde liquide, parce qu’il ne serait constitué que de flux de communication, un monde qui viserait une transparence intégrale et une prévision obsessionnelle des comportements : qui voudrait de ce monde ? Et pourtant, on s’esbaudit à propos de la moindre innovation technologique qui nous éloigne de tout idéal de convivialité et de liberté.