En direct
Best of
Best of du 28 mars au 3 avril
En direct
Articles populaires
Période :
24 heures
7 jours
01.

Vers un grand tremblement de terre ? Et si les deux verrous allemands et français qui bloquent l’Europe étaient en train de céder...

02.

Comment l’éducation de nos parents détermine lourdement notre capacité à devenir leader ou non

03.

Et si Trump avait raison sur la Chine

04.

"Le coronavirus est une maladie de Blancs" ! On a entendu ça à Marseille, Dakar et Abidjan…

05.

Covid-19 : le gouvernement prépare l'opinion à l’utilisation du tracking digital pour sortir du confinement

06.

Le système de santé allemand, privé et concurrentiel, fait beaucoup mieux que les systèmes publics français et anglais

07.

Tout changer dans le monde d’après ? Le scénario noir que cela pourrait bien déclencher

01.

Belgique : le stock stratégique de masques a été détruit pour faire de la place aux migrants

02.

Philippe Juvin : "Les chefs et petits chefs de l’administration qui nous entravent face à l’urgence devront répondre de leurs actions après cette crise"

03.

Alors que tout s’effondre, l’économie et le moral, une seule bonne nouvelle : les banques ne feront pas faillite

04.

Covid-19 : le gouvernement prépare l'opinion à l’utilisation du tracking digital pour sortir du confinement

05.

Derrière le cas Lallement, l’insupportable infantilisation des Français

06.

Luc Rouban: "Cette crise sanitaire marque la fin du macronisme et le retour du clivage gauche droite"

01.

Ce risque politique énorme que prend le gouvernement en ne limogeant pas le Préfet Lallement

02.

Crise sanitaire et manque de réactivité : la France est-elle dirigée par des fonctionnaires non élus ?

03.

Philippe Juvin : "Les chefs et petits chefs de l’administration qui nous entravent face à l’urgence devront répondre de leurs actions après cette crise"

04.

Crise du coronavirus : Nicolas Sarkozy, le recours silencieux ?

05.

Nombre de morts, manque de moyens, soupçons d’euthanasie : ce qui se passe vraiment dans les Ehpad ?

06.

Covid-19 : les patients en réanimation n’ont "pas respecté le confinement" ? Didier Lallement s’excuse

ça vient d'être publié
light > High-tech
Générosité en cette période difficile
Jack Dorsey, le fondateur de Twitter, donne 1 milliard de dollars pour lutter contre le coronavirus
il y a 7 heures 17 min
light > Culture
Tristesse pour les fans
Coronavirus : l'édition 2020 du festival Hellfest de musique metal, organisé à Clisson, est annulée
il y a 8 heures 25 min
décryptage > Culture
Atlanti Culture

"Un automne de Flaubert" d'Alexandre Postel : Flaubert se libère du démon de la mélancolie. Un roman captivant

il y a 9 heures 35 min
pépites > France
Joies du confinement en province
Selon l’Insee, un Parisien sur dix a quitté Paris depuis le début du confinement
il y a 10 heures 26 min
pépites > Economie
Nouveau record
Coronavirus : 6,3 millions de salariés sont au chômage partiel en France
il y a 13 heures 3 min
light > Science
Quasar
Event Horizon Telescope : des scientifiques capturent l'image d'un trou noir émettant des jets à haute énergie
il y a 15 heures 10 min
pépites > France
Soulager les services de réanimation
Le Conseil scientifique se prononce pour la prolongation du confinement
il y a 17 heures 47 sec
décryptage > Santé
Le mal français

Ces raisons qui empêchent le secteur public français de gérer son argent efficacement

il y a 18 heures 11 min
décryptage > Economie
Production relocalisée

Ces faillites qui détermineront bien plus le monde de demain que tous les Grenelle sur un nouvel avenir...

il y a 19 heures 16 min
décryptage > Environnement
Quel cinéma

Parlementaires à la dérive : leur film s’appelle "Le jour d’après" et c’est un navet !

il y a 19 heures 53 min
light > Justice
Star des 12 Coups de midi
Christian Quesada a été condamné à trois ans de prison ferme pour pédopornographie
il y a 7 heures 44 min
décryptage > Culture
Atlanti Culture

"Oldyssey, un tour du monde de la vieillesse" de Julia Mourri et Clément Boxebeld : pour déconstruire beaucoup d'idées reçues sur "les vieux" !

il y a 9 heures 10 min
pépites > Politique
Président de la République
Coronavirus : l’Elysée annonce que le confinement sera "prolongé" au-delà du 15 avril
il y a 9 heures 56 min
pépites > International
Boulevard pour Joe Biden ?
Démocrates : Bernie Sanders arrête sa campagne et renonce à la course pour la présidentielle américaine
il y a 12 heures 38 min
pépites > Terrorisme
Enquête en cours
Attaque au couteau à Romans-sur-Isère : l’assaillant a été mis en examen pour "assassinats en relation avec une entreprise terroriste"
il y a 13 heures 28 min
pépites > Europe
Action entravée
Covid-19 : Mauro Ferrari, le président du Conseil européen de la recherche (CER), démissionne
il y a 16 heures 6 min
pépite vidéo > Santé
Mental d'acier
Les conseils de l’aventurier Mike Horn pour surmonter le confinement
il y a 17 heures 34 min
décryptage > Santé
Comparaisons

Le système de santé allemand, privé et concurrentiel, fait beaucoup mieux que les systèmes publics français et anglais

il y a 18 heures 34 min
décryptage > Santé
La bêtise aussi est pandémique

"Le coronavirus est une maladie de Blancs" ! On a entendu ça à Marseille, Dakar et Abidjan…

il y a 19 heures 28 min
décryptage > Société
Petite réflexion de confinement

Comment l’éducation de nos parents détermine lourdement notre capacité à devenir leader ou non

il y a 20 heures 48 min
© ERIC PIERMONT / AFP
© ERIC PIERMONT / AFP
Intelligence artificielle

Gaspard Koenig : "Face à l’IA, il faut redonner à l'individu la capacité de faire ses propres choix, y compris s'ils sont sous-optimaux pour la société"

Publié le 15 septembre 2019
Gaspard Koenig publie "La fin de l'individu : Voyage d'un philosophe au pays de l'intelligence artificielle" aux éditions de l'Observatoire. En exclusivité pour Atlantico, il revient sur sur les questions de l'IA.
Gaspard Koenig a fondé en 2013 le think-tank libéral GenerationLibre. Il enseigne la philosophie à Sciences Po Paris. Il a travaillé précédemment au cabinet de Christine Lagarde à Bercy, et à la BERD à Londres. Il est l’auteur de romans et d’essais, et...
Suivre
Vous devez être abonné pour suivre un auteur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Gaspard Koenig
Suivre
Vous devez être abonné pour suivre un auteur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Gaspard Koenig a fondé en 2013 le think-tank libéral GenerationLibre. Il enseigne la philosophie à Sciences Po Paris. Il a travaillé précédemment au cabinet de Christine Lagarde à Bercy, et à la BERD à Londres. Il est l’auteur de romans et d’essais, et...
Voir la bio
Ajouter au classeur
Vous devez être abonné pour ajouter un article à votre classeur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Lecture Zen
Vous devez être abonné pour voir un article en lecture zen.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Gaspard Koenig publie "La fin de l'individu : Voyage d'un philosophe au pays de l'intelligence artificielle" aux éditions de l'Observatoire. En exclusivité pour Atlantico, il revient sur sur les questions de l'IA.

Atlantico.fr : Vous expliquez dans votre livre "La fin de l'individu" à quel point l'IA peut nous "manipuler" en anticipant nos désirs et en choisissant à notre place et donc en nous ôtant une part de libre-arbitre. Le cœur du développement de l'IA est actuellement la Silicon Valley, donc les Etats-Unis. A quel point l'IA que l'on créé est-elle dépendante des valeurs de la société qui la conçoit ? Quid d'une IA chinoise par exemple ?

Gaspard Koenig : Quand on parle de "manipulation", il faut comprendre que ça n'est pas réellement l'IA qui agit mais les gens qui se manipulent eux-mêmes en donnant leurs datas. Ce que j'essaye de mettre en valeur dans le livre, c'est que l'IA en elle-même est une technologie tout à fait remarquable et parfaitement neutre idéologiquement mais qu'elle est ensuite mise en place dans des contextes dont il faut comprendre les fondements philosophiques fondamentaux.

Dans la Silicon Valley, lieu où cette technologie a été réellement industrialisée, on observe un double paradigme. D'abord celui de l'utilitarisme. Quand on dit "Make the world better", c'est qu'on le fait mieux en fonction de certains critères, à savoir souffrir le moins possible, apporter le plus de bien-être. Ca n'est pas un choix évident pour certains mais qui est fondamental dans l'utilitarisme. Le mot de passe de l'aéroport de Los Angeles est "Happy". Dans la région, il y a des smileys et des "happy" partout. C'est assumé. L'implication de cet utilitarisme, c'est qu'un système gère le bien-être du groupe : il y a un rapport plaisir maximum / peine minimum qui est recherché pour l'ensemble du groupe, même si c'est au détriment de certains individus. C'est un donc un système profondément collectiviste.

A l'inverse de la logique des produits commerciaux de l'ère industrielle où on essayait de faire plaisir au consommateur de manière individuelle, c'est le bonheur du groupe avant tout qui est recherché. L'exemple le plus simple de cela est le GPS version Google. On ne donne pas seulement le meilleur itinéraire pour vous mais celui qui permet également de décongestionner les autres routes. Il y a une logique commerciale derrière cette stratégie des entreprises. Si le GPS donne le même parcours à tout le monde, cela créé des embouteillages et plus personne n'utilisera l'application.

Ce sont des logiques utilitaristes et collectivistes qui prennent en compte l'intérêt de la communauté. Ce mot "communauté" est la référence ultime. Au-delà de l'appartenance à l'Etat, le "community" représente l'ensemble de référence pour que cette logique utilitariste puisse s'exercer.

L'autre grand présupposé idéologique est celui de la fin du libre-arbitre qui s'accompagne de toute une référence académique à la psychologie, à l'économie comportementale ou la neuroscience. L'idée de base est que l'individu est manipulable, qu'on peut même mesurer son degré de réactivité aux incitations qu'on lui propose et on s'aperçoit d'ailleurs que ça marche très bien. On peut anticiper ses réactions et ses choix, que ce soit au niveau du consommateur que de celui du citoyen.

Donc puisque nous ne sommes pas des êtres rationnels, dotés de libre-arbitre, on se sent libre en tant qu'industriel de concevoir des "nudge", de mettre dans un sillon les individus.

Vous traitez notamment de l'essor de la Chine dans le domaine de l'IA, un secteur où l'Europe est à la traine. Les inquiétudes légitimes liées au développement de l'IA dans le monde occidental ne sont-elles pas paradoxalement notre faiblesse pour imposer une IA performante et donc en accord avec nos valeurs ? Si l'on ne développe pas d'IA à l'européenne, ne risque-t-on pas d'être obligés de se soumettre à l'IA chinoise et donc à ses valeurs ?

Effectivement, la Chine n'est pas sujette à tous ces cas de conscience. Lorsqu'on parle de libre-arbitre à un Chinois, il rigole car c'est bien peu de chose par rapport au fait de s'extraire de la famine ou de bénéficier de l'éducation pour tous. De toute manière, l'individualisme n'est pas une valeur chinoise et ça n'est pas un hasard si on assiste à un retour du confucianisme sur le sol chinois. Les valeurs chinoises sont très fortes mais ne sont pas les nôtres; elles s'accommodent très bien d'une société hiérarchisée et d'une conception primordiale du bien commun. Dans cette logique-là, donner ses données personnelles est altruiste, les retenir est égoïste.

J'avais eu une discussion incroyable chez Alibaba où l'on m'expliquait qu'évidemment que les données récoltées par Alibaba pour réaliser la ville intelligente d'Hangzhou étaient mises en commun avec la police pour mieux repérer les criminels ou prédire les zones où les crimes pourraient survenir. Il ne fallait pas y voir de mauvaises intentions, il s'agissait simplement pour eux de leur devoir civique de réduire le nombre de crimes. Qui ne voudrait pas vivre dans une société parfaitement sûre ?

Quand on parle des problèmes de vie privée, c'est une manière assez faible d'aborder le sujet, l'idée chinoise est de créer des "lacs de données" regroupant l'intégralité des données des individus pour produire un bien-être maximum via le développement d'algorithmes.

C'est dans cette optique-là qu'a été développée la "note sociale" chinoise. Nous voyons ça comme une abomination et sans doute avons-nous raison mais pour eux c'est un moyen d'évaluer le niveau de confiance que l'on peut accorder à quelqu'un. Actuellement cette appréciation est faite de manière humaine et n'est donc pas fiable. En prenant en compte l'intégralité de vos actions dans la société (la politesse, la régularité dans votre paiement de factures…) on peut décider de vous accorder un visa ou un crédit.

Les Chinois ne voient donc pas ça comme quelque chose de révoltant mais comme un moyen de récompenser ceux qui se comportent le mieux pour le groupe. On voit comment cette logique peut conduire à une normalisation totale des comportements et une éradication de tout ce qui peut être déviant, y compris évidemment au niveau de la pensée critique, la Chine étant de plus répressive sur ce point.

L'attrait de l'IA est sa capacité à nous épargner les taches du quotidien et donc une part de la souffrance. On le remarque via le cas de l'essor des assistants personnels. Mais souffre-t-on moins dans un monde où la contrainte quotidienne est supprimée, où l'on est infantilisé ? Les assistants ne nous transforment-ils pas en assistés, donc sans réel libre-arbitre puisque sans possibilité de retour en arrière ?

Les assistants sont effectivement en plein développement. Il y a l'exemple frappant des réponses automatiques de Gmail depuis quelques mois. En analysant une quantité phénoménale de réponses, Gmail parvient désormais à vous proposer une réponse automatique adaptée à votre personnalité. Petit à petit, on s'habitue à cliquer sur ces réponses car souvent elles sont assez justes. On se retrouve ainsi à faire confiance à cet algorithme, tout comme à celui de Google Maps qui propose de bons trajets. Petit à petit, on abandonne notre capacité à choisir. Certaines études neuroscientifiques montrent que l'utilisation intensive d'un GPS comme Waze, par exemple chez les chauffeurs VTC, conduit à l'atrophie de certaines zones cérébrales.

Ce qui est intéressant dans le choix c'est le processus, pas le résultat. Le résultat fourni par l'IA est effectivement souvent satisfaisant mais à force de cliquer sur ce qui nous est proposé et non sur ce que l'on cherche, on se conduit soi-même comme un robot. Petit à petit, on perd la capacité à se questionner.

Les assistants personnels provoquent un autre réflexe, celui de l'humanisation du robot. Ainsi, nous-mêmes devenons des robots mais nous humanisons également les robots car nous commençons à leur parler. C'est le même phénomène que l'humanisation de votre poupée ou doudou lorsque vous êtes enfant : on parle à son IA. Le film "Her" traite justement de cette problématique.

En humanisant le robot, on tombe dans l'illusion animiste. D'un point de vue anthropologique, c'est une régression car on donne une âme à une chose. Ce que vous répond votre assistant personnel lorsque vous lui parlez, c'est simplement ce qu'ont déclaré des millions de gens avant vous, une simple moyenne. En donnant une âme au robot, on retombe donc dans les travers animistes que démontrait Bachelard. Les assistants personnels risquent de nous faire revenir à un temps assez archaïque où l'on parlait aux choses...

Personnellement je suis plutôt technophile mais maintenant que l'on a identifié ce vrai biais qu'introduisent ces technologies et les superstructures idéologiques auxquelles elles correspondent, on peut parfaitement décider de les utiliser autrement en mettant en place une autre superstructure idéologique et en redonnant à l'individu une capacité à faire ses propres choix, y compris s'ils sont sous-optimaux pour la société. Cela passe pour moi par l'instauration d'une propriété privée sur les données personnelles.

A l'heure où la propriété privée est discutée, notamment par Thomas Piketty, je pense qu'il faut au contraire se rappeler des vertus émancipatrices de la propriété et du fait qu'elle a été élargie à chaque révolution industrielle : d'abord sur la terre, puis les droits d'auteurs et les brevets. Maintenant il est temps d'élargir la propriété aux données pour retrouver la maîtrise de nos destins numériques.

Gaspard Koenig vient de publier "La fin de l’individu : voyage d’un philosophe au pays de l’intelligence artificielle" aux éditions de l’Observatoire. 

Lien vers la boutique Amazon : ICI

Les commentaires de cet article sont à lire ci-après
Articles populaires
Période :
24 heures
7 jours
01.

Vers un grand tremblement de terre ? Et si les deux verrous allemands et français qui bloquent l’Europe étaient en train de céder...

02.

Comment l’éducation de nos parents détermine lourdement notre capacité à devenir leader ou non

03.

Et si Trump avait raison sur la Chine

04.

"Le coronavirus est une maladie de Blancs" ! On a entendu ça à Marseille, Dakar et Abidjan…

05.

Covid-19 : le gouvernement prépare l'opinion à l’utilisation du tracking digital pour sortir du confinement

06.

Le système de santé allemand, privé et concurrentiel, fait beaucoup mieux que les systèmes publics français et anglais

07.

Tout changer dans le monde d’après ? Le scénario noir que cela pourrait bien déclencher

01.

Belgique : le stock stratégique de masques a été détruit pour faire de la place aux migrants

02.

Philippe Juvin : "Les chefs et petits chefs de l’administration qui nous entravent face à l’urgence devront répondre de leurs actions après cette crise"

03.

Alors que tout s’effondre, l’économie et le moral, une seule bonne nouvelle : les banques ne feront pas faillite

04.

Covid-19 : le gouvernement prépare l'opinion à l’utilisation du tracking digital pour sortir du confinement

05.

Derrière le cas Lallement, l’insupportable infantilisation des Français

06.

Luc Rouban: "Cette crise sanitaire marque la fin du macronisme et le retour du clivage gauche droite"

01.

Ce risque politique énorme que prend le gouvernement en ne limogeant pas le Préfet Lallement

02.

Crise sanitaire et manque de réactivité : la France est-elle dirigée par des fonctionnaires non élus ?

03.

Philippe Juvin : "Les chefs et petits chefs de l’administration qui nous entravent face à l’urgence devront répondre de leurs actions après cette crise"

04.

Crise du coronavirus : Nicolas Sarkozy, le recours silencieux ?

05.

Nombre de morts, manque de moyens, soupçons d’euthanasie : ce qui se passe vraiment dans les Ehpad ?

06.

Covid-19 : les patients en réanimation n’ont "pas respecté le confinement" ? Didier Lallement s’excuse

Commentaires (1)
Ecrire un commentaire
Vous devez être abonné pour rédiger un commentaire.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Nos articles sont ouverts aux commentaires sur une période de 7 jours.
Face à certains abus et dérives, nous vous rappelons que cet espace a vocation à partager vos avis sur nos contenus et à débattre mais en aucun cas à proférer des propos calomnieux, violents ou injurieux. Nous vous rappelons également que nous modérons ces commentaires et que nous pouvons être amenés à bloquer les comptes qui contreviendraient de façon récurrente à nos conditions d'utilisation.
*Toute validation est définitive, vous ne pourrez pas rééditer votre commentaire.
Jardinier
- 16/09/2019 - 08:25
Super article.
.