En direct
Best of
Best of du 5 au 11 octobre
En direct
Flash-actu
Articles populaires
Période :
24 heures
7 jours
01.

Les musulmans persécutés en France ? La réalité par les chiffres

02.

Privatisations : On pourra acheter des actions de la FDJ mais ça ne sera pas le loto

03.

Quand Eric Zemmour déclare que les homosexuels "choisissent leur sexualité"

04.

La politique est un sport à 28. Et à la fin, c’est la Grande-Bretagne qui gagne

05.

Eric Zemmour saisit la Cour Européenne des Droits de l'Homme

06.

Les policiers arrêtent un jeune de 17 ans en pleine relation sexuelle avec une jument

07.

Assassinat de Samat : mais au fait, que nous disent les paroles de ses "chansons" ?

01.

Brexit : pas si fou, Boris Johnson supprime la quasi-totalité des droits de douane à l’entrée du Royaume-Uni

02.

Omar Sy, Pascal Boniface, Rokhaya Diallo, pourriez-vous regarder la photo d'Havrin Khalaf, violée et assassinée par les supplétifs d'Erdogan ?

03.

La famille d’Ophelie Winter a trouvé un moyen de lui parler, Laura Smet de forcer Laeticia Hallyday à négocier, la fiancée de Cyril Lignac de le voir sans ses enfants (à elle); Triple baptême en Arménie (mais sans Kanye) pour les enfants de Kim Kardashian

04.

Privatisations : On pourra acheter des actions de la FDJ mais ça ne sera pas le loto

05.

Comment Carlos Ghosn a été expulsé de la tête de Renault en quelques heures

06.

A Londres, des militants du mouvement Extinction Rebellion auraient été payés 450 euros par semaine

01.

Emmanuel Macron saura-t-il éviter le piège tendu par les islamistes (et aggravé par les idiots utiles du communautarisme) ?

02.

Ressusciter LR : mission impossible pour Christian Jacob ?

03.

Voile : toutes celles qui le portent ne sont pas islamistes, mais aucune ne peut décider seule de sa signification

04.

L’islamo-paranoïa des défenseurs auto-proclamés des musulmans français

05.

Omar Sy, Pascal Boniface, Rokhaya Diallo, pourriez-vous regarder la photo d'Havrin Khalaf, violée et assassinée par les supplétifs d'Erdogan ?

06.

Question à Christophe Castaner : combien y-a-t-il en France de rabbins, de pasteurs et de curés radicalisés ?

ça vient d'être publié
décryptage > Culture
Atlanti-Culture

"Avant que j'oublie" de Anne Pauly : un magnifique roman sur le deuil

il y a 50 min 12 sec
pépites > Justice
Blanchiment aggravé
Patrick Balkany condamné à 5 ans de prison et à 10 ans d'inéligibilité, 4 ans de prison ferme sans mandat de dépôt pour son épouse Isabelle
il y a 1 heure 38 min
pépites > Terrorisme
Lutte antiterroriste
Un projet d'attentat "inspiré du 11 septembre" a été déjoué en France
il y a 2 heures 26 min
décryptage > Société
Laïcité

Sur le voile, Jean-Michel Blanquer a dix longueurs d’avance sur Emmanuel Macron

il y a 3 heures 11 min
décryptage > Media
L'art de la punchline

Un 17 octobre en tweets : Jean-Sébastien Ferjou en 280 caractères

il y a 4 heures 20 min
décryptage > France
Effets

Loi alimentation : le gouvernement persiste malgré les effets pervers

il y a 6 heures 12 min
décryptage > Europe
Brexit

La politique est un sport à 28. Et à la fin, c’est la Grande-Bretagne qui gagne

il y a 6 heures 34 min
décryptage > Consommation
Non on ne vous parle pas d’Apple

Cosmic Crisp, la nouvelle pomme américaine qui part à l’assaut du monde

il y a 7 heures 22 min
décryptage > International
Merci Barack

Comment Poutine a réussi à subtiliser le Moyen-Orient au nez et à la barbe des Etats-Unis

il y a 7 heures 54 min
décryptage > Media
L'art de la punchline

Un 16 octobre en tweets : Jean-Sébastien Ferjou en 280 caractères

il y a 23 heures 44 min
pépite vidéo > International
Culiacan
L'arrestation du fils d'El Chapo entraîne des affrontements violents entre la police et le cartel de Sinaloa
il y a 1 heure 4 min
rendez-vous > Consommation
Atlantic-tac
Quand on fait mieux que le superlatif et quand on s’illumine comme une éclipse : c'est l’actualité des montres en veille de Brumaire
il y a 2 heures 11 min
pépites > France
Casse-tête budgétaire
L'Assemblée nationale valide la suppression de la taxe d'habitation
il y a 2 heures 56 min
pépites > France
TER
Un mouvement social "inopiné" à la SNCF perturbe la circulation
il y a 3 heures 21 min
décryptage > Société
Bonne gouvernance

Pour sortir (enfin) de la crise des services publics

il y a 5 heures 48 min
rendez-vous > France
Géopolitico-scanner
Destin méditerranéen, immigration, communautarisme, délinquance : Marseille sans fatalisme mais sans langue de bois, entretien avec un homme politique qui monte, Bruno Gilles
il y a 6 heures 23 min
décryptage > Economie
Règle commune

Taxation des multinationales : l’OCDE fait un petit pas sur un très grand chemin

il y a 6 heures 52 min
décryptage > Religion
Persécutions ?

Les musulmans persécutés en France ? La réalité par les chiffres

il y a 7 heures 38 min
décryptage > Europe
UE

Brexit : petites leçons pour l’Europe (et pour la stabilité des démocraties occidentales) après 3 ans de chaos politique britannique

il y a 8 heures 11 min
pépite vidéo > Faits divers
En vert et contre tous
Des activistes d'Extinction Rebellion violemment dégagés du toit d'un métro à Londres
il y a 1 jour 28 min
© ERIC PIERMONT / AFP
© ERIC PIERMONT / AFP
Intelligence artificielle

Gaspard Koenig : "Face à l’IA, il faut redonner à l'individu la capacité de faire ses propres choix, y compris s'ils sont sous-optimaux pour la société"

Publié le 15 septembre 2019
Gaspard Koenig publie "La fin de l'individu : Voyage d'un philosophe au pays de l'intelligence artificielle" aux éditions de l'Observatoire. En exclusivité pour Atlantico, il revient sur sur les questions de l'IA.
Gaspard Koenig a fondé en 2013 le think-tank libéral GenerationLibre. Il enseigne la philosophie à Sciences Po Paris. Il a travaillé précédemment au cabinet de Christine Lagarde à Bercy, et à la BERD à Londres. Il est l’auteur de romans et d’essais, et...
Suivre
Vous devez être abonné pour suivre un auteur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Gaspard Koenig
Suivre
Vous devez être abonné pour suivre un auteur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Gaspard Koenig a fondé en 2013 le think-tank libéral GenerationLibre. Il enseigne la philosophie à Sciences Po Paris. Il a travaillé précédemment au cabinet de Christine Lagarde à Bercy, et à la BERD à Londres. Il est l’auteur de romans et d’essais, et...
Voir la bio
Ajouter au classeur
Vous devez être abonné pour ajouter un article à votre classeur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Lecture Zen
Vous devez être abonné pour voir un article en lecture zen.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Gaspard Koenig publie "La fin de l'individu : Voyage d'un philosophe au pays de l'intelligence artificielle" aux éditions de l'Observatoire. En exclusivité pour Atlantico, il revient sur sur les questions de l'IA.

Atlantico.fr : Vous expliquez dans votre livre "La fin de l'individu" à quel point l'IA peut nous "manipuler" en anticipant nos désirs et en choisissant à notre place et donc en nous ôtant une part de libre-arbitre. Le cœur du développement de l'IA est actuellement la Silicon Valley, donc les Etats-Unis. A quel point l'IA que l'on créé est-elle dépendante des valeurs de la société qui la conçoit ? Quid d'une IA chinoise par exemple ?

Gaspard Koenig : Quand on parle de "manipulation", il faut comprendre que ça n'est pas réellement l'IA qui agit mais les gens qui se manipulent eux-mêmes en donnant leurs datas. Ce que j'essaye de mettre en valeur dans le livre, c'est que l'IA en elle-même est une technologie tout à fait remarquable et parfaitement neutre idéologiquement mais qu'elle est ensuite mise en place dans des contextes dont il faut comprendre les fondements philosophiques fondamentaux.

Dans la Silicon Valley, lieu où cette technologie a été réellement industrialisée, on observe un double paradigme. D'abord celui de l'utilitarisme. Quand on dit "Make the world better", c'est qu'on le fait mieux en fonction de certains critères, à savoir souffrir le moins possible, apporter le plus de bien-être. Ca n'est pas un choix évident pour certains mais qui est fondamental dans l'utilitarisme. Le mot de passe de l'aéroport de Los Angeles est "Happy". Dans la région, il y a des smileys et des "happy" partout. C'est assumé. L'implication de cet utilitarisme, c'est qu'un système gère le bien-être du groupe : il y a un rapport plaisir maximum / peine minimum qui est recherché pour l'ensemble du groupe, même si c'est au détriment de certains individus. C'est un donc un système profondément collectiviste.

A l'inverse de la logique des produits commerciaux de l'ère industrielle où on essayait de faire plaisir au consommateur de manière individuelle, c'est le bonheur du groupe avant tout qui est recherché. L'exemple le plus simple de cela est le GPS version Google. On ne donne pas seulement le meilleur itinéraire pour vous mais celui qui permet également de décongestionner les autres routes. Il y a une logique commerciale derrière cette stratégie des entreprises. Si le GPS donne le même parcours à tout le monde, cela créé des embouteillages et plus personne n'utilisera l'application.

Ce sont des logiques utilitaristes et collectivistes qui prennent en compte l'intérêt de la communauté. Ce mot "communauté" est la référence ultime. Au-delà de l'appartenance à l'Etat, le "community" représente l'ensemble de référence pour que cette logique utilitariste puisse s'exercer.

L'autre grand présupposé idéologique est celui de la fin du libre-arbitre qui s'accompagne de toute une référence académique à la psychologie, à l'économie comportementale ou la neuroscience. L'idée de base est que l'individu est manipulable, qu'on peut même mesurer son degré de réactivité aux incitations qu'on lui propose et on s'aperçoit d'ailleurs que ça marche très bien. On peut anticiper ses réactions et ses choix, que ce soit au niveau du consommateur que de celui du citoyen.

Donc puisque nous ne sommes pas des êtres rationnels, dotés de libre-arbitre, on se sent libre en tant qu'industriel de concevoir des "nudge", de mettre dans un sillon les individus.

Vous traitez notamment de l'essor de la Chine dans le domaine de l'IA, un secteur où l'Europe est à la traine. Les inquiétudes légitimes liées au développement de l'IA dans le monde occidental ne sont-elles pas paradoxalement notre faiblesse pour imposer une IA performante et donc en accord avec nos valeurs ? Si l'on ne développe pas d'IA à l'européenne, ne risque-t-on pas d'être obligés de se soumettre à l'IA chinoise et donc à ses valeurs ?

Effectivement, la Chine n'est pas sujette à tous ces cas de conscience. Lorsqu'on parle de libre-arbitre à un Chinois, il rigole car c'est bien peu de chose par rapport au fait de s'extraire de la famine ou de bénéficier de l'éducation pour tous. De toute manière, l'individualisme n'est pas une valeur chinoise et ça n'est pas un hasard si on assiste à un retour du confucianisme sur le sol chinois. Les valeurs chinoises sont très fortes mais ne sont pas les nôtres; elles s'accommodent très bien d'une société hiérarchisée et d'une conception primordiale du bien commun. Dans cette logique-là, donner ses données personnelles est altruiste, les retenir est égoïste.

J'avais eu une discussion incroyable chez Alibaba où l'on m'expliquait qu'évidemment que les données récoltées par Alibaba pour réaliser la ville intelligente d'Hangzhou étaient mises en commun avec la police pour mieux repérer les criminels ou prédire les zones où les crimes pourraient survenir. Il ne fallait pas y voir de mauvaises intentions, il s'agissait simplement pour eux de leur devoir civique de réduire le nombre de crimes. Qui ne voudrait pas vivre dans une société parfaitement sûre ?

Quand on parle des problèmes de vie privée, c'est une manière assez faible d'aborder le sujet, l'idée chinoise est de créer des "lacs de données" regroupant l'intégralité des données des individus pour produire un bien-être maximum via le développement d'algorithmes.

C'est dans cette optique-là qu'a été développée la "note sociale" chinoise. Nous voyons ça comme une abomination et sans doute avons-nous raison mais pour eux c'est un moyen d'évaluer le niveau de confiance que l'on peut accorder à quelqu'un. Actuellement cette appréciation est faite de manière humaine et n'est donc pas fiable. En prenant en compte l'intégralité de vos actions dans la société (la politesse, la régularité dans votre paiement de factures…) on peut décider de vous accorder un visa ou un crédit.

Les Chinois ne voient donc pas ça comme quelque chose de révoltant mais comme un moyen de récompenser ceux qui se comportent le mieux pour le groupe. On voit comment cette logique peut conduire à une normalisation totale des comportements et une éradication de tout ce qui peut être déviant, y compris évidemment au niveau de la pensée critique, la Chine étant de plus répressive sur ce point.

L'attrait de l'IA est sa capacité à nous épargner les taches du quotidien et donc une part de la souffrance. On le remarque via le cas de l'essor des assistants personnels. Mais souffre-t-on moins dans un monde où la contrainte quotidienne est supprimée, où l'on est infantilisé ? Les assistants ne nous transforment-ils pas en assistés, donc sans réel libre-arbitre puisque sans possibilité de retour en arrière ?

Les assistants sont effectivement en plein développement. Il y a l'exemple frappant des réponses automatiques de Gmail depuis quelques mois. En analysant une quantité phénoménale de réponses, Gmail parvient désormais à vous proposer une réponse automatique adaptée à votre personnalité. Petit à petit, on s'habitue à cliquer sur ces réponses car souvent elles sont assez justes. On se retrouve ainsi à faire confiance à cet algorithme, tout comme à celui de Google Maps qui propose de bons trajets. Petit à petit, on abandonne notre capacité à choisir. Certaines études neuroscientifiques montrent que l'utilisation intensive d'un GPS comme Waze, par exemple chez les chauffeurs VTC, conduit à l'atrophie de certaines zones cérébrales.

Ce qui est intéressant dans le choix c'est le processus, pas le résultat. Le résultat fourni par l'IA est effectivement souvent satisfaisant mais à force de cliquer sur ce qui nous est proposé et non sur ce que l'on cherche, on se conduit soi-même comme un robot. Petit à petit, on perd la capacité à se questionner.

Les assistants personnels provoquent un autre réflexe, celui de l'humanisation du robot. Ainsi, nous-mêmes devenons des robots mais nous humanisons également les robots car nous commençons à leur parler. C'est le même phénomène que l'humanisation de votre poupée ou doudou lorsque vous êtes enfant : on parle à son IA. Le film "Her" traite justement de cette problématique.

En humanisant le robot, on tombe dans l'illusion animiste. D'un point de vue anthropologique, c'est une régression car on donne une âme à une chose. Ce que vous répond votre assistant personnel lorsque vous lui parlez, c'est simplement ce qu'ont déclaré des millions de gens avant vous, une simple moyenne. En donnant une âme au robot, on retombe donc dans les travers animistes que démontrait Bachelard. Les assistants personnels risquent de nous faire revenir à un temps assez archaïque où l'on parlait aux choses...

Personnellement je suis plutôt technophile mais maintenant que l'on a identifié ce vrai biais qu'introduisent ces technologies et les superstructures idéologiques auxquelles elles correspondent, on peut parfaitement décider de les utiliser autrement en mettant en place une autre superstructure idéologique et en redonnant à l'individu une capacité à faire ses propres choix, y compris s'ils sont sous-optimaux pour la société. Cela passe pour moi par l'instauration d'une propriété privée sur les données personnelles.

A l'heure où la propriété privée est discutée, notamment par Thomas Piketty, je pense qu'il faut au contraire se rappeler des vertus émancipatrices de la propriété et du fait qu'elle a été élargie à chaque révolution industrielle : d'abord sur la terre, puis les droits d'auteurs et les brevets. Maintenant il est temps d'élargir la propriété aux données pour retrouver la maîtrise de nos destins numériques.

Gaspard Koenig vient de publier "La fin de l’individu : voyage d’un philosophe au pays de l’intelligence artificielle" aux éditions de l’Observatoire. 

Lien vers la boutique Amazon : ICI

Les commentaires de cet article sont à lire ci-après
Articles populaires
Période :
24 heures
7 jours
01.

Les musulmans persécutés en France ? La réalité par les chiffres

02.

Privatisations : On pourra acheter des actions de la FDJ mais ça ne sera pas le loto

03.

Quand Eric Zemmour déclare que les homosexuels "choisissent leur sexualité"

04.

La politique est un sport à 28. Et à la fin, c’est la Grande-Bretagne qui gagne

05.

Eric Zemmour saisit la Cour Européenne des Droits de l'Homme

06.

Les policiers arrêtent un jeune de 17 ans en pleine relation sexuelle avec une jument

07.

Assassinat de Samat : mais au fait, que nous disent les paroles de ses "chansons" ?

01.

Brexit : pas si fou, Boris Johnson supprime la quasi-totalité des droits de douane à l’entrée du Royaume-Uni

02.

Omar Sy, Pascal Boniface, Rokhaya Diallo, pourriez-vous regarder la photo d'Havrin Khalaf, violée et assassinée par les supplétifs d'Erdogan ?

03.

La famille d’Ophelie Winter a trouvé un moyen de lui parler, Laura Smet de forcer Laeticia Hallyday à négocier, la fiancée de Cyril Lignac de le voir sans ses enfants (à elle); Triple baptême en Arménie (mais sans Kanye) pour les enfants de Kim Kardashian

04.

Privatisations : On pourra acheter des actions de la FDJ mais ça ne sera pas le loto

05.

Comment Carlos Ghosn a été expulsé de la tête de Renault en quelques heures

06.

A Londres, des militants du mouvement Extinction Rebellion auraient été payés 450 euros par semaine

01.

Emmanuel Macron saura-t-il éviter le piège tendu par les islamistes (et aggravé par les idiots utiles du communautarisme) ?

02.

Ressusciter LR : mission impossible pour Christian Jacob ?

03.

Voile : toutes celles qui le portent ne sont pas islamistes, mais aucune ne peut décider seule de sa signification

04.

L’islamo-paranoïa des défenseurs auto-proclamés des musulmans français

05.

Omar Sy, Pascal Boniface, Rokhaya Diallo, pourriez-vous regarder la photo d'Havrin Khalaf, violée et assassinée par les supplétifs d'Erdogan ?

06.

Question à Christophe Castaner : combien y-a-t-il en France de rabbins, de pasteurs et de curés radicalisés ?

Commentaires (1)
Ecrire un commentaire
Vous devez être abonné pour rédiger un commentaire.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Nos articles sont ouverts aux commentaires sur une période de 7 jours.
Face à certains abus et dérives, nous vous rappelons que cet espace a vocation à partager vos avis sur nos contenus et à débattre mais en aucun cas à proférer des propos calomnieux, violents ou injurieux. Nous vous rappelons également que nous modérons ces commentaires et que nous pouvons être amenés à bloquer les comptes qui contreviendraient de façon récurrente à nos conditions d'utilisation.
*Toute validation est définitive, vous ne pourrez pas rééditer votre commentaire.
Jardinier
- 16/09/2019 - 08:25
Super article.
.