En direct
Best of
Best of du samedi 2 au vendredi 8 novembre
En direct
Flash-actu
Articles populaires
Période :
24 heures
7 jours
01.

Et si l’univers était une sphère fermée ? C’est ce que pourraient suggérer des observations de l’Agence spatiale européenne

02.

Julie Graziani : « Criminaliser les idées et les mots, c’est empêcher de réfléchir »

03.

Euphémisation du réel : les évidences inaudibles de Zineb El Rhazoui et Julie Graziani

04.

Vérité des chiffres : il faudrait ouvrir une centrale nucléaire par jour dans le monde pour respecter l’objectif d’émissions carbone zéro en 2050

05.

Emmanuel Macron et sa névrose de l’ennemi

06.

Alibaba tente d’acclimater le « Single Day » en France, sans TVA ni droits de douane

07.

Mais pourquoi la pollution en Inde est-elle bien pire qu’en Chine ?

01.

Euphémisation du réel : les évidences inaudibles de Zineb El Rhazoui et Julie Graziani

02.

Et si l’univers était une sphère fermée ? C’est ce que pourraient suggérer des observations de l’Agence spatiale européenne

03.

Vérité des chiffres : il faudrait ouvrir une centrale nucléaire par jour dans le monde pour respecter l’objectif d’émissions carbone zéro en 2050

04.

Les aventuriers du bon sens perdu : ce que la tempête autour de Julie Graziani nous dit des blocages intellectuels du monde actuel

05.

Présomption d’innocence et tribunaux sont-ils indispensables si l’accusé a vraiment l’air méchant ?

06.

Julie Graziani : « Criminaliser les idées et les mots, c’est empêcher de réfléchir »

01.

"Islamophobie" : question choc sur une nouvelle névrose nationale

02.

Les aventuriers du bon sens perdu : ce que la tempête autour de Julie Graziani nous dit des blocages intellectuels du monde actuel

03.

30 ans après la chute du mur de Berlin, les communistes européens sont encore bien vivants

04.

Oui, nous voulons des plages islamiques !

05.

"Quand des Juifs partent c'est la France qu'on ampute" a dit Macron. Mais il a omis de préciser qui ampute…

06.

LR : l’illusion de la renaissance par le local

ça vient d'être publié
pépite vidéo > Politique
Journée de commémorations
11 novembre : Emmanuel Macron inaugure un monument en mémoire des soldats morts
il y a 4 heures 14 min
pépites > International
Incertitude
Bolivie : Morales démissionne, le pays plonge dans l'incertitude
il y a 5 heures 40 min
pépites > Terrorisme
Expulsion
La Turquie va expulser 11 djihadistes français dans les prochains jours
il y a 6 heures 57 min
décryptage > Europe
Les entrepreneurs parlent aux Français

Margrethe Vestager : Démission !! Le Breton vite ! Mais nous sauvera-t-il ?

il y a 8 heures 37 min
décryptage > Economie
(Piètres) raisons

1,3% de croissance en France : pourquoi pas plus ? Quatre (piètres) raisons et une obligation

il y a 12 heures 3 min
décryptage > Politique
Bonnes feuilles

La droite française est-elle maudite ? : les causes historiques de la malédiction de la droite

il y a 12 heures 26 min
décryptage > Environnement
Immobilité

Mais pourquoi la pollution en Inde est-elle bien pire qu’en Chine ?

il y a 12 heures 47 min
décryptage > Media
Totalitarisme de la gentillesse

Julie Graziani : « Criminaliser les idées et les mots, c’est empêcher de réfléchir »

il y a 13 heures 15 min
décryptage > Politique
Esprit du 11 novembre, es-tu là ?

Emmanuel Macron et sa névrose de l’ennemi

il y a 14 heures 19 min
pépites > Economie
Renouveau
Le Medef pourrait changer de nom et être rebaptisé "Entreprises de France"
il y a 1 jour 39 min
Grossière erreur...
Etats-Unis : un jeune américain choque Twitter après s'être déguisé en Jawad Bendaoud pour Halloween
il y a 4 heures 45 min
light > Culture
Hommage
Abou Dabi inaugure sa nouvelle avenue Jacques Chirac
il y a 6 heures 28 min
décryptage > Politique
Vraiment ?

Accusé d'être une association islamiste, le CCIF affirme que cela n'a jamais été prouvé. Vraiment ?

il y a 8 heures 21 min
décryptage > Sport
Réel succès ?

Cette maladie du tennis français qui se cache derrière la victoire de la France en finale de la FED Cup

il y a 11 heures 49 min
décryptage > Santé
Bonnes feuilles

Les mystères médicaux autour de l’affaire de la nouvelle formule du Levothyrox

il y a 12 heures 26 min
rendez-vous > High-tech
La minute tech
Au secours ? Amazon veut rendre Alexa intelligente en traitant nos données personnelles
il y a 12 heures 39 min
décryptage > Religion
Nouvelle ère

Cette nouvelle ère politique que vient s’ouvrir avec la marche contre l’islamophobie

il y a 12 heures 52 min
décryptage > Atlantico business
Atlantico-Business

Alibaba tente d’acclimater le « Single Day » en France, sans TVA ni droits de douane

il y a 14 heures 13 min
décryptage > Histoire
L'air du temps

11 Novembre : il y a 100 ans débutaient les années folles… Aujourd’hui, les années vaches (sacrées) folles ?

il y a 14 heures 31 min
light > Finance
Bon investissement
Actions de la Française des Jeux : attention aux arnaques aux sites frauduleux
il y a 1 jour 1 heure
© Reuters
© Reuters
Du pareil au même

Racistes, grossières, partiales… Pourquoi le monde risque d'être fort déçu des capacités des futures intelligences artificielles

Publié le 16 septembre 2016
Une étude de l'université de Princeton montre que les intelligences artificielles qui sont développées actuellement risquent d'intégrer exactement les mêmes préjugés que nous. Ceci s'explique par le fait que ces intelligences apprennent des humains.
Arpad Rimmel est enseignant-chercheur en informatique à Supélec.
Suivre
Vous devez être abonné pour suivre un auteur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Arpad Rimmel
Suivre
Vous devez être abonné pour suivre un auteur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Arpad Rimmel est enseignant-chercheur en informatique à Supélec.
Voir la bio
Ajouter au classeur
Vous devez être abonné pour ajouter un article à votre classeur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Lecture Zen
Vous devez être abonné pour voir un article en lecture zen.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Une étude de l'université de Princeton montre que les intelligences artificielles qui sont développées actuellement risquent d'intégrer exactement les mêmes préjugés que nous. Ceci s'explique par le fait que ces intelligences apprennent des humains.

Atlantico : Une équipe de l'université de Princeton (voir ici) est arrivée à la conclusion que malgré tous les algorithmes censés limiter la présence de préjugés et l'influence de comportements semblables aux nôtres dans l'intelligence artificielle, ceux-ci ne seraient pas assez efficaces. Pourrait-il y avoir un biais dans notre manière de concevoir les différentes intelligences artificielles qui pourrait nous pousser à les faire à notre image ?

Arpad Rimmel : Avant de commencer, j'aimerais préciser quelques points. L'article de Princeton concerne un sous-ensemble de l'intelligence artificielle : les algorithmes d'apprentissage. Ce sont des algorithmes qui cherchent à apprendre des règles ou à déduire des informations à partir de données qui leur sont fournies. Je ne pense pas que l'on puisse généraliser aux autres domaines de l'intelligence artificielle. De plus, l'étude a été faite sur un seul algorithme particulier qui cherche à trouver des listes de mots ayant un sens proche à partir d'un ensemble de textes. Enfin, j'aimerais distinguer deux choses : le fonctionnement de l'algorithme et ce qui est appris par l'algorithme. Dans le cas de l'article, le fonctionnement est basé sur une étude statistique de l’occurrence des mots dans les textes et ce qui est appris est une similarité entre les mots. La constatation des chercheurs sur le biais de l'algorithme concerne ce qui a été appris par l'algorithme et il me semble que vos questions concernent plus le fonctionnement des algorithmes (cela dit les deux questions sont intéressantes).

Concernant ce qui est appris par l'algorithme, comme cet apprentissage est basé sur un ensemble de textes écrit par des humains, il est assez logique de retrouver un biais, d'autant plus s'il y en avait un initialement dans les textes. Il est probable que ce sera le cas pour tout algorithme d'apprentissage qui apprendra à partir de données créées par des humains. Arriver à s'affranchir de ce problème sera très compliqué. Je pense qu'il y a effectivement un biais qui pousse les gens à créer des algorithmes qui fonctionnent de manière humaine car il est plus facile de reproduire ce qu'on connait plutôt que d'inventer de nouveaux fonctionnements. On peut citer notamment les réseaux de neurones qui sont basés sur le fonctionnement du cerveau humain. Il y a d'ailleurs aussi beaucoup d'algorithmes qui sont basés sur le fonctionnement de la nature. Le fait de mieux comprendre l'algorithme peut, par contre, en effet permettre d'incorporer des données expertes plus facilement.

En quoi, au contraire, pourrions-nous avoir intérêt à concevoir des intelligences artificielles qui auraient leurs logiques propres ? Est-ce que celles-ci ne nous permettraient pas de résoudre des problèmes mieux que nous ?

L'intérêt d'une intelligence artificielle se limite-t-elle à une vitesse accrue comparée à l'intelligence humaine ? Il est en effet souvent souhaitable de ne pas se limiter à imiter le fonctionnement de la nature. Les ordinateurs ne fonctionnent pas comme un cerveau et il est utile de tirer avantage de ces différences. Sur ce sujet, une collègue cite souvent l'exemple de l'aviation où toutes les tentatives d'imiter le vol des oiseaux a été un échec, et où la solution retenue est très différente de celle de la nature. Je pense que la plupart des chercheurs en ont conscience et aujourd'hui, il existe de nombreux algorithmes efficaces dont le fonctionnement ne ressemble à rien de naturel. Même les algorithmes qui, à la base, étaient proches du fonctionnement humain s'en éloignent souvent au cours de leur développement. S'ils le font, c'est principalement pour des raisons d'efficacité. Une fois la première version de l'algorithme développée à partir d'une idée, celui-ci va être testé sur des données réelles et modifié pour améliorer ses performances. Ces modifications vont en général tirer partie des spécificités de l'ordinateur et souvent s'éloigner de la version humaine. Le meilleur programme jouant au Go possède une partie de son algorithme basée sur des réseaux de neurones (qui ressemblait à la base à un fonctionnement humain mais qui s'en est beaucoup éloigné) et une partie consistant à jouer à un très grand nombre de parties aléatoires pour estimer l'intérêt d'une position, cette deuxième partie étant très surprenante pour un joueur humain.

Comment les spécialistes pourraient-ils s'employer à les diversifier ?

Imaginer ces algorithmes originaux n'est pas évident. Certains se basent sur une étude mathématique du problème et les possibilités de l'ordinateur. Une méthode peut aussi consister à travailler sur des parties élémentaires de l'algorithme, et c'est l'ensemble mis bout à bout qui va créer quelque chose d'original. Enfin, il arrive aussi de trouver un algorithme efficace en travaillant et en modifiant un autre algorithme suffisamment pour obtenir quelque chose de nouveau. Il y a surement beaucoup d'autres méthodes, et je pense que c'est plus ou moins facile selon les personnes.

Propos recueillis par Thomas Gorriz

Les commentaires de cet article sont à lire ci-après
Articles populaires
Période :
24 heures
7 jours
01.

Et si l’univers était une sphère fermée ? C’est ce que pourraient suggérer des observations de l’Agence spatiale européenne

02.

Julie Graziani : « Criminaliser les idées et les mots, c’est empêcher de réfléchir »

03.

Euphémisation du réel : les évidences inaudibles de Zineb El Rhazoui et Julie Graziani

04.

Vérité des chiffres : il faudrait ouvrir une centrale nucléaire par jour dans le monde pour respecter l’objectif d’émissions carbone zéro en 2050

05.

Emmanuel Macron et sa névrose de l’ennemi

06.

Alibaba tente d’acclimater le « Single Day » en France, sans TVA ni droits de douane

07.

Mais pourquoi la pollution en Inde est-elle bien pire qu’en Chine ?

01.

Euphémisation du réel : les évidences inaudibles de Zineb El Rhazoui et Julie Graziani

02.

Et si l’univers était une sphère fermée ? C’est ce que pourraient suggérer des observations de l’Agence spatiale européenne

03.

Vérité des chiffres : il faudrait ouvrir une centrale nucléaire par jour dans le monde pour respecter l’objectif d’émissions carbone zéro en 2050

04.

Les aventuriers du bon sens perdu : ce que la tempête autour de Julie Graziani nous dit des blocages intellectuels du monde actuel

05.

Présomption d’innocence et tribunaux sont-ils indispensables si l’accusé a vraiment l’air méchant ?

06.

Julie Graziani : « Criminaliser les idées et les mots, c’est empêcher de réfléchir »

01.

"Islamophobie" : question choc sur une nouvelle névrose nationale

02.

Les aventuriers du bon sens perdu : ce que la tempête autour de Julie Graziani nous dit des blocages intellectuels du monde actuel

03.

30 ans après la chute du mur de Berlin, les communistes européens sont encore bien vivants

04.

Oui, nous voulons des plages islamiques !

05.

"Quand des Juifs partent c'est la France qu'on ampute" a dit Macron. Mais il a omis de préciser qui ampute…

06.

LR : l’illusion de la renaissance par le local

Commentaires (0)
Ecrire un commentaire
Vous devez être abonné pour rédiger un commentaire.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Nos articles sont ouverts aux commentaires sur une période de 7 jours.
Face à certains abus et dérives, nous vous rappelons que cet espace a vocation à partager vos avis sur nos contenus et à débattre mais en aucun cas à proférer des propos calomnieux, violents ou injurieux. Nous vous rappelons également que nous modérons ces commentaires et que nous pouvons être amenés à bloquer les comptes qui contreviendraient de façon récurrente à nos conditions d'utilisation.
*Toute validation est définitive, vous ne pourrez pas rééditer votre commentaire.
Pas d'autres commentaires