En direct
Best of
Best of du 10 au 16 octobre
En direct
Articles populaires
Période :
24 heures
7 jours
01.

Professeur décapité : des élèves et des parents d'élèves ont été complices de l'assassin

02.

La taxe foncière payée par tous les propriétaires a augmenté de plus de 30% en dix ans

03.

Comment les islamistes ont réussi à noyauter la pensée universitaire sur... l’islamisme

04.

La nage en eau froide pourrait-elle fournir une piste pour les traitements contre la démence sénile ?

05.

Selon des chercheurs des Pays-Bas, il y aurait une quatrième paire de glandes salivaires, dans votre tête

06.

Et Gabriel Attal dénonça les "charognards de l’opposition". Y aura-t-il quelqu’un pour le faire taire ?

07.

Contorsionnisme : à trop trianguler, Mélenchon perd (littéralement) la Baraka

01.

Gérald Darmanin & Brad Pitt bientôt papas, M. Pokora bientôt marié; Voici pense que le bébé de Laura Smet s'appelle Léo, Closer Jean-Philippe; Adele aurait succombé au charme de l'ex (cogneur) de Rihanna; Kanye West propose l'union libre à Kim Kardashian

02.

Décapitation islamiste : est-il encore temps d’arrêter la spirale infernale… et comment ?

03.

Islamisme : la République de la complaisance

04.

Professeur décapité : souvenons-nous de la phrase d'Arletty

05.

Professeur décapité : voilà ce que nous coûtera notre retard face à l’islamisme

06.

Comment les islamistes ont réussi à noyauter la pensée universitaire sur... l’islamisme

01.

Décapitation islamiste : est-il encore temps d’arrêter la spirale infernale… et comment ?

02.

Professeur décapité : voilà ce que nous coûtera notre retard face à l’islamisme

03.

Islamisme : la République de la complaisance

04.

Professeur décapité : souvenons-nous de la phrase d'Arletty

05.

Professeur décapité à Conflans-Sainte-Honorine : "Il a été assassiné parce qu'il apprenait à des élèves la liberté d'expression"

06.

Professeur décapité : "je crains plus le silence des pantoufles que le bruit des bottes"

ça vient d'être publié
pépites > Politique
"Les actions s'intensifieront"
Lutte contre l'islamisme : Emmanuel Macron annonce la dissolution du collectif "Cheikh Yassine" et s'engage à "intensifier" les actions
il y a 20 min 10 sec
décryptage > France
Frivolités de banlieue

Et cette pancarte vous la trouvez grotesque, inappropriée ou simplement abjecte ?

il y a 2 heures 45 min
pépites > Education
Fléau de la haine en ligne
Les collègues de Samuel Paty expriment leur "vive inquiétude face à l'impact des réseaux sociaux"
il y a 3 heures 58 min
pépites > France
Ampleur de la catastrophe
Alpes-Maritimes : les dégâts des crues ont été évalués à 210 millions d'euros par les assurances
il y a 5 heures 45 min
décryptage > Culture
Atlanti Culture

"Yoga" d'Emmanuel Carrère : une leçon de vie, la liberté a un prix

il y a 6 heures 35 min
light > Science
Anatomie
Selon des chercheurs des Pays-Bas, il y aurait une quatrième paire de glandes salivaires, dans votre tête
il y a 7 heures 34 min
light > High-tech
Espionnage
Des diplomates et des agents secrets américains critiquent l'administration Trump qui ne réagit pas aux attaques qu'ils subissent dans des postes diplomatiques à l'étranger
il y a 8 heures 18 min
pépites > Terrorisme
Enquête
Le père d'une élève du collège de Conflans-Sainte-Honorine et un militant islamiste auraient été en contact avec le jeune tchétchène qui avait annoncé sa volonté d'agir
il y a 8 heures 49 min
light > Science
Paquebot
Un projet de récupération de la radio du Titanic pour l'exposer provoque une bataille juridique
il y a 9 heures 13 min
light > Economie
Taxes
La taxe foncière payée par tous les propriétaires a augmenté de plus de 30% en dix ans
il y a 9 heures 48 min
light > Culture
Mea Culpa
Covid-19 : Nicolas Bedos reconnaît avoir écrit un texte "excessif et maladroit"
il y a 2 heures 22 min
décryptage > Justice
Justice

Abliazov, un délinquant financier dissimulé derrière le statut de réfugié politique ?

il y a 3 heures 9 min
pépites > France
Emotion
L'hommage national à Samuel Paty se déroulera dans la cour de la Sorbonne ce mercredi
il y a 5 heures 10 min
pépites > France
Seine-Saint-Denis
Emmanuel Macron en déplacement à Bobigny ce mardi pour faire le bilan de la lutte contre l'islamisme
il y a 6 heures 9 min
décryptage > Culture
Atlanti Culture

"L'Amérique n'existe pas" d’après "Histoires enfantines", de Peter Bichsel : la candeur du regard, le vertige du langage

il y a 6 heures 50 min
décryptage > Culture
Polémique à Hollywood

L'actrice Gal Gadot peut-elle interpréter Cléopâtre ?

il y a 8 heures 13 min
pépite vidéo > Santé
"Célébrer Noël correctement"
Coronavirus : l'Irlande et le Pays de Galles décident de reconfiner
il y a 8 heures 34 min
rendez-vous > Société
Zone Franche
Contorsionnisme : à trop trianguler, Mélenchon perd (littéralement) la Baraka
il y a 9 heures 7 min
décryptage > Environnement
Objectifs

Emissions de carbone : la Chine se décide enfin à faire payer ses pollueurs

il y a 9 heures 19 min
décryptage > Santé
Bienfaits

La nage en eau froide pourrait-elle fournir une piste pour les traitements contre la démence sénile ?

il y a 9 heures 49 min
© Reuters
© Reuters
Du pareil au même

Racistes, grossières, partiales… Pourquoi le monde risque d'être fort déçu des capacités des futures intelligences artificielles

Publié le 16 septembre 2016
Une étude de l'université de Princeton montre que les intelligences artificielles qui sont développées actuellement risquent d'intégrer exactement les mêmes préjugés que nous. Ceci s'explique par le fait que ces intelligences apprennent des humains.
Arpad Rimmel
Suivre
Vous devez être abonné pour suivre un auteur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Arpad Rimmel est enseignant-chercheur en informatique à Supélec.
Voir la bio
Ajouter au classeur
Vous devez être abonné pour ajouter un article à votre classeur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Lecture Zen
Vous devez être abonné pour voir un article en lecture zen.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Une étude de l'université de Princeton montre que les intelligences artificielles qui sont développées actuellement risquent d'intégrer exactement les mêmes préjugés que nous. Ceci s'explique par le fait que ces intelligences apprennent des humains.

Atlantico : Une équipe de l'université de Princeton (voir ici) est arrivée à la conclusion que malgré tous les algorithmes censés limiter la présence de préjugés et l'influence de comportements semblables aux nôtres dans l'intelligence artificielle, ceux-ci ne seraient pas assez efficaces. Pourrait-il y avoir un biais dans notre manière de concevoir les différentes intelligences artificielles qui pourrait nous pousser à les faire à notre image ?

Arpad Rimmel : Avant de commencer, j'aimerais préciser quelques points. L'article de Princeton concerne un sous-ensemble de l'intelligence artificielle : les algorithmes d'apprentissage. Ce sont des algorithmes qui cherchent à apprendre des règles ou à déduire des informations à partir de données qui leur sont fournies. Je ne pense pas que l'on puisse généraliser aux autres domaines de l'intelligence artificielle. De plus, l'étude a été faite sur un seul algorithme particulier qui cherche à trouver des listes de mots ayant un sens proche à partir d'un ensemble de textes. Enfin, j'aimerais distinguer deux choses : le fonctionnement de l'algorithme et ce qui est appris par l'algorithme. Dans le cas de l'article, le fonctionnement est basé sur une étude statistique de l’occurrence des mots dans les textes et ce qui est appris est une similarité entre les mots. La constatation des chercheurs sur le biais de l'algorithme concerne ce qui a été appris par l'algorithme et il me semble que vos questions concernent plus le fonctionnement des algorithmes (cela dit les deux questions sont intéressantes).

Concernant ce qui est appris par l'algorithme, comme cet apprentissage est basé sur un ensemble de textes écrit par des humains, il est assez logique de retrouver un biais, d'autant plus s'il y en avait un initialement dans les textes. Il est probable que ce sera le cas pour tout algorithme d'apprentissage qui apprendra à partir de données créées par des humains. Arriver à s'affranchir de ce problème sera très compliqué. Je pense qu'il y a effectivement un biais qui pousse les gens à créer des algorithmes qui fonctionnent de manière humaine car il est plus facile de reproduire ce qu'on connait plutôt que d'inventer de nouveaux fonctionnements. On peut citer notamment les réseaux de neurones qui sont basés sur le fonctionnement du cerveau humain. Il y a d'ailleurs aussi beaucoup d'algorithmes qui sont basés sur le fonctionnement de la nature. Le fait de mieux comprendre l'algorithme peut, par contre, en effet permettre d'incorporer des données expertes plus facilement.

En quoi, au contraire, pourrions-nous avoir intérêt à concevoir des intelligences artificielles qui auraient leurs logiques propres ? Est-ce que celles-ci ne nous permettraient pas de résoudre des problèmes mieux que nous ?

L'intérêt d'une intelligence artificielle se limite-t-elle à une vitesse accrue comparée à l'intelligence humaine ? Il est en effet souvent souhaitable de ne pas se limiter à imiter le fonctionnement de la nature. Les ordinateurs ne fonctionnent pas comme un cerveau et il est utile de tirer avantage de ces différences. Sur ce sujet, une collègue cite souvent l'exemple de l'aviation où toutes les tentatives d'imiter le vol des oiseaux a été un échec, et où la solution retenue est très différente de celle de la nature. Je pense que la plupart des chercheurs en ont conscience et aujourd'hui, il existe de nombreux algorithmes efficaces dont le fonctionnement ne ressemble à rien de naturel. Même les algorithmes qui, à la base, étaient proches du fonctionnement humain s'en éloignent souvent au cours de leur développement. S'ils le font, c'est principalement pour des raisons d'efficacité. Une fois la première version de l'algorithme développée à partir d'une idée, celui-ci va être testé sur des données réelles et modifié pour améliorer ses performances. Ces modifications vont en général tirer partie des spécificités de l'ordinateur et souvent s'éloigner de la version humaine. Le meilleur programme jouant au Go possède une partie de son algorithme basée sur des réseaux de neurones (qui ressemblait à la base à un fonctionnement humain mais qui s'en est beaucoup éloigné) et une partie consistant à jouer à un très grand nombre de parties aléatoires pour estimer l'intérêt d'une position, cette deuxième partie étant très surprenante pour un joueur humain.

Comment les spécialistes pourraient-ils s'employer à les diversifier ?

Imaginer ces algorithmes originaux n'est pas évident. Certains se basent sur une étude mathématique du problème et les possibilités de l'ordinateur. Une méthode peut aussi consister à travailler sur des parties élémentaires de l'algorithme, et c'est l'ensemble mis bout à bout qui va créer quelque chose d'original. Enfin, il arrive aussi de trouver un algorithme efficace en travaillant et en modifiant un autre algorithme suffisamment pour obtenir quelque chose de nouveau. Il y a surement beaucoup d'autres méthodes, et je pense que c'est plus ou moins facile selon les personnes.

Propos recueillis par Thomas Gorriz

Les commentaires de cet article sont à lire ci-après
Commentaires (0)
Ecrire un commentaire
Vous devez être abonné pour rédiger un commentaire.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Nos articles sont ouverts aux commentaires sur une période de 7 jours.
Face à certains abus et dérives, nous vous rappelons que cet espace a vocation à partager vos avis sur nos contenus et à débattre mais en aucun cas à proférer des propos calomnieux, violents ou injurieux. Nous vous rappelons également que nous modérons ces commentaires et que nous pouvons être amenés à bloquer les comptes qui contreviendraient de façon récurrente à nos conditions d'utilisation.
*Toute validation est définitive, vous ne pourrez pas rééditer votre commentaire.
Pas d'autres commentaires