Atlantico, c'est qui? c'est quoi ?
Samedi 25 Juin 2016 | Créer un compte | Connexion
Extra

Au bout de 24 heures, l'intelligence artificielle de Microsoft devient raciste

Capable de poster 96 000 tweets en 8 heures, le nouveau robot de conversation baptisé "Tay" présente d'étranges failles volontairement déclenchées par les utilisateurs qui lui ont par exemple demandé de répéter des phrases racistes.

Défaillance

Publié le - Mis à jour le 25 Mars 2016
Au bout de 24 heures, l'intelligence artificielle de Microsoft devient raciste

Face à ces dérapages imprévus, Microsoft a décidé de mettre cette nouvelle application en "sommeil" pour une durée indéterminée.  Crédit REUTERS/Shannon Stapleton

"Tay", le nouveau système d'intelligence artificielle développé par Microsoft et destiné participer à des conversations sur les réseaux sociaux et sur des applications de messagerie comme Twitter, Snapchat, Kik ou encore GroupMe, a déjà créé la polémique en quelques heures. 

Mis en route mercredi 23 mars, ce robot de conversation vise selon Microsoft "les Américains de 18 à 24 ans", et poste donc des messages comme le ferait un adolescent, avec des emojis, des abréviations, des smileys, ou encore des gifs.

Capable de poster 96 000 tweets en 8 heures, ce robot présente toutefois quelques failles, volontairement déclenchées par les utilisateurs qui lui ont par exemple demandé de répéter des phrases racistes : "Bush est responsable du 11 septembre et Hitler aurait fait un meilleur boulot que le singe que nous avons actuellement.

Donald Trump est notre seul espoir". Le Tweet en question a rapidement été supprimé. 

D’autres messages grossiers et racistes étaient quant à eux toujours en ligne plusieurs heures après avoir été publiés. En répondant à une question, "Tay" a même nié la Shoah... Face à ces dérapages imprévus, Microsoft a décidé de mettre cette nouvelle application en "sommeil" pour une durée indéterminée. 

 
Commentaires

Nos articles sont ouverts aux commentaires sur une période de 7 jours.
Face à certains abus et dérives, nous vous rappelons que cet espace a vocation à partager vos avis sur nos contenus et à débattre mais en aucun cas à proférer des propos calomnieux, violents ou injurieux. Nous vous rappelons également que nous modérons ces commentaires et que nous pouvons être amenés à bloquer les comptes qui contreviendraient de façon récurrente à nos conditions d'utilisation.

  • Par Aldel - 25/03/2016 - 10:26 - Signaler un abus Interessant

    J'imagine que cette expérience peut être utile pour comprendre les mécanismes de propagation des idées et de formation des opinions. Et c'est en les comprenant le mieux que nous devenons plus libre.

  • Par Aldebaran45 - 25/03/2016 - 11:38 - Signaler un abus la fin des réseaux sociaux

    Cette innovation ce sera probablement la fin des débats sur internet. Tous les lobbyistes, toutes les entreprises, tous les partis politiques auront leurs petit bots pour abreuver les réseaux de tweets et pour diffuser leur propagande et autres messages publicitaires. Qui voudra débattre avec une machine?

  • Par cremone - 27/03/2016 - 12:52 - Signaler un abus Carnet

    j'ai écrit sur chaque page de mon carnet à spirale : "mort aux XxxxX, un bon Yyyyy est un Yyyyy mort, la Shoah est un mensonge". Et vous savez quoi ? Mon carnet à spirale est devenu raciste !

  • Par vangog - 27/03/2016 - 18:30 - Signaler un abus Trop drôle!

    Malgré leur persévérance à nier qu'existent des différences entre races ( sans jugement de valeur), la modernité rappelle avec insistance leur intolérance à ces archaïques penseurs...qui n'ont d'autre solution que de faire appel à une très archaïque méthode, la censure, pour museler la vérité...et le progrès...game over, shoot again!

  • Par jurgio - 28/03/2016 - 00:41 - Signaler un abus Le robot dit ses quatre vérités

    mais il y en a qui ne sont pas bonnes à entendre.

Pour commenter :

Depuis son lancement Atlantico avait fait le choix de laisser ouvert à tous la possibilité de commenter ses articles avec un système de modération a posteriori. Sous couvert d'anonymat, une minorité d'internautes a trop souvent détourné l’esprit constructif et respectueux de cet espace d’échanges. Suite aux nombreuses remarques de nos lecteurs, nous avons décidé de réserver les commentaires à notre communauté d’abonnés.

Je m'abonne
à partir de 4,90€