Au bout de 24 heures, l'intelligence artificielle de Microsoft devient raciste<!-- --> | Atlantico.fr
Atlantico, c'est qui, c'est quoi ?
Newsletter
Décryptages
Pépites
Dossiers
Rendez-vous
Atlantico-Light
Vidéos
Podcasts
International
Face à ces dérapages imprévus, Microsoft a décidé de mettre cette nouvelle application en "sommeil" pour une durée indéterminée.
Face à ces dérapages imprévus, Microsoft a décidé de mettre cette nouvelle application en "sommeil" pour une durée indéterminée.
©REUTERS/Shannon Stapleton

Défaillance

Capable de poster 96 000 tweets en 8 heures, le nouveau robot de conversation baptisé "Tay" présente d'étranges failles volontairement déclenchées par les utilisateurs qui lui ont par exemple demandé de répéter des phrases racistes.

"Tay", le nouveau système d'intelligence artificielle développé par Microsoft et destiné participer à des conversations sur les réseaux sociaux et sur des applications de messagerie comme Twitter, Snapchat, Kik ou encore GroupMe, a déjà créé la polémique en quelques heures. 

Mis en route mercredi 23 mars, ce robot de conversation vise selon Microsoft "les Américains de 18 à 24 ans", et poste donc des messages comme le ferait un adolescent, avec des emojis, des abréviations, des smileys, ou encore des gifs.

Capable de poster 96 000 tweets en 8 heures, ce robot présente toutefois quelques failles, volontairement déclenchées par les utilisateurs qui lui ont par exemple demandé de répéter des phrases racistes : "Bush est responsable du 11 septembre et Hitler aurait fait un meilleur boulot que le singe que nous avons actuellement. Donald Trump est notre seul espoir". Le Tweet en question a rapidement été supprimé. 

D’autres messages grossiers et racistes étaient quant à eux toujours en ligne plusieurs heures après avoir été publiés. En répondant à une question, "Tay" a même nié la Shoah... Face à ces dérapages imprévus, Microsoft a décidé de mettre cette nouvelle application en "sommeil" pour une durée indéterminée. 

Lu sur Business Insider

En raison de débordements, nous avons fait le choix de suspendre les commentaires des articles d'Atlantico.fr.

Mais n'hésitez pas à partager cet article avec vos proches par mail, messagerie, SMS ou sur les réseaux sociaux afin de continuer le débat !