En direct
Best of
Best of du 21 au 27 novembre
En direct
Articles populaires
Période :
24 heures
7 jours
01.

Karine Le Marchand & Stéphane Plaza s’installent ensemble (elle pète, il ronfle); Jalil & Laeticia Hallyday aussi (mais sont moins bruyants); Yannick Noah retrouve l’amour; Geneviève de Fontenay : petite retraite mais grosse dent (contre Sylvie Tellier)

02.

Des chercheurs ont découvert des dizaines de milliers (!) de dessins vieux de 12.500 ans dans la forêt amazonienne

03.

Vous subodoriez que Grigny n’était plus en France : Gabriel Attal l’a confirmé

04.

Elections américaines : derrière les suspicions de fraude, une lutte totale opposant "Patriotes" et "mondialistes" à l'échelle occidentale?

05.

Le Covid-19 est en train de transformer profondément l'Asie et voilà comment

06.

Monstres sacrés : Alain Delon, l’éternel enfant blessé

07.

Violences et police : quand la droite confond l'ordre et les libertés et se tire une balle dans le pied (électoral)

01.

Le veganisme bon pour la santé ? Pas pour les os en tous cas, une large étude révèle un risque nettement supérieur de fracture

02.

PSG-LEIPZIG : 1-0 Les Parisiens préservent leurs chances en remportant une victoire inquiétante

03.

Elon Musk est devenu le 2ème homme le plus riche au monde et voilà pourquoi la France aurait singulièrement besoin de s'en inspirer

04.

Elections américaines : derrière les suspicions de fraude, une lutte totale opposant "Patriotes" et "mondialistes" à l'échelle occidentale?

05.

Migrants de la place de la République : "damned if you do, damned if you don't"

06.

Qui a peur de Jean-Michel Blanquer ?

01.

Immigration : les dernières statistiques révèlent l'ampleur des flux vers la France. Mais qui saurait les contrôler ?

02.

Covid-19 : Emmanuel Macron annonce enfin (et sans en avoir l’air) un changement de stratégie

03.

Elon Musk est devenu le 2ème homme le plus riche au monde et voilà pourquoi la France aurait singulièrement besoin de s'en inspirer

04.

Violences et police : quand la droite confond l'ordre et les libertés et se tire une balle dans le pied (électoral)

05.

Filmés en train de violenter un producteur de musique dans l'entrée d'un studio 3 policiers parisiens (qui l'ont accusé, à tort, de rébellion) suspendus

06.

Migrants de la place de la République : "damned if you do, damned if you don't"

ça vient d'être publié
light > Histoire
Incroyable
Des chercheurs ont découvert des dizaines de milliers (!) de dessins vieux de 12.500 ans dans la forêt amazonienne
il y a 15 heures 4 min
pépite vidéo > Sport
Plus de peur que de mal
Formule 1 : Romain Grosjean miraculé après un accident très impressionnant
il y a 15 heures 47 min
pépites > Santé
Sceptiques
Covid-19 : une majorité des Français n'ont pas l'intention de se faire vacciner
il y a 18 heures 15 min
pépite vidéo > Société
Casseurs
Manifestations contre les violences policières : des dégâts à Paris
il y a 18 heures 59 min
light > Culture
Mort d'un géant
L'acteur David Prowse, qui avait incarné Dark Vador, est décédé
il y a 19 heures 52 min
décryptage > Culture
Atlantico Litterati

Oscar Wilde ou l’art avant tout

il y a 21 heures 6 min
décryptage > International
A qui profite le crime ?

Assassinat du scientifique iranien, piège de dernière heure tendue à Téhéran

il y a 21 heures 30 min
décryptage > International
Pardon présidentiel

Pourquoi Donald Trump a eu raison de gracier son ancien conseiller à la sécurité nationale

il y a 21 heures 42 min
décryptage > Santé
Vecteur

Pourquoi les virus frappent-ils plus certains continents que d'autres ? Une étude sur Zika donne des indices

il y a 22 heures 5 min
décryptage > France
Munich 1938 ? Non, Munich 2020 !

Vous subodoriez que Grigny n’était plus en France : Gabriel Attal l’a confirmé

il y a 22 heures 22 min
pépite vidéo > France
Heurts
Manifestation : les images très violentes d'un policier tabassé par plusieurs manifestants
il y a 15 heures 28 min
pépites > France
Défense
Pour le directeur général de la Police nationale, "la police est un reflet de la société"
il y a 16 heures 58 min
rendez-vous > Science
Atlantico Sciences
L'origine de l'énergie des étoiles confirmée grâce aux neutrinos de Borexino ; Gravité quantique : l'écume de l'espace-temps, une clé du Big Bang au vivant ?
il y a 18 heures 30 min
light > Media
Disparition
Le journaliste Jean-Louis Servan-Schreiber est mort
il y a 19 heures 28 min
pépites > Religion
Distanciation
Messes : le Conseil d'Etat casse la règle des trente fidèles maximum
il y a 20 heures 25 min
décryptage > Politique
Partis des libertés

Violences et police : quand la droite confond l'ordre et les libertés et se tire une balle dans le pied (électoral)

il y a 21 heures 22 min
décryptage > Economie
La crise qui vient

La bourse est-elle trop optimiste ?

il y a 21 heures 35 min
décryptage > International
Etatisme

Le Covid-19 est en train de transformer profondément l'Asie et voilà comment

il y a 21 heures 56 min
rendez-vous > Environnement
Atlantico Green
Si vous voulez vraiment faire des achats respectueux de l'environnement, il ne faudra pas vous contenter de lire les étiquettes des produits en rayon. Petits conseils pour y voir plus vert
il y a 22 heures 15 min
décryptage > Société
Big tech

Pourquoi il devient urgent de sauver nos démocraties de la technologie

il y a 22 heures 26 min
© ALEXANDER NEMENOV / AFP
Telegram deep fake photos de femmes nues
© ALEXANDER NEMENOV / AFP
Telegram deep fake photos de femmes nues
Menace incontrôlable en vue ?

Ces deepfakes de photos de (vraies) femmes nues que des bots génèrent à la chaîne

Publié le 22 octobre 2020
Des chercheurs en sécurité viennent de découvrir un immense réseau de génération de deepfakes sur Telegram. Au total, plus de 100.000 images de faux nus auraient été générées.
Vincent Claveau
Suivre
Vous devez être abonné pour suivre un auteur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Vincent Claveau est chercheur à l'IRISA-CNRS. 
Voir la bio
Ajouter au classeur
Vous devez être abonné pour ajouter un article à votre classeur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Lecture Zen
Vous devez être abonné pour voir un article en lecture zen.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Des chercheurs en sécurité viennent de découvrir un immense réseau de génération de deepfakes sur Telegram. Au total, plus de 100.000 images de faux nus auraient été générées.

Atlantico.fr : Plus de 100.000 femmes ont vu récemment leurs photos téléchargées par un robot sur l'application Telegram afin que des faux nus soient générés. Pourquoi il y a de plus en plus ce type de pratiques ?

Vincent Claveau : Ce fait divers renoue avec un des premiers usages "popularisant" les deepfake, à savoir le face-swapping sur des vidéo pornographiques (visages de célébrités sur des actrices porno). 

Il y a également eu des app (dont DeepNude cité) que tout un chacun pouvait télécharger (avant d'être bannies des app stores) générant une image d'une personne déshabillée à partir d'une photo de la personne habillée.

L'émergence de ces pratiques relèvent de différents facteurs :

- la technologie pour faire des deepfake s'est démocratisée (une personne maîtrisant quelques concepts de base et sachant un peu programmer peut le faire),
- les capacités de calcul pour les générer deviennent plus accessibles (un ordinateur de "gamer" avec une bonne carte GPU suffit)
- la grande disponibilité des données en ligne pour construire ces modèles d'une part, et pour les appliquer d'autre part (dans le cas présent, appliqué à des photos des victimes)

Que faire pour lutter contre ce phénomène ?

Les fake (deepfake ou outils de désinformation/manipulation) sont d'une manière générale une menace pour la société. Il y a des usages différents : désinformation de masse, attaques personnelles/à la réputation, attaques financières (faux ordres de virement) ... 

Et d'un point de vue informatique, il y a des technologies différentes pour construire ces fakes. 

La réponse ne peut donc être unique.

Technologiquement, pour chacun des types de fake, il y a des outils, plus ou moins aboutis, pour détecter qu'une image ou vidéo a été manipulée ou générée artificiellement et la recherche est active dans ce domaine.

Les plateformes (réseaux sociaux, etc.) ont un rôle absolument essentiel mais délicat. Ce sont les plus à même d'éradiquer la prolifération et le partage de ce type de contenu, mais dans le même temps, il y a un risque à confier à une entreprise privée, rarement de droit français, la régulation de la liberté de parole et d'échange. Cela pose des problèmes autant éthiques que techniques. Mis à part quelques annonces, la situation évolue très peu sur ce front-là.

Il y a nécessité d'éduquer et d'informer sur ces outils de manipulation de contenu et des mésusages qui en sont faits. D'une part pour dissuader en expliquant les dommages qu'ils provoquent, mais aussi, pour tous, pour expliquer que les images ou vidéos qui circulent sur le web ne doivent jamais être considérées comme vraies, sauf à en connaitre la source.

Sur le cas spécifique des "deepnudes", il faut comprendre que l'algo génère une image que lui, en fonction de ses données d'entrainement, considère plausible. Mais évidemment, c'est juste un "dessin très réaliste", pas le vrai corps de la personne (ce qui n'ôte rien au caractère traumatisant de se voir victime d'un photomontage humiliant).

La dernière réponse est évidemment juridique. Ce n'est pas mon domaine, mais les diffamations, injures, atteintes à l'honneur, etc. sont sanctionnables et la diffusion sur internet est, il me semble, vue comme circonstance aggravante.

Comment protéger les populations les plus fragiles ?

On peut tous être victimes, soit individuellement, soit collectivement (en tant que société), de ce type de manipulation. 

Évidemment, le sexisme exacerbé de certaines communautés en ligne n'arrange rien à cela, et les femmes en font les frais.

Les conseils de bon sens sont de ne pas laisser d'informations personnelles en ligne si on ne veut pas risquer de les voir utilisées à de mauvaises fins. Plus facile à dire qu'à faire, notamment si on y est obligé pour des raisons professionnelles par exemple (CV en ligne, page web, annuaire d'entreprise...). 

Pour le reste, voir les réponses précédentes sur la lutte.

Comment savoir si nous avons été, à notre insu, victime de deep fake ?

C'est très difficile, voire impossible en genéral. Si le fake est accessible sur internet, il est parfois possible de le trouver en utilisant des moteurs de recherche par image similaire, mais dans le cas de visages, les moteurs grand public n'y arriveront sans doute pas.

Les commentaires de cet article sont à lire ci-après
Commentaires (0)
Ecrire un commentaire
Vous devez être abonné pour rédiger un commentaire.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Nos articles sont ouverts aux commentaires sur une période de 7 jours.
Face à certains abus et dérives, nous vous rappelons que cet espace a vocation à partager vos avis sur nos contenus et à débattre mais en aucun cas à proférer des propos calomnieux, violents ou injurieux. Nous vous rappelons également que nous modérons ces commentaires et que nous pouvons être amenés à bloquer les comptes qui contreviendraient de façon récurrente à nos conditions d'utilisation.
*Toute validation est définitive, vous ne pourrez pas rééditer votre commentaire.
Pas d'autres commentaires