Ces "présentateurs" de JT totalement inventés qu’utilise le pouvoir venezulien pour manipuler son opinion

Atlantico : Avec l’explosion de l’utilisation de l’IA, les médias sociaux vénézuéliens ont vu une augmentation du nombre de "personnes" générées par l'IA et diffusant de fausses informations sur l'économie du pays. Qu'a-t-on vraiment observé au Venezuela ?

Alexander Polonsky : Le Venezuela est l’un des pays ou les deepfakes sont très utilisés. Nous assistons de plus en plus à la falsification de la réalité. La promesse offerte par Facebook avec le Metaverse concernait un univers artificiel. Les utilisateurs et les spectateurs face au Metaverse savent que cet espace est artificiel. Il y a bien une séparation entre cet univers-là et le nôtre.

Avec les deepfakes, nous assistons à un phénomène inverse. La réalité virtuelle envahit de plus en plus notre réalité sans séparation claire. Il faut que tout le monde soit conscient de ce phénomène qui est en plein développement. Les images et les vidéos deepfakes représentent notre réalité et tentent de l’imiter. La disponibilité et la qualité des technologies deepfakes ont connu en plus un saut quantique récent. Les deepfakes sont de plus en plus courants et sont mélangés avec la réalité.

L’exemple du Venezuela est particulièrement intéressant. En imitant un faux média américain, ils ont conforté cette fausse information en montrant que même un média américain (généré par un deepfake) confirmait cette information (qui en réalité est fausse).

Comment ne pas tomber dans le piège des deepfakes et les repérer ?

Il faut être vigilant sur Internet et être conscient de leur existence. Ce phénomène a le vent en poupe et progresse à vitesse grand V. Jusqu’à maintenant, les Internautes s’habituaient plus ou moins à ne pas croire ce qu’ils lisaient et à se méfier des informations relayées dans les médias.

En visionnant une vidéo ou en regardant une image, nous avions tendance à croire que c’était vrai et qu’elles étaient authentiques. Le risque est que nous ne sommes pas encore habitués aux deepfakes de haute qualité. Ils peuvent vraiment nous tromper. Il va falloir s’habituer à  cette nouvelle vague de deepfakes de qualité. Il est donc important et vital de communiquer et d’alerter sur ce phénomène. Le fait que les médias traditionnels en parlent permet aux citoyens de se familiariser avec cette tendance et ces progrès dans le domaine des deepfakes.

Il est néanmoins vital de populariser les outils qui permettent, gratuitement, d’identifier ces deepfakes. Grâce à une recherche sur Google du type « deepfake detector », il est possible de trouver des logiciels et des outils gratuits.

Cela va être le jeu du chat et de la souris. Les deepfakes vont devenir de plus en plus sophistiqués et les outils de détection vont également progresser en parallèle.  Le même mécanisme est apparu pour les virus informatiques.

Des entreprises privées se sont engagées dans la détection des deepfakes.

Les Etats devraient réellement s’occuper de ce phénomène et investir des moyens dans la lutte contre les deepfakes. Ces technologies représentent un réel danger si elles sont utilisées à mauvais escient.   

Comment le président Vénézuélien lui-même - avec l'aide de bots - se sert de ces deepfakes pour influencer l’opinion publique au sujet de l’opposition ?

En créant une fausse réalité, il est possible d’influencer la vie politique. Le fait de simuler et de générer un média américain, normalement hostile au régime vénézuélien, va paradoxalement apporter une crédibilité à la propagande et aux messages du pouvoir vénézuélien. L’opposition vénézuélienne risque d’être piégée par ces fausses informations relayées via des vidéos deepfakes. Les deepfakes auront plus de crédibilité que les médias d’Etat vénézuéliens.

Ce mécanisme aurait pu aussi être réalisé sans recours aux deepfakes. Mais la question du coût et des risques entre en jeu dorénavant. Les nouvelles technologies offrent plus de sécurité. Il est beaucoup moins cher de produire des deepfakes aujourd’hui que d’embaucher des acteurs et de faire une production de qualité. En plus, cela fait courir plus de risques. Les personnes engagées pour réaliser de fausses vidéos peuvent devenir des témoins gênants et dévoiler des secrets.

Avec les deepfakes, la production de vidéos est beaucoup moins chère et beaucoup plus rapide.

La publication des deepfakes sur les réseaux sociaux permet de toucher un grand nombre de personnes et sur un laps de temps très rapide. La fausse rumeur et l’information erronée véhiculée est ensuite difficile à démentir ou à arrêter.    

À quel point ce problème est-il répandu au-delà du Venezuela et pourquoi est-ce dangereux ?

Les deepfakes ne sont pas spécifiques au Venezuela bien évidemment. Ce phénomène est mondial. Les deepfakes sont très utilisés en Chine et en Russie.

Pour se forger un avis bien fondé et pour prendre les bonnes décisions, il faut déjà avoir une base commune de ce qui est authentique et bien réel. S’il n’est plus possible de se mettre d’accord sur ce qui est réel et si la frontière est de plus en plus floue, il est très difficile de défendre certaines opinions et de conserver la confiance des citoyens. La circulation des informations sera complètement bouleversée.   

Avec tous les problèmes que créent les intelligences artificielles vidéo, y a-t-il malgré tout quelques aspects positifs à cette innovation ?

Les deepfakes sont juste un moyen de production d’images et de vidéos. Tout ce qui est possible avec les deepfakes maintenant était déjà similaire à ce que faisaient les studios de cinéma avec les effets spéciaux ou lors de simulations de certaines scènes qui paraissaient très réalistes.

Mais les technologies de haute qualité pour le deepfake sont devenues beaucoup moins chères et sont bien plus facilement accessibles. Cela a littéralement changé la donne.

Les artistes et les vidéastes ont donc dorénavant des outils bien plus puissants à leur disposition. Ils ont la capacité de produire du multimédia bien plus pertinent et beaucoup moins cher.

Cela participe donc à l’augmentation de la quantité et de la qualité des productions de deepfakes.

Ces technologies peuvent même être utilisées pour générer un digital cloning ou un clonage de la voix.  

Pour l’instant la frontière est floue entre l’impact positif ou négatif des deepfakes sur le monde. Il va donc être vital de pouvoir détecter rapidement les communications malveillantes avec ces outils-là.  

Au sein de Bloom, la société ou je mène des recherches, nous travaillons sur ces aspects de détection rapide des communications malveillantes avec ou sans deepfake.