Les escroqueries à la fausse romance via des deep fakes en temps réel sont arrivées

Atlantico : Les arnaques à l’amour connaissent un vrai regain ces dernières années. Les brouteurs se sont notamment fait connaître pour leur mode opératoire consistant à se faire passer pour de jeunes femmes en quête d’amour afin de récupérer les économies de leur victime. Depuis, indique Wired, les escrocs se montrent encore plus créatifs : ils utilisent la technologie Deep Fake pour tromper leurs proies. Comment de telles technologies peuvent-elles êtres utilisées dans ce genre de cadre ?

Fabrice Epelboin : Rappelons d’abord que la technologie Deep Fake permet de créer un personnage de toute pièce, pensé et conçu pour séduire celui ou celle que l’on cherche à arnaquer. Il existe d’ores et déjà des influenceurs au succès considérable… qui ne sont pourtant rien de plus que des personnages intégralement synthétiques, créés par intelligence artificielle. Dès lors, il n’est guère étonnant d’imaginer que des escrocs s’essaient à ce même genre de pratiques, en usant de moyens moins légaux. Il suffit d’une IA pour créer un personnage de A à Z et la technologie s’améliorer à vue d’oeil, ce qui signifie que le rendu final est de plus en plus réaliste. Rien n’empêche d’envisager, dans un avenir relativement proche, des arnaques plus personnalisées encore dans lesquelles les escrocs placent leurs victimes face à des personnes qu’elles connaissent. Techniquement, il n’est pas impossible de reproduire ce type de situation, pour peu de bénéficier des informations et des données nécessaires en amont. 

Ces escrocs s’appuient sur des logiciels accessibles à tous et assez simples d’utilisation. La barrière à l’entrée s’est effondrée ces dernières années et à l’aide de photos, il devient possible de réaliser des trucages dignes de ce qu’Hollywood a pu faire depuis dix ans. Seulement voilà : désormais, il n’est plus nécessaire d’avoir l’appui d’un studio pour en arriver à un tel rendu. Il suffit simplement d’être un peu débrouillard. 

L’un des groupes les plus connus ayant recours au Deep Fake se fait appeler les “Yahoo Boys”. Ils s’appuient sur l’intelligence artificielle pour perfectionner leurs techniques d’arnaque. Faut-il penser que, compte tenu des progrès techniques, les arnaqueurs ont de beaux jours devant eux ?

Il est vrai que les arnaqueurs ont toujours tiré parti des progrès techniques. Il n’est donc pas très étonnant de constater que, une fois de plus, ils trouvent un usage susceptible de les aider dans leurs tentatives d’escroquerie. Ils font une utilisation relativement fine de l’intelligence artificielle dans leurs activités criminelles, notamment du côté de la cybercriminalité. Certains d’entre eux écrivent en effet des programmes offensifs dont le seul objectif est de multiplier les attaques informatiques en s'appuyant sur les capacités de calcul de l’IA.  

D’une façon générale, ils font montre d’une utilisation assez créative de l’intelligence artificielle, ne serait-ce que parce qu’ils l’utilisent pour contourner le cadre légal : dès lors, ils sont obligés de se montrer plus malin que les autres, ce qui explique pourquoi ils ont souvent un train d’avance. 

Certains détails techniques tendent à vendre la mèche, d’après la presse anglo-saxonne. Ainsi, le fait que les lèvres ne correspondent pas aux propos avancés en plein deepfake permettrait de repérer la supercherie. Quels sont les autres détails auxquels il faut faire attention si l’on pense être victimes de ce genre de traitement ?

Le détail auquel il faut faire le plus attention, c’est bien son état émotionnel face à la réception d’une information. C’est un conseil valable pour les deepfake, dont on parle actuellement, mais cela se vérifie aussi sur tout ou partie des autres tentatives d’arnaques. S’attacher à la synchronisation des lèvres ou à je ne sais quel détail graphique n’est pas forcément un mauvais conseil… les trois premières semaines. Après cela, la technologie aura eu le temps et l’occasion de se perfectionner, ce qui veut dire que l’internaute ciblé ne sera plus en mesure de discerner la fraude. A long terme, c’est important de le comprendre, ces technologies deviendront parfaitement capables de nous tromper et même les logiciels conçus pour les percer à jour auront le plus grand mal à discerner le vrai du faux.

Sur le plan purement technique, il existe actuellement des logiciels, nous l’avons dit. La plupart du temps, ils permettent de distinguer une photo retouchée d’une photo non retouchée, mais il faut bien comprendre qu’on parle ici d’images créées synthétiquement et non d’images modifiées comme auparavant. Dès lors, il m’apparaît très hasardeux de se reposer sur les seules technologies pensées pour répondre à ce danger. Dans cette course, les voleurs vont souvent plus vite que les gendarmes, particulièrement si cela implique de passer à la moulinette chacune des photos que l’on reçoit, de faire analyser chaque message vocal reçu (y compris en provenance de sa propre mère, par exemple) dans le doute. 

La seule solution qui restera viable pour se sauver d’une fake news, d’un deepfake ou d’une tentative de manipulation, c’est donc de prêter une attention toute particulière à l’état émotionnel que provoque la réception d’une information. C’est particulièrement compliqué, c’est vrai, parce qu’on parle ici de situations où il est par nature difficile d’être sur ses gardes. Nous ne parlons pas d’une écoute attentive pendant que l’on regarde la télévision, mais bien d’un échange potentiellement romantique avec une personne pour qui on pense ressentir un certain intérêt. Tenter de rester concentré sur son état émotionnel, c’est aussi s’enfermer dans une froideur, une distance qui a beaucoup de chances de tuer toute tentative de rapprochement dans l'œuf. C’est là que se trouve toute la difficulté.

D’une façon générale, il faut aussi faire appel à un certain bon sens. Quand on demande à un individu de payer une amende qu’il n’a pas encore réglée et dont il ne se souvient pas bien, il faut alors se rappeler que, oui, il est possible d’être flashé à son insu. C’est un scénario plausible, il est donc tout à fait possible qu’il s’agisse d’une véritable amende. De la même façon, il n’est pas particulièrement étonnant que France Travaille exige le RIB des personnes inscrites sur la plateforme : c’est une modalité importante pour pouvoir procéder aux versements et aux remboursements concernés. De telles demandes, dans le cadre d’une relation amoureuse, devraient en revanche mettre immédiatement la puce à l’oreille. Une relation amoureuse n’est pas monétaire ou contractuelle.  

Faut-il attendre des pouvoirs publics et des acteurs du numérique qu’ils mettent en place des garde-fous ? En France, un homme a tué sa compagne car il considérait qu'elle était un frein pour la relation virtuelle qu’il entretenait avec une personne totalement virtuelle, un profil factice généré par des brouteurs. Quelle leçon faut-il en tirer ?

Qu’envisagez-vous de mettre en place pour limiter ce genre de risques ? Faut-il prévoir des systèmes qui surveillent les échanges entre individus, bloquent certains sur la base de modalités qui demeureront mécaniquement floues, pour préserver la majorité d’un faits divers qui a beaucoup de chances de survenir tout de même ? On ne peut pas restreindre les libertés de l’ensemble de la population parce qu’un homme dont la place est soit en asile soit en prison a tué sa compagne parce qu’il a pensé qu’elle le trompait avec une personne qu’elle n’a jamais rencontré en réel ou qui n’était qu’une construction virtuelle. Ce serait une démarche intellectuelle purement suicidaire. Cela ne veut pas dire que ce ne sera pas fait ou au moins tenté ; d’autant que c’est toujours à l’occasion de faits divers que les projets de loi sortent du placard… mais il faut bien dire que c’est aberrant et que, cette fois encore, on pourrait assimiler cela à une forme de manipulation sur la base des émotions d’une population effrayée pour mieux vendre des solutions de censure et de surveillance.