Votre enfant vous appelle pour demander de l’aide ? Attention, il pourrait bien s’agir d’une arnaque à la voix manipulée par l'IA

Atlantico : Les escroqueries ou spam par mail et messages textes existent depuis très longtemps, pourtant une nouvelle génération arrive avec l’IA. Comment décririez-vous ces nouvelles escroqueries ?

Anthony Poncier : En réalité, les progrès réalisés dans le domaine de l'IA nous permettent d'approcher de plus en plus de la réalité, que ce soit en créant des images manipulées, ce que l'on appelle des deepfake. Il est désormais possible de créer une vidéo dans laquelle une personne semble être quelqu'un de célèbre, alors qu'en réalité, cette vidéo a été générée par une intelligence artificielle. Cette technologie s'étend également à la voix, ce qui signifie que l'on peut également créer de fausses voix. Cela nous rapproche considérablement et de manière très précise du timbre de voix complet d'une personne ou d'une image plus que parfaite. Bien sûr, il existe toujours des moyens de détecter ces manipulations, mais ils deviennent de plus en plus réalistes. Nous sommes passés à une étape supérieure, où il est maintenant possible d'usurper l'identité de quelqu'un. Cependant, il convient de noter qu'une petite nuance doit être apportée à cela : cette technique ne s'applique pas à tout le monde. En effet, pour que l'IA puisse reproduire une voix, elle doit avoir accès à des échantillons de cette voix, tout comme elle a besoin d'accéder à des vidéos existantes pour apprendre à reproduire les intonations, les expressions, et bien d'autres choses encore. À moins d'être une personne connue ou reconnue, ou peut-être un politicien sous surveillance, il est peu probable que Monsieur ou Madame Tout-le-monde puisse voir sa voix circuler sur Internet. Cela peut arriver, mais c'est assez rare. De même, les cibles potentielles de ces manipulations sont donc plus limitées, car il faut accéder à des échantillons vocaux ou visuels d'une célébrité ou de quelqu'un de son réseau, qu'il s'agisse d'amis ou autre. En fin de compte, cela touche moins de personnes au quotidien que d'autres formes d'hameçonnage, que ce soit par e-mail ou par SMS.

Concrètement, comment les détecter et ne pas tomber dans le piège ?

Généralement, ce que l'IA est capable de reproduire, ce sont les intonations et le son de la voix. Donc, en effet, on pourrait reconnaître la voix d'une personne que l'on connaît. Cependant, les gens s'expriment différemment lorsqu'ils parlent au quotidien avec leur famille, leurs amis, ou dans des extraits que l'on peut trouver sur le web. Lorsque quelqu'un programme l'intelligence artificielle, il est capable de reproduire l'intonation et la voix, mais cela ne signifie pas qu'il peut reproduire la façon dont quelqu'un s'exprime de manière précise. Par exemple, les tournures de phrases, les expressions utilisées et d'autres éléments spécifiques qui expriment une familiarité ne sont pas toujours visibles en public. Certaines personnes peuvent avoir un langage plus soutenu ou garder une certaine distance, et elles n'utilisent pas nécessairement les mêmes mots qui marquent cette familiarité lorsqu'elles parlent avec des proches. Donc, dans le contexte de la voix, cela peut fonctionner avec un proche, mais il peut y avoir un décalage, il faut donc être prudent et ne pas se laisser uniquement guider par la voix ou la forme d'expression orale que l'on peut entendre au téléphone ou dans un message.

À quel point les escrocs « informatiques » arrivent-ils à s’adapter aux nouvelles technologies ?

Eh bien, cela dépend de la cible visée. Si nous parlons de particuliers, il est probable que les techniques utilisées soient moins avancées sur le plan technologique. Cela ressemble plutôt à une approche de pêche avec de grands filets, où l'on attrape tout ce qui passe. Cependant, il arrive souvent, dans un contexte plus ciblé, que des escrocs se fassent passer pour le PDG d'une entreprise et demandent en urgence un virement vers un compte spécifique, en profitant d'une crise dans un pays, par exemple. Ces escroqueries sont souvent menées par des groupes organisés, parfois même à l'échelle internationale. Ils disposent de ressources importantes, tout comme les grands hackers, et sont souvent à la pointe des technologies. Cependant, il est important de souligner que cela concerne une minorité, et ces pratiques visent principalement le grand banditisme, les entreprises ou des domaines politiques et militaires. Ce n'est donc pas le genre d'arnaque que Monsieur ou Madame Tout-le-monde reçoit par e-mail, du genre "Bonjour, je suis le Dr Machin et je ne peux pas accéder à mon compte, mais il y a 80 milliards dessus. Vous obtiendrez 20% si vous me donnez vos coordonnées bancaires pour effectuer le virement". Il s'agit d'un niveau totalement différent.

N’y a-t-il pas un moyen d’y mettre fin ?

En réalité, il y a deux aspects à prendre en compte. D'une part, il y a les efforts déployés pour détecter ces arnaques. De plus en plus de solutions sont mises en place, comme celle développée par LinkedIn, qui vise à repérer les faux profils créés par des IA. D'autre part, il existe également des solutions visant à repérer les manipulations, que ce soit sur des images, car même si l'on peut passer outre, de plus en plus de personnes utilisent ces outils pour créer des montages convaincants. Cependant, détecter ces manipulations en tant que telles n'est pas toujours facile, car les techniques utilisées ne sont pas encore parfaites et ne peuvent pas être détectées par le grand public. La véritable question qui se pose est plutôt de savoir comment ces technologies peuvent être utilisées pour propager de fausses informations. Si cela se produit, il est possible que des milliers de personnes y croient, comme lorsqu'une fausse photo du pape en doudoune fait le tour des réseaux sociaux. Pour les escroqueries visant Monsieur et Madame Tout-le-monde, personne n'a chez soi un détecteur permettant de savoir si l'interlocuteur au téléphone est réel ou s'il s'agit d'une arnaque. Les outils existent, mais ils ne sont pas nécessairement utilisés ou accessibles à tout le monde, et leur utilisation dépend du contexte. Ainsi, la solution n'est pas seulement une question de technologie, car elle existe déjà en partie, mais plutôt une question d'utilisation quotidienne, de raisons et de méthodes.

À mon avis, même avec les avancées de l'IA, de nombreux scams continueront de cibler les individus. Malheureusement, de nombreuses personnes se font encore voler leurs mots de passe, leurs informations personnelles et même leur argent. La majorité des victimes ne se méfient pas suffisamment. Par exemple, lorsqu'une personne avec seulement 300 abonnés sur Instagram reçoit un message lui promettant un badge bleu d'influenceur de la part d'Instagram, et qu'elle clique sur un lien pour fournir ses coordonnées, il est peu probable qu'elle soit réellement une influenceuse importante repérée par Instagram. De même, recevoir un SMS prétendant être de DHL et signalant un colis bloqué en douane en provenance de Thaïlande, sans avoir aucune connaissance préalable de l'expédition, devrait susciter des doutes raisonnables. Parfois, il suffit d'appliquer du bon sens pour éviter un grand nombre d'arnaques et de scams. Le problème réside davantage dans la réflexion des individus que dans les aspects techniques. Il est essentiel de faire preuve de bon sens et de sensibiliser davantage les gens à ces problèmes.