Les deepfakes de Taylor Swift ont affolé le web, ça n’est que la pointe émergée de l’iceberg

Fabrice Epelboin : Il n’existe pas vraiment de méthodes de protection en la matière. Il est vrai que certaines intelligences artificielles intègrent une forme de protection interdisant, entre autres, de réaliser des caricatures de Xi Jinping, le président de la République populaire de Chine, pour des raisons de diplomatie. D’autres bloquent la réalisation de pornographie. Le souci vient du fait qu’il est possible d’installer de telles intelligences artificielles, disponibles en open source, sur sa propre machine. Dès lors, on a la maîtrise du code et on peut donc en faire absolument ce que l’on veut. Toute IA générative en open source, que l’on parle d’image ou de texte, peut être installée sur une machine tierce.

L’autre problème vient du fait qu’il est particulièrement difficile, pour un algorithme, d’identifier les images qu’il faudrait théoriquement censurer. L’algorithme ne sait pas faire la différence entre une image pornographique éventuellement générée artificiellement sans être un deepfake, une image pornographique réalisée sans trucage particulier et, comme c’est le cas dans la situation de Taylor Swift, une image pornographique truquée réalisée à l’aide de deepfake. L’identification ne peut se faire que sur la base de signalement. Il s’agit d’un processus humain, qui prend un certain temps alors même qu’un buzz comparable à celui récemment observé peut se produire en seulement quelques minutes.

S’il n’est pas possible de se protéger contre ce genre de dérives potentielles, va-t-il falloir apprendre à vivre avec ce type d’épée de Damoclès au-dessus de la tête ?

Tout à fait. Il va désormais falloir apprendre à vivre avec l’intelligence artificielle générative, que l’on parle d’image ou de texte, ce qui va très largement changer notre rapport à l’imaginaire. Très concrètement, nous avons aujourd’hui affaire à une machine capable, pour peu que l’on puisse le lui expliquer, de représenter notre imaginaire en images. Cela affectera profondément notre rapport à l’image et, à travers elle, à la vérité. Rappelons, en effet, que nous sommes entourés de dispositifs techniques depuis au moins un siècle qui permettent de capter une réalité sous la forme d’une image. Jusqu’à présent, les trucages existaient mais ils restaient compliqués à réaliser, chers à produire et assez peu réalistes. Désormais, leur production devient facile.

Ce faisant, il est évident que le risque est infiniment plus grand que ce qui arrive à Taylor Swift. Ce dont nous sommes en train de parler, en l’état, c’est l’idée que n’importe qui puisse exprimer une idée à travers un image, avec un impact émotionnel extrêmement fort. Réalisons bien que nous venons d’encaisser une à deux décennies de réseaux sociaux permettant à tout un chacun de s’exprimer. Cette expérience a permis de montrer à quel point ce genre de situation est susceptible de bouleverser l’organisation de la société. Imaginons maintenant que cette expression prenne la forme d’une image, dont on sait qu’elles sont à la fois beaucoup plus impactantes sur le plan émotionnel et aussi beaucoup plus rapide à comprendre… Cette capacité arrivera dans les mains de tout un chacun, ce qui affectera forcément la façon dont ceux-ci s’expriment. Nombre d’entre eux le feront donc de façon beaucoup plus efficace.

Bien sûr, il faut aussi aborder la question de la tromperie. Ne perdons pas de vue que l’on peut créer une image artificielle sans volonté de tromper, mais force est de constater que cette technologie ouvre des champs considérables en la matière. D’aucuns pourraient ainsi s’en saisir pour faire de l’apologie du terrorisme, par exemple… Mais tout cela ne constitue que la partie émergée de l’iceberg. D’une façon générale, c’est le rapport de l’être humain à l’image qui change et nous parlons d’une révolution aussi importante que la création des premiers dispositifs techniques qui, il y a 150 ans peu ou prou, ont permis de capturer et figer les images. Notre capacité à nous informer, à échanger de l’information, vont être affectées. On parle ici d’un bouleversement systémique dont le phénomène Taylor Swift ne constitue que l’écume de la vague. Par rapport à ce qui vient, ce n’est rien du tout. 

Au-delà de tous les aspects négatifs régulièrement couverts par la presse, à quoi faut-il s’attendre en termes de création ?

Il s’agit ici d’une révolution comparable à l’arrivée de l’accès à Internet. Nous donnons à tout un chacun la possibilité de générer du texte, de l’image fixe ou animée de façon très simple. Il faudra seulement savoir comment dompter la machine, ce qui n’est pas aussi aisé que l’on pourrait le penser puisqu’il s’agit d’apprendre à parler avec elle, mais la barrière à l’entrée demeure très faible. Quelqu’un de créatif, qui ne maîtrise pas les techniques avancées qu’il ou elle pourrait souhaiter utiliser pourra tout à fait envisager de faire quelque chose qui, il y a quelques années, aurait demandé une virtuosité et des moyens conséquents. Le rapport à la création va nécessairement être changé. Ces machines prennent part à un processus créatif. Elles ne sont pas créatives à part entière, mais elles participent au processus.