Quand Google veut censurer vos mails : phrases "problématiques" et dénonciation automatique, quels risques pour les libertés individuelles?

Google vient de déposer un brevet pour un programme permettant de contrôler automatiquement les mails en train d'être écrits par un utilisateur. Une autorité serait immédiatement informée si le contenu du message viole une loi, ou une règle de son entreprise. Baptisé le "Policy violation checker", le brevet est accessible ici.

Atlantico : Ce système est-il acceptable du point de vue des libertés individuelles ? Y a-t-il eu des précédents chez Google de tentatives de restriction des libertés individuelles ?

Benjamin Bayart : Il faut toujours chercher à identifier où se trouve le client, où se trouve le vendeur, et où se trouve la marchandise. La réponse est parfois assez déroutante. Le client est toujours celui qui paie. Le marchand est celui qui reçoit l'argent. La marchandise, c'est toujours ce qui est échangé entre les deux. Dans tous les sites gratuits, l'utilisateur n'est jamais le client, par définitin, puisqu'il ne paie pas. Qu'il s'agisse de TF1 à 20 h, d'Atlantico ou de la messagerie Gmail. Le client est celui qui paie.

Dans le cas d'Atlantico et de TF1, c'est le publicitaire qui achète du temps de cerveau disponible et espère capter un peu d'attention. La marchandise est donc le temps d'attention du lecteur spectateur. La grande question reste de savoir qui est la marchandise dans le cas du "Policy violation checker". Si vous ne payez pas pour votre boite aux lettres Gmail, c'est parce que vous êtes la marchandise. Ce que vendent Google et Facebook, c'est la vie privée des gens.

Que ce soit sous forme d'indexation de votre boite mail pour vous présenter des publicités ciblées comme le fait Gmail ou d'indexation de vos réseaux d'amis pour vous présenter aussi des publicités ciblées comme le fait Facebook.

Le système de "policy violation checker" sert à détecter ce que les employés n'ont pas le droit de dire. Le client est l'entreprise. Les employés n'ont aucun intérêt dans l'histoire, ils ne sont même pas la marchandise. Ils ne sont rien. Cet outil ressemble étrangement au principe même de la police de la pensée définie par Orwell dans 1984 : l'organisme est chargé de détecter lorsque les gens pensent mal et rectifier leur pensée.

Google prétend qu'il s'agit d'aider certaines professions dans lesquelles il est bon de surveiller son discours et ses implications légales, afin d'éviter par exemple les procès, les fuites, et d'enfreindre la politique de confidentialité. Pourquoi dans ce cas ne pas avoir limité le vérificateur à un usage personnel ? Pourquoi ajouter une fonction de dénonciation ? Dans quel but Google a-t-il pu concevoir un tel outil ?

Le checker est une idée monstrueuse, structurellement. Or, les mauvaises idées, une fois énoncées, commencent à prendre une forme de vie. Il y a deux façons d'envisager les outils de technologie très avancés. C'est toute la différence entre Frankenstein et Isaac Asimov. Asimov est extrêmement optimiste, il considère que la technologie n'est pas dangereuse, qu'il y a des gens dangereux, mais pas des outils. Dans ses œuvres, les robots ne deviennent jamais méchants.

Au contraire, la créature de Frankenstein finit par essayer de tuer son créateur. La technologie peut être conçue au service de l'utilisateur (et non de l'entreprise qui l'a mise au point), et donc être sous contrôle de l'utilisateur. Ainsi, il pourrait exister une fonction qui détecte le politiquement incorrect, que l'utilisateur pourrait décider ou non d'activer. Mais ce n'est pas l'esprit de ce brevet.

Car la technologie peut aussi être conçue pour contrôler l'humain, et c'est l'approche de Google. C'est aussi celle de Facebook lorsque des algorithmes automatiques censurent les contenus a priori. Ces programmes sont pensés pour aller contre les utilisateurs. C'est très problématique, du point de vue du marketing comme du point de vue politique. C'est le même problème lorsque Appel décide de censurer son App Market, en fonction de critères suivant les bonnes mœurs personnes de Steve Jobs vis-à-vis de tout ce qui touche au sexe.

Le Policy violation checker pourrait sans doute être un bon outil pour un utilisateur souhaitant se contrôler lui-même. Malheureusement, le brevet ne décrit pas un système Standalone (un produit peut être utilisé seul, c'est-à-dire sans modules ou connaissances complémentaires, ndlr.), uniquement sur le terminal, et qui se contente d'afficher les informations à l'utilisateur sans les communiquer aux tiers. Au contraire, il s'appuie sur une base de données qui ne semble pas alimentée par l'utilisateur.

L'idée sous-jacente de Google semble être la suivante : si un jour quelqu'un doit être payé à surveiller la totalité de la planète, pour vérifier que chacun s'exprime de façon politiquement correcte, autant que ce soit Google lui même qui doit être payé a le faire plutôt qu'un concurrent.

D'un point de vue purement légal, Google peut-il s'improviser gendarme ? Ce système d'alerte ne s’apparente-t-il pas à de la délation ?

Cela pose de nombreux problèmes légaux. En France, même avec les outils fournis par votre employeur, ce que vous dites ou écrivez révèle a priori de la correspondance personnelle. Il suffit que les mails soient placés dans un dossier "personnel", et en aucune circonstances votre patron n'a le droit d'y avoir accès, et ce même dans une boite mail créer par l'entreprise et à vocation professionnelle. Il y a une jurisprudence à la Cour de cassation. Les outils de communication mis en place par l'entreprise peuvent servir de manière légitime à une communication privée. La question s'est déjà posée par exemple dans l'affaire Kerviel. Il a été établi que le patron n'avait pas le droit de fouiller la boite aux lettres de Kerviel. De même, on n'a pas le droit de licencier quelqu'un parce qu'il utilise le téléphone ne l'entreprise pour passer des coups de fil personnels. Les employés ont le droit de le faire tant qu'il n'y a pas d'abus. Je soupçonne la loi américaine d’être assez similaire à la notre sur ce point.

Il semble qu'il y ait aussi une forme de délation, mais le brevet n'est pas clair. Il précise que l'utilisateur est prévenu, qu'un message s'affiche pour lui expliquer le problème. Est-il dénoncé avant, après ? Tout est possible, ce n'est pas clair.

Si un tel programme était rendu accessible par Google, serait-il possible de légiférer au niveau national pour en interdire ou en limiter l'utilisation ?

La France "pourrait" juridiquement, oui. La France "peut" beaucoup. Mais existe-t-il un précédent ? La réponse est non. Et on peut penser que les dissuasions juridiques ne suffiraient pas.

Microsoft a été condamné a de grosses sommes d'amende pour abus de position dominante, mais rien n'a changé. Microsoft n'a pas réglé le problème, et a réalisé bien plus de bénéfices en Europe, compensant largement les amendes de la Commission européenne. Microsoft a du payer plus de 2 milliards d'euros d'amende ces dernières années, mais cela ne l’empêche pas de continuer à enfreindre la loi.

La Cnil allemande a déjà fait les gros yeux a Facebook sur certains sujets, sans effet. La France pourrait tenter d'imposer sa vision législative, mais rien ne le laisse présager. L'indexation des mails pour créer des publicités ciblées n'a jamais provoqué beaucoup de réactions de la Cnil.

Le porte-parole de Google Matt Kallman s'est voulu rassurant, expliquant que toutes les idées ne donnaient pas lieu à de réels services. Un tel outil pourrait-il voir le jour ou sera-t-il difficile à mettre sur pieds ?

Cela soulève un autre problème : des brevets comme celui-ci, peuvent être déposés par poignées, à tort et à travers.. Vous prenez n'importe quel livre de science fiction et le raconter dans un brevet. Google ne présente pas un logiciel qui implémente cette fonctionnalité, ni un code comme base de référence. Ce "checker" est simplement à l'état d'idée. Le système des brevets logiciels permet de breveter l'importe quoi n'importe comment. Le premier à avoir une idée en devient propriétaire. C'est absurde.

C'est contraire à toute la notion de droit d'auteur et aux normes internationales en matière de brevetabilité. Le principe d'un brevet est de reconnaître une réalisation, pas une idée. Dans le monde physique, si vous voulez breveter un nouveau gond de porte qui n'a pas besoin d’être huilé, il faut apporter un modèle. Ici, l’algorithme n'est pas présenté, et aucun code ne prouve que ça marche. Il n'y a qu'une idée. C'est un exemple parfait de l'idiotie des brevets logiciels. Je vous rappelle que la notion de rectangle à coins arrondis est brevetée par Apple.

Propos recueillis par Julie Mangematin