En direct
Best of
Best of du 28 mars au 3 avril
En direct
Articles populaires
Période :
24 heures
7 jours
01.

Belgique : le stock stratégique de masques a été détruit pour faire de la place aux migrants

02.

Luc Rouban: "Cette crise sanitaire marque la fin du macronisme et le retour du clivage gauche droite"

03.

Coronavirus : tout ce qu’il faut savoir sur les risques posés par vos courses et autres poignées de portes

04.

Tout changer dans le monde d’après ? Le scénario noir que cela pourrait bien déclencher

05.

Fléau de crise : 6 mesures pour contrer les petits chefs qui aggravent la situation sanitaire et économique

06.

Ces fonctionnaires non élus qui imposent leur volonté face à la crise du Coronavirus

07.

Trump / Macron : le match des sondages par (gros) temps de Coronavirus

01.

Belgique : le stock stratégique de masques a été détruit pour faire de la place aux migrants

02.

Philippe Juvin : "Les chefs et petits chefs de l’administration qui nous entravent face à l’urgence devront répondre de leurs actions après cette crise"

03.

Jean-Noël Fabiani : "Il ne pourra pas y avoir de sortie du confinement sans dépistage de masse, ni mesures de très grande précaution"

04.

Alors que tout s’effondre, l’économie et le moral, une seule bonne nouvelle : les banques ne feront pas faillite

05.

Derrière le cas Lallement, l’insupportable infantilisation des Français

06.

Fléau de crise : 6 mesures pour contrer les petits chefs qui aggravent la situation sanitaire et économique

01.

Ce risque politique énorme que prend le gouvernement en ne limogeant pas le Préfet Lallement

02.

Crise sanitaire et manque de réactivité : la France est-elle dirigée par des fonctionnaires non élus ?

03.

Philippe Juvin : "Les chefs et petits chefs de l’administration qui nous entravent face à l’urgence devront répondre de leurs actions après cette crise"

04.

Crise du coronavirus : Nicolas Sarkozy, le recours silencieux ?

05.

Covid-19 : les patients en réanimation n’ont "pas respecté le confinement" ? Didier Lallement s’excuse

06.

Attaque à Romans-sur-Isère : mais que faisait Abdallah A. O. en France ?

ça vient d'être publié
décryptage > Culture
Atlanti Culture

"Unorthodox" de Maria Shraeder, une série originale Netflix : ode à la Liberté

il y a 41 min 58 sec
pépites > Santé
SNDV
Acrosyndromes : les dermatologues alertent sur des symptômes cutanés potentiellement liés au coronavirus
il y a 1 heure 30 min
pépites > Religion
Ancien numéro 3 du Vatican
Pédophilie dans l'Eglise : le cardinal George Pell a été acquitté en Australie
il y a 3 heures 16 sec
pépites > Santé
Vive émotion
François Hollande rend hommage aux personnels des Ehpad après la mort de son père
il y a 4 heures 17 min
pépites > France
Hypothèses
Coronavirus : l'Académie de médecine préconise un déconfinement par région
il y a 6 heures 38 min
light > Culture
Influence majeure
Mort de Jean-Laurent Cochet, une figure majeure du théâtre français, des suites du Covid-19
il y a 8 heures 47 min
pépite vidéo > Santé
Objectifs
Confinement, tests dans les Ehpad : les explications d’Olivier Véran au micro de Jean-Jacques Bourdin
il y a 9 heures 43 min
décryptage > Europe
Stabilité

Une politique de voisinage intelligente de l’UE

il y a 10 heures 46 min
décryptage > Politique
Bilan

Coronavirus : 14 questions auxquelles le gouvernement nous devra une réponse après la crise

il y a 11 heures 9 min
décryptage > Santé
Surfaces, hygiène et Covid-19

Coronavirus : tout ce qu’il faut savoir sur les risques posés par vos courses et autres poignées de portes

il y a 12 heures 10 min
décryptage > Culture
Atlanti Culture

"Deux ans, huit mois et vingt-huit nuits" de Salman Rushdie : une œuvre littéraire forte, courageuse, exigeante pour le lecteur, à ne pas manquer

il y a 1 heure 6 min
Nouvelle tragédie
Disparition de Maeve Kennedy McKean : le corps de la petite-nièce de John Fitzgerald Kennedy a été retrouvé
il y a 2 heures 16 min
pépites > International
Moment "historique"
Covid-19 : après plus de deux mois de confinement, le bouclage est enfin levé dans la ville chinoise de Wuhan
il y a 3 heures 36 min
light > Culture
Féerie et évasion pour les petits et les grands
Disney + est enfin disponible et accessible en France dès ce mardi 7 avril
il y a 6 heures 1 min
pépites > Europe
Solidarité européenne et internationale
Forte inquiétude au Royaume-Uni sur l’état de santé de Boris Johnson, placé en soins intensifs
il y a 8 heures 13 min
pépites > Sport
Restrictions
Confinement : les activités sportives sont désormais interdites à Paris entre 10h et 19h
il y a 9 heures 18 min
décryptage > Santé
Urgence sanitaire

Ces fonctionnaires non élus qui imposent leur volonté face à la crise du Coronavirus

il y a 10 heures 19 min
décryptage > International
Symbole

Coronavirus, Tchernobyl et le modèle chinois

il y a 10 heures 59 min
décryptage > International
Le point de vue de Dov Zerah

Retrouvailles américano-russes grâce au coronavirus ?

il y a 11 heures 30 min
décryptage > Europe
Eurogroup

L’Europe tente de dépasser le chacun pour soi initial

il y a 12 heures 51 min
Big Brother is reporting you

Quand Google veut censurer vos mails : phrases "problématiques" et dénonciation automatique, quels risques pour les libertés individuelles?

Publié le 31 mai 2013
Google vient de déposer un brevet pour contrôler automatiquement les mails en train d'être écrits par un utilisateur. Une tierce personne serait immédiatement informée si le contenu du message viole une loi ou une règle de son entreprise.
Benjamin Bayart est expert en télécommunications et président de French Data Network, le plus ancien fournisseur d’accès à Internet en France, encore en exercice.Il est un des pionniers d'Internet en France. 
Suivre
Vous devez être abonné pour suivre un auteur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Benjamin Bayart
Suivre
Vous devez être abonné pour suivre un auteur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Benjamin Bayart est expert en télécommunications et président de French Data Network, le plus ancien fournisseur d’accès à Internet en France, encore en exercice.Il est un des pionniers d'Internet en France. 
Voir la bio
Ajouter au classeur
Vous devez être abonné pour ajouter un article à votre classeur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Lecture Zen
Vous devez être abonné pour voir un article en lecture zen.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Google vient de déposer un brevet pour contrôler automatiquement les mails en train d'être écrits par un utilisateur. Une tierce personne serait immédiatement informée si le contenu du message viole une loi ou une règle de son entreprise.

Google vient de déposer un brevet pour un programme permettant de contrôler automatiquement les mails en train d'être écrits par un utilisateur. Une autorité serait immédiatement informée si le contenu du message viole une loi, ou une règle de son entreprise. Baptisé le "Policy violation checker", le brevet est accessible ici.

 

Atlantico : Ce système est-il acceptable du point de vue des libertés individuelles ? Y a-t-il eu des précédents chez Google de tentatives de restriction des libertés individuelles ?

 

Benjamin Bayart : Il faut toujours chercher à identifier où se trouve le client, où se trouve le vendeur, et où se trouve la marchandise. La réponse est parfois assez déroutante. Le client est toujours celui qui paie. Le marchand est celui qui reçoit l'argent. La marchandise, c'est toujours ce qui est échangé entre les deux. Dans tous les sites gratuits, l'utilisateur n'est jamais le client, par définitin, puisqu'il ne paie pas. Qu'il s'agisse de TF1 à 20 h, d'Atlantico ou de la messagerie Gmail. Le client est celui qui paie.

 

Dans le cas d'Atlantico et de TF1, c'est le publicitaire qui achète du temps de cerveau disponible et espère capter un peu d'attention. La marchandise est donc le temps d'attention du lecteur spectateur. La grande question reste de savoir qui est la marchandise dans le cas du "Policy violation checker". Si vous ne payez pas pour votre boite aux lettres Gmail, c'est parce que vous êtes la marchandise. Ce que vendent Google et Facebook, c'est la vie privée des gens.

 

Que ce soit sous forme d'indexation de votre boite mail pour vous présenter des publicités ciblées comme le fait Gmail ou d'indexation de vos réseaux d'amis pour vous présenter aussi des publicités ciblées comme le fait Facebook.

 

Le système de "policy violation checker" sert à détecter ce que les employés n'ont pas le droit de dire. Le client est l'entreprise. Les employés n'ont aucun intérêt dans l'histoire, ils ne sont même pas la marchandise. Ils ne sont rien. Cet outil ressemble étrangement au principe même de la police de la pensée définie par Orwell dans 1984 : l'organisme est chargé de détecter lorsque les gens pensent mal et rectifier leur pensée.

 

Google prétend qu'il s'agit d'aider certaines professions dans lesquelles il est bon de surveiller son discours et ses implications légales, afin d'éviter par exemple les procès, les fuites, et d'enfreindre la politique de confidentialité. Pourquoi dans ce cas ne pas avoir limité le vérificateur à un usage personnel ? Pourquoi ajouter une fonction de dénonciation ? Dans quel but Google a-t-il pu concevoir un tel outil ?

 

Le checker est une idée monstrueuse, structurellement. Or, les mauvaises idées, une fois énoncées, commencent à prendre une forme de vie. Il y a deux façons d'envisager les outils de technologie très avancés. C'est toute la différence entre Frankenstein et Isaac Asimov. Asimov est extrêmement optimiste, il considère que la technologie n'est pas dangereuse, qu'il y a des gens dangereux, mais pas des outils. Dans ses œuvres, les robots ne deviennent jamais méchants.

 

Au contraire, la créature de Frankenstein finit par essayer de tuer son créateur. La technologie peut être conçue au service de l'utilisateur (et non de l'entreprise qui l'a mise au point), et donc être sous contrôle de l'utilisateur. Ainsi, il pourrait exister une fonction qui détecte le politiquement incorrect, que l'utilisateur pourrait décider ou non d'activer. Mais ce n'est pas l'esprit de ce brevet.

 

 

Car la technologie peut aussi être conçue pour contrôler l'humain, et c'est l'approche de Google. C'est aussi celle de Facebook lorsque des algorithmes automatiques censurent les contenus a priori. Ces programmes sont pensés pour aller contre les utilisateurs. C'est très problématique, du point de vue du marketing comme du point de vue politique. C'est le même problème lorsque Appel décide de censurer son App Market, en fonction de critères suivant les bonnes mœurs personnes de Steve Jobs vis-à-vis de tout ce qui touche au sexe.

 

Le Policy violation checker pourrait sans doute être un bon outil pour un utilisateur souhaitant se contrôler lui-même. Malheureusement, le brevet ne décrit pas un système Standalone (un produit peut être utilisé seul, c'est-à-dire sans modules ou connaissances complémentaires, ndlr.), uniquement sur le terminal, et qui se contente d'afficher les informations à l'utilisateur sans les communiquer aux tiers. Au contraire, il s'appuie sur une base de données qui ne semble pas alimentée par l'utilisateur.

 

L'idée sous-jacente de Google semble être la suivante : si un jour quelqu'un doit être payé à surveiller la totalité de la planète, pour vérifier que chacun s'exprime de façon politiquement correcte, autant que ce soit Google lui même qui doit être payé a le faire plutôt qu'un concurrent.

 

 

 

D'un point de vue purement légal, Google peut-il s'improviser gendarme ? Ce système d'alerte ne s’apparente-t-il pas à de la délation ?

 

Cela pose de nombreux problèmes légaux. En France, même avec les outils fournis par votre employeur, ce que vous dites ou écrivez révèle a priori de la correspondance personnelle. Il suffit que les mails soient placés dans un dossier "personnel", et en aucune circonstances votre patron n'a le droit d'y avoir accès, et ce même dans une boite mail créer par l'entreprise et à vocation professionnelle. Il y a une jurisprudence à la Cour de cassation. Les outils de communication mis en place par l'entreprise peuvent servir de manière légitime à une communication privée. La question s'est déjà posée par exemple dans l'affaire Kerviel. Il a été établi que le patron n'avait pas le droit de fouiller la boite aux lettres de Kerviel. De même, on n'a pas le droit de licencier quelqu'un parce qu'il utilise le téléphone ne l'entreprise pour passer des coups de fil personnels. Les employés ont le droit de le faire tant qu'il n'y a pas d'abus. Je soupçonne la loi américaine d’être assez similaire à la notre sur ce point.

 

Il semble qu'il y ait aussi une forme de délation, mais le brevet n'est pas clair. Il précise que l'utilisateur est prévenu, qu'un message s'affiche pour lui expliquer le problème. Est-il dénoncé avant, après ? Tout est possible, ce n'est pas clair.

 

Si un tel programme était rendu accessible par Google, serait-il possible de légiférer au niveau national pour en interdire ou en limiter l'utilisation ?

 

La France "pourrait" juridiquement, oui. La France "peut" beaucoup. Mais existe-t-il un précédent ? La réponse est non. Et on peut penser que les dissuasions juridiques ne suffiraient pas.

 

Microsoft a été condamné a de grosses sommes d'amende pour abus de position dominante, mais rien n'a changé. Microsoft n'a pas réglé le problème, et a réalisé bien plus de bénéfices en Europe, compensant largement les amendes de la Commission européenne. Microsoft a du payer plus de 2 milliards d'euros d'amende ces dernières années, mais cela ne l’empêche pas de continuer à enfreindre la loi.

 

La Cnil allemande a déjà fait les gros yeux a Facebook sur certains sujets, sans effet. La France pourrait tenter d'imposer sa vision législative, mais rien ne le laisse présager. L'indexation des mails pour créer des publicités ciblées n'a jamais provoqué beaucoup de réactions de la Cnil.

 

Le porte-parole de Google Matt Kallman s'est voulu rassurant, expliquant que toutes les idées ne donnaient pas lieu à de réels services. Un tel outil pourrait-il voir le jour ou sera-t-il difficile à mettre sur pieds ?

 

 

Cela soulève un autre problème : des brevets comme celui-ci, peuvent être déposés par poignées, à tort et à travers.. Vous prenez n'importe quel livre de science fiction et le raconter dans un brevet. Google ne présente pas un logiciel qui implémente cette fonctionnalité, ni un code comme base de référence. Ce "checker" est simplement à l'état d'idée. Le système des brevets logiciels permet de breveter l'importe quoi n'importe comment. Le premier à avoir une idée en devient propriétaire. C'est absurde.

 

C'est contraire à toute la notion de droit d'auteur et aux normes internationales en matière de brevetabilité. Le principe d'un brevet est de reconnaître une réalisation, pas une idée. Dans le monde physique, si vous voulez breveter un nouveau gond de porte qui n'a pas besoin d’être huilé, il faut apporter un modèle. Ici, l’algorithme n'est pas présenté, et aucun code ne prouve que ça marche. Il n'y a qu'une idée. C'est un exemple parfait de l'idiotie des brevets logiciels. Je vous rappelle que la notion de rectangle à coins arrondis est brevetée par Apple.

 

 

 

Propos recueillis par Julie Mangematin

 

Les commentaires de cet article sont à lire ci-après
Le sujet vous intéresse ?
Mots-clés :
Google, censure
Articles populaires
Période :
24 heures
7 jours
01.

Belgique : le stock stratégique de masques a été détruit pour faire de la place aux migrants

02.

Luc Rouban: "Cette crise sanitaire marque la fin du macronisme et le retour du clivage gauche droite"

03.

Coronavirus : tout ce qu’il faut savoir sur les risques posés par vos courses et autres poignées de portes

04.

Tout changer dans le monde d’après ? Le scénario noir que cela pourrait bien déclencher

05.

Fléau de crise : 6 mesures pour contrer les petits chefs qui aggravent la situation sanitaire et économique

06.

Ces fonctionnaires non élus qui imposent leur volonté face à la crise du Coronavirus

07.

Trump / Macron : le match des sondages par (gros) temps de Coronavirus

01.

Belgique : le stock stratégique de masques a été détruit pour faire de la place aux migrants

02.

Philippe Juvin : "Les chefs et petits chefs de l’administration qui nous entravent face à l’urgence devront répondre de leurs actions après cette crise"

03.

Jean-Noël Fabiani : "Il ne pourra pas y avoir de sortie du confinement sans dépistage de masse, ni mesures de très grande précaution"

04.

Alors que tout s’effondre, l’économie et le moral, une seule bonne nouvelle : les banques ne feront pas faillite

05.

Derrière le cas Lallement, l’insupportable infantilisation des Français

06.

Fléau de crise : 6 mesures pour contrer les petits chefs qui aggravent la situation sanitaire et économique

01.

Ce risque politique énorme que prend le gouvernement en ne limogeant pas le Préfet Lallement

02.

Crise sanitaire et manque de réactivité : la France est-elle dirigée par des fonctionnaires non élus ?

03.

Philippe Juvin : "Les chefs et petits chefs de l’administration qui nous entravent face à l’urgence devront répondre de leurs actions après cette crise"

04.

Crise du coronavirus : Nicolas Sarkozy, le recours silencieux ?

05.

Covid-19 : les patients en réanimation n’ont "pas respecté le confinement" ? Didier Lallement s’excuse

06.

Attaque à Romans-sur-Isère : mais que faisait Abdallah A. O. en France ?

Commentaires (6)
Ecrire un commentaire
Vous devez être abonné pour rédiger un commentaire.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Nos articles sont ouverts aux commentaires sur une période de 7 jours.
Face à certains abus et dérives, nous vous rappelons que cet espace a vocation à partager vos avis sur nos contenus et à débattre mais en aucun cas à proférer des propos calomnieux, violents ou injurieux. Nous vous rappelons également que nous modérons ces commentaires et que nous pouvons être amenés à bloquer les comptes qui contreviendraient de façon récurrente à nos conditions d'utilisation.
DEL
- 14/05/2013 - 01:19
Illusions?
Vous croyez peut-être qu'on n'est pas déjà espionné de partout?
Bande de rêveurs! Entre l'Etat et les boîtes privées il n'y a plus d'intimité possible.
Salvatore Migondis
- 13/05/2013 - 14:51
"une boite mail créer par l'entreprise"
Alors que comme l'attestent jour après jour les articles d'atlantico, nos brillants informaticiens en sont encore à se casser les dents sur la simple vérification des règles grammaticales les plus élémentaires, ce bon Monsieur Bayart croit-il sérieusement que l'on est à la veille de commercialiser des analyseurs sémantiques du langage..? Cet "expert" est il naïf au point de confondre dépôt de brevet et ingéniérie..? L'idée sous-jacente de Google est tout bonnement qu'au cas où un concurrent emprunterait certains volets de cette technologie pour mettre sur le marché une "killer app" dotée de fonctionnalités beaucoup plus terre-à-terre, son département légal disposerait alors de solides munitions pour le traîner devant les tribunaux. Puisqu'il n'a pas l'air très au courant, je recommande à votre expert de se renseigner sur les innombrables guéguerres que se livrent les géants du hi-tech plutôt que de fantasmer sur les écrits un peu datés de Mary Shelley et d'Isaac Asimov.. Non mais sans blague...
opera
- 13/05/2013 - 12:57
TOUT CE QUI EST GRATUIT A UN PRIX ;
La philantropie n'existe pas : A nous de choisir le prix qu'on veut y mettre
Google , Facebook, Tweeter .......nous cernent ,la publicite nous traque , Nous sommes catalogués....
C 'est leur fond de commerce
C'est inquiétant ,surtout quand les enfants se livrent naivement sur ces sites . Nous parents devont être tres vigilants
Bon , ceci dit à nous d'être prudent , et d'en calculer le " benefice-
risque "
Rien ne nous oblige à utiliser ces reseaux
.