L’heure d’employer la manière forte avec Facebook et les GAFAM sur leur utilisation de nos données personnelles est-elle venue ?

1. Atlantico : « Si c'est gratuit, alors vous êtes le produit », la célèbre maxime revient sur le devant de la scène avec le scandale de l'entreprise de Cambridge Analytica qui a collecté massivement les données de dizaines de millions d'utilisateurs de Facebook. La firme a utilisé les informations personnelles des utilisateurs pour cibler au mieux les campagnes de l'actuel locataire de la Maison Blanche pendant sa campagne. Au final peut-on dire que les GAFAM, un temps considéré comme des outils démocratiques soient devenus une vraie menace pour les démocraties, loin devant les populistes par exemple, d'autant plus que derrière  leur neutralité proclamée, il y a souvent une vision politique très marquée ?

David Fayon : Les technologies sont avant tout ce que nous en faisons. Elles multiplient le champ des possibles, rebattent les cartes. Et selon, l’effet peut être positif ou négatif – et selon les cibles et du point de vue duquel on se place, establishment, citoyens d’en bas, partis extrémistes, élites, catégories spécifiques, etc. Par exemple, lors des révolutions tunisiennes, l’accès à Internet et aux réseaux sociaux a constitué un contre-pouvoir jugé utile pour la démocratie. Idéalement une technologie devrait être neutre mais ceux qui conçoivent les algorithmes peuvent d’une certaine façon modéliser les raisonnements de la machine de nature à orienter le jugement. Par exemple, en Asie ou en Afrique, certains estiment que les algorithmes sont façonnés par l’esprit occidental qui n’est pas meilleur mais différent d’autres façons de penser ou du rapport de l’homme dans le temps et l’espace.

Mais dans le cas de Cambridge Analytica, cabinet de communication stratégique, dont l’actionnaire principal est Robert Mercer qui a participé au financement de la campagne de Donald Trump, il s’agit comme vous le dites d’un scandale. En effet, ce cabinet, créé en 2014, a travaillé pour la campagne de Donald Trump en 2016. Le « Facebookgate » dont font écho actuellement la presse au Royaume-Uni (The Observer) et aux Etats-Unis (The New York Times) est le fait qu’un jeune chercheur employé par Cambridge Analytica ait en 2014 déclaré à Facebook et aux utilisateurs de son application qu’il collectait des informations à des fins académiques alors que les données ont en réalité été utilisées pour le cabinet à des fins de ciblage politique très précis. Il s’agit là d’un mensonge, du moins d’un détournement de finalité au sens des traitements automatisés d’informations nominatives de la CNIL. En l’espèce, il n’y a eu ni piratage de comptes ni vol de données. En revanche Facebook n’a pas contrôlé l’application tierce récupérant les données, ce qui est une négligence, et les données ont été conservées alors que le contraire aurait été prétendu. Le fait qu’un tiers puisse accéder aux données des utilisateurs sans le consentement préalable des facebooknautes avec un dol quant à la finalité concerne au total environ 50 millions de profils. Ces données ont été utilisées pour permettre l’identification des personnalités des électeurs américains individuels en vue d’influencer leur comportement dans le vote.

Concrètement, il s’agit de pouvoir proposer une campagne très ciblée et d’avoir un affichage publicitaire personnalisé selon les arguments à mettre en exergue issus d’un programme d’un candidat et qui sont jugés prioritaires ou qui font mouche sur tel ou tel électeur. Il s’agit d’une hyper-segmentation qui est possible car dans le programme de plusieurs candidats, certains idées plaisent « et en même temps » d’autres constituent des repoussoirs. Une application intelligence peut utiliser les données d’un compte Facebook, les interactions sociales, etc. pour dresser un portrait-robot politique d’un utilisateur Facebook : est-il républicain ou démocrate et selon, à quel degré avec quel type de préférence sur tels sujets de société, etc.

Pour autant les techniques sont encore embryonnaires. Elles pourraient être plus efficaces à l’avenir avec les progrès de l’intelligence artificielle, ce qui peut faire très peur. Les thèmes de sciences fiction d’Asimov, de George Orwell et beaucoup d’autres deviennent réalité.

Même si le compte du chercheur, Christopher Wylie, qui avait 23 ans en 2014 a été suspendu, le préjudice pour les millions d’utilisateurs demeure voire la possible issue du scrutin. Cette affaire juridique en cours avec Royaume-Uni et Etats-Unis met en lumière les risques des applications informatiques qui permettent de prédire et d’influencer le choix d’électeurs notamment sur les plus influençables. Ce cas n’est sans doute pas isolé. On songe au Brexit et à d’autres élections récentes.

Notons que les investissements politiques dans les campagnes en ligne qui étaient encore marginaux au début des années 2000 se sont largement développés avec aussi pour but d’avoir une réponse à la réglementation des budgets de campagne. Aussi la loi va s’adapter mais avec un décalage comme systématiquement lors des évolutions techniques qui sont plus rapides. On pourrait citer aux Etats-Unis le projet des Honests Ads Act en octobre 2017.

Avec tout ce que Facebook sait de nous, certains voient Mark Zuckerberg comme possible président des Etats-Unis. Enfin le slogan d’un Google par exemple est « Don’t be evil » pour indiquer que l’entreprise veut votre bien. Le fait de l’afficher peut être inquiétant : est-ce que l’on ne nous cacherait pas quelque chose ? Rappelons que Faust avait vendu son âme au diable. Tout ceci reste à méditer pour ne pas tout dévoiler sa vie numérique, avoir un libre arbitre et un jugement critique, ce qui est de plus en plus délicat avec les influences subies, les affichages publicitaires sur les comptes qui formatent les internautes, le temps de cerveau disponible sur les réseaux sociaux, etc. Dans ce contexte, l’éducation au numérique est à privilégier dès le plus jeune âge plutôt que de chercher à légiférer sur les fake news car certaines n’en sont pas… et dans une démocratie le pluralisme doit prévaloir.

Edouard Husson : Question: s’il ne s’agissait pas de la campagne de Trump, y aurait-il une telle émotion? C’est tous les jours que nos données sont utilisées, massivement. Tous les candidats de tous les partis le font. Le premier à avoir travaillé systématiquement avec les data et les réseaux sociaux est Obama en 2008. Et dans ce cas, on n’était qu’admiration.  Je propose d’éviter de porter d’emblée un jugement moral. Tous les utilisateurs d’internet et des réseaux sociaux ont trouvé normal d’avoir un accès gratuit. Mais dans la vie des sociétés, rien n’est gratuit, il y a toujours une valeur d’échange. Nous achetons la gratuité d’internet contre nos données personnelles, que les entreprises présentes sur le Net sont en mesure de valoriser. Comment s’étonner que les entreprises qui sont derrière la Toile et ses sous-ensembles se préoccupent de gagner de l’argent? Il y aurait des tas de moyens de changer le modèle économique: il serait extrêmement facile de mettre en place un système de micro-paiement qui vaudrait pour les deux parties: l’accès à un site ou l’accès aux données des utilisateurs. Bien entendu, cela est contraire, à première vue, à la tendance profonde de l’époque, qui est la diminution du prix de l’information voire sa gratuité. La menace pour la démocratie ne me semble pas venir d’abord de l’utilisation massive des données: c’est un problème de prix de l’information, dont on peut changer les paramètres. En revanche, on a vu ces dernières années les GAFAM se rapprocher des gouvernements, obéir à leurs injonctions de contrôle des données ou bien alimenter la NSA. La transformation du complexe militaro-industriel en un complexe militaro-numérico-industriel est une réalité, menaçante.

1. Au-delà de ce scandale, quels sont les risques concrets que ces récoltes de données personnelles massives font courir à la fois aux citoyens mais aussi à nos sociétés ?

Edouard Husson : Les GAFAM et leurs homologues chinois, les BATX (Baidu, Alibaba, Tencent, Xiaomi) ont découvert que l’aspiration massive de données leur permettait de travailler sur des secteurs en plein développement comme l’intelligence artificielle. Le formidable bond en avant de l’intelleigence artificielle ces dernières années est largement dû à la masse de données à disposition, qui permettent de développer des machines de plus en plus performantes. L’intelligence artificielle défie l’intelligence humaine à terme. Il y a là une foule de questions non résolues et le développement très rapide des géants du Net va nous placer très rapidement devant des défis que nous n’avions pas anticipés. Il se peut que les services soient autant dévastés par la révolution de l’information que l’industrie traditionnelle l’a été en son temps. Que vont devenir les médecins dans le monde de l’intelligence artificielle, lorsque des machines feront des diagnostics beaucoup plus précisément et beaucoup plus vite qu’eux? Et les juristes, lorsque 80% des contrats pourront être rédigés par des machines? Que va devenir la notion de responsabilité quand nous circulerons dans des voitures sans chauffeur? Quelle sera votre liberté lorsque, pour être embauché, vous devrez accepter que votre nouvelle entreprise place une puce dans votre organisme, au nom d’une meilleure gestion des ressources humaines? Ces questions ne sont pas absurdes. Les auteurs de science-fiction ont depuis longtemps imaginé qu’une partie de l’humanité s’allie à des machines pour soumettre l’autre partie. Tout cela nous emmène bien plus loin que la question de la démocratie. C’est la question de l’homme qui est posée, de l’avenir d’homo sapiens sapiens.

David Fayon : Outre les manipulations politiques, il existe des risques que des compagnies établissent des profils types dits « à risques » et qui peuvent occasionner des ostracismes de la part d’organismes : mauvais payeur potentiel pour un crédit, risque de contracter telle ou telle maladie, etc. Ceci peut influer sur les primes d’assurance. En effet, en fonction des comportements de l'internaute, la question quant aux conséquences des politiques d'assurance et des primes associées peut être posée. Et ce n'est qu'un exemple parmi d'autres.

On pourrait aussi considérer a contrario que dans certains contextes clairement définis ce serait une opportunité. Par exemple avec des capteurs, analyser la conduite d’un automobiliste au volant et faire évoluer son contrat d’assurance avec un système de bonus/malus en temps réel. Ceci pourrait s’avérer plus efficace que le contrôle radar qui lui est discrétionnaire et non continu, ce qui revient à verbaliser un pic à 131 sur autoroute au mauvais moment en étant muet sur d’autres incivilités dangereuses pour les autres usagers de la route.

Pour l’embauche, en fonction des critères de l’algorithme, des profils ne pourraient trouver place dans des organisations car certains pourraient s’avérer rédhibitoires ou de nature à d’emblée blacklister en candidat malgré d’autres qualités par ailleurs mais non prises en compte ou pondérées par un algorithme… alors que les personnes dans les organisations sont avant tout des hommes et des femmes.

Plus globalement, on peut dire que les données sont l'or transparent, le pétrole du 21e siècle (cf. figure).

C'est là que se situe la valeur ajoutée à condition d'être pas simplement raffinées et enrichies mais également contextualisées. Et les GAFAM avec des algorithmes intelligents et l'apport du big data s'en emparent pour anticiper vos envies et vous proposer les réponses les plus à même de satisfaire vos besoins. Tout l'écosystème en train de se constituer, pas seulement avec le PC et les smartphones mais aussi les assistants personnels de type Google Home ou Amazon Echo et l'Internet des objets sont là pour offrir des services sur mesure, ce qui potentiellement peut laisser planer un esprit Big Brother, d'autant que les GAFAM étendent leur emprise sur des domaines d'activité qui n'étaient pas les leurs au départ comme celui du paiement - avec un risque quant à une ubérisation potentielle des banques -, de l'énergie ou du transport.

1. Comment lutter alors efficacement contre ces récoltes de données massives ? Que peuvent vraiment les Etats ou les instances supranationales face aux grandes entreprises de la tech ? La Chine a récemment imposé à Apple d'héberger les données des citoyens chinois dans le territoire. Ne serait-il pas temps d'imposer la même chose ?

David Fayon : La plus simple façon pourrait être de ne pas utiliser certaine outils qui sont intrusifs ou exploitent dangereusement nos données personnelles. Mais il existe une certaine addiction à l’usage de ces outils. Qui ne se rue pas au lever le matin pour consulter ses notifications sur Facebook, Twitter, Instagram, ses méls reçus, etc. Mais pour autant, peut-on revenir à l’âge de pierre car ces outils nous offrent des possibilités de servir auparavant inexistants ? L’idée d’avoir un système d’exploitation souverain est une hérésie. En revanche, disposer de nos données dans les datacenters localisés en Europe où le droit communautaire s’applique paraît être une piste séduisante. La lecture du livre blanc Les données personnelles à l’heure du big data donne des éléments de réflexion et propose aussi des solutions alternatives. Des critères éthiques dans les outils numériques peuvent être à rechercher. Beaucoup d’Etats pèsent moins que les GAFAM (et également les BATX, les équivalents chinois qui ont pour ambition de s’étendre au-delà des frontières de l’Empire du milieu). Car effectivement, nous assistons à une siliconisation du monde comme décrit par Eric Sadin ou analysée sous un angle différent dans Made in Silicon Valley (http://tinyurl.com/numeriqueUS).

Pour autant la Chine qui ambitionne de défier les Etats-Unis, militairement et numériquement, peut faire pression sur les GAFAM qui voudraient s’implanter sur son sol. Ce fut déjà le cas par le passé avec Google. Mais que peuvent les Etats-membres de l’Union d’autant plus si nous partons en ordre dispersé ? Ce que nous pouvons néanmoins exiger est que les données soient stockées sur le sol de l’Union européenne pour que le droit communautaire puisse s’appliquer plutôt que sur des serveurs situés en Alaska. Et certainement imaginer d’autres modèles économiques et une fiscalité qui ne matraquent pas les TPE/PME françaises et les particuliers au dépend des géants. Mais pour cela, un consensus à un plus haut niveau est à rechercher dans un mode gagnant pour tous avec des garde-fous et des contre-pouvoirs car nous sommes avec Internet et les GAFAM au cœur du Cinquième pouvoir qui prend le pas sur les autres.

Edouard Husson : La question de la souveraineté numérique était quasi-absente de la dernière présidentielle. Cette dernière a été menée largement autour d’un combat d’arrière-garde, la question de la viabilité de l’euro. A l’âge des monnaies numériques, l’euro est un système monétaire complètement dépassé, à jeter aux oubliettes de l’histoire. Le problème vient de ce que ceux qui le critiquent pensent en termes tout aussi archaïques que ceux qui le défendent. Les partisans et les adversaires de l’euro sont comme tous les défenseurs des fiat currencies du XXè siècle, ils se méfient des crypto monnaies et de tous les instruments de liberté individuelle qui ont surgi grâce à la révolution numérique. Ils veulent les encadrer ou les interdire. Voilà à quoi se ramène aujourd’hui le débat politique. Nous n’avons entendu aucun candidat défendre la souveraineté numérique du pays, soit qu’elle fût pensée au niveau national soit qu’elle fût déclinée à l’échelle de l’Union Européenne. La Chine, la Russie et....les Etats-Unis ont des politiques de contrôle ou de protection des données qui témoignent d’une vision de ce que doit être leur souveraineté numérique.  L’UE se glorifie de quelques amendes infligées à l’un ou l’autre des géants américains mais nous avons toujours des années de retard sur les progrès technologiques. Pourtant, il y aurait bien un modèle européen à faire émerger, celui d’une union de nations démocratiques soucieuses de protection aussi bien vis-à-vis de l’extérieur qu’à l’intérieur des frontières: la Chine est capable de faire plier Google plus efficacement que l’UE mais elle est en même temps en train de mettre en place le plus puissant appareil de surveillance de l’histoire, au service de l’émergence d’un néo-totalitarisme qui dépasse les cauchemars les plus terribles de George Orwell.