Opération Bloomberg : la maîtrise des données personnelles des électeurs sera-t-elle la clé des élections du futur ?

Atlantico : Michael Bloomberg dans le cadre d'une potentielle course à l'élection présidentielle de 2020 aux États-Unis pourrait miser sur les données personnelles. À grand renfort de dizaine de millions de dollars, l'ancien maire de New York travaille à la création d'une organisation politique qui se concentrerait sur la récolte de données des citoyens américains. A-t-on ici un aperçu de ce à quoi pourraient ressembler à l'avenir des élections démocratiques ?

Bernard Benhamou : L'utilisation des données personnelles des citoyens n'est pas une nouveauté lors des élections américaines. Barack Obama a été l’un des premiers à faire cela en 2008. Ce que fait Bloomberg est toutefois plus une avancée technologique qu'une innovation politique. L'annonce de Bloomberg aurait été intelligente il y a 10 ans mais aujourd'hui elle s'avère sembler toxique et ressemble plus à une course aux armements technologiques. En effet, les outils de traitement de ces données recueillies via des agrégateurs de données (data-brokers) sont tellement sophistiqués qu’elles permettent d’effectuer un ciblage extraordinairement précis des individus. Avant, les responsables de campagnes politiques se contentaient d'envoyer des messages relativement indiscriminés alors que les systèmes d’intelligence artificielle permettent aujourd’hui de remodeler progressivement et lentement l'opinion des citoyens au point même qu’en Chine le très peu démocratique Xi Jinping annonçait que l'un des usages principaux de l'IA serait de façonner l'opinion publique chinoise…

Pour revenir sur l’élection présidentielle américaine de 2016 avec l’affaire Cambridge Analytica, il ne s'agissait plus d’inonder les électeurs de messages invitant à «voter Trump», mais il s'agissait de concevoir des campagnes ciblées visant à dissuader certains groupes (par exemple les Afro-Américains) d’aller voter pour Hillary Clinton. Cela a été très efficace puisque, il faut le rappeler, si Clinton a remporté massivement le vote populaire les élections ont été gagnées par Trump avec un écart de 50 000 voix dans les États clés, c’est-à-dire une fraction infime de l’électorat américain. Or dans les systèmes démocratiques les élections se gagnent toujours sur quelques pourcents et pas de manière massive. Dans ce contexte il faudra être vigilant sur la manière dont sont utilisées les données personnelles des électeurs. C'est tout le débat qu'il y a en Europe puisque nous sommes les seuls à avoir des préoccupations sérieuses quant à ces questions.

Les données personnelles ont été déjà au cœur de la stratégie des candidats des précédentes élections aux États-Unis et en France. Dans l'Hexagone, tous les candidats "importants" avaient recours à des logiciels de big data comme NationBuilder, DigitaleVox ou encore FederaVox. Concrètement en quoi ces données personnelles sont-elles utiles ?

Ces données permettent de faire ce que l'on appelle du « micro-targeting » soit un profilage de chaque individu basé sur plusieurs centaines de critères. Concrètement il faut comprendre que tout devient une donnée personnelle sur internet et que des données en apparence anodines peuvent être analysées pour déduire les caractéristiques d’un individu. Pour prendre un exemple qui va nous ramener avant même l’essor des réseaux sociaux, durant l’affaire Monica Lewinsky, il a aussi été question de l'impeachment de Bill Clinton. À l’époque une étude avait été menée sur les marques des produits de grande consommation et les convictions politiques des consommateurs. On avait ainsi trouvé que les acheteurs de soupe Campbell étaient très majoritairement (85 %) en faveur de la destitution de Clinton… On était déjà capables en croisant les données sur la consommation de déduire énormément de choses d'une personne sans même avoir besoin de lui demander frontalement quelles étaient ses convictions politiques. Désormais avec les systèmes d’intelligence artificielle qui utilisent les données des smartphones et des réseaux sociaux on peut aller infiniment plus loin…

Aujourd'hui en analysant des millions de données issues des réseaux sociaux on est capables de déduire beaucoup plus finement les caractéristiques (certains parlent des failles) d’une personne. Ces données vont permettre de créer des messages qui vont progressivement induire certains comportements et surtout accentuer ou modifier des convictions politiques. Dans son livre sur le « capitalisme de surveillance » Shoshana Zuboff explique ainsi que le but des acteurs industriels (mais aussi des acteurs politiques) n'est plus simplement d'orienter un achat mais de remodeler complètement le comportement des individus à partir des données recueillies sur ces personnes.

Une étude de Facebook réalisée il y a quelques années a aussi montré qu'en modifiant les fils d’actualité de plusieurs centaines de milliers d’utilisateurs on était capable d'influencer leur état psychologique. On était alors capable de modifier l'humeur des gens, ou de réveiller les anxiétés qui peuvent par exemple conduire à des votes extrêmes. Cela permet de faire rentrer les gens dans une sorte d’entonnoir comportemental qui les poussera à adopter des positions plus radicales.

Il y a dans ce domaine une responsabilité de plus en plus importante de ces plateformes. Il ne s’agit pas d’une complicité active mais plutôt d’une convergence d'intérêts avec des expressions de type radical extrême. Tout simplement parce que le mode de rémunération de ces plateformes est basé sur la publicité et que cela les incite à capter durablement l'intérêt des utilisateurs (dans ce cas on parle d’augmenter le niveau d’« engagement »). Or ces plateformes ont noté qu’en proposant des contenus de plus en plus « radicaux » on capte plus durablement l’intérêt des utilisateurs et que l’on augmente ainsi le nombre de messages publicitaires reçus par leurs utilisateurs.

Face aux risques désormais avérés de dérives politiques liées à ces plateformes, il y a une vraie demande des sociétés démocratiques pour une plus grande régulation de ces plateformes. La vraie question désormais sera de savoir si cette régulation (qui ne peut venir que des pays européens) peut s’imposer avant que nos démocraties n’aient été progressivement transformées en des systèmes autoritaires…

Quelles sont les limites imposées aujourd'hui par le droit français et européen ?

C'est très simple. Si l'on analyse le RGPD, le métier même de data-broker pourrait à terme être remis en cause. Aujourd'hui ce type de comportement que l'on peut voir encore aux États-Unis ne sera certainement pas durable et n'est plus possible en Europe.

Même Mark Zuckerberg lors de ses auditions au congrès a été obligé de conceder que Facebook ne ferait plus appel aux data-brokers pour créer des profils y compris pour des personnes qui ne sont pas des utilisateurs de Facebook. Le risque de ces gigantesques agrégateurs de données est désormais tel que les scandales à répétition deviennent un risque majeur pour Facebook. et qui en plus tomberait sous le coup du règlement européen. Le micro-targeting dans le cadre du droit européen a des limites et devra à terme être remis en cause et nous sommes encore dans une zone grise vis-à-vis de ces pratiques « asymétriques » dans lesquelles les usages sont en position d’infériorité. L'absence de consentement effectif fait qu'il est difficile d'imaginer que l’activité des data brokers puisse se poursuivre en l’état. En effet, dans la plupart des cas ils n'ont pas les autorisations explicites des usagers qui alimentent leurs gigantesques bases de données.

Nous sommes dans une période de bascule par rapport à ces activités. Nous avons laissé les choses aller beaucoup trop loin et beaucoup trop vite et même aux États-Unis ils se rendent compte que l'on parle d'un possible sabordement du régime démocratique par les nouvelles technologies. Cela va beaucoup plus loin qu'un abus de position dominante. L’affaire Cambridge Analytica et ses nombreuses suites auront fait l'effet d'un électrochoc pour les démocraties.

Le risque de la zone grise que nous traversons actuellement ne serait-il pas l'accroissement de la défiance envers la démocratie et ses représentants ?

Nous nous rapprochons chaque jour d’une crise de confiance systémique qui traverse à la fois le système démocratique, ses représentants élus mais aussi le secteur des nouvelles technologies. Ces derniers temps à Wall Street on voit des investisseurs se détourner du secteur technologique à la suite des nombreux scandales sur les abus de ces plateformes. Cette crise devrait aussi constituer une opportunité pour les Européens de proposer des réponses alternatives aux plateformes américaines et leurs dérives. Par ailleurs nous devons aussi éviter les systèmes autocratiques comme la Chine avec le contrôle systématique et permanent des individus au travers du très inquiétant « Crédit Social » qui note chaque citoyen chinois et lui interdit d’accéder aux transports ou aux instruments financiers s’il dévie de la « norme ». Cela doit aussi conduire l'Europe à devenir le cœur de développement des technologies éthiques dans les années à venir. En effet, face à l’actuel « laisser faire » américain et au contrôle chinois absolu sur ses citoyens, seule l’Europe est à même de constituer une alternative qui pourra préserver les principes et valeurs sur lesquels sont fondées nos démocraties.