Atlantico, c'est qui, c'est quoi ?
Newsletter
Décryptages
Pépites
Dossiers
Rendez-vous
Atlantico-Light
Vidéos
Podcasts
High-tech
Crédits Photo: ARIS OIKONOMOU / AFP

Maîtres des données personnelles

Ce que Margrethe Vestager ne semble pas comprendre à la phase 2 de la conquête du monde par les GAFAM

Les grandes entreprises des technologies du numérique comme Google ou Amazon investissent de plus en plus dans la santé, la banque ou bien encore l'assurance. Margrethe Vestager, la commissaire européenne en charge de la concurrence, tente de lutter contre l'emprise des GAFAM.

Bernard Benhamou

Bernard Benhamou

Bernard Benhamou est secrétaire général de l’Institut de la Souveraineté Numérique (ISN). Il est aussi enseignant sur la gouvernance de l’Internet à l’Université Paris I-Panthéon Sorbonne. Il a exercé les fonctions de délégué interministériel aux usages de l’Internet auprès du ministère de la Recherche et du ministère de l’Économie numérique (2007-2013). Il y a fondé le portail Proxima Mobile, premier portail européen de services mobiles pour les citoyens. Il a coordonné la première conférence ministérielle européenne sur l’Internet des objets lors de la Présidence Française de l’Union européenne de 2008. Il a été le conseiller de la Délégation Française au Sommet des Nations unies sur la Société de l’Information (2003-2006). Il a aussi créé les premières conférences sur l’impact des technologies sur les administrations à l’Ena en 1998. Enfin, il a été le concepteur de « Passeport pour le Cybermonde », la première exposition entièrement en réseau créée à la Cité des Sciences et de l’Industrie en 1997.

Voir la bio »

En une semaine, nous apprenons que Google développe des plans très sérieux tant au niveau des traitements de données de santé qu’au niveau des services bancaires. Les grandes entreprises des technologies du numérique, couramment associées sous l’appellation de GAFAM (Google, Amazon, Facebook, Apple, Microsoft), semblent lancer dans une course inédite à l’extension de leur pouvoir en investissant les domaines de la santé, de l’assurance, et de la banque. 

Atlantico.fr : Peut-on distinguer des périodes dans les politiques des grandes entreprises du numériques : une première où ces dernières se concentreraient sur leurs plateformes et l'acquisition de monopoles ; et une seconde, actuelle, où elles amorceraient une diversification vers la banque et la santé ?

Bernard Benhamou : Amazon donne un exemple un peu plus nuancé que ce découpage. En effet, très vite l'entreprise a développé une activité technologique à côté de leur place de marché, autour du "cloud" avec Amazon Web Services. Donc on ne peut pas considérer une coupure aussi nette. Il y a eu d'autres époques antérieures où il y avait des "Pure Player", des structures qui n'étaient que dans le domaine informatique, avec IBM puis Microsoft, qui étaient les géants de l'informatique, et ont souhaité eux aussi très tôt se diversifier. Je rappelle par exemple que Microsoft avait tenté à son époque de rentrer dans le domaine des services financiers et en avait été très vite dissuadé par les réactions du secteur bancaire et ses relais. À l’époque, il s'agissait du rachat de la société Intuit avec son logiciel Quicken, qui a été empêché par le ministère de la Justice des États-Unis. C'est donc intéressant de voir qu'il y a déjà eu des précédents. On avait bien compris que le secteur informatique, pour aussi important qu'il soit, ne résumait pas l'action de ces sociétés : c'est désormais vrai pour quasiment toutes les grandes sociétés technologiques. Cela dépasse les GAFAM : globalement, l'ensemble des sociétés technologiques ont vocations à - selon le terme qu'on utilisait il y a quelque temps - à pivoter, ou à se redistribuer sur d'autres secteurs.

Dans le cas spécifique de Google, Facebook, par exemple, leur puissance de frappe via leurs monopoles sur l'acquisition d'un grand nombre de données sensibles, ne doit-elle pas inquiéter vis-à-vis de leurs ambitions à s'étendre à d'autres domaines ? Avec un risque d'augmenter encore plus leurs pouvoirs ?

C'est, à mon avis, totalement vrai. Je vous citerai comme exemple la ville de Toronto. La ville de Toronto a laissé à Google le soin d'organiser la ville intelligente du Waterfront district. Il y a quelques jours on a découvert des documents de "SideWalk". la filiale de Google qui évoquaient une reprise en main d'une partie des services publics, y compris des "punitions" des infligées aux citoyens, faisant preuve d'une volonté qui est quasiment de nature politique. On peut citer l'ancien patron de Google, Éric Schmidt, qui avait écrit dans son livre, La nouvelle ère digitale : "Les États sont lents et incompétents, nous avons vocation à les remplacer". À l’époque ça n'avait pas fait énormément de bruits. Maintenant on se rend compte qu'une société comme Google représente un vrai risque d'ubérisation pour l'État lui-même, et pas uniquement pour tel ou tel secteur industriel. C'est l'État en tant que tel, avec ses prérogatives régaliennes, évidemment avec la monnaie mais aussi pour la sécurité ou encore la santé, qui est face à un risque de substitution, avec en particulier les nouvelles technologies de l'intelligence artificielle. C'est là où se pose un véritable problème politique de souveraineté. Il est évident que nous, citoyens de sociétés démocratiques, aurons à nous prononcer sur ce que ces sociétés peuvent ou ne peuvent pas faire. Indépendamment même des actions en concurrence, par exemple, pour savoir si le rachat de WhatsApp ou Instagram par Facebook aurait dû être bloqué (ce que même les Européens admettent aujourd’hui). L'économiste en chef du département de la concurrence à Bruxelles avait reconnu je cite "s'être fait avoir" dans le cadre de ce rachat. Il y a donc deux problèmes : celui de la gestion de la concurrence ; et celui du risque de l'ubérisation de l'État, qui renvoie à un ancien concept, celui du risque de démembrement de l'État. Et je pense que là-dessus, il y a un véritable risque de substitutions de grands groupes technologiques à des missions essentielles de l'État en particulier dans le domaine de la couverture sociale.

Dans ce cas-là comment poser une limite ? Ces grandes entreprises n'ont-elles pas vocation à toujours grandir ? Il semble difficile de leur interdire un droit à continuer leur croissance ?

Non, je ne suis pas d'accord avec cette idée d'un droit à croître indéfiniment. Souvenons-nous que le droit antitrust, le Sherman Act aux États-Unis, est né de la volonté d'éviter effectivement qu'un acteur économique avec un monopole sectoriel, n'aboutisse à un monopole et à une hégémonie dans d'autres secteurs. C'est le cas plus récemment lorsqu'on a fragmenté la société AT&T Corporation dans les années quatre-vingt, parce qu'ils avaient un monopole important sur les télécommunications aux États-Unis. L'objectif de la législation antitrust est d'éviter l'effet domino d'un monopole d’un secteur vers d'autres. Les États ont jusque-là manqué de volonté politique par rapport aux acteurs technologiques, alors que les instruments existaient et existent toujours. Lorsque l'Europe avait décidé d'empêcher le rapprochement, dans les années 2000, de Général Electric et Honeywell dans le secteur des turbines d'avion, elle avait bien bloqué une fusion entre deux entreprises américaines ! Et le rapprochement avait été bloqué du fait d'une décision européenne. L'argument selon lequel les grandes sociétés numériques seraient plus agiles et plus rapides, et que par conséquent, il serait impossible d'envisager ce genre de mesures conservatoires, avant même que l'on ait conclu une enquête, me paraît faux. Il n'est en pratique pas du tout impossible d'intervenir pour bloquer le rapprochement de deux structures du numérique.

Mais ne risque-t-on pas en se focalisant sur les entreprises américaines d'oublier qu'il y a aussi la concurrence des géants chinois, qui eux, semblent beaucoup difficiles à réguler encore que les GAFAM ?

Je pense que la même chose doit être dit et fait vis-à-vis des sociétés chinoises. L'argument que l'on entend, y compris dans les sphères gouvernementales, qui consisterait à dire, "sanctionner les GAFAM (Google, Amazon, Facebook, Apple, Microsoft) serait faire le jeu des BATIX (Baidu, Alibaba, Tencent et Xiaomi)", est un argument faux. Ces entreprises ont besoin du marché européen qui reste l'un des premiers, si ce n'est le premier marché en valeur dans ces domaines. Nous n'avons aucune raison donc d'avoir un traitement différencié dans ces domaines.

Donc d'un point de vue pratique, comment cela pourrait-il se concrétiser ? Pourrait-on aller jusqu'à un démantèlement comme proposé par Margrethe Vestager, la commissaire européenne en charge de la concurrence ?

Évidemment, c'est très différent entre les États-Unis et la Chine. La Chine participe à une économie qui est très contrôlée par l'État, et les règles, notamment monétaires, y sont profondément inéquitables du point de vue du commerce international. Mais à défaut de pouvoir empêcher X ou Y société chinoise de fusionner, ce qui en effet serait plus complexe - et je ne suis pas sûr qu'on en ait les instruments pour - ; au moins empêcher l'accès à certains marchés à ces entreprises serait tout à fait possible. Ce n'est encore qu'une question de volonté et de « muscles » politiques.

Quant aux déclarations sur un possible démantèlement de Margrethe Vestager, j'aurais préféré que l'on n'ait pas à s'en préoccuper, en s'en préoccupant avant et plus en amont ! Je vous invite à regarder deux chronologies parallèles : la première concerne les sanctions imposées à Google. Les faits reprochés à Google remontent pour certains d'entre eux à plus de dix ans. Il se trouve en effet que la procédure a été extraordinairement longue, avec toutes les formes de mesures dilatoires utilisées par les avocats de cette grande société pour éviter d'être sanctionné et reporter le plus loin possible l'application de la sanction. Et de l'autre côté, vous avez Libra, l'initiative de Facebook pour construire une crypto monnaie, soutenue à ses débuts par de grands acteurs bancaires - Visa, Mastercard, Paypal, et quelques autres-, là vous observez que le jour même où le projet a été annoncé, l'ensemble des autorités gouvernementales et des banques centrales, européennes et américaines, se sont levées pour dire que cela posait un problème majeur de souveraineté. Elles ont même avancé qu'elles seraient obligées de réguler si ce n'est d'empêcher que cette initiative aboutisse. Dans ce cas-là, et on peut le voir avec le retrait progressif des sponsors de l'initiative, il est probable que le projet Libra tel qu'il a été prévu ne pourra pas exister en l'état. Alors, est-ce qu'ils rebaptiseront le projet pour donner l'impression de ne pas perdre la face ? Cela est tout à fait possible, mais on voit bien que dans un cas on a une réaction immédiate face à une menace immédiate de souveraineté, tandis qu'avec Google, il y a eu des tergiversations sur les abus de position dominante, et sur les enquêtes à mener. Cette comparaison doit nous inspirer sur les temps à venir pour réagir rapidement et sans attendre. Quand il s'agit de données aussi sensibles, que celles liées à la santé, à la protection sociale, ou encore à la banque, nous n'avons aucune raison de laisser ces acteurs avoir un rôle de destruction non-créatrice dans ces domaines.

Donc outre la limite en terme de taille, il y a une limite aussi éthique dans les secteurs concernés par l’usage du numérique ? 

Oui, la taille ça été très bien étudié dans un livre de Tim Wu, The Curse of Bigness. Mais je crois que la taille n'est pas le seul problème : il y a un problème de danger démocratique et politique quand ces entreprises peuvent s'approcher de certains secteurs. L'affaire Cambridge Analytica en donne un bon exemple. Cette affaire est en effet liée aux conséquences d’une forme de complaisance vis-à-vis de sociétés comme Facebook : or ce risque était prévisible. Penser qu'une société, dont le modèle économique est lié à l’accumulation des données, pourrait se refréner quant à l'usage de ses données, et pourrait empêcher des usages déviants comme cela s’est produit dans la période récente, était faire preuve d'une grande naïveté. Je crois que là encore les risques démocratiques ne se concentrent pas seulement pendant les campagnes électorales, mais aussi sur la manipulation permanente des opinions publiques - comme cela est très bien expliqué dans le livre de Shoshana Zuboff, Le capitalisme de surveillance. C'est quelque chose qui doit nous interroger. Aujourd'hui ce n’est que parce qu'il était question du fonctionnement électoral, que les acteurs politiques se sont réveillés. Mais cette prise de conscience doit aller beaucoup plus loin ! 

La manipulation que permettent les données, et que ces plateformes recueillent, de manière très large, et qui sont agglomérées, par exemple dans les sociétés qu'on appelle les data brokers, constitue un danger pour l'ensemble du fonctionnement des débats publics, bien au-delà des seules périodes électorales. La loi française qui se concentre seulement sur la lutte contre les fake news en période électorale, est de ce point de vue, très insuffisante. Il faut une attitude et une doctrine qui aille jusqu'aux fondamentaux de notre société : en effet lorsque l’on détient autant d'informations sur autant de personnes - plusieurs milliers de paramètres sur chaque individu - on peut deviner, on peut déduire, et ensuite on peut les manipuler d'une manière infiniment précise ! Bien au-delà de ce qui a été fait par Cambridge Analytica, qui n'a été probablement qu'une première étape artisanale des stratégies de manipulation de masse.

Mais comment faire en sorte que les hommes politiques eux-mêmes n'aient pas la volonté de déléguer des services publics à ces entreprises privées du numérique ? 

Cela se résume très facilement, par une tribune qui avait été publiée par le Guardian à l'époque, à propos de la délégation d'une responsabilité politique à Google pour la ville de Toronto. Le propos était de dire : le patron de Google n'a pas été élu, il n'y a pas de raison pour qu'il ait une responsabilité politique sur le fonctionnement de notre ville. Il y a un conflit de légitimité : ces entreprises ne sont redevables que devant leurs actionnaires ; elles ne sont pas redevables devant leurs usagers. Car pour Facebook le client, c'est avant tout l’entreprise qui achète de la publicité ; Facebook se comportant comme une régie. Donc par définition, ils sont redevables d'abord devant leurs clients, devant leurs actionnaires, et ensuite ils sont très marginalement responsables devant les citoyens. C'est un ordre de priorité qui doit changer et qui doit changer vite. 

Les données de santé ne sont-elles pas un bon exemple de ce risque ? 

Les données de santé sont un des domaines d'extension prioritaire des GAFAM, mais pas sur le plan où on pourrait le penser. C'est-à-dire qu’ils ne se focalisent pas sur l'innovation technologique médicale en tant que telle ; leur but n'étant pas de se substituer aux acteurs de la santé, mais bien plus de se substituer au secteur dit prudentiel de la banque et de l'assurance qui serait pour eux infiniment plus rentable. Ils cherchent à produire des technologies qui éviteront que les gens ne tombent malades. En anglais, on dit que l'on passe du « cure » au « care ». On déplace le centre de gravité de l'économie de la santé vers la prévention et on peut au passage, selon un rapport de Goldman Sachs 2015, économiser jusqu'à 10 % de l'ensemble de la dépense de santé, grâce à des mesures de prévention que peuvent permettre les technologies, les objets connectés, et autres dispositifs, capables de détecter très tôt et très vite des pathologies, avant qu'elles ne deviennent très coûteuses à soigner. On vise à empêcher que les gens ne tombent malades. Il y a des études qui montrent que 50 % des cancers sont liés à des causes - au sens large - environnementales, c'est-à-dire, comportementales, diététiques, etc. Donc des causes qui sont évitables. Aujourd'hui avec les nouvelles technologies qui offrent la possibilité de connaître puis de modifier les comportements individuels minute par minute, comme la montre, le téléphone, et bien d'autres capteurs dans les maisons, les automobiles, et ailleurs, on devient capable d'orienter et d'influencer le comportement individuel à une très grande échelle. Le rêve de sociétés totalitaires, qui était de pouvoir rentrer dans les plus intimes actions et pensées d'une personne, devient possible. Avec là encore tous les risques de contrôle social, tel qu'on peut le voir en Chine, avec par exemple ce sinistre système de Crédit social, donnant accès ou pas à certains services. Ceci constituera l’un des éléments « durs » de la confrontation des sociétés démocratiques face aux GAFAM.

Pour l'Europe, ces technologies de la santé constituent aussi une opportunité de rebond, parce qu'on a justement un savoir-faire et une tradition de soin et de protection des individus. Mais c'est aussi un risque de dérive si l’on ne maîtrise pas politiquement ces acteurs : car ceux-ci peuvent prendre pied dans ces secteurs rapidement en apportant des promesses de rationalisation des coûts… Apple a déjà ses propres cliniques, et cette société avance très vite dans ce secteur. Ils sont aussi des acteurs du paiement via Apple Pay. Récemment, il y a eu un scandale justement sur leur système de carte de crédit, l'Apple Card, qui prenait en compte des informations privées, et accordait moins de possibilités de crédit aux femmes qu'aux hommes. Le problème était de comprendre pourquoi l'algorithme fonctionnait comme cela ; car même le cofondateur d'Apple, Steve Wozniak, a fait lui-même l'expérience de cette discrimination bancaire avec sa femme. Le risque est alors celui de la généralisation de la discrimination algorithmique.

Toutes ces questions requièrent une plus grande vigilance et une exigence de transparence, qui actuellement n'existent pas, face à ces acteurs. C'est la transparence par rapport au fonctionnement algorithmique qui est en jeu d'abord, même si cela reste complexe, car les systèmes d'intelligence artificielle sont difficiles à analyser ou à auditer. Mais pour revenir aux fondamentaux, il ne faut pas que les citoyens puissent être soumis à leur insu à des discriminations par des algorithmes qui se comporteraient comme autant de « Boîtes Noires » pour reprendre l’expression de Frank Pasquale. On est là face à des questions qui sont essentiellement et fondamentalement politiques et qui exigent là encore des réponses politiques et démocratiques.

En raison de débordements, nous avons fait le choix de suspendre les commentaires des articles d'Atlantico.fr.

Mais n'hésitez pas à partager cet article avec vos proches par mail, messagerie, SMS ou sur les réseaux sociaux afin de continuer le débat !