Big browser : des économistes du FMI envisagent de lier capacité d’emprunt et historique de recherche internet<!-- --> | Atlantico.fr
Atlantico, c'est qui, c'est quoi ?
Newsletter
Décryptages
Pépites
Dossiers
Rendez-vous
Atlantico-Light
Vidéos
Podcasts
Economie
Big browser : des économistes du FMI envisagent de lier capacité d’emprunt et historique de recherche internet
©Olivier Douliery / AFP

Agence de notation pour particuliers

Dans une note publiée sur le blog de l’institution monétaire internationale, des économistes proposent de mettre de mauvaises notes à ceux qui surferaient sur des sites considérés comme « toxiques »

Fabrice Epelboin

Fabrice Epelboin

Fabrice Epelboin est enseignant à Sciences Po et cofondateur de Yogosha, une startup à la croisée de la sécurité informatique et de l'économie collaborative.

Voir la bio »

Atlantico : Des économistes du FMI réfléchissent dans une note de blog à la possibilité que les données personnelles collectées par les géants du numérique puissent être utilisées pour estimer la solvabilité de potentiels demandeurs de crédits. Est-ce une idée nouvelle ?

Fabrice Epelboin : Ce n’est pas nouveau. La première fois qu’on a surpris Facebook à utiliser ces concepts, c’était à l’occasion d’un dépôt de brevet en 2012. Il y est dit que quand l’individu demande un crédit, le prêteur examine un credit rating à travers une analyse de son graph social. En 2012, le but est de donner la possibilité aux banques la possibilité de calculer un credit rating. Huit ans plus tard on peut imaginer que Facebook veuille l’utiliser lui-même.

Les capacités prédictives de l‘intelligence artificielle sont assez stupéfiantes et les vieux systèmes banque/assurance sont dans une transformation numérique. C’est toute la tentation entre la transformation numérique et la disruption. Les banques et assurances se sont mises au numérique et ce ne sont pas idiotes, elles prennent l’existant et le transforment. Ça demande de l’adaptation et ils ont des clients et des salariés qui doivent suivre, donc c’est plus lent par nature. De l’autre côté, des acteurs arrivent avec des produits totalement disruptifs qui se basent sur leur existant à eux : des données incroyables qu’aucune banque ne peut espérer avoir. Elles n’ont pas les capacités techniques pour analyser ces données. Le gouffre de données est énorme et globalement, les banques demandent très peu d’informations avant d’accorder un crédit.

Les Gafam peuvent-ils réellement calculer les risques des emprunteurs plus précisément que les banques ? Est-ce une bonne chose ?

Je n’ai aucun doute, à titre personnel (je ne suis pas économiste), que Facebook ait les moyens de calculer un modèle de risques : d’estimer si vous allez rembourser et quelle serait la somme qu’il serait raisonnable de vous prêter. Apple a aussi travaillé sur ce sujet mais dispose de beaucoup moins de données personnelles. Il y a moins d’un an, l’algorithme qu'Apple avait lancé avec une grande banque, qui calculait si les banques étaient prêtes à prêter à X, Y ou Z, a été arrêté assez vite. Ils l’ont arrêté car ils se sont rendu compte que l’algorithme prêtait dix fois plus aux hommes qu’aux femmes. C’est un des multiples effets pervers de ces algorithmes : c’est qu’ils observent des données, extrapolent des modèles et arrivent à prédire, à partir d’un cas individuel, quelque chose. Comme les données observées étaient des données de prêts existant, ce qu’ils observaient c’est qu’effectivement, les banques prêtent plus aux hommes qu’aux femmes. L’algorithme n’est qu’un perroquet surpuissant. Il y a eu les mêmes biais sur le racisme. C’est le même problème qu’avec la justice prédictive.

Facebook a des données qui peuvent paraître inintéressantes mais qui peuvent faire sens si elles sont prise en très grandes quantité. Est-ce qu’un possesseur d’Iphone X a un profil de risque supérieur ou inférieur à un possesseur de Samsung Galaxy ? Je n’en sais rien, votre banque ne connaît même pas la marque de votre téléphone mais Facebook lui le sait. Et il le sait pour des millions d’individus. Donc l’intelligence artificielle va pouvoir extrapoler des choses.

Ils ont une énorme quantité de données, mais on ne sait pas celles sur quoi ils s’appuient précisément, eux-même ne le savent pas. L’algorithme, on lui donne à manger et il se débrouille. Est-ce que le fait d’aimer Rihanna va influer sur votre capacité à rembourser un crédit, c’est possible. Ça pose question et en même temps, peut être que c’est vrai. Avant ces modèles prédictifs, on avait déjà observé aux Etats-Unis que si vous consommiez du whisky vous aviez plus tendance à voter Républicain ; et plus tendance à voter Démocrate si vous buviez de la bière. On se basait sur ce genre de fichiers issus des supermarchés pour faire du marketing politique. C’est devenu infiniment plus complexe. Les algorithmes vont s’appuyer sur bien d’autres choses que votre taux d’endettement. Mais on ne saura pas faire de rétroingénierie. On ne saura pas pourquoi on vous a prêté plus ou moins qu’à votre voisin.

Les lois américaines interdisent de faire une discrimination au crédit en fonction de l’âge, du sexe, de la couleur de peau ou de la religion, de la nationalité et même du statut marital. Ce qui correspond à une certaine idée de la justice. Facebook ne peut pas faire le tri : il a toute ces informations et il va donner à manger à l’algorithme. A partir de là, s’il s’avère que selon certains critères, vous avez une capacité à rembourser plus ou moins forte, l’algorithme va vous discriminer. C’est une ultra-individualisation qui s’oppose à des principes en droit d’équité et d’égalité. La dimension légale est un énorme obstacle, je ne sais pas quelle est la législation sur les crédits en France, mais l’algorithme pourra difficilement ne pas prendre en compte ces critères. Facebook connaît votre race, au sens américain du terme, votre sexualité, en fonction de vos différents types d’inscriptions sociales.

Les banques vont-elles accepter de fonctionner de la sorte ? Les Gafam peuvent-ils devenir des institutions financières sans passer par les banques ?

On voit mal pourquoi les banques hésiteraient à se servir de cela. Mais il y a un risque pour elle de se faire complètement supplanter par les Gafam qui est très conséquent. Sans compter que les entreprises de la tech ont des ressources financières plus que comparables, voire largement supérieures, à des banques.

Il y a aura des régulations, mais elles pourraient. Tout comme elles pourraient s’allier à des banques ou même racheter des banques. Elles le peuvent au vu de leur valeur boursière. Il y a des banques qui se sont créées avec quelques centaines de millions, c’est de l’argent de poche pour les Gafam. C’est un vrai risque pour les banques et un énorme relais de croissance pour les entreprises de la tech parce que la plupart d’entre elles, à l’exception d’Apple, ont un modèle économique basé sur les données personnelles. C’est le cas pour Google très largement, Facebook également, Microsoft et Amazon un peu moins. Pour Google et Amazon, c’est évident que l’avenir est du côté des FinTech.

Quel pouvoir cela donnerait au Gafam ?

Un pouvoir considérable, ce qu’il est déjà. On sait que Facebook est en mesure d’influer sur l’opinion publique. Imaginer que des gens avec ce type d’éthique puissent se mettre à la finance c’est problématique. Ça l’est d’autant plus si ça arrive dans un mauvais contexte financier. On pourrait voir émerger des monnaies nouvelles type Bitcoin contrôlées par les Gafam.

En raison de débordements, nous avons fait le choix de suspendre les commentaires des articles d'Atlantico.fr.

Mais n'hésitez pas à partager cet article avec vos proches par mail, messagerie, SMS ou sur les réseaux sociaux afin de continuer le débat !