Le service national de santé britannique a-t-il raison de s’allier avec Alexa d’Amazon ?

Atlantico : Plutôt que d'aller voir un médecin, les Anglais peuvent désormais poser des questions à Alexa qui leur répondra à l'aide des informations disponibles sur le site du NHS. Un partenariat inédit qui divise la communauté scientifique. Un tel partenariat ne représente-t-il pas un risque dans la mesure où Amazon pourrait avoir accès à certaines données médicales des patients ?

Stéphane Gayet : L’expression « National health service » anglais (NHS) peut être traduite en français par « L’organisation nationale de la santé ». Le système de santé britannique est administré, essentiellement public, à tous les niveaux. Ce type de fonctionnement est assez économique, car il n’y a pas comme en France d’incitation à effectuer beaucoup d’actes. Et de fait les Anglais dépensent nettement moins par habitant que les Français pour leur santé. En revanche, ceux qui en ont les moyens vont volontiers se faire soigner à l’étranger ; encore que cette pratique ait bien régressé ces dernières années.

Les décideurs de santé réfléchissent davantage en termes de santé publique (santé des populations) et de prévention. Alors que la médecine française reste en pratique très curative, parce que très libérale. D’où l’idée au Royaume-Uni de mettre en place des outils en accès libre et à destination du grand public.

Francesca Musiani : Le partenariat Amazon-Alexa/NHS s'insère dans une tendance plus générale qui consiste à croiser big data, intelligence artificielle et internet des objets pour personnaliser des services à l'utilisateur -- ce qui s'étend de plus en plus au domaine particulièrement délicat de la santé et du bien-être. Il y a bien sûr, à côté des avantages potentiels pour les patients (retours plus rapides...)  et pour le système sanitaire (moins de goulots d'étranglement, optimisation des ressources humaines...) des risques qui concernent le traitement des données et la vie privée. En effet, pour le moment, ce qui arrive aux données qui circulent dans l'écosystème Amazon suite à son partenariat avec NHS est une zone grise. Plusieurs problèmes pourraient se poser. Certains concernent ce que des utilisateurs pourraient savoir d'autres utilisateurs (par exemple, des membres d'une même famille qui aurait un seul compte Amazon, mais qui ne voudraient peut-être pas partager toutes leurs informations médicales), mais d'autres soucis ont trait au fait qu'on serait, une fois de plus, en train de fournir à un géant 'tech' aux pratiques agressives (stockage permanent par défaut des enregistrements Alexa, accès possible à ces enregistrements par des 'équipes Amazon' peu qualifiées et sous-payées...) un ensemble de données à forte valeur pour n'avoir presque rien en retour.

Les instruments législatifs qui gèrent la circulation de données entre l'UE et les USA, comme le Privacy Shield, ont montré par le passé d'avoir des problèmes. Au fur et à mesure que ces utilisations des données médicales -- et des données sensibles en général -- deviennent toujours plus répandues, la question de "quelle régulation" se reposera avec force.

Que propose cette assistante vocale médicale Alexa ?

Stéphane Gayet : Cette évolution n’est pas une révolution. Ce n’est que le passage d’un serveur textuel à un serveur vocal, ni plus ni moins. Le NHS mettait jusqu’à présent à la disposition du grand public un serveur textuel en ligne, sous la forme d’une banque de données de « Questions souvent posées et leurs réponses » ou QSPR (en anglais FAQ ou frequently asked questions, qu’il est de bon aloi d’éviter de traduire par foire aux questions). C’est en somme la démocratisation du serveur médical textuel de type QSPR, sous la forme d’un serveur vocal également de type QSPR ; il y a quelques améliorations, bien sûr, mais l’on est encore très loin de l’avis médical automatisé. Cela n’a donc rien à voir avec de la télémédecine : il s’agit d’informations et de conseils préenregistrés et qui sont de ce fait figés ; le contenu des réponses ne s’adapte donc pas à la question ; ainsi, il faut que chaque question soit décodée (reconnaissance vocale) et appariée à une question type de la banque de questions, dont elle sera considérée comme équivalente. Etant donné qu’il s’agit d’une requête vocale et non textuelle, cela demande plus de travail au système informatique expert : on s’est élevé d’un niveau en complexité algorithmique et en besoins en ressources matérielles (puissance de calcul) ; mais à part cela, la philosophie de l’outil n’a pas vraiment changé.

Le principe est le suivant : vous posez une question sous la forme d’une phrase très courte, et le serveur vocal décode votre question ; soit il réussit à la comprendre dès le premier essai, soit il vous demande de la formuler à nouveau parce qu’il ne l’a pas comprise. On connaît bien aujourd’hui ces serveurs vocaux téléphoniques qui ont été mis en place dans toutes les administrations ou presque et dans la quasi-totalité des grandes entreprises. Il faut reconnaître qu’ils sont parfois assez malcommodes et même irritants (mais ils font économiser des emplois et du temps de travail : c’était leur vrai objectif).

Quels sont les progrès apportés par ce nouveau système vocal ?

Stéphane Gayet : C’est une apparente facilité pour les personnes mal voyantes, handicapées, âgées et d’une façon générale toutes celles qui ne sont pas à l’aise avec l’utilisation d’internet. Car ce système propose une interface vocale autonome (il n’est pas besoin de mettre en marche un ordinateur ni d’utiliser un téléphone cellulaire).

Sur le plan des équipements nécessaires, qu’en est-il ?

Stéphane Gayet : Cela nécessite bien sûr une connexion au réseau internet et à haut débit (mais la fibre optique n’est pas indispensable). Il faut également faire l’acquisition d’un terminal audio intégré de type « enceinte plus microphone non unidirectionnel » ; ce terminal s’appelle « Amazon Echo » (de deuxième génération) ; il est très compact ; le terminal doit être alimenté par le réseau électrique et connecté à internet grâce à un adaptateur (fourni avec Amazon Echo) appelé « Amazon smart plug ».

C’est aussi simple que cela : le matériel est réduit et l’installation très rapide.

Amazon Echo se connecte automatiquement à « Alexa » qui est un serveur vocal appartenant à Amazon. Tous les échanges vocaux avec le terminal Amazon Echo sont traités, non pas par le terminal lui-même, mais par le serveur Alexa avec lequel celui-là communique à très grande vitesse. Le couple « Amazon Echo et Alexa » propose deux types de prestations.

Premièrement, il s’agit de prestations domotiques (la domotique, c’est l’ensemble des techniques de gestion automatisée appliquées à l'habitation) qui nécessitent que tous les appareils que l’on veut piloter ainsi soient eux-mêmes connectés au terminal Amazon Echo. Lorsque cela fonctionne, on peut piloter tous ces appareils connectés par la voix : « Alexa, éteint la lumière ; Alexa, allume la télévision ; Alexa, ferme les volets ; Alexa, quels sont mes rendez-vous de demain matin ?... ». Et Alexa de répondre, d’abord « D’accord » pour signifier qu’elle a reçu et compris l’instruction, puis en exécutant la consigne si c’est le cas ou bien avec des bouts de phrase et des mots préenregistrés si c’est une question ; on aime ou on n’aime pas ; il faut reconnaître que cela a un côté un peu gadget, mais pourquoi pas ?

Deuxièmement, il s’agit de prestations internet qui utilisent des banques de données en ligne avec serveur vocal : « Alexa, quelle est la température à Lyon ce matin ? ; Alexa, quel sera le temps à Nantes aujourd’hui ? ; Alexa, quel est le résultat du tiercé d’hier ? ; Alexa, quels sont les horaires de train de Paris à Rennes pour demain ?... ». Et le NHS a établi un partenariat avec Amazon pour connecter sa propre banque de données médicales grand public à Alexa. Evidemment, cette banque de données médicales grand public n’est pas nouvelle : ce n’est que la reprise de celle qui existait et qui a dès lors été adaptée pour cette nouvelle utilisation.

Quels sont les risques concernant la confidentialité ?

Stéphane Gayet : Il est certain que chaque personne équipée d’un terminal audio intégré Amazon Echo est fichée de A à Z auprès d’Amazon. Donc, la plate-forme informatique Amazon sait beaucoup de choses sur elle et toutes ses données sont bien enregistrées. Dès lors, à chaque fois qu’une personne pose une question médicale, cette question est également enregistrée et bien sûr elle est aussitôt associée à cette personne.

Naturellement, les militants pour la protection de la vie privée et des libertés individuelles ont exprimé leurs inquiétudes en matière de protection des données, mais Amazon a affirmé que toutes les informations seraient conservées de façon confidentielle. Cette entreprise ne pouvait pas répondre autre chose et l’on sait par expérience qu’on ne peut pas souvent faire confiance à ces géants des nouvelles technologies de l’internet et des communications. Amazon a aussi déclaré qu’il n’avait pas l’intention de créer des profils médicaux en fonction des personnes et de leurs questions de santé.

Il y a aussi la crainte du vol des données par des pirates informatiques. Amazon a précisé que toutes les données qui seront enregistrées le seront sous forme cryptée ; il a ajouté que les clients pourront écouter leurs enregistrements et les effacer du serveur quand ils le souhaitent.

Une chose est certaine : de nombreuses réactions et parfois violentes se sont manifestées, tant de la part des associations que de celle des politiques, étant donné les risques évidents d’utilisation ou de fuite des données individuelles de santé. On sait que d’une façon générale il n’est pas possible d’écraser les risques à un niveau négligeable ; c’est encore plus vrai dans le domaine des bases de données connectées.

Plus que la problématique des données, le risque principal n'est-il pas celui de la fiabilité ou non des informations transmises aux patients ? Comment s'assurer que l'intelligence artificielle, dans ce cas Alexa, aide et conseille bien les patients ?

Stéphane Gayet : Ce n’est pas de « l’intelligence artificielle » et on en est bien loin. Du reste, il est utile de préciser que Jean-Gabriel Ganascia, grand spécialiste français de « l’intelligence artificielle », dit que « La peur de l'intelligence artificielle est infondée ». Il va même jusqu’à dire que « l’intelligence artificielle » n’existe pas et son argumentaire est d’une logique implacable. Mais on constate que l’expression fait florès et que beaucoup d’adolescents utilisent largement le sigle IA.

Les prestations offertes par ce système ne sont que des réponses générales à des questions courantes de santé ; elles sont assorties de conseils tout aussi généraux. Cela est sans commune mesure avec le concept de télémédecine, car on peut à peine parler ici de médecine, mais plutôt de conseils de santé.

Les questions auxquelles le serveur Alexa pourra répondre sont du type : « "Comment traiter une migraine ? Quels sont les signes (ce que l’on constate) et symptômes (ce que le malade ressent) de la varicelle ? Comment se manifeste une arthrose de la hanche ? Que faire si j’ai du sang dans l’urine ? Le café est-il bon pour la santé ? Comment reconnaître une épilepsie ? Que faire si je suis fatigué en me réveillant le matin ? Les piqûres de moustique sont-elles dangereuses ?... ».

Ce sont là des exemples de questions basiques. Certaines peuvent être plus élaborées, au risque de se heurter à de sérieuses difficultés de compréhension d’Alexa ou bien à des réponses trop générales ou inadaptées.

Ainsi, dans l’état actuel de cette plate-forme de conseils de santé – selon ce que nous en savons aujourd’hui -, il ne faut pas avoir trop de craintes concernant les risques d’erreurs. Car les informations préenregistrées qui seront fournies en guise de réponses sont des phrases toutes faites et largement validées. Evidement, des erreurs d’interprétation des clients qui utiliseront ce serveur vocal seront toujours possibles, ce qui pourra donner lieu, en fonction des retours d’expérience qui seront effectués, à divers réajustements des réponses. Sa réactivité adaptative conditionnera la qualité de cet outil.

Si le but de ce partenariat est de désencombrer les hôpitaux, s'attend-on réellement à ce qu'il produise les effets escomptés ? Un tel scénario est-il envisageable en France alors que le problème de l'encombrement des hôpitaux encore plus des urgences est souvent remis à l'ordre du jour ?

Stéphane Gayet : Il est certain que la France va s’intéresser à cette expérience anglaise et qu’elle va en suivre les évaluations et l’évolution. Mais il ne sera guère possible d’en faire un bilan avant au moins six mois et plutôt un an. Le peuple anglais a la réputation d’être plutôt pragmatique, et en effet, ce nouvel outil comporte, parmi ses objectifs, celui de diminuer la charge de travail des médecins et des pharmaciens.

Mais il est bien difficile de prédire le succès de ce dispositif. Honnêtement, il n’est pas enthousiasmant de prime abord. Ce système devrait toutefois évoluer rapidement et s’enrichir, au fur et à mesure des retours d’expérience et des enquêtes de satisfaction ainsi que des enquêtes d’impact. Il est peu probable que cet outil ne voit le jour en France, du moins dans un proche avenir. Peut-être plus tard, lorsqu’il sera devenu moins basique ? Mais les Français et les Anglais n’entretiennent pas les mêmes relations avec leur corps et surtout avec leur système de santé : cet outil Amazon-NHS ne paraît pas bien adapté aux attentes des patients hexagonaux. Ce n’est pas ce type d’innovation qui pourrait faire véritablement changer nos pratiques en termes de consommation médicale ; car les Français sont véritablement devenus, au fil des ans et des réformes de santé, des consommateurs de soins.

Il n’en reste pas moins vrai que nous avons hâte de connaître les effets que cette expérience britannique va produire. Cette innovation est quand même courageuse et risquée, déjà financièrement ; à suivre attentivement.