Vertige éthique dans les hôpitaux américains : ces machines auxquelles Google apprend à déterminer quand un patient risque de mourir (et elles le font mieux que les médecins…)

Atlantico : Comment fonctionne le dispositif "Medical Brain" mis au point par Google ? 

Jean-Paul Pinte : On sait depuis que les technologies touchent le domaine de la santé que nous ne sommes qu'au début de nos étonnements avec notamment le Big Data, les objets connectés qui ont envahi notre quotidien.

Plus une revue ne sorte ainsi en kiosque sans que l'on ne fasse mention aussi de l'intelligence artificielle permis par l'accès au cloud et au Big Data.

Google comme d'autres grands n'ont pas attendu pour se lancer dans l'aventure de l'intelligence artificielle et des pays comme l"Afrique convoitise de près ce concept à en croire un article du Monde du Cahier Science et médecine du mercredi 10 juin  2018 qui mentionne que surveiller la santé d'un bébé en analysant ses cris est aujourd'hui possible au Nigéria.

L'équipe "Medical Brain" du géant Google a commencé à former son système d'intelligence artificielle pour évaluer le risque de décès chez les patients hospitalisés, et les résultats sont pour le moment plus précis que ceux fournis par les outils médicaux existants.
"Medical Brain" serait ici  en mesure de déterminer la période à laquelle un patient en phase terminale aurait le plus de risques de mourir mais aussi quand celui-ci devrait  effectuer un nouveau séjour à l'hôpital à partir du dossier du patient, mais aussi des notes du corps médical.

Google a d'abord détaillé son nouveau système dans un article publié dans la revue scientifique Nature en mai dernier. 
À l'époque, les chercheurs de l'entreprise ont noté: «Ces modèles ont surpassé les modèles prédictifs traditionnels et cliniquement utilisés dans tous les cas. Nous croyons que cette approche peut être utilisée pour créer des prédictions précises et évolutives pour divers scénarios cliniques ».

Fonctionnant grâce au machine learning (l’apprentissage automatique), ce programme informatique est capable en effet d’estimer la probabilité du décès d’une personne hospitalisée, avec une précision pouvant aller jusqu’à 95 %. Un chiffre largement supérieur aux méthodes d’évaluation clinique utilisées actuellement dans les hôpitaux.

Cette très sérieuse revue scientifique Nature rapporte le cas d’une femme atteinte d’un cancer du sein métastatique, aussi connu sous le nom de cancer du sein avancé. Medical Brain a exploité 175 639 données enregistrées dans le dossier médical de la patiente et a estimé le risque de décès à 19,9 %. L’équipe médicale, elle, avait évalué ce risque à 9,3 %. Moins de deux semaines plus tard, cette patiente était décédée.

Le récit déchirant de la mort de la femme non identifiée a été publié par Google en mai dernier dans le cadre d'une recherche mettant en évidence le potentiel des réseaux de neurones, une forme de logiciel d'intelligence artificielle particulièrement efficace pour apprendre et s'améliorer. Google a créé un outil qui permet de prévoir une foule de résultats pour les patients, y compris combien de temps les gens peuvent rester dans les hôpitaux, leurs chances de réadmission et les chances qu'ils vont bientôt mourir.

L'A.I. examiné les 175 639 points de données trouvés dans les dossiers médicaux électroniques du patient, ce qui comprenait l'interprétation et l'évaluation des notes manuscrites. Comme dit Google, l'inclusion de toutes ces informations est ce qui différencie ce système d’intelligence artificielle des approches précédentes.

Au total, Google a analysé 216 221 hospitalisations et 114 003 patients, ce qui représente plus de 46 milliards de points de données provenant de tous les DSE. Et ses résultats sont particulièrement prometteurs pour les professionnels de la santé. La capacité de Google à analyser de manière efficace et précise les piles et les piles de données pourrait être une véritable aubaine pour les hôpitaux, ce qui se traduirait par une amélioration des soins aux patients.

Google veut ainsi travailler en intelligence artificielle sur  des outils qui peuvent prédire non seulement le risque de décès, mais aussi les symptômes et les maladies. Le géant de la technologie n'est pas étranger aux travaux  dans l'industrie des soins de santé, en particulier en ce qui concerne la prédiction. Plus tôt en 2018, DeepMind a travaillé avec le ministère des Anciens Combattants, examinant ses 700 000 dossiers médicaux et prédisant des changements potentiellement mortels dans l'état des patients. Et Google veut également fournir aux médecins un système de reconnaissance vocale qui réduirait la pratique intensive de l'écriture de notes.

Au sein de l'entreprise Google, l'initiative suscite beaucoup d'enthousiasme. "Ils ont finalement trouvé une nouvelle application pour l'IA qui a des promesses commerciales", dit un Googler. Depuis que Google d'Alphabet Inc. s'est déclarée une entreprise «AI-first» en 2016, une grande partie de son travail dans ce domaine est d’améliorer les services Internet existants. Les avancées de l'équipe de Medical Brain donnent ainsi à Google l'opportunité de percer un tout nouveau marché - ce que Larry Page et Sergey Brin, co-fondateurs, ont essayé à maintes reprises.

Google a longtemps fait des recherches sur l'accès aux dossiers médicaux numériques avec le plus souvent des résultats mitigés. Pour ses recherches récentes, le géant d'Internet traite avec l'Université de Californie, San Francisco et l'Université de Chicago pour 46 milliards de données de patients anonymes. Le système d'IA de Google a créé des modèles prédictifs pour chaque hôpital mais pas un qui analyse les données entre les deux ce qui est un problème plus difficile à résoudre au même titre que celui de travailler sur une soution regroupant tous les hôpitaux. Google travaille ainsi de nos jours à sécuriser de nouveaux partenaires pour accéder à plus d'enregistrements.

De quelle manière les médecins pourraient s'aider d'un tel outil pour améliorer leur diagnostic. Cette technologie peut-elle apporter un réel service aux médecins et aux malades ?

Ce qui a le plus impressionné les experts médicaux dans le concept de Medical Brain, c'est la capacité de Google à passer au crible des données auparavant inaccessibles: des notes enfouies dans des fichiers PDF ou gribouillées sur d'anciennes cartes. Le réseau neuronal engloutit toute cette information puis crache des prédictions. Et il l'a fait beaucoup plus vite et plus précisément que les techniques existantes. Le système de Google a même montré quels enregistrements l'ont conduit à des conclusions.

Les logiciels de soins de santé sont largement codés à la main ces jours-ci. En revanche, l'approche de Google, où les machines apprennent à analyser les données par elles-mêmes, «dépasse tout le reste», a déclaré Vik Bajaj, ancien cadre chez Verily, filiale de santé d'Alphabet et directeur général de la société d'investissement Foresite Capital. "Ils comprennent quels problèmes valent la peine d'être résolus", a-t-il dit, "ils ont maintenant fait assez de petites expériences pour savoir exactement quelles sont les directions fructueuses."

Les hôpitaux, les médecins et d'autres fournisseurs de soins de santé essaient depuis des années de mieux utiliser les stocks de dossiers de santé électroniques et d'autres données sur les patients. Plus d'informations partagées et mises en évidence au bon moment pourraient sauver des vies  et apporter tout au moins une véritable aide aux  travailleurs médicaux qui passeraient moins de temps sur les formalités administratives et plus de temps sur les soins accordés aux patients.

Dans un article du site Bloomberg, Nigam Shah professeur agrégé à l'Université de Stanford, qui a coécrit le document de recherche de Google, publié dans la revue Nature, signale que jusqu'à 80% du temps consacré aux modèles prédictifs d'aujourd'hui conduit au "travail de débordement".  L'approche de Google éviterait cela.

La prochaine étape de Google est de faire passer ce système prédictif dans les cliniques, a déclaré le directeur de l'IA, Jeff Dean, à ce même site Bloomberg News en mai 2018. L'unité de recherche en santé de Jeff Dean parfois appelée Medical Brain travaille aussi sur une série d'outils d'IA capables de prédire les symptômes et les maladies avec un haut niveau de précision qui suscite l'espoir mais aussi l'alarme.

Jeff Dean envisage déjà le système d'IA comme guidant les médecins vers certains médicaments et diagnostics. Un autre chercheur de Google a déclaré que les modèles existants manquent des événements médicaux évidents, y compris si un patient a subi une intervention chirurgicale. Ce même chercheur a décrit les modèles codés à la main comme «un obstacle évident et gigantesque» dans les soins de santé.

Exploiter l'IA pour améliorer les résultats des soins de santé reste un énorme défi pour la firme Google. D'autres entreprises, notamment l'unité Watson d'IBM, ont essayé d'appliquer l'IA à la médecine, mais avec un succès plus limité  en économisant de l'argent et en intégrant par exemple la technologie IA dans les systèmes de remboursement.

Quels sont les enjeux éthiques de ce programme ? Comment les médecins peuvent-ils traiter ce type d'informations? Quelles responsabilités nouvelles engendre ce type d'outil ?

Une plongée plus profonde dans la santé ne ferait qu'ajouter aux vastes quantités d'informations d'autres informations que Google a déjà sur nous. "Des entreprises comme Google et d'autres géants de la technologie vont avoir une capacité unique, presque monopolistique, de capitaliser sur toutes les données que nous générons", a déclaré Andrew Burt, chef de la protection des données pour la société de données Immuta. Lui et l'oncologue pédiatrique Samuel Volchenboum ont écrit une chronique récente selon laquelle les gouvernements devraient empêcher que ces données ne deviennent "la province de quelques entreprises", comme dans la publicité en ligne où Google règne.

Toujours sur le site de Bloomberg.Com on peut lire que Google fait preuve de prudence en ce qui concerne l'information des patients, en particulier au fur et à mesure que le public se penche sur la collecte de données. L'année dernière, les régulateurs britanniques ont rappelé à l’ordre DeepMind, un autre laboratoire d'alphabétisation de l'IA, pour tester une application qui analysait les dossiers médicaux publics sans dire aux patients que leurs informations seraient utilisées de cette manière. Avec la dernière étude, Google et ses partenaires hospitaliers insistent sur le fait que leurs données sont anonymes, sécurisées et utilisées avec la permission du patient. Volchenboum a déclaré que l'entreprise pourrait avoir plus de mal à maintenir cette rigueur des données si elle s'étendait demain aux petits hôpitaux et aux réseaux de soins de santé. Pourtant, Volchenboum continue à croire que ces algorithmes pourraient sauver des vies et de l'argent. Il espère bien que les dossiers de santé seront mélangés avec une mer d'autres statistiques ce qui n’est pas sans risque pour nos identités devenues numériques.

Peu de sociétés sont mieux préparées à analyser cet organisme que Google. La société et son cousin Alphabet, Verily, développent des dispositifs pour suivre plus de signaux biologiques. Google a beaucoup d'autres puits de données à exploiter. Il connaît le temps et le trafic. Les téléphones Android de Google font le suivi de la façon dont les gens marchent, se déplacent, des informations précieuses qui en disent beaucoup pour mesurer l’état de santé mental et physique de beaucoup d’entre nous.

Tout ceci sans y prendre garde n’est-il pas déjà jeté dans le monde de la santé dans une vie algorithmique que nous ne maîtrisons pas, voire plus.

L’anxiété et les espoirs des citoyens peuvent aujourd’hui facilement être manipulés pour des raisons politiques et commerciales avec des conséquences médicales et psychiques parfois redoutables… Le simple fait de savoir que l’on pourrait prévoir notre mort rajouterait une couche de stress à ces inquiétudes aujourd’hui de plus en plus présentes car l’annonce de risques relatifs peut susciter des espoirs infondés ou des inquiétudes inutiles.

Rassurons-nous malgré tout, cela fait longtemps que la médecine se méfie des statistiques et donc attendra pour faire des résultats de ces algorithmes en santé de véritables objets décisionnels. La confidentialité des données (secret médical) comme le respect de l’identité du patient vont ici prendre une place plus importante encore.  Les nouveaux modes de traitement de l’information et des données sont à inventer pour la plupart. Ne restera qu’à les adapter et à les intégrer dans un nouveau paradigme médical.