Tous naïfs : et maintenant nos appareils électroniques nous écoutent sans même que nous prenions la peine d’y réfléchir une seconde

Atlantico : Amazon lance  "Echo", un assistant virtuel se présentant sous la forme d'un cylindre noir, doté de plusieurs micros qui écoutent en permanence les conversations et dont la fonction est de répondre lors de sollicitations. Un "Siri" dans le salon, en somme. Comment cet appareil fonctionne-t-il ?

Jean-Gabriel Ganascia : Physiquement, "Echo" contient sept microphones intégrés destinés à enregistrer les sons, éliminer les bruits ambiants et détecter les voix humaines. A partir de ces signaux, il reconnaît la parole et, dès qu’un mot-clef est prononcé, il analyse avec précision les requêtes qui lui sont formulées pour essayer d’y répondre avec le plus de pertinence possible. Ainsi, si l’on veut connaître la météo, il suffit de la demander, "Echo" vous la donne. On peut aussi demander une recette de cuisine ou l’orthographe d’un nom. Il est même possible de commander un taxi, voire de donner l’heure à laquelle on souhaite être réveillé. De ce point de vue, "Echo" ressemble au logiciel "Siri" que l’on trouve sur les IPad, si ce n’est qu’il répond exclusivement par la voix ou les sons. Cela ressemble aussi au logiciel Watson conçu par la société IBM pour jouer au jeu de Jeopardy, sauf que, dans le cas "d’Echo", la parole est automatiquement reconnue et le logiciel de recherche est directement connecté sur Internet.

D'après Amazon, "Echo" ne se met à enregistrer les sons et à se connecter à internet que lorsqu'un mot clé est prononcé. Quelle est la garantie que l'appareil ne sera jamais piraté par un petit génie de l'informatique ?

Ce qui fait l’originalité "d’Echo", c’est qu’il est en veille en permanence. Ceci signifie qu’il est vigilant et qu’il enregistre tous les bruits jusqu’à détecter un mot-clef. D’après Amazon, c’est seulement à ce moment-là qu’il déclenche le module d’analyse pour transcrire les requêtes qui lui sont soumises. Et, c’est ensuite qu’il se connecte à Internet pour trouver les ressources nécessaires afin d’apporter des réponses. Bref, si Amazon prétend "qu’Echo" ne se connecte à Internet que lorsque des mots-clefs ont été prononcés, c’est peut-être vrai dans le dispositif existant actuellement. En revanche, on ne peut pas affirmer qu’il n’enregistre pas les sons en continu, puisqu’il se fonde sur ce principe. De plus, rien n’interdit d’étendre le nombre de mots-clefs à tous le dictionnaire, et donc de transcrire tous les énoncés prononcés en langage naturel et de les communiquer sur Internet.

On connaît désormais la facilité avec laquelle la NSA obtient des données sur les utilisateurs d'internet. Pourquoi "Echo" ferait-il exception ?

Du point de vue strictement technique, une fois que vous disposez d’un système comme "Echo" chez vous, rien ne s’oppose à ce qu’il enregistre toutes vos conversations et les transmette automatiquement à une institution ou une personne. Il pourrait aussi effectuer un filtrage et lancer l’alerte lorsque les voix s’élèvent trop fort ou que des cris se font entendre, ce à quoi peu de gens auraient à redire, puisqu’il y va là de la sécurité publique. Dans le même ordre d’idées, comme "Echo" reconnaît la parole et la transcrit, il pourrait aussi lancer l’alerte lorsqu’il identifie des propos contraires à la bienséance, ou politiquement incorrects... La seule garantie que l’on puisse avoir tient à la logique commerciale d’Amazon : à supposer qu’"Echo" se comporte de façon aussi indiscrète, on pourrait craindre pour la réputation de cette société. Et, comme Amazon veille à ne pas trop déplaire, on peut espérer que cette compagnie cherchera à nous rassurer en évitant de tels débordements. Toutefois, même si l’on cherche à nous rassurer, nous n’avons là aucune assurance...

Quel est l'intérêt commercial pour Amazon ? Si l'appareil se démocratise dans les foyers, cela va-t-il décupler la connaissance que le géant du web a de nos habitudes de consommation et de nos centres d'intérêt ?

Bien évidemment, l’intérêt commercial d’Amazon tient à la collecte continue d’information. On sait, aujourd’hui, que l’économie des grands acteurs de l’Internet que sont les GAFA (Google, Apple, Facebook, Amazon) repose sur le recueil systématique de données qui permettent d’identifier nos habitudes. Cela permet non seulement de cibler la publicité qui sera présentée, de façon à la rendre plus efficace, mais aussi de détecter des corrélations entre nos goûts, nos désirs, nos opinions, notre mode de vie, etc. ce qui se révèle de plus en plus précieux pour les sciences sociales ou pour le marketing, voire pour la politique. La notion de Big Data ("données massives" en français) que certains voient comme le pétrole des années à venir recouvre de telles données massives recueillies automatiquement. Cela peut se faire soit avec des capteurs, par exemple des caméras de surveillance, soit à partir du comportement des utilisateurs sur le Web. Avec "Echo », cela se fait au moyen de microphones installés dans la maison, avec le consentement implicite de tous...

Cette  innovation ne devrait être qu'une étape dans un long processus, en toute logique. Quelles évolutions futures peut-on envisager ?

Plusieurs évolutions peuvent être envisagées dans le futur pour des dispositifs de captation de la parole humaine comme "Echo". En premier lieu, on imagine beaucoup d’applications professionnelles d’agents conversationnels pour la formation, la surveillance, les loisirs, etc.

En deuxième lieu, comme nous venons de le voir, ces agents constituent potentiellement, une source d’acquisition de données personnelles considérable. Au même titre que les requêtes soumises aux moteurs de recherche, en particulier à Google, ces données pourront être exploitées à de nombreuses fins dans le futur.

Une troisième évolution serait d’utiliser les données recueillies pour la personnalisation : ces systèmes pourraient aider à faire de la recommandation individualisée, puisqu’ils connaissent toutes nos habitudes et nos préférences et qu’ils répondent à nos questions sur les sujets les plus variés. A cet égard, on ne peut s’empêcher de voir dans le système "Echo" un écho au film "Her" de Spike Jonze qui présente un agent conversationnel doué de capacités d’apprentissage si exceptionnelles qu’il s’adapte aux désirs de son propriétaire au point de le séduire et de le rendre amoureux...

Propos recueillis par Gilles Boutin