Le meurtre dont la clé était détenue par Alexa, l’assistant vocal d’Amazon : avez-vous conscience du nombre d’appareils électroniques qui enregistrent tout ce qui se passe chez vous ?

Les technologies d'assistance, comme Google Home ou Alexa d'Amazon, se multiplient. Leur particularité est d'enregistrer, de stocker et de traiter des milliers de données en continu. Quels enjeux, à la fois pour les concepteurs et les utilisateurs, revêtent la conservation et le traitement de données par ces appareils ? 

Frank Puget : Ces assistants technologiques sont un peu comme la définition qu’Esope donnait de la langue : la pire et la meilleure des choses. Il s’agit indéniablement d’un progrès immense qui ouvre des perspectives multiples pour l’amélioration de la vie quotidienne, en particulier pour les personnes âgées ou handicapées par exemple. Cela peut permettre de les relier à des systèmes d’alerte médicale, de services divers ou d’automatiser des actions moins accessibles au fur et à mesure du vieillissement. Dans ce sens, ces assistants sont un enjeu social et humain important, bien au-delà du simple confort et de l’attrait du tout technologique.

Bien entendu, toute médaille a son revers. La connexion permanente impose des contreparties  lourdes de conséquences. Tout ce qui transite sur les réseaux peut être stocké, analysé et … utilisé. Nous avons déjà un aperçu au quotidien dans nos supermarchés quand nous passons aux caisses avec une carte de fidélité et que nous recevons automatiquement des bons de réduction. Ce sont des sociétés spécialisées qui disposent de nos habitudes d’achat identifiées par la carte de fidélité, voire de notre carte bancaire. L’acte d’achat déclenche une analyse en direct et des produits momentanément délaissés font l’objet d’une sollicitation par la distribution d’un bon de réduction. Tout est donc mis en statistique et analysé. Il en est de même avec les assistants de Google et d’Amazon et des autres challengers. Et là, c’est plus grave.

Au-delà des habitudes alimentaires, c’est toute notre vie quotidienne avec ce qu’elle peut avoir de beau, mais aussi de trivial qui s’enregistre. Hors, Google avait promis que toutes les conversations sur Allo seraient cryptées, anonymes et stockées temporairement. Il n’en n’est rien. La suppression reste manuelle, il faut donc s’en soucier, l’anonymat doit être programmé par l’utilisateur, et la consultation par les services d’Etat reste aisée, etc. Nous courons le risque majeur d’être, volontairement dans un sens, tracé du lever au coucher. Il y a aussi une possibilité non négligeable que cette traçabilité se prolonge sur les espaces professionnels, soit par le biais d’un Alexa ou d’un Google Home pro, soit par celui d’objets personnels connectés (montres, mini ordinateurs sportifs, etc.).

Alors à quoi pourraient servir ou comment pourraient être utilisées ces données stockées … et remises volontairement ne l’oublions pas ? Déjà dans des contentieux familiaux, divorces et autres drames privés puis dans des problématiques de justice de tous ordres. L’utilisateur est sous surveillance permanente. La différence avec le Big Brother de certains films futuristes est que, pour l’instant, les gouvernements ne sont pas emparés de la technologie pour exercer une veille constante de masse  sur les individus, ni les groupes économiques pour exercer une influence sur les consommateurs. Les enjeux sont forts pour tous les acteurs concepteurs et exploitants. Les conséquences ne le sont pas moins pour les utilisateurs qui jouent la réplique du conte d’Andersen "Le roi est nu".

Où sont stockées les données enregistrées par les appareils équipés de ces technologies d'assistance ? Qui peut avoir y avoir accès ? Quel niveau de sécurité et de transparence fournissent à cet égard les constructeurs ?

C’est une question d’importance vitale. J’ai peur que même les producteurs ne sachent y répondre avec précision. Il est certain que les données arrivent dans les fermes de serveurs de Google, d’Amazon ou autres. Auparavant, tout circule sur des réseaux eux-mêmes interconnectés. Il y a de fortes probabilités qu’une partie des données restent sur des nœuds de communication. Les sauvegardes sont aussi un enjeu et elles sont souvent sous-traitées. En clair, on ne peut que difficilement se persuader que tout est stocké en sécurité et que le point de stockage soit individuellement identifiable.

La problématique des accès se pose aussi en termes réglementaires : la police et la justice peuvent-ils y avoir accès, certes oui, mais sous quelles conditions ? Google, comme le faisait récemment remarquer Edward Snowden, avait promis toute la sécurité possible, y compris un accès restreint sous conditions aux forces de l’ordre, or les faits établissent le contraire. Ce qui dans l’absolu n’est pas choquant si c’est fait sous contrôle démocratique, mais il semble que l’arbitraire prévaut dans bien des cas. On ne peut donc qu’être très réservé sur cet aspect de la confidentialité. L’autre volet de la protection des accès se pose en termes d’intrusion par des personnes malveillantes (ou les robots qu’elles mettent en œuvre). Les assistants domestiques prennent sous contrôle les appareils de domotique, le téléphone, et autres appareils d’assistance, y compris ces gadgets technologiques que l’on utilise pour le sport par exemple. Ce qui signifie que ces "gadgets" qui sont moins protégés que les autres équipements sont des portes d’entrées rêvées pour les pirates de tous bords. En clair, les assistants domestiques sont peut être très protégés, mais ils font entrer, par construction, le loup dans la bergerie, car aucun constructeur ne peut maîtriser les périphériques qui seront installés par l’utilisateur final. Bien entendu, le constructeur peut bloquer aux seuls périphériques qu’il produit, mais l’impact commercial est évident, et il est à parier que cette option ne sera pas retenue. Ces produits, aussi extraordinaires soient-ils demeurent à mon sens, et pour un temps certain, vulnérables aux attaques, surtout si elles sont intelligemment dirigées et ciblées. Hors, ce risque est certainement connu des constructeurs, je n’en vois malheureusement pas de mention dans leurs publicités.

Quelles sont les potentialités d'utilisation de ces technologies d'assistance ? Quels risques peuvent-elles présenter pour les utilisateurs ?

Nous l’avons évoqué plus haut, la potentialité est énorme en termes d’assistance pour les malades, les personnes âgées, en particulier dans le contexte du maintien à domicile. Je crois qu’indéniablement dans les domaines médical et social, en gérontologie et pour soulager les handicaps notamment, ces technologies ouvrent des perspectives extraordinaires. Je pense qu’elles ne sont pas limitées à ces domaines et que l’interconnexion peut présenter un intérêt fort pour les sciences et dans de multiples domaines. En extrapolant un peu nous pourrions même imaginer que cela pourrait trouver de l’utilité dans les débats publics.

Les risques sont à la hauteur des enjeux. Aujourd’hui les USA et l’OCDE accusent la Fédération de Russie d’avoir commandité des attaques informatiques, les uns au détriment de madame Clinton et l’autre sur fond de crise ukrainienne. Il est clair que les données stockées en permanence, y compris dans des sphères privées comme le domicile conjugal, seront des cibles pour les pirates de tous horizons. Et là, compte tenu de l’évolution des mœurs des pirates des temps nouveaux qui naviguent sur le web comme les forbans jadis sur les océans, les risques se multiplient. Ils seront bien sûr le fait de services d’état, mais aussi d’organisations criminelles et de nombreux "petits malins" qui souhaiteront arrondir leurs fins de mois en négociant un silence complice contre de l’argent. Et, ne négligeons pas non plus les faits purement privés comme les disputes conjugales conduisant à un divorce. Les époux en conflit auront peut-être la tentation de s’approprier la teneur des données stockées, voire pour certains de les manipuler. Dans tous les cas, que ce soit sur réquisition de la Justice ou de manière privée, les juristes devront donc se pencher sur l’utilisation de ces données, de leurs conditions de saisine et surtout d’interprétation. Le risque n’est, en conséquence,  pas limité et le sera encore moins lorsque la maîtrise technologique en permettra l’analyse de masse en temps quasi réel. Arrive-t-on à l’ère où le roman d’Orwell se transforme en réalité ?