Windows Recall est une fonction dont l’objectif est de permettre la récupération d’une information vue au cours des trois derniers mois écoulés au moins. Ponctionnant une partie du stockage, elle prend des captures d’écran à intervalles réguliers. Le mécanisme analyse le contenu de ces images (OCR) pour en extraire des informations.

• Windows Recall : une surveillance locale et isolée, mais…

En utilisant Recall, via une requête en langage naturel, on peut ainsi retrouver des éléments de conversation, une page visitée, un document sur lequel on travaillait et ainsi de suite. La réponse est fournie avec le contexte et la capture correspondante.

Quelques jours après l’annonce, Microsoft a publié une page résumant les attributs de Recall. On y trouvait notamment des éléments de réponse à plusieurs questions évidentes. C’était le cas de la vie privée, l’entreprise précisant que tout était calculé localement et qu’aucune capture n’était transférée à ses serveurs.

Cela ne changeait rien au danger inhérent d'un réservoir aussi important de données sensibles, comme nous l’indiquions alors. Et la situation est loin d’être aussi idyllique que Microsoft la présente, surtout pour une fonction activée par défaut (opt-out). Mais ce point pourrait changer.

Recall n’est pas forcément une spécificité des PC Copilot+

C’est l’une des questions que nous avions posées à Microsoft et sur laquelle nous n’avons pas eu de réponse : Recall peut-elle fonctionner sur d’autres configurations que les seuls PC Copilot+ et leurs puces Snapdragon X Plus ou Elite ?

• • Voilà les Copilot+ : des PC avec Windows 11 Arm, IA et Snapdragon X

Il semble que oui. Dès le 25 mai, Albacore (connu pour creuser les technologies de Microsoft) a indiqué sur X avoir réussi à faire fonctionner Recall sur une machine alimentée seulement par un SoC Snapdragon 7c Plus Gen3, qui n’intègre aucun NPU (pour Neural Process Unit, ou accélérateur d'intelligence artificielle). La machine intégrait également 3,4 Go de mémoire (GBook Go2), autant dire pas un foudre de guerre. Dans les réponses données, Albacore ajoutait que si certaines charges ont besoin d’accélération matérielle, le cœur de Recall s’en passait.

Il affirme aussi que la fonction sera disponible sur les machines x86, mais qu’il faudra peut-être attendre. Selon lui, les fabricants ont reçu les modèles, la plupart sous forme de paquets dédiés à l’architecture arm64. Ce qui ne prouve rien bien sûr, mais pose la question de l’étiquette « Copilot+ » et ce qu’elle suppose.

AMD et NVIDIA communiquent déjà

La question se pose d’autant plus que les annonces d’AMD et NVIDIA au Computex abordent frontalement la question. Le premier a annoncé de nouveaux processeurs contenant un NPU atteignant les 50 TOPS, largement prêts pour l’estampille selon AMD. Le second a annoncé que des PC portables RTX AI allaient arriver et qu’une mise à jour gratuite leur serait proposée pour les rendre officiellement compatibles avec la fameuse étiquette.

• • NVIDIA : IA, IA, GPU Rubin, IA, IA, SFF-Ready, IA, IA…

Reste que Microsoft n’a pas répondu à la question : que faut-il vraiment pour constituer un PC Copilot+ ? Car s’il ne s’agit que de fournir une certaine puissance pour assurer de bonnes performances dans les calculs locaux pour l’IA, les GPU dédiés ont ce qu’il faut depuis longtemps.

Vie privée, sécurité : un vaste recul

Si Recall fait partie d’un lot de fonctions propulsées par l’IA, c’est elle qui attire de loin l’attention. Devant un tel mécanisme capable de régurgiter toute information liée à une activité passée, les questions d’impact sur la vie privée ne manquent pas.

Kevin Beaumont, expert en cybersécurité, a publié à ce sujet un billet de blog il y a deux jours. Dans son analyse, il estime que Recall est une idée intéressante. Mais elle nécessite « une communication, une cybersécurité, une ingénierie et une mise en œuvre incroyablement soignées ». Rien de tout ceci n’aurait participé à la création de Recall, selon Beaumont.

Il revient tout particulièrement sur l’idée des informations chiffrées. Elles le sont, mais pas pour l’utilisateur. Une fois la session ouverte, les informations sont accessibles en clair. Aucun mécanisme ne protège apparemment l’accès. Les données sont également accessibles depuis d’autres comptes de la même machine, avec peu de moyens.

La porte ouverte à toutes les fenêtres

En clair, tout code malveillant pouvant s’installer au sein d’une session utilisateur sera en mesure d’accéder à ces informations. Non pas que les malwares manquaient d’opportunités à ce niveau, mais Recall pourrait leur mâcher le travail en réunissant toutes les données sensibles au même endroit.

Pour Kevin Beaumont, Microsoft semble avoir réalisé une fonction à tout faire, mais avec des « lacunes » si énormes que l’on « pourrait y faire passer un avion ». Selon lui, la question n’est pas de savoir si des pirates vont réussir à récupérer ces informations, mais quand.

Il affirme avoir créé un site web capable d’automatiser la récupération des informations, et d’autant plus facilement qu’elles sont en clair dans une simple base de données SQLite3, ce que pointait déjà Albacore le 27 mai. Cette base est stockée dans le dossier AppData, au sein d’un nouveau répertoire nommé CoreAIPlatform. Cette base de texte est légère, plusieurs jours de travail étant contenus dans un fichier de 90 ko environ. Le spécialiste ne rendra cependant son site public qu’après le 18 juin, jour de lancement officiel pour les PC Copilot+.

En outre, il n’y a aucune modération des informations captées par Recall, comme précisé par Microsoft elle-même. Si vous avez entré un mot de passe dans un champ en clair ou toute autre information, considérez qu’elle se trouve dans la base de données. Même chose pour les messages échangés dans toutes les messageries, chiffrées ou non, qu’ils soient éphémères ou pas. Ces données hautement sensibles sont présentes dans la base, dont l’accès ne nécessite aucun droit SYSTEM.

« Je n'exagère pas en disant qu'il s'agit de la décision la plus stupide en matière de cybersécurité depuis une décennie », écrivait Kevin Beaumont le 31 mai.

La sécurité, mais pas tout de suite

La réalisation de Recall est d’autant plus questionnable que Microsoft faisait circuler un mémo à ses équipes il y a un mois sur la sécurité. Comme le révélait The Verge, la consigne émanait de Satya Nadella en personne :

« Si vous devez choisir entre la sécurité et une autre priorité, la réponse est claire : privilégiez la sécurité. Dans certains cas, cela signifie qu'il faut donner la priorité à la sécurité plutôt qu'à d'autres choses, comme le lancement de nouvelles fonctionnalités ou la fourniture d'une assistance continue pour les systèmes existants. Il s'agit là d'un élément clé pour faire progresser la qualité et la capacité de notre plateforme à protéger les biens numériques de nos clients et à construire un monde plus sûr pour tous »

Cette manière d’aborder la sécurité « avec une rigueur à la fois technique et opérationnelle » ne semble pas avoir infusé dans la conception et la réalisation de Recall.

Un « acte d'automutilation »

Dans nos précédents articles, nous évoquions la possibilité que la fonction, dans son intégralité, soit quelque peu « overkill ». Comprendre que les moyens mis en place pour retrouver une information semblent démesurés, à l’image de tout ce qui touche l’IA le plus souvent. Kevin Beaumont va également dans ce sens, estimant que Recall peut convenir à des responsables plongés dans une telle quantité d’informations que la fonction aurait du sens.

« Beaucoup d'utilisateurs de Windows veulent simplement leur PC pour jouer, regarder du porno et vivre leur vie en tant qu'êtres humains qui font des erreurs... dont ils ne veulent pas toujours se souvenir. Et l'idée que d'autres personnes ayant accès à l'appareil puissent voir cette mémoire photographique est... effrayante, à un niveau profondément personnel », estime l’expert. Il va jusqu’à parler « d’acte d’automutilation », le potentiel de nuisance pour la sécurité, Copilot+, Windows et même Microsoft étant immense.

L’un des gros points noirs de Recall est également qu’il est activé automatiquement. La fonction est en opt-out. Il est seulement proposé à l’utilisateur, lors de la phase initiale de configuration de Windows, d’ouvrir immédiatement après les paramètres de Recall, qui permettent de le désactiver. On ne comprend pas bien pourquoi la question n’est pas posée comme de nombreux autres éléments dans l’assistant de configuration : une obligation de répondre Oui ou Non, sans réponse sélectionnée par défaut.

Si l’on en croit le journaliste Zac Bowden, des sources lui auraient indiqué qu’une intense discussion est en cours chez Microsoft à ce sujet. La question se poserait de modifier l’assistant (OOBE, pour Out of Box Experience) pour pouvoir choisir d’activer Recall ou non. L’assistant pouvant récupérer des mises à jour via internet, cette modification ne représente aucune difficulté technique. En revanche, elle en dirait long sur le processus de conception entourant Recall.