Depuis sa présentation, Windows Recall n’en finit plus de faire parler de lui et, au fil des jours, de nouveaux cas d’usage problématiques remontent à la surface. À tel point qu’on se demande maintenant quand et comment Microsoft va revoir ses plans.
Cette fonction, alimentée par une IA locale, prend régulièrement des captures d’écran de tout ce qui est fait. Via une analyse OCR, Recall extrait les informations. On peut ainsi retrouver toute activité faite sur la machine au cours des trois derniers mois au moins.
Cette fonction, active par défaut (opt-out), s’attire les foudres de nombreuses personnes, y compris chez les experts en cybersécurité, comme Kevin Beaumont. Mais les dangers ne concernent pas seulement la personne utilisant son PC Copilot+.
Si l'on utilise n'importe quel autre appareil sans Recall (Mac, Linux, smartphone…), on aura tôt fait de se dire « je ne suis pas concerné ». Mais vous l’êtes : si vous communiquez avec une personne utilisant un PC Copilot+ avec Recall activé, les informations que vous lui transmettrez pourront se retrouver dans sa base de données.
Les scénarios sont multiples : photos diverses et variées (y compris intimes), informations confidentielles, codes, discussions personnelles, données protégées par des accords de non-divulgation, partage d'écran… Certains se demandent – avec plus ou moins d'humour – s'il faudra demander systématiquement à un correspondant sur Copilot+ si Recall est activé avant tout échange.
Le chef de brigade Eric Freyssinet, conseiller en cybersécurité au ministère de l'Intérieur, a ainsi publié un billet de blog présentant divers cas problématiques, dont l’espionnage par un proche abusif. Dans le cadre de violences conjugales, un mari pourrait vérifier tout ce qu’a fait son épouse sur l’ordinateur familial.
Il est probable que la polémique ait pris assez d’ampleur désormais pour que Microsoft révise ses plans. D’autant que la CNIL anglaise (Information Commissioner's Office) a ouvert une enquête à ce sujet.
Commentaires (23)
#1
On a pas fini de se marrer avec ce truc de m...
#2
Cette fonction a été pensée par des personnes qui n'ont aucune expérience de vie.
Historique des modifications :
Posté le 05/06/2024 à 16h56
Un commentateur ici-même avait pointé un de ces cas d'usages possible.
Cette fonction a été pensée par des personnes qui n'ont aucune expérience de vie.
#2.1
#2.2
Des devs quoi.
#2.3
Historique des modifications :
Posté le 05/06/2024 à 20h16
Ou ien pire, des commerciaux
#2.4
Je me demande si la responsabilité légale de Microsoft ne pourrait pas être engagé en cas de mauvaise utilisation. Car pour reprendre l'histoire du proche abusif, on passe d'une situation où l'abuseur devait composer avec les anti-virus et autres restrictions de sécurité pour installer ses mouchards trouvés dans un coin quelconque d'Internet, à une situation où le mouchard est juste inclut de base. La victime ne peut pas le désactiver car ça se verrait très vite, et donc c'est encore pire qu'avant. En un sens, Microsoft devient complice.
Et qu'on ne me réponde pas par « Le CLUF... ». Aux USA un tel contrat est peut-être même supérieur à la loi, mais ici on est en Europe.
Historique des modifications :
Posté le 05/06/2024 à 20h36
Probablement davantage ça
bien que les dévs ça me tente aussi 
Je me demande si la responsabilité légale de Microsoft ne pourrait pas être engagé en cas de mauvaise utilisation. Car pour reprendre l'histoire du proche abusif, on passe d'une situation où l'abuseur devait composer avec les anti-virus et autres restrictions de sécurité pour installer ses mouchards trouvés dans un coin quelconque d'Internet, à une situation où le mouchard est juste inclut de base. La victime ne peut pas le désactiver car ça se verrait très vite, et donc c'est encore pire qu'avant.
Et qu'on ne me réponde pas par « Le CLUF... ». Aux USA un tel contrat est supérieur à la loi. On est en Europe.
Posté le 05/06/2024 à 20h37
Probablement davantage ça
bien que les dévs ça me tente aussi 
Je me demande si la responsabilité légale de Microsoft ne pourrait pas être engagé en cas de mauvaise utilisation. Car pour reprendre l'histoire du proche abusif, on passe d'une situation où l'abuseur devait composer avec les anti-virus et autres restrictions de sécurité pour installer ses mouchards trouvés dans un coin quelconque d'Internet, à une situation où le mouchard est juste inclut de base. La victime ne peut pas le désactiver car ça se verrait très vite, et donc c'est encore pire qu'avant.
Et qu'on ne me réponde pas par « Le CLUF... ». Aux USA un tel contrat est potentiellement supérieur à la loi, ici on est en Europe.
Posté le 05/06/2024 à 20h38
Probablement davantage ça
bien que les dévs ça me tente aussi 
Je me demande si la responsabilité légale de Microsoft ne pourrait pas être engagé en cas de mauvaise utilisation. Car pour reprendre l'histoire du proche abusif, on passe d'une situation où l'abuseur devait composer avec les anti-virus et autres restrictions de sécurité pour installer ses mouchards trouvés dans un coin quelconque d'Internet, à une situation où le mouchard est juste inclut de base. La victime ne peut pas le désactiver car ça se verrait très vite, et donc c'est encore pire qu'avant.
Et qu'on ne me réponde pas par « Le CLUF... ». Aux USA un tel contrat est peut-être même supérieur à la loi, mais ici on est en Europe.
#2.5
musique dramatique
#3
A mon avis, les vrais bénéficiaires de cette fonction seront les flottes (entreprise etc.) afin d'avoir des preuves en cas de malversation des utilisateurs.
Peut etre meme les états : qui pourrait refuser l'activation inconditionnelle de Recall, si c'est pour lutter contre la pédophilie?
Inversement, ca pousse les utilisateurs à se sentir surveillé et donc à bien agir et a réflechir deux fois avant de trahier la charte. D'ailleurs cette fonction d'enregistrement existe déja pour les bastions de sécurité par exemple.
C'est la fameuse doctrine "zero trust", pour laquelle l'utilisateur est le maillon faible de la sécurité du SI.
Historique des modifications :
Posté le 05/06/2024 à 17h37
Je suis persuadé que la cible n'est pas celle que l'on pense.
A mon avis, les vrais bénéficiaires de cette fonction seront les flottes (entreprise etc.) afin d'avoir des preuves en cas de malversation des utilisateurs.
Peut etre meme les états : qui pourrait refuser l'activation inconditionnelle de Recall, si c'est pour lutter contre la pédophilie?
Inversement, ca pousse les utilisateurs à se sentir surveillé et donc à bien agit. D'ailleurs cette fonction d'enregistrement existe déja pour les bastions de sécurité par exemple.
C'est la fameuse doctrine "zero trust", pour laquelle l'utilisateur est le maillon faible de la sécurité du SI.
#3.1
Est-ce qu'un GIF est recevable en procès ?
#4
Je me rappelle encore de l'appli. Google Desktop vers les années 2010.
2 appuis sur la touche Ctrl gauche, et en une fraction de seconde, il retrouvait tout, et dans le contenu même des fichiers : email, Excel, Word, File Explorer, PDF.
Surpuissant !!
À un moment, j'ai même hésité à continuer à classer mes emails pro de Lotus Notes dans mes répertoires car c'était plus rapide avec Google Desktop que d'ouvrir Lotus Notes, et de se rappeler dans quel sous sous sous répertoire était cet email...
Mais Google a tué l'outil en 2012-2013...
Historique des modifications :
Posté le 05/06/2024 à 18h11
Si la machine veut aider, il faut bien qu'elle soit au courant.
Je me rappelle encore de l'appli. Google Desktop vers les années 2010.
2 appuis sur la touche Ctrl gauche, et en une fraction de seconde, il retrouvait tout, et dans le contenu même des fichiers : email, Excel, Word, File Explorer, PDF.
Surpuissant. À un moment, j'ai même hésité à continuer à classer mes emails pro de Lotus Notes dans mes répertoires car c'était plus rapide avec Google Desktop que d'ouvrir Lotus Notes, et de se rappeler dans quel sous sous sous répertoire était cet email...
Mais Google a tué l'outil en 2012-2013...
Posté le 05/06/2024 à 18h12
Si la machine veut aider, il faut bien qu'elle soit au courant.
Je me rappelle encore de l'appli. Google Desktop vers les années 2010.
2 appuis sur la touche Ctrl gauche, et en une fraction de seconde, il retrouvait tout, et dans le contenu même des fichiers : email, Excel, Word, File Explorer, PDF.
Surpuissant. À un moment, j'ai même hésité à continuer à classer mes emails pro de Lotus Notes dans mes répertoires car c'était plus rapide avec Google Desktop que d'ouvrir Lotus Notes, et de se rappeler dans quel sous sous sous répertoire était cet email...
Mais Google a tué l'outil en 2012-2013...
#4.1
Picasa ne manque aussi pour gérer les photos avec metainfo en hors-ligne (lieux, visages, etc). Enfin j'imagine que toutes les données étaient aspirées malheureusement...
#4.2
Windows Search @ 2024 comparé à Google Desktop @ 2010, et bien c'est tout simplement de la merd...
Ils sont en train de tuer la confiance dans l'IA pour le grand public avec leur Copilot+ (rebranded into BigBrother+)
#4.3
Concernant Windows Search, c'est dingue comme ils le pourrissent. Le moteur est bien (il existe depuis Windows 2000, il y a avait une page web interne pour taper des requêtes). La recherche via l'explorateur est pas mal quand on maîtrise les mots clés ("contenu: wordpress type:powerpoint").
La recherche via la barre de recherche: une nullité
#4.4
J'ignorais qu' Altavîsta avait aussi un moteur interne. Ils étaient pas mal à l'époque, un peu comme ICQ,, pionniers et leaders dans leur domaine et ça a fini en sucette totale.
Pareil pour Windows Search, j'ignorais le coup de la page Web.
Sinon pour l'avoir constaté de nombreuses fois, peu de personne (en entreprise ou ailleurs) connaissent l'option bien bien mal mise en évidence par Microsoft : "et aussi indexer le contenu des fichiers" parce qu'uniquement avec le libellé d'un fichier, hmm, bof bof... on peut chercher longtemps des fois...
Historique des modifications :
Posté le 08/06/2024 à 17h08
Alors là je découvre.
:mack:
J'ignorais qu' Altavîsta avait aussi un moteur interne. Ils étaient pas mal à l'époque, un peu comme ICQ,, pionniers et leaders dans le domaine et ça a fini en sucette totale.
Pareil pour Windows Search, j'ignorais le coup de la page Web.
Sinon pour l'avoir constaté de nombreuses fois, peu de personne (en entreprise) connaissent l'option bien bien mal mise en évidence par Microsoft : "et aussi indexer le contenu des fichiers" parce qu'uniquement avec le libellé d'un fichier, hmm, bof bof... on peut chercher longtemps des fois...
Posté le 08/06/2024 à 17h10
Alors là je découvre.
J'ignorais qu' Altavîsta avait aussi un moteur interne. Ils étaient pas mal à l'époque, un peu comme ICQ,, pionniers et leaders dans le domaine et ça a fini en sucette totale.
Pareil pour Windows Search, j'ignorais le coup de la page Web.
Sinon pour l'avoir constaté de nombreuses fois, peu de personne (en entreprise ou ailleurs) connaissent l'option bien bien mal mise en évidence par Microsoft : "et aussi indexer le contenu des fichiers" parce qu'uniquement avec le libellé d'un fichier, hmm, bof bof... on peut chercher longtemps des fois...
Posté le 08/06/2024 à 17h10
Alors là je découvre.
J'ignorais qu' Altavîsta avait aussi un moteur interne. Ils étaient pas mal à l'époque, un peu comme ICQ,, pionniers et leaders dans le domaine et ça a fini en sucette totale.
Pareil pour Windows Search, j'ignorais le coup de la page Web.
Sinon pour l'avoir constaté de nombreuses fois, peu de personne (en entreprise ou ailleurs) connaissent l'option bien bien mal mise en évidence par Microsoft : "et aussi indexer le contenu des fichiers" parce qu'uniquement avec le libellé d'un fichier, hmm, bof bof... on peut chercher longtemps des fois...
#5
Le problème n'est pas nouveau ?
Depuis mon adresse @monpropredomaine.com j'envoie un e-mail à une adresse @gmail.com : Google analysera mon message et les métadata associées.
Le problème est juste déporté sur une autre application ici.
Et puis si on utilise un système Windows à la maison, on a validé le CLUF qui avertit grosso modo qu'il y a de la télémétrie et autres joyeusetés qui capturent tout et n'importe quoi "pour améliorer l'expérience utilisateur", non ? (j'exclus les Windows professionnels qui sont imposés par l'employeur).
#5.1
#5.2
#5.3
#5.4
Effectivement, c'est le même soucis...
#6
#6.1
L'IA ne peut pas inventer ce qu'elle ne connait pas donc soit elle est limitée à aider sur des cosidérations annexes (genre Nvidia G-Assist), soit il faut scruter les usagers (Recall) afin de pouvoir agir.
Évidemment dans le second cas ça ouvre des boulevards pour accéder aux données privées des usagers que Microsoft adorerait pouvoir exploiter sur le long terme, peut-être à la façon de Facebook dont on se rappelera qu'au début ils étaient moins gourmands sur ces données pour dériver par la suite. La grenouille dans la marmite d'eau chaude...
C'est peut-être pourquoi la fonction est activée par défaut : il faut forcer la main, changer les mentalités.
Sauf qu'ils ont sûrement mal réfléchi aux potentielles conséquences nuisibles de leur création, soit par manque d'expérience de vie des commerciaux qui ont demandé cela
Historique des modifications :
Posté le 06/06/2024 à 17h08
Ou de convaincre la population qu'elle doit abandonner TOUTE notion de vie privée, car c'est incompatible avec l'usage de l'IA dans le quotidien direct des usagers.
soit par minimisation de ces risques.
L'IA ne peut pas inventer ce qu'elle ne connait pas donc soit elle est limitée à aider sur des cosidérations annexes (genre Nvidia G-Assist), soit il faut scruter les usagers (Recall) afin de pouvoir agir.
Évidemment dans le second cas ça ouvre des boulevards pour accéder aux données privées des usagers que Microsoft adorerait pouvoir exploiter sur le long terme, peut-être à la façon de Facebook dont on se rappelera qu'au début ils étaient moins gourmands sur ces données pour dériver par la suite. La grenouille dans la marmite d'eau chaude...
C'est peut-être pourquoi la fonction est activée par défaut : il faut forcer la main, changer les mentalités.
Sauf qu'ils ont sûrement mal réfléchi aux potentielles conséquences nuisibles de leur création, soit par manque d'expérience de vie des commerciaux qui ont demandé cela
#6.2
#7
Les afficionados du profiling, de l'espionnage et du flinguage du chiffrement doivent être aux anges, l'OS majoritaire du marché propose un outil pour contourner le problème : lire les données en clair et en faire des résumés suffisamment court à l'aide de « l'IA » pour être traités en masse.
Les mécaniques de Recall seront les premières visées par les hackers, s'il y parviennent ils pourront accéder à des infos plus précises qu'aucun publicitaire n'avait encore jamais pu rêver ! Le spyware ultime !
Sans déconner, il faut râler fort là, il faut bad-buzzer à mort, expliquer les dangers de ces conneries au grand public, boycotter ouvertement le label Copilot+ (ce qui peut faire peut à Microsoft vu que tous leurs projets commerciaux « IA » sont estampillés Copilot-qq-chose), relayer ça dans les blogs / médias / RS, et il faut le faire suffisamment fort pour que toute la clique ne nous proposent pas une autre connerie du même genre dans 2 ans ! ✊