Correspondances, violences conjugales : les dangers de Windows Recall s’étendent
Le 05 juin à 15h59
2 min
IA et algorithmes
IA
Depuis sa présentation, Windows Recall n’en finit plus de faire parler de lui et, au fil des jours, de nouveaux cas d’usage problématiques remontent à la surface. À tel point qu’on se demande maintenant quand et comment Microsoft va revoir ses plans.
Cette fonction, alimentée par une IA locale, prend régulièrement des captures d’écran de tout ce qui est fait. Via une analyse OCR, Recall extrait les informations. On peut ainsi retrouver toute activité faite sur la machine au cours des trois derniers mois au moins.
Cette fonction, active par défaut (opt-out), s’attire les foudres de nombreuses personnes, y compris chez les experts en cybersécurité, comme Kevin Beaumont. Mais les dangers ne concernent pas seulement la personne utilisant son PC Copilot+.
Si l'on utilise n'importe quel autre appareil sans Recall (Mac, Linux, smartphone…), on aura tôt fait de se dire « je ne suis pas concerné ». Mais vous l’êtes : si vous communiquez avec une personne utilisant un PC Copilot+ avec Recall activé, les informations que vous lui transmettrez pourront se retrouver dans sa base de données.
Les scénarios sont multiples : photos diverses et variées (y compris intimes), informations confidentielles, codes, discussions personnelles, données protégées par des accords de non-divulgation, partage d'écran… Certains se demandent – avec plus ou moins d'humour – s'il faudra demander systématiquement à un correspondant sur Copilot+ si Recall est activé avant tout échange.
Le chef de brigade Eric Freyssinet, conseiller en cybersécurité au ministère de l'Intérieur, a ainsi publié un billet de blog présentant divers cas problématiques, dont l’espionnage par un proche abusif. Dans le cadre de violences conjugales, un mari pourrait vérifier tout ce qu’a fait son épouse sur l’ordinateur familial.
Il est probable que la polémique ait pris assez d’ampleur désormais pour que Microsoft révise ses plans. D’autant que la CNIL anglaise (Information Commissioner's Office) a ouvert une enquête à ce sujet.
Le 05 juin à 15h59
Commentaires (23)
Vous devez être abonné pour pouvoir commenter.
Déjà abonné ? Se connecter
Abonnez-vousLe 05/06/2024 à 16h27
On a pas fini de se marrer avec ce truc de m...
Modifié le 05/06/2024 à 16h57
Cette fonction a été pensée par des personnes qui n'ont aucune expérience de vie.
Le 05/06/2024 à 17h34
Le 05/06/2024 à 19h00
Modifié le 05/06/2024 à 20h17
Modifié le 05/06/2024 à 20h39
Je me demande si la responsabilité légale de Microsoft ne pourrait pas être engagé en cas de mauvaise utilisation. Car pour reprendre l'histoire du proche abusif, on passe d'une situation où l'abuseur devait composer avec les anti-virus et autres restrictions de sécurité pour installer ses mouchards trouvés dans un coin quelconque d'Internet, à une situation où le mouchard est juste inclut de base. La victime ne peut pas le désactiver car ça se verrait très vite, et donc c'est encore pire qu'avant. En un sens, Microsoft devient complice.
Et qu'on ne me réponde pas par « Le CLUF... ». Aux USA un tel contrat est peut-être même supérieur à la loi, mais ici on est en Europe.
Le 06/06/2024 à 07h37
musique dramatique
Modifié le 05/06/2024 à 17h38
A mon avis, les vrais bénéficiaires de cette fonction seront les flottes (entreprise etc.) afin d'avoir des preuves en cas de malversation des utilisateurs.
Peut etre meme les états : qui pourrait refuser l'activation inconditionnelle de Recall, si c'est pour lutter contre la pédophilie?
Inversement, ca pousse les utilisateurs à se sentir surveillé et donc à bien agir et a réflechir deux fois avant de trahier la charte. D'ailleurs cette fonction d'enregistrement existe déja pour les bastions de sécurité par exemple.
C'est la fameuse doctrine "zero trust", pour laquelle l'utilisateur est le maillon faible de la sécurité du SI.
Le 05/06/2024 à 22h11
Est-ce qu'un GIF est recevable en procès ?
Modifié le 06/06/2024 à 11h53
Je me rappelle encore de l'appli. Google Desktop vers les années 2010.
2 appuis sur la touche Ctrl gauche, et en une fraction de seconde, il retrouvait tout, et dans le contenu même des fichiers : email, Excel, Word, File Explorer, PDF.
Surpuissant !!
À un moment, j'ai même hésité à continuer à classer mes emails pro de Lotus Notes dans mes répertoires car c'était plus rapide avec Google Desktop que d'ouvrir Lotus Notes, et de se rappeler dans quel sous sous sous répertoire était cet email...
Mais Google a tué l'outil en 2012-2013...
Le 05/06/2024 à 22h13
Picasa ne manque aussi pour gérer les photos avec metainfo en hors-ligne (lieux, visages, etc). Enfin j'imagine que toutes les données étaient aspirées malheureusement...
Le 06/06/2024 à 11h59
Windows Search @ 2024 comparé à Google Desktop @ 2010, et bien c'est tout simplement de la merd... ... mais apparemment tout ce que Microsoft touche se transforme en... bref...
Ils sont en train de tuer la confiance dans l'IA pour le grand public avec leur Copilot+ (rebranded into BigBrother+)
Le 07/06/2024 à 10h58
Concernant Windows Search, c'est dingue comme ils le pourrissent. Le moteur est bien (il existe depuis Windows 2000, il y a avait une page web interne pour taper des requêtes). La recherche via l'explorateur est pas mal quand on maîtrise les mots clés ("contenu: wordpress type:powerpoint").
La recherche via la barre de recherche: une nullité
Modifié le 08/06/2024 à 17h13
J'ignorais qu' Altavîsta avait aussi un moteur interne. Ils étaient pas mal à l'époque, un peu comme ICQ,, pionniers et leaders dans leur domaine et ça a fini en sucette totale.
Pareil pour Windows Search, j'ignorais le coup de la page Web.
Sinon pour l'avoir constaté de nombreuses fois, peu de personne (en entreprise ou ailleurs) connaissent l'option bien bien mal mise en évidence par Microsoft : "et aussi indexer le contenu des fichiers" parce qu'uniquement avec le libellé d'un fichier, hmm, bof bof... on peut chercher longtemps des fois...
Le 05/06/2024 à 19h44
Depuis mon adresse @monpropredomaine.com j'envoie un e-mail à une adresse @gmail.com : Google analysera mon message et les métadata associées.
Le problème est juste déporté sur une autre application ici.
Et puis si on utilise un système Windows à la maison, on a validé le CLUF qui avertit grosso modo qu'il y a de la télémétrie et autres joyeusetés qui capturent tout et n'importe quoi "pour améliorer l'expérience utilisateur", non ? (j'exclus les Windows professionnels qui sont imposés par l'employeur).
Le 06/06/2024 à 07h23
Le 06/06/2024 à 08h58
Le 06/06/2024 à 11h06
Le 07/06/2024 à 18h39
Effectivement, c'est le même soucis...
Le 06/06/2024 à 09h12
Modifié le 06/06/2024 à 17h10
L'IA ne peut pas inventer ce qu'elle ne connait pas donc soit elle est limitée à aider sur des cosidérations annexes (genre Nvidia G-Assist), soit il faut scruter les usagers (Recall) afin de pouvoir agir.
Évidemment dans le second cas ça ouvre des boulevards pour accéder aux données privées des usagers que Microsoft adorerait pouvoir exploiter sur le long terme, peut-être à la façon de Facebook dont on se rappelera qu'au début ils étaient moins gourmands sur ces données pour dériver par la suite. La grenouille dans la marmite d'eau chaude...
C'est peut-être pourquoi la fonction est activée par défaut : il faut forcer la main, changer les mentalités.
Sauf qu'ils ont sûrement mal réfléchi aux potentielles conséquences nuisibles de leur création, soit par manque d'expérience de vie des commerciaux qui ont demandé cela soit par minimisation de ces risques.
Le 07/06/2024 à 10h51
Le 06/06/2024 à 14h52
Les mécaniques de Recall seront les premières visées par les hackers, s'il y parviennent ils pourront accéder à des infos plus précises qu'aucun publicitaire n'avait encore jamais pu rêver ! Le spyware ultime !
Sans déconner, il faut râler fort là, il faut bad-buzzer à mort, expliquer les dangers de ces conneries au grand public, boycotter ouvertement le label Copilot+ (ce qui peut faire peut à Microsoft vu que tous leurs projets commerciaux « IA » sont estampillés Copilot-qq-chose), relayer ça dans les blogs / médias / RS, et il faut le faire suffisamment fort pour que toute la clique ne nous proposent pas une autre connerie du même genre dans 2 ans ! ✊