Un moteur de recherche de visage, voilà comment le logiciel de recherche d’images de reconnaissance faciale PimEyes se vend.
Problème, rapporte Byline Supplement : le site polonais est très populaire dans certains des recoins d’internet où des internautes se servent de sa version gratuite pour trouver et diffuser des images à caractère sexuel de femmes, sans leur consentement.
Parmi les utilisateurs payants du site, en revanche, une majorité de femmes, qui paient (de 20 euros pour un usage ponctuel à 320 euros par mois) pour vérifier où circulent des photos d’elles et tenter de les faire enlever si besoin. 91 % des abonnés payant sont des femmes, tandis qu’au moins 67 % des utilisateurs gratuits sont des hommes, souligne la développeuse Cher Scarlett, qui témoigne sur Twitter de ses propres difficultés.
« PimEyes représente un danger totalement nouveau pour les femmes en raison de la vitesse à laquelle il peut être utilisé pour trouver toutes sortes d'informations personnelles en ligne », explique à Byline Supplement le spécialiste en cybersécurité Jake Moore. La publication non consentie d’images à caractère sexuel a d’importants effets sur la santé mentale et la sécurité physique des victimes.
Dans certains recoins d’internet, pourtant, la pratique est courante et les solutions, très maigres.
Commentaires (24)
#1
L’inverse des boites de nuit: gratuit pour les mecs, payant pour les filles :-/
#1.1
Gratuit… parce qu’elles sont le produit.
#2
PimEyes est simplement un moteur de recherche …
Si des photos compromettantes existent, c’est en premier lieu du ressort de la personne qui a pris cette photo.
Je ne suis pas du tout d’accord sur le fait que PimEyes crée le problème, c’est simplement un effet de bord, de la même manière que les réseaux sociaux sont un nouveau moyen pour le harcèlement.
#2.1
Alors, le victim blaming, c’est vraiment pas top comme argumentaire, mais passons. Que ce passe t’il si une personne est prise en photo à son insu et que l’image est publié en ligne ? Elle n’avait qu’à faire attention ?
#2.2
Ce serait bien de lire correctement mon commentaire … j’ai dit que la responsabilité revient à la personne qui prend la photo, donc le cadre de la photo prise à son insu on repassera ;)
#2.3
J’ai bien compris ton commentaire.
J’essaie juste d’élargir un peu ta vision sur cette situation pour t’aider à mieux comprendre les impacts de ce genre d’outils.
#2.4
Pour les photos compromettantes prises à ton insu, il y a déjà tout un panel de loi à ce sujet.
Donc oui la responsabilité reste toujours à la charge de la personne qui a pris cette photo.
Ca me rappelle un youtubeur (j’ai oublié le nom) qui s’était fait un algo du même acabit que PimEyes, il se balade dans la rue, prend en photo les gens et scanne le net. Il va voir les personnes pour les prévenir de la facilité de trouver des infos dispo sur elles.
A aucun moment je dis que les femmes qui rencontrent ce type de souci, ne sont pas victimes ou sont responsables. Je dis juste que le souci ne vient pas de PimEyes. Une sacrée nuance.
PimEyes fait du recoupement d’information sur le net, rien de plus rien de moins.
C’est comme prendre à partie une franchise de bricolage ou Amazon suite à un attentat à l’arme blanche.
Le souci n’est pas l’outil ou l’usage initial mais un usage détourné.
#2.5
La responsabilité va à celui qui diffuse l’image pas à celui qui la prend.
Le soucis de PimEyes ici c’est qu’il aide à accéder aux images diffusées, donc il en facilite la diffusion.
De plus il effectue un traitement sur une photo, je pense que c’est du traitement de données personnelles sans consentement.
La ligne de défense que tu avances pourrait se tenir si il y avait des mesures en place pour éviter qu’on puisse rechercher un visage qui n’est pas le sien.
#2.6
On parle du photographe pas du modèle, il ne faut pas tout confondre !
#3
Je n’ai pas compris quel était le service ajouté de la version payante par rapport à la version gratuite…
#3.1
La version payante permet d’avoir des alertes plus nombreuses et offre un service de demande de retrait de l’image (DMCA / RGPD)
Le problème de PimEyes c’est qu’il permet de faire une recherche faciale à partir de n’importe quelle photo.
Imaginons que je prenne une photo d’une app de rencontre et que je la passe dans leur moteur, il me donnera d’autres photos, dont potentiellement des photos qui ne devraient pas être sur le net.
Sans PimEyes j’aurai du mal à retrouver ces photos.
Je viens de tester avec une personnalité publique, et ils ont une option “safe search” (désactivée par défaut), donc ils seraient capables de limiter ce genre d’abus. Ils ont choisi de ne pas le faire.
#4
Si je comprends bien cette phrase:
Le service proposé est de supprimer les images du web… et pas simplement de les supprimer des résultats du moteur de recherche.
Est-ce pour cela que la news parle d’un problème que PimEyes a participé à crée ? Dis autrement, si PimEyes permettait de supprimer les images de ses propres résultats (= modération interne de PimEyes), ca serait suffisant ?
#5
Ok, donc les femmes peuvent tout aussi bien regarder régulièrement comment elles sont référencées, et si elles trouvent un truc qui ne devrait pas être là, exercer leur droit à l’oubli auprès de l’hébergeur de l’image.
Le titre de l’article est donc soit racoleur, soit suppose que les femmes sont trop neuneu pour faire elles-mêmes la démarche.
#5.1
Tu es limité à une recherche en version gratuite :
You’ve reached the limit of 1 free searches
Purchase a plan to increase the number of your searches and access the web sources of your photos.
Et ça bloque même en mode privé ou en changeant de navigateur sur le même PC !
Bref, c’est quasiment inutilisable en gratuit.
#5.2
Hum … désolé j’ai donné une mauvaise information.
La version gratuite semble limitée (la partie “hors visage” est pixelisée, on a pas accès à la totalité du lien, …)
Si le lien est court, on y a accès.
Il faut payer 33€ /mois ou 20€ / recherche pour avoir les fonctionnalités basiques.
Il faut payer plus pour le plan “protect”
Mais d’après les tweets ils sont poursuivis pour violation du RGPD.
Du coup, je précise que la version gratuite est quand même limitée (mais pas assez).
En réfléchissant 2 minutes, si le but est d’offrir une protection à l’utilisateur, la stratégie optimale serait d’associer un compte à un visage (et de vérifier que celui qui crée le compte possède le visage).
#6
Ok. Le problème ce n’est pas que ces photos existent, mais qu’on puisse les trouver assez facilement avec un outil gratuit et librement accessible.
Donc la solution serait une stratégie de sécurité par offuscation: si on ne peut pas facilement trouver les photos avec cet outil, il y a peu de chance que qqn les trouve et les exploite.
C’est pas optimal comme stratégie mais ca limiterait surement l’accessibilité à ces photos. Du moins jusqu’à ce qu’un outil “underground” prenne le relais.
#7
J’ai immédiatement pensé aux méthodes de protection des mafias.
Après vu le problème de fond et vu le tarif pourquoi pas, c’est un peu le modèle des assurances Qataris, des assurances pour tout et rien, au cas ou.
Déjà arrêter de se prendre pour un cinéaste au lit.
#8
pffffff
Soyons clair, même si c’était volontaire l’argument resterait dégueulasse.
#9
Je demande a voir comment un site web peut vérifier que le titulaire du compte à bien la tête qu’il prétend avoir. A part mon passeport, j’ai pas vraiment de document officiel avec une photo récente.
Et je ne suis pas certain de vouloir envoyer un scan de mon passeport à un site polonais qui semble massivement utilisé pour faire du chantage à la e-réputation
#9.1
Et cette photo ne sera plus fraiche d’ici 5 ans…
(la photo hein, toi ce sera probablement un autre problème :P)
#10
Oui c’est ça le soucis, c’est pour ça que j’ai dit “si le but est d’offrir une protection”.
C’est le point de l’article, le site ne semble pas là pour résoudre le problème mais pour en profiter.
Après il n’est pas nécessaire d’avoir une photo récente. Le fonctionnement même du site c’est de faire de la reconnaissance faciale. Donc ça prend des “points” qui ne devraient pas trop changer au cours du temps.
Quoi qu’il arrive pour utiliser le site pour sa propre protection il faut envoyer au moins une photo.
Donc à partir du moment où quelqu’un a décidé de l’utiliser, il est prêt a abandonner une partie de ses données privées.
Contrairement aux sites porno il n’y a pas vraiment de soucis.
Je me doute bien qu’il ne le fera pas, je veux juste appuyer que l’idée pourrait passer si elle était vraiment destinée à “protéger” l’utilisateur (et non à le racketter).
#11
Cela pourrait être utile par contre pour les forces publique quand ils recherchent toutes les sources d’images interdites ou pour rechercher des personnes disparues.