Connexion Premium

Deepfakes sexuels : Apple et Google de nouveau rappelés à l’ordre

Une fois de plus, Apple et Google vont devoir supprimer de leurs boutiques des applications de génération de deepfakes. Le procureur municipal de San Francisco, David Chiu, a mis en demeure les deux contrôleurs d’accès de retirer 13 applications capables de produire des images à caractère sexuel truquées et sans consentement (huit sur l’App Store, cinq sur le Play Store).

« La création d’images intimes sans le consentement des personnes concernées est illégale, préjudiciable et totalement inacceptable », dénonce le procureur auprès de Wired. Son bureau a déjà engagé des poursuites contre 16 sites capables de générer ces deepfakes. Il s’attaque maintenant à Apple et à Google, qui ont « engrangé des millions de dollars de commissions » grâce à ces apps « nudify ».

Illustration : Flock

Des applications qui passent manifestement sans trop de problème l’étape de l’examen des boutiques. Apple vante l’App Store comme « un espace sûr et fiable pour découvrir et se procurer des apps » et met régulièrement en avant les efforts consacrés à la lutte contre la fraude ou la violence. Le discours est similaire du côté de Google. Les règles des deux entreprises à destination des développeurs sont d’ailleurs très claires : pas de pornographie, pas d’abus, pas de harcèlement.

C’est à croire que les applications de déshabillage sans consentement ne font pas partie de ces usages. Une étude du Tech Transparent Project (TTP) publiée en avril démontrait le nombre ahurissant de ces apps dans les boutiques d’Apple et de Google, qui se présentent souvent sous la forme d’outils d’échange de visages. Cette ambiguïté leur permettent manifestement de passer entre les mailles du filet.

Apple et Google se contentent donc de réagir rétroactivement, en retirant les applications qui leur sont signalées par ce genre d’enquêtes. C’est d’ailleurs ce qu’a fait le moteur de recherche, en supprimant les cinq apps repérées par le procureur de San Francisco. La législation californienne sanctionne les entreprises qui facilitent sciemment le fonctionnement de services de création de deepfakes pornographiques.

Malgré la prolifération de ces apps, Google continue d’affirmer « prendre des mesures proactives pour détecter et supprimer celles qui proposent des contenus préjudiciables ». L’entreprise poursuit : « Lorsque des infractions nous sont signalées, nous enquêtons et intervenons rapidement. Dans le cas de ces applications, cela s’est notamment traduit par la suspension de centaines d’entre elles et par la restriction, sur notre boutique, de termes de recherche associés comme “nudify”. » Apple n’a pas voulu commenter.

David Chiu ne se contente pas d’exiger le retrait de ces applications. Il demande aussi aux deux entreprises de rompre leurs relations commerciales avec les éditeurs des apps en question et surtout, de renforcer leurs procédures de contrôle et de modération. Leur inefficacité persistante depuis des années est un sérieux couac dans la communication bien huilée autour des boutiques, passage obligé pour les possesseurs d’iPhone et de smartphones Android.

Commentaires (4)

votre avatar
passage obligé pour les possesseurs d’iPhone et de smartphones Android.
Euh non... le play store n'a jamais été obligatoire sur Android, n'importe quel téléphone Android peut faire tourner un store alternatif (type f-droid), et même installer des ".apk" téléchargés directement depuis internet.
votre avatar
.... pour le moment, vu que justement Google veux imposer le store pour l'installation des applis (c'est la polémique du moment) comme le fait Apple depuis (presque) toujours.

Le sujet de cet article permet aussi de mettre en lumière les difficultés de Google, qui à la fois se voit confronté à une vive opposition sur cette histoire de blocage des APK, mais aussi d'un autre coté est tenu de lutter contre les applications sus-mentionnées dans l'article... Pas simple.

Mais pour moi perdu d'avance.
Google pourra jamais bloquer tous les téléphones des gens, ne serait-ce que parce qu'actuellement il y a des ROMS alternatives, des App pour installer d'autres app (Aurora, F-Droid)...
Au pire il sera toujours possible de créer l'APK et de l'installer sur un "vieux" téléphone.

Autre chose, on parle ici d'appli mobile, mais les PC existent toujours ! Rien n’empêche de créer un programme sur PC pour faire les mêmes modifications d'image, non ? Que ce soit en ligne ou hors ligne...

La très très grande majorité des gens installeront jamais ce genre d'app 'dénudeuse" donc ceux qui le font le feront quand même, même si c'est un brin plus compliqué. Ou alors c'est qu'ils misent sur la bêtise des gens ?
votre avatar
Pornographie :
Représentation (sous forme d'écrits, de dessins, de peintures, de photos, de spectacles, etc.) de choses obscènes, sans préoccupation artistique et avec l'intention délibérée de provoquer l'excitation sexuelle du public auquel elles sont destinées.
Obscène :
Qui représente brutalement, directement des images ou des manifestations d'ordre sexuel.
Donc, non, des nus même non consentis, ce n'est pas de la pornographie sauf à modifier fortement la pose de la photo initiale. Et les mises en bikini encore moins (ceci pour les articles précédents sur le sujet).
Si quelqu'un considère qu'une photo d'une personne nue est de la pornographie, il a de sérieux problèmes.
La législation californienne sanctionne les entreprises qui facilitent sciemment le fonctionnement de services de création de deepfakes pornographiques.
Si c'est le seul critère juridique, c'est de l'abus de pouvoir. (Je n'ai pas accès à l'article de Wired, donc je n'ai pas plus de détails que ceux qu'indiqués ici).
votre avatar
Si tu essaies d'utiliser les définitions communément admises en Français avec le droit américain, je pense que tu as des chances de te tromper.

Par ailleurs, pornographie au sens strict ou pas, ça n'empêche pas de constater que ces applis sont très dommageables pour leurs victimes et qu'il faut agir (le plus simple étant, comme ce qui est fait ici, de couper le canal de distribution à la source).