Deepfakes sexuels : Apple et Google de nouveau rappelés à l’ordre
3 min
Logiciel
Logiciel
Une fois de plus, Apple et Google vont devoir supprimer de leurs boutiques des applications de génération de deepfakes. Le procureur municipal de San Francisco, David Chiu, a mis en demeure les deux contrôleurs d’accès de retirer 13 applications capables de produire des images à caractère sexuel truquées et sans consentement (huit sur l’App Store, cinq sur le Play Store).
« La création d’images intimes sans le consentement des personnes concernées est illégale, préjudiciable et totalement inacceptable », dénonce le procureur auprès de Wired. Son bureau a déjà engagé des poursuites contre 16 sites capables de générer ces deepfakes. Il s’attaque maintenant à Apple et à Google, qui ont « engrangé des millions de dollars de commissions » grâce à ces apps « nudify ».

Des applications qui passent manifestement sans trop de problème l’étape de l’examen des boutiques. Apple vante l’App Store comme « un espace sûr et fiable pour découvrir et se procurer des apps » et met régulièrement en avant les efforts consacrés à la lutte contre la fraude ou la violence. Le discours est similaire du côté de Google. Les règles des deux entreprises à destination des développeurs sont d’ailleurs très claires : pas de pornographie, pas d’abus, pas de harcèlement.
C’est à croire que les applications de déshabillage sans consentement ne font pas partie de ces usages. Une étude du Tech Transparent Project (TTP) publiée en avril démontrait le nombre ahurissant de ces apps dans les boutiques d’Apple et de Google, qui se présentent souvent sous la forme d’outils d’échange de visages. Cette ambiguïté leur permettent manifestement de passer entre les mailles du filet.
Apple et Google se contentent donc de réagir rétroactivement, en retirant les applications qui leur sont signalées par ce genre d’enquêtes. C’est d’ailleurs ce qu’a fait le moteur de recherche, en supprimant les cinq apps repérées par le procureur de San Francisco. La législation californienne sanctionne les entreprises qui facilitent sciemment le fonctionnement de services de création de deepfakes pornographiques.
Malgré la prolifération de ces apps, Google continue d’affirmer « prendre des mesures proactives pour détecter et supprimer celles qui proposent des contenus préjudiciables ». L’entreprise poursuit : « Lorsque des infractions nous sont signalées, nous enquêtons et intervenons rapidement. Dans le cas de ces applications, cela s’est notamment traduit par la suspension de centaines d’entre elles et par la restriction, sur notre boutique, de termes de recherche associés comme “nudify”. » Apple n’a pas voulu commenter.
David Chiu ne se contente pas d’exiger le retrait de ces applications. Il demande aussi aux deux entreprises de rompre leurs relations commerciales avec les éditeurs des apps en question et surtout, de renforcer leurs procédures de contrôle et de modération. Leur inefficacité persistante depuis des années est un sérieux couac dans la communication bien huilée autour des boutiques, passage obligé pour les possesseurs d’iPhone et de smartphones Android.
Commentaires (4)
Abonnez-vous pour prendre part au débat
Déjà abonné ou lecteur ? Se connecter
Cet article est en accès libre, mais il est le produit d'une rédaction qui ne travaille que pour ses lecteurs, sur un média sans pub et sans tracker. Soutenez le journalisme tech de qualité en vous abonnant.
Accédez en illimité aux articles d'un média expert
Profitez d'au moins 1 To de stockage pour vos sauvegardes
Intégrez la communauté et prenez part aux débats
Partagez des articles premium à vos contacts
Abonnez-vousHier à 09h24
Hier à 10h01
Le sujet de cet article permet aussi de mettre en lumière les difficultés de Google, qui à la fois se voit confronté à une vive opposition sur cette histoire de blocage des APK, mais aussi d'un autre coté est tenu de lutter contre les applications sus-mentionnées dans l'article... Pas simple.
Mais pour moi perdu d'avance.
Google pourra jamais bloquer tous les téléphones des gens, ne serait-ce que parce qu'actuellement il y a des ROMS alternatives, des App pour installer d'autres app (Aurora, F-Droid)...
Au pire il sera toujours possible de créer l'APK et de l'installer sur un "vieux" téléphone.
Autre chose, on parle ici d'appli mobile, mais les PC existent toujours ! Rien n’empêche de créer un programme sur PC pour faire les mêmes modifications d'image, non ? Que ce soit en ligne ou hors ligne...
La très très grande majorité des gens installeront jamais ce genre d'app 'dénudeuse" donc ceux qui le font le feront quand même, même si c'est un brin plus compliqué. Ou alors c'est qu'ils misent sur la bêtise des gens ?
Hier à 11h17
Si quelqu'un considère qu'une photo d'une personne nue est de la pornographie, il a de sérieux problèmes.
Si c'est le seul critère juridique, c'est de l'abus de pouvoir. (Je n'ai pas accès à l'article de Wired, donc je n'ai pas plus de détails que ceux qu'indiqués ici).
Hier à 22h29
Par ailleurs, pornographie au sens strict ou pas, ça n'empêche pas de constater que ces applis sont très dommageables pour leurs victimes et qu'il faut agir (le plus simple étant, comme ce qui est fait ici, de couper le canal de distribution à la source).
Signaler un commentaire
Voulez-vous vraiment signaler ce commentaire ?