En octobre, aux États-Unis, une trentaine d’étudiantes d’un lycée du New Jersey ont découvert être les cibles de deepfakes pornographiques. Les auteurs ? Des garçons de leur établissement.
En réaction, la jeune Francesca Mani a décidé de s’adresser à ses représentants politiques pour freiner la propagation d'un phénomène déjà relativement courant.
Auprès de la Technology Review, elle est revenue début décembre sur son engagement, la création du site web AI Heeelp !, qu’elle a construit pour aider à diffuser de l’information et des outils pour lutter contre le phénomène, et les discussions qu’elle a eues avec plusieurs sénateurs américains.
Deux d’entre eux ont déposé une proposition de loi pour créer des peines civiles et pénales pour la création et le partage de deepfakes pornographiques non consentis.
En France, le projet de loi pour sécuriser et réguler le numérique contient des mesures ciblant, elles aussi, la création de deepfakes non consentis, et en particulier de deepfakes pornographiques.
Commentaires (41)
#1
On a une fâcheuse propension à un problème = une loi. Je serai assez intéressé par un article de fond expliquant les limites actuelles du droit, et une analyse un peu plus poussée de ce qu’il faudrait « patcher » pour rendre la vie des victimes plus simple, tout en ne ciblant pas explicitement une seule pratique (avec une loi qui sera vite rendue dépassée par la prochaine évolution).
#1.1
#1.2
Là c'est un montage avec souvent la tête de la personne.
Par contre, comme le dit @white_tentacle , y'a des textes sur la dignité, la diffamation, etc .. qui peuvent être utilisés.
#1.4
#1.5
#1.3
La justice peut éventuellement poursuivre un individu avec un motif préexistant (ex: la célèbre arrestation d'Al Capone pour fraude fiscale), mais la plupart du temps, il manque un détail qui empêche la démonstration de l'infraction.
#1.6
En France, le problème serait plutôt qu’ils seront jugés quand ils auront 30 ans. Et une nouvelle loi n’y changera pas grand chose (mais ça donne l’illusion qu’on se préoccupe du problème)
#1.7
Par exemple, le viol a longtemps été seulement un délit en France. Le fait d'en faire un crime a marqué une avancée sociale même si la plupart des viols restent impunis ou condamnés comme simples délits d'agressions sexuelles.
#2
#3
Greta fait des emules, je vois...
#3.1
Il existe des adolescents bien plus matures que certains pseudo adultes qui ne le sont que par l'age.
#3.2
https://www.goodmorningamerica.com/family/story/teen-mother-speak-after-alleged-ai-generated-photos-104653622
A part ça je trouve le terme activiste pas raccord avec ses actions.
#3.5
#3.21
#3.3
#3.4
#3.6
Ici on a une gamine que tout le monde considère comme telle dès qu'il s'agit de sexe, de travail, de vote, de responsabilités, d'argent, etc. Bref un petit truc fragile qu'il faut protéger.
Mais "l'activisme" ca devient ok et il faudrait d'un coup la considérer comme autre chose que ce qu'elle est, à savoir une gamine avec par définition peu d'expérience et pas de nuance (ce pourquoi on la protège, cf. plus haut).
La cohérence habituelle, quoi
Bref...
Ici on a une mère qui se sert de sa fille comme porte etendard pour generer de l'affect. Rien de plus. Et que la cause soit louable ou pas (et ici, elle l'est) n'y change rien.
#3.20
La brindille, la poutre et l'oeil
Comment peux tu prétendre pouvoir faire un profil psychologique, qui colle à la réalité, avec ce qui est dit ici ? T'adores jouer au père la morale, la vache ...
#3.7
Vivement le retour des filtres
#3.8
Vivement surtout l'application de la modération promise avec Next.
Cette semaine j'ai observé plusieurs propos méprisants, limite insultants, et faute de possibilité signalement (pour peu que cela ait une utilité) aucune modération derrière. C'est triste car ces derniers temps je trouvais que ça s'était calmé. Ou alors peut être que c'est moi qui ai des critères trop élevés lorsque j'estime que s'adresser à quelqu'un en considérant de base que c'est un abruti juste à cause d'un avis divergent n'est pas une forme de respect.
C'est vraiment triste.
#3.9
Mais je te trouve optimiste sur la modération, voire même assez naïf, honnêtement.
Ou plutôt, si : perso je pense qu'ils vont renforcer la modération sur ceux qui auront l'outrecuidance de repondre avec un minimum de véhémence ou de sarcasme au genre de propos que tu pointes très justement, mais que les auteurs desdits propos ne seront pas plus inquiétés demain qu'ils l'etaient hier...
Ce ne serait triste que si ca n'etait pas hautement probable, et donc prévisible
#3.13
#3.14
J'aimerais l'etre, plutôt que désabusé...
#3.10
#3.11
Gamine N'EST PAS une insulte, et un mineur c'est un gamin, d'autant plus à 14 ans. Elle aurait eu 17 ans, le propos aurait été différent.
Et note que l'ami Carbier m'est tombé dessus AVANT que j'emploie le terme, donc argument caduc.
Sur Greya : parler des medias comme attaque par association n'est pas serieux, ca ne trompe personne, et je ne suis pas responsable des propos des autres.
Et malade, elle l'est : Asperger.
#3.15
Gamine est un terme dévalorisant dans le contexte. Tu prétends par ailleurs qu'elle serait manipulée par sa mère. Francesca Mani se défend face à des deepfake et on a tous compris que ça ne te plait pas. Pas la peine de faire le naïf qui ne comprend pas ce qu'on lui reproche. Tu as le droit de penser qu'à 15 ans, on devrait rester chez papa-maman au lieu de militer dans des associations contre les violences en ligne (si tant est que tu considères que les violences en ligne existent, je ne veux pas parler pour toi).
J'ai déjà eu des discussions avec carbier, je connais ses réactions. Je n'ai aucune raison de prendre partie, si jamais il faut le préciser.
#3.17
Moi ce que je comprends c'est que tu lis les choses selectivement et que tu attaques les gens gratuitement en leur pretant des idées qu'ils n'ont pas, sous couvert de progressisme, comme souvent.
Alors :
1. Le titre de la news c'est "une activiste de 15 ans blabla". Donc on insiste sur son activisme, mais aussi sur son age.
2. Depuis le debut, je ne parle que de son age, que je juge incompatible avec de l'activisme serieux.
3. La seule fois où j'ai parlé de la cause, j'ai ecrit (post 3.6) : "Et que la cause soit louable ou pas (et ici, elle l'est)". Donc, la cause est louable. Sous entendu, dire que la cause me deplait est factuellement faux.
Donc je suis surpris que qqun qui comprend beaucoup de choses ne comprenne pas une phrase affirmative directe.
Alors pour affiner ta "compréhension", je resume : oui, le deepfake porn c'est mal, et je soutiens ceux qui luttent contre (comme je l'ai ecrit).
Mais non, legitimer l'activisme (quel qu'il soit) d'une gamine de 15 ans, ca ne me plait pas.
#3.18
#3.19
Hint : je le suis aussi (Asperger) et j'en ai côtoyé des dizaines, littéralement.
Edit : et c'est justement ce qui fait que contrairement au commun, c'est plus facile pour moi de dissocier l'affect et le rationnel. Je vois toujours bien les deux aspects, j'en comprends leur importance respective ; mais je sais les dissocier. Et je sais que justement, pour les cas serieux, c'est quasi toujours plus efficace de les dissocier.
#3.12
#3.16
#3.22
#3.23
Tu parlais de modération effectivement, donc je citais les éléments de langage du commentaire initial à cette discussion dans laquelle tu intervenais. Visiblement, ce n'est pas ton sujet. On en reste là. En tout, cas, moi, j'en reste là quelque soit ce que tu en penses (perso, je n'y vois aucune offense et je pense qu'il vaut mieux en rester là et ne pas en faire une affaire d'État).
#3.24
Clair que ce commentaire initial ne prenait absolument pas de haut les propos d'une personne à cause de son age (voir de son genre). Dont acte.
Je vais donc te répondre
1- Le commentaire initial n'était absolument pas destiné à ouvrir le débat.
2- J'ai répondu à ce commentaire avec le même ton mais sans insulter le commentateur: j'ai simplement renversé le message en utilisant le même ton qu'il a utilisé mais contre lui même.
3- Je n'ai jamais souhaité ouvrir un débat: j'ai suffisamment d'expérience en la matière pour savoir qu'il est inutile d'essayer de faire changer d'avis des personnes qui ont ce genre de positions.
Discréditer l'avis d'une personne sous prétexte qu'elle est jeune alors que les 1er touchés par les deepfakes sont justement les ados et les jeunes adultes c'est un concept.
En fait vous me faites penser à cette émission de CNews où il y avait 6 hommes et aucune femme pour discuter de la ménopause. Moyenne d'age de ces messieurs: autour de 60 ans.
Car il est bien connu que seul l'expérience d'un homme permet de discuter d'un sujet.
Pour conclure, j'en reviens à mon 1er commentaire.
Certains ados sont plus matures que pas mal d'adultes car ils ont ce qui ne s'apprend pas avec de l'"expérience" : de l'empathie et du courage.
#3.25
Juste pour te donner un contrepoint. Insulter ≠ injurier. Ton propos n’était pas vulgaire, mais peut assez facilement être compris par « tu es un pseudo-adulte qui ne sert à rien [dans le cas présent] ». Formulé comme ça, l’insulte est tout de suite un peu plus claire. On a tous nos biais de lecture, je trouve raisonnable de penser que l’auteur du propos initial a pu se sentir insulté par ton message. Faut-il le censurer pour autant ? Certainement pas de mon point de vue. Pourrait-on en revanche le reformuler pour être moins susceptible d’être pris pour une insulte ? Ça j’en suis convaincu. C’est d’ailleurs ce que tu as fini par faire.
Il fut un temps ou insulter en faisant de belles phrases était un sport national très en vogue à Versailles. On aurait pu croire qu’on avait dépassé cette période, mais finalement, il semblerait que pas tant que ça...
#3.26
1. Tu avais parfaitement le droit de l'ignorer, voire de le signaler à la modération si cela était possible dans cette version de Next. Et pour le coup, je l'aurais signalé car pour moi il était provocateur.
Ce qui fait que le 2 et 3 n'ont plus d'intérêt.
Sauf un point que je trouve discutable sur le 3 : un débat n'a pas pour vocation à faire changer d'avis son interlocuteur. On a le droit d'être en désaccord sur des idées tout en les exprimant et confrontant. Si par contre la finalité de l'échange reste de convaincre, dans ce cas je comprends mieux la volonté de sauter à la gorge à chaque désaccord. Et perso je ne partage pas cette vision d'une discussion.
Dernière chose :
En quoi mes propos permettent-ils d'arriver à cette conclusion ? Car le "vous" signifie que tu m'englobes dans le sac.
A quel moment ai-je émis un avis sur ce sujet précis ? En quoi cela fait-il que je mérite d'être catégorisé ainsi ?
En espérant avoir une réponse sur ce point. Surtout après déjà du faire modérer auparavant un propos que tu m'avais tenu insinuant que j'étais misogyne et que j'ai signalé pour diffamation.
#3.27
En fait tout est dit ici.
D'une, j'aimerais une source qui me confirme que les ados sont les 1eres victimes : j'en doute. Fortement. Meme si je ne doute pas que ca prenne de l'ampleur chez les ados
Et de 2, le plus important, tu fais exactement ce que je reproche : tu mets dans le meme sac les ados et les jeunes adultes. La contradiction est dans la phrase meme : un ado c'est un MINEUR, un jeune adulte, c'est par définition un ADULTE.
Si on fait la distinction il y a des raisons. Si on pousse ton raisonnement, il faudrait donner la liberté de vote, la liberté sexuelle totale, etc. Et supprimer l'excuse penale de minorité. Ne sont-ils pas parfois "plus matures" que certains adultes ?
Cette tendance moderne à effacer les limites de la minorité me derange fortement : laissez les gamins rester des gamins.
#3.28
Pour le reste tu essaies de te raccrocher aux branches en généralisant. Et finalement, sans même t'en rendre compte, tu montres pas l'exemple ce que je dis
CERTAINS ados sont plus matures que CERTAINS adultes.
Ne pas écouter les propos d'un ado à cause de son age est aussi stupide que de croire que les propos d'une personne agée sont la vérité de par son age.
https://www.youtube.com/watch?v=zMALuEYxK6U
(Ce n'est pas le titre qui est important mais le contenu)
#3.29
A d'autres, si tu veux bien.
L'exception c'est souvent le cheval de Troie de la generalisation abusive. "Certains" deviendront "beaucoup", puis "la plupart", et enfin "tous".
Edit : donc je vais (re)suivre ta logique : es-tu OK pour que "certains" mineurs de 14 ans soient jugés comme des adultes, puissent voter, puissent se marier, puissent travailler, puissent coucher avec des adultes, etc. s'ils le souhaitent, parce que tu les juges matures ?
Tu n'as pas repondu là dessus au post précédent, reponds-y sur celui ci je te prie. Parce que la question de fond, c'est celle-ci, en vrai.
#3.30
Tu as un réel problème.
Quant au travail, je te rappelle qu'à cet age la, dans la plupart des cas on s'instruit pour préparer son avenir.
Sinon, il est possible de travailler dès 14 ans en France (pendant les vacances scolaires).
PS: Certains ne deviendront pas beaucoup car encore une fois la maturité ne s'apprend pas et elle est rare chez les ados. Mais elle existe chez certains d'entre eux.
PS2: Quant aux parents qui soutiennent leurs enfants, je te rassure cela arrive même à l'age adulte. Et encore heureux.
Meme Trump ne serait pas grand chose sans son papounet...
https://fr.wikipedia.org/wiki/Fred_Trump
#3.31
Alors :
1. Personne et surtout pas moi ne dit qu'il faut coucher pour être mature, c'est l'inverse : il faut être mature pour coucher. Tu sais, la puberté, période où s'opère la maturité sexuelle mais surtout, la maturité affective et relationnelle qu'il faut pour ce genre de choses (qui prend du temps et de l'expérience).
2. Il est possible de travailler à 14 ans seulement pendant la moitié des vacances scolaires de plus de 14 jours, petite nuance, et encore avec accord de l'inspection du travail. Je le sais pour avoir travaillé toutes mes vacances depuis mes 14 ans, venant de famille extrêmement pauvre. Mais moi je te parlais de vraiment travailler, i.e. plus longtemps. Ce que moi j'aurais aimé faire à mes 14 ans en plus de mes cours pour aider ma famille, mais dont je n'avais heureusement (aujourd'hui je le sais) pas le droit.
3. "la maturité ne s'apprend pas" : celle là c'est la meilleure de l'année. Évidemment qu'elle s'apprend, ça vient avec l'expérience (et donc : du temps). Ce qui ne veut pas dire que tout le monde va l’acquérir de facto avec du temps et de l'expérience, mais encore une fois c'est la logique inverse : personne ne va l'acquerir sans temps ni sans expérience, grosse nuance. C'est même inscrit dans le mot "maturité" : ca implique un processus progressif d'immature vers mature.
Bref, encore une fois tu ne réponds pas : quid du vote, quid de l'excuse de minorité qui saute, quid du mariage, quid de tout ce qui en fait aujourd'hui est interdit aux mineurs ou qui est fortement reglementé ? J'aurais pu ajouter fumer, acheter de l'alcool, conduire, etc.
Tes pirouettes qui se focalisent juste sur l'aspect sexuel (et encore, en inversant la logique) et en citant Trump pour faire du deshonneur par association, ca ne marche pas sur les gens qui reflechissent.
Réponds à la question, clairement et sans pirouette : es-tu OK à ce que les ados que tu juges matures puissent avoir exactement les mêmes droits (et donc les mêmes devoirs) et la même crédibilité qu'un adulte ?
Moi non, et il y a des choses dont il faut protéger les ados, parce qu'ils n'ont pas d'expérience ; le corrolaire de ceci étant que leur manque d'expérience les rend peu crédibles (j'ai bien dit "peu crédibles", et pas "pas crédibles") sur des sujets précis, surtout sociétaux, le meilleur exemple étant le vote.
La règle c'est la règle : que la maturité existe chez certains ados (et encore, reste à prouver que chez ceux là la maturité soit suffisante, et de ça je doute fort, à 14 ans) ne les dédouane pas du traitement qu'on doit réserver à tous les mineurs, autrement ca crée des précédents (ce que j'appelle des chevaux de Troie plus haut) qui ne mèneront qu'à la destruction du statut de mineur et donc de la protection qui va avec, et encore une fois tout ca sous couvert de "progressisme" et de fausse ouverture d'esprit.