Connexion
Abonnez-vous

Francesca Mani, l’activiste de 15 ans qui lutte contre les deepfakes pornographiques

Francesca Mani, l’activiste de 15 ans qui lutte contre les deepfakes pornographiques

Le 28 décembre 2023 à 08h17

En octobre, aux États-Unis, une trentaine d’étudiantes d’un lycée du New Jersey ont découvert être les cibles de deepfakes pornographiques. Les auteurs ? Des garçons de leur établissement.

En réaction, la jeune Francesca Mani a décidé de s’adresser à ses représentants politiques pour freiner la propagation d'un phénomène déjà relativement courant.

Auprès de la Technology Review, elle est revenue début décembre sur son engagement, la création du site web AI Heeelp !, qu’elle a construit pour aider à diffuser de l’information et des outils pour lutter contre le phénomène, et les discussions qu’elle a eues avec plusieurs sénateurs américains.

Deux d’entre eux ont déposé une proposition de loi pour créer des peines civiles et pénales pour la création et le partage de deepfakes pornographiques non consentis.

En France, le projet de loi pour sécuriser et réguler le numérique contient des mesures ciblant, elles aussi, la création de deepfakes non consentis, et en particulier de deepfakes pornographiques.

Le 28 décembre 2023 à 08h17

Commentaires (41)

Vous devez être abonné pour pouvoir commenter.

Abonnez-vous
votre avatar
Question stupide, mais pourquoi des textes spécifiques sont-ils nécessaires ? N’a-t-on pas, dans notre arsenal législatif déjà bien chargé, des dispositions générales qui peuvent être utilisées en l’état (je pense à des trucs plus généraux comme des atteintes à la dignité d’autrui, etc.).

On a une fâcheuse propension à un problème = une loi. Je serai assez intéressé par un article de fond expliquant les limites actuelles du droit, et une analyse un peu plus poussée de ce qu’il faudrait « patcher » pour rendre la vie des victimes plus simple, tout en ne ciblant pas explicitement une seule pratique (avec une loi qui sera vite rendue dépassée par la prochaine évolution).
votre avatar
Oui, je ne comprend pas trop la nécessité d'un texte spécifique. C'est similaire à des photos/vidéo intimes, donc la même loi devrait pouvoir être appliquée
votre avatar
bah c'est pas vraiment le même sujet que les vidéos intimes diffusées sur le net.
Là c'est un montage avec souvent la tête de la personne.

Par contre, comme le dit @white_tentacle , y'a des textes sur la dignité, la diffamation, etc .. qui peuvent être utilisés.
votre avatar
Le deepfake n'est pas seulement une atteinte au droit à l'image ou une diffamation ou une calomnie. Le deepfake est une manipulation qui peut avoir différents objectifs : humiliation, caricature, pornographie, intimidation, tromperie, arnaque, etc.
votre avatar
Ca se passe aux Etats-Unis, peut-être que leurs lois sont différentes des nôtres.
votre avatar
C'est surtout un enjeu sociétal. Quand ça doit passer par la case Justice, c'est une galère sans nom. Dans le droit pénal, chaque infraction est caractérisée avec des éléments constitutifs et des peines prévues pour chaque infraction.

La justice peut éventuellement poursuivre un individu avec un motif préexistant (ex: la célèbre arrestation d'Al Capone pour fraude fiscale), mais la plupart du temps, il manque un détail qui empêche la démonstration de l'infraction.
votre avatar
Ici les coupables sont clairement identifiés d’après l’article. Alors qu’est-ce qu’il manque ? De l’éducation et de la prévention, ça c’est clair (à 15-20 ans, on est con, donc on fait des conneries sans réaliser ce qu’on fait). Mais est-on en train de dire qu’on ne peut pas condamner ces gamins (à la mesure de leur acte, et du fait que ce sont des gamins, ce qui est le boulot du juge) parce qu’il n’y a aucune loi qui s’applique ? Si c’est vraiment le cas, c’est que le droit américain est sacrément mal foutu…

En France, le problème serait plutôt qu’ils seront jugés quand ils auront 30 ans. Et une nouvelle loi n’y changera pas grand chose (mais ça donne l’illusion qu’on se préoccupe du problème)
votre avatar
Je ne sais pas s'il faut une nouvelle législation. Je sais en revanche qu'il faut que la société s'adapte à ces nouveaux usages et peut-être que ça passe entre autre par une interdiction formelle, dans la loi pénale, de quelques usages précis de l'IA.

Par exemple, le viol a longtemps été seulement un délit en France. Le fait d'en faire un crime a marqué une avancée sociale même si la plupart des viols restent impunis ou condamnés comme simples délits d'agressions sexuelles.
votre avatar
Il n'y a pas que la pornographie qui pose soucis. De simples "deepfake" de nus sans activité sexuelle sont hors du champ de la pornographie. Nonconsentis peuvent avoir des effets terribles sur les victimes.
votre avatar
Une "activiste" de 15 ans... :reflechis:
Greta fait des emules, je vois...
votre avatar
Elle s'est simplement rendue compte que si elle devait attendre l'appui de personnes telles que toi, elle pourrait attendre longtemps.

Il existe des adolescents bien plus matures que certains pseudo adultes qui ne le sont que par l'age.
votre avatar
Aidée de sa mère ... donc pas seule.
https://www.goodmorningamerica.com/family/story/teen-mother-speak-after-alleged-ai-generated-photos-104653622

A part ça je trouve le terme activiste pas raccord avec ses actions.
votre avatar
Ça change du self made man qui est un mythe (même si être l'unique propriétaire d'une multinationale en moins de 10 ans fait probablement gonfler l'égo).
votre avatar
Mais ké gauchiste celui-là 🤣🤣😉
votre avatar
Tu crois vraiment qu'un Européen pouvait aider sur ce sujet aux USA ou bien, c'est juste pour le pointer du doigt ?
votre avatar
Les personnes telles que lui peuvent parfaitement être américaines. Ce type de commentaire associé aux préjugés qui vont bien ne sont pas l'apanage de personnes issues d'une certaine nationalité, mais d'une mentalité qui est présente aux 4 coins du monde.
votre avatar
Les personnes "telles que moi"... T'en sais quoi derriere ton ecran ?
Ici on a une gamine que tout le monde considère comme telle dès qu'il s'agit de sexe, de travail, de vote, de responsabilités, d'argent, etc. Bref un petit truc fragile qu'il faut protéger.
Mais "l'activisme" ca devient ok et il faudrait d'un coup la considérer comme autre chose que ce qu'elle est, à savoir une gamine avec par définition peu d'expérience et pas de nuance (ce pourquoi on la protège, cf. plus haut).
La cohérence habituelle, quoi

Bref...

Ici on a une mère qui se sert de sa fille comme porte etendard pour generer de l'affect. Rien de plus. Et que la cause soit louable ou pas (et ici, elle l'est) n'y change rien.
votre avatar
"Les personnes telles que lui" ... "préjugés"
La brindille, la poutre et l'oeil

Comment peux tu prétendre pouvoir faire un profil psychologique, qui colle à la réalité, avec ce qui est dit ici ? T'adores jouer au père la morale, la vache ...
votre avatar
Devine. Je pourrais dire que le ciel est bleu qu'il viendrait quand meme chouiner sur "les personnes telles que moi".
Vivement le retour des filtres
votre avatar
Vivement le retour des filtres
Vivement surtout l'application de la modération promise avec Next.

Cette semaine j'ai observé plusieurs propos méprisants, limite insultants, et faute de possibilité signalement (pour peu que cela ait une utilité) aucune modération derrière. C'est triste car ces derniers temps je trouvais que ça s'était calmé. Ou alors peut être que c'est moi qui ai des critères trop élevés lorsque j'estime que s'adresser à quelqu'un en considérant de base que c'est un abruti juste à cause d'un avis divergent n'est pas une forme de respect.

C'est vraiment triste.
votre avatar
Tes critères sont bons.
Mais je te trouve optimiste sur la modération, voire même assez naïf, honnêtement.
Ou plutôt, si : perso je pense qu'ils vont renforcer la modération sur ceux qui auront l'outrecuidance de repondre avec un minimum de véhémence ou de sarcasme au genre de propos que tu pointes très justement, mais que les auteurs desdits propos ne seront pas plus inquiétés demain qu'ils l'etaient hier...

Ce ne serait triste que si ca n'etait pas hautement probable, et donc prévisible
votre avatar
J'aime bien être naïf, ça permet d'observer les choses sous un angle assez intéressant et ouvert.
votre avatar
Juste. Mais pour moi naïf, ce n'est pas pejoratif.
J'aimerais l'etre, plutôt que désabusé... :pleure:
votre avatar
C'est triste pour celui ou celle qui ne comprend pas que chaque personne est différente. Je cite : gamine, petit truc fragile. L'article traite d'un sujet réel et sérieux. J'aimerais comprendre ce qui laisse penser qu'une fille de 15 ans n'aurait pas à se défendre publiquement sans se faire qualifier comme tel ? Pareil pour Greta Thunberg (également citée plus haut) qui s'est fait savamment injurier dans les médias de folle, malade, hystérique, manipulée par ses parents, etc.
votre avatar
Bon, alors.
Gamine N'EST PAS une insulte, et un mineur c'est un gamin, d'autant plus à 14 ans. Elle aurait eu 17 ans, le propos aurait été différent.
Et note que l'ami Carbier m'est tombé dessus AVANT que j'emploie le terme, donc argument caduc.

Sur Greya : parler des medias comme attaque par association n'est pas serieux, ca ne trompe personne, et je ne suis pas responsable des propos des autres.
Et malade, elle l'est : Asperger.
votre avatar
Tu as cité le cas Greta Thunberg et la comparaison avait son utilité, ne te fais pas innocent après coup.

Gamine est un terme dévalorisant dans le contexte. Tu prétends par ailleurs qu'elle serait manipulée par sa mère. Francesca Mani se défend face à des deepfake et on a tous compris que ça ne te plait pas. Pas la peine de faire le naïf qui ne comprend pas ce qu'on lui reproche. Tu as le droit de penser qu'à 15 ans, on devrait rester chez papa-maman au lieu de militer dans des associations contre les violences en ligne (si tant est que tu considères que les violences en ligne existent, je ne veux pas parler pour toi).

J'ai déjà eu des discussions avec carbier, je connais ses réactions. Je n'ai aucune raison de prendre partie, si jamais il faut le préciser.
votre avatar
Francesca Mani se défend face à des deepfake et on a tous compris que ça ne te plait pas.
Moi ce que je comprends c'est que tu lis les choses selectivement et que tu attaques les gens gratuitement en leur pretant des idées qu'ils n'ont pas, sous couvert de progressisme, comme souvent.

Alors :
1. Le titre de la news c'est "une activiste de 15 ans blabla". Donc on insiste sur son activisme, mais aussi sur son age.
2. Depuis le debut, je ne parle que de son age, que je juge incompatible avec de l'activisme serieux.
3. La seule fois où j'ai parlé de la cause, j'ai ecrit (post 3.6) : "Et que la cause soit louable ou pas (et ici, elle l'est)". Donc, la cause est louable. Sous entendu, dire que la cause me deplait est factuellement faux.
Donc je suis surpris que qqun qui comprend beaucoup de choses ne comprenne pas une phrase affirmative directe.

Alors pour affiner ta "compréhension", je resume : oui, le deepfake porn c'est mal, et je soutiens ceux qui luttent contre (comme je l'ai ecrit).
Mais non, legitimer l'activisme (quel qu'il soit) d'une gamine de 15 ans, ca ne me plait pas.
votre avatar
Asperger, ce n'est pas une maladie. Soyons précis jusqu'au bout.
votre avatar
C'est une forme d'autisme. Donc une maladie.

Hint : je le suis aussi (Asperger) et j'en ai côtoyé des dizaines, littéralement.

Edit : et c'est justement ce qui fait que contrairement au commun, c'est plus facile pour moi de dissocier l'affect et le rationnel. Je vois toujours bien les deux aspects, j'en comprends leur importance respective ; mais je sais les dissocier. Et je sais que justement, pour les cas serieux, c'est quasi toujours plus efficace de les dissocier.
votre avatar
Je ne vois pas le rapport avec mon propos sur la modération absente de Next.
votre avatar
Décidément, personne ne comprend le point de vue des autres dans cette discussion. Ce n'est pas bien grave : c'est difficile de se comprendre à l'écrit – il y a les mêmes soucis sur tous les sites de presse qui ont une zone commentaires avec les articles. J'en viens à penser que la modération de Next quelle qu'elle soit, n'y changera rien.
votre avatar
C'est dommage comme réponse car elle me conforte dans le ressenti que j'ai vis à vis du comportement de personnes intervenant ici qui préfèrent prendre de haut leurs interlocuteurs que de chercher à dialoguer de manière cordiale. Une réponse qui aurait pu contredire ce sentiment aurait été d'expliquer la relation que je n'ai potentiellement pas saisie.
votre avatar
Je m'explique en commentaires si j'en ressens l'intérêt dans la discussion et aussi si j'en ai le temps. Ca ne se voit pas mais je ne réponds qu'à une part infime de commentaires que j'ai pu lire (je lis une partie des commentaires).

Tu parlais de modération effectivement, donc je citais les éléments de langage du commentaire initial à cette discussion dans laquelle tu intervenais. Visiblement, ce n'est pas ton sujet. On en reste là. En tout, cas, moi, j'en reste là quelque soit ce que tu en penses (perso, je n'y vois aucune offense et je pense qu'il vaut mieux en rester là et ne pas en faire une affaire d'État).
votre avatar
Donc si je comprends ton raisonnement mon 1er commentaire aurait du être modéré car il prenait de "haut" celui qui a écrit
Une "activiste" de 15 ans... :reflechis:
Greta fait des emules, je vois...
Clair que ce commentaire initial ne prenait absolument pas de haut les propos d'une personne à cause de son age (voir de son genre). Dont acte.

Je vais donc te répondre

1- Le commentaire initial n'était absolument pas destiné à ouvrir le débat.

2- J'ai répondu à ce commentaire avec le même ton mais sans insulter le commentateur: j'ai simplement renversé le message en utilisant le même ton qu'il a utilisé mais contre lui même.

3- Je n'ai jamais souhaité ouvrir un débat: j'ai suffisamment d'expérience en la matière pour savoir qu'il est inutile d'essayer de faire changer d'avis des personnes qui ont ce genre de positions.

Discréditer l'avis d'une personne sous prétexte qu'elle est jeune alors que les 1er touchés par les deepfakes sont justement les ados et les jeunes adultes c'est un concept.
En fait vous me faites penser à cette émission de CNews où il y avait 6 hommes et aucune femme pour discuter de la ménopause. Moyenne d'age de ces messieurs: autour de 60 ans.
Car il est bien connu que seul l'expérience d'un homme permet de discuter d'un sujet. :reflechis:

Pour conclure, j'en reviens à mon 1er commentaire.
Certains ados sont plus matures que pas mal d'adultes car ils ont ce qui ne s'apprend pas avec de l'"expérience" : de l'empathie et du courage.
votre avatar
2- J'ai répondu à ce commentaire avec le même ton mais sans insulter le commentateur
Juste pour te donner un contrepoint. Insulter ≠ injurier. Ton propos n’était pas vulgaire, mais peut assez facilement être compris par « tu es un pseudo-adulte qui ne sert à rien [dans le cas présent] ». Formulé comme ça, l’insulte est tout de suite un peu plus claire. On a tous nos biais de lecture, je trouve raisonnable de penser que l’auteur du propos initial a pu se sentir insulté par ton message. Faut-il le censurer pour autant ? Certainement pas de mon point de vue. Pourrait-on en revanche le reformuler pour être moins susceptible d’être pris pour une insulte ? Ça j’en suis convaincu. C’est d’ailleurs ce que tu as fini par faire.

Il fut un temps ou insulter en faisant de belles phrases était un sport national très en vogue à Versailles. On aurait pu croire qu’on avait dépassé cette période, mais finalement, il semblerait que pas tant que ça...
votre avatar
Faisons simple, car visiblement la norme est bien de sauter à la gorge de toute personne avec qui on est en désaccord.

1. Tu avais parfaitement le droit de l'ignorer, voire de le signaler à la modération si cela était possible dans cette version de Next. Et pour le coup, je l'aurais signalé car pour moi il était provocateur.

Ce qui fait que le 2 et 3 n'ont plus d'intérêt.

Sauf un point que je trouve discutable sur le 3 : un débat n'a pas pour vocation à faire changer d'avis son interlocuteur. On a le droit d'être en désaccord sur des idées tout en les exprimant et confrontant. Si par contre la finalité de l'échange reste de convaincre, dans ce cas je comprends mieux la volonté de sauter à la gorge à chaque désaccord. Et perso je ne partage pas cette vision d'une discussion.

Dernière chose :
En fait vous me faites penser à cette émission de CNews où il y avait 6 hommes et aucune femme pour discuter de la ménopause. Moyenne d'age de ces messieurs: autour de 60 ans.
En quoi mes propos permettent-ils d'arriver à cette conclusion ? Car le "vous" signifie que tu m'englobes dans le sac.

A quel moment ai-je émis un avis sur ce sujet précis ? En quoi cela fait-il que je mérite d'être catégorisé ainsi ?

En espérant avoir une réponse sur ce point. Surtout après déjà du faire modérer auparavant un propos que tu m'avais tenu insinuant que j'étais misogyne et que j'ai signalé pour diffamation.
votre avatar
Discréditer l'avis d'une personne sous prétexte qu'elle est jeune alors que les 1er touchés par les deepfakes sont justement les ados et les jeunes adultes
En fait tout est dit ici.
D'une, j'aimerais une source qui me confirme que les ados sont les 1eres victimes : j'en doute. Fortement. Meme si je ne doute pas que ca prenne de l'ampleur chez les ados
Et de 2, le plus important, tu fais exactement ce que je reproche : tu mets dans le meme sac les ados et les jeunes adultes. La contradiction est dans la phrase meme : un ado c'est un MINEUR, un jeune adulte, c'est par définition un ADULTE.
Si on fait la distinction il y a des raisons. Si on pousse ton raisonnement, il faudrait donner la liberté de vote, la liberté sexuelle totale, etc. Et supprimer l'excuse penale de minorité. Ne sont-ils pas parfois "plus matures" que certains adultes ?

Cette tendance moderne à effacer les limites de la minorité me derange fortement : laissez les gamins rester des gamins.
votre avatar
Tu me fais rire: assumes un peu tes propos pour changer.

Pour le reste tu essaies de te raccrocher aux branches en généralisant. Et finalement, sans même t'en rendre compte, tu montres pas l'exemple ce que je dis

CERTAINS ados sont plus matures que CERTAINS adultes.

Ne pas écouter les propos d'un ado à cause de son age est aussi stupide que de croire que les propos d'une personne agée sont la vérité de par son age.

youtube.com YouTube
(Ce n'est pas le titre qui est important mais le contenu)
votre avatar
Celle là est tellement mature que sa maman est derrière.
A d'autres, si tu veux bien.

L'exception c'est souvent le cheval de Troie de la generalisation abusive. "Certains" deviendront "beaucoup", puis "la plupart", et enfin "tous".

Edit : donc je vais (re)suivre ta logique : es-tu OK pour que "certains" mineurs de 14 ans soient jugés comme des adultes, puissent voter, puissent se marier, puissent travailler, puissent coucher avec des adultes, etc. s'ils le souhaitent, parce que tu les juges matures ?
Tu n'as pas repondu là dessus au post précédent, reponds-y sur celui ci je te prie. Parce que la question de fond, c'est celle-ci, en vrai.
votre avatar
Pour être mature, il faut coucher ? qui plus est avec des adultes ?
Tu as un réel problème.

Quant au travail, je te rappelle qu'à cet age la, dans la plupart des cas on s'instruit pour préparer son avenir.
Sinon, il est possible de travailler dès 14 ans en France (pendant les vacances scolaires).

PS: Certains ne deviendront pas beaucoup car encore une fois la maturité ne s'apprend pas et elle est rare chez les ados. Mais elle existe chez certains d'entre eux.

PS2: Quant aux parents qui soutiennent leurs enfants, je te rassure cela arrive même à l'age adulte. Et encore heureux.
Meme Trump ne serait pas grand chose sans son papounet...
fr.wikipedia.org Wikipedia
votre avatar
Joli.

Alors :
1. Personne et surtout pas moi ne dit qu'il faut coucher pour être mature, c'est l'inverse : il faut être mature pour coucher. Tu sais, la puberté, période où s'opère la maturité sexuelle mais surtout, la maturité affective et relationnelle qu'il faut pour ce genre de choses (qui prend du temps et de l'expérience).
2. Il est possible de travailler à 14 ans seulement pendant la moitié des vacances scolaires de plus de 14 jours, petite nuance, et encore avec accord de l'inspection du travail. Je le sais pour avoir travaillé toutes mes vacances depuis mes 14 ans, venant de famille extrêmement pauvre. Mais moi je te parlais de vraiment travailler, i.e. plus longtemps. Ce que moi j'aurais aimé faire à mes 14 ans en plus de mes cours pour aider ma famille, mais dont je n'avais heureusement (aujourd'hui je le sais) pas le droit.
3. "la maturité ne s'apprend pas" : celle là c'est la meilleure de l'année. Évidemment qu'elle s'apprend, ça vient avec l'expérience (et donc : du temps). Ce qui ne veut pas dire que tout le monde va l’acquérir de facto avec du temps et de l'expérience, mais encore une fois c'est la logique inverse : personne ne va l'acquerir sans temps ni sans expérience, grosse nuance. C'est même inscrit dans le mot "maturité" : ca implique un processus progressif d'immature vers mature.

Bref, encore une fois tu ne réponds pas : quid du vote, quid de l'excuse de minorité qui saute, quid du mariage, quid de tout ce qui en fait aujourd'hui est interdit aux mineurs ou qui est fortement reglementé ? J'aurais pu ajouter fumer, acheter de l'alcool, conduire, etc.
Tes pirouettes qui se focalisent juste sur l'aspect sexuel (et encore, en inversant la logique) et en citant Trump pour faire du deshonneur par association, ca ne marche pas sur les gens qui reflechissent.
Réponds à la question, clairement et sans pirouette : es-tu OK à ce que les ados que tu juges matures puissent avoir exactement les mêmes droits (et donc les mêmes devoirs) et la même crédibilité qu'un adulte ?
Moi non, et il y a des choses dont il faut protéger les ados, parce qu'ils n'ont pas d'expérience ; le corrolaire de ceci étant que leur manque d'expérience les rend peu crédibles (j'ai bien dit "peu crédibles", et pas "pas crédibles") sur des sujets précis, surtout sociétaux, le meilleur exemple étant le vote.
La règle c'est la règle : que la maturité existe chez certains ados (et encore, reste à prouver que chez ceux là la maturité soit suffisante, et de ça je doute fort, à 14 ans) ne les dédouane pas du traitement qu'on doit réserver à tous les mineurs, autrement ca crée des précédents (ce que j'appelle des chevaux de Troie plus haut) qui ne mèneront qu'à la destruction du statut de mineur et donc de la protection qui va avec, et encore une fois tout ca sous couvert de "progressisme" et de fausse ouverture d'esprit.

Francesca Mani, l’activiste de 15 ans qui lutte contre les deepfakes pornographiques

Fermer