Non, j’ai l’impression d’avoir la vanité de croire qu’on a au contraire bien compris… Mais dans ta technique, si ton “adversaire” tique sur la mauvaise qualité générale de la vidéo (yeux qui ne regardent pas dans la bonne direction, reflets, ombres, que-sais-je) la qualité de la video va s’améliorer.

Si ton adversaire essaie juste de détecter les vidéos compositées à partir de deux sources (dont une “statique”, c’est uniquement les zones où sa source statique a été plaquée qui vont subir un traitement qui masque les absences de détails par du bruit.

Dans les deux cas on “améliore” le deepfake, mais il y a bien deux directions différentes qui correspondent à deux buts diamétralement opposés. Le premier est destiné à l’industrie du cinéma, qui voudra faire une vidéo en 8K de la tronche de Napoléon pour les besoins d’un film sur Waterloo. Le réalisateur se fiche éperdument de savoir si un algorithme va détecter exactement où s’arrête le visage de l’acteur et où commence la texture de Napo parce qu’une veine ne bat pas à la bonne vitesse, il veut une image nette.

Le second besoin est destiné aux agences de désinformation, qui seront intéressées par des vidéos de piètre qualité du moment qu’il soit difficile de prouver la supercherie.

Pasque faut pas s’y tromper : si ton but est de détecter des vidéos trafiquées, il faudra bien que l’“adversaire” soit mis en contact avec des vidéos “réelles”, et certaines d’entre elles seront bruitées, détail qu’il ne pourra pas ignorer au risque de rejeter comme fake toutes les vidéos un peu floues.

misocard a dit:

Dans le cas des drogues / explosifs les contrôles ne poussent pas à une amélioration du “produit”,

Tout dépend de la définition de “produit”. Il y a certes la substance illicite (drogue ou deepfake pour reprendre les exemples précédents) d’une part, mais ce qui nous intéresse ici n’est pas tant cette substance que la capacité à la dissimuler.

Avoir des chiens pisteurs de drogue n’a pas amélioré la qualité de la drogue, mais cela a grandement amélioré les techniques de camouflage ; pour les mules on est passé de simples sachets collés aux fesses d’un passeur à des gens qui acceptent d’avaler des capsules, des touristes qui se font piéger pour détourner l’attention, etc. Même topo pour les trafics de grande envergure, go fast, carrément des sous-marins de poche, …

Ce sera la même chose pour le deepfake, on n’arrivera pas à un deepfake de meilleure qualité, mais à un deepfake qu’il sera plus difficile à détecter. La nuance est de taille : si on reprend l’analogie avec la drogue, éviter la détection consistera peut-être à ajouter des parasites, du bruit, du flou… tout le contraire d’une meilleure qualité vidéo.

(quote:2104893:127.0.0.1)
Si les trafiquants ont un libre accès à ce système de détection pour améliorer leur planque, alors oui il vaut mieux arrêter de faire des recherches.

Sécurité par l’obscurité, comme la crypto, donc… On aurait dû s’arrêter quand on a découvert ROT13 ?

Merci d’avoir confirmé par une remarque dégoulinante d’autosuffisance (et accessoirement complètement à côté de la plaque) que tu ne comprends strictement rien à la cryptologie. Mais je le savais déjà, en fait (parce que - tu vas rire - ça se voit tout de suite à tes commentaires).

(quote:2104984:127.0.0.1)
Faut dire qu’avec une phrase comme “Si ma technique de stégano est bonne, elle résistera à un adversaire qui connaît la technique”, ca ne m’incite pas à te prendre au sérieux.

Ben, voilà, pareil dans l’autre sens. Un gars qui croit qu’il va pouvoir faire de la stégano “révolutionnaire” en priant très fort pour que l’adversaire ne trouve jamais le truc, j’ai pas la moindre raison de le prendre au sérieux…

Et c’est reparti, encore un qui va m’apprendre mon métier, y’avait longtemps tiens… Si tu lisais mes liens, tu aurais vu que la stéganographie moderne utilise bien une clé privée pour paramétrer la fonction d’incrustation. L’adversaire, même s’il connaît la fonction d’incrustation, ne peut pas déceler la présence d’une incrustation sauf à connaître la clé secrète (ou à obtenir par ruse ou contrainte le fichier original, sans incrustation). Tout cela est parfaitement décrit dans le lien que j’ai posté. Encore faut-il le lire plutôt que vouloir à tout prix me donner tort.

La crypto n’est pas de la sécurité par l’obscurité

Bienvenue dans la team premier degré. C’était évidemment de l’ironie pour montrer à quel point le commentaire auquel je répondais (cacher les techniques de détection de drogue pour éviter que les trafiquants les connaissent, et éviter d’en inventer de nouvelles) était à côté de la plaque

Bon, j’ai assez perdu de temps avec ces discussions stériles.

Ajoute à cela le “principe fondamental de la cryptographie” :

Tout débutant est capable d’inventer un procédé cryptographique qu’il croit inviolable car il est lui-même incapable d’imaginer comment le contourner.

Ce procédé inclut quasiment systématiquement une phrase du genre “et ceci est la partie de l’algorithme qu’il faut absolument garder secrète”.