Connexion
Abonnez-vous

Création ou (dés)info, la nouvelle IA vidéo Veo 3 n’en finit pas d’inquiéter

Cette fois, Veo3 fait vraiment des vidéos

Création ou (dés)info, la nouvelle IA vidéo Veo 3 n’en finit pas d’inquiéter

Tout juste lancée par Google, la nouvelle IA générative Veo 3 ajoute pour la première fois le son à l'image animée et parvient à produire, à partir d'un simple prompt, des vidéos dont le réalisme interpelle aussi bien les professionnels de l'information que ceux de la création.

Le 26 mai à 17h20

La compilation, publiée sur Reddit le 23 mai dernier, donne en cinq minutes un bon aperçu des capacités de Veo 3. Ici, une séquence de micro-trottoir. Là, un trio à l’œuvre dans un salon qui rappelle celui de la série Mariés deux enfants. Plus loin, un stand-upper lors d'une scène ouverte, avant une séquence plus vraie que nature pendant laquelle un streamer commente une partie de Fortnite. Et pour finir, un reportage sous les projecteurs d'un salon de l'automobile.

Le tout, plus vrai que nature, et il faut se forcer à une certaine vigilance pour discerner, derrière le photoréalisme et les codes esthétiques conformes aux canons d'un JT, d'une sitcom ou d'un film hollywoodien, l’œuvre d'une IA générative.

Ces vidéos, qui circulent massivement sur les réseaux sociaux depuis quelques jours, sont l'oeuvre de Veo 3, la dernière version en date de l'IA vidéo de Google. Dévoilée le 20 mai dernier, elle inaugure une capacité qui faisait jusqu'ici défaut aux Sora, DeepBrain et autres Runway : l'ajout d'une bande son à l'image animée, avec un traitement cohérent de l'audio et de la vidéo. Bref, cette fois, Veo 3 fait vraiment des vidéos et, pour ne rien gâcher, Google adjoint à son générateur un autre outil basé sur l'IA, une application de montage baptisée Flow.

Déferlante de vidéos fake en vue ?

Veo3 est accessible au travers du forfait AI Pro de Google, facturé 250 dollars par mois et dont l'accès est pour l'instant limité aux États-Unis. L'outil n'est donc pas encore massivement disponible pour le grand public, mais ses capacités interrogent, voire inquiètent : sous sa forme actuelle, Veo3 permet en effet de produire massivement, et à relativement peu de frais, des séquences vidéo crédibles, à défaut d'être toujours réalistes.

On se souvient, au mois de mars, de la mode des images générées selon le style Ghibli, qui prolifèrent encore sur les réseaux sociaux, alors que Hayao Miyazaki a très ouvertement exprimé son aversion pour la génération automatique. Le même phénomène est-il à prévoir, mais avec des séquences vidéo cette fois ? « Veo 3 est le rêve de tout vendeur de déchets », titre Allison Johnson chez The Verge, reprenant la formule consacrée du slop, qui désigne les médias de mauvaise qualité massivement générés par IA.

Après quelques heures de test, elle constate que des garde-fous ont été mis en place (il n'est pas possible de générer une scène violente ou de mettre en scène une personnalité connue), mais souligne qu'il est tout de même possible de générer des images « dérangeantes ».

« À partir de ma propre photo du mont Rainier, j'ai créé une vidéo d'éruption, avec de la fumée et de la lave. Ajoutez à cela un extrait d'un présentateur de journal télévisé annonçant la catastrophe et je comprends comment on pourrait facilement semer la zizanie avec cet outil », décrit-elle.

Arme de désinformation massive ?

L'actualité récente donne un écho à cette question. Lundi matin, une vidéo prise à l'arrivée de l'avion présidentiel français au Vietnam défraie la chronique sur les réseaux sociaux. On y voit le bras de Brigitte Macron, dont le corps et le visage sont hors-champ, repousser le visage d'Emmanuel Macron, dans un geste qui pourrait s'apparenter à une claque. S'agit-il d'un jeu affectueux ou d'une expression de colère ?

D'après le Parisien, la première réaction de l’Élysée a été de démentir la véracité des images en suggérant que ces dernières avaient été générées par une IA, avant d'affirmer qu'il s'agissait d'une marque de complicité entre les deux époux. Dans ce cas précis, le caractère exceptionnel du moment permet assez facilement d'attester la véracité des images, mais qu'en sera-t-il pour des vidéos mettant en scène des anonymes ou des moments de vie plus ordinaires ?

« Concernant l’information, il ne va pas falloir attendre longtemps pour que les agents de la désinformation s’emparent de l’outil pour déstabiliser l’opinion et affaiblir encore davantage le lien de confiance. Ne plus pouvoir distinguer le faux revient également à douter du vrai et j’ai du mal à savoir comment nous allons collectivement trouver les solutions. Imposer des marqueurs d’authenticité, utiliser des logiciels de vérification, peut-être, mais ces remèdes auront toujours un train de retard par rapport au poison de la désinformation », estime François Saltiel de France Culture dans une chronique qui assimile Veo 3 à une menace de « chaos informationnel ».

Le septième art bientôt touché de plein fouet par la vague ?

En ce joli mois de mai, les grandes conférences dédiées aux développeurs de Google ou de Microsoft rencontrent dans l'actualité un autre temps fort, culturel cette fois : le festival de Cannes, où l'IA s'est invitée de façon diffuse cette année. Elle y figure comme protagoniste du énième volet de la saga Mission Impossible, mais anime aussi les conversations et les démonstrations du village dédié aux solutions innovantes, relate France 24.

Non sans humour, c'est grâce à l'IA générative que le cinéaste danois Christian E. Christiansen a récemment synthétisé les questions existentielles d'une partie de l'industrie. Son court-métrage, baptisé The Killing of a Business, fait s'interroger tous les grands métiers du cinéma dans une succession rapide de séquences qui donne à la vidéo des allures de clips. Intonations, éclairages, intervenants qui se coupent à la parole, pirouette humoristique, amènent, ou plutôt ramènent, à l'éternel clivage entre considérations artistiques et pratiques mercantiles.

Avec une IA qui, tout de même, change la donne. « Allez tout le monde, on a 47 prises de la même scène à faire aujourd'hui », lance un réalisateur à ses équipes en studio. « Ou alors on laisse l'IA le faire en seulement trois minutes », lâche son producteur en passant à côté de lui, sans même lever les yeux de son smartphone.

Copier n'est pas créer

Dans la mesure où il permet enfin de générer des vidéos « abouties », Veo 3 remet également sur la table l'épineuse question de l'entraînement des modèles. 404 Media relate par exemple comment Veo 3 recycle à l'envi le même jeu de mot facile (basé sur la proximité phonétique entre shit zoo, soit « zoo de merde » et shih tzu, la race de chien) quand on lui demande de générer une séquence montrant un stand upper en train de dire une blague sur scène.

Pourquoi le modèle se limite-t-il à ce jeu de mot, alors même que Gemini, autre production Google, est capable de fournir des réponses aussi subtiles que variées ? « Il est impossible de dire ce que Veo 3 fait en coulisses sans l'avis de Google, mais une théorie possible est qu'il se contente d'une blague sûre et connue, plutôt que de produire le type de contenu qui a embarrassé l'entreprise dans le passé », remarque 404.

Avec ses séquences limitées à 8 secondes (et une limitation, non spécifiée publiquement, dans le volume de vidéos qu'il est possible de créer par jour), Veo n'aura dans les premiers temps qu'une portée limitée, mais ses possibilités n'ont pas fini d'intriguer. « Alors que les vidéos hyperréalistes générées par l'IA deviennent encore plus faciles à produire, le monde n'a même pas encore commencé à déterminer comment gérer la paternité, le consentement, les droits et l'avenir de l'industrie cinématographique », résume Axios. En attendant, certains s'en donnent à cœur joie.

Commentaires (57)

votre avatar
Bientôt un montage de plusieurs petites vidéos type JT :
- "La Russie déclare la guerre aux USA"
- "C'est par ces mots glaçants que Vladimir Poutine commence la troisième guerre mondiale... On rejoint Philibert sur place à Moscou."
- "Oui, tout à fait Brigitte..."


:musicos: It's the end of the world as we knew it !
votre avatar
Then ominous skies materialize
No compromise, just say your goodbyes
It's no surprise, we swallowed the lies
Now everybody dies!
:musicos:
votre avatar
C'est malin, je l'ai en tête maintenant !


(mais j'aime ça ! :D )
votre avatar
même plus besoin de prendre une vidéo sortie de son contexte pour désinformer (lien : une vidéo d'un défilé militaire en Estonie devient une vidéo d'une préparation d'une attaque de la Russie par l'OTAN à partir de l'Estonie)
Une vidéo circulant en ligne prétend montrer des chars britanniques amassés à Tallin, la capitale estonienne, dans le cadre d'un plan supposé de l'OTAN visant à "attaquer" la ville russe de Saint-Pétersbourg.
Des experts en renseignement de source ouverte ont établi un lien entre ce compte et la campagne Matriochka, décrite comme une opération "coordonnée" par la cyber-agence française.
et deux faux reportages attribués à Euronews
lien : Une vidéo trafiquée utilisant le logo d'Euronews prétend à tort que la Roumanie a mis en garde la France contre l'ingérence dans le récent scrutin présidentiel. Bucarest a en réalité accusé la Russie d'interférence électorale.
lien : Une fausse vidéo a été postée sur les canaux Telegram russes, reprenant les graphiques d'Euronews et affirmant que la corruption a poussé la Moldavie à devenir l'un des plus grands marchés noirs pour les ventes d'armes.
votre avatar
Certains avaient déjà du mal à différencier des "simples" fausses infos des vraies.
Mais alors là ... ça va vraiment devenir Black Mirror d'ici pas longtemps 😱
votre avatar
Reste quand même encore des hallucination au second plan genre le dernier duo de passant sur la première vidéo (un carton sur la tète? un bras cheloud?) ou la deuxième (des vélo qui traverse le traffic)...
Pas cherché sur les autres, ça continuera probablement à s'améliorer mais ça reste encore identifiable.
votre avatar
Dans la seconde video, a 0:28 une personne dans la file sans tete, a 1:23 une personne se divise pour faire apparaitre une seconde personne.
votre avatar
Ça reste identifiable mais les gens se focaliseront sur le premier plan, pas le reste. Ce qui rendra ces vidéos très efficaces.

Je n'avais pas vu l'individu avec le carton sur la tête. Après, ayant joué à Metal Gear Solid j'ai peut-être inconsciemment trouvé ça normal :D
votre avatar
Et avec un "rajoute moi un filtre flou pour le second plan" ?

Ca donnerait quoi ?
votre avatar
Ou « Au-delà du réel » ou « Au-delà du réel : L'aventure continue ». Il n'y en a que pour Black Mirror. :roll:
votre avatar
Ce sont des séries qui commencent à dater maintenant, les moins de 30 ans connaissent assez rarement. Et même moi qui ait connu L'aventure continue, c'est loin de me venir directement en tête.
votre avatar
Je recycle un vieil argument : on fait déjà la même chose avec des textes/images/vidéos retouchées ou sorties de leur contexte.
votre avatar
Sauf qu'avant c'était très technique et coûteux de le faire, et certaines choses n'étaient pas vraiment possibles sans y mettre des moyens très importants. Typiquement reprendre les codes d'un JT de TF1 avec les présentateurs, voix et codes usuels pour dire tout et n'importe quoi.

Cela signifie que la masse de contenu problématique va augmenter encore plus, avec encore plus de difficultés de différencier le vrai reportage du faux, tu as tous les ingrédients pour un doute permanent de tout.

La problématique n'est pas nouvelle, mais on va encore plus loin, cela renforcera le problème plutôt que d'y apporter une réponse.

Il y a quelques États qui seraient très intéressés pour publier massivement de la désinformation dans les États cibles avec une présentation aux petits oignons pour chaque pays. Chose qu'ils ne pouvaient pas faire facilement avant.

Il y a de quoi être inquiet sur cet aspect.
votre avatar
Les grands perdants sont ceux qui facturent 5-10K€ pour tourner un spot de pub de quelques secondes.

Les entreprises vont pouvoir diminuer leur budget par 10...
...ou faire 10 spots échelonnées dans le temps, ou avec ciblage des profils clients, ou A/B testing.

Ca va être l'enfer \o/
votre avatar
Vu les m* d’images générées par IA qu’il y a dans le métro pour faire de la pub je pense aussi que ça ne leur posera aucun problème de sauter le pas pour la vidéo
votre avatar
Bon, avec les pubs façons Temu, beaucoup de publicitaires se sont déjà rendu compte qu'il n'y avait pas besoin de mettre de l'argent dans une pub pour la rendre efficace et « fascinante », donc je pense que le milieu de la pub restera divisé entre un haut de gamme esthétisant qui travaillera avec des humains et des pubs à l'arrache à 1 € qui n'avaient déjà pas de gros budget (le plus gros budget, c'est de payer le média de diffusion).
votre avatar
Je pense que tu as visé juste, Google étant essentiellement un publicitaire, permettre a ses clients de générer à la volée des vidéos promotionnelles d'un produit basées sur le profil google analytics du consommateur c'est tout bénef.
votre avatar
Est ce qu'il y a un watermark obligatoire intégré ?
votre avatar
Oui, pour le moment.
Jusqu'à ce qu'une autre IA soit utilisée pour le faire sauter.
votre avatar
42
votre avatar
Beaucoup moins que pour 8 secondes de "vrais" vidéos.
votre avatar
Du coup, effet rebond : on aura beaucoup plus de "fausses vidéos" facile à produire de de "vraies".
Donc au final, on "cramera des barils" en masse. C'est ce qui se passe déjà avec les LLM actuels.
votre avatar
Je suis impressionné par le plan technique mais je me demande bien « pourquoi ? ».

Pour les LLM je vois les inconvénients mais il faut bien leur reconnaître aussi quelques avantages si ils sont bien exploités. Même pour les images, ça peut être utile à la marge à tout un chacun.

Mais la generation de vidéo ? Ouais c’est cool et impressionnant, mais je n’arrive pas à imaginer le moindre usage qui ne soit pas néfaste.

Je manque sûrement d’imagination.
votre avatar
Le pourquoi est simple. Google pense qu'il y a un marché pour cela.

C'est littéralement une arme et un énorme problème ce truc. Et je pense que cela devrait être banni.

* Si on se met dans les chaussures d'un gouvernement, il n'y a pas grand chose de mieux pour jouer du vecteur de communication. Propagande, ingestion, des armes en veux-tu en voila. L'outil propose une réponse rapide et malléable.
* Si on regarde du coté commercial. Ça peut avoir des conséquences tellement on pourrait monter des boites à foin pour faire du cash avec un produit révolutionnaire en peu de temps (au pif... un médicament révolutionnaire). Du coup tout le monde perd confiance (c'est pas qu'il y en avait des masses) et plus personne n'achète quoi que ce soit. Ou en allant seulement vers des marques bien connues. Au moins cela permettrait peut-être de refaire du local mais il ne faut pas rêver.

Et le pire de tout c'est que la vidéo de présentation nous en fait la démonstration. Mais pas grand monde le voit.

Ce qui m’hallucine c'est qu'on a un tas d'ingénieurs humains travaillant sur ces dispositifs qui ne voient pas le problème ou qui font semblant de l'ignorer. De vrais savants / idiots utile pour certains.
votre avatar
J'ai un avis totalement opposé au tient. À première vue j'ai aussi eu une réaction d'autodéfense, maintenant j'ai hâte de voir comment la société va évoluer vis à vis de ça.
Il est possible que l'impact soit massivement positif et/ou massivement négatif, mais dans tous les cas, ça va faire bouger des lignes, et par extensions, remettre en question beaucoup de choses.
Et il n'y a rien qui soit pire que l'immobilisme, dans notre société sclérosée. Si crise de confiance il doit y avoir, ça permettra de mettre beaucoup de choses à plat, et peut être même de remettre en question le modèle publicitaire.
votre avatar
j'ai hâte de voir comment la société va évoluer vis à vis de ça.
C'est peut être intéressant sur un plan technique. Il n'y a pas grand effort à faire pour comprendre que sur le plan social, ça va mal finir. On est dans le même processus / scénario de la fameuse innovation qui est censée nous rapprocher du paradis progressiste et populaire. Enfin libérés pensent-t-ils ! Oui enfin; y'a plus rien a bouffer dans le frigo au bout d'un moment ...

On nous impose une soit disant solution qui n'en est une que pour les "gens à la manœuvre" (ça va du MEDEF au GAFAM en passant par la case politique parfois).

Et les plus fragiles n'ont pas de filet de secours. Tout le monde s'en taperait si chacun avait un socle solide (manger, boire, giter) garanti. Seulement voila y'en a pas. Toutes les révolutions sont toujours sanglantes. Ils y en a toujours qui sont laissés sur le coté dans ce genre de cas. Les IAs feront beaucoup de dégât.

Et tout cela sans savoir ou l'on va la plupart du temps. Sauf que bon. Quand on ne sait pas ou on va; on finit souvent à être perdu. Dans le cas présent, la prochaine série Netflix a base d'IA c'est pour quand ?

La mécanisation à fait la même chose. On ne peut pas dire que c'est un progrès social flagrant.
votre avatar
Je comprends très bien ton inquiétude.
Mais justement, ce flou sur où ça nous mène peut aussi être un catalyseur. Pas forcément pour le meilleur, c’est vrai, mais au moins pour forcer un réajustement.

Je ne dis pas que ça va bien finir, je dis que ça va forcément provoquer des remises en question majeures. Contrairement à d’autres vagues technologiques qu’on a avalées sans broncher, là, on a enfin les moyens de comprendre, d’alerter, de détourner, voire de résister. La société civile est bien plus outillée qu’avant. Reste à voir si elle s’en saisira.

Que ce soit pour le pire ou pour le mieux, ce genre de choc me paraît inévitable, et peut-être même salutaire. Non pas parce que je fantasme un grand progrès émancipateur, mais parce qu’on est dans un état d’immobilisme généralisé. Tout change en surface, mais rien ne bouge vraiment en profondeur.

Personnellement, j’ai changé mon fusil d’épaule. J’ai pris acte de ce qui arrivait et j’ai choisi de me recentrer sur ce qui reste fondamental : la nourriture. Si crise il y a, ce besoin-là ne disparaîtra pas. Et dans un contexte où l’inflation galope et où les tensions sociales et internationales montent, la question de la résilience alimentaire va devenir centrale.

On ne devient pas riche en cultivant et ce n'est pas de l'argent facile, mais il y a fort à parier que tous ceux qui vivaient d’une économie de façade, ultra-dépendante de la précarisation des piliers concrets (bouffe, énergie, soin, infrastructures… Tous les métiers dits "essentiels") pour pouvoir faire leur beurre tranquillement, vont sentir passer le mur de l’IA. Pendant ce temps, les activités réellement essentielles, elles, continueront de l’être. Et probablement pour longtemps.

Et c’est peut-être là que réside une opportunité : reconstruire du sens autour de ce qui nourrit vraiment, au propre comme au figuré.
votre avatar
j'ai hâte de voir comment la société va évoluer vis à vis de ça
Est-ce que l'humanité aura le temps d'évoluer ?
C'est ça, pour moi, la question fondamentale.
Je crois que l'IA est arrivée trop tôt et trop vite pour que nos sociétés s'y adaptent. Le cerveau humain n'est pas apte à faire face à un déferlement de mensonges (il suffit de voir les ravages des religions). Et comme les super-héros sont rares, mais que les super-vilains sont légions, ils peuvent nous écraser facilement.
J'en veut pour preuve la démocratie américaine qui était plutôt rayonnante (même si loin d'être parfaite) et qui se fait marcher dessus par quelques humains, au détriment du monde entier. Et le mensonge a servi à les mettre au pouvoir, et contribue encore à les enrichir et à les maintenir en place.
votre avatar
C’est une question qui se pose effectivement...
Est-ce qu’on aura le temps d’évoluer ? Je ne sais pas, mais j’ai le sentiment que ne pas évoluer n’est plus une option.

Je partage ton inquiétude sur la vulnérabilité cognitive humaine face au mensonge à grande échelle... on voit déjà les dégâts avec des moyens bien plus rudimentaires que ce que permet l’IA. Ce que tu dis sur les religions ou la démocratie américaine me parle : c’est l’usage stratégique du récit, du mythe, de l’illusion... amplifié maintenant par des outils sans précédent.

Mais justement, il y a peut-être un effet de seuil, car quand tout devient si grotesquement manipulable, quand la frontière entre vrai et faux devient fluide à ce point, ça pourrait forcer un sursaut. Pas chez tout le monde, pas tout de suite, mais chez suffisamment de personnes pour que ça bouscule quelque chose de profond.

C’est pour ça que je ne crois pas que ce soit “trop tôt”.
C’est brutal, c’est rapide, mais c’est peut-être exactement ce qu’il fallait pour faire éclater certaines illusions collectives : pas de garantie qu’on s’en sorte bien, mais au moins, ça casse l’immobilisme.

Et face à ça, chacun fait ce qu’il peut. Pour ma part, j’ai fait le choix de revenir à ce qui est concret, tangible, indispensable, essentiel.
Pas comme un repli, mais comme une réponse. Parce qu’on peut être lucide sur l’état du monde, sans pour autant en rester uniquement spectateur.
votre avatar
Ta réponse construite et constructive m'enchante. :inpactitude:

Concernant l'effet de seuil, je crains que ça devienne un véritable handicap dans la vie de tous les jours.
Des acteurs comme Le Bon Coin, par exemple, risquent forts de disparaître à cause de ça : si tu penses que toutes les annonces sont probablement (et non plus "possiblement") fausses, tu risques de ne plus vouloir essayer de faire affaire dessus. Du coup, le réemploi va en prendre un coup.
De même que le commerce en ligne des petits acteurs.
Et il y a sûrement beaucoup d'autres cas...

Par contre, on pourrait avoir un sursaut journalistique : on cherchera des sources fiables, plutôt que des infos probablement fausses.

Avec un peu de chance, l'esprit critique va en ressortir grandi... Mais les dernières élections aux USA me font douter fortement sur ce point.
Et encore, seulement si d'ici là on n'a pas une troisième guerre mondiale sur les bras, avec un possible holocauste nucléaire.
votre avatar
Avec un peu de chance, l'esprit critique va en ressortir grandi...
J'y crois plus. Avec la masse d'informations (pourtant majoritairement authentique) actuelle, on est déjà submergé, avec une masse multipliée de plusieurs ordres de grandeurs, le réflexe sain (mais malheureusement pas pour une société entière) sera de tout envoyer bouler.
votre avatar
Oui, enfin tout envoyer bouler, c'est normalement un premier pas avant de tout remettre en question, et donc commencer à utiliser son esprit critique.

...Cependant, tu as raison dans ton second message : il y a un vrai risque que les gens envoient PRESQUE tout bouler et ne gardent que ce qui va dans le sens de ce qu'ils croient déjà vrai.
votre avatar
il y a un vrai risque
J'aimerais être aussi optimiste :-/
votre avatar
Mais justement, il y a peut-être un effet de seuil, car quand tout devient si grotesquement manipulable, quand la frontière entre vrai et faux devient fluide à ce point, ça pourrait forcer un sursaut. Pas chez tout le monde, pas tout de suite, mais chez suffisamment de personnes pour que ça bouscule quelque chose de profond.
Le risque, c'est que le sursaut se matérialise par un rejet de toutes les informations quand elles sont jugées dérangeantes ("ne vont pas dans mon sens") et un désengagement total de la politique par les citoyens. Donc à court terme, une dictature.
mais au moins, ça casse l’immobilisme.
Et ça tourne immanquablement à la dictature.
votre avatar
Mais la generation de vidéo ? Ouais c’est cool et impressionnant, mais je n’arrive pas à imaginer le moindre usage qui ne soit pas néfaste.
Quelle horreur de permettre l'expression artistique à tous !
votre avatar
Je ne comprend pas les 250 €, j'ai été voir pour faire des tests et on me propose Google AI Pro pour 22e par mois (bon c'est bien marqué veo3 en "limité") quand bien même dans votre article et d'autre que j'ai lu tous affiche une limitation aux US

EDIT : ah je viens de voir que ce que propose la page "gemini.google/subscriptions/" notamment la référence a veo3 n'est plus présente une fois cliqué sur le bouton get started...

Cela mis a part je trouve vraiment les vidéos très impressionnantes, j'ai beau avoir assez l'œil pour les vidéos "IA Gen", les premiers plan ne présentes pas beaucoup de glitch (je n'ai pas prêté attention a ceux repéré en 2nd plan par les autres commentateurs).
C'est vraiment une arme a double tranchant (très très affutés)
votre avatar
La vidéo sur instagram, le lipsync est juste désastreux. Et quand à l'audio on entend "AI" mais que les sous-titres disent "I", ça laisse songeur.
votre avatar
OK, plus qu'à tenter de créer pour mon usage personnel un film en passant à une IA la version numérisée d'un livre que j'aime beaucoup.
votre avatar
Le gouvernement a utilisé l’IA pour célébrer la Journée nationale de la Résistance (et n’aurait pas dû) (Huff par Yahoo)
Dans cette création, supprimée depuis, on retrouve le style à la mode de ces vidéos IA dites historiques vues à la première personne, avec le filtre jaune vieillissant l’image. Dans les rares captures restant en ligne, une femme rayonnante brandit un drapeau français, dans une scène de liesse typique de la Libération… Avec à ses côtés un soldat allemand, lui aussi tout sourire. Le casque typique, le Stahlhelm (casque d’acier en français), ne laisse aucun doute, il y a bien un soldat de la Wehrmacht qui partage la joie de notre résistante.
votre avatar
Ce que je trouve regrettable, c'est que la techno aurait pu produire quelque chose de bien. Une reconstitution avec l'aide de documents d'archive et d'historiens moyennant les vérifications nécessaires pour s'assurer d'un résultat cohérent.

Visiblement, l'équipe de comm' derrière s'en est mal servi (pour changer). Résultat : l'artificiel de paille est encore décrié à cause d'imbéciles naturels.

C'est fou de voir que le débat hystérique de l'IA n'a toujours pas compris que le problème c'est l'usage merdique fait par des idiots.
votre avatar
Eh oui...
Un drapeau français est rouge-blanc-bleu, et il y a un drapeau japonais (puissance de l'axe alliée à l'Allemagne)...
votre avatar
D'après le Service d'Information du Gouvernement, le script avait été validé mais la production visuelle n'a pas fait l'objet de révision.

Ça ressemble à de la précipitation pour tenir le délai, en fait. Dans un autre registre, une autrice qui ne s'est pas relue et a laissé des prompts d'IA dans son livre publié sur Amazon. Cette dernière affaire est surtout problématique pour les auteurs autoédités. Ça attaque leur crédibilité :craint:
votre avatar
Un rapport de l’administration Trump sur la santé des jeunes se base sur des sources inexistantes
L'article n'en parle pas, mais ça sent aussi l'IA utilisée dans la précipitation...
votre avatar
C'est comme les avocats qui ont fait reposer leur argument sur des jurisprudences qui n'existent pas.

C'est le point contre lequel je suis en rogne face aux entreprises de la Tech. À vendre ces outils comme de la magie (cf l'icône ✨ ou 🪄 utilisées à tout va comme point d'appel - bande de cons !) les gens le croient. Je pestais déjà au début de ChatGPT où c'était soudainement devenu ORacle-qui-sait-tout-et-voit-tout.

L'esprit critique a toujours été une denrée rare.

Mais bon, avec les médias sociaux qui sont une usine à faux depuis des années (bien avant l'explosion de l'usage de l'IA générative) marchant sur la réaction à chaud et à l'émotion, autant dire que la prise de recul va devenir un événement.
votre avatar
L'utilisation probable de l'IA est évoquée par le WP : White House MAHA Report may have garbled science by using AI, experts say
votre avatar
C'est fou de voir que le débat hystérique de l'IA n'a toujours pas compris que le problème c'est l'usage merdique fait par des idiots.
C'est pas seulement ça. On a des images d'archive de cette période, quel intérêt d'utiliser l'IA pour produire un faux à la place ? Si ce n'est amener à douter de tout pour permettre de pousser des mensonges plus commodes et simplistes.
votre avatar
J'ai vu l'argument des "images d'archive" à tout va. C'est oublier l'existence de la reconstitution historique, notamment au travers des séquences tournées avec des acteurs. Pourtant, je n'ai pas souvenir qu'on s'insurge contre ces productions.

De quels "mensonges plus commodes et simples" parles-tu dans le cas présent ?
votre avatar
L'avis d'un historien (et c'est loin d'être le seul à trouver cette affaire lamentable) :

bsky.app Bluesky

Pour la reconstitution historique, on peut faire de bonnes choses, on peut aussi y glisser justement des messages commodes et simples (les extrêmes aiment bien ça), comme au Puy du Fou. Et on met généralement en avant qu'une reconstitution est une reconstitution, avec ce que ça implique d'approximations.

On ne parle pas ici d'essayer de reproduire une situation pour comprendre, ou de rendre qqch ludique pour les enfants, mais de commémorer la résistance et ses sacrifices, c'est à dire des vraies personnes. Dire qu'on va faire ça en effaçant purement et simplement ces gens, c'est absolument nul, et venant de services de l'état, ça traduit un problème de fond sur la culture et l'éthique.
votre avatar
Pour les "mensonges commodes et simplistes", il serait bien de sourcer.
N'est-ce pas un comble quand on s'insurge du faux généré par IA de balancer des propos sans sources ?
Pour la reconstitution historique, on peut faire de bonnes choses, on peut aussi y glisser justement des messages commodes et simples (les extrêmes aiment bien ça), comme au Puy du Fou. Et on met généralement en avant qu'une reconstitution est une reconstitution, avec ce que ça implique d'approximations.
Signifiant qu'il n'y a pas de différence entre une reconstitution historique et une fabriquée par IA. Le fond reste le scénario sur lequel elle repose.

Pour revenir au point des images d'archive : rien n'empêche de les utiliser aussi pour désinformer. Sortir une image (ou un propos) de son contexte, c'est la base même du procédé.

Le plus important dans l'histoire, à mes yeux, c'est de développer son esprit critique. D'ailleurs un historien en parlait à l'instant sur France Info (et il a même rappelé que c'est ce qui déclenche la résistance). J'espère qu'ils publieront l'entretien sur le site, c'était intéressant à écouter et mesuré (un événement dans ce monde binaire de merde).
votre avatar
Pour les "mensonges commodes et simplistes", il serait bien de sourcer.
On n'est pas dans une revue scientifique. Je te parle simplement de tous les mensonges des partis populistes pour commencer. Montés en épingle par les médias aux mains de milliardaires d'extrême droite. Tu as besoin de sources précises pour ça ?
Signifiant qu'il n'y a pas de différence entre une reconstitution historique et une fabriquée par IA.
Et tu me demandes des sources...
votre avatar
On n'est pas dans une revue scientifique. Je te parle simplement de tous les mensonges des partis populistes pour commencer. Montés en épingle par les médias aux mains de milliardaires d'extrême droite. Tu as besoin de sources précises pour ça ?
Non, je vais me contenter d'une affirmation non sourcée comme n'importe quel utilisateur lambda d'un LLM.
Et tu me demandes des sources...
Reprenons.

1. J'évoque la comparaison entre une séquence générée par IA et la reconstitution historique (avec des gens toussa) qui partagent un point commun : ils sont basés sur un scénario

2. Tu indiques qu'une reconstitution peut aussi contenu des inexactitudes, voire des mensonges. Je cite :
Pour la reconstitution historique, on peut faire de bonnes choses, on peut aussi y glisser justement des messages commodes et simples (les extrêmes aiment bien ça), comme au Puy du Fou. Et on met généralement en avant qu'une reconstitution est une reconstitution, avec ce que ça implique d'approximations.
3. Raison pour laquelle je m'étonne de voir autant d'offuscation contre une vidéo générée par IA (foireuse car non vérifiée avant de la publier) en hurlant à la production de faux alors que, techniquement, une reconstitution est un faux aussi.
Le point sur lequel tu me dis :
Et tu me demandes des sources...
C'est une conclusion personnelle par rapport à cette situation.

4. Tu amènes le fait que des reconstitutions en citant "le Puy du Fou" contiennent des messages de partis politique extrémiste sans le sourcer.

5. J'en ai marre que les échanges autour de l'IA entraînent systématiquement la déconnexion du cerveau. Je n'irai pas me lancer dans un énième dialogue de sourds.
votre avatar
J'en ai marre que les échanges autour de l'IA entraînent systématiquement la déconnexion du cerveau.
Tu qualifies seulement de déconnexion du cerveau le fait qu'on puisse penser différemment de toi sur le sujet.
4. Tu amènes le fait que des reconstitutions en citant "le Puy du Fou" contiennent des messages de partis politique extrémiste sans le sourcer.
30 secondes sur un moteur de recherche, par exemple :

https://www.telerama.fr/debats-reportages/le-puy-du-fou-en-flagrant-delit-de-faux-7009757.php

C'est d'ailleurs une réécriture de l'histoire avec des "reconstitutions" historiques.
votre avatar
Je te parle simplement de tous les mensonges des partis populistes pour commencer. Montés en épingle par les médias aux mains de milliardaires d'extrême droite.
Par exemple, P. Praud qui affirme récemment sur CNews que les vacances scolaires de Noël ont été rebaptisées vacances d'hiver (Source : le Vu de France5)...
PS. Les vacances scolaires s'appellent : Toussaint (fête religieuse), Noël (fête religieuses), hiver et printemps (il y a bien longtemps "vacances de Pâques", mais Pâques étant une fête mobile, et des zones ayant été instituées là aussi il y a longtemps, il a fallu changer le nom. C'est ce changement ancien de nom qui donne lieu depuis à tous les fake...)
votre avatar
P. Praud qui affirme récemment sur CNews que les vacances scolaires de Noël ont été rebaptisées vacances d'hiver
Il a pas (ou plus, c'est plus probable) d'enfants scolarisés, ni de mémoire.
votre avatar
Le pire est qu'ils l'ont supprimée avec des excuses... Pour remettre qques minutes après une autre vidéo foireuse créée par IA. Pourtant, ce n'est pas comme si on manquait d'archives vidéos...
votre avatar
J'ai vu ça, ce sont vraiment des abrutis.

Création ou (dés)info, la nouvelle IA vidéo Veo 3 n’en finit pas d’inquiéter

  • Déferlante de vidéos fake en vue ?

  • Arme de désinformation massive ?

  • Le septième art bientôt touché de plein fouet par la vague ?

  • Copier n'est pas créer

Fermer