Adobe Stock vend de fausses images réalistes, produites par intelligence artificielle générative, pour représenter la guerre Israël-Hamas, sans mentionner nulle part que ces illustrations sont fausses.
Une recherche sur Adobe Stock pour des termes liés à la Palestine, Israël, le Hamas ou Gaza renvoie rapidement vers ce type d’images, a relevé le média australien Crikey.
Adobe permet à ses utilisateurs de télécharger et de vendre des images produites par IA, sous réserve de préciser « généré par IA ».
Certaines sont déjà utilisées partout en ligne, sans mention directe de leur origine mécanique, avec le risque d’induire les internautes en erreur.
Commentaires (26)
#1
Et ce n’est que le début de la désinformation générée par IA…
Ça va devenir un vrai bordel d’ici peu de temps
#1.1
Parce que tu crois que le pire a venir c’est la génération d’image et pas celle des commentaires ?
#1.2
Comme j’avais indiqué la dernière fois, outre l’image générée par l’IA, une autre source de désinformation concernant les conflits modernes sont les jeux vidéo. Des images issues de jeux de simulation de guerre avaient été utilisées à titre de désinformation dans le cas présent ou encore pour l’Ukraine.
Avec tout le faux qui circule H24 sur les réseaux (qu’il soit du faux “positif” ou du faux dans le but de nuire) depuis des années, je ne comprends pas comment on peut encore considérer une image comme authentique de base de nos jours. C’est triste, mais perso c’est mon état d’esprit.
Là pour le coup gros fail d’Adobe même qui, étant propriétaire de la plateforme, pouvait mettre un watermark pour indiquer le caractère fabriqué de l’image.
Et en tapant cette phrase et mon propos plus haut, j’ai soudainement fait un rapprochement avec d’autres technos d’Adobe qui me font froid dans le dos… Avec toute cette guerre du faux, va-t-on finir par n’avoir que des contenus sous DRM “d’authenticité” ?
Ca craint.
#2
Sur le fond, ca ne me dérange pas: avant les médias mettaient des “images d’archives” qui, bien qu’authentiques, n’illustraient pas vraiment le sujet traité.
Sur la forme, c’est inadmissible de ne pas mentionner que ces images ont été générées par IA !
#2.1
Je me rappelle les Guignols de l’info, qui faisaient un sujet sur la guerre (en Afghanistan, je crois), on voyait des éclairs dans un fond noir, le commandant Silvestre disant que c’était un bombardement. Et au final c’était une lumière agitée dans le fond des toilettes
Je n’ai pas retrouvé ce sketch malheureusement.
#3
#4
Elle aurait pu si elle avait su que l’image était générée par une IA. Mais si le téléverseur (uploader) ne lui dit pas alors qu’il le doit, elle ne peut pas faire grand chose.
En plus, je ne pense pas que le watermarking soit la bonne solution pour que l’usager final de l’image soit informé du caractère généré par une IA de l’image.
#4.1
Non en effet, si c’est que du déclaratif comme Amazon KDP et sa section “contenu IA” useless lors de la publication, ça ne changera rien. Cela dit, ils peuvent au moins lire les metadata de l’image si l’uploader n’a pas pensé à les supprimer. Les prompts sont généralement consignés dedans.
Pffff encore un qui déforme les propos des autres.
Comme Jules César a dit, “Sur Internet, les gens attribuent des citations à n’importe qui”.
#4.2
Le but de ce message était double :
Seule solution (que tu donnes d’ailleurs dans un autre commentaire) : ne plus croire les images aujourd’hui.
#4.3
Le mien aussi était double.
Outre l’aspect humoristique, le fait de coller une citation à un personnage historique est généralement ce qu’on appelle un argument d’autorité (qui pour moi est comme une attaque personnelle : aucune valeur et ça démontre l’échec de l’argumentaire). Et c’est aussi une source de désinformation ou détournement du débat car le propos est souvent sortie du contexte pour voir sa finalité altérée, voire faussement attribué, voire même inventé.
L’un des plus célèbres cas étant la fameuse phrase de Benjamin Franklin au sujet des libertés qui a totalement été dénaturée et sortie de son contexte de l’époque, et pourtant répétée ad-nauseam y compris ici même.
L’autre exemple qui me vient en tête est de citer le livre 1984 à tout va en oubliant qu’il ne s’agit pas d’une anticipation/prédiction, mais d’une description des dictatures totalitaristes contemporaines de l’époque dans un contexte futuriste.
In fine, la désinformation et son impact sur la société illustre surtout un grave problème d’éducation et de regard critique sur l’information reçue. Et avec les médias sociaux fonctionnant à la dopamine et réaction, autant dire que tout sens critique est désormais mort et enterré puisque tout n’est que réponse à chaud.
#4.4
Merci à vous deux pour la mention de la citation de Benjamin Franklin ! Je n’avais jamais regardé de plus près, la page Wikipedia est très éclairante.
#4.5
Copain ! Ça me rappelle la philo… L’argument d’autorité était complètement accepté, et de mon côté je me disais que ça n’avait rien d’un argument, qu’être le propos d’une personne par ailleurs reconnue dans le domaine n’en prouvait pas la validité.
#5
Je vois pas de quoi les gens s’inquiètent, ça change rien. Ça va juste être plus facile de créer des fausses images “crédibles” visuellement.
Sauf que faut jamais croire une image, et faut toujours vérifier sa source. Et ça ça date depuis plus d’un siècle en fait, depuis le début de la photographie. D’ailleurs, même quand la photo est vraie, son angle, son cadre, son contexte peut être aussi trompeur.
Et tout ça, c’est appris à l’école dès la primaire, et dans les cours d’histoires. Donc bon, les débiles resterons toujours débiles. Et les gens qui croient ce qu’ils voient sur Twitter seront toujours aussi cons, ça change rien.
#5.1
En effet la propagande s’est toujours chargée de modifier les photos. Exemple avec cette photo de Staline, bien connue.
#5.2
Ya même pas besoin de faire de fausses photo. Moi je pensais plutôt à ce même:
Suivant le cadre, on peut faire dire n’importe quoi à une image pourtant “vraie”. C’est un très bon exemple pour démontrer qu’il ne faut jamais jamais croire aux images sans sources crédibles.
#6
Aucun problème avec ça si pas possible d’avoir de vrai image et que c’est mentionné.
#7
Je joins cette célèbre citation d’un personnage illustre :
#8
De l’ambiguïté de diffuser une remarque pertinente avec une illustration fausse.
Ce que la news ne dit pas, c’est si l’illustration générée par IA était pertinente dans le contexte de l’information diffusée.
Car une illustration générée par IA n’est pas forcément synonyme de désinformation volontaire.
Exemple: les illustrations sur le dérèglement climatique.
#9
Si, mais s’attarder sérieusement sur la source.
Sauf que l’univers tech actuel cherche à enfouir cette info le plus profond possible :
Dans le cas présent, si tu poses la question à quelqu’un qui a utilisé cette image, si tu lui demandes la source, il te diras Adobe Stock, pas son auteur.
#10
J’avais des doutes. Parfois, l’ironie à du mal à passer par écrit ;)
Je suis bien d’accord (sauf sur la partie attaque personnelle, mais je plussoie le aucune valeur et l’échec de l’argumentaire). Après, ici, la “citation” a surtout vocation à dire au gens d’avoir un esprit critique. Ce qui tend malheureusement à disparaitre
Oh putain que je ne peux qu’être d’accord (désolé pour la familiarité du langage). Que ça me hérisse le poil cette citation, qui sort dès lors qu’on parle des libertés et de la sécurité… alors qu’elle est employée totalement hors contexte.
Je m’insurge ! C’est pas vrai d’abord. Na :p
(réponse à chaud 
) mais je ne peux qu’être d’accord avec ce constat 
#11
C’était une comparaison, pas une attribution. Je considère l’argument d’autorité du même niveau que l’attaque personnelle : quand t’as plus d’arguments, tu l’utilises.
Sinon oui, nous sommes d’accord sur le reste :)
#12
Mea culpa, j’avais mal compris. Maintenant c’est clair ;)
#13
1984 a été un livre très instrumentalisé pendant la guerre froide alors qu’il ne fait que montrer les dérives que pouvait prendre l’URSS, les US et les pays européens à la base qui se disent démocratique ce qui est assez humoristique pour l’urss ou la chine comme on pourra le voir 20 ans plus tard (lire la ferme des animaux qui reste pour ma part la base de Orwell).
#13.1
En quoi est-ce que je me contredis ? Le livre était contemporain de son époque et les thèmes étaient inspirés de faits réels (censure, surveillance de masse, Trotsky, etc), pas anticipés ou imaginaires.
#13.2
Ce que je voulais souligner (et je fais aussi référence à une autre discution que plusieurs impactiens avaient eut) c’est de limiter son roman à la critique d’un totalitarisme (d’ailleurs tu remarqueras que je ne rajoute pas dictature comme toi car le totalitarisme est un régime et système politique).
Ce n’est pas pour rien que ses recommandations sont toujours enseignées dans les écoles de journalisme, ni qu’il ait travaillé au ministère de l’information - ministère de la vérité (d’ailleurs, ils fustigent les intellectuels resté communistes). Sinon tu parles de surveillance de masse mais celle-ci n’existe pas encore et la tv en est à ces balbutiements. Quant à Trotsky, je ne vois pas trop le rapport. Enfin ce qui est dommage c’est qu’il soit mort sans avoir pu parler de son oeuvre.
#14
Le personnage d’Emmanuel Goldstein du roman est rappelle beaucoup Leon Trotsky.