Progrès de l’IA générative aidant, il est bien difficile désormais de distinguer à coup sûr une photo réelle d’une image photoréaliste générée par intelligence artificielle. Et même le vieux truc de compter les doigts ne marche plus : les IA ne font en effet (presque) plus d’erreurs anatomiques.
Les acteurs de l’IA ont mis au point des systèmes permettant à des outils de repérer une image générée ou modifiée par IA. Plusieurs technologies sont disponibles, comme le filigrane SynthID de Google DeepMind, les Content Credentials de la coalition C2PA, Meta a mis en place ses propres étiquettes « AI info »… Tout cela ressemble un peu au fameux strip de xkcd sur les standards. Pourquoi ne pas en ajouter un autre ? Apple y travaille ! Mais cette fois, pour authentifier une vraie photo.
Dans le code de la bêta 5 d’iOS 27, 9to5Mac a déniché des références à une nouveauté en développement : Apple Reference Image. Cette fonction devrait servir à authentifier la source d’une photo en utilisant des données liées aux capteurs photo de l’iPhone qui a servi à l’enregistrer.
Apple Reference Image n’est pas activée par défaut. Il revient à l’utilisateur de le faire dans l’application Appareil photo. Il faut ensuite demander à authentifier la photo prise, ce qui nécessite l’envoi des données brutes de l’image, les métadonnées et des informations matérielles au Private Cloud Compute (PCC) d’Apple.
Cette architecture serveur a été mise en place par le constructeur pour les fonctions d’Apple Intelligence à traiter en ligne, un système censé protéger la confidentialité des utilisateurs. De la sorte, Apple affirme ne pas pouvoir accéder à l’image en elle-même. Durant cette phase d’authentification, un identifiant unique est attaché à la photo.
Si Apple détermine que le capteur photo a été compromis, elle peut révoquer les précédentes authentifications associées avec ce composant. Les photos authentifiées par le système Apple Reference Image peuvent ensuite être partagées ; les iPhone destinataires (on imagine que ça fonctionnera aussi avec les iPad et les Mac) pourront vérifier l’authenticité des documents en local, sans avoir à communiquer avec Apple.
En fonction de la méthode de partage utilisée (via iMessage, AirDrop, etc.), les informations pourraient varier et indiquer si l’image est une version originale, modifiée ou authentifiée. Si l’utilisateur choisit de partager « toutes les données des photos », le transfert pourrait inclure des identifiants matériels uniques.
9to5Mac ajoute une autre découverte : une option « Transfer with Provenance » pour les transferts USB de photos authentifiées vers un Mac ou un PC. Les images en question embarqueront les données Apple Reference. Au vu des efforts à déployer pour authentifier une image (choisir un mode spécifique et transférer des données à Apple), ce système devrait rester cantonné à une poignée d’usages restreints.
Commentaires (30)
Abonnez-vous pour prendre part au débat
Déjà abonné ou lecteur ? Se connecter
Cet article est en accès libre, mais il est le produit d'une rédaction qui ne travaille que pour ses lecteurs, sur un média sans pub et sans tracker. Soutenez le journalisme tech de qualité en vous abonnant.
Accédez en illimité aux articles d'un média expert
Profitez d'au moins 1 To de stockage pour vos sauvegardes
Intégrez la communauté et prenez part aux débats
Partagez des articles premium à vos contacts
Abonnez-vousModifié le 12 août à 09h28
Ou alors c'est un cheat code pour obliger les
pigeonsclients à racheter un iPhone ?Modifié le 12 août à 10h04
D'autant qu'on se parle juste d'authentification de la photo avec certificat, au quotidien une photo lambda t'as pas besoin qu'elle soit certifiée 100% Bio par le FBI, la NSA et Tim Cook.
Mais faut voir effectivement ce qu'ils entendent par "compromis", si ça veut dire qu'on peut pas changer de capteur photo en cas de panne, on va en revenir au fameux "Il faut tout racheter" et Apple va trouver une nouvelle raison de tuer le marché de la réparation.
Le 12 août à 11h10
Modifié le 12 août à 14h22
Après, les modalités ne disent pas clairement si Apple va juste permettre à un tiers de vérifier le certificat lié à la photo sur une mécanique en double aveugle ("Cette photo a été prise d'un iPhone et Apple en garantit l'authenticité") ou diffuser le nom du propriétaire de l'iPhone en question ("Apple garantit que cette photo a été prise de façon authentique par Pierre DUPOND")
A priori le texte de la capture d'écran sous entend que ça serait paramétrable. On pourra donc sûrement choisir entre "Indiquer que la photo est authentique" et "Indiquer que j'en suis l'auteur".
Dans tous les cas ce n'est pas un réglage obligatoire, c'est un mode dédié spécifiquement à faire des photos certifiées. Je vois plus dans l'usage le moyen de rassurer un acheteur sur une transaction entre particuliers, d'envoyer une photo d'identité à une administration, l'état des lieux d'un véhicule à une assurance, etc.
Le 12 août à 16h18
Modifié le 12 août à 16h47
En revanche, si Apple soupçonne une modification, il viendra effectivement sanctionner de façon rétroactive en disant "OK y'a eu un changement, je l'ai peut-être pas sû avant donc ne faites plus confiance à ce truc", ça me choque pas.
J'imagine que ça fonctionne pareil sur la signature électronique, si Docusign ou équivalent me banni quand ils découvrent que j'ai soumis une fausse identité, je suis pas sûr qu'ils vont continuer d'afficher que "tout va bien" lorsqu'ils seront interrogés sur le document qu'ils ont approuvés l'an dernier.
Pour les exemples, on peut imaginer :
Après, c'est les délais légaux qui rentrent en jeu, et les conséquences associées. Possible qu'Apple ait une idée derrière la tête, mais pour moi ça reste vraiment juste un moyen de dire "Oui, cette photo vient bien d'un iPhone, c'est pas généré par une IA".
Le 12 août à 17h44
Je vois mal les utilisateurs finaux (assureurs, acheteurs de voitures, etc.) passer leur temps à re-re-re-vérifier régulièrement si la photo n'a pas été "révoquée".
Ce que je veux dire c'est que c'est le fait de créer un climat de confiance (ton histoire de 0,1% de non conforme) qui favorise les fraudeurs en diminuant la vigilance normale : c'est pour cela qu'il est important pour moi que l'information à propos d'une "révocation" soit transmise aux intéressés. Sans cette transmission, la confiance accordée à cette technologie par ses utilisateurs serait à sens unique.
Modifié le 12 août à 18h11
Continuer à dire que sont valides des données de janvier 2026 sur une personne dont tu sais qu'il y a eu fraude la semaine dernière, c'est pas terrible.
Tim m'a conseillé le restaurant du coin, entre temps ce restaurant a fait la Une des journaux pour défaut d'hygiène et Tim l'apprends. Si je redemande à Tim, il me recommandera pas le resto, même s'il n'a pas été malade quand il y est allé. Pour autant, je vais pas lui reprocher de pas m'avoir appelé pour me dire de plus y aller ?
Notifier tout le monde, ça veut dire que tu sais exactement qui t'as demandé la validité d'une image, avec des coordonnées de contact. Ça peut faire un volume gigantesque de données stockées, et ça enlève tout anonymat du destinataire. Le proposer sous forme d'un service en opt-in, pourquoi pas ? Mais là encore, combien de temps cette info garde de la valeur dans un échange entre deux contacts...
Je sais pas comment gèrent les cas de crypto sur les "freezes" ?
Le 12 août à 18h32
Pour le reste de ce que tu dis, ça fait aussi partie de ce qui rend cette techno questionable. Les usages sont généralement d'authentifier bilatéralement un acte (par exemple de vente) par ses parties, et non pas d'avoir une preuve unilatérale. Les cas où une preuve unilatérale existe sont les cas c'est un tiers assermenté qui atteste son authenticité, pas une entreprise privée. Et oui c'est du opt-in sans possibilité d'anonymat sinon ça ne fonctionne pas.
Je vois pas d'issue non plus, mettre la preuve dans une blockchain reviendrait à pousser plus loin encore le techno-solutionisme sans résoudre la question de savoir à qui on fait confiance.
Le 12 août à 10h27
Plus sérieusement, un peu plus de respect entre les uns et les autres, ça ne ferait pas de mal.
Le 12 août à 16h26
Alors le consommateur... je comprends bien qu'il ait peur de fuir Apple pour venir chez les ploucs, mais promis on a arrêté la guillotine.
Modifié le 12 août à 18h31
J'espérais une discussion sérieuse visiblement il en a pas.
Le 12 août à 18h38
Le 12 août à 18h59
Bref....
Le 13 août à 15h18
Le 12 août à 09h51
Je m'explique :
C'est forcément déjà existant, non ?
J'ai l'impression que Apple réinvente la roue.
Le 12 août à 10h07
Le 12 août à 12h17
Le 12 août à 17h23
Le 12 août à 17h55
Le 13 août à 11h51
Qu'ensuite un autre supprime cette info, ce n'est pas grave pour l'auteur de la photo qui l'a par exemple postée sur un site/réseau social ou je ne sais quoi. L'information reste disponible là ou il l'a postée.
On est dans un problème opposé à celui de tatouer les générations des IA de l'article sur Anthropic où, là c'est embêtant que l'on puisse supprimer l'info "généré par IA".
En y réfléchissant, la seule solution pour distinguer les générations par IA des autres, c'est d'authentifier les générations humaines quand l'auteur le veut. Par contre, ça pose probablement d'autres problèmes liés à la vie privée et l'anonymat. Globalement, je n'aime pas trop ça, mais je ne vois pas d'autre solution fiable.
Ça devient important de savoir qu'un truc a été généré par un humain avec toute la désinformation générée par IA.
Modifié le 13 août à 13h11
Même si perso j'ai tendance à considérer que le Web est faux si on ne croise pas ses sources, je n'ai pas envie que ça devienne la règle par défaut et de devoir justifier ma production artistique (photographie et écriture) en permanence. J'ai plusieurs fois utilisé l'expression de chasse aux sorcières sur le débat de l'impact de l'IA gen dans la création, et on est en plein dedans quand on voit les accusations qui peuvent être proférées et l'incapacité de démontrer l'inverse.
Si demain on "m'accuse" de recourir à de l'IA générative, j'exige que ce soit l'accusateur qui apporte des preuves vérifiables et non à moi de devoir prouver mon innocence, comme la justice doit se faire dans notre hiérarchie des normes.
Malheureusement, la tendance est inverse (et dans de nombreux domaines sociétaux). L'accusation est proférée, le doute est semé, le discrédit s'en suit, la condamnation arbitraire avec, le tout sans aucun droit à la défense.
L'autre élément qui me déplaît, c'est cette notion d'empreinte calculée et donc de vérificateur. Pour le moment, vu la description, c'est du offline. Très bien. Mais au vu des tendances à toujours tout centraliser, ça pue à des kilomètres une progressive DRMisation des contenus via des supposés "tiers de confiance". (qui ne seront pas européens, au passage)
Et là, j'ai un autre précédent qui me vient en tête : Adobe, le DRM des livres numériques, accusé aux USA d'avoir utilisé ceux-ci pour entraîner ses modèles.
Que des auteurs veuillent un outil pour avoir une preuve vérifiable ne me dérange pas. Au contraire, j'y recours moi-même avec par exemple eSoleau de l'INPI. Problème : les certificats horodatés, c'est payant. Pour revenir à ce "tiers de confiance", ça ne me dérangerait pas qu'un tel service soit proposé par l'INPI, par exemple.
(mais le côté payant peut dissuader, même si c'est 15 € pour 5 ans sur eSoleau, je connais pas mal d'auteurs passionnés qui ne peuvent/veulent pas forcément se le permettre - sans oublier que ça impacte une production "fil de l'eau" comme la photo. Perso, je le fais par batch une ou deux fois par an pour mes textes)
Mais, ce qui m'inquiète, c'est que ça devienne demain la norme, ce qui glisserait vers une sorte de permis de créer pour "authentifier" une production humaine. Je suis peut être pessimiste, mais hélas, la seule fois où j'ai confiance en l'humanité, c'est pour faire des conneries monumentales.
Le 12 août à 13h16
@SebGF t'as répondu pour partie. Le problème n'est pas seulement un algo complexe. C'est comment faire pour qu'on n'efface pas tout simplement la preuve.
Le norme que donne @Vekin a montré ses défauts.
Le seul vrai moyen c'est d'avoir un tiers dans la boucle. C'est un peu le système décrit dans l'article. Mais ce n'est pas un tiers de confiance. C'est Apple...
Le problème de l'authentification d'une œuvre c'est la preuve. Donc le dépôt quelque part. Avec toute la responsabilité de la confiance qu'on place dedans.
Cela suppose pour que cela soit robuste, un moyen d'identifier le document même partiel, un service qui est garant de la clé et du dépôt des signatures (le moyen de prouver), etc. Un peu comme les services de la SACEM mais en version totalement numérique et avec un rendement bien plus rapide.
Ça devient vite un casse tête. Il faut normer la chose et donc mettre tout le monde d'accord. Et c'est la que la fête commence.
Ici Apple prend son propre matériel comme source de la preuve...
Apple est en train de nous faire une 'stunt' comme elle a l'habitude.
Le 12 août à 10h08
Le 12 août à 10h34
Le 12 août à 11h03
Dans un cas professionnel, les chaines de production font que la photo n'est jamais publiée telle quelle (recadrage, redimensionnement...), voir même pouvoir techniquement remonter à la source peut poser problème en journalisme.
L’unique utilisation serait les réseaux sociaux, à quoi ça sert d'authentifier les photos ? A prouver qu'on est pas un mytho en train de s'inventer une vie ? C'est triste.
Le 12 août à 11h21
;)
Le 12 août à 17h28
C'est un peu comme l'arrivée du HTTPS "obligatoire" : c'est à cause de mauvaises actions de certains qu'on doit se méfier des autres...
Le 12 août à 12h20
Le 14 août à 20h00
Il suffirait donc de prendre en photo n'importe quelle daube en photo pour le "certifier"
Signaler un commentaire
Voulez-vous vraiment signaler ce commentaire ?