L’IA de Doctrine.fr a « halluciné » une décision de la CEDH qui disait tout le contraire
Dur(AI)ex, sed lex
Une contributrice de Wikipédia a découvert que l’IA de Doctrine.fr avait « halluciné » que la Cour européenne des droits de l’homme avait « rejeté » la requête d’un plaidant. Or, la CEDH l’avait non seulement acceptée, mais la France avait en outre été condamnée à lui verser des indemnités. Doctrine.fr, qui vient d’entrer en négociations pour un rachat par le géant britannique RELX, nous répond que « d’après nos benchmarks, les hallucinations sont résiduelles ».
Sur son site, Doctrine.fr se présente comme « La 1re plateforme d’IA juridique », qui « soulage les avocats et juristes des tâches répétitives et chronophages d’analyse du dossier, recherche juridique et rédaction pour qu’ils sécurisent leur positions juridiques et gagnent en productivité » :
« Notre IA a été spécialement entraînée sur de l’information juridique à reproduire le raisonnement d’un juriste. Nos chatbots citent systématiquement leurs sources, des références juridiques à forte valeur ajoutée. Nos outils de productivité ont été pensés pour coller au plus près des besoins des professionnels. Nous ne laissons rien au hasard. »
En mars 2025, Doctrine rajoutait une « synthèse claire et visuelle », générée par IA, sur des millions de pages de décisions, résumant les arguments invoqués par les parties, s’ils avaient été acceptés ou rejetés, et pour quels motifs. Ces synthèses précisent que « Le contenu a été généré à l’aide de l’intelligence artificielle. Pensez à vérifier son exactitude. », tout en proposant un lien pour « Signaler une erreur dans le résumé ».
La semaine passée, Pa2chant.bis, une contributrice de Wikipédia, s’étonnait, sur le Bistro de l’encyclopédie, de découvrir que la « synthèse claire et visuelle » d’une décision de la CEDH sur Doctrine.fr indiquait que le recours d’un plaignant avait été « rejeté » au motif que « le requérant avait eu l’opportunité de se défendre sur les faits qui lui étaient reprochés ».
« Soit exactement le contraire » de ce qu’indiquait l’article Wikipédia consacré au plaignant, l’homme d’affaires franco-suisse Alain Duménil, qui mentionnait pourtant précisément Doctrine.fr comme source, déplore Pa2chant.bis :
« Cet argument, signalé comme étant à contrôler car généré par IA, ne figure pas dans le texte d’origine. Il est juste développé dans un encart mentionnant qu’il a été « résumé par IA ». J’ai cru un instant à un détournement de sources. Or quand on va chercher la source primaire contenant ce jugement, on voit que c’est l’IA qui a inventé la conclusion, en donnant le contraire exact de la décision. »
La requête du plaignant, introduite en 2013, avait non seulement bien été communiquée à la CEDH en 2019, mais cette dernière avait également condamné la France à lui verser 15 000 € « pour frais et dépens ».
« Cela me semble d’autant plus rédhibitoire pour un site juridique qu’il faut un temps fou pour retrouver, ailleurs, la décision, le site doctrine promettant un accès au pdf d’origine en échange d’un abonnement gratuit mais demandant finalement en plus la communication de son numéro de téléphone », déplore Pa2chant.bis : « Bref, je pense qu’on devrait dorénavant se passer des services de ce site. Qu’en pensez-vous ? ».
« L’IA sert à gagner du temps, pas à remplacer la réflexion humaine »
« Aucune intelligence, humaine ou artificielle, n’est infaillible, ce pourquoi nous précisons clairement sur chaque contenu généré par IA que cela a été le cas, et que nous invitons les utilisateurs à en vérifier l’exactitude », lui a répondu Hugo Ruggieri, qui précise sur son profil Wikipédia qu’il est directeur juridique et affaires publiques de Doctrine :
Commentaires (15)
Le 29 avril à 17h28
Le 29 avril à 18h18
Si sur un document juridique complexe, il faut vérifier la véracité de chaque ligne, où est l'intérêt du service ?
Le 29 avril à 20h16
Le 4 mai à 10h18
Et je pense que même si les sorties IA sont globalement bonnes, votre example n’est pas une simple erreur.
Ce n’est pas une omission, c’est une création de l’inverse de la décision.
Je pense qu’un humain qui fait cela a affaire à la justice pour malversation.
Le 29 avril à 20h43
Le 30 avril à 00h51
Le 29 avril à 18h14
Le 29 avril à 18h51
Le taux d'erreur des IA greffées aux articles de la BBC était par ailleurs entre 20 & 50 %...
Le 30 avril à 00h29
Un problème juridique a un peu plus de conséquences, en cas d'erreur, qu'un article de presse erroné (sans méchanceté aucune vis à vis des journalistes).
L'article, tu peux le rectifier, le cas échéant. Faire n'importe quoi juridiquement, tu ne peux pas toujours le rattraper le coup.
Le problème, ici, c'est qu'on parle d'un outil professionnel, censé remplacer les avocats, mais ils te disent, sur la partie la plus basique de l'outil, un résumé, que : « Le contenu a été généré à l’aide de l’intelligence artificielle. Pensez à vérifier son exactitude. ».
On paie pour de l'a peu près du coup ? Ça sert à quoi ? Non content de privatiser un fonds de décisions de justice, ils en font n'imp', parce que la mode de l'IA.
Et si tu ne peux pas avoir confiance en ton outil, c'est qu'il n'est pas bon.
Alors certes, au final, c'est au professionnel de vérifier ce qu'il raconte, mais quand même.
A titre personnel, j'utilise des outils, sans IA, qui sont peut-être moins rapides et moins clinquants, mais tellement plus fiables... Et de mon point de vue, c'est ce qui compte avant tout.
Le 30 avril à 11h06
Ma question, qui a été un peu répondue par Alexandre (raison pour laquelle je n'ai pas répondu à Jean marc), était plutôt de quoi se plaint on exactement ?
L'IA fait des hallucinations on le sait depuis longtemps et c'est pas près de changer à priori.
Des entreprises (journalistiques ou autre) utilisent d'une mauvaise manière un outil qu'elles ne comprennent pas - ce n'est pas nouveau en soi.
Doctrine offre un service qui est balisé et qui met suffisamment l'emphase sur ce qu'elle vend (à mon avis) et la qualité de ce qu'elle produit.
Est-ce que c'est concrètement l'usage de l'IA qui est dénoncé ici ? Est-ce des clients qui ne savent pas relire un document ? C'est ce que je trouve un peu flou dans l'article.
Modifié le 30 avril à 19h16
L'IA est un outil, les journalistes sont responsables devant la loi et le public. L'IA n'est responsable de rien, contrairement à ses concepteurs(trices) et au directeur de la publication du site web.
Le 1er mai à 08h37
Le 30 avril à 15h36
À ce niveau stratosphérique d'erreur, l'outil a quel intérêt ? (cf. la réponse de Mihashi sur le double boulot que ça engendre)
Modifié le 30 avril à 22h33
Aucun artisan, aucune personne disposant de connaissances et/ou capacités, n'a d'intérêt à se farcir une production dans laquelle les mensonges peuvent être planqués ci ou là.
Une "intelligence artificielle" générative ne se "trompe" pas car elle ne réfléchit pas.
Par le truchement de probabilités, elle finit par affirmer de manière péremptoire quelque chose de faux, ce que l'on appelle communément raconter des salades, voire si on y rajoute l'intention par sa présence systématique connue, mentir.
Par euphémisme, histoire de minimiser le problème, leurs promoteurs appellent cela "hallucination", pour que cela passe mieux : et ça fonctionne ! Tout le monde reprend le vocabulaire sans l'avoir questionné.
On ne "bosse" pas avec des IA : on fait mumuse, et quand on remplace un réel travail par du machin généré, c'est alors que les conséquences deviennent néfastes.
C'est au final la seule finalité de ce machin enfoncé dans le gosier : forcer l'existence d'un "oracle" qui n'aurait plus besoin de salaires, mais uniquement une licence qui coûterait globalement moins cher.
Ceux qui savent faire préfère faire directement.
Le machin auto-générant sert juste d'"oracle" pour les incultes et/ou les incompétents du domaine cible.
Le 4 mai à 10h13
Oui les humains font des erreurs mais sauf malversation n’inventent pas de faux résumés.
La force de l’humain c’est qu’il peut dire qu’il doute ou qu’il ne sait pas, ne connaît pas.
Une IA générative trouve toujours une réponse et donc mitonne par principe et comme elles toujours vendues, pub oblige, comme geniallissime, c’est de la merde.
Et en droit, on touche aux libertés individuelles donc vu l’enjeu c’est poubelle directe.
Signaler un commentaire
Voulez-vous vraiment signaler ce commentaire ?