Sur son profil LinkedIn, Damien Charlotin se présente (en anglais) comme journaliste spécialisé dans les litiges internationaux et l’arbitrage le jour, data scientist et conseiller juridique la nuit, universitaire et conférencier, chargé de recherche à HEC et Sciences Po, où il apprend aux étudiants à coder, en python, « afin d’en faire de meilleurs juristes » :

« J’enseigne également un cours intitulé « Les grands modèles linguistiques et l’avenir du droit », rien de moins. Je répète principalement « soyez le remplaçant et non le remplacé » sur différents tons aux malheureux étudiants, jusqu’à ce que je sois moi-même remplacé. »

Contacté, Damien Charlotin nous explique avoir commencé à travailler sur des LLM à HEC en 2020, après son doctorat à Cambridge, dans une équipe qui travaillait sur des LLM depuis 2018 : « mon doctorat était une analyse de données, et toute ma carrière académique est basée sur le fait de prendre le droit comme de la data, et de l’analyser comme telle », précisant avoir à l’époque constitué une base de données d’environ 1 million de citations, d’où son intérêt pour l’IA en général, et les scripts en python en particulier :

« Ma thèse était consacrée à une analyse des citations en droit international, et pourquoi on citait X plutôt que Y. Et souvent c’était parce que c’était plus persuasif (ce que j’ai donc cherché à questionner), et qu’un bon argument juridique est un argument d’autorité. Je vais citer parce que c’est important d’avoir des citations. Il y a des parallèles avec le fait d’être cité dans les publications scientifiques. Un mémoire bien rempli semble plus pertinent, même s’il est mal rempli. Et les hallucinations me renvoyaient à ça. L’argumentation juridique est très basée sur l’argument d’autorité ».

Il explique avoir une utilisation « assez large » de l’IA : « dans ma pratique juridique et académique, je m’en sers pour savoir bien le faire, y’a tout un dividende (« payoff ») à percevoir et à utiliser ces outils, je code beaucoup avec, comme beaucoup, je les utilise pour collecter des données, j’ai développé des outils pour plein d’applications, mais pas pour générer mes articles [journalistiques, ndlr] ».

Les étudiants passent 5 mois à préparer leurs mémoires, nous on en a fait 12 en 12 h

Damien Charlotin vient cela dit de co-signer, avec Niccolò Ridi du King’s College de Londres, un pre-print (article non relu par les pairs) au sujet d’une expérience ayant consisté à envoyer douze plaidoiries de 9 000 mots générées par Gemini 2.0 et GPT4o, « avec une intervention humaine minimale », au concours de droit international Philip C. Jessup. Considéré comme le plus prestigieux du genre, il réunit chaque année des étudiants en droit de plus de 700 universités dans plus de 100 pays, et plus de 900 équipes y concouraient cette année.

Damien Charlotin nous précise qu’il est l’administrateur pour la France de ce concours de plaidoirie, et qu’il avait bien évidemment reçu l’aval des organisateurs avant d’effectuer cette expérimentation.

« Trouver la bonne approche et le bon prompt nous a pris du temps, mais une fois que c’était fait ça a été très vite. Les étudiants passent 5 mois à préparer leurs mémoires, nous on en a fait 12 en 12 h, dont 4 - 5 heures pour générer le prompt », nous explique-t-il.

Rajoutées de façon anonyme à l’ensemble des soumissions, elles ont toutes obtenu des notes dans la moyenne des contributions « humaines » voire supérieures à la moyenne, certaines recevant même des « éloges exceptionnels » voire des notes « presque parfaites », avec des notes suffisamment élevées pour figurer dans les 5 % des mémoires les mieux notés.

L’article relève que les mémoires générés par l’IA « ont excellé en termes d’organisation, de structure et de clarté linguistique, domaines dans lesquels les juges ont toujours été élogieux », quand bien même plusieurs comportaient pourtant des « lacunes persistantes propres aux LLM, notamment des inexactitudes factuelles, des citations hallucinées et analyses juridiques superficielles » :

« La présentation propre et professionnelle et le respect des conventions de formatage attendues ont permis d’obtenir de bonnes notes pour le style et la clarté. Toutefois, ces points forts en surface masquent souvent d’importantes lacunes sur le fond. Les juges ont fréquemment relevé des inexactitudes factuelles, des erreurs de citation (y compris des sources hallucinées ou déformées) et un manque de profondeur analytique. »

Le modèle « centaure » : l’IA pour les tâches auxiliaires, l’humain pour l’analyse

Les auteurs de l’article en concluent que « les LLM actuels peuvent fonctionner efficacement en tant que juristes internationaux à certains égards. Ils sont capables d’organiser des arguments juridiques complexes, d’utiliser les autorités canoniques de la manière attendue et de maintenir un ton professionnel constant » :

« Ces capacités en font des outils précieux pour structurer les arguments et améliorer les éléments stylistiques de la rédaction juridique, ce qui est particulièrement bénéfique pour les personnes dont l’anglais n’est pas la langue maternelle. Dans le même temps, les résultats soulignent l’importance cruciale de la supervision humaine, en particulier pour vérifier les affirmations factuelles et l’exactitude des citations, car l’IA a encore du mal à maîtriser le raisonnement analytique plus profond et l’intégration de recherches nuancées qui caractérisent le travail juridique des experts. »

Soulignant que « les praticiens sont plus à l’aise pour utiliser l’IA pour des tâches auxiliaires telles que la traduction et l’examen de documents que pour le raisonnement juridique de base », ils avancent que « [leur] étude indique que l’approche la plus efficace de l’intégration de l’IA peut être un modèle « centaure » dans lequel les juristes humains utilisent l’IA pour des tâches de rédaction et d’organisation tout en gardant le contrôle sur l’analyse juridique de fond et la vérification des faits. »

« On a fait un sondage, et s’il y avait peu d’étudiants (15 - 20%) parmi ceux ayant répondu à avoir utilisé l’IA pour générer tout ou partie de leurs articles, plus de 50% s’en sont servi pour leurs recherches, mais la plupart ont eu des notes inférieures à la moyenne, contrairement à nous », nous explique Damien Charlotin : « l’an prochain, on va réessayer avec quelque chose de plus complexe, et dynamique ».

161 plaidoiries judiciaires « hallucinées » par l’IA

Damien Charlotin a aussi publié sur son site deux bases de données consacrées à l’utilisation de l’IA dans des plaidoiries, dans le cadre de la collaboration de HEC et Polytechnique dans le centre de recherche Hi!Paris (ou Center on Data Analytics and Artificial Intelligence for Science, Business and Society) : « je préparais un cours pour mes étudiants, et quand j’ai voulu trouver des data, il n’y en avait pas, et donc j’ai commencé à les compiler ».

AI Evidence Cases recense ainsi 12 affaires juridiques dans lesquelles l’IA générative a été utilisée, depuis janvier 2023, pour présenter un argument ou démontrer quelque chose.

AI Hallucination Cases répertorie de son côté, depuis juin 2023, 161 cas de plaidoiries judiciaires qui reposaient en partie sur des contenus hallucinés par des IA génératives, telles que de fausses citations et jurisprudences, ou la mention d’affaires judiciaires inexistantes, dont 43 en 2024, et 40 pour le seul mois de mai 2025 (contre 21 en avril, 19 en mars, 8 en février et 10 en janvier).

Un avocat israélien avait ainsi plaidé de « nombreuses décisions inexistantes de la Cour suprême et des tribunaux de district », faisant reposer en outre sa plaidoirie sur des citations mal attribuées et d’autres fictives. Un avocat espagnol avait pour sa part cité 19 décisions de la Cour constitutionnelle « fabriquées de toutes pièces ».

Une centaine de ces affaires ont eu lieu aux USA, 17 en Israël, 9 au Royaume-Uni, 7 au Canada, 5 au Brésil et 4 en Australie. 77 de ces cas émanent de plaignants s’étant eux-mêmes défendus (« Pro Se Litigant », mais il peut aussi s’agir de juristes), 71 d’avocats, mais on y trouve aussi un procureur, un juge, deux experts, et même un expert en désinformation.

Ce dernier, Jeffrey T. Hancock, a depuis admis avoir utilisé ChatGPT, et failli à identifier les citations « hallucinées » que l’AI avait inséré dans son mémoire d’expertise. Ironie de l’histoire, son expertise avait été requise en défense d’une loi, dans l’État du Minnesota, qui visait à interdire l’utilisation de deepfakes générés par l’IA en vue d’influencer les élections.

« Ne pas checker ses sources, copier-coller d’anciennes plaidoiries, ça a toujours existé, et ça passait », nous explique Damien Charlotin : « Je ne pense pas que ce soit très différent des plaidoiries faites par des avocats qui ne vérifient pas leurs sources, sauf qu’aujourd’hui, elles sont inventées. Ce n’est pas quelque chose qu’un humain ferait, et c’est ça qui est choquant, parce que ce ne serait pas une erreur, mais une faute ».

Une trentaine de ces 161 cas ont fait l’objet d’amendes et sanctions financières, allant d’une centaine de dollars à 100 000 £ (117 000 €) pour Craig Wright, un informaticien et entrepreneur australien qui cherche depuis des années à faire croire qu’il serait Satoshi Nakamoto, l’inventeur du Bitcoin.

Sa plaidoirie était bardée de fausses références et représentations erronées du droit, d’arguments « très verbeux et répétitifs », de « non-sens juridiques » et de « citations d’autorités inexistantes » typiques des contenus générés par IA, mais également de mensonges et de documents falsifiés.

Plus il y a de données à traiter, plus il y a de risques d’erreurs

Damien Charlotin explique avoir bien évidemment recours à l’IA pour collecter les données et compiler sa base de données, qu’il a commencé à constituer en avril dernier : « j’ai un pipeline où j’uploade un pdf et j’obtiens les noms, dates et autres éléments de base, et je relis bien évidemment avant publication, par exemple les résumés des plaidoiries. Il y avait des hallucinations dans les premiers résumés, ce qui était assez ironique, j’ai donc amélioré mon pipeline » :

« Un des facteurs d’hallucinations c’est quand vous rajoutez du contexte : plus il y a de données à traiter, plus il y a de risques d’erreurs. Par exemple hier Google a rendu publique une analyse sur Gemini, et noté que plus de contexte freinait l’analyse, que c’était bien pour certaines choses, mais pas pour d’autres. À chaque fois que je demande d’extraire des données dans un chat, j’obtenais trop de contextes et de données à traiter. Aujourd’hui, c’est complètement automatisé, alors qu’avant, je tchattais et entrais les éléments un par un. »

La surreprésentation de cas états-uniens serait due à « plusieurs raisons : la donnée judiciaire est publique, contrairement à de nombreux autres pays, avec des juges qui écrivent de longues décisions. C’est aussi une société qui a beaucoup de contentieux, et c’est un gros marché, un grand pays ».

La barrière de la langue biaise également son travail de recoupement. Il précise par exemple avoir récemment trouvé une base de données comportant une vingtaine de cas au Brésil : « je n’avais pas cherché en portugais ».

L’absence de cas français tiendrait en partie du fait que « les données ne sont pas ou peu disponibles. Et le juge ne discipline pas autant les avocats qu’aux USA ».

Interrogé quant au fait qu’il a identifié bien moins de cas d’utilisations revendiquées de l’IA que d’hallucinations, Damien Charlotin nous rétorque que « c’est plus dur à trouver, les plaidoiries ne s’en vantent pas, parce qu’il faut une certaine candeur pour le mentionner, et je ne cherche pas autant ».

Utiliser l’IA pour préparer des plaidoiries, c’est pareil que d’utiliser un stagiaire

Damien Charlotin a aussi mis en ligne sur son site les slides PowerPoint d’un cours intitulé « Les LLM et l’avenir de la profession juridique », qu’il compte décliner en livre, et qui permet de mieux appréhender son approche des IA. Il y écrit notamment qu’ « il s’agit d’une véritable révolution dans le travail de la connaissance, avec des implications immédiates pour la profession juridique » :

« Les LLM peuvent contribuer à la rédaction d’arguments juridiques complexes, à la recherche de précédents dans d’énormes ensembles de données ou à la réalisation de contrôles de conformité. […] Pour les juristes, dont l’ensemble du métier tourne autour de l’élaboration et de l’interprétation du langage, il ne s’agit pas seulement d’une amélioration progressive, mais d’un changement radical. »

« Moi-même j’ai utilisé l’IA pour préparer des plaidoiries, c’est pareil que d’utiliser un stagiaire, mais il faut relire bien évidemment », nous explique-t-il : « une grande partie du travail est bête et méchant, ça peut aider et c’est pas surprenant, vu que le travail juridique prend du temps, et qu’il repose beaucoup sur le fait de lire et d’écrire ».

« Ces débats ne sont pas si nouveaux : on a un vrai débat pour savoir si c’est normal que les arbitres internationaux laissent leur secrétaire écrire leurs jugements », embraie celui qui se montre lui-même prudent : « Je fais gaffe, mais peut-être qu’un jour je serai dans ma propre base de données, je suis faillible comme tout le monde ».

Ceux qui forment les LLM décident de ce qu’est la vérité

Outre les problèmes posés par les hallucinations, il prédit des cas d’injections de requêtes (ou prompt injection) d’ici quelques années visant à « blanchir » de fausses informations, comme l’a récemment fait le réseau de désinformation prorusse « Portal Kombat » en contaminant des IA génératives :

« Si les LLM sont sensibles aux données sur lesquelles ils sont formés, et si ces données proviennent d’Internet … qu’est-ce qui empêche quiconque de vanter sa théorie juridique favorite sur suffisamment de forums, de sites web, de pages de commentaires, d’articles auto-publiés, etc. pour devenir un « fait » en ce qui concerne les LLM ? Rien, et je prédis qu’il ne reste que quelques années avant que cela ne se produise, délibérément ou non. »

• Droit

  Le réseau de désinformation prorusse « Portal Kombat » contamine les IA génératives

  Droit

  Vendredi 07 mars 2025 à 13h46 07/03/2025 13h46

  13

Il évoque également « un point plus important », à savoir le fait que « ce sont souvent ceux qui forment les LLM qui décident de ce qu’est la vérité », et que cela ne concernerait pas seulement le fait de poser des questions au sujet de Tian’anmen à des chatbots chinois :

« La « réalité » présentée par un LLM n’est pas nécessairement objective ou neutre ; elle est façonnée par les données sur lesquelles le modèle a été formé, par les choix faits par ses développeurs et par les préjugés intégrés dans le système. »

Citant Michel Foucault, pour qui « le savoir n’est pas fait pour comprendre, il est fait pour trancher », il rappelle que ceux qui contrôlent le flux d’informations ont toujours eu du pouvoir, et que « les LLM amplifient ce pouvoir à un degré sans précédent » :

« Ils peuvent générer des « vérités » personnalisées faisant apparemment autorité à grande échelle, rendant de plus en plus difficile la distinction entre les faits et la fiction, entre la réalité objective et les récits élaborés. Cela a, entre autres, de profondes implications pour la démocratie, pour le système juridique et pour la société dans son ensemble. »

Pour lui, le problème ne relève pas seulement des « fake news » et de la désinformation, mais « des fondements épistémologiques de notre société, de la manière dont nous savons ce que nous savons et de la question de savoir à qui nous faisons confiance pour nous dire la vérité ». D’autant que, « dans un monde de plus en plus médiatisé par l’IA, ces questions deviennent plus urgentes et plus complexes que jamais ».

Le juge robot n’est peut-être pas parfait, mais c’est mieux que pas de justice du tout

Damien Charlotin conclut sa présentation en soulignant que « le juge robot n’est peut-être pas parfait, mais pour des milliards de personnes, il pourrait être bien meilleur que l’alternative : pas de justice du tout ». Dans une autre interview, il souligne cela dit qu’ « une grande partie du système judiciaire repose sur l’hypothèse que les gens ne l’utiliseront pas. Je crains que si nous facilitons le dépôt de plaintes, des affaires qui ne devraient pas être déposées, par exemple, pourraient l’être » :

« Par exemple, si je vous ai poussé dans la rue, vous pouvez intenter une action en dommages et intérêts contre moi pour un montant de 5 dollars. Le feriez-vous si vous deviez aller au tribunal ? Non. Le feriez-vous s’il vous suffisait de cliquer sur un bouton ? Peut-être que oui. Certains impacts systémiques pourraient donc être néfastes. »

« Je pense que l’IA est excellente du point de vue de l’accès à la justice », temporisait-il néanmoins : « la quantité de travail nécessaire pour les briefings et la recherche juridique est un obstacle énorme. Je n’ai pas lancé ce projet parce que je pense que l’IA ne fonctionne pas. Je m’attends à ce que les outils s’améliorent, même si la technologie de base ne changera pas fondamentalement ».

Interrogé à ce sujet, il nous répond : « j’aime la technologie, et ça pose plein de questions plus larges, en termes de créativité, de remises en question, mais à la fin des fins, je suis un optimiste, et c’est bien que ces outils prennent de plus en plus de place dans le droit. J’aimerais bien avoir des outils qui marchent, et qui font sens ».