« Dangers de l’intelligence artificielle : la France dans le déni ? » Pour son lancement officiel, ce 10 septembre, Pause IA veut marquer les esprits et cela se sent autant dans le titre de sa conférence que dans les prises de paroles de ses membres et invités.

Cofondée avant l’été par le data scientist Maxime Fournes et le musicien Gilles Breda, Pause IA est la version française de l’organisation internationale Pause AI, fondée début 2023 aux Pays-Bas et déjà riche de plusieurs dizaines de communautés affiliées, principalement ouvertes en Europe de l’Ouest et aux États-Unis.

Celles-ci se sont déjà fendues de manifestations dans plusieurs endroits du monde, dont celle organisée en mai avait réuni à Paris une poignée de personnes. Leur but, à toutes : obtenir un « moratoire sur l'entraînement de systèmes plus dangereux, afin d'éviter une catastrophe mondiale ».

• Des militants protestent contre l’usage d’IA à des fins militaires et la possibilité d’une IA générale

Critique du rapport du conseil de l’intelligence artificielle

Pour son événement de rentrée, c’est une cinquantaine de personnes, curieux et journalistes, qui assistent aux prises de paroles de l’ancien président du Hub France IA Patrick Albert, de la philosophe Anne Alombert ; puis à la présentation, par le président de Pause IA, d’une contre-expertise du rapport rendu en mars 2023 au gouvernement par son comité sur l’intelligence artificielle.

Ce faisant, la petite entité rejoint les critiques déjà formulées par d’autres associations, en tête desquelles celles relatives à la composition de la commission – cette dernière compte de nombreux représentants des plus gros industriels du secteur (Joëlle Barral pour Google, Arthur Mensch et Cédric O pour Mistral AI, Yann LeCun pour Meta).

Surtout, Maxime Fournes s’indigne de la « minimisation systématique des risques » posés par l’IA dans les recommandations formulées auprès du gouvernement. Parmi les plus importants, les risques relatifs à l’espace public numérique, les risques en matière de cybersécurité – par la génération, dans les deux cas, de texte crédible ou de code malveillant efficace – ou encore la question des risques existentiels.

Et le data scientist d’opposer les arguments d’un Yoshua Bengio et d’un Geoffrey Hinton, tous deux très présents l’an dernier sur la scène médiatique pour alerter contre les risques d’un potentiel dépassement de l’humain par l’intelligence artificielle, à ceux d’un Yann LeCun, plus mesuré sur la question.

• AGI, GPAI, modèles de fondation… de quoi on parle ?
• Transhumanisme, long-termisme… comment les courants « TESCREAL » influent sur le développement de l’IA

Le risque existentiel, un repoussoir ?

Oui mais voilà, si ce type de discours a pu convaincre en 2023, en ce mois de septembre 2024, l’auditoire y est plus rétif. Axer le combat de Pause IA sur la question des risques existentiels (qu'étudie le domaine de l'« AI safety», traduisible en sécurité ou sûreté de l'IA), est-ce vraiment le plus efficace ?

• L’Université d’Oxford ferme le Future of Humanity Institute dirigé par Nick Bostrom

La question est posée à plusieurs reprises, dans l’amphithéâtre du Learning Planet Institute. Maxime Fournes y répond patiemment : le sujet « n'est pas le seul » traité par l’association, mais il reste un enjeu important, « moi j’y crois ».

Dans ces trois petits mots répétés à deux ou trois reprises surgit une des interrogations qui, peut-être, brouille certains débats autour des enjeux de l’intelligence artificielle : quand Pause IA évoque les risques existentiels, sommes-nous encore dans le domaine de la science, ou dans celui de la croyance ?

Citant l’exemple des armes nucléaires, Maxime Fournes esquisse auprès de Next un début de réponse : « Dans ce domaine, on peut faire des modélisations qui permettent d’estimer ce qu'il risque de se passer en cas d’usage de ces armes, sans tomber dans la croyance. »

Le président de l’association salue aussi l’opportunité du débat. « Nous avions fait exprès d'inviter une variété large d’interlocuteurs, notre but est justement d’engager des discussions avec des personnes aux opinions différentes des nôtres » (parmi elles, certains soulignent que le champ de la sécurité de l'IA a pu être critiqué pour sa propension servir, à terme, les intérêts des industriels du secteur).

Au lendemain de la rencontre, cela dit, Maxime Fournes regrette un peu l’importance prise par les risques existentiels dans les échanges : « certes ils nous occupent, mais ils sont loin d’être le centre de nos occupations. Ce qui nous intéresse, ce sont tous les risques posés par l’IA, les hypothétiques comme les très actuels. »

Le sommet pour l’action sur l’IA en ligne de mire

Ce qui intéresse aussi Pause IA, c’est la tenue, les 10 et 11 février prochains, du Sommet pour l’action sur l’IA, dont l’envoyée spéciale Anne Bouverot a co-rapporté le fameux rapport de mars 2023 critiqué par l’association. L’événement fait suite au Sommet sur la sécurité de l’IA organisé en novembre 2023 à Londres, et à celui de Séoul, en mai 2024.

Et l’un des éléments qui fait tiquer Maxime Fournes est la disparition du terme « sécurité » du programme des échanges - en l’occurrence, le groupe de travail dédié au sujet est nommé « IA de confiance ». Une preuve de plus, estime-t-il, du « gros déni » de la France envers les risques des applications du vaste champ de l'intelligence artificielle.