Quelques jours après la publication d’une lettre ouverte signée par plusieurs pontes de l’industrie numérique et appelant à une pause de six mois des laboratoires de recherche en intelligence artificielle, les chercheuses Angelina McMillan-Major, Margaret Mitchell, Emily Bender et Timnit Gebru ont publié leur propre réponse.

En 2020, les quatre femmes avaient cosigné l’article « À propos des dangers des perroquets stochastiques : les modèles de langages peuvent-ils être trop gros ? 🦜 » qui alertait, déjà, contre les multiples problématiques posées par les grands modèles de langages (LLM).

• Dangers des grands modèles de langage : des chercheuses avaient prévenu
• Que dit la documentation de GPT-4 ?

À l’époque, cet article avait valu à Margaret Mitchell et Timnit Gebru d’être licenciées par Google : la première travaille désormais chez Hugging Face et la seconde a co-fondé l’institut de recherche indépendant DAIR (Distributed AI Research Institute).

Dans un entretien accordé à Politico, Timnit Gebru revient sur le fond du message que ses collègues et elle souhaitent faire passer.

Pour la scientifique, les constructeurs de modèles d’IA générative comme OpenAI partent de plusieurs hypothèses sujettes à débat, à commencer par celle qu’il faudrait « un modèle susceptible de fonctionner pour tout le monde, partout, pour que nous n’ayons à payer qu’une ou deux entreprises pour accomplir littéralement toutes les tâches de notre quotidien ». Or, ce présupposé n’a rien d’obligatoire, selon elle.

Par ailleurs, le vocabulaire employé dans la lettre ouverte initiale et dans les prises de parole d’acteurs comme Sam Altman, co-fondateur d’OpenAI, laisse entendre qu’il faudrait « adapter » la société pour faire face aux « perturbations » que les LLM créent pour la démocratie.

« Ça me paraît ridicule » déclare l’informaticienne, qui rejette l’idée de présenter ces innovations comme des technologies qui doivent nécessairement exister, plutôt que comme des outils destinés « à nous aider à exister comme nous souhaitons exister ».

Recadrant le débat dans ses propres termes – ceux de technologies créées par les humains, et donc sur lesquelles les humains ont la main –, la chercheuse appelle donc à des régulations qui s’appliqueraient aux entreprises plutôt qu’aux usagers, et qui demanderaient auxdites sociétés de prouver avant commercialisation que leurs produits d’IA remplissent un certain nombre de prérequis fixés par les législateurs.

La Chine projette de viser en 2025 l'astéroïde 2019 VL5 pour le percuter avec un impacteur lancé à bord d'une fusée Longue Marche 3B, rapporte Space News. Comme la mission DART de la NASA, le but affiché de l'agence spatiale chinoise est de voir si elle est capable de dévier un astéroïde qui arriverait vers la Terre. La fusée chinoise doit envoyer l'impacteur, mais aussi, spécificité de la mission chinoise, un vaisseau d'observation muni de diverses sondes qui lui permettront de rapporter rapidement les résultats de l'impact.

En effet, si la NASA a bien réussi à dévier l'astéroïde Dimorphos qu'elle visait avec la mission DART, l'observation précise des effets sur l'astéroïde par le satellite Hera de l'agence spatiale européenne (ESA) n'est prévue que dans un second temps, en 2026.

Ici, la Chine prévoit de faire d'une fusée deux coups en envoyant l'impacteur et l'observateur.

• DART, la mission qui veut « modifier une petite partie du Système solaire pour toujours »
• DART : déviation accomplie !
• DART : Confirmations scientifiques, l'astéroïde Dimorphos a bien été dévié

Les modèles d’IA générative à la ChatGPT ne sont pas sans risques pour l’écosystème de l’information. Nouvelle illustration avec une récente « hallucination », comme les appellent les chercheurs, de ChatGPT.

Alors qu’un avocat californien demandait à ChatGPT de générer une liste de juristes accusés de harcèlement sexuel, celui-ci a produit le nom de Jonathan Turley. Citant un article publié en mars 2018 par le Washington Post, le robot produit un texte dans lequel il est expliqué que Jonathan Turley aurait attouché sexuellement une étudiante pendant un voyage en Alaska.

Problème : il n’y a pas eu de voyage en Alaska, pas plus que d’article dans le Washington Post. Et si Jonathan Turley avait déjà fait corriger des interviews, cette fois-ci, il n’y avait aucun journaliste ni aucune rédaction à appeler.

L’affaire a été rapportée par le Washington Post (pour de vrai, cette fois-ci) à peine quelque jours après que le maire de Hepburn Shire, en Australie, avait menacé de porter plainte pour diffamation.

Dans son cas, la machine d’OpenAI avait formulé un texte déclarant, à tort, que l’homme avait passé du temps en prison pour corruption.

• ChatGPT, Bard et les autres, agents de désinformation massive ?
• Où en sont les modèles d’IA génératifs ?
  

Dans ces affaires, non seulement la machine diffuse de fausses informations, mais elle les rend d’autant plus crédibles qu’elle fournit aussi de fausses citations sur lesquelles appuyer son propos.

Par ailleurs, le Washington Post a reformulé la requête initiale de l’avocat californien et constaté que la version gratuite de GPT-4 ne lui donnait plus la même réponse.

Du côté de Bard, en revanche, le modèle de Google, les journalistes ont de nouveau obtenu de fausses accusations au sujet de Jonathan Turley.

En citation pour appuyer son texte, la machine a notamment fourni la tribune bien réelle du juriste, publiée dans USA Today… mais dans laquelle il explique précisément avoir été victime d’une fausse information.