110 000 conversations ChatGPT étaient publiques à cause d’une fonction de partage

Tout a commencé avec un article de Fast Company le 30 juillet. Nos confrères y indiquaient que Google indexait des conversations de ChatGPT « que les utilisateurs ont envoyées à des amis, des membres de leur famille ou des collègues ». Pour les envoyer, les personnes avaient utilisé la fonction de partage, qui permet de pointer un morceau d’échange jugé intéressant.

Bien que la fonction doive être actionnée manuellement, les utilisateurs n’ont peut-être pas saisi entièrement les conséquences de l’action. Les informations contenues dans les échanges devenaient en effet publiques et donc indexables par Google. De fait, avec les bons paramètres de recherche, on pouvait trouver de nombreux échanges privés, renvoyant souvent à des informations très personnelles ou sensibles.

Florilège

Les informations apparaissant dans les échanges montrent l’ampleur de ce que l’on peut demander à un chatbot. Dans le cas de ChatGPT, la santé mentale est souvent abordée. Pas étonnant que l’entreprise ait annoncé récemment des changements à ce sujet.

En outre, comme l’indique Fast Company, plus d’un Américain sur deux se tourne vers les grands modèles de langage pour obtenir un soutien psychologique. Nos confrères rappellent cependant qu’à la grande différence d’un entretien avec un(e) psychologue, ces échanges ne sont pas soumis au secret médical.

Les informations trouvées dans les échanges contenaient de nombreux passages sensibles. Un utilisateur a par exemple décrit sa vie sexuelle en détails et ses déboires dans un pays étranger. Un autre affirme être un survivant d’une programmation psychologique et cherche le moyen de se déprogrammer. D’autres poussent loin les détails sur leurs relations familiales. Le phénomène est d’autant plus visible qu’à peine quelques jours avant, Sam Altman, CEO d’OpenAI, indiquait dans une interview qu’il ne valait mieux pas partager les « informations les plus sensibles » avec ChatGPT.

404 Media, qui a plongé également dans ces échanges, cite d’autres exemples. Nos confrères y ont trouvé des accords de non-divulgation présumés, de nombreuses demandes d’aide pour des problèmes relationnels, d’autres pour trouver des formulations sur LinkedIn, de l’aide pour écrire un dernier message à une ex-petite amie, une demande pour rédiger un contrat, etc. D’après 404 Media, ces échanges contenaient de très nombreuses informations identifiantes, dont des noms de personnes.

OpenAI désindexe les conversations, mais...

Le problème a rapidement pris de l’ampleur. Si 4 500 conversations avaient initialement été trouvées, le chercheur Henk van Ess en a déterré 110 000, en collaboration avec Nicolas Deleur, un autre analyste. Pire, ces échanges ont été trouvés après la réaction d’OpenAI. La société avait en effet annoncé que le contenu incriminé avait été désindexé de Google.

Comment a fait Henk van Ess pour trouver 110 000 échanges ? En cherchant dans la Wayback Machine d’Archive.org. Le chercheur estime qu’OpenAI a commis une erreur grossière en oubliant que tout contenu publié sur internet ne pouvait plus vraiment disparaitre.

Et certaines conversations sortaient clairement de l’ordinaire, comme le cas d’une personne se présentant comme « l’avocat d’un groupe multinational actif dans le secteur de l’énergie » cherchant à déplacer « une petite communauté autochtone amazonienne de ses territoires afin de construire un barrage et une centrale hydroélectrique ».

« Restez à l'écoute »

Dane Stuckey, directeur de la sécurité de l’entreprise, a cependant déclaré le 5 août à 404 Media : « Nous venons de supprimer une fonctionnalité de [ChatGPT] qui permettait aux utilisateurs de rendre leurs conversations détectables par les moteurs de recherche, tels que Google. Il s’agissait d’une expérience de courte durée pour aider les gens à découvrir des conversations utiles ».

L'interface était-elle suffisamment claire pour que les utilisateurs se sentent véritablement informés des conséquences ? OpenAI semble estimer que la présentation n’était pas optimale : « En fin de compte, nous pensons que cette fonctionnalité a introduit trop d’opportunités pour que les gens puissent partager accidentellement des choses qu’ils n’avaient pas l’intention de faire, nous supprimons donc l’option ».

Surtout, OpenAI confirmé à nos confrères que le contenu indexé avait été supprimé. Et la Wayback Machine ? Là aussi, le tir semble avoir été corrigé. Une requête comportant la chaine « chatgpt.com/share » renvoie le résultat : « This URL has been excluded from the Wayback Machine ». Sur X, Henk van Ess a confirmé le 4 août que la requête ne pouvait effectivement plus être exploitée. Cependant, il laisse entendre que l'histoire n'est pas terminée, encourageant à « rester à l’écoute » (« Stay tuned »).

Ajoutons enfin que si Bing affichait encore hier un résultat, ce n'est plus le cas au moment où nous publions ces lignes. En revanche, il en reste un dans Qwant.