« Nous avons commis une erreur de bonne foi en ne croyant pas qu’un outil technologique pouvait inventer des affaires de toutes pièces »

Dommage qu’ils n’aient pas lu l’avertissement sous chaque prompt. D’ailleurs cet avertissement est même réapparu sous forme de pop-up chez moi.

Sinon l’intervention du juge rappelant que l’avocat est garant de l’exactitude des déclarations rappelle la responsabilité de ceux-ci. L’outil n’est qu’un outil, comme toujours. Dans un contexte moins technologique, c’est la même chose que s’ils avaient utilisé aveuglément les travaux d’un stagiaire.

Tu as parfaitement le droit de suivre le taff de ton stagiaire et de l’utiliser. Si celui-ci a été de qualité, c’est même extrêmement valorisant pour ce dernier.

Mais dans tous les cas, tu le relis et vérifies avant de l’utiliser aveuglément. Aveuglément était le mot important de la phrase.

Tu confierais les droits root à un stagiaire sur ta prod ? S’il tank la prod parce qu’il a fait une erreur du fait de son inexpérience (car rappelons qu’un stagiaire est là pour apprendre à la base), ça reste toi le responsable de ce dernier.

(reply:2139890:consommateurnumérique)

En tout cas, il faut toujours se relire avant de remettre un travail. C’est une certitude. Autre certitude : l’outil informatique permet de fiabiliser la sauvegarde d’informations et d’accélerer son traitement, pas l’inverse.

Oui complètement, et ils ont fait là un mauvais usage de l’outil.

L’IA génératrice, sa puissance c’est de savoir utiliser une énorme quantité de donnée pour synthétiser, trouver des recoupements, classer, tirer, restituer, sous forme d’un texte lisible et compréhensible par un humain. Se baser uniquement sur les données du modèle d’entraînement est une erreur (et hélas le fait que ces outils soient sur-vendus sur ce point est aussi une erreur, voire un problème) car celles-ci ne servent qu’à donner de la “culture générale” à l’outil. Pour être pertinent, le modèle doit être capable de recouper des informations plus spécialisées ou précises.

C’est ce que j’ai observé dans l’usage de ChatGPT 3.⁵⁄₄ versus ChatGPT4 + Browse mode. Dans le premier cas, il se base sur ses connaissances et sort des informations dont la pertinence peut varier, voire dériver sur autre chose (c’est la root cause de l’hallucination des LLM, quand le contexte devient trop long, il perd les pédales, c’est pour ça que certains outils limitent la taille du contexte). Dans le second cas, il va chercher des infos sur le Web et les analyse ensuite tout s’en s’appuyant aussi sur sa “culture générale” (qui lui permet typiquement de comprendre le besoin).

J’ai plusieurs fois eu recours à ce moyen pour faire de l’analyse comparative entre différentes solutions. Plutôt que de passer des heures à aller comparer différents articles / docs / branlettes commerciales, c’est l’outil qui le fait et me sort un tableau récapitulatif en 5 minutes. Partant de là, j’approfondis les points qu’il n’a pas réussi à détailler ou qui sont incomplets.