L'erreur de Bard, réponse de Google à ChatGPT, a fait beaucoup de bruit, provoquant une perte de 100 milliards de dollars de capitalisation boursière.
Dmitri Brereton, un chercheur indépendant en IA, relève a contrario que les nombreuses erreurs faites par l'IA de Bing, lors de sa propre présentation, n'ont pas été relevées, même si elles étaient « encore pires ». La démo de Bing répertoriait pourtant les liens permettant de vérifier ses assertions.
Le Night Club de Mexico qu'il a mis en avant ne recense en effet qu'un seul avis sur TripAdvisor, qui date de 2014, et le dernier en date sur Facebook date de 2016. La présentation du bar « rustique et charmant » omettait par ailleurs de préciser qu'il s'agit du plus ancien des bars gays de Mexico, et de mentionner les 500 avis à son sujet sur Google.
Le « générateur de baratin » de Bing avait en outre faussé plusieurs des chiffres au sujet des résultats financiers de la société qu'il était censé documenter, et en avait même « complètement inventé ».
Pour Brereton, « Bing AI a fait un excellent travail pour créer un battage médiatique, mais leur produit n'est pas meilleur que Bard de Google » :
« Je suis choqué que l'équipe Bing ait créé cette démo préenregistrée remplie d'informations inexactes et l'ait présentée au monde en toute confiance comme si elle était bonne. Je suis encore plus choqué que cette astuce ait fonctionné, et que tout le monde ait sauté dans le train du battage médiatique sans la moindre vérification nécessaire. »
Commentaires (22)
#1
#1.1
Il faudrait vraiment proposer cette formulation à la Commission d’enrichissement de la langue française pour traduire “Artificial Intelligence”… Déjà en partant de l’autre sens de “Intelligence” en anglais : renseignement.
Renseignement artificiel, ça serait un bon début.
Mais en effet, générateur de baratin serait encore mieux.
#2
Non, “générateur de baratin”, c’est la traduction de “large language model”, le système sur lequel est basé chatgpt, bard, …
#2.1
Je dirais que ça collerait bien pour chatbot en général :)
#2.2
Je n’ai jamais entendu parler de “large language model”, mais plutôt d’IA conversationnelle ou “chatbot”.
Tu as raison, IA est un terme générique, mais l’article l’emploie.
Je trouve quand même que pour ce type/application d’IA, générateur de baratin est bien vu.
Il reste à trouver un bon terme pour les IA créatrices d’images.
Et d’une manière plus générale un autre terme qu’intelligence artificielle, parce que c’est vraiment trompeur.
#3
Moi j’ai bien ri avec l’article d’ArsTechnica avec la réaction de Bing.
https://arstechnica.com/information-technology/2023/02/ai-powered-bing-chat-loses-its-mind-when-fed-ars-technica-article/
Quand à la conversation pour savoir les horaires de projection d’avatar 2, c’est juste de l’or en barre.
#4
Tiens quelqu’un a déjà essayé de taper “Qui suis-je?” avec une de ces IA ? Je me demande si cela arriverait à détecter qui l’utilisateur est ou si cela chercherait sa propre personnalité.
#5
Cela proviends aussi peut être du fait que ce style de modèle c’est “prioritairement” pour donner des réponses crédibles et non des réponses justes.
C’était bien à mon avis, un domaine à approfondir du côté des IA. Mais est ce que tout ce “battage” autour de ChatGPT n’as pas entreiné trop de sortie prématurés ? Avant que le travail sur la justesse des réponses ne soit réalisé ?
#6
Je préfère “générateur de caca de taureau” mais je doute que l’Académie Française soit du même avis.
#7
Je suis choqué qu’il soit choqué.
#8
Perso, c’est la première fois que je vois un chatbot aussi agressif…
Une I.A. qui t’engueule, essaye de te manipuler pour te faire admettre qu’on est en 2022, conteste toutes les preuves, déclarant que ton smartphone a un virus s’il affiche 2023, t’accuse d’être un mauvais utilisateur car tu insiste sur le fait qu’on est en 2023 et exige que tu reconnaisse tes torts via un bouton explicite… le tout parceque tu as demandé les horaires pour aller voir Avatar 2, c’est fantastique, non?
Ce n’est pas juste un chatbot pour le grand public, il faut lui donner un ministère d’urgence.
#8.1
Et c’est quoi la différence avec l’état actuel des discussions sur le Web ? Car vu ce que tu relates, je vois pas la différence entre les humains et ces AI.
Ce doit donc être un succès.
#8.2
Bah finalement, c’est comme avec un utilisateur de twitter non ?
#9
Si vous n’avez pas encore vu des 2 vidéos, je vous les recommande. Elles expliquent comment fonctionne ChatGTP, et en quoi c’est le bullshitteur (baratineur) ultime. Un baratineur se moque de savoir si ce qu’il dit est vrai ou non. La seule chose qui l’intéresse c’est l’effet qu’il a sur vous:
https://www.youtube.com/watch?v=R2fjRbc9Sa0
https://www.youtube.com/watch?v=JcFRbecX6bk
#9.1
Plus de 67 minutes de vidéo, non merci.
#9.2
Top tes videos.
#10
Ou alors, c’est que ça fait déjà des années que tu vis dans un monde remplie d’IA de toute sorte. Qui sait ?
Nb : juste pour la boutade, pas pour me moquer de toi ou de ton propos.
#11
Ca expliquerait pas mal de choses !
Rassure-toi, il n’y a aucune contrariété.
Mais je trouve triste ce genre de disclaimer, obligé de se dédouaner immédiatement de peur de se faire sauter à la gorge. Comme le “vraie question” qu’on se sentait déjà obligé de mentionner il y a quelques années de peur de passer pour un troll
Monde de merde !
#11.1
Mais grave ! Monde de merde.
#12
Tout le monde se jette sur sur ces “générateur de baratin” pour empirer la situation. Peu nombreux son ceux qui vérifie les infos qu’ils obtienne par la version actuelle de Google alors avec une IA qui passe son temps à inventer, ça va être pénible voir inutilisable.
Ça m’est arrivé qu’un snippet de Google donne des informations tellement hors contexte que le sens du texte était à l’opposé du sens du texte de la page originelle.
Nous somme déjà dans un monde “d’à peu prêt” mais là ça deviens du grand délire.
#13
En fait, je pense juste que j’ai eu un excès de prudence quand j’ai écrit le message sur la lancé de ma journée pro. Je venais de passer une heure à expliquer qu’il fallait chercher aucun sens à mes mots autre que le sens des mots utilisés. Fatiguant