Connexion
Abonnez-vous

L’IA de Microsoft et Bing s’est elle aussi trompée, mais personne ne l’avait remarqué

L'IA de Microsoft et Bing s'est elle aussi trompée, mais personne ne l'avait remarqué

Le 15 février 2023 à 08h10

L'erreur de Bard, réponse de Google à ChatGPT, a fait beaucoup de bruit, provoquant une perte de 100 milliards de dollars de capitalisation boursière.

Dmitri Brereton, un chercheur indépendant en IA, relève a contrario que les nombreuses erreurs faites par l'IA de Bing, lors de sa propre présentation, n'ont pas été relevées, même si elles étaient « encore pires ». La démo de Bing répertoriait pourtant les liens permettant de vérifier ses assertions.

Le Night Club de Mexico qu'il a mis en avant ne recense en effet qu'un seul avis sur TripAdvisor, qui date de 2014, et le dernier en date sur Facebook date de 2016. La présentation du bar « rustique et charmant » omettait par ailleurs de préciser qu'il s'agit du plus ancien des bars gays de Mexico, et de mentionner les 500 avis à son sujet sur Google.

Le « générateur de baratin » de Bing avait en outre faussé plusieurs des chiffres au sujet des résultats financiers de la société qu'il était censé documenter, et en avait même « complètement inventé ».

Pour Brereton, « Bing AI a fait un excellent travail pour créer un battage médiatique, mais leur produit n'est pas meilleur que Bard de Google » :

« Je suis choqué que l'équipe Bing ait créé cette démo préenregistrée remplie d'informations inexactes et l'ait présentée au monde en toute confiance comme si elle était bonne. Je suis encore plus choqué que cette astuce ait fonctionné, et que tout le monde ait sauté dans le train du battage médiatique sans la moindre vérification nécessaire. »

Le 15 février 2023 à 08h10

Commentaires (21)

Vous devez être abonné pour pouvoir commenter.

Abonnez-vous
votre avatar

générateur de baratin


:dix:

votre avatar

Il faudrait vraiment proposer cette formulation à la Commission d’enrichissement de la langue française pour traduire “Artificial Intelligence”… Déjà en partant de l’autre sens de “Intelligence” en anglais : renseignement.
Renseignement artificiel, ça serait un bon début.
Mais en effet, générateur de baratin serait encore mieux.

votre avatar

(reply:2119905:Jonathan Livingston)


Non, “générateur de baratin”, c’est la traduction de “large language model”, le système sur lequel est basé chatgpt, bard, …

votre avatar

(reply:2119905:Jonathan Livingston)


Je dirais que ça collerait bien pour chatbot en général :)

votre avatar

Je n’ai jamais entendu parler de “large language model”, mais plutôt d’IA conversationnelle ou “chatbot”.
Tu as raison, IA est un terme générique, mais l’article l’emploie.



Je trouve quand même que pour ce type/application d’IA, générateur de baratin est bien vu.
Il reste à trouver un bon terme pour les IA créatrices d’images.
Et d’une manière plus générale un autre terme qu’intelligence artificielle, parce que c’est vraiment trompeur.

votre avatar

Moi j’ai bien ri avec l’article d’ArsTechnica avec la réaction de Bing.



arstechnica.com Ars Technica



Quand à la conversation pour savoir les horaires de projection d’avatar 2, c’est juste de l’or en barre.

votre avatar

Tiens quelqu’un a déjà essayé de taper “Qui suis-je?” avec une de ces IA ? Je me demande si cela arriverait à détecter qui l’utilisateur est ou si cela chercherait sa propre personnalité.

votre avatar

Cela proviends aussi peut être du fait que ce style de modèle c’est “prioritairement” pour donner des réponses crédibles et non des réponses justes.
C’était bien à mon avis, un domaine à approfondir du côté des IA. Mais est ce que tout ce “battage” autour de ChatGPT n’as pas entreiné trop de sortie prématurés ? Avant que le travail sur la justesse des réponses ne soit réalisé ?

votre avatar

(reply:2119905:Jonathan Livingston)


Je préfère “générateur de caca de taureau” mais je doute que l’Académie Française soit du même avis.

votre avatar

Je suis choqué qu’il soit choqué.

votre avatar

Perso, c’est la première fois que je vois un chatbot aussi agressif…



Une I.A. qui t’engueule, essaye de te manipuler pour te faire admettre qu’on est en 2022, conteste toutes les preuves, déclarant que ton smartphone a un virus s’il affiche 2023, t’accuse d’être un mauvais utilisateur car tu insiste sur le fait qu’on est en 2023 et exige que tu reconnaisse tes torts via un bouton explicite… le tout parceque tu as demandé les horaires pour aller voir Avatar 2, c’est fantastique, non?



Ce n’est pas juste un chatbot pour le grand public, il faut lui donner un ministère d’urgence.

votre avatar

Et c’est quoi la différence avec l’état actuel des discussions sur le Web ? Car vu ce que tu relates, je vois pas la différence entre les humains et ces AI.



Ce doit donc être un succès.

votre avatar

Bah finalement, c’est comme avec un utilisateur de twitter non ?

votre avatar

Si vous n’avez pas encore vu des 2 vidéos, je vous les recommande. Elles expliquent comment fonctionne ChatGTP, et en quoi c’est le bullshitteur (baratineur) ultime. Un baratineur se moque de savoir si ce qu’il dit est vrai ou non. La seule chose qui l’intéresse c’est l’effet qu’il a sur vous:



youtube.com YouTubeyoutube.com YouTube

votre avatar

Plus de 67 minutes de vidéo, non merci.

votre avatar

Top tes videos.

votre avatar

SebGF a dit:


Et c’est quoi la différence avec l’état actuel des discussions sur le Web ? Car vu ce que tu relates, je vois pas la différence entre les humains et ces AI.



Ce doit donc être un succès.


Ou alors, c’est que ça fait déjà des années que tu vis dans un monde remplie d’IA de toute sorte. Qui sait ?



Nb : juste pour la boutade, pas pour me moquer de toi ou de ton propos. :smack:

votre avatar

ndjpoye a dit:


Ou alors, c’est que ça fait déjà des années que tu vis dans un monde remplie d’IA de toute sorte. Qui sait ?


Ca expliquerait pas mal de choses !




Nb : juste pour la boutade, pas pour me moquer de toi ou de ton propos. :smack:


Rassure-toi, il n’y a aucune contrariété.



Mais je trouve triste ce genre de disclaimer, obligé de se dédouaner immédiatement de peur de se faire sauter à la gorge. Comme le “vraie question” qu’on se sentait déjà obligé de mentionner il y a quelques années de peur de passer pour un troll :craint:



Monde de merde !

votre avatar

Mais grave ! Monde de merde.

votre avatar

Tout le monde se jette sur sur ces “générateur de baratin” pour empirer la situation. Peu nombreux son ceux qui vérifie les infos qu’ils obtienne par la version actuelle de Google alors avec une IA qui passe son temps à inventer, ça va être pénible voir inutilisable.



Ça m’est arrivé qu’un snippet de Google donne des informations tellement hors contexte que le sens du texte était à l’opposé du sens du texte de la page originelle.



Nous somme déjà dans un monde “d’à peu prêt” mais là ça deviens du grand délire.

votre avatar

SebGF a dit:


Ca expliquerait pas mal de choses !



Rassure-toi, il n’y a aucune contrariété.



Mais je trouve triste ce genre de disclaimer, obligé de se dédouaner immédiatement de peur de se faire sauter à la gorge. Comme le “vraie question” qu’on se sentait déjà obligé de mentionner il y a quelques années de peur de passer pour un troll :craint:



Monde de merde !


:smack: Merci :)



En fait, je pense juste que j’ai eu un excès de prudence quand j’ai écrit le message sur la lancé de ma journée pro. Je venais de passer une heure à expliquer qu’il fallait chercher aucun sens à mes mots autre que le sens des mots utilisés. Fatiguant :transpi:

L’IA de Microsoft et Bing s’est elle aussi trompée, mais personne ne l’avait remarqué

Fermer