Microsoft contraint de désactiver les sondages générés par IA qu'il ajoutait aux articles écrits par des humains

Microsoft contraint de désactiver les sondages générés par IA qu’il ajoutait aux articles écrits par des humains

IA pas de vérification humaine

Avatar de l'auteur
Jean-Marc Manach

Publié dans

Société numérique

03/11/2023
15

Microsoft contraint de désactiver les sondages générés par IA qu'il ajoutait aux articles écrits par des humains

Microsoft est pointée du doigt pour avoir rajouté des sondages automatisés aux articles republiés sur son portail MSN, posant des questions problématiques à ses lecteurs. La PDG du  Guardian Anna Bateson, dont il republie certains articles, s'est émue de ce problème éditorial dans une lettre au président de Microsoft, Brad Smith.

Microsoft a dû désactiver les sondages générés par IA que l'entreprise associait jusque-là aux articles de presse sur son portail MSN, relève Axios.

Elle a lancé une enquête après que le Guardian Media Group a dénoncé un sondage particulièrement douteux accolé à la republication par Microsoft d’un article sur une femme retrouvée morte dans une école en Australie.

Le sondage, qui s'affichait sur la plateforme d'agrégation d'actualités Microsoft Start, demandait en effet aux lecteurs : « quelle est d'après vous la cause de la mort de cette femme ? », proposant de choisir entre « meurtre », « accident » et « suicide ».

Microsoft sondage automatisé IA

Réaction virulente du Guardian

« Il s'agit clairement d'une utilisation inappropriée de genAI par Microsoft sur un sujet d'intérêt public potentiellement pénible, écrit et publié à l'origine par des journalistes du Guardian », a écrit Anna Bateson, PDG du Guardian, au président de Microsoft, Brad Smith.

Nombre de lecteurs avaient estimé que le sondage émanait de la rédaction du Guardian, que son auteur devait en avoir honte et en porter la responsabilité.

« Cette application de genAI par Microsoft est exactement le genre d'exemple contre lequel nous avons mis en garde pour ce qui est du rapport aux informations », indique la lettre de Bateson, « et c'est l'une des principales raisons pour lesquelles nous avons précédemment demandé à vos équipes de ne pas appliquer ce type de technologies expérimentales ».

Elle demande à Microsoft de ne plus rien associer aux articles du Guardian « sans son approbation explicite ». Elle accuse en outre l'entreprise de ne pas avoir « répondu de manière substantielle » à la demande du Guardian de discuter de la façon dont Microsoft entend rémunérer les éditeurs de presse pour l'utilisation de leur propriété intellectuelle « dans la formation et le déploiement en direct des technologies d'IA au sein de vos entreprises commerciales plus larges ».

« Un sondage n'aurait pas dû apparaître à côté d'un article de cette nature, et nous prenons des mesures pour éviter que ce type d'erreur ne se reproduise à l'avenir », explique Microsoft à Axios.

L'entreprise ajoute avoir « désactivé les sondages générés par Microsoft pour tous les articles d'actualité », et que l'entreprise « enquête sur la cause du contenu inapproprié ».

D'autres problèmes d'édition dus à une éditorialisation automatisée

CNN relève que ce n’est pas la première fois que le portail de Microsoft publie des contenus problématiques à cause de son automatisation. En octobre, la nécrologie du joueur de basket Brandon Hunter sur MSN a été publiée sous le titre «  Brandon Hunter useless at 42 » (en français, « Brandon Hunter inutile à 42 ans »).

Le média américain cite aussi plusieurs fausses affirmations publiées sur MSN comme l'endormissement de Joe Biden pendant un hommage aux victimes des incendies à Hawaï ou une théorie complotiste accusant le Parti Démocrate d'avoir orchestré une augmentation de cas de Covid-19.

MSN a aussi relayé récemment la fausse information de la démission de Dean Preston du Conseil des superviseurs de San Francisco.

En 2018, le portail employait 800 rédacteurs à travers le monde, rappelle CNN, mais Microsoft en a licencié une bonne partie ces dernières années, remplacée par une certaine « automatisation » de l'éditorialisation. « L'investissement précoce de Microsoft dans OpenAI – les créateurs de l'application ChatGPT – l'a placé à l'avant-garde de la révolution prometteuse et potentiellement périlleuse de l'IA », fait aussi remarquer le média américain.

15

Écrit par Jean-Marc Manach

Tiens, en parlant de ça :

Sommaire de l'article

Introduction

Réaction virulente du Guardian

D'autres problèmes d'édition dus à une éditorialisation automatisée

next n'a pas de brief le week-end

Le Brief ne travaille pas le week-end.
C'est dur, mais c'est comme ça.
Allez donc dans une forêt lointaine,
Éloignez-vous de ce clavier pour une fois !

Commentaires (15)


Inny Abonné
Le 03/11/2023 à 15h 34

L’IA de Microsoft est une blague permanente, les articles se suivent à son sujet pour nous faire consommer du popcorn à foison. Ils ont réellement développé une stupidité artificielle.


Le 03/11/2023 à 15h 44

Ce sondage est très bien je trouve. Les résultats peuvent aider la police à choisir plus rapidement si c’est un meurtre, un accident ou un suicide.
Je pense que de nombreuses affaires pourraient être résolues plus facilement si l’on demandait l’avis de la population. Plus on est nombreux plus on est efficace.
Certaines affaires non élucidées auraient surement pu être résolues grâce aux conseils donnés sur Facebook ou X.


Erwan123 Abonné
Le 03/11/2023 à 21h 20

linconnu a dit:


Ce sondage est très bien je trouve. Les résultats peuvent aider la police à choisir plus rapidement si c’est un meurtre, un accident ou un suicide. Je pense que de nombreuses affaires pourraient être résolues plus facilement si l’on demandait l’avis de la population. Plus on est nombreux plus on est efficace. Certaines affaires non élucidées auraient surement pu être résolues grâce aux conseils donnés sur Facebook ou X.




Sérieusement, c’est du gros gros 2nd degré ce commentaire ou pas ? On n’est pas à “Qui veut gagner des millions” ici.



C’est sûr que Dédé accoudé au zinc du comptoir aura toujours une longueur d’avance sur les enquêteurs et la police scientifique… sur la technique du levé de coude…


Erwan123 Abonné
Le 03/11/2023 à 23h 11

.
.
Et aussi quand la police aura choppé un ou plusieurs suspects, pour gagner du temps (et de l’argent, car temps gagné = argent économisé), on pourra toujours demander l’avis du public dans la salle (qui n’y connait rien ou pas grand-chose au passage sur le cas),
.
ou sinon encore mieux comme dans les arènes, au Colysée de Rome, genre il y a plus de 2000 ans déjà:
.
Alors pour le suspect, l’accusé, c’est pouce vers le haut ou pouce vers le bas ?
.



« Félindra tête de tigre… »

(ouais , je sais à Rome c’était des lions mais bon, Lion & Tigre, même famille non? ils bouffent tous les deux après la sieste en tout cas…)


thebcb Abonné
Le 03/11/2023 à 18h 05

Les joies d’une IA non contrôlée dans sa mise en œuvre. Le remplacement des journalistes est effectué finement :fumer:




nicopelle a dit:


Les Inconnus l’avaient anticipé!




J’avais complétement zappé ce sketch. En rire ou en pleurer ? :keskidit:


Winderly Abonné
Le 03/11/2023 à 18h 12

“Microsoft est pointée du doigt pour avoir mis en place sur des sondages automatisés sur son portail MSN, posant des questions problématiques à ses lecteurs. La PDG Anna Bateson de son partenaire le Guardian, dont il republie certains articles, s’est émue de ce problème éditorial dans une lettre au président de Microsoft, Brad Smith.”



Il faudrait arrêter avec les phrases excessivement longues, c’est incompréhensible.
“avoir mis en place sur des sondages automatisés”
Qu’est-ce qui a été mis en place sur ces sondages ?
Le Guardian est partenaire de qui ?



J’espère que la suite n’est pas aussi alambiquée.


manhack Abonné
Le 03/11/2023 à 18h 26

Oups, la reformulation malheureuse avait réussi à passer le circuit copie sans être corrigée, ce qui vient d’être fait, merci (et désolé, aussi) !


Le 03/11/2023 à 21h 12

J’ai du mal à comprendre l’article, la raison du problème et pourquoi il y a des sondages accolés à des articles. Quel est le but et en quoi est-ce choquant ? Que vient faire la couche « automatisation / GenAI », ici? Il y a pas de lois à l’heure actuelle qui indique « article ou sondage généré de manière automatique » pour distinguer la chose? D’ailleurs les articles ne sont-ils pas signés, normalement? Après je n’ai jamais mis les pieds sur MSN.


Le 04/11/2023 à 01h 12

Gigatoaster a dit:


J’ai du mal à comprendre l’article, la raison du problème et pourquoi il y a des sondages accolés à des articles. Quel est le but et en quoi est-ce choquant ? Que vient faire la couche « automatisation / GenAI », ici? Il y a pas de lois à l’heure actuelle qui indique « article ou sondage généré de manière automatique » pour distinguer la chose? D’ailleurs les articles ne sont-ils pas signés, normalement? Après je n’ai jamais mis les pieds sur MSN.




En fait MSN est une plateforme qui agrège tout un tas de news qui viennent de différents médias. En mélangeant pêle-mèle articles de véritables journaux (comme ici le Guardian) et tabloïds dégueulasses pour le putaclic.



Le souci c’est qu’une couche est ajoutée par Microsoft pour liker ou non, commenter, et parfois intégrer des polls générés par une IA.



C’est bien précisé d’où vient l’article, avec le lien vers la source, mais 80% des neuneus qui viennent lire ça pensent que tout est écrit par MSN. En tout cas en France. Et les 20% qui restent pensent que c’est le Guardian (ou tout journal d’où est extrait l’article) qui est à l’origine du poll. On comprend que les journalistes ne voient pas ce mélange douteux d’un bon œil.


Le 04/11/2023 à 04h 53

Ah d’accord, merci pour les explications. 👍


hachu21 Abonné
Le 04/11/2023 à 07h 13

La question de fond c’est de savoir qui va volontairement sur MSN?
C’est totalement illisible et insupportable.
Alors ok, c’est la page d’accueil par défaut d’Edge…
Mais cette audience est fictive puisque contrainte.


Le 04/11/2023 à 13h 40

Illisible je n’irais peut-être pas jusque là. Il faut savoir que pour s’informer, certains ont en page d’accueil le portail news d’Orange ou Yahoo actualités.



Et comparé à ça, même si le contenu est le même (et les lecteurs aussi), l’interface d’MSN va te paraître un modèle de clarté :D


Mihashi Abonné
Le 04/11/2023 à 19h 21

Y a pas aussi un bandeau news MSN en bas à droite dans windows 11 ?


Le 04/11/2023 à 13h 17

que l’entreprise « enquête sur la cause du contenu inapproprié ».



Au hasard, remplacer des journalistes humains par une Inintelligence Artificielle ?



Je me demande si ils vont confier l’enquête à une IA ? :D