Connexion Premium

Un rapport de police britannique invente un match de foot et rejette la faute sur Copilot

Le 15 janvier à 10h46

Le responsable de la police du comté britannique des Midlands de l'Ouest, Craig Guildford, a reconnu une erreur dans un rapport concernant l'interdiction de stade de supporters du club de foot lors d'un match de Ligue Europa.

En effet, pour le match d'Aston Villa contre le Maccabi Tel-Aviv qui se jouait en octobre dernier, la police locale l'avait classé « à haut risque » et s'était prononcée pour l'interdiction aux supporters visiteurs d'assister au match. Dans son communiqué de presse, pas d'erreur, mais dans son rapport remis aux autorités pour justifier sa position, elle évoquait un match entre West Ham et le Maccabi Tel Aviv qui n'a jamais eu lieu.

Depuis la date du match, les critiques pleuvent sur cette décision, notamment de la part du Premier ministre britannique Keir Starmer et du gouvernement israélien. Lundi dernier, Craig Guildford a envoyé une lettre [PDF] à Karen Bradley, membre du Parlement britannique et responsable du Home Affairs Select Committee de la Chambre des communes.

« Vendredi après-midi, j'ai pris conscience que le résultat erroné concernant le match West Ham contre Maccabi Tel Aviv était dû à l'utilisation de Microsoft Co Pilot », s'y explique-t-il après avoir nié en décembre s'être appuyé sur l'IA pour préparer le rapport, remarque The Verge. Il avait aussi imputé le problème à une erreur dans les résultats du moteur de recherche de Google.

illustration d'une personne manipulée comme une marionnette par une IA

Pour la ministre de l'Intérieur britannique, Shabana Mahmood, c'en est trop. Selon l'AFP, celle-ci a affirmé : Craig Guildford « n’a plus ma confiance » devant la Chambre des communes après avoir commandé un rapport indépendant dont les conclusions sont « accablantes », selon elle. L'agence de presse explique qu'elle n'a pas le pouvoir de le démettre de ses fonctions mais qu'elle a annoncé que son gouvernement allait rétablir cette possibilité.

Le 15 janvier à 10h46

Commentaires (16)

votre avatar
Quand les gens comprendront que l'IA n'est pas fiable, que ce n'est pas une technologie mature, et qu'il ne faut jamais l'utiliser en prod, et encore moins pour y rédiger des communiqués sans vérifier?
votre avatar
et surtout, quand les gens comprendront-ils que les LLM basés sur les techno actuels ne sont que des outils statistiques (avancées certes) et donc qu'il y aura toujours intrinsèquement des "hallucinations"...
votre avatar
Je dirais presque que c'est un vœu pieux, comme c'est un phénomène tellement à la mode entre les personnes qui y voient un outil de facilité et d'autres un outil de rentabilité et/ou profit. Sans compter celles qui discutent avec les chatbots comme avec une personne réelles sur des sujets divers et variés...
votre avatar
Quand les gens comprendront que l'IA n'est pas fiable
Je veux bien que tu m'expliques alors :)
Démonstration par l'absurde : "Moi je trouve que Akinator fonctionne pas trop mal."
:windu:

Oui, Akinator c'est de l'IA.
Et la fiabilité est relative (on n'attend pas la même fiabilité d'un divertissement vs. le système judiciaire)
que ce n'est pas une technologie mature, et qu'il ne faut jamais l'utiliser en prod
Admettons que tu parles des LLM.
Idem que la fiabilité, peux tu définir la notion de maturité ?
et encore moins pour y rédiger des communiqués sans vérifier?
Là, on est d'accord, pour l'instant.
Soyons réalistes, le jour où les statistiques montreront que les LLM feront des résultats compatibles avec leur cas d'usage, la vérification ne sera plus systématique.

Sur des sujets judiciaires, la vérification sera encore requise pour un bout de temps. Mais je ne généraliserais pas de façon aussi expéditive que toi.
votre avatar
L'IA n'est pas fiable car elle hallucine beaucoup et raconte souvent n'importe quoi, ce qui fait qu'un humain est souvent nécessaire pour relire ce qu'elle produit.

L'IA sera mature quand on pourra lui faire confiance, et que les hallucinations seront du passé.
votre avatar
Mais elle atteint un certain niveau de fiabilité (l'IA Gen, et pas l'IA au sens large) dès lors que tu connais ses limites et sais cadrer.

Le problème est plus sur la mise à disposition à monsieur tout le monde de ce type de technologie, et on voit alors poindre ce type de problématique (comme d'autres). Il n'est pas vraiment sur sa "fiabilité" qui, si on en a connaissance de cause, devient une particularité à maîtriser plus qu'une contrainte.

Chaque outil a ses défauts et qualités. Le contexte d'utilisation change tout.
votre avatar
Si on a besoin d'être pro pour utiliser un produit grand public, c'est que ce produit n'est pas prêt pour le grand public.
votre avatar
C'est en parti ce que je dis, oui.
Mais ce n'est pas une question de fiabilité.
votre avatar
Dans mon domaine, la prod musicale, l'IA est de plus en plus utilisée pour une tâche bien précise : la séparation de stems !

Derrière ce terme barbare se cache une idée : si tu veux remixer un titre (c'est une occupation très à la mode, surtout auprès des amateurs : tu prends une chanson existante - un tube de préférence - et tu la remixe à ta façon, en ajoutant ou retranchant des trucs qui n'étaient pas là au départ, des breaks, des reprises, des FX...)

Si tu veux remixer un titre donc, il est très difficile de le faire (bien) sans disposer de pistes séparées, à minima par type d'instrument : par exemple pour remixer j'ai besoin de la basse bien isolée sur une piste, du chant - s'il y en a - sur une autre, des claviers / accompagnements divers sur une autre, et enfin, si possible de tous les éléments rythmiques (batterie, boîte à rythmes, samples...) sur une piste à part.

Mais dans le cas de titres commerciaux très connus, c'est impossible de disposer des pistes séparées, sauf bien sûr si le producteur les mets à disposition (en échange d'argent, ou pas...), ce qui est plutôt rare.

C'est là que l'IA entre en jeu : tu as des routines internes (ie : intégrées dans Cubase, ou autre outil spécialisé), ou encore des progs séparés, qui sont capables de reconnaître les instruments, et de les isoler en fichiers ("stems" ou pistes) séparés. Bien entendu tout dépends de la qualité de l’entraînement, mais d'une manière générale ça marche plutôt bien.

Mais plutôt que de parler d'instruments, il faudrait plutôt parler de catégories d'instruments, il est par exemple difficile pour certains programmes de distinguer une guitare rythmique (en son clair) d'un piano, car tous deux occupent un peu la même place dans une chanson pop-rock classique, celle de l'accompagnement.

Donc, une fois que tu disposes des pistes séparées, tu peux effectivement créer un vrai remix, qui peux changer radicalement par rapport à l'original : tu peux par exemple récupérer la voix de Briney Spears et remplacer l'orchestration sirupeuse... par du Death-Black-Metal-Core-Stoner bien sanglant ! :dent: :musicos:

Si vous allez quelquefois sur Soundcloud, vous allez constater que le nombre de publications avec le mot "remix" dans le titre est proprement... hallucinant ! Ce qui est aussi un peu triste : peu de gens composent du matériel véritablement original, mais se contentent de sampler ce qui existe déjà. Lorsque c'est véritablement créatif, personnel et original, ça peut être intéressant, mais la plupart du temps vous vous retrouvez avec un ersatz de unetelle ou untel.
votre avatar
Si vous allez quelquefois sur Soundcloud, vous allez constater que le nombre de publications avec le mot "remix" dans le titre est proprement... hallucinant ! Ce qui est aussi un peu triste : peu de gens composent du matériel véritablement original, mais se contentent de sampler ce qui existe déjà. Lorsque c'est véritablement créatif, personnel et original, ça peut être intéressant, mais la plupart du temps vous vous retrouvez avec un ersatz de unetelle ou untel.
À titre perso je fuis les remixes. J'ai toujours l'impression que ceux qui font ça se contentent de répéter en boucle pendant 3 minutes les mêmes 5 secondes.
votre avatar
répéter en boucle pendant 3 minutes les mêmes 5 secondes
Il y en a même qui répètent les mêmes secondes (à peine modifiées) pendant plus de 26 ans :
http://icecast.spc.org:8000/longplayer !

https://longplayer.org/
votre avatar
@serpolet Eh bien, voilà un projet qu'il est original ! J'ai reconnu les fameux bols Tibétains, qui représentent un matériel sonore particulièrement intéressant pour la musique concrète / expérimentale / whatever.

Les variations autour de ces sons obtenus simplement en frappant l'objet à différents angles, avec différents objets et intensités peuvent être véritablement infinis ! Ajoute à cela quelques effets bien placés, et tu obtiens un résultat bien, mais alors gigantesquement supérieur à tous les David Guetta de la terre !

P.S. : Ce qui ne gâche rien, c'est que cet assemblage sonore est particulièrement relaxant : idéal pour se concentrer sur une tâche précise... ou ne rien faire, et méditer comme un gros bonze flemmard ! :fume:
votre avatar
Le pire remix que j'ai jamais entendu : "Heroes" de David Bowie... remixé par David Guetta !

Le pire du pire, c'est que c'est sorti alors que son génial créateur... était encore vivant ! L'idée qu'il aie pu, ne serait-ce que de très loin, entendre ce massacre...!!! :eeek2: :vomi1: :pleure:

Il devrait y avoir une loi contre les horreurs telles que celles-là, pour protéger les oreilles des jeunes de ce genre d'infection...
votre avatar
Pour remonter le niveau, jusqu'ici la meilleure reprise que j'ai entendue de "Heroes" est celle de Motorhead.

Sublime :love:
votre avatar
Aaah, Lemmy, un de mes héros ! :chinois: :love: Un grand fan des Beatles, fondateur de Hawkwind...

Il a fait beaucoup de reprises originales dans sa vie, mais à chaque fois avec le plus grand respect... Mais surtout, avec sa basse bizarre, il a inventé un son (très) particulier et très personnel qui fait encore école aujourd'hui, dans le monde merveilleux du Metal... :musicos:
votre avatar
"C'est la faute à l'ordinateur !"

sacrée excuse de l'année depuis 2000

Un rapport de police britannique invente un match de foot et rejette la faute sur Copilot

Fermer