Le concept des IA qui se challengent entre elles, c'est l'une des bases d'AutoGPT justement où une série de modèles vont générer leurs propres prompts et itérer sur une problématique. Après, le revers de la médaille, c'est que plus on fait bosser de modèles ensemble, plus ça coûte cher à l'usage.

Dans ma tête, tel que je vois le truc, les "IA secondaires" seraient des algos beaucoup plus simples et moins demandeurs de ressources qu'une IA complète.

Ah bah ça c'est déjà possible aussi avec les modèles plus petits. Ils sont moins précis mais suffisant pour traiter ça, pas besoin de 16 milliards de paramètre, un 7b ça bosse déjà bien et t'as des 3 ou 1b pour ce genre de tâche simple.

Tu peux t'amuser à faire ça avec Ollama par exemple.

Au final, cela ne change pas grand chose, d'autant plus que les notions de biais et de neutralité peuvent être très subjectives... et donc soumises à des biais !

Exactement.

Personnellement, comme je l'ai déjà exprimé ici, je considère qu'avoir des biais n'est pas un problème en soi (après tout, la ligne éditoriale de Next sur l'IA est elle aussi biaisée car très portée sur le négatif). La neutralité absolue est une chimère qui n'existe pas, et quand on parle d'un moteur statistique (ce qu'est le ML), il y a forcément une part de poids dans les décisions qui influencent le résultat.

Ce qu'il faut, c'est simplement être conscient de ces biais et avoir un regard critique sur le résultat de la machine. Dans la proposition de @DantonQ-Robespierre , l'implémentation pourrait être des modèles identiques mais paramétrés de manière différente. Ou fine-tuned différemment. Et derrière ils pourraient évaluer le résultat et fournir une température de celui-ci (c'est un cliché, c'est potentiellement faux, c'est une déformation, un manque de données en entrée, etc), c'est une chose que les LLM savent faire au même titre qu'ils peuvent évaluer la tonalité d'une phrase.

C'est le souci habituel avec la technologie : les personnes ne comprennent pas comment ça marche, s'attendent à de la magie, et c'est le drame.

Typiquement, on brandit l'hallucination comme une tare alors que c'est l'une des features principales de l'IA générative. Elle génère du contenu, elle créé, et donc, elle invente. Si on veut un moteur de recherche déterministe, on prend une BDD, un index, ou alors on fait du RAG, mais on utilise pas un modèle tout seul.

Pour moi, chercher une solution technique pour "débiaiser" un outil technique fabriqué par un humain, c'est réfléchir à l'envers. C'est installer le toit avant les fondations en le soutenant par une grue le temps que les murs poussent.

L'humain de base est biaisé. On a tous des référentiels sociaux et culturels qui vont orienter nos jugements, on ne peut pas le nier. Comme je disais dans un précédent message, la neutralité absolue n'existe pas. L'IA n'est pas magique, c'est un outil qui apprend sur ce qu'on lui donne à bouffer. Si on lui donne à bouffer un jeu incomplet et bourré de stéréotype (en gros, les médias de masse), il ne retiendra que ça.
Apprend toute sa vie à un gamin que le ciel est vert, il te dira que le ciel est vert. Comment pourrait-il te contredire ? Il n'a aucun référentiel sur lequel s'appuyer, la perception et le nommage des couleurs est une catégorisation culturelle, pas naturelle.
(ou plus réel : fais-le croire au père noel, il y croira jusqu'à ce qu'il ait la maturité pour arrêter - pareil pour les religions)

Les exemples cités de discriminations dans l'interview ne sont pas un problème technique mais humain. Un algo de tri de CV qui discrimine les profils estimés comme féminins ou considère qu'avoir fait du basket est une qualité requise pour le boulot signifie qu'il est de base mal branlé. Et qu'il n'a pas été testé ou insuffisamment.
Le ML c'est pas que de l'entraînement, c'est aussi de la vérification du résultat pour s'assurer qu'il produit l'attendu. Et un jeu de test ne doit pas être figé, il doit lui aussi contenir une part d'aléatoire car c'est un risque de biaiser le test !

L'image que j'aime le plus est de considérer l'IA comme un stagiaire : ça fait un travail, ça traite des tâches, mais on le contrôle et on le corrige. Qui serait assez débile pour pousser le code du stagiaire en prod sans le relire ? (beaucoup d'entreprises, en fait)

Perso, ça fait des années que je vois en entreprise des solutions techniques pour palier à des problèmes d'orga. Ces solutions miracles ne sont que des visions court terme de management qui pense uniquement par le prisme du coût et du Saint TTM.

De mon expérience, une entreprise a trois options dans un projet IT mais elle ne peut en prendre que deux :
- Rapide
- Pas cher
- De qualité

Elle opte pour les trois.

Spoiler alert : ça marche pas.

Oui, c'est cool, à court terme t'as viré deux ETP et l'ordinateur magique il s'occupe de tout. Maintenant tu dois réembaucher cinq ETP pour réparer la merde provoquée par un système en roue libre non contrôlé. Un exemple simple de la vie réelle pour constater l'inaptitude IT de nombreuses entreprises et l'incapacité à la considérer comme un moyen et non un coût : va dans un magasin et contrôle la qualité de donnée. Les prix qui diffèrent, les promotions à 0%, les libellés articles qui sont incompréhensibles, etc, tout ça témoigne d'une vision où tout est automatisé et lancé sans contrôle. L'étiquetage des prix, quand il ce n'est pas du balisage électronique, c'est juste une imprimante qui crache une planche à afficher en rayon. Ca vient de la centrale, c'est potentiellement adapté au magasin, mais derrière y'a pas de contrôle. Le réappro auto, j'ai connu une enseigne qui a fini avec trois palettes de sapins de noel dans ses magasins en janvier parce qu'elle ne vérifiait rien.

Autre exemple, les équipes de dev qui pissent de la feature au kilomètre car c'est bien, le client voit que l'appli évolue, ça fait de la valeur. La maintenance du code ? Les failles de sécu ? Les bugs invisibles qui ralentissent l'appli ? Bof, pas de budget pour ça, c'est pas une prio, on va upscale la plateforme, le silicium n'est pas cher et déployer sur du cloud c'est magique, ça marche tout seul. Et bim, TCO infra de 30k€ mensuels.

Bref, tout ceci trahi surtout des visions à court terme où l'on se dit "cool, ça va me permettre de réduire mes effectifs et baisser mes coûts". C'est le discours qu'on entend dans l'IT depuis avant ma naissance professionnelle (regarde WIndows Server c'est cool, y'a un environnement graphique, ton employé peut travailler dessus et ça t'épargne l'achat d'un ordinateur ! - témoignage véridique d'un vieux de la vieille à mes débuts sur les arguments des commerciaux Microsoft), et comme l'humain n'apprend pas de ses erreurs, il se répète encore en boucle aujourd'hui.

Mais pour en revenir strictement aux algos on ne peut conclure qu'une chose de ton message : pour changer les IA, il faut changer l'humanité !

Pour le coup, dans la réalité, j'ai du mal à concevoir comment quelque chose fait par les humains peut être meilleur qu'eux. L'IA est meilleure sur le plan technique car elle sait traiter beaucoup de données en peu de temps pour répondre à une problématique. Par contre, dans son état actuel, il lui manque "l'instinct" et "l'expérience". Elle n'est pas encore capable de faire un Eureka !.

Pour le reste, c'est surtout un système très candide qui n'a pas forcément les notions de philosophie et nos comportements sociaux parce qu'elle ne sait pas ce qu'elle raconte. En gros, l'IA est au même niveau qu'un enfant qui peut dire une chose blessante sans savoir que ça l'est.

À l'inverse, dans la fiction comme celle que j'écris, j'ai tendance à concevoir l'IA (mais aussi les constructions plus simples) comme plus humaine que les humains. Notamment parce qu'elle a atteint le stade où elle devient une vraie personnalité (et reconnue comme personne physique dans l'univers que je développe, une idée inspirée de Arthur C. Clarke), ou encore le cas où les robots se fondent dans la société et que leur intégration ne fait pas débat.

(et d'ordre général, je considère que le délire du l'IA et les robots vont nous tuer, skynet, terminator comme un cliché éculé)