“Débiaiser” l’IA est une chimère. Les jeux d’entraînement ne vont pas inventer une parfaite équité qui n’existe pas dans la réalité. Cet outil reste un reflet de ce qui existe.

C’est la raison pour laquelle l’approche est de considérer et accepter ces biais (avoir un biais n’est pas un défaut ni une tare, c’est un simple fait), les prendre en considération et s’assurer que le résultat produit par l’IA ne soit pas affecté par ceux-ci si le but est par exemple de trier des personnes (éviter des critères discriminants, ou des clichés sociétaux basés sur le sexe, religion, ethnicité, etc).

Personnellement je produis des images via StableDiffusion et je propose ce service. Dans l’offre, j’ai clairement précisé et rappelé que l’IA est biaisée. De ce fait, je demande lorsqu’il s’agit d’une mise en scène d’un personnage de préciser tous les critères de genre, ethnicité, type de corps, etc, attendus. Car les modèles ont vite tendance à rester sur certaines typologies (majoritairement caucasienne mais aussi beaucoup asiatiques, de nombreux modèles étant d’origine chinoise) que son entraînement lui aura potentiellement fait considérer comme étant un “standard” (donc biaisé) et qu’il faut donc compléter son résultat via les LoRA adéquat pour obtenir quelque chose au plus proche du résultat attendu.

Tout ça, ça s’apprend, ça se pratique, et ça se considère.

Pour compléter mon précédent message, un autre cas de biais dont l’IA peut souffrir pour la génération d’image est aussi causé par méconnaissance. Des modèles entraînés en mode “prude” avec des jeux d’entraînement n’intégrant pas la nudité se retrouvent moins efficaces que ceux qui l’ont intégré. Car l’absence d’information anatomique plus précise (grâce à la nudité) fait que le résultat est incomplet.