M’enfin ! a écrit :



Les IA vont être appelées à donner une information qui fera intervenir de très nombreux paramètres, tellement nombreux que cela dépasse les capacités humaines. Oui un journal est biaisé, mais ce n’est qu’un journal, en tant qu’être humain je peux encore m’en rendre compte (et encore, dans les sujets que je connais un tant soit peu).



Quand l’IA nous donnera une information, une “décision” faisant intervenir des paramètres complexes mixant économie, sociologie, parcours pro, santé publique et personnelle, etc… ça va être très compliqué.



Ca peut être une raison de plus d’ailleurs de limiter le recours aux IA… je ne dis pas le contraire ;-)





Il y a plein de chose qui dépassent les capacités humaines et qu’on comprend très bien, ce n’est pas là le problème. Et pour filer la métaphore du journal, je doute qu’un humain moyen soit capable de comprendre l’entièreté du média auquel il est soumit (financement, objectifs, RP, edito, politique…). Les systèmes humains sont bien plus complexes que les IA, c’est juste plus rassurant car l’erreur est humaine, mais dans les fait c’est bien moins compréhensible.



Toutes les décisions politiques actuelles font intervenir des paramètres complexes qu’aucun être humain n’est raisonnablement en mesure d’appréhender. Que le système soit humain ou informatique, le croire infaillible est idiot. C’est donc une question d’éducation plus que de surveillance. Peut être qu’il y aura une période transitoire où des idiots prendront des décisions sur des algos biaisés, mais à moyen terme ça sera marginal.

Groupetto a écrit :



Toutafé, les algorithmes utilisés en “IA” n’y sont pour rien là-dedans.



Le journaliste a dû simplifier, et malheureusement ça ne permet du coup pas de comprendre la nature du problème, qui est que les jeux de données utilisés pour entraîner les modèles sont eux-mêmes biaisés.



Je suppose qu’il existe parfois des solutions, notamment lorsqu’il y a un biais de sélection des données (ex : on ne prend pas assez en compte une minorité).



Mais parfois, ces données ne font que capturer les comportements passés d’êtres humains “imparfaits” et qui agissent en fonction de biais cognitifs. Dans ces cas-là, je vois pas comment faire autrement que de remplacer les modèles prédictifs entraînés sur ces données par des algorithmes classiques…mais du coup c’est plus de l’IA, et donc c’est has-been " />





Certains algorithmes peuvent être optimisés en prenant en compte les différences de prévalence entre la population réelle et celle sur laquelle ils ont été entrainés. Par contre, cela réduit leur efficacité, et du coup leur intérêt. D’autres peuvent enfin s’entrainer par la pratique, sans se baser sur des données précédentes, dans ce cas là, ils sont très sensibles aux premiers utilisateurs (donc personnes qui ont les moyens d’accéder à la technologie).



 Mais je dirais que c’est également le cas pour beaucoup de systèmes humains, par exemple la médecine a d’abord été pratiqué pour des riches, avant d’être accessible à de plus larges populations dans les pays qui en avait les moyens, et donc de ce fait a favorisé certaines populations.



Autre exemple, les économistes sont principalement des professeurs d’Université bien payés (surtout aux USA), et les modèles qui produisent (qui finissent par gouverner nos vies) sont tous teintés d’un certain biais, souvent en leur faveur.