Dans le petit monde de l’intelligence artificielle, de nombreux sujets s’entrechoquent. Il y a évidemment la question de l’éthique et de l'influence des jeux de données d'entraînement.
Twitter dévoile les « piliers » de son machine learning :
- Assumer la responsabilité des décisions algorithmiques
- Équité et justice des résultats
- Transparence sur les décisions et leur comment
- Permettre aux algorithmes et aux personnes dans les bureaux de faire des choix
Tel l’effet papillon, le moindre changement de paramètre peut avoir des conséquences sur des milliers ou millions de messages. « Les solutions techniques à elles seules ne résolvent pas les potentiels effets néfastes des décisions algorithmiques », explique Twitter.
L’entreprise dispose ainsi d’un groupe de travail « responsable » sur le machine learning, qui regroupe des employés venant de toutes les divisions. Il s’agit du META : ML Ethics, Transparency and Accountability.
Des études approfondies ont été menées sur différents domaines et les conclusions seront dévoilées dans les prochains mois. Voici les pistes actuellement étudiées :
- Une analyse des préjugés sexistes et raciaux de l’algorithme de recadrage d'image
- Une évaluation de l'équité des recommandations sur la timeline
- Une analyse des recommandations pour différentes idéologies politiques dans sept pays
Commentaires (2)
#1
Sur ce point, il y a du travail : les biais idéologiques de cette firme (elle n’est pas la seule) sont si patents que la décision de se « responsabiliser » s’apparente à leur reconnaissance et/ou à leur camouflage sous la moquette d’un « groupe de travail ».
Ces problèmes d’éthique au long cours deviennent si universellement endémiques qu’il semble légitime que la société civile s’en saisisse pour en décider les principes généraux (un peu à l’image de la loi bioéthique).
#2
Quand une société annonce la création d’un groupe de travail sur un sujet ABC, c’est que la dite société redoute une possible législation sur le sujet ABC.