Deep learning sur des photos d’enfants autistes : des articles scientifiques rétractés

Des dizaines d'articles scientifiques sont actuellement scrutés, notamment par l'éditeur scientifique Springer Nature, pour une éventuelle rétractation. Certains, comme cette meta analyse sur les approches utilisant le deep learning pour prédire l'autisme publiée en 2024, ont déjà fait l'objet d'une rétractation récemment.

Des travaux scientifiques qui soulèvent des questions éthiques

Les chercheurs et éditeurs auraient pu commencer par interroger le bien-fondé de mettre en place une reconnaissance de traits autistiques sur le visage d'enfants en utilisant le deep learning. La littérature scientifique montre que ces questions n'ont pas arrêté nombre de chercheurs.

Mais une nouvelle question éthique apparait, mise au grand jour par The Transmitter. Ce média spécialisé en neurosciences vient de découvrir que plusieurs dizaines d'articles scientifiques sur le sujet s'appuient, en fait, sur une base de données de visages d'enfants créée en 2019 par Gerald Piosenka, un ingénieur à la retraite. Celui-ci l'avait mise en ligne sur la plateforme Kaggle rachetée en 2017 par Google, qui permet à la communauté des machine learning et deep learning de partager des données, codes, modèles, etc.

L'utilisation d'une base de données créée sans le consentement des enfants

Cette base de données contient plus de 2 900 photos d'enfants, dont la moitié est étiquetée en tant qu'autistes. Comme l'a repéré The Transmitter, Gerald Piosenka explique dans un commentaire posté en 2022 que Kaggle a supprimé la base de données parce qu'elle ne respectait pas ses conditions d'utilisation. Mais l'ingénieur l'a remis rapidement en ligne via Google Drive.

Dans la description de la base, Gerald Piosenka explique la manière dont il a procédé pour la créer : « J'ai cherché partout une base de données contenant des images faciales d'enfants autistes. À ma connaissance, il n'en existe aucune. J'ai donc dû développer cette base de données à partir de recherches sur Internet. J'ai principalement trouvé ces images sur des sites web consacrés à l'autisme. En général, j'ai dû télécharger une image particulière, qui était souvent une photo de groupe, puis recadrer manuellement l'image pour ne garder que le visage de l'enfant ».

Questionné par un utilisateur de Kaggle sur l'exclusion de certaines photos pour des questions de vie privée et sur l'obtention du consentement, Gerald Piosenka a répondu que « toutes les images ont été recueillies à partir de sites Web accessibles au public et de recherches Google. Aucune restriction en matière de confidentialité n'a été violée » et a justifié sa démarche en affirmant que sa motivation était « altruiste » et qu' « en matière d'éthique, comment peut-on être plus éthique que d'essayer de favoriser le dépistage précoce et le traitement de l'autisme chez les enfants » sans prendre en compte le signalement sur le besoin de consentement.

Près de 40 articles scientifiques sont étudiés par Springer Nature pour une éventuelle rétractation selon un des conseillers en intégrité de la recherche de l'éditeur interrogé par The Transmitter. Le média a, de son côté, recensé au moins 90 articles (publiés aussi par d'autres éditeurs comme Wiley, IEEE, Elsevier, MDPI ou encore Cell Press) qui citent une version de la base de données.