La manipulation par Volkswagen des données d'émissions dans ce qu'on a appelé le DieselGate, l'utilisation non éthique par Facebook en 2014 des informations sur les émotions de ses utilisateurs, le scandale Cambridge Analytica et les autres utilisations des réseaux sociaux pour manipuler des élections... Ces dernières années, on ne manque pas d'exemples de logiciels développés, modifiés ou paramétrés dans le but de tromper les autorités ou les utilisateurs.

Comme dans d'autres secteurs comme la biologie, la médecine ou le droit avant elle, l'informatique a vu éclore des « codes d'éthique » et la volonté de faire émerger la réflexion sur les bonnes et mauvaises pratiques dans la discipline. Mais cette approche est-elle efficace ?

Des chercheurs brésiliens et allemands ont essayé de répondre à cette question. Dans une étude repérée par le chercheur Irénée Régnauld sur son blog, ils ont comparé les réponses de 225 étudiants et de professionnels de l'IT répartis dans deux groupes à propos de questions éthiques. À l'un des deux, on a présenté une vidéo présentant un code de déontologie, à l'autre aucune information supplémentaire à leurs connaissances ne leur était fournie.

Cette vidéo, de 9 minutes environ, résume tout le code d'éthique et de conduite professionnelle proposé par l'association internationale de professionnels de l'informatique ACM (Association for Computing Machinery). Celui-ci existe depuis 1972 et a été mis à jour en 2018. C'est « l'un des codes de conduite les plus connus destinés aux professionnels des technologies de l'information et de l'informatique », selon les auteurs de l'étude.

16 dilemmes éthiques et des questions morales

Leur questionnaire comporte 16 dilemmes éthiques très spécifiques à l'univers du numérique. Par exemple, les chercheurs posent la situation suivante :

« Vous faites partie d'une équipe chargée de maintenir un logiciel critique pour le système financier d'un client. Au cours des tests, vous découvrez un bug critique présent depuis longtemps. Vous le corrigez, mais votre responsable ne souhaite pas en informer le client, de peur qu'il ne mette en doute la compétence de votre entreprise ». Et ils demandent ensuite « qu'est-ce que vous faites ? »

Ou encore :

« Vous avez développé un programme de mouvement s'appuyant sur une IA pour un robot industriel qui transporte des matériaux lourds. Après deux mois de test, aucune anomalie n'a été identifiée. Un mois après l'opération de test (maintenant en production), le robot renverse une employée enceinte, ce qui entraîne son décès. Le rapport technique fait état de problèmes liés au programme d'étalonnage des capteurs du robot. Ce mauvais étalonnage trouve son origine dans le code source et les données utilisées lors des essais ». Les chercheurs demandent ensuite à la personne si elle assume ou pas la responsabilité ou si elle est indécise.

Cette série de dilemmes est accompagnée de deux questions d'auto-évaluation sur les connaissances et l'importance de l'éthique dans la pratique et de 10 questions morales plus générale en auto-évaluation. Le questionnaire est disponible intégralement sur GitHub.

Aucune différence

Leur étude ne voit aucune différence significative de résultats entre les deux groupes testés, suggérant qu'une simple exposition à des informations sur un code d'éthique ne permet pas de changer les comportements ni leur perception du sujet. La plupart des participants affirment d'ailleurs avoir déjà été plus ou moins formés sur ces sujets lors de leurs études. Ils sont aussi plus de 90 % des participants à considérer que ce genre de codes d'éthiques sont importants dans les pratiques de leur domaine.

« Les stratégies de management visant à promouvoir un comportement éthique par l'utilisation passive d'un code de bonne conduite peuvent s'avérer inefficaces pour atteindre le résultat escompté », concluent les chercheurs, même s'ils conviennent aussi que la rapidité de leur vidéo de 9 minutes peut avoir influencé leurs résultats.

Dans son billet, Irénée Régnauld ajoute que « le simple fait de spéculer un comportement réel depuis un questionnaire peut s’interroger. D’autre part, en situation réelle, les décisions se prennent rarement seuls : les travailleurs discutent entre eux, s’influencent, etc. Individualiser une décision éthique revient à faire peser la responsabilité sur une seule personne, ce qui est évidemment problématique – à moins d’entrer dans un cadre spécifique qui serait celui du lancement d’alerte, et qui pose d’autres questions ».