L’un des algorithmes de Facebook a supprimé une publication du média The Vindicator, qui contenait plusieurs passages de la déclaration américaine d’indépendance.
Pourquoi ? Pour discours haineux. L’un des passages fait en effet référence aux « Indiens sauvages sans pitié », dont la seule règle de guerre serait une destruction aveugle. Ni une ni deux, les systèmes de Facebook n’ont pas apprécié ce qui était clairement une violente attaque contre une ethnie.
The Vindicator, s’apercevant du retrait, fait un signalement à Facebook… qui se rend compte de l’erreur, restaure la publication et présente ses excuses.
Le cas est symptomatique et rappelle la censure du tableau l’Origine du monde de Gustave Courbet (entre autres problèmes). Les algorithmes sont peut être bien taillés pour la détection des contenus à surveiller, mais la déclaration d’indépendance est un texte historique et fondateur, témoignant du contexte et des mentalités d’alors.
L’affaire relancera une fois de plus les réflexions sur les capacités réelles des algorithmes à gérer le quotidien, et du problème inhérent au classement systématique des intentions. L’être humain ne se résume après tout à un arbre décisionnel.
Commentaires (25)
#1
Facebook pourrait également censurer la Marseillaise alors !
" />
#2
Si, l’être humain peut se résumer à un arbre décisionnel, mais à condition qu’il soit de qualité.
Comment prétendre construire un système intelligent si celui-ci n’a pas de culture ?
De la même façon qu’un petit génie humain qui a été enfermé toute son enfance à faire des maths sans jamais voir le monde serait inadapté.
Les IA devraient connaître nos œuvres d’art, textes fondateurs, littérature, et même de la BD, musique électro, la saison 1 de Loft Story et des images marquantes de journaux télévisés.
#3
Je cite la déclaration en question
“[Le roi] a excité parmi nous l’insurrection domestique, et il a cherché à attirer sur les habitants de nos frontières les Indiens, ces sauvages sans pitié, dont la manière bien connue de faire la guerre est de tout massacrer, sans distinction d’âge, de sexe ni de condition.”
Le discours est bien haineux et discriminatoire à l’égard des Indiens. L’algorithme a raison. Approuver ce texte de nos jours relève de l’ethnocentrisme et de la mauvaise foi.
#4
L’algorithme qui rappelle que leur pays est fondé sur la colonisation, l’assassinat et le pillage de ses voisins, il n’avais pas encore la fonction “hypocrisie”
" />
#5
Clair que je ne vois pas le problème, le discours est bien haineux, l’algo marche très bien
" />
#6
Facebook a constaté que la déclaration d’indépendance était un discours haineux
FTFY
#7
#8
Et avec tout ça y en a encore qui insiste sur le fait que la directive droit d’auteur n’auraient pas posé pas de problème
#9
Ca dépend, les personnes avec du sang impur c’est une communauté ou pas ?
" />
#10
#11
Oui, peut-être que le sang impur pourrait laisser penser à l’algo qu’il s’agit d’un discours misogyne.
#12
#13
Bon sang! Il y a vraiment des gens qui réfléchissent comme les algorithmes… basique, simple… binaire j’oserais dire.
#14
#15
D’un autre côté, on demande aussi aux réseaux sociaux de supprimer le plus vite possible tout contenu faisant l’apologie du terrorisme. Donc un faux positif de temps en temps, je vois pas vraiment où est le problème, en fait…
#16
Expliquer quoi ? Qu’aujourd’hui, qualifier un Amérindien de “sauvage” serait haineux ? Oui certainement.
#17
#18
Fiers de l’équipe de France de football. Ils/elles sont beaux/belles avec leurs drapeaux tricolores, mais passé les quelques semaines de la Coupe du Monde, au delà de faire les guignols sur les réseaux sociaux en tricolore, on n’en voit pas beaucoup agiter des drapeaux à propos de la modification de la Constitution de 1958.
NB: je dis ça parce que, en ce moment, des idiots passent dans mon quartier depuis 10 minutes en klaxonnant et en agitant des drapeaux bleu-blanc-rouge. L’équipe de France a marqué un but aujourd’hui ?
#19
Il semble que certains pensent pareils qu’un algo, c’est à dire au premier degrés…
#20
#21
#22
#23
Facebook pourrait tout autant censurer des citations de la Bible:
« C’est des nations qui vous entourent que tu prendras ton esclave et ta servante qui t’appartiendront…Vous pourrez aussi en acheter des enfants des étrangers qui demeureront chez toi, et de leurs familles qu’ils engendreront dans votre pays ; et ils seront votre propriété… Vous les garderez comme esclaves à perpétuité »Lévitique 25.44-46
Il y avait un autre passage que je n’ai pas retrouvé qui interdisait le viol et l’esclavage sauf si c’était les tribus voisines.
#24
#25
Je ne dis pas le contraire sauf :
“mais je reconnais à cet Etat fédéral d’avoir un attachement profond aux textes qui les unis” ils ne respectent absolument pas l’esprit des textes. Le second amendement a été rédigé à une époque instable ou il était nécessaire que la population soit armée pour suppléer une absence de police ce n’est plus le cas aujourd’hui et a coté de ça les troisième, quatrième, cinquième et sixième amendements qui devaient protéger les citoyens contre les abus de droits sont continuellement bafoués.