Connexion
Abonnez-vous

YouTube : la PDG s’embourbe dans les problèmes de modération durant une interview

YouTube : la PDG s'embourbe dans les problèmes de modération durant une interview

Le 02 décembre 2019 à 10h31

Susan Wojcicki était interviewée dans le cadre de l’émission 60 Minutes (CBS) par la journaliste Lesley Stahl. Plusieurs questions étaient orientées vers la manière dont la plateforme de streaming modérait les propos qu’elle hébergeait. Exercice périlleux, que la PDG a visiblement raté.

Un sujet sensible, qui repose sur l’établissement de règles claires et – idéalement – assez fines pour que les questions morales puissent y trouver des réponses évidentes. Mais les réponses de Susan Wojcicki manquaient singulièrement de finesse.

La PDG a ainsi expliqué qu’il existait une différence nette entre les vidéos pouvant « nuire » directement et celles diffusant un message de haine ou de la désinformation.

« Donc si vous dites "N’engagez pas quelqu’un à cause de sa race", c’est de la discrimination et ce serait un exemple de quelque chose en violation avec notre règlement », pointe Susan Wojcicki comme exemple.

La journaliste, ayant compris la limite entre les propos, suppose alors qu’une vidéo proclamant « les gens blancs sont supérieurs », mais sans appeler d’action particulière, serait autorisée. Ce à quoi la PDG répond par l’affirmative : si la vidéo ne dit « rien de plus, oui ».

Une réponse particulièrement malvenue. Wojcicki avait déjà fort à faire pour redorer un blason dont la peinture s'est écaillée depuis longtemps. YouTube pourrait devenir progressivement synonyme de désinformation, alimentant une défiance croissante.

Mais la PDG a indirectement confirmé que les problèmes actuels n’en étaient pas pour l’entreprise, rachetée par Google il y a 13 ans déjà. Comme le note en particulier TechCrunch, le groupe Alphabet, avec sa réserve de cash de 117 milliards de dollars, a pourtant largement les moyens de se pencher sérieusement sur la question.

Le sujet est d’autant plus sensible que Mozilla attaque sans plus prendre de gants désormais. La fondation a même créé un site pour référencer une partie des erreurs dont les utilisateurs se font l’écho.

Elle notait, dans les grandes lignes, que si l’on suivait les recommandations assez longtemps, on finissait toujours par tomber sur des contenus violents, des messages de haine, de la désinformation et autres catégories de propos bien peu reluisants.

70 % des vidéos visionnées l’étant grâce aux recommandations, on comprend l’ampleur du problème. Chez YouTube, on estime probablement être pris entre le marteau et l’enclume : censure d’un côté, et de l’autre une liberté d’expression confondue avec l’autorisation de débiter des messages de haine.

Le 02 décembre 2019 à 10h31

Commentaires (20)

Vous devez être abonné pour pouvoir commenter.

Abonnez-vous
votre avatar

Une solution face à cela : PeerTube.

votre avatar

en quoi c’est une solution ?

si PeerTube prenait et qu’il y avait des millions de vidéos up chaque jour, il y aurait le meme problème de modération.



Et si l’hébergeur est un ravi d’avoir des vidéos racistes par ex ? en quoi le fait d’avoir des youtubes décentralisés empêcherait la parution de vidéos problématiques ? le problème c’est les gens et y a malheureusement pas d’algorithme pour régler ça …


votre avatar



Elle notait, dans les grandes lignes, que si l’on suivait les recommandations assez longtemps, on finissait toujours par tomber sur des contenus violents, des messages de haine, de la désinformation et autres catégories de propos bien peu reluisants.



C’est une solution à cela en plus de combattre l’effet de silo. Je ne parlais pas forcément de la modération, bien que celle-ci restera bien plus efficace et moins arbitraire sur Peertube amha, de par sa structure.

votre avatar

La constitution américaine (le “First Amendment”) protège la liberté d’expression à un point qui peut paraître choquant pour les européens.



Il n’est pas interdit d’avoir des propos racistes aux US, dans la limite que ça ne doit pas être un appel à la violence contre un groupe de personnes - pas de “fighting words”.



J’ai pas regardé la vidéo, mais d’après l’article, la PDG de Youtube ne fait que rappeler la loi américaine.



Par contre, je sais pas si ces propos s’appliquent au contenu mis à disposition des européens…les lois européennes étant très différentes.

votre avatar

+1



Plus le fait de devoir gérer les législations différentes selon les pays.. et surtout les droits d’auteur.

votre avatar

A mon sens, la liberté d’expression doit être totale même si c’est blessant (même si je sais que ce n’est pas toujours facile). Ce qui doit être interdit c’est de s’en prendre physiquement aux personnes et biens.



La déclaration universelle des droits de l’Homme (article 19) dit bien que l’on a la liberté d’opinion et d’expression, et dans ce paragraphe, il n’y a pas de “sauf si…”.

votre avatar

Nous avons des droits mais aussi de devoirs. La liberté d’expression a ses limites dans le mal qu’elle fait à autrui.



C’est une irresponsabilité que de dire qu’elle ne devrait pas avoir de limite. En gros vous impliquez que s’il n’y a pas de traces (“s’en prendre physiquement”), il n’y a pas de mal.



La violence verbale ne fait pas qu’être “blessant[e]”, elle tue aussi, tous les jours.



 

votre avatar

AMHA cet effet est lié à la masse de contenu dispo. C’est un effet statistique lié à l’absence de modération. Si peertube héberge autant de vidéo, on aura le meme effet.



D’ailleurs perrtube permettant à n’importe qui d’héberger ses vidéos, on peut meme faciliter la diffusion de ce type de vidéo malheureusement, puisque n’importe quel haineux peut monter sa chaine et permettre à ses collègues d’ajouter les leurs. Si le chaine est sous juridiction US par ex, ça ne sera pas supprimable, ni meme attaquable.



Je maintiens : le problème c’est les gens, pas la techno. L’effet d’échelle sur YT nous joue juste des tours.



Le seul avantage de Peertube c’est que la modération ne dépends pas du bon vouloir d’une personne externe qui peut changer de règles quand elle veut. Mais c’est pour le meilleur comme pour le pire.

votre avatar

Donc on place la liberté d’expression à géométrie variable en fonction de politiques, de médias (dont les  réseaux sociaux), des réactions à chaud de populations, …

 

Ce sont nos sociétés qui font que l’on en est là où l’on doit interdire petit à petit toute liberté d’expression car les gens n’apprennent plus à communiquer, à débattre avec des arguments.

 

Si (par exemple) le racisme et la haine existent, il faut peut-être se demander pourquoi ils existent au lieu de se mettre des œillères et dire cela n’existe pas. Une loi ne permet pas “le vivre ensemble”. Ceux qui pensent cela ne vivent pas dans la réalité. Il faut que les gens puissent s’exprimer librement sans crainte afin de comprendre les racines des problèmes et essayer de corriger cela. 

votre avatar







HerrFrance a écrit :



C’est une irresponsabilité que de dire qu’elle ne devrait pas avoir de limite. En gros vous impliquez que s’il n’y a pas de traces (“s’en prendre physiquement”), il n’y a pas de mal. 





Pour l’instant, je vois surtout le mal que produit la censure. Et pour moi, ce mal est bien plus important que celui que produirait la liberté d’expression. 

C’est une question éminemment politique. Il n’y a pas de bonne ou de mauvaise réponse à ça, c’est un choix de société.



Pour ma part, je suis totalement sur la même longueur d’onde que QuickTurtle


votre avatar







QuickTurtle a écrit :



A mon sens, la liberté d’expression doit être totale même si c’est blessant (même si je sais que ce n’est pas toujours facile). Ce qui doit être interdit c’est de s’en prendre physiquement aux personnes et biens.



Donc si quelqu’un appelle au viol de ta fille sur twitter et que tu le gifles, c’est toi le coupable?


votre avatar

S’en prendre physique à quelqu’un, comme je l’ai dit, cela doit être interdit. Le premier et seul coupable ici est celui qui dit de s’en prendre à quelqu’un puisqu’il ne s’agit pas de l’expression d’une opinion mais de l’appel à une attaque physique. Et même si j’ai déjà eu des insultes, je me suis jamais démonté et je ne m’en suis jamais pris physiquement à la personne (et j’ajoute qu’aussi loin que je m’en souvienne, personne ne s’en est pris à moi pour avoir exprimé mes opinions). Cela n’a pas empêché les personnes concernées de partir la queue entre les jambes.

Pour Twitter, il y a un truc qui s’appelle la justice. Mais vous pouvez toujours essayer de mettre une gifle lorsque la personne se cache derrière un écran d’ordinateur et l’anonymat.

votre avatar







recoding a écrit :



Donc si quelqu’un appelle au viol de ta fille sur twitter et que tu le gifles, c’est toi le coupable?





Au sens du Droit, oui parce qu’on ne fait pas justice soi-même et que l’appel à la commission d’un crime est déjà punissable par la loi. (en revanche, si quelqu’un s’approche physiquement de ta fille avec de mauvaises intentions, t’as le droit de le marrave dans la limite du raisonnable <img data-src=" />)


votre avatar

&nbsp;







QuickTurtle a écrit :



S’en prendre physique à quelqu’un, comme je l’ai dit, cela doit être interdit. Le premier et seul coupable ici est celui qui dit de s’en prendre à quelqu’un puisqu’il ne s’agit pas de l’expression d’une opinion mais de l’appel à une attaque physique

(…)

Pour Twitter, il y a un truc qui s’appelle la justice. Mais vous pouvez toujours essayer de mettre une gifle lorsque la personne se cache derrière un écran d’ordinateur et l’anonymat.





Dans le premier cas il s’agit juste de liberté d’expression hein. C’est

un appel, mais vous interdisez seulement de “s’en prendre aux biens et

aux personnes”. Ou alors aussi à “tout propos pouvant générer des actes violents”? Par exemple une invitation à manifester?



Pour la dernière phrase, c’est triste mais la justice ça ne fonctionne pas. Je connais quelqu’un (ne possédant pas de compte sur ce réseau social) qui a été victime d’appels à des violences multiples et identifié, le réseau social a répondu que ce n’était pas contraire à sa charte, et la justice… elle aurait rendu un jugement combien de temps après le passage à l’acte si celui-ci était arrivé?

Je ne soutiens absolument pas la loi “contre la haine” qui est actuellement proposée, ni dans son esprit ni dans sa forme, mais défendre la liberté “totale” d’expression… c’est aussi sombrer dans le manichéisme.


votre avatar







WereWindle a écrit :



Au sens du Droit, oui parce qu’on ne fait pas justice soi-même et que l’appel à la commission d’un crime est déjà punissable par la loi. (en revanche, si quelqu’un s’approche physiquement de ta fille avec de mauvaises intentions, t’as le droit de le marrave dans la limite du raisonnable <img data-src=" />)





D’après Quickturtle la liberté d’expression doit être totale, or d’après la loi plein de choses sont interdites (négation de crimes contre l’humanité, diffamation etc.)


votre avatar

Comme le dit Cydream dans son commentaire, la question est politique et liée à la société. Dans un sens oui, les limites sont pour moi à géométries variables car les avis sont différents entre cultures, pays et même entre deux périodes de vie d’une même personne.



En effet les limites de la liberté d’expression ne devrait pas être lié à la réaction à chaud. Il doit y avoir un cadre légal réfléchi proprement, défini clairement et que l’on pourra faire évoluer de nouveau de manière réfléchie. Et encore là, il y a toujours des marges et ça doit être à une justice indépendante de trancher.

Par contre c’est sûr que légiférer sur les limites à ne pas franchir au niveau

verbal est plus difficile que de définir les limites physiques d’une

personne.



Je n’aime pas la censure, je ne veux pas d’un flicage ni d’une absence d’anonymat sur internet et je ne suis pas non plus pour céder aux SJW qui démarrent sur la moindre broutille. En revanche pour moi on doit être responsable de ses propos. Les conséquences sont trop grandes sur la vie de beaucoup de monde.

&nbsp;

Comme tu le dis, j’aimerai en effet que les racines des problèmes comme le racisme soit traités plutôt que simplement les masquer. Je ne sais en revanche pas comment ça pourrait être géré à l’échelle d’un pays.



En bref, c’est compliqué ! Merci pour le débat apaisé en tout cas <img data-src=" />

votre avatar







QuickTurtle a écrit :



A mon sens, la liberté d’expression doit être totale même si c’est blessant (même si je sais que ce n’est pas toujours facile). Ce qui doit être interdit c’est de s’en prendre physiquement aux personnes et biens.



Crier que les blancs/noirs sont supérieurs n’entraîne pas de conséquences physiques immédiates, mais à force peut causer les prémices à un retour de l’apartheid à long-terme si ces voix parviennent à convaincre.




  Il faut tenir compte que depuis l'avénement des réseaux sociaux, nous sommes entrés dans une ère où il est possible à chacun d'exposer sa stupidité, alors qu'auparavant les médias traditionnels constituaient une sorte de "filtre" qui faisait taire ces voix irrationnelles. Et surtout, elles peuvent maintenant se structurer plus facilement qu'auparavant grâce à ces outils, et donc frapper plus fort encore après pour gagner du terrain.        






  Par exemple, on a les anti-vaccins qui font des appels à ne pas les faire, ce qui met en danger physiquement des milliers  d'enfants. Pourtant ce n'est pas un appel à la violence à  proprement parler. Et ils arrivent à convaincre, au point qu'il y a une épidémie de rougeole dans un petit pays nommé Samoa, aidée par un score de vaccination très bas conséquente à un fait réel qui a pourtant été contredit mais qui a été manipulé par la suite. Ajoutons d'autres paramètres (genre manque de suivi de la population sur le fait en question ?) et l'influence considérable des émotions sur notre comportement, et on a un résultat peu appréciable.   






  Et donc justement :        

&nbsp;







QuickTurtle a écrit :



&nbsp;



    Si (par exemple) le racisme et la haine existent, il faut peut-être se demander pourquoi ils existent au lieu de se mettre des œillères et dire cela n'existe pas. Une loi ne permet pas "le vivre ensemble". Ceux qui pensent cela ne vivent pas dans la réalité. Il faut que les gens puissent s'exprimer librement sans crainte afin de comprendre les racines des problèmes et essayer de corriger cela.&nbsp;








  Sauf que c'est purement irrationnel à chaque fois et ça ne se soigne pas forcément par une douche de rationalité. Ce serait trop facile.        






  A l'inverse du racisme, les anti-vaccins seraient supposément faciles à rétorquer du fait des faits/études/preuves par milliers. Mais ils se contentent de rejetter tout cela d'un revers de main en criant des "Big Pharma", que ce sont des mensonges, etc. Leurs croyances sont supérieures à la réalité, je ne suis pas sûr qu'ils changeraient de position même si leur enfants mourraient dans la douleur d'une maladie facilement évitable.        






  Aussi, n'oublions pas que les faits/preuves ne sont rien face à un    excellent débatteur capable de manipuler les émotions des spectateurs, donc tenter de démolir une tendance peut largement échouer parce que l'opposant s'appuie trop sur les faits, pas assez sur les émotions.        






  Du coup il y a des moments où il vaut mieux faire jouer la loi plutôt que de gérer un désastre.

votre avatar







QuickTurtle a écrit :



Donc on place la liberté d’expression à géométrie variable en fonction de politiques, de médias (dont les  réseaux sociaux), des réactions à chaud de populations, …

 

Ce sont nos sociétés qui font que l’on en est là où l’on doit interdire petit à petit toute liberté d’expression car les gens n’apprennent plus à communiquer, à débattre avec des arguments.

 

Si (par exemple) le racisme et la haine existent, il faut peut-être se demander pourquoi ils existent au lieu de se mettre des œillères et dire cela n’existe pas. Une loi ne permet pas “le vivre ensemble”. Ceux qui pensent cela ne vivent pas dans la réalité. Il faut que les gens puissent s’exprimer librement sans crainte afin de comprendre les racines des problèmes et essayer de corriger cela.







Yakafokon. Cette technique ancestrale ne fonctionne pas.<img data-src=" />


votre avatar

ce dont tu parles même aux USA est condamné .. l’incitation au suicide etc ; on parle pas de dire “ blanc plus fort noir moins fort “

votre avatar







recoding a écrit :



D’après Quickturtle la liberté d’expression doit être totale, or d’après la loi plein de choses sont interdites (négation de crimes contre l’humanité, diffamation etc.)





ça montre simplement que ceux qui ont écrit les textes de loi correspondant n’ont pas la même sensibilité que lui, c’est tout ^^


YouTube : la PDG s’embourbe dans les problèmes de modération durant une interview

Fermer