Face à l’inaction de Twitch, deux célèbres streamers ont annoncé la création d’un outil collaboratif pour bannir les utilisateurs tenant des propos haineux, explique Mediapart.
Amine m’a tué et RebeuDeter, qui totalisent à eux deux 3,7 millions d’abonnés sur Twitter, et près de 3 millions sur Twitch, ont en effet annoncé la mise en place d’une « tourelle de surveillance » du nom de « Place de la Paix », chargée de « contribuer à la lutte contre le harcèlement, le sexisme et la misogynie que subissent les streameuses » :
« Place de la paix (PDP) est un bot qui agit à la façon d’une tourelle de surveillance sur le tchat des streamers. Si une personne a un comportement sexiste mysogine ou raciste il suffira à un modérateur d’écrire @PDP_Bot @pseudoàsurveiller dans le tchat. »
Les personnes mentionnées par le bot seront dès lors « mises sous silence dans toutes les chaînes de streamer présentes dans le réseau PDP », et ne pourront plus y écrire de message pendant 24H, « jusqu’à ce qu’une autre équipe de modération lève ou valide cette suspension de façon définitive » :
« Une personne bannie définitivement du réseau PDP ne pourra plus commenter aucune des chaînes ayant rejoint le bot. Et pour ceux qui se referont un autre compte juste derrière, il vous faudra un numéro de téléphone validé pour parler dans nos tchats. »
Le site précise qu' « un serveur Discord sera mis en place pour, progressivement, affiner l'outil et élaborer ensemble son futur et son utilisation. Ce n'est que le début ».
Contactée par Mediapart, une célèbre joueuse en ligne, victime de cyberharcèlement, explique sous couvert d’anonymat avoir été quelque peu déconcertée par l’initiative de RebeuDeter. Avec plusieurs de ses collègues streamers et streameuses, elle avait en effet créé il y a deux ans un outil similaire de vigilance contre les propos haineux. « Si RebeuDeter et Amine nous avaient simplement demandé qu’on leur partage notre liste de “ban”, on l’aurait fait avec plaisir », s’agace-t-elle.
Commentaires (68)
#1
Très bonne idée!
Dommage que ça ne vienne pas d’Amazon directement.
#1.1
Twitch a mis en place un système de “partage” de liste de ban intégré à la plateforme.
Il y a des limitations (30 partages, pas de ban auto just un flag, …) mais ils ont fait un petit pas.
https://safety.twitch.tv/s/article/Safer-Together-Making-Twitch-Safer-with-Shared-Ban-Info?language=en_US
Pour les intéressés ils avaient parlé du partage de ban sur popcorn (11 minutes 40)
Liste de ban partagée (je crois que c’est un tableur). C’est dans la citation
C’est écrit dans le titre et au début de l’article. Sexisme et racisme (et propos haineux).
Donc c’est bien à destination de tous les streamers.
De plus le sexisme peut également cibler les hommes.
Non, c’est dans l’article …
Le bot permet de mettre sous silence un compte. Ensuite il y a une vérification par une autre équipe de modération pour “valider” la sentence.
#2
Qu’en pense la cnil ?
#3
Je pense que la cnil n’y verra pas de problème car j’imagine que ce ne sont que les pseudos qui sont enregistrés et il me semble que la RGPD conseille la pseudonymisation.
#3.1
Moi, je pense que la CNIL peut se pencher sur le sujet. Un pseudo est ici une donnée personnelle. C’est lui qui t’identifie. Que l’on ne sache pas que tu t’appelles Jean Dupont dans la vraie vie n’a aucun impact sur le fait que le RGPD est applicable.
Cela soulève donc plusieurs points :
la licéité (article 6)
On peut arguer de l’intérêt légitime.
l’information (article 13 ou 14 suivant le cas)
droit d’opposition
Je pense qu’ici on peut s’en extraire : “à moins qu’il ne démontre qu’il existe des motifs légitimes et impérieux pour le traitement qui prévalent sur les intérêts et les droits et libertés de la personne concernée, ou pour la constatation, l’exercice ou la défense de droits en justice.”
Le point le plus délicat est ici le point 2. Je pense qu’il n’est pas mis en œuvre.
#3.2
Concernant le stockage des pseudos, au pire y a qu’à les enregistrer sous la forme d’un hash et puis voilà.
Franchement, n’entravons pas une initiative aussi simple et nécessaire que celle-ci.
Si tu veux une cible, prends-en toi plutôt au bot Discord “FTNL” dont la BDD sert à auto-bannir les utilisateurs pour avoir personnalisé l’apparence de leur client avec BetterDiscord.
#3.3
Tu peux élaborer sur le bot FTNL ? Ca m’intéresse.
#3.4
C’est le même principe que celui du projet évoqué dans l’article, à savoir qu’un utilisateur est automatiquemment banni de toutes les communautés Discord utilisant le bot, après avoir été banni manuellement de l’une d’elles.
Pour ma part, j’ai été banni pour avoir partagé une capture d’écran de mon client Discord à l’apparence différente de la normale, modification qui est effectivement en violation des conditions d’utilisation de Discord, mais n’embête personne pour autant.
#4
Désolé pour le hors sujet, mais j’ai toujours trouvé ça trompeur d’additionner comme ça les abonnés/followers des réseaux sociaux, surtout quand les publics sont aussi proches. Ça fait certes tout de suite des chiffres très impressionnants, mais en réalité une grande partie de ces abonnés suivent surement les deux.
#5
Si j’ai bien compris le bot, il créé une liste de pseudos, donc il n’y a rien qui permette de les lier à une personne physique (sauf bien sur si Twitch décidait de refiler ses bases de données aux streamers, ce qu’ils ne sont pas censés faire). Il ne s’agit donc pas d’une donnée personnelle.
#5.1
Je le répète : un pseudo est une donnée personnelle :
Lorsqu’elles sont relatives à des personnes physiques, les données suivantes sont des données à caractère personnel :
Vu les conséquences de ce traitement, ils ont intérêt à être très carrés avec le RGPD.
Ne pas confondre avec la pseudonymisation du RGPD qui permet de traiter des données personnelles sans pouvoir faire le lien avec la personne initiale.
#5.2
Moi je pense que c’est légitime, donc ça devrait être ok.
Ils ne stockent pas un pseudo, mais le nom d’utilisateur twitch (ils est possible de modifier le pseudo). C’est nécessaire pour mettre en place le ban.
L’utilisateur sera peut être notifié de ses droits lors du ban par le bot
Je ne pense pas que le DPO soit obligatoire (j’ai mis le site belge car il y a quelques exemples, mais c’est la même sur la CNIL)
#5.3
J’ai dit moi-même dans un autre commentaire que l’intérêt légitime pouvait être invoqué. Par contre, l’information n’est pas optionnelle, donc, il ne faut pas de “peut-être”. Et il faut une information complète par rapport au RGPD. Je suis d’accord avec toi que le ban peut être le bon moment pour informer. Cela pourrait aussi être fait quand quelqu’un rentre dans un tchat modéré par ce bot. Ça pourrait même être dissuasif ce qui serait bénéfique par rapport au but recherché.
D’accord aussi pour dire que le dpo n’est probablement pas obligatoire.
Les mentions sont effectivement insuffisantes par rapport au RGPD, mais elles sont sur le site “vitrine” du robot. Ce n’est pas là qu’il faut informer les gens mais sur les tchats, au plus tard quand on entre leur pseudo dans la liste à bannir.
#6
1/ Bizarre de ne pas mettre le pseudo de la “célèbre joueuse en ligne” car elle a fait les news récemment. Passons.
2/ Cette célèbre joueuse en ligne a aussi fait le même bot ou une “simple” liste de ban ?
3/ Un bot féministe conçu par 2 mecs qui ne contactent pas les principales intéressée, j’ai pouffé.
4/ Dommage de se limiter à vouloir protéger les streameuses et pas tous les streamer…
5/ Si j’active le bot sur mon Twitch, je peux deban tout le monde ?
#7
Oh, et les données collectées, temps maximum de conservation et conditions d’accès et suppression sont bien précisés sur leur site :
#7.1
Les mentions obligatoires du RGPD sur ce (très) court paragraphe me semblent bien incomplètes vis à vis des exigences.
Les conséquences de ce traitement sont quand même violentes comme le signale fred42 : ce service propose quand même un bannissement systématiquement pour une durée de 5 ans si une personne est dans cette liste.
Et je ne vois pas beaucoup de moyens de recours sur le site expliquant le procédé. Et si une personne mise dans cette liste contacte le DPO (non communiqué) pour demander la suppression des données et que celui-ci refuse, plainte à la CNIL ? Sur quelle base légale le traitement se justifie-t-il ? (oui, je sais qu’il existe des lois sur le harcèlement et les attaques sexistes, mais rappelons que c’est la Justice qui se prononce sur le sujet, pas une entité privée car il demeure interdit de faire justice soit-même)
#8
Faut vraiment enlever les notifications quand quelqu’un de ma blacklist me répond, à part confirmer qu’il doit y rester j’en vois pas l’intérêt.
#9
La création d’une blacklist créée en fusionnant les listes des bans des streamers/euses est vraiment une très bonne idée. Comme ca chacun pourra y ajouter qui il veut, pour le motif qu’il veut, sans aucun contrôle et sans procédure opposable… Et ca bannira instantanément sur tous les chats de tous les streamers. Je sens que ça va être génial.
C’est pas comme si Internet avait +30 ans d’expérience sur la création et la maintenance des blocklists (spam, virus, ads, …) pour éviter les problèmes bien connus: faux positifs, attaques, erreurs…
#10
#11
C’est justement de cet “autre équipe de modération” dont je parlais. Combien sont-ils ? Combien de notifs traitent-ils par jour ? Quels sont les critères pour valider/invalider une notif ? Qui contrôle leur décision ? Mystère ?!
Et sur ce réseau de 💩 de twitter ca commence déjà à vouloir étendre le truc… “pourquoi seulement le sexisme et la misogynie ? Et l’homophobie ? et la transphobie ? et les pro EG/ED ? et les anti-Israël/Palestine ? et blagues de toto/carambar ?”
#11.1
C’est pour ça que j’ai mis la 2 eme citation.
Il y aura un ajustement avec le temps.
De plus le bot pour un streamer est un opt-in.
Pour l’extension du bot, les utilisateurs de twitter peuvent dire ce qu’ils veulent, la portée sera décidée par ceux qui l’utilisent (enfin, je suppose Amine et Billy).
Mais je pense que le but c’est vraiment de limiter les abus. Faut pas crier à l’échec avant que ça ne démarre. Les streamers semblaient être demandeur d’un outil du genre.
Au cas ou, pour moi, l’homophobie et la transphobie entrent dans la case de sexisme.
Je crois que le but est de “protéger” les streamers des connards, donc anti-Israël/Palestine et blagues carambar n’entrent pas dans le cadre. Le ban sur un seul stream reste d’application dans ces cas.
(c’est quoi EG/ED ?)
Faut pas donner l’impression que c’est plus compliqué que ça ne l’est. La haine est facilement repérable.
#11.2
D’accord avec 127.0.0.1, ce que tu précises n’est en rien une garantie d’un traitement basé sur une information publique et dont les définitions et/ou la liste des interdits qui “sera affinée avec le temps” ne sera pas juste un moyen de filtrer “ceux qui sont compatibles” et “ceux qui ne sont pas compatibles” avec la ligne éditoriale du moment qui par définition évoluera aussi avec le temps.
#11.3
C’est le chat d’un stream twitch, vous allez quand même pas me balancer la liberté d’expression là aussi ?
Mais oui, le but du bot c’est de filtrer ceux qui sont pas compatibles, je ne suis pas sarcastique, c’est l’objectif affiché et c’est une bonne chose.
Stop à la haine !
Et tant pis pour les dégâts collatéraux … c’est juste le chat des stream qui utilisent le bot. Ne vous inquiétez pas, il y aura des stream liberté d’expression débridée où les haineux pourront vomir les uns sur les autres.
#11.4
Ah parce que la liberté d’expression c’est la haine ?
C’est du second degré, nous sommes d’accord?
#11.5
Ben j’essaie de savoir où vous voulez aller. C’est quoi le problème si quelqu’un qui ne le mérite pas est banni ?
Il perd juste l’accès au chat (il peut toujours regarder le stream …)
Donc même si le bot devait dévier faire un Fascisme absolu ce ne serait pas un problème (mais ce serait malheureux)
Pourquoi envisager une dérive peu probable quand cette dérive ne posera pas de problèmes ?
Il n’y a pas vraiment de système parfait, celui-là semble proposer une solution, si elle ne satisfait pas un streamer du coup rien ne l’oblige à l’utiliser.
Donc vraiment je ne comprends pas pourquoi il faudrait craindre une dérive dans ce cas …
#11.6
AMHO, c’est une boite de Pandore. Un jour Twitch, qui expérimente avec succès (??), le lendemain une autre plateforme puis c’est toutes les plateformes et la ligne éditoriale devient globale.
C’est ça le danger. Le cadre devrait être donné par la Loi publique et non par quelques utilisateurs dont l’engagement, certes respectable, ne garantira pas un fonctionnement équitable* dans la durée.
*la Loi étant appliquée à tous alors que la règle vaudrait plutôt pour certains en fonction du parfum du jour.
#11.7
Ce n’est pas twitch mais 2 streamers.
Le système de twitch j’ai mis le lien plus haut : https://safety.twitch.tv/s/article/Safer-Together-Making-Twitch-Safer-with-Shared-Ban-Info?language=en_US
Ça se limite à à un flag dans le chat et il y a des limites.
La loi contre la haine en ligne elle existe. Mais je crois que l’exécutif ne met pas assez de moyens en place.
Et je répète, le ban se limite au chat. Un utilisateur banni peut toujours utiliser la plateforme et voir le stream.
Ouais clairement, ce serait mieux que les chats soient monitorés par des policiers, qu’ils aient accès à l’identité réelle de chaque utilisateur et que chaque contenu haineux soit amené devant un juge. Au moins ce serait équitable …
#12
Au cas ou, la CNIL a un avis sur les listes noire
Donc pour moi si la personne est informée lors du ban par le bot, ça semble être dans les clous. (Et je ne pense pas qu’il puisse demander la suppression de son identifiant de la liste, peut être le message associé).
#13
Je manque probablement d’expérience, mais sur les streams que je suis :
Sur ces streams, je ne vois donc pas l’intérêt de listes de blocage partagées. C’est avant tout une question de moyens. Les streamers à succès, qui ont donc un certain niveau de revenus, peuvent donc s’offrir une modération. Les plus petits peuvent espérer se bâtir une communauté, dont des modos bénévoles. Ceux avec 2-3 spectateurs, bon… je crois que ça va pour eux.
Mais encore une fois, je manque probablement d’expérience. Je pense juste que les listes de blocage partagées sont à double tranchant. Prennons le cas d’un stream d’extrême droite qui bloquerait tous les commentaires qui lui demandent des comptes sur ses propos racistes, négationnistes etc. Vites bannis, se retrouveront ils sur les listes partagées ? Comment seront elles contrôlées (pour de vrai), quid de la confidentialité de ces listes ?
#13.1
Il y a des utilisateurs qui vont insulter des gens qu’ils ne suivent pas. Le but est juste de faire chier et se faire bannir est limite un objectif (oui c’est con).
Donc oui ils peuvent être bannis, mais il n’y a pas vraiment de “punition” pour eux vu qu’ils peuvent toujours aller sur leur stream favoris.
C’est là que le partage intervient. Si tu vas faire le con ailleurs tu seras banni chez toi streamer favoris aussi (si il utilise le bot).
C’est pour ça qu’il faut que les gros streamers participent pour “protéger” les petits.
Le système conserve le message pour lequel tu as été bannis (que ce soit les listes partagées ou le bot). Pour justement permettre de juger si c’est une utilisation abusive ou pas.
Au cas ou, le bot ne fonctionne que sur ta chaine. Impossible de signaler quelqu’un si il ne participe pas à ton chat.
Mais je crois qu’il y aura rapidement une liste des streamers qui abusent du bot. Ils pourront certainement l’utiliser sans pouvoir signaler un utilisateur.
Je suis d’accord sur la question de la confidentialité, mais je ne suis pas certain qu’on puisse exiger d’être informer tant qu’on est pas sur la liste.
#14
A ce compte là, tu autorises uniquement les commentaires des gens qui sont abonnés à ta chaîne, non ? Ca se fait en plus.
Ou bien j’ai peut être mal compris ta phrase
#14.1
Autoriser uniquement les abonnés, ça peut se faire mais c’est extrêmement mal vu: il faut payer pour être abonné, évidemment…
Si tu veux dire follow ça se fait généralement chez tout le monde, avec au passage une acceptation des règles de la chaîne, mais ça ne change rien au problème initial du coup
Édit : on peut limiter les messages aux gens qui follow depuis un certain temps, mais il y a depuis peu des vagues de follow pour ensuite raid quelques semaines après.
#14.2
Ben si ils font ça ils auront moins de chance d’attirer les nouveaux. Les gros stream que je regarde sont généralement ouverts à tous.
Je crois qu’un des gros point des petits streamers c’est qu’il peut y avoir une discussion (moins de monde dans le chat). Si il faut être abonné pour pouvoir participer ça va les handicaper.
Il y a déjà des gens qui se demandent si ça rentre dans le cadre du RGPD. Si la liste avec le motif est accessible à un trop grand nombre ça rend les choses plus compliquées.
Et la “justice” dans les mains de la démocratie j’ai un doute (chasse aux sorcières, …)
Le système de twitch est plus intéressant car il permet à chaque streamer de se faire un avis. Mais il demande plus de temps de traitement par le streamer ou ses modérateurs (qui sont presque tous bénévoles)
Pour moi le système parfait n’existe pas, il faut gérer le cout (en temps), la qualité du ban (adapté au stream) et la force du ban (ban sur plusieurs streams ou un seul).
Je veux bien admettre qu’ici la qualité du ban est à risque, c’est pour ça qu’ils se limitent aux comportements les plus extrêmes (sexisme + racisme)
(quand je dis que c’est Amine et Billy qui décident au final, c’est par ce que c’est eux qui paient)
J’ai toujours eu sentiment qu’insulter un gay c’était aussi essayer de diminuer sa masculinité (un gay serait considéré comme étant moins qu’un homme).
Pour ça que les hommes avec un comportement associé aux femmes (maquillage, …) était considéré comme gay.
Il semblerait que je ne suis pas le seul à avoir cette impression
(J’ai lu que le début, ne faites pas trop attention au titre ce n’est pas un jugement de l’auteur)
J’estime que c’est pour ça que les lesbiennes sont moins mal vues que les gays, note qu’en me relisant, insulter une femme de lesbienne c’est aussi fait dans le but de réduire sa féminité (camionneuse, …)
C’est pour ça que je l’ajoute dans les sexisme.
Pour les transsexuels … pour moi on est en plein dans le sexisme, vu que c’est des gens qui sont insultés par ce qu’il changent de genre ou n’agissent pas selon des codes … sexistes
J’admet que c’est un peu large, mais pour moi c’est lié.
#14.3
En fait les discriminations que tu évoques (gay = “pas un homme” et lesbienne = “camionneuse”) ne sont même pas liées à la sexualité (surtout qu’une bonne partie du temps c’est complètement faux vu qu’elle est supposée).
Ce ne sont que des vieux clichés sociaux dans lesquels nous sommes encore enfermés. C’est simple, socialement, est-ce qu’un homme a le droit de pleurer ? D’exprimer un malaise ? D’exprimer ses sentiments d’une manière générale ? Non, c’est vu comme une faiblesse et les hommes ne doivent pas faire preuve de faiblesse dans cette norme sociale. Une femme dans le BTP ? C’est un métier d’homme si on se réfère à ces clichés.
C’est rien de plus que des vieux clichés débiles qui veulent que “homme = fort” et “femme = faible”. Et que tout ce qui sort de ces pseudo normes sociales est immédiatement rattaché à des choses considérées comme dévalorisantes pour les personnes qui s’y accrochent.
#15
Tant que c’est les juges qui écrivent les lois, tout va bien.
Comme je l’ai dit plus haut, Internet à une grande expérience en matière de gestion des blacklist. Et l’histoire a montré que ce n’est pas une bonne idée quand les blacklist sont créées/gérées par un petit collectif de privilégiés.
Au contraire, ce qui fonctionne c’est lorsque ces listes sont alimentées, contrôlées et utilisées par le plus grand nombre. A savoir les viewers. Pas les streamers.
Bref des listes alimentées par les viewers, compilées par les viewers et utilisée (ou pas) par les viewers.. Par exemple via une extension du navigateur qui permet de masquer les messages du chat.
#16
AMHA ça me semble un peu foireux car l’orientation sexuelle ou la transidentité ne sont pas la définition d’un sexe/genre, donc la critique de ces derniers ne représentent pas a elle seule du sexisme.
Ex : Quand un homosexuel masculin est traité de “sale PD”, c’est son orientation sexuelle qui est ciblée pas son sexe/genre.
#17
Le bruit court que c’est même du côté de Twitch eux-mêmes que le problème viendra: les CGV indiqueraient que les messages postés sur Twitch leur appartiendrait et qu’il serait interdit de les exporter et les traiter ailleurs…
M’enfin d’un point de vue légal, ça veut dire que tout message hors la loi appartenant à Twitch, ils sont responsables de tout, comme un éditeur ?
#18
Encore une fois tu es très excessif et binaire. La Loi est faite par l’expression des citoyens au travers de leur représentation nationale. C’est ce qui la rend à la fois forte par l’expression démocratique et neutre vis à vis du sujet ciblé.
Le plus compliqué à mettre en oeuvre et son application. Sur ce point, je serai plutôt partisan d’un système d’automatisation avec un message fort similaire à un rappel à la Loi dans un courriel basé sur celui qui est associé au compte du réseau social, bien rédigé avec l’extrait du péché commis et avec la Marianne haut à gauche. En cas de récidive, l’intéressé serait alors exclu en en serait informé par le même canal.
Alors oui il pourrait changer d’adresse de courriel mais cela deviendrait contraignant.
Cela aurait le mérite, surtout chez les plus jeunes, de donner du sens aux institutions régaliennes, de légitimer l’action par la force publique (ce ne serait ni le streamer, ni l’éditeur/hébergeur ou le lecteur) et cela sans censure ni auto-censure.
#19
Cela ne changerait rien. Ce sera toujours un identifiant, donc une donnée personnelle qui permettrait un traitement de cette donnée pour bannir par comparaison de hash et en plus, ça permet de retrouver le pseudo lors de cette comparaison.
Je n’entrave rien du tout, je dis juste que ce traitement de données personnelle doit respecter la loi européenne ; le RGPD. Tu es bien d’accord qu’il faut respecter le RGPD, hein ?
Les autres font pire n’est jamais un bon argument.
#19.1
Stocker des hash est conforme au RGPD.
#19.2
Peut-être. Ça dépend ce que l’on en fait.
Que l’on utilise un hash ou directement le pseudo, dans le cas qui nous intéresse ne change strictement rien.
J’ai l’impression que tu ne comprends pas le RGPD ni ce que j’écris. En fait, j’ai donné plus haut les conditions à respecter pour être conforme au RGPD. Et qu’on stocke un hash ou le pseudo ne changera rien aux conditions à respecter.
Relis donc les articles 13 et 14 du RGPD. C’est ce que j’ai pointé de plus délicat dans la démarche exposée.
J’argumente et je donne des pistes de réflexion, tu n’apportes rien d’utile au débat, juste des idées ou des généralités sans expliquer pourquoi ce que tu dis est pertinent.
#19.3
Le pseudo est utilisé pour pouvoir ban sur twitch. Le hash ne fonctionnera pas vu que ce n’est pas réversible.
Au mieux ils peuvent être chiffrés.
#20
Les bruits qui courent ne sont que du bruit.
Leurs conditions d’utilisations ne disent rien de tel.
Elles disent juste que tu leur donnes le droit non exclusif d’utiliser le contenu que tu diffuses chez eux. (je résume)
Elles disent aussi qu’ils ne sont pas responsables du contenu.
#20.1
Ça me rassure un peu, ça commence à bruisser fort chez certains !
#21
Autant de chose qu’il n’est pas possible de faire avec un bot de type ON/OFF.
Pour avoir vu et participé à des projets similaires sur BBS, puis IRC, puis Bulletin-Board, je peux dire que la “boite noire” magique avec liste commune, non-configurable et comportement non personnalisable ca ne fonctionne pas sur le long terme.
Ce qui fonctionne c’est une approche de type AdBlock où tu peux choisir les listes que tu veux appliquer, créer des exceptions, configurer les sanctions que tu veux faire, etc.
Tu veux activer toute la liste “Place de la paix”, ok. Tu veux restreindre à ceux qui ont eu plus de 3 notifications ? Qui sont ban sur plus de 4 chaines ? Tu veux la liste compilée par la streameuse XYZ ? Ou par le collectif anti-AZERTY ? Ou seulement ta liste perso ? etc.
#22
Je pense que nous avons été trop longtemps habitués à avoir des autres qui pensent pour nous et on préfère choisir la solution de l’automatisme tiers que de soit-même mettre la main dans le cambouis.
C’est ce que je dénonçais dans le fil de discussion de l’article sur la modération où plusieurs intervenants voulaient que des propos soient automatiquement masqués / mis en avant basés sur de la preuve sociale potentiellement biaisée (“je suis pas d’accord avec ce que tu dis, -1” alors que le propos n’a rien de répréhensible).
Donner le choix et responsabiliser les personnes en leur donnant moyen d’agir à leur niveau est une approche encore trop marginale.
#23
Merci pour cet article, enfin ce débrief.
Il y a clairement matière à un article plus long, avec un regard juridique et sociétal.
Et technique aussi.
Clairement, les gens qui animent des chaînes/comptes sont désœuvrés face aux débordements de certains commentateurs, et de l’effet de groupe que ça peut entraîner.
J’aime bien la chaîne YouTube « Vous avez le droit » où il prévient les gens de rester courtois et autre.
Il y a besoin de rééduquer les gens à la discussion.
Sujet à creuser, svp.
Et merci aux Inpactiens en commentaires, j’ai appris des choses en vous lisant.
#24
Réduction de la punition. Le sexisme et le racisme ce n’est pas une erreur. Il n’y a pas de raison de laisser une seconde chance
Et du coup on retire la “protection des petits streamers”. Si tu n’as pas des contacts assez gros tes bans n’auront pas d’impact à l’échelle de twitch.
Tes idées foutent en l’air 2 des principes du base du bot (sanctions pour comportement grave et ban multichaine)
Comme je l’ai dit, pas de système parfait, ce bot est destiné à sanctionner fortement les comportements graves.
Rien n’empêche un autre bot pour des sanctions plus légères
#25
Bien sûr, mais le pseudo n’a pas besoin d’être stocké dans la BDD du bot.
Voici comment ça fonctionnerait :
Ainsi, le pseudo n’est utilisé qu’à la réception de chaque message chat mais n’est jamais stocké en BDD.
#25.1
Effectivement, mais ça engendrerait énormément de requêtes vu que théoriquement il faut en faire une par message.
Peu de chance que le serveur tienne.
#25.2
Pour chaque message :
Pour chaque signalement :
Franchement, c’est tenable.
D’ailleurs, on peut utiliser un cache avant la BDD.
#26
Ça confirme juste que tu bans les personnes qui t’expliquent que tu as tort.
#27
Et là, j’aurais tendance à dire que l’anonymisation tombe à l’eau. :/
En tous cas, il faut absolument hasher fort, contrairement à certains sites qui partagent des hash md5 avec leurs annonceurs :/
https://www.cnil.fr/fr/definition/hachage
#28
Non justement, de mémoire si tu ne peux pas faire valider ton pseudonyme pour ta carte d’identité (cf. https://demarchesadministratives.fr/demarches/faire-apparaitre-un-pseudonyme-sur-sa-carte-didentite) alors ce pseudo n’est pas non plus caractérisée comme une donnée personnelle.
#28.1
RGPD Article 4 : Définition d’une donnée personnelle.
#28.2
Tu es hors sujet. Tu confonds pseudonyme d’artiste comme Johnny Hallyday et pseudonyme en ligne comme Pinailleur. En plus, la page que tu as mis en lien dit le contraire de ce que tu affirmes. C’est dommage de ne pas lire tes propres sources.
Et SebGF t’as répondu en citant le RGPD qui confirme ce que je disais ainsi que ce que disait le lien sur lequel je m’appuyais.
Le pinailleur s’est fait renvoyer dans ses buts !
Sans rancune.
#29
Je n’ai cité aucun nom car ça n’est pas utile à la conversation, mais si ça peut te consoler, j’aurai choisi SHA256.
#30
Bah non, ce sont bien deux choses similaires. Utilisées dans des contextes différents mais avec le même but.
Je veux bien que tu me cites le passage qui stipule qu’un “pseudonyme est une donnée à caractère personnelle dans le cadre du RGPD si la demande de mettre le pseudonyme sur la carte d’identité est refusée”, dans l’article que j’ai posté dans ce cas
#31
Le point 1 ne pose pas de problème.
Le point 2 est mis en oeuvre: en tout cas c’est ce qui est indiqué sur leur site.
Le point 3 pose problème car il n’y a aucune mention d’un DPO à contacter. Mais il ne devrait pas être difficile à mettre en oeuvre.
Pour finir, c’est une excellente initiative, notamment pour protéger facilement les streamers les plus petits, voire pour que certains no life apprennent à se défouler autrement.
#32
Bah pas tellement, toi tu parles de pseudonyme comme étant une donnée à caractère personnelle, ce que je veux atténuer par mon commentaire sur comment un pseudonyme est valide aux yeux de la loi. Et SebGF cite identifiant en ligne, qui n’est pas nécessairement un pseudonyme. Tant que je ne lirai pas qu’un pseudonyme est un identifiant en ligne, le doute persiste. J’ai suivi des formations RGPD, ils n’ont pas su me dire. Je soupçonne une coquille sur le texte c’est tout.
#32.1
Dans le cas qui nous intéresse, ici ce bot pour Twitch, les mentions sur le site sont claires : nom d’utilisateur.
Donc une donnée personnelle vis à vis du RGPD.
Quant à la question du “pseudonyme = donnée personnelle ou pas ?”, le sujet est effectivement un poil plus complexe mais la lecture de quelques pages de la CNIL permet de tirer quelques clés de lecture.
Dans son article d’aout 2020 sur les bonnes pratiques à adopter pour le jeu en ligne, la CNIL indique qu’un pseudonyme ne doit pas contenir d’informations personnelles telles que son nom, prénom ou date de naissance.
Dans ses démarches de plaintes en ligne pour la suppression / anonymisation de contributions sur un forum, la CNIL indique que si la personne utilise un pseudonyme, alors elle ne pourra exercer ses droits que si elle peut démonter qu’il l’identifie correctement.
De ce fait, à la lecture de ces deux éléments (j’ai volontairement ignoré les résultats pré-RGPD pour éviter une ambiguïté sur la définition de donnée personnelle introduite par celui-ci), je dirais qu’un pseudonyme est une donnée personnelle si et seulement si il est en capacité d’identifier une personne physique. En gros s’il est constitué d’un diminutif de prénom, date de naissance, département, code postal, etc, comme un “jeanmichel92” par exemple. Par contre si le pseudonyme ne contient aucune information relative à la personne (ex : “acguyislove”), dans ce cas le statut de donnée personnelle n’est pas forcément garanti.
Donc j’aurais envie de dire que ça dépend du cas précis. Sauf si à un moment la CJUE vient statuer là dessus en des termes plus formels. Sachant que le considérant 30 qui parle des identifiants en ligne n’est pas exhaustif et que le 57 indique que le responsable du traitement n’est pas tenu d’obtenir des informations supplémentaires pour traiter une demande s’il n’est pas en capacité d’associer la personne physique à l’identifiant. Par contre il ne peut pas refuser qu’une personne lui donne ces éléments pour faire valoir ses droits.
#32.2
Merci beaucoup, cela confirme la complexité de ce point, et ça m’apporte aussi plus de clarté
#33
Dans ce cas, tu coches la case “Ban def immédiat” dans les options du bot.
Dans ce cas tu coches toutes les Listes disponibles dans les options du bot
Tu es libres de cocher ce que tu veux dans le bot. Tant que tu n’imposes pas aux autres de cocher la meme chose que toi, ca me va. Les problèmes vont commencer quand une autorité supérieure décidera que X ou Y doit être banni de toutes les chaines pour la raison Z, sans possibilité d’exception pas les streamers qui utilisent le bot.
#34
Le but même du bot est qu’un ban pour Racisme ou sexisme soit effectif sur toutes les chaines qui utilisent le bot.
Une chaine qui n’appliquerait pas cette règle serait inutile pour l’ensemble.
L’idée c’est que l’utilisateur se dise, si je vais dire une connerie sur le xhat de X je serai ban partout.
Que tu penses que le bot ne sera pas adopté c’est ton avis et je ne vois pas le futur. Mais le bot permet de faire ce qu’il est annoncé faire. Bannir à grande échelle les comportements inacceptables.
#35
Sinon pour revenir au sujet des blocklist (car c’est un peu la base du dispositif présenté dans cette actu), Codeberg a publié un article de blog très intéressant à leur sujet.
https://blog.codeberg.org/how-blocklists-prevent-the-internet-to-be-decentralized-and-safe.html
L’approche “strike first collaborate later maybe” est hélas beaucoup trop fréquente sur le Web et le sujet de cet article le démontre encore. Les intentions sont toujours louables, mais faut juste réfléchir aux conséquences de ses actes. Et au passage leur question sur la légalité de ce genre de procédé me paraît très pertinente vu que même les lois (pourtant controversées) sur le sujet ont des délais de prévenance bien plus long que ces dispositifs automatisés.
#35.1
Je trouve que c’est aussi lié au principe d’avoir un espace commentaire sur un site de partage d’informations / de connaissances. Je ne retrouve pas les articles qui en parlaient, mais ils liaient le Strike-first-adjust-later avec l’absence d’espace commentaire (public ou avec création de compte) puisque sur le principe ça revient à bloquer un moyen de participation. (Parfois à raison car la/les personnes qui gèrent la plateforme refuse cette intéraction, d’autre fois pour de simple raison de gestion technique.)
#36
La question a déjà été posée à la CNIL. Les “identifiants de connexion” sont des données à caractère personnel même s’ils sont publiquement accessibles.
source: https://www.cnil.fr/fr/cnil-direct/question/une-donnee-caractere-personnel-cest-quoi
#36.1
Oui c’est exactement ce que j’ai dis en #53 en citant l’article 4 du RGPD qui défini la “donnée personnelle”.
Mais, un pseudonyme n’est pas forcément un identifiant de connexion.
Dans le cas de Twitch, je pense que si car username doit être égal à nom d’affichage, mais par exemple Discord l’identifiant de connexion est un email et on peut changer son nom d’affichage sur un serveur. Et un pseudonyme ne semble pas être systématiquement une donnée personnelle si celui-ci n’est pas en capacité de rattacher une personne physique.
Typiquement sur le cas de cet article : si admettons l’identifiant de connexion est un email (donc donnée personnelle du point de vue du RGPD), mais que c’est le nom d’affichage - donc potentiellement un pseudonyme - qui est mis dans cette famosso list (oui ça serait stupide car si ce nom est changeable par l’utilisateur, il ne peut être une clé unique). Celle-ci contient-elle une donnée personnelle si le pseudonyme c’est SFsdfkjsdkzlle345563Z ? J’ai pas l’impression que ce soit aussi clair et tranché et vu les recommandations que j’ai cité précédemment, ça semble surtout dépendre de si le pseudonyme fait transpirer des données personnelles directes (prénom, nom, etc) ou indirectes (code postal, date de naissance, etc).