Future loi contre la haine en ligne : « Oui, il y aura des erreurs » anticipe Facebook France
Cyber Haine, surcensure inévitable ?
Le 20 juin 2019 à 14h08
6 min
Droit
Droit
La proposition de loi contre la haine en ligne a été adoptée hier en commission des lois. L’ensemble des amendements de sa rapporteur, Laetitia Avia (LREM), ont été adoptés, ainsi qu’une vingtaine d’autres. Le texte est désormais programmé pour les séances des 3 et 4 juillet.
La proposition de loi Avia est passée sans embûche en commission des lois. Rien d’anormal : le groupe LREM dispose de la majorité à l’Assemblée nationale. Mieux, le texte est soutenu par Emmanuel Macron et sept ministres ont plébiscité dans une tribune ce véhicule législatif destiné à mettre « fin à l’impunité » sur le web . Parmi eux, Cédric O, secrétaire d’État chargé du numérique, Christophe Castaner, ministre de l’Intérieur ou encore Nicole Belloubet, garde des Sceaux.
Ainsi, tous les amendements de la députée ont été adoptés. Ils rectifient le cœur du dispositif, en se vissant respectueusement à l’avis du Conseil d’État, lequel regorgeait de propositions, perçues visiblement comme autant d’obligations. Bien entendu, cet avis n’est en rien une garantie de constitutionnalité puisque le dernier mot reviendra aux sages de la Rue de Montpensier.
Extension du périmètre des contenus à supprimer
L’économie de la proposition est simple : les plateformes seront tenues de supprimer les messages manifestement haineux dans les 24 heures. On pourra relire notre description de l’ensemble des amendements de Laetitia Avia.
Un point à retenir : au fil des échanges, la liste des contenus que devront supprimer a été généreusement augmentées. Twitter, Facebook, YouTube, et les autres devront retirer dans ce délai… :
- Les injures et provocations à la discrimination, à la haine ou à la violence à raison de l’origine, de l’ethnie, de la nation, de la prétendue race, de la religion, du sexe, de l’orientation sexuelle, de l’identité de genre ou du handicap
- L’apologie des crimes de guerre, des crimes contre l’humanité, des crimes de réduction en esclavage ou d’exploitation d’une personne réduite en esclavage, des crimes et délits de collaboration avec l’ennemi, des crimes d’atteinte volontaire à la vie ou à l’intégrité physique, d’agression sexuelle, de vol aggravé, d’extorsion ou de destruction, dégradation ou détérioration volontaire dangereuse pour les personnes
- Le harcèlement sexuel
- La traite des êtres humains
- Le proxénétisme
- La pédopornographie
- La fabrication, le transport ou la diffusion d’un message à caractère violent, incitant au terrorisme, pornographique ou de nature à porter gravement atteinte à la dignité humaine ou à inciter des mineurs à se livrer à des jeux les mettant physiquement en danger ainsi que le commerce d’un tel message lorsqu’il est susceptible d’être vu ou perçu par un mineur
- La provocation au terrorisme ou son apologie
- L’atteinte à la dignité de la personne humaine
Ces obligations de retrait pèseront aussi bien sur les plateformes que sur les moteurs de recherche. Mieux, un amendement UDI, lui aussi adopté, oblige ces intermédiaires à substituer « au contenu illicite un message indiquant que le contenu illicite a été retiré. »
Les députés se sont inspirés d’une disposition de la loi de 1881 relative aux injures, où un tribunal peut ordonner l’affichage de sa décision. En pratique, Twitter ou les résultats de Google pourraient donc se retrouver minés de ces messages d’information.
Les hébergeurs dans un étau
Une mesure qui n’est pas sans soulever des problèmes techniques. Comment Google traitera dans ses résultats un contenu « manifestement illicite » trouvé dans une page indexée, aux côtés d’autres contenus qui ne le sont pas ?
Surtout, la liberté d’expression pourrait faire les frais de cette proposition de loi en ce sens qu’un hébergeur pourra être incité à surcensurer des contenus pour échapper aux sanctions judiciaires envisagées, à savoir jusqu’à 250 000 euros d’amende pour une personne physique ou 1 250 000 euros pour une personne morale.
Le fait est que les surcensures seront elles aussi réprimées dans le cadre de leur devoir de coopération avec le CSA. Des coups de ciseaux trop nerveux et répétés pourront alors leur faire encourir une sanction administrative infligée cette fois par l’autorité indépendante pouvant atteindre 4 % du chiffre d’affaires mondial.
En somme, les plateformes se retrouvent dans un véritable étau.
Une question épineuse devra être tôt ou tard tranchée : l’hypothèse de conditions générales d’utilisation où un intermédiaire s’autorise à supprimer des contenus qui, sans être manifestement illicites, sont à tout le moins « choquants ». Le CSA ira-t-il jusqu’à identifier ici une surcensure illégale ?
Le Conseil constitutionnel attendu
« Oui, il y aura des erreurs ». Hier, lors des 30 ans du CSA, Anton'Maria Battesti, responsable des affaires publiques de Facebook France, répondant à notre question sur le risque d’atteinte à la liberté d’expression engendré par cette future loi, a été clair. Il a reconnu qu’il y aura des faux positifs dans le traitement des infractions signalées.
Et pour cause, « il nous reviendra de prendre une décision en 24 heures sur des cas qui prennent parfois des semaines à être jugés dans les tribunaux ».
Selon le représentant du réseau social, « le manifestement illicite reste une notion difficile à appréhender ». Il cite l’une de ses jurisprudences favorites pour illustrer cette difficulté, celle relative aux propos de Mme Boutin, assimilant l’homosexualité à « une abomination ».
« En première instance, elle a été condamnée, en appel, elle a été condamnée » se souvient-il. « Spontanément ici, cette assemblée aurait répondu ‘bien sûr que c’est illégal !, il faut que la plateforme le retire’ ». Toutefois, mardi 9 janvier 2018, « la Cour de cassation a dit que ce n’était pas illégal (…). Ce n’est pas de la malice quand je dis cela. C’est souligner qu’il y a une difficulté surtout quand on nous en imposera un délai assez court » insiste le responsable des affaires publiques.
Pour l’heure, son attention se concentre sur l’intervention du Conseil constitutionnel, à l’instar de la loi sur la manipulation de l’information où les neuf sages avaient imposé de rigoureuses règles interprétatives. « Cela permet à un moment donné d’avoir un arbitre qui siffle la fin du match. J’espère que le Conseil constitutionnel sera saisi avant l’application de la loi, non des années plus tard lors d'une question prioritaire de constitutionnalité. »
« Le CSA aura un pouvoir de sanction conséquent pour assurer la crédibilité du dispositif dans son ensemble » s’est surtout félicité hier Cédric O, toujours lors de la conférence organisée pour les 30 ans du CSA. « C’est un élargissement substantiel des pouvoirs de l’autorité, qui exigera de nouveaux moyens, y compris techniques ».
Future loi contre la haine en ligne : « Oui, il y aura des erreurs » anticipe Facebook France
-
Extension du périmètre des contenus à supprimer
-
Les hébergeurs dans un étau
-
Le Conseil constitutionnel attendu
Commentaires (69)
Vous devez être abonné pour pouvoir commenter.
Déjà abonné ? Se connecter
Abonnez-vousLe 20/06/2019 à 17h44
Encore faudrait il définir ce qu’est l’efficacité.
Les moyens sont chez Facebook, mais ce serait confondre doctrines de renseignement et de police. Je doute qu’il s’agisse d’une bonne idée. " />
Le 20/06/2019 à 17h55
Le 20/06/2019 à 18h21
Le 20/06/2019 à 18h22
Le 20/06/2019 à 18h34
Le 20/06/2019 à 18h38
Le 20/06/2019 à 19h10
Le 20/06/2019 à 19h30
Bienvenu à Bisounours-Land, le pays où aucun mot est plus haut que l’autre …
Bien que je sois contre toute forme de haine, l’intérêt du champ lexical est de pouvoir utiliser certains mots parce qu’ils sont plus forts que d’autres / parce qu’ils ont plus de sens. Et pour le coup Facebook vise juste : un algo / personne seule tranchera plus vite mais sans vision objective ni réflexion là où un juge aurait eu plus d’expérience et aurait pu discerner ce qui relève de la haine ou non.
Du coup, au lieu de voir :
Truc est un connard de première, il a pété ma bagnole
il faudra s’attendre à voir :
Truc est une personne très très très méchante, il a pété ma bagnole
?
Et c’est quoi le prochain truc, ça ?
Monde de merde
Soyez heureux
Le 20/06/2019 à 20h19
Le 20/06/2019 à 20h33
Je ne baisse pas les bras, j’attrapais un coquillage…
La licéité de la preuve ne peut être garantie sans authentification forte de l’auteur. Quand les utilisateurs auront l’envie d’être responsables, ils auront une clé publique personnelle. " />
Le 20/06/2019 à 21h14
Le 20/06/2019 à 21h19
Le 21/06/2019 à 05h22
La surcensure sera bien interdite donc il sera difficile pour les plateformes de tout supprimer “par défaut” :
Le fait est que les surcensures seront elles aussi réprimées dans le cadre de leur devoir de coopération avec le CSA. Des coups de ciseaux trop nerveux et répétés pourront alors leur faire encourir une sanction administrative infligée cette fois par l’autorité indépendante pouvant atteindre 4 % du chiffre d’affaires mondial.
Le 21/06/2019 à 06h16
Le 21/06/2019 à 08h11
Le 21/06/2019 à 09h08
Un vrai pays, c’est un pays où il applique sa loi comme il veut alors qu’un faux pays, il applique sa loi comme il veut mais c’est pas pareil.
Tu vois où je veux en venir ?
" />
Le 20/06/2019 à 14h20
Je vous invite à visionner cette vidéo de the verge publié hier ( ici ) à propos des modérateur sur facebook. Pour ceux qui n’ont pas le temps je vais faire un résumé rapide :
Six heures par jours les modérateurs doivent regarder environ 300 vidéos et déterminer si elle casse la politique de publication de facebook qui change tout les jours. Le mec à le droit à une pause de 30 minutes pour manger et une autre pause de 9 minutes pour ce détendre.
Les vidéos sont en général très cruelle, ça va du gamin qui torture un gros lézard dans la rue à des malades mentaux qui secouent des bébés, avec un zeste d’appel à la haine. Bien entendu il y à aucune aide psychologique pour ces gens qui chaque jours doivent modérer cette merde.
Bien évidement les gens qui témoignent dans cette vidéo casse la cause de confidentialité de facebook mais à ce point il n’en ont plus grand chose à faire car ils sont tous en dépression et pour le moment l’intelligence artificielle n’est pas prête pour filtrer tout ça.
Ce que je pense de tout ça c’est qu’au delà du fait qu’il faut des gens au cœur bien accroché pour modéré du contenu choquant une poignée de cerise mais qu’il faudrait aussi durcir le ton pour ceux qui publient ce genre de contenu histoire d’en faire réfléchir plus d’un avant de publier de telle chose.
Le 20/06/2019 à 14h21
Du coup, traiter les gilets jaunes de “peste brune ” et certains travailleurs “analphabètes dans la plupart des cas”, ca peut tomber sous le coude du “L’atteinte à la dignité de la personne humaine” ou ca ne fonctionne pas si il s’agit de la plateforme DirigeantsPolitiques.fr ?
Le 20/06/2019 à 14h33
Mieux, un amendement UDI, lui aussi adopté, oblige ces intermédiaires à substituer « au contenu illicite un message indiquant que le contenu illicite a été retiré. »
Les députés se sont inspirés d’une disposition de la loi de 1881 relative aux injures, où un tribunal peut ordonner l’affichage de sa décision. En pratique, Twitter ou les résultats de Google pourraient donc se retrouver minés de ces messages d’information.
En gros, ça sera comme dans les commentaires sous les articles de NXI où l’on peut lire “commentaire supprimé” suivi de la raison (approximative) de la suppression. C’est vraiment intolérable de vouloir faire afficher de tels messages !
Je comprends l’indignation de l’auteur de l’article qui nous expliquait précédemment : Et on imagine sans mal les difficultés techniques nées d’une telle contrainte, si celle-ci venait à être adoptée.
Le 20/06/2019 à 14h36
Moi je m’attend à des plaintes abusives de partout surtout. Donc il faut voir ce qu’on définit par “erreur” mais ce qui est implicite là dedans c’est que par défaut il risque d’y avoir suppression puisque rien n’est fait pour punir les suppressions abusives de contenus…
Le 21/06/2019 à 09h12
Le 21/06/2019 à 10h47
Des gens ont été condamnés sur la simple base de leur adresse IP. C’est donc facile à faire, si on veut s’en donner les moyens.
Mais le gouvernement préfère cacher la poussière sous le tapis et laisser FB et Google payer pour ça, plutôt que de recruter des policiers et magistrats par centaines et de construire des tribunaux à la pelle.
Le 21/06/2019 à 11h02
" /> Et tu te fera striker pour avoir utilisé “pété” au lieu de “abimé”. " />
Le 21/06/2019 à 11h48
Le 21/06/2019 à 11h54
Tout à fait il est urgent de faire comme en chine
Le 21/06/2019 à 11h57
Oui => Hadopi. " />
Le 21/06/2019 à 12h00
Et les républiques bananières ? C’est pas plus clair ?
Le 21/06/2019 à 12h14
C’est pas pareil, avec Hadopi on ne sanctionne pas l’auteur de l’infraction pour l’infraction commise, mais le titulaire de l’abonnement pour “non sécurisation”.
Je parlais bien de personnes qui ont été condamnées sur la foi de leur adresse IP pour des affaires de menaces, appel à la haine, etc, donc en plein dans le sujet.
Donc il est bien possible” de le faire, mais c’est trop coûteux, donc comme je disais on refile ça à FB et Google.
Le 21/06/2019 à 12h17
Alors l’IP ne doit pas être la seule preuve retenue ce qui explique des coûts d’identification supplémentaires.
Tu as un extrait, une source ? " />
Le 21/06/2019 à 12h31
Le 21/06/2019 à 12h37
Le 21/06/2019 à 12h42
Le 21/06/2019 à 12h47
Quand on veut on peut (source)
Le 21/06/2019 à 13h04
J’ai lu “vidéo”, “téléphone mobile contenant”, “En garde à vue, il a expliqué”.
Quand on voudra sanctionner pour d’autres contenus il ne se passera rien…
Le 21/06/2019 à 13h52
Disons que sans l’adresse IP ils ne seraient pas allés en garde à vue.
Et comme en plus, la plupart des trolls sont pas très fufute, ils ne peuvent pas s’empêcher de raconter leur vie en GAV pour justifier combien ils ont raison de souhaiter qu’on décapite un dessinateur.
Sinon, il y avait un autre exemple avec des dizaines de personnes condamnées en comparution immédiate suite à des commentaires sur une couverture de Charlie Hebdo postée sur facebook mais je n’arrive pas à trouver d’articles sur le sujet. J’avais lu des extraits de la séance dans Charlie Hebdo à l’époque.
Le 21/06/2019 à 14h43
Le 25/06/2019 à 10h58
Le 20/06/2019 à 14h38
Le 20/06/2019 à 14h48
J’espère surtout pour vous qu’il y aura également un moyen rapide de débloquer les messages supprimés par erreur (par exemple l’ironie et autre faux positif de ce style).
Le 20/06/2019 à 15h04
Tout à fait. Il a d’ailleurs été démontré que dans les pays où ils risquent la peine de mort, les criminels sont plus violents, n’ayant de toute façon rien à perdre de plus, à l’opposé de ceux qui peuvent mettent en balance la durée de la peine de prison qu’ils risquent.
Le 20/06/2019 à 16h14
Donc le Troll et toujours possible?" />
Le 20/06/2019 à 16h21
J’ai comme une impression de déjà vu, pas vous ?
Et encore, c’est trop gentil. " />
Le 20/06/2019 à 16h25
Joyeux fourre tout ingérable et au milieu “Le proxénétisme”
Euh… comment on fait pour qualifier un contenu de “proxénétisme” ou de message de “proxénétisme”, parce que moi je connais l’incitation à la prostitution, mais par l’incitation au proxénétisme : “Eh toi! je t’incite à t’acheter une grosse montre, à faire péter les premiers boutons de la chemise pour montrer ta chaine en or et à devenir mac !” ?!? " />
Le 20/06/2019 à 16h30
On ne le qualifie pas, on l’expérimente ! " />
Fichtre, j’incite au proxénétisme…
Le 20/06/2019 à 16h31
Le 20/06/2019 à 16h50
C’est croire que les contenus manifestement illicites sont essentiellement issus des utilisateurs réels.
Hors Facebook est une passoire à campagnes d’intox à la base alors je n’ose imaginer la rigolade des néo-nazi pour ne citer qu’eux…
L’erreur est de concentrer tout et n’importe quoi au même endroit.
Un bouton de notification suffit amplement à condition de ne pas dépasser une certaine masse critique d’utilisateurs ET de ne pas faire dans l’économie de l’attention.
Deux conditions sans lesquelles il est dangereux de songer à quoi que ce soit.
Le 20/06/2019 à 16h52
Le 20/06/2019 à 16h55
Regardons l’article complété de l’amendement :
les opérateurs de plateforme en ligne mentionnés au I de l’article L. 111‑7 du code de la consommation proposant un service de communication au public en ligne reposant sur la mise en relation de plusieurs parties en vue du partage de contenus publics, dont l’activité dépasse un seuil, déterminé par décret, de nombre de connexions sur le territoire français sont tenus, au regard de l’intérêt général attaché à la lutte contre les contenus publiés sur internet et comportant une incitation à la haine ou une injure à raison de la race, de la religion, de l’ethnie, du sexe, de l’orientation sexuelle ou du handicap, de retirer ou rendre inaccessible dans un délai de 24 heures après notification tout contenu contrevenant manifestement aux cinquième et sixième alinéas de l’article 24, ainsi qu’aux troisième et quatrième alinéas de l’article 33 de la loi du 29 juillet 1881 sur la liberté de la presse et aux articles 222‑33, 225‑4‑1, 225‑5, 225‑6, 227‑23, 227‑24 et 421‑2-5 du code pénal ou de faire cesser, dans le même délai, le référencement de ce contenu .
J’ai mis en gras ce qu’ajoute l’amendement.
Donc, pour lutter contre les contenus comportant une incitation à la haine ou une injure […] on doit retirer des contenus qui sont du proxénétisme (le fait d’aider à la prostitution d’autrui est du proxénétisme, donc publier une annonce proposant de la prostitution en est en théorie, sauf qu’un hébergeur n’est pas responsable du contenu et ne peut donc pas être qualifié de proxénète !) En fait, seul des annonces de proxénètes pourraient être retirés. Je ne suis pas habitué de telles annonces, mais il me semble que les annonces concernant la prostitution paraissent être rédigées par la personne qui se prostitue.
On a donc une justification de lutte contre l’incitation à la haine ou l’injure pour supprimer des annonces de proxénètes (et non pas de prostitué(e)s) ! On marche effectivement sur la tête.
Remarque : on ne parle pas d’incitation au proxénétisme dans l’article mais d’incitation à la haine comme justification.
Le 20/06/2019 à 16h58
Le 20/06/2019 à 17h16
L”amendement en question ajoute après le premier alinéas :
Dans le cas où un contenu illicite a fait l’objet d’un retrait, les opérateurs substituent au contenu illicite un message indiquant que le contenu illicite a été retiré.
On ne parle pas de partage/reprise ni de référencement.
L’amendement de Avia a bien ajouté au premier alinéas ou de faire cesser, dans le même délai, le référencement de ce contenu . mais cet amendement-ci ne demande rien pour le référencement.
Profitons en pour nous demander si, comme Avia a ajouté avec un ou “de faire cesser le référencement”, il n’est plus nécessaire de retirer ou rendre inaccessible le contenu litigieux si l’on fait cesser le référencement.
Remarque : je ne sais pas comment un opérateur de plateforme peut faire cesser le référencement d’un contenu sans le retirer ou le rendre inaccessible. Cette partie de l’ajout en fin de l’alinéa est donc inutile. L’utilisation du robots.txt est inopérante sur une partie de page.
Le 20/06/2019 à 17h18
Le 20/06/2019 à 17h20
Je pense qu’elle s’en fout de la cours de cassation, cette loi est juste une loi d’affichage pour dire que l’on réagit à la haine en ligne, elle n’est pas faite pour être efficace et ça me désole.
De toute façon, on a déjà tout ce qu’il faut dans les textes actuels, il manque juste des moyens et une volonté (directives aux procureurs) pour poursuivre le contrevenants.
Le 20/06/2019 à 17h25
Alors dans ce cas imaginons comment poursuivre ces auteurs techniquement.
Je pressens qu’on va rigoler…
Le 21/06/2019 à 15h15
Je suis d’accord que l’abus de troll ne pose pas de problème pour enquêter mais à chaque proposition de loi les bonnes questions ne sont pas soulevées et leur accumulation n’aboutit qu’à une dissuasion qui a aucun moment ne permet d’avoir une contre partie socialement désirable… la sanction sans proportionnalité n’est pas une bonne idée.
Le 21/06/2019 à 21h40
Le 22/06/2019 à 12h41
Le 22/06/2019 à 13h12
Le 22/06/2019 à 15h04
Le 22/06/2019 à 16h56
Le 22/06/2019 à 17h02
Le 22/06/2019 à 19h10
Le 22/06/2019 à 20h00
Plus vrai que vrai. Le blanchissement de droit de l’homme est un sport national. " />
Le 22/06/2019 à 20h54
Le 23/06/2019 à 16h49
Le 25/06/2019 à 07h49
Sauf qu’évaluer cette “surcensure” est impossible en pratique…
Le 25/06/2019 à 08h01
Le 25/06/2019 à 08h26
Il y a quand même quelques études et théories pratiques sur ces sujets, qu’elles soient issues des méthodes de contre insurrection de l’armée française ou des études sociologiques sur la criminalité.
On sait que la répression ça marche… à court terme.
On sait que les gens se policent fonction de la sanction qu’ils encourent tant qu’il s’agit d’incivilités (genre amendes de stationnement, excès de vitesse) mais pas pour la haine ni les violences issues de la pauvreté ou d’idéaux politiques dans lesquelles les gens sont sur des enjeux qui vont au delà de la peur de la sanction.
On sait aussi grâce aux dictatures et à Edwart Bernays que l’argument de la morale, du langage policé est l’articulation numéro un pour détruire la pluralité politique.
-=#Godwin#=-
Goebels lui même décrivait son activité comme le fait de policer la langue
Wikipedia
Le 25/06/2019 à 10h42
Le 25/06/2019 à 10h56