La proposition de loi contre la haine en ligne a été adoptée hier en commission des lois. L’ensemble des amendements de sa rapporteur, Laetitia Avia (LREM), ont été adoptés, ainsi qu’une vingtaine d’autres. Le texte est désormais programmé pour les séances des 3 et 4 juillet.
La proposition de loi Avia est passée sans embûche en commission des lois. Rien d’anormal : le groupe LREM dispose de la majorité à l’Assemblée nationale. Mieux, le texte est soutenu par Emmanuel Macron et sept ministres ont plébiscité dans une tribune ce véhicule législatif destiné à mettre « fin à l’impunité » sur le web . Parmi eux, Cédric O, secrétaire d’État chargé du numérique, Christophe Castaner, ministre de l’Intérieur ou encore Nicole Belloubet, garde des Sceaux.
Ainsi, tous les amendements de la députée ont été adoptés. Ils rectifient le cœur du dispositif, en se vissant respectueusement à l’avis du Conseil d’État, lequel regorgeait de propositions, perçues visiblement comme autant d’obligations. Bien entendu, cet avis n’est en rien une garantie de constitutionnalité puisque le dernier mot reviendra aux sages de la Rue de Montpensier.
Extension du périmètre des contenus à supprimer
L’économie de la proposition est simple : les plateformes seront tenues de supprimer les messages manifestement haineux dans les 24 heures. On pourra relire notre description de l’ensemble des amendements de Laetitia Avia.
Un point à retenir : au fil des échanges, la liste des contenus que devront supprimer a été généreusement augmentées. Twitter, Facebook, YouTube, et les autres devront retirer dans ce délai… :
- Les injures et provocations à la discrimination, à la haine ou à la violence à raison de l’origine, de l’ethnie, de la nation, de la prétendue race, de la religion, du sexe, de l’orientation sexuelle, de l’identité de genre ou du handicap
- L’apologie des crimes de guerre, des crimes contre l’humanité, des crimes de réduction en esclavage ou d’exploitation d’une personne réduite en esclavage, des crimes et délits de collaboration avec l’ennemi, des crimes d’atteinte volontaire à la vie ou à l’intégrité physique, d’agression sexuelle, de vol aggravé, d’extorsion ou de destruction, dégradation ou détérioration volontaire dangereuse pour les personnes
- Le harcèlement sexuel
- La traite des êtres humains
- Le proxénétisme
- La pédopornographie
- La fabrication, le transport ou la diffusion d’un message à caractère violent, incitant au terrorisme, pornographique ou de nature à porter gravement atteinte à la dignité humaine ou à inciter des mineurs à se livrer à des jeux les mettant physiquement en danger ainsi que le commerce d’un tel message lorsqu’il est susceptible d’être vu ou perçu par un mineur
- La provocation au terrorisme ou son apologie
- L’atteinte à la dignité de la personne humaine
Ces obligations de retrait pèseront aussi bien sur les plateformes que sur les moteurs de recherche. Mieux, un amendement UDI, lui aussi adopté, oblige ces intermédiaires à substituer « au contenu illicite un message indiquant que le contenu illicite a été retiré. »
Les députés se sont inspirés d’une disposition de la loi de 1881 relative aux injures, où un tribunal peut ordonner l’affichage de sa décision. En pratique, Twitter ou les résultats de Google pourraient donc se retrouver minés de ces messages d’information.
Les hébergeurs dans un étau
Une mesure qui n’est pas sans soulever des problèmes techniques. Comment Google traitera dans ses résultats un contenu « manifestement illicite » trouvé dans une page indexée, aux côtés d’autres contenus qui ne le sont pas ?
Surtout, la liberté d’expression pourrait faire les frais de cette proposition de loi en ce sens qu’un hébergeur pourra être incité à surcensurer des contenus pour échapper aux sanctions judiciaires envisagées, à savoir jusqu’à 250 000 euros d’amende pour une personne physique ou 1 250 000 euros pour une personne morale.
Le fait est que les surcensures seront elles aussi réprimées dans le cadre de leur devoir de coopération avec le CSA. Des coups de ciseaux trop nerveux et répétés pourront alors leur faire encourir une sanction administrative infligée cette fois par l’autorité indépendante pouvant atteindre 4 % du chiffre d’affaires mondial.
En somme, les plateformes se retrouvent dans un véritable étau.
Une question épineuse devra être tôt ou tard tranchée : l’hypothèse de conditions générales d’utilisation où un intermédiaire s’autorise à supprimer des contenus qui, sans être manifestement illicites, sont à tout le moins « choquants ». Le CSA ira-t-il jusqu’à identifier ici une surcensure illégale ?
Le Conseil constitutionnel attendu
« Oui, il y aura des erreurs ». Hier, lors des 30 ans du CSA, Anton'Maria Battesti, responsable des affaires publiques de Facebook France, répondant à notre question sur le risque d’atteinte à la liberté d’expression engendré par cette future loi, a été clair. Il a reconnu qu’il y aura des faux positifs dans le traitement des infractions signalées.
Et pour cause, « il nous reviendra de prendre une décision en 24 heures sur des cas qui prennent parfois des semaines à être jugés dans les tribunaux ».
Selon le représentant du réseau social, « le manifestement illicite reste une notion difficile à appréhender ». Il cite l’une de ses jurisprudences favorites pour illustrer cette difficulté, celle relative aux propos de Mme Boutin, assimilant l’homosexualité à « une abomination ».
« En première instance, elle a été condamnée, en appel, elle a été condamnée » se souvient-il. « Spontanément ici, cette assemblée aurait répondu ‘bien sûr que c’est illégal !, il faut que la plateforme le retire’ ». Toutefois, mardi 9 janvier 2018, « la Cour de cassation a dit que ce n’était pas illégal (…). Ce n’est pas de la malice quand je dis cela. C’est souligner qu’il y a une difficulté surtout quand on nous en imposera un délai assez court » insiste le responsable des affaires publiques.
Pour l’heure, son attention se concentre sur l’intervention du Conseil constitutionnel, à l’instar de la loi sur la manipulation de l’information où les neuf sages avaient imposé de rigoureuses règles interprétatives. « Cela permet à un moment donné d’avoir un arbitre qui siffle la fin du match. J’espère que le Conseil constitutionnel sera saisi avant l’application de la loi, non des années plus tard lors d'une question prioritaire de constitutionnalité. »
« Le CSA aura un pouvoir de sanction conséquent pour assurer la crédibilité du dispositif dans son ensemble » s’est surtout félicité hier Cédric O, toujours lors de la conférence organisée pour les 30 ans du CSA. « C’est un élargissement substantiel des pouvoirs de l’autorité, qui exigera de nouveaux moyens, y compris techniques ».
Commentaires (69)
Je vous invite à visionner cette vidéo de the verge publié hier ( ici ) à propos des modérateur sur facebook. Pour ceux qui n’ont pas le temps je vais faire un résumé rapide :
Six heures par jours les modérateurs doivent regarder environ 300 vidéos et déterminer si elle casse la politique de publication de facebook qui change tout les jours. Le mec à le droit à une pause de 30 minutes pour manger et une autre pause de 9 minutes pour ce détendre.
Les vidéos sont en général très cruelle, ça va du gamin qui torture un gros lézard dans la rue à des malades mentaux qui secouent des bébés, avec un zeste d’appel à la haine. Bien entendu il y à aucune aide psychologique pour ces gens qui chaque jours doivent modérer cette merde.
Bien évidement les gens qui témoignent dans cette vidéo casse la cause de confidentialité de facebook mais à ce point il n’en ont plus grand chose à faire car ils sont tous en dépression et pour le moment l’intelligence artificielle n’est pas prête pour filtrer tout ça.
Ce que je pense de tout ça c’est qu’au delà du fait qu’il faut des gens au cœur bien accroché pour modéré du contenu choquant une poignée de cerise mais qu’il faudrait aussi durcir le ton pour ceux qui publient ce genre de contenu histoire d’en faire réfléchir plus d’un avant de publier de telle chose.
Du coup, traiter les gilets jaunes de “peste brune ” et certains travailleurs “analphabètes dans la plupart des cas”, ca peut tomber sous le coude du “L’atteinte à la dignité de la personne humaine” ou ca ne fonctionne pas si il s’agit de la plateforme DirigeantsPolitiques.fr ?
Mieux, un amendement UDI, lui aussi adopté, oblige ces intermédiaires à substituer « au contenu illicite un message indiquant que le contenu illicite a été retiré. »
Les députés se sont inspirés d’une disposition de la loi de 1881 relative aux injures, où un tribunal peut ordonner l’affichage de sa décision. En pratique, Twitter ou les résultats de Google pourraient donc se retrouver minés de ces messages d’information.
En gros, ça sera comme dans les commentaires sous les articles de NXI où l’on peut lire “commentaire supprimé” suivi de la raison (approximative) de la suppression. C’est vraiment intolérable de vouloir faire afficher de tels messages !
Je comprends l’indignation de l’auteur de l’article qui nous expliquait précédemment : Et on imagine sans mal les difficultés techniques nées d’une telle contrainte, si celle-ci venait à être adoptée.
Moi je m’attend à des plaintes abusives de partout surtout. Donc il faut voir ce qu’on définit par “erreur” mais ce qui est implicite là dedans c’est que par défaut il risque d’y avoir suppression puisque rien n’est fait pour punir les suppressions abusives de contenus…
J’espère surtout pour vous qu’il y aura également un moyen rapide de débloquer les messages supprimés par erreur (par exemple l’ironie et autre faux positif de ce style).
Tout à fait. Il a d’ailleurs été démontré que dans les pays où ils risquent la peine de mort, les criminels sont plus violents, n’ayant de toute façon rien à perdre de plus, à l’opposé de ceux qui peuvent mettent en balance la durée de la peine de prison qu’ils risquent.
Donc le Troll et toujours possible?
" />
J’ai comme une impression de déjà vu, pas vous ?
" />
Et encore, c’est trop gentil.
Joyeux fourre tout ingérable et au milieu “Le proxénétisme”
" />
Euh… comment on fait pour qualifier un contenu de “proxénétisme” ou de message de “proxénétisme”, parce que moi je connais l’incitation à la prostitution, mais par l’incitation au proxénétisme : “Eh toi! je t’incite à t’acheter une grosse montre, à faire péter les premiers boutons de la chemise pour montrer ta chaine en or et à devenir mac !” ?!?
On ne le qualifie pas, on l’expérimente !
" />
Fichtre, j’incite au proxénétisme…
C’est croire que les contenus manifestement illicites sont essentiellement issus des utilisateurs réels.
Hors Facebook est une passoire à campagnes d’intox à la base alors je n’ose imaginer la rigolade des néo-nazi pour ne citer qu’eux…
L’erreur est de concentrer tout et n’importe quoi au même endroit.
Un bouton de notification suffit amplement à condition de ne pas dépasser une certaine masse critique d’utilisateurs ET de ne pas faire dans l’économie de l’attention.
Deux conditions sans lesquelles il est dangereux de songer à quoi que ce soit.
Regardons l’article complété de l’amendement :
les opérateurs de plateforme en ligne mentionnés au I de l’article L. 111‑7 du code de la consommation proposant un service de communication au public en ligne reposant sur la mise en relation de plusieurs parties en vue du partage de contenus publics, dont l’activité dépasse un seuil, déterminé par décret, de nombre de connexions sur le territoire français sont tenus, au regard de l’intérêt général attaché à la lutte contre les contenus publiés sur internet et comportant une incitation à la haine ou une injure à raison de la race, de la religion, de l’ethnie, du sexe, de l’orientation sexuelle ou du handicap, de retirer ou rendre inaccessible dans un délai de 24 heures après notification tout contenu contrevenant manifestement aux cinquième et sixième alinéas de l’article 24, ainsi qu’aux troisième et quatrième alinéas de l’article 33 de la loi du 29 juillet 1881 sur la liberté de la presse et aux articles 222‑33, 225‑4‑1, 225‑5, 225‑6, 227‑23, 227‑24 et 421‑2-5 du code pénal ou de faire cesser, dans le même délai, le référencement de ce contenu .
J’ai mis en gras ce qu’ajoute l’amendement.
Donc, pour lutter contre les contenus comportant une incitation à la haine ou une injure […] on doit retirer des contenus qui sont du proxénétisme (le fait d’aider à la prostitution d’autrui est du proxénétisme, donc publier une annonce proposant de la prostitution en est en théorie, sauf qu’un hébergeur n’est pas responsable du contenu et ne peut donc pas être qualifié de proxénète !) En fait, seul des annonces de proxénètes pourraient être retirés. Je ne suis pas habitué de telles annonces, mais il me semble que les annonces concernant la prostitution paraissent être rédigées par la personne qui se prostitue.
On a donc une justification de lutte contre l’incitation à la haine ou l’injure pour supprimer des annonces de proxénètes (et non pas de prostitué(e)s) ! On marche effectivement sur la tête.
Remarque : on ne parle pas d’incitation au proxénétisme dans l’article mais d’incitation à la haine comme justification.
L”amendement en question ajoute après le premier alinéas :
Dans le cas où un contenu illicite a fait l’objet d’un retrait, les opérateurs substituent au contenu illicite un message indiquant que le contenu illicite a été retiré.
On ne parle pas de partage/reprise ni de référencement.
L’amendement de Avia a bien ajouté au premier alinéas ou de faire cesser, dans le même délai, le référencement de ce contenu . mais cet amendement-ci ne demande rien pour le référencement.
Profitons en pour nous demander si, comme Avia a ajouté avec un ou “de faire cesser le référencement”, il n’est plus nécessaire de retirer ou rendre inaccessible le contenu litigieux si l’on fait cesser le référencement.
Remarque : je ne sais pas comment un opérateur de plateforme peut faire cesser le référencement d’un contenu sans le retirer ou le rendre inaccessible. Cette partie de l’ajout en fin de l’alinéa est donc inutile. L’utilisation du robots.txt est inopérante sur une partie de page.
Je pense qu’elle s’en fout de la cours de cassation, cette loi est juste une loi d’affichage pour dire que l’on réagit à la haine en ligne, elle n’est pas faite pour être efficace et ça me désole.
De toute façon, on a déjà tout ce qu’il faut dans les textes actuels, il manque juste des moyens et une volonté (directives aux procureurs) pour poursuivre le contrevenants.
Alors dans ce cas imaginons comment poursuivre ces auteurs techniquement.
Je pressens qu’on va rigoler…
Encore faudrait il définir ce qu’est l’efficacité.
" />
Les moyens sont chez Facebook, mais ce serait confondre doctrines de renseignement et de police. Je doute qu’il s’agisse d’une bonne idée.
Bienvenu à Bisounours-Land, le pays où aucun mot est plus haut que l’autre …
Bien que je sois contre toute forme de haine, l’intérêt du champ lexical est de pouvoir utiliser certains mots parce qu’ils sont plus forts que d’autres / parce qu’ils ont plus de sens. Et pour le coup Facebook vise juste : un algo / personne seule tranchera plus vite mais sans vision objective ni réflexion là où un juge aurait eu plus d’expérience et aurait pu discerner ce qui relève de la haine ou non.
Du coup, au lieu de voir :
Truc est un connard de première, il a pété ma bagnole
il faudra s’attendre à voir :
Truc est une personne très très très méchante, il a pété ma bagnole
?
Et c’est quoi le prochain truc, ça ?
Monde de merde
Soyez heureux
Je ne baisse pas les bras, j’attrapais un coquillage…
" />
La licéité de la preuve ne peut être garantie sans authentification forte de l’auteur. Quand les utilisateurs auront l’envie d’être responsables, ils auront une clé publique personnelle.
La surcensure sera bien interdite donc il sera difficile pour les plateformes de tout supprimer “par défaut” :
Le fait est que les surcensures seront elles aussi réprimées dans le cadre de leur devoir de coopération avec le CSA. Des coups de ciseaux trop nerveux et répétés pourront alors leur faire encourir une sanction administrative infligée cette fois par l’autorité indépendante pouvant atteindre 4 % du chiffre d’affaires mondial.
Un vrai pays, c’est un pays où il applique sa loi comme il veut alors qu’un faux pays, il applique sa loi comme il veut mais c’est pas pareil.
" />
Tu vois où je veux en venir ?
Des gens ont été condamnés sur la simple base de leur adresse IP. C’est donc facile à faire, si on veut s’en donner les moyens.
Mais le gouvernement préfère cacher la poussière sous le tapis et laisser FB et Google payer pour ça, plutôt que de recruter des policiers et magistrats par centaines et de construire des tribunaux à la pelle.
Tout à fait il est urgent de faire comme en chine
Oui => Hadopi.
" />
Et les républiques bananières ? C’est pas plus clair ?
C’est pas pareil, avec Hadopi on ne sanctionne pas l’auteur de l’infraction pour l’infraction commise, mais le titulaire de l’abonnement pour “non sécurisation”.
Je parlais bien de personnes qui ont été condamnées sur la foi de leur adresse IP pour des affaires de menaces, appel à la haine, etc, donc en plein dans le sujet.
Donc il est bien possible” de le faire, mais c’est trop coûteux, donc comme je disais on refile ça à FB et Google.
Alors l’IP ne doit pas être la seule preuve retenue ce qui explique des coûts d’identification supplémentaires.
" />
Tu as un extrait, une source ?
Quand on veut on peut (source)
J’ai lu “vidéo”, “téléphone mobile contenant”, “En garde à vue, il a expliqué”.
Quand on voudra sanctionner pour d’autres contenus il ne se passera rien…
Disons que sans l’adresse IP ils ne seraient pas allés en garde à vue.
Et comme en plus, la plupart des trolls sont pas très fufute, ils ne peuvent pas s’empêcher de raconter leur vie en GAV pour justifier combien ils ont raison de souhaiter qu’on décapite un dessinateur.
Sinon, il y avait un autre exemple avec des dizaines de personnes condamnées en comparution immédiate suite à des commentaires sur une couverture de Charlie Hebdo postée sur facebook mais je n’arrive pas à trouver d’articles sur le sujet. J’avais lu des extraits de la séance dans Charlie Hebdo à l’époque.
Je suis d’accord que l’abus de troll ne pose pas de problème pour enquêter mais à chaque proposition de loi les bonnes questions ne sont pas soulevées et leur accumulation n’aboutit qu’à une dissuasion qui a aucun moment ne permet d’avoir une contre partie socialement désirable… la sanction sans proportionnalité n’est pas une bonne idée.
Plus vrai que vrai. Le blanchissement de droit de l’homme est un sport national.
" />
Sauf qu’évaluer cette “surcensure” est impossible en pratique…
Il y a quand même quelques études et théories pratiques sur ces sujets, qu’elles soient issues des méthodes de contre insurrection de l’armée française ou des études sociologiques sur la criminalité.
On sait que la répression ça marche… à court terme.
On sait que les gens se policent fonction de la sanction qu’ils encourent tant qu’il s’agit d’incivilités (genre amendes de stationnement, excès de vitesse) mais pas pour la haine ni les violences issues de la pauvreté ou d’idéaux politiques dans lesquelles les gens sont sur des enjeux qui vont au delà de la peur de la sanction.
On sait aussi grâce aux dictatures et à Edwart Bernays que l’argument de la morale, du langage policé est l’articulation numéro un pour détruire la pluralité politique.
-=#Godwin#=-
Goebels lui même décrivait son activité comme le fait de policer la langue
https://fr.wikipedia.org/wiki/Autodaf%C3%A9s_de_1933_en_Allemagne#D%C3%A9clarati…