Modération : Substack critiquée pour son hébergement d’auteurs nazis

Aux États-Unis, un nombre croissant d'auteurs de newsletters s'insurgent contre la non-modération de Substack des contenus extrémistes qu'elle héberge, quand bien même ceux-ci enfreignent les règles de modération de la plateforme.

Depuis la fin novembre, la plateforme d’édition de newsletter Substack se trouve au cœur d’une polémique sur son rôle d’hébergeur, et celle-ci ne fait qu’enfler outre-Atlantique. C’est l’article « Substack a un problème nazi », publié dans The Atlantic, qui a mis le feu aux poudres.

Le journaliste (et auteur d’une newsletter hébergée sur ladite plateforme) Jonathan M. Katz y notait que, si Substack se présente comme le « meilleur espoir de civilité sur internet » et espérait prendre une place importante en amont des élections américaines de 2024, celle-ci hébergeait et tirait profit d’écrits ouvertement nazis. Ils sont pourtant contraires à ses propres règles d’utilisation.

Baptisé « les Substackers contre les nazis », un collectif de plus de 200 auteurs inquiets a bientôt signé une lettre ouverte à destination de Chris Best, Hamish McKenzie et Jairaj Sethi, les trois fondateurs du service. Ils y demandent des explications sur les raisons pour lesquelles Substack « héberge et monétise » des contenus extrémistes.

Réponse d’Hamish McKenzie, le 21 décembre : « Je tiens à préciser que nous n'aimons pas non plus les nazis – nous aimerions que personne n'ait ces opinions. Mais certaines personnes partagent ces opinions et d'autres opinions extrêmes. Dans ces conditions, nous ne pensons pas que la censure (y compris par la démonétisation des publications) fasse disparaître le problème – en fait, elle l’aggrave. »

Une promotion de la non-intervention cohérente avec ses précédentes prises de position sur la question de la modération, mais qui n'a pas satisfait tout le monde.

• Faute de modération, les réseaux sociaux pourraient être coupés sur le territoire, selon Thierry Breton

Conditions d’utilisation inappliquées

Depuis sa création, en 2017, Substack a en effet des conditions d’utilisations qui interdisent clairement « la haine » (et la nudité, et la pornographie, entre autres choses). On y lit notamment que « Substack ne permet pas les menaces crédibles de violence physique ». Or, comme le note ce 28 décembre la romancière Margaret Atwood, les menaces nazies sont crédibles.

Fin novembre, Jonathan Katz indiquait par ailleurs avoir trouvé 16 newsletters contenant des symboles ouvertement nazis, et un certain nombre promouvant la théorie complotiste du grand remplacement, voire mentionnant la « question juive ». Depuis, d’autres (nous compris) ont mené l’expérience et sont chaque fois tombés avec une déconcertante facilité sur des publications théoriquement interdites par l’éditeur.

Modèle économique

Si les contenus ouvertement nazis ou suprémacistes blancs y prolifèrent, c'est donc que l’entreprise n'applique pas les mesures de modération correspondant à sa politique.

La raison peut se chercher du côté de son modèle, qui repose sur des frais de 10 % prélevés sur les abonnements recueillis par les 17 000 auteurs de toutes obédiences qui proposent des newsletters payantes.

Parmi eux, plusieurs auteurs extrémistes, dont le militant d’extrême-droite Richard Spencer, arborent sur leur profil le badge « bestseller », ce qui signifie qu’ils ont au moins plusieurs centaines d’abonnés payants.

Substack tire donc une partie de son chiffre d’affaires desdites publications, pointent Jonathan M. Katz dans son article de novembre, et les nombreux auteurs en colère dans leur lettre ouverte.

Une non-intervention qui a déjà fait fuir des auteurs

Republiant la lettre dans leurs propres newsletters, ces derniers appellent donc la plateforme à appliquer ses propres règles, c’est-à-dire à modérer les textes faux et appelant à la haine. Parmi eux, plusieurs des journalistes très suivis que Substack avait convaincus de rejoindre son service, à son lancement (Anne Helen Petersen, autrice de Culture Study, ou Casey Newton, de Platformer, par exemple).

Ce n’est pas la première fois que Substack se retrouve au sein d’un débat de ce type. En 2021, plusieurs autrices et auteurs l'avaient quittée, lassés par les attaques transphobes qu’ils y subissaient. L’année suivante, Substack avait été pointée du doigt comme étant le seul endroit où des désinformateurs notoires sur le Covid-19 pouvaient s’installer et gagner de l’argent.

Dans une interview puis une publication d'avril 2023, Chris Best puis Hamish McKenzie avaient déjà donné la vision de l’entreprise : pour eux, face à la dégradation ambiante du discours, c’est à chaque propriétaire de newsletter de se créer l’espace et la communauté qui lui plaît.

À l’époque, le journaliste Noah Berlatsky avait opposé à la vision de « discours dégradé » avancée par l’entrepreneur le fait que les idées dont on parle concernaient des génocides, de l’insurrection, du harcèlement. Le fondateur de TechDirt avait été plus direct, titrant un billet « le CEO de Substack Chris Best n’a pas compris [que sa plateforme] est devenu[e] le bar à nazi ».

En novembre, The Atlantic a formulé les choses autrement : on peut se déclarer défenseur de la liberté d’expression au nom du premier amendement de la Constitution américaine autant qu’on le veut. Ce dernier permet aussi bien aux éditeurs et aux plateformes de publier ce qu’ils veulent que de refuser de le faire.