L’appel de Christchurch et les enjeux de la modération du « contenu terroriste »

Les défis de la réglementation du contenu terroriste en ligne

De quoi parle-t-on quand on parle du “terrorisme” ?

L’Appel de Christchurch s’inscrit dans une vague d’efforts bien antérieure à cette actualité, visant à modérer les contenus néfastes en ligne. Le succès de cette modération repose sur un équilibre complexe. Qu’elle soit effectuée par un filtre automatique ou un humain, la modération nécessite une compréhension commune et sans ambiguïté du contenu en question. Ainsi, la difficulté pour l’Appel de Christchurch est qu’il n’existe pas de définition partagée du “terrorisme” entre les États. Les termes « terrorisme », « extrémisme violent », « contenu terroriste » et « extrémisme en ligne » ne sont pas définis dans l’Appel, ce qui soulève la question de savoir précisément quel contenu est visé.

Un autre défi est de distinguer le terrorisme d’extrême droite du terrorisme djihadiste. Enfin, non seulement les définitions du contenu terroriste varient en fonction de la nation et de la culture, mais elles sont aussi très politiques et peuvent être utilisées arbitrairement pour restreindre la liberté d’expression et porter atteinte aux droits humains.

Faut-il s’attendre à une portée vaste ou étroite ?

L’Appel est axé sur la prévention de la diffusion virale d’actes de violence flagrante. Mais quelles sont les implications pour les contenus qui sont indirectement violents ou qui pourraient inciter à la violence ? Par exemple, le récent règlement européen sur le contenu terroriste exige l’enlèvement dans l’heure de tout matériel (texte, images, enregistrements sonores ou vidéos) qui « incite ou sollicite la commission ou la contribution à la commission d’infractions terroristes, donne des instructions pour la commission de ces infractions ou sollicite la participation à des activités d’un groupe terroriste » . En l’absence de sa propre définition, il n’est pas évident de savoir si la portée de l’Appel sera large ou étroite.

L’Appel se réfère plusieurs fois à une coalition d’entreprises de technologie connue sous le nom de GIFCT (Global Internet Forum to Counter Terrorism) qui maintient une base de données commune de contenus prohibés — des “hashes » ou empreintes digitales numériques uniques — qu’elles utilisent pour identifier le contenu terroriste. L’un des principaux partenaires du GIFCT est Tech Against Terrorism, une démarche lancée par la Direction du Comité des Nations Unies contre le terrorisme en 2016, et auquel cet appel promet également son soutien.  Le système et le processus d’identification de GIFCT et de Tech against Terrorist semblent donc des points de départ probables pour la mise en œuvre de l’appel. Mais la définition de ces termes est essentielle au succès de son application et nécessite un examen politique et social attentif et transparent.

Différentes formes de dissémination et de viralité.

L’Appel se réfère à toutes les formes de “contenus terroristes et extrémistes violents” sans mentionner directement le terrorisme d’extrême droite,

bien que ce soit la nature de l’attaque de Christchurch. Cette approche, qui vise à obtenir une acceptation plus large, sape la force et l’efficacité de l’appel parce que différentes formes de contenu terroriste se comportent et se propagent différemment en ligne. D’après une étude récente de Tech Against Terrorism, la moitié des plateformes préférées d’ISIS (depuis 2016) ont été créées par des individus ou des petits groupes d’individus. En d’autres termes, les géants du net ne sont pas les seuls théâtres des contenus terroristes. Selon la même étude, près de la moitié des sites les plus utilisés par les terroristes jihadistes sont des sites de partage de fichiers et d’autres services de stockage en nuage, ce qui donne à penser que le problème ne se limite pas à la diffusion virale sur les réseaux sociaux.

L’absence notable de certaines plateformes.

L’extrémisme de droite est souvent “protégé” par les notions de vie privée et de liberté d’expression (et par la logique du premier amendement aux États-Unis). L’interdiction récentedes nationalistes blancs sur Facebook et des figures de la haine radicale comme Alex Jones et Milo Yiannopolous représentent un pas important. Mais ces acteurs et cette violence trouvent refuge sur d’autres plateformes, telles que Discord et 8chan  (où l’attaquant de Christchurch a trouvé du soutien pour son idéologie et où il a communiqué durant l’attaque).

Quelles suites après cet Appel ?

L’absence notable de la société civile dans les négociations.

Définir ces contenus et les modalités de lutte à leur encontre exige un effort de collaboration de la part des gouvernements, de l’industrie et de la société civile. L’Appel de Christchurch a ainsi été critiqué pour son incapacité à intégrer la société civile de manière significative dans le processus de discussion. Le 14 mai, la veille de l’annonce, la première ministre, Jacinda Ardern, a tenu une réunion avec des représentants de la société civile. Ils ont produit un document de contribution collective, dont la première préoccupation concerne l’absence de définitions précises.

Les prochaines étapes.

L’Appel de Christchurch sera discuté lors du Sommet du G7 à Biarritz où les ministres négocieront une charte pour lutter contre les contenus violents dans une acception plus large. La participation future de la société civile dans ces processus n’est aujourd’hui pas précisée, tout comme les plans d’action qui découleront de ces textes de diplomatie internationale.