« Le$bean », « panoramique », « seggs » : un nouveau vocabulaire gagne en popularité sur les réseaux sociaux pour duper la modération des algorithmes. Bien qu’il soit utilisé abondamment par les créateurs de contenu au Québec et ailleurs dans le monde, ce nouveau jargon a peu de chances d’être introduit dans le langage commun, puisqu’il est en constante évolution. Le phénomène, qu’on peut observer dans différentes langues, notamment sur TikTok, porte le nom d’algotalk ou d’algospeak.

« C’est une stratégie qui vise à remplacer des mots complets ou des lettres dans des mots par d’autres mots ou par des émojis. L’idée, c’est de camoufler un mot pour éviter de se faire prendre par un algorithme », explique Mélanie Millette, professeure au Département de communication sociale et publique de l’Université du Québec à Montréal. Synonymes, paraphrases ou euphémismes : les stratégies utilisées sont nombreuses, selon Elizabeth Allyn Smith, professeure au Département de linguistique à la même université.

En ligne, les exemples abondent. On utilise maintenant « devenir non vivant » pour parler de mort ou de suicide. On modifie les caractères de « lesbienne » en « le$bean », qu’on entend phonétiquement comme « le dollar bean », en anglais. Et « seggs » est un code pour dire « sexe ».

Les utilisateurs reconnaissent le phénomène : 51 % des Américains consultés lors d’un sondage de Telus International en 2022 disaient avoir remarqué une forme d’algospeak, notamment sur les réseaux sociaux ou dans des forums.

« Pendant la pandémie, par exemple, il y avait le souci de ne pas publier de fausses informations », explique Elizabeth Allyn Smith. Les algorithmes des réseaux sociaux surveillaient tous les contenus qui y étaient liés et en supprimaient certains ou les mettaient moins en avant. C’est pourquoi des mots comme « panoramique » sont apparus pour parler de la pandémie, mentionne l’experte.

Nouveaux réseaux, vieilles techniques

Utiliser des codes pour camoufler quelque chose, ce n’est pas vraiment nouveau. « Dès qu’on a commencé à parler, il y avait des mots qu’on voulait éviter, soit avec certaines personnes, avec certains groupes ou dans certaines circonstances », explique M^me Smith.

La Première Guerre mondiale est une période où les codes ont foisonné pour camoufler des messages importants, rappelle M^me Millette. De nos jours, l’algospeak fait partie de la grande famille de l’évitement linguistique. Les discussions sur le Web, même à leurs débuts, n’y ont pas échappé.

À qui profite ce nouveau langage ? « Dans le cas de communautés opprimées, comme les personnes de la diversité d’orientation sexuelle et de genre, ça peut devenir une stratégie pour être capable de se retrouver entre soi, puis de parler de nos vrais enjeux sans se faire, sans arrêt, censurer nos propos », explique Mélanie Millette.

Elle donne l’exemple du renversement de Roe v. Wade aux États-Unis. Rapidement, l’algotalk « camping » a remplacé le mot « avortement », toujours pour éviter la censure. Une utilisatrice offrait notamment un transport pour aller faire du « camping » dans un autre État.

Éducation sexuelle censurée et mise en invisibilité

Autant sur YouTube qu’Instagram, les politiques d’utilisation interdisent certains thèmes, et les algorithmes sont entraînés à chercher certains mots pour faire respecter ladite politique. Les règles communautaires de TikTok mentionnent par exemple que : « Les services ou l’activité à caractère sexuel ne sont pas autorisés. » Mais l’algorithme censure parfois du contenu qui ne contrevient pas aux règles.

« Chaque fois que j’ouvre l’application [TikTok], je me demande tout le temps : “Est-ce que je vais me faire enlever mon compte ?” » Sur ses réseaux sociaux, Anne-Marie Ménard, connue pour son compte Au lit avec Anne-Marie, fait de l’éducation sexuelle et relationnelle. Pour ce faire, elle emploie certains mots que l’algorithme peut associer à du contenu explicite, comme clitoris ou pénis. C’est pourquoi une de ses stratégies est de remplacer les « s » de ces mots par le signe « $ ». « Il faut absolument modifier les caractères pour que ça puisse passer », raconte la créatrice de contenu.

Si l’algorithme détecte ces termes, Anne-Marie risque une « mise en invisibilité », ou « shadow ban », en anglais. Cette pratique consiste à limiter la diffusion, voire à supprimer le matériel publié par un utilisateur, selon un projet de loi du Wisconsin de 2021. Même si les différentes plateformes nient cette pratique, les créateurs de contenu le constatent.

Dangers

Passer sous le radar des algorithmes grâce à l’algotalk, c’est aussi une technique que peuvent utiliser certains groupes qui ont des discours haineux. « Dans les communautés de la manosphère misogyne comme les incels (les célibataires involontaires), il y a beaucoup d’algospeak, mais il y a aussi beaucoup de jargon haineux pour décrire les femmes », mentionne Mélanie Millette.

Elizabeth Allyn Smith explique que même si l’algorithme finit par détecter ces codes, ce genre de personnes vont trouver d’autres moyens d’inciter à la violence « avec des mots que l’algorithme n’a pas encore appris ». Cela peut mener à un danger, selon l’experte. « Les algorithmes, c’est en changement constant, par l’apprentissage automatique. » Au fil du temps, il peut donc saisir que les vidéos avec le mot-clé « panoramique » parlent en fait de pandémie. « Les stratégies fonctionnent jusqu’à ce qu’elles soient identifiées », précise M^me Millette.

Un langage qui va rester ?

« Chaque langue, chaque forme, que ce soit à l’oral ou à l’écrit, est toujours en constante évolution », rappelle Elizabeth Allyn Smith. Mais les expressions ou les mots de l’algotalk vont-ils se retrouver dans le langage commun ? Seulement un très faible pourcentage, selon l’experte.

« Il ne faut pas oublier que c’est moins de la moitié de la population qui est sur TikTok. Donc, ça prendrait vraiment que tout le monde y soit pour que ça passe [dans le langage courant]. […] Et il ne faut pas oublier non plus que les choses qu’on trouve un peu cool, une fois que nos parents l’apprennent, ce n’est plus cool. Donc il y a certains termes qui vont disparaître naturellement. »