La haine virale

Il a fallu dix-sept minutes à Facebook pour retirer, à la demande de la police, la vidéo diffusée en direct des meurtres dans les mosquées de Christchurch, en Nouvelle-Zélande. C’est long, assez long pour ceux qui veulent répandre le virus haineux dans le cyberespace.

Les réseaux sociaux ont été développés selon un modèle de « plateforme », une configuration conçue comme un espace virtuel dans lequel les usagers ont la liberté de mettre en ligne ce que bon leur semble. Par contraste, les médias fonctionnent sur le postulat que les informations destinées à être publiées doivent être validées par une personne ayant autorité, un rédacteur en chef qui, aux termes de la loi, est responsable des contenus fautifs.

Les réseaux sociaux sont conçus à partir de l’idée que l’usager est le maître de ce qu’il va voir et de ce qu’il va « partager ». Pour extraire des revenus, ces plateformes proposant leurs services sans frais directs aux individus ont développé des technologies fondées sur le calcul et la valorisation de l’attention que les internautes consacrent aux différents contenus disponibles. Il en résulte un environnement en grande partie automatisé dans lequel les informations ne sont pas diffusées en fonction d’une évaluation de l’intérêt qu’elles peuvent présenter pour la collectivité, mais plutôt en fonction de l’attention qu’elles génèrent. Un environnement rêvé pour ceux qui ont de la haine à promouvoir…

Un cadre juridique favorable aux plateformes

Le cadre juridique qui prévaut aux États-Unis y est pour quelque chose. Dans ce pays où sont nés les premiers réseaux sociaux, la loi considère ces plateformes comme des lieux d’échange qui ne sont pas responsables des messages et autres contenus mis en ligne par les usagers.

Ainsi protégés contre les conséquences légales de la diffusion de propos dommageables, les réseaux sociaux se sont développés sans réelle incitation à mettre en place des configurations minimisant les risques forcément associés à un environnement où tout le monde se trouve à détenir la faculté de mettre du contenu en ligne.

En généralisant ainsi les possibilités de diffuser à la grandeur de la planète des contenus sans devoir détenir de grands moyens, le Web a ouvert de remarquables possibilités de discussions et de sursauts démocratiques. Les gens peuvent être en contact, échanger et se parler avec une facilité inédite dans l’histoire humaine. En revers de la médaille, il y a les groupes aux intentions moins nobles, animés par la haine, obsédés par les fantasmes racistes qui se sont retrouvés à bénéficier de vecteurs de diffusion d’une morbide efficacité.

Cette faculté conférée aux extrémistes de diffuser du matériel dégradant est une caractéristique inhérente aux réseaux sociaux actuels. Ce sont des plateformes qui sont conçues pour permettre le partage massif de millions d’unités d’information à la seconde. Ce ne sont pas des environnements configurés en fonction d’un modèle éditorial où la plateforme serait tenue de prévenir les dérives et d’y répondre. Dans ces environnements de réseaux sociaux, il y a peu d’examen a priori des documents mis en ligne. Le modèle repose sur le postulat que le premier responsable est l’usager qui met le contenu en ligne. L’examen de la teneur des documents a lieu a posteriori lorsqu’on en signale qui présentent des problèmes.

À l’origine, les lois limitant ainsi la responsabilité des plateformes répondaient à un souci de protéger les libertés expressives. On estimait qu’imposer aux plateformes intermédiaires comme les médias sociaux une responsabilité analogue à celle des journaux, des radios ou des télévisions reviendrait à les contraindre à l’exercice d’un contrôle par lequel ils auraient à examiner a priori tous les contenus avant leur mise en ligne.

Le modèle fondamental de ces intermédiaires d’Internet postule qu’ils ne sont tenus qu’à faire des efforts raisonnables pour écarter les contenus préjudiciables. C’est généralement pour répondre à des situations de crises engendrées par des pratiques déviantes que ces plateformes en sont venues — pour répondre aux exaspérations des décideurs politiques — à renforcer leurs pratiques d’examen des contenus.

Des lois à mettre en place

À la suite des dérapages incarnés par les diffusions d’informations trompeuses ou de contenus extrêmes, comme les vidéos de meurtres en direct et autres obscénités, les autorités de certains pays ont commencé à bricoler des mesures destinées à reconnaître des devoirs plus contraignants aux exploitants de plateformes en ligne. La croyance en l’impossibilité de réguler ce qui se passe en ligne est en train de perdre du terrain.

Mais il y a un grand retard dans le développement de lois reflétant les enjeux de la diffusion virale caractéristique d’Internet. Dans un cyberespace où les informations circulent à très grande vitesse, les pouvoirs publics doivent développer des cadres régulateurs visant les processus fondés sur les algorithmes et les technologies d’intelligence artificielle.

Internet procure des possibilités fabuleuses d’expression légitime. Mais il expose à des risques considérables. D’où la nécessité de lois protégeant aussi bien la dignité humaine que la liberté de parole.

NOUVELLE INFOLETTRE

« Le Courrier des idées »

Recevez chaque fin de semaine nos meilleurs textes d’opinion de la semaine par courriel. Inscrivez-vous, c’est gratuit!


En vous inscrivant, vous acceptez de recevoir les communications du Devoir par courriel. Les envois débuteront la fin de semaine du 19 janvier 2019.

11 commentaires
  • Yvon Montoya - Inscrit 19 mars 2019 05 h 50

    Je ne pense pas qu’il faille transformer l’Occident en Chine/Russie totalitaire. Si vous lisez leurs lois à ce sujet il me semble que votre article les exprime bien. Il n’y a pas que les Réseaux sociaux, il y a aussi les sites de toutes sortes et notamment des sites d’informations qui distribuent la haine sans mesure. Sans oublier de nombreux journaux dits «  normaux » qui participent au même discours que nous pouvons lire dans le Manifeste de l’australien. Pire il y a les livres, des Partis politiques etc...les Protocoles de Sion n’ont pas connus de Réseaux sociaux seule la poste permettait d’y accéder ou quelques journaux de Droite ou d’Extreme-droite. Les médias avec leur tendance commerciale jouant au jeu de la scandalise permanente ont une responsabilité au même titre que Causeur, Fox News, Breitbart, Égalité et Réconciliation d’Alain Soral parmi tant d’autres en diverses langues tous sont dangereux. Réseaux sociaux ou non les citoyens ont droit à leur liberté de paroles alors la question est celle de comprendre comment et pourquoi une bonne partie tient des discours de haine, les mêmes que je lis dans les médias électroniques. Ce ne sont pas les réseaux comme pigeons voyageurs les plus importants, ce sont ceux qui les font voler. Et là le travail est énorme puisque j’entends le même discours que le fou australien a écrit dans la bouche même de celui ou celle qui n’utilise pas de Réseaux sociaux mais lit des journaux patentés mais populistes ou lis des livres etc... L'éducation, les universités et les médias se doivent de collaborer donc pas besoin de censure des citoyens pour nous contrôler.

    • Jean-Marc Simard - Abonné 19 mars 2019 09 h 22

      Bien d'accord avec vous, Monsieur Montoya...En parlant de livres, des analyses plus sérieuses devraient être faites de certains livres dits religieux qui propagent et encouragent la haine sous le couvert de certains versets dits sataniques...La haine a de multiples origines et utilisent plusieurs plateformes pour se propager. Les journeaux qui ne recherchent que le sensationnaliste, le discours de certains politiciens, les prêches de certains Imams, les sites web à saveur plutôt obscurantistes...La haine aussi passe à l'action que celle-ci soit soutenue par des groupes d'extrême-droite comme le groupes d'extrême-gauche...Chercher à combattre l'autre qui ne partage pas la même pensée, tuer l'autre parce qu'il dérange un certain projet politico-religieux, l'abattre et le terrasser pour l'obliger à se soumettre, voilà autant de façon d'activer les sentiments de haine...Ce n'est pas parce que la haine est propagée sous le couvert d'une certaine religion, comme si elle était soutenue et convenable aux yeux d'un certain faux-dieu, qu'elle est humainement acceptable...Il y a certains partis pris politiques en faveur d'un multiculturalisme religieux qui, en eux-mêmes, deviennent des ferments à légitimer plutôt qu'à condamner certaines violences. Peu importe d'où vient cette violence alimenté par la haine, elle n'est pas unidirectionnelle, mais bi-directionnelle...Comme pour aimer il faut être au moins deux, de même pour hair il faut être deux...La guerre implique toujours deux belligérants...

    • Cyril Dionne - Abonné 19 mars 2019 16 h 25

      Ah ! ben. Je suis presque d’accord avec vous M. Montoya.

      Les médias sociaux sont seulement plus efficaces dans la transmission de l’information que les médias traditionnels, qu’elle soit positive ou négative. Ici, le principe de Marshall McLuhan ne s’applique pas; le médium n’est pas le message mais bien son véhicule à la vitesse grand V.

      Tout le monde admirait les médias sociaux lors du printemps arabe. Donc, si on propose une certaine censure envers ceux-ci, le phénomène du printemps arabe n’aurait jamais eu lieu. Les médias sociaux sont une lame à deux tranchants et tout dépend de son utilisateur et de son utilisation puisqu’il n’y a aucun effet modérateur sur ceux-ci tout comme pour Internet. Donc, si des terroristes comme notre énergumène de Christchurch ou bien des « bullies » l’utilisent pour déshumaniser les autres, il devrait y avoir des lois plus mordantes.

      Personnellement, je n’adhère qu’au strict minimum des médias sociaux parce que souvent nous y sommes forcés comme dans le cas du Devoir. Ce n’est pas une question de choix. Je ne lis absolument rien sur ceux-ci parce que dans la plupart des cas, c’est seulement une perte de temps.

      Pour les médias traditionnels, les gens qui sont moyennement munis de filtres à partir d’une certaine éducation reçue pour jauger l’information à sa juste valeur, peuvent le faire assez facilement parce qu’aucune information n’est neutre. Il ne faut pas oublier que les médias choisissent quoi dire, comment le dire ou ne pas le dire tout simplement. Le ton paternaliste qu’on y retrouve, souvent n’est pas palpable puisque qu’on se retrouve très rapidement au niveau de la désinformation et de la propagande multiculturaliste comme à Radio-Canada. De toute façon, si vous voulez savoir ce qui passe n’importe où sur la planète, une petite recherche de quelques minutes sur Internet vous mettra au diapason.

  • Serge Grenier - Abonné 19 mars 2019 08 h 21

    Pas d'accord

    « Par contraste, les médias fonctionnent sur le postulat que les informations destinées à être publiées doivent être validées par une personne ayant autorité, un rédacteur en chef qui, aux termes de la loi, est responsable des contenus fautifs. »

    Je n'ai aucune confiance dans les personnes ayant autorité et pas tellement confiance non plus dans les lois. Les personnes ayant autorité et celles qui font les lois sont toutes deux au service de la pyramide du pouvoir en haut de laquelle se retrouvent les principales personnes responsables de la propagation de la haine et des fantasmes racistes avec leur Nouvel ordre mondial.

    Dans l'internet, il y a du bon et du mauvais, mais dans les grands médias, comme disait Coluche, la seule chose vraie, c'est la date.

  • Jacques Morissette - Abonné 19 mars 2019 09 h 11

    Les médias traditionnels n'ont pas le monopole du savoir vivre.

    Votre analyse est un peu simpliste. Internet est le reflet de la société en générale. Bien d'accord avec vous pour dire implicitement que les médias ne diffusent pas n'importe quoi, parce qu'ils sont sous le joug d'une personne responsable qui voit à ce que les choses se passent dans un certain ordre.

    Mais de quel ordre s'agit-il au juste? D'un ordre qui stipule tacitement que ce qui doit passer doit aller dans l'intérêt du système établi, bien plus que dans celui plus noble de valeurs plus universelles. Cela dit, ce n'est pas toujours vrai que les valeurs du système établi en place sont vraiment universelles. Parfois, entre autres, le système établi exige de faire de la propagande, pour appuyer le dit système établi.

    Quant à l'internet, pour dire combien je comprends ce que vous dites. Je suis sur Facebook. Il y a parfois des images que je refuse de voir. Il y a des mécanismes qui me permettent de le faire. Comme il y a parfois des amis que j'ai connus sur Facebook que j'enlève de mes amis. Si le moindrement ils échangent avec des façons discutables, désagréables et sur une base contraire à des échanges constructifs.

  • Clermont Domingue - Abonné 19 mars 2019 10 h 45

    Contenu fautif...

    Pourquoi le massacre perpétré par un terroriste sur le web inciterait-il d'autres à faire de même? Tel visionnement provoque-t-il répulsion ou sert-il de modèle?

    Il me semble que les psycholoques de nos sociétés devraient fouiller davantage l'âme humaine pour que nous arrivions à comprendre pourquoi de jeunes idéalistes se joignent à l'EI et pourquoi des hommes normaux se transforment en tueurs de masse. S'agit-il de l'oeuvre de Satan comme dirait François ou devons-nous y voir des injustices trop violemment ressenties?

  • Yvon Montoya - Inscrit 19 mars 2019 15 h 21

    @Jean-Marc Simard

    Merci pour votre réaction pour laquelle je suis aussi d'accord. J'aimerais ajouter un propos dont on parle que très très rarement et je trouve cela très étonnant, c'est la violence gratuite et horrible qu'on offre aux consommateurs dans les sites de Films et séries. Si vous faîtes des statistiques vous y verriez facilement que la violence est serbve dès le plus jeune âge. Les jeux vidéos téléchargeables où la violence et les guerres prédominent ne dérangent tmême pas les parents (certains mais si peu) puisqu'eux-mêmes jouent avec leurs banbins. Il ya même des jeuens ''adultes'' (du moins ils devraient le devenir) qui continuent à en jouer à un âge parfois vénérable. Cette violence distribuée presque gratuitement est terrifiant parce que la culture humaine est basée sur un principe analysé maintes et maintes fois qu'on nommera ''mimésis d'appropriation'', tout simplement ''imitation''. La violence dans nos sociétés est un plat quotidien que la jeunesse mange avec plaisir. Non rien à dire à ce sujet alors que ces ''maladies'' dues aux films, séries, jeux (tous trois souvent bien pire point de vue violence que la vidéo de ce fou en Australie). À cela vous ajoutez les médias de masse (je ne parle pas des Réseaux sociaux qu'il faut fuir comme la peste). Et si vous ne voulez pas jouer ou voir ces films/séries alors vous pouvez au minimum comme je le fais lire les scenarii...violence plus violence égal folie meurtrière. Ce n'est pas pour rien que ce fou ait mis une caméra sur sa tête afin de ''filmer'' sa violence, la sienne, comme un bon directeur de film policier ou guerre ou zombies etc...de la camera obscura à la camera horriblis, voilà nos sociétés occidentales. On nous propose ici d'accepter en silence cette violence sociétale tout en nous censurant. Joyeuse perspective du vivre ensemble.