Passer à la version normale du sitePasser à la version large du siteTaille d'écran
  • Facebook
  • Twitter
  • RSS
  • Connectez-vous

    Les algorithmes

    Pierre Trudel
    21 février 2017 |Pierre Trudel | Médias | Chroniques

    Les activités dans le monde connecté sont presque toutes supervisées au moyen de procédés qui font usage d’algorithmes. Comme le montre le dossier d’Isabelle Paré et de Guillaume Bourgault-Côté publié dans Le Devoir du 18 février, pour la plupart des activités humaines — par exemple, les moteurs de recherche, les réseaux sociaux, plusieurs dispositifs médicaux, les systèmes de domotique, les étiquettes « intelligentes », les véhicules autonomes, les imprimantes 3D —, les robots fonctionnent et livrent les résultats attendus en mobilisant la puissance des algorithmes.

     

    Les algorithmes sont des objets techniques particuliers : en régulant les informations et les objets, ils régulent les comportements. En y ayant recours, on peut rendre possibles ou impossibles des activités. On peut fixer les prix selon différents paramètres, montrer ou cacher des messages. Les algorithmes font des calculs en temps réel pour déterminer quel message publicitaire sera affiché sur une page Web, quels biens de consommation seront proposés à l’internaute, quelles émissions seront suggérées à l’abonné de Netflix. À bien des égards, les algorithmes régissent nos comportements autant sinon plus que le font les lois et règlements régissant nos activités quotidiennes.

     

    Comme ils fonctionnent de façon automatisée, les algorithmes peuvent parfois livrer des résultats bizarres. Par exemple, des mots-clés considérés comme suspects par ceux qui ont programmé l’algorithme peuvent déclencher la suppression d’un document affiché sur un réseau social. Il y a donc des raisons de se préoccuper des prémisses sur lesquelles se fonde l’algorithme pour livrer ses résultats.

     

    Les algorithmes imposent leur logique et leur « loi », ils régulent le fonctionnement des objets et influent sur les comportements des personnes. Évidemment, ils ne régulent pas comme le font les lois adoptées par les députés. Mais leurs effets peuvent être comparables, souvent plus efficaces ! Dans les sociétés démocratiques, nous avons le choix de laisser les algorithmes régir de grands pans de nos vies ou de prendre les moyens de réguler les régulations qu’ils génèrent.

     

    Réguler les régulations

     

    Les algorithmes sont un mécanisme fondamental du fonctionnement du monde connecté. On ne peut en soi les interdire. Mais il est urgent de prendre la mesure des effets normatifs qu’ils engendrent. Il faut que les personnes concernées soient en mesure de savoir comment, sur quelles bases, sur quels présupposés fonctionnent les algorithmes ; à partir de quels raisonnements ils génèrent leurs décisions.

     

    Déjà dans les années 1990, des universitaires juristes avaient anticipé le rôle régulateur des configurations techniques. Au lieu de les écouter, la plupart des décideurs se sont réfugiés dans une béate résignation sur la prétendue impossibilité de réguler les configurations technologiques.

     

    Certains réclament que l’utilisation des algorithmes soit conditionnelle à une obligation de transparence. On revendique que leurs présupposés soient connus du public. Les raisonnements qui engendrent les décisions devraient être transparents.

     

    L’enjeu est d’éviter que des calculs à partir de masses de données mènent à des décisions discriminatoires ou autrement attentatoires aux droits des personnes. Il est essentiel que les entreprises qui les utilisent expliquent clairement ce que font les algorithmes et selon quels présupposés.

     

    Que faire ?

     

    Plusieurs experts estiment qu’il n’est pas réaliste d’assortir l’usage des algorithmes d’une obligation de transparence. Certains ont plutôt préconisé que les lois étatiques instituent des processus de régulation inspirés de ceux qui régissent le développement et la mise en marché des médicaments et d’autres semblables produits complexes. Le développement et la mise en marché des médicaments sont soumis à des exigences quant à la validation des effets de ces produits, de leur efficacité et de leurs conséquences non prévues. Appliquer un tel modèle aux algorithmes impliquerait des obligations de partager les informations relatives au fonctionnement des outils fondés sur des algorithmes. Il faudrait également que les autorités publiques disposent d’une réelle capacité d’imposer des processus de vérification et de validation.

     

    Les algorithmes ont le potentiel de générer des décisions qui ont des conséquences bien réelles sur les personnes. Il faut se demander si leur usage ne doit pas être encadré par des processus crédibles de contrôle de la raisonnabilité des décisions qu’ils engendrent.

     

    Réguler les processus fondés sur des algorithmes, c’est obliger ceux qui les utilisent à garantir qu’ils fonctionnent en conformité avec les principes des lois étatiques et les droits fondamentaux. Cela suppose une capacité de vérification transparente pour le public. Si le monde connecté doit fonctionner dans le respect des principes démocratiques, il faudra rapidement penser un cadre régulateur à la mesure des enjeux que comportent les processus décisionnels fondés sur des procédés aussi puissants.













    Envoyer
    Fermer
    Les plus populaires


    Abonnez-vous à notre infolettre. Recevez l'actualité du jour, vue par Le Devoir.