En Chine et ici

Au nombre des initiatives mises en place en République populaire de Chine, qui célèbre ces jours-ci son 70e anniversaire, il y a le déploiement du « Crédit social ». Un programme qui, dans une logique de développement économique, vise à accroître la confiance et à favoriser une meilleure « responsabilisation » des personnes.

Le « Crédit social » est un mégasystème de collecte de données de toute nature sur les individus, leurs démêlés avec les autorités, leurs dossiers criminels, leurs historiques de paiement, leurs habitudes de consommation, les incivilités dont ils se sont rendus coupables, leurs fréquentations, leur assiduité à honorer leurs paiements, etc. En somme, une kyrielle d’informations collectées et compilées par les autorités aux fins d’attribuer un score à chaque individu.

Selon le score qu’il obtient, un individu peut accéder à des privilèges, à du crédit, obtenir le droit d’inscrire ses enfants dans une bonne école ou subir un temps d’attente réduit pour accéder aux services publics. À l’inverse, une personne qui a un score plus bas peut s’attendre à devoir en subir les conséquences. Des auteurs évoquent que cela pourra notamment influer sur ses possibilités d’obtenir un prêt ou de voyager en avion ou en train rapide.

Les observateurs ayant examiné le Crédit social chinois ont constaté que les critères présidant à son fonctionnement sont peu transparents. Les individus ne disposent pas de réels recours contre des décisions relatives à leurs scores ou aux conditions pouvant influer sur leur accroissement ou leur diminution. Les algorithmes utilisés pour établir ces scores ne sont pas publics et encore moins sujets à des obligations de reddition de comptes. Envisagé d’un point de vue occidental, le système de Crédit social chinois apparaît comme la parfaite illustration du fait que, dans un environnement socio-politique peu porté sur la transparence, la notation est un redoutable outil de surveillance des individus.

La notation chez nous

La notation des individus et des organisations existe aussi chez nous depuis longtemps. Depuis des décennies, le crédit à la consommation est largement régi par la compilation des informations sur les habitudes de paiement et autres comportements des emprunteurs. Chaque consommateur sollicitant du crédit est « noté » en fonction de ses habitudes de consommation et surtout de la régularité de ses paiements. Malgré les lois sur la protection des renseignements personnels, on constate que les agences qui compilent des informations sur le crédit des individus continuent d’avoir des pratiques opaques. La notation des citoyens est à la merci de ces monopoles qui calculent selon des critères qui leur sont propres les données qui sont utilisées pour prendre un vaste ensemble de décisions à l’égard des individus. Beaucoup de ces mécanismes destinés à mesurer et à récompenser les comportements souffrent des mêmes travers que le Crédit social chinois. Combinés avec différents calculs opaques relevant des secrets commerciaux, les systèmes de notation peuvent donner lieu à des décisions partiales, des exclusions arbitraires ou discriminatoires.

Dans une société où les capacités de traitement de l’information permettent le recours quasi universel au pointage des attitudes et des comportements, il importe de renforcer les garanties contre les décisions arbitraires se fondant sur des systèmes de notation. Sans obligations efficaces de rendre compte, les mécanismes de notation peuvent engendrer des décisions liberticides. Mais pour l’heure, ces mécanismes de notation demeurent astreints à peu d’exigences.

Lois mal ciblées

Nos lois sur la protection des renseignements personnels ne sont pas conçues pour procurer un balisage pertinent des pratiques de notation des individus. La plupart des systèmes de notation sont fondés sur le « consentement » supposément libre et éclairé de chacun. Par exemple, lorsqu’on demande du crédit ou que l’on veut souscrire une assurance, on nous impose de « consentir » à l’interrogation des diverses banques de données consignant nos habitudes de crédit — et de plus en plus — nos habitudes de vie. Ce droit de consentir ou non est en pratique le seul que nous accordent les lois sur la protection des renseignements personnels. Mais c’est un droit bien théorique. Qui de nos jours peut vraiment se passer d’une carte de crédit, d’un prêt de consommation ou d’un prêt hypothécaire ?

Dans notre monde connecté, il est prévisible qu’on nous demandera de plus en plus d’utiliser des données sur nos déplacements, nos habitudes de conduite, nos habitudes alimentaires et notre propension à respecter les règlements. Or, les seules protections prévues par nos lois sur les renseignements personnels sont celles qui nous donnent le droit de consentir ou non. Dès lors que notre consentement était clair, il n’y a rien à redire. La fiction selon laquelle les individus ont le loisir de consentir aux pratiques des compilateurs fait en sorte que les protections contre les décisions arbitraires sont insignifiantes. C’est à peine mieux que le Crédit social chinois !

Les capacités techniques d’observer les faits et gestes des individus sont pratiquement sans limites. Pour demeurer compatibles avec le respect des droits fondamentaux, les processus d’évaluation des personnes doivent reposer sur de solides garanties de transparence et de reddition de comptes. Sinon, préparons-nous à vivre selon les calculs du Crédit social à la chinoise !

À voir en vidéo