En Chine et ici

Au nombre des initiatives mises en place en République populaire de Chine, qui célèbre ces jours-ci son 70e anniversaire, il y a le déploiement du « Crédit social ». Un programme qui, dans une logique de développement économique, vise à accroître la confiance et à favoriser une meilleure « responsabilisation » des personnes.

Le « Crédit social » est un mégasystème de collecte de données de toute nature sur les individus, leurs démêlés avec les autorités, leurs dossiers criminels, leurs historiques de paiement, leurs habitudes de consommation, les incivilités dont ils se sont rendus coupables, leurs fréquentations, leur assiduité à honorer leurs paiements, etc. En somme, une kyrielle d’informations collectées et compilées par les autorités aux fins d’attribuer un score à chaque individu.

Selon le score qu’il obtient, un individu peut accéder à des privilèges, à du crédit, obtenir le droit d’inscrire ses enfants dans une bonne école ou subir un temps d’attente réduit pour accéder aux services publics. À l’inverse, une personne qui a un score plus bas peut s’attendre à devoir en subir les conséquences. Des auteurs évoquent que cela pourra notamment influer sur ses possibilités d’obtenir un prêt ou de voyager en avion ou en train rapide.

Les observateurs ayant examiné le Crédit social chinois ont constaté que les critères présidant à son fonctionnement sont peu transparents. Les individus ne disposent pas de réels recours contre des décisions relatives à leurs scores ou aux conditions pouvant influer sur leur accroissement ou leur diminution. Les algorithmes utilisés pour établir ces scores ne sont pas publics et encore moins sujets à des obligations de reddition de comptes. Envisagé d’un point de vue occidental, le système de Crédit social chinois apparaît comme la parfaite illustration du fait que, dans un environnement socio-politique peu porté sur la transparence, la notation est un redoutable outil de surveillance des individus.

La notation chez nous

La notation des individus et des organisations existe aussi chez nous depuis longtemps. Depuis des décennies, le crédit à la consommation est largement régi par la compilation des informations sur les habitudes de paiement et autres comportements des emprunteurs. Chaque consommateur sollicitant du crédit est « noté » en fonction de ses habitudes de consommation et surtout de la régularité de ses paiements. Malgré les lois sur la protection des renseignements personnels, on constate que les agences qui compilent des informations sur le crédit des individus continuent d’avoir des pratiques opaques. La notation des citoyens est à la merci de ces monopoles qui calculent selon des critères qui leur sont propres les données qui sont utilisées pour prendre un vaste ensemble de décisions à l’égard des individus. Beaucoup de ces mécanismes destinés à mesurer et à récompenser les comportements souffrent des mêmes travers que le Crédit social chinois. Combinés avec différents calculs opaques relevant des secrets commerciaux, les systèmes de notation peuvent donner lieu à des décisions partiales, des exclusions arbitraires ou discriminatoires.

Dans une société où les capacités de traitement de l’information permettent le recours quasi universel au pointage des attitudes et des comportements, il importe de renforcer les garanties contre les décisions arbitraires se fondant sur des systèmes de notation. Sans obligations efficaces de rendre compte, les mécanismes de notation peuvent engendrer des décisions liberticides. Mais pour l’heure, ces mécanismes de notation demeurent astreints à peu d’exigences.

Lois mal ciblées

Nos lois sur la protection des renseignements personnels ne sont pas conçues pour procurer un balisage pertinent des pratiques de notation des individus. La plupart des systèmes de notation sont fondés sur le « consentement » supposément libre et éclairé de chacun. Par exemple, lorsqu’on demande du crédit ou que l’on veut souscrire une assurance, on nous impose de « consentir » à l’interrogation des diverses banques de données consignant nos habitudes de crédit — et de plus en plus — nos habitudes de vie. Ce droit de consentir ou non est en pratique le seul que nous accordent les lois sur la protection des renseignements personnels. Mais c’est un droit bien théorique. Qui de nos jours peut vraiment se passer d’une carte de crédit, d’un prêt de consommation ou d’un prêt hypothécaire ?

Dans notre monde connecté, il est prévisible qu’on nous demandera de plus en plus d’utiliser des données sur nos déplacements, nos habitudes de conduite, nos habitudes alimentaires et notre propension à respecter les règlements. Or, les seules protections prévues par nos lois sur les renseignements personnels sont celles qui nous donnent le droit de consentir ou non. Dès lors que notre consentement était clair, il n’y a rien à redire. La fiction selon laquelle les individus ont le loisir de consentir aux pratiques des compilateurs fait en sorte que les protections contre les décisions arbitraires sont insignifiantes. C’est à peine mieux que le Crédit social chinois !

Les capacités techniques d’observer les faits et gestes des individus sont pratiquement sans limites. Pour demeurer compatibles avec le respect des droits fondamentaux, les processus d’évaluation des personnes doivent reposer sur de solides garanties de transparence et de reddition de comptes. Sinon, préparons-nous à vivre selon les calculs du Crédit social à la chinoise !

LE COURRIER DES IDÉES

Recevez chaque fin de semaine nos meilleurs textes d’opinion de la semaine par courriel. Inscrivez-vous, c’est gratuit!


En vous inscrivant, vous acceptez de recevoir les communications du Devoir par courriel.

5 commentaires
  • Raynald Blais - Abonné 8 octobre 2019 07 h 21

    Sans choix

    Selon la logique du libre marché, la classe dominante jure que la collecte de données sur les individus ne contrevient pas à leur liberté s'ils peuvent y consentir avant d'y être soumis. Une itération de cette équation entre "collecte de données" et "consentement" ne peut révéler plus que ce qu'affirme l'hypothèse au départ. La raison de cette impasse pour apprécier la liberté des individus soumis à la collecte découle de ce que la classe dominante, par intérêt, suppose a priori que les individus sont libres de leur choix et égaux dans son exercice.
    Pour se sortir du cul-de-sac de cette logique intéressée, il faut prendre en compte les deux éléments suivants: À qui servira cette collecte de données et dans quels desseins? Là seulement, il devient possible de répondre à la question, si la collecte de données contrevient ou non à la liberté.
    Dans le cas d'une collecte de données devant nous asservir à une minorité...

  • Jean-René Jeffrey - Abonné 8 octobre 2019 08 h 07

    Retenue nécessaire...

    Se servir d'une dictature opaque qui compile tout sur ses citoyens, y compris le nombre de leurs défécations quotidiennes et qui transforme en privilèges et récompenses le fait d'inscrire ses enfants dans une bonne école ou d'avoir un logement adéquat est peut-être un peu exagéré n'est-ce pas! Si tout n'est pas parfaitement transparent dans notre monde, nous n'en avons pas moins la possibilité de dénoncer, de réclamer des améliorations, de protester sans être déporté dans des camps de reconditionnement, euphémisme pour camp de concentration. Trop, c'est trop! Il y a des comparaisons qui ne tiennent pas la route, M. Trudel.

  • Claude Saint-Jarre - Abonné 8 octobre 2019 09 h 48

    Bravo

    J'aime bien ce regard critique sur nous, enfin, notre aliénation. Il va falloir s'en occuper. NOus avons aussi une manière de mettre au ban nos penseurs originaux. Pas d'emploi... aide sociale...pour qui pense hors norme.

  • Mario Gervais - Abonné 8 octobre 2019 11 h 33

    Excellent

    Excellent article. J'aime bien ce regard sur les deux façons de faire. J'aime bien le crédit social chinois. Ici, un criminel peut tout faire en sortant de prison. Même s'il se tient avec la mafia, s'il ne s'est pas fait prendre, il a tous les droits. En Chine, tu te tiens avec un criminel, ta cote descend. J'adore.

    • Serge Lamarche - Abonné 8 octobre 2019 14 h 09

      Le credit social fait toute une plongée à Honk Kong ces temps-ci.
      Il y aurait probablement un juste milieu préférable. Mais quand on y pense, on se tient peu avec les criminels ici déjà. Il y a toujours une sorte de jugement social dans l'air. Ce qui explique le mémérage, qui vise à manipuler le jugement social, parfois pour le bénéficedes criminels, justement.