La ville de San Francisco a adopté la semaine dernière une ordonnance bannissant l’usage de technologies de reconnaissance faciale par la police et les autres instances municipales. Cette « ordonnance pour l’arrêt de la surveillance secrète » oblige les organismes relevant de la Ville à détenir une autorisation pour utiliser les technologies de surveillance. On prévoit aussi l’obligation d’évaluer les dispositifs déjà installés. San Francisco, ce haut lieu de la technologie, se positionne comme une pionnière dans l’encadrement de ces dispositifs à fort potentiel liberticide. Un potentiel contre lequel plusieurs organisations de défense des droits civiques et même une entreprise comme Microsoft ont appelé à prendre des mesures rigoureuses.

Cette réglementation serrée des outils de reconnaissance faciale n’a pas que des partisans. Plusieurs associations, notamment des associations policières, font valoir que ces outils peuvent être très utiles dans la lutte contre certains types de criminalité. Mais ce débat illustre l’impérieuse nécessité d’encadrer le recours à ce type d’outils technologiques. Il faut garantir la transparence dans l’utilisation de ces technologies. Car ce qui est redouté est l’usage occulte de tels procédés.

Risques de préjugés discriminatoires

 

Les technologies de reconnaissance faciale, de plus en plus fondées sur des outils d’intelligence artificielle, sont susceptibles de comporter différents préjugés nuisibles à des catégories entières de la population. Comme le rappelaient cinquante des plus grands chercheurs en intelligence artificielle dans une lettre publiée il y a quelques semaines, ces outils ont des taux d’erreurs suffisamment élevés pour justifier des précautions sérieuses avant d’en autoriser l’usage à grande échelle.

Par défaut, les technologies capables d’identifier des individus régissent leurs comportements. Mais les présupposés sur lesquels elles fonctionnent ne sont pas détaillés dans des textes de loi discutés publiquement. Les préjugés pouvant se refléter dans les réglages de ces outils techniques sont intégrés dans les dispositifs conçus selon des logiques caractérisées par le secret industriel, donc à l’abri des regards du public.

Tout comme les lois et les réglementations émanant des États, de telles technologies doivent être déployées de façon transparente. Il est très risqué aussi bien pour les libertés fondamentales que pour la crédibilité à long terme de ces technologies de les laisser se développer sans supervision pour se désoler dans quelques années des ravages et autres effets pervers qu’elles auront engendrés.

Sans des mesures garantissant la responsabilisation des concepteurs et des utilisateurs des dispositifs de reconnaissance faciale, on se prépare une société qui sera effectivement gouvernée par les concepteurs des algorithmes et des autres procédés fondés sur les traitements massifs d’information. Car les règles qui régulent nos comportements sont de plus en plus inscrites dans les configurations techniques des objets connectés. Il faut en prendre acte et traiter ces normes techniques pour ce qu’elles sont.

La loi québécoise

 

Dès 2001, le Québec s’est doté de l’une des lois les plus rigoureuses encadrant le recours à des données biométriques comme celles utilisées dans la reconnaissance faciale. L’article 44 de la Loi concernant le cadre juridique des technologies de l’information interdit d’exiger, sans le consentement exprès de la personne, que la vérification ou la confirmation de son identité soit faite au moyen d’un procédé permettant de saisir des caractéristiques ou des mesures biométriques. Afin de mieux contrôler la constitution de banques de données sur les caractéristiques ou les mesures biométriques des personnes, la loi impose que leur création soit préalablement divulguée à la Commission d’accès à l’information.

La même loi impose de déclarer toute banque de données biométriques existante, même si elle n’est pas en service. Par conséquent, toute banque de données biométriques devant servir à l’identification des personnes physiques est sujette à une obligation de divulgation à la Commission d’accès à l’information.

La loi confie à la Commission un pouvoir étendu à l’égard des banques de données biométriques. Elle peut rendre toute ordonnance sur les règles qui gouverneront la confection, l’utilisation, la consultation, la communication et la conservation, y compris l’archivage ou la destruction des banques de données biométriques, notamment celles utilisées pour la reconnaissance faciale. Elle peut aussi en suspendre ou en interdire la mise en service, ou en ordonner la destruction si ses ordonnances ne sont pas respectées ou si une banque de données est utilisée de manière à porter atteinte au respect de la vie privée.

Au Québec, nous avons déjà une législation qui a vocation à encadrer les technologies fondées sur la biométrie. Il revient aux élus de s’assurer que cette législation encadre adéquatement le déploiement des technologies fondées sur la biométrie. De son côté, la Commission d’accès à l’information doit tenir à jour ses pratiques afin de garantir que le déploiement des outils de reconnaissance faciale s’effectue chez nous dans le respect des droits fondamentaux.