Le traçage de contacts et la fracture numérique, selon Anne-Sophie Letellier

La lutte contre la COVID-19 nous plonge dans une crise qui bouleverse nos certitudes. Est-ce que cette crise va modifier notre façon de vivre et notre rapport aux autres ? Le Devoir a demandé à différentes personnalités de réfléchir aux conséquences de la pandémie dans nos vies. Cette réflexion vous sera présentée en page Idées pendant quelques semaines. Aujourd’hui : Anne-Sophie Letellier et les technologies de traçage de contacts.

Le 18 mai 2020, l’Institut québécois de l’intelligence artificielle (MILA) lançait COVI, une application mobilisant des fonctionnalités GPS, le traçage de contacts au moyen de Bluetooth et de l’intelligence artificielle, afin d’accompagner la population québécoise et la population canadienne dans leur déconfinement.

Si le MILA vient tout juste d’entrer dans une campagne marketing auprès de la population, les réflexions quant au rôle que pourraient jouer les technologies numériques dans les stratégies de déconfinement sont présentes depuis de nombreuses semaines. Il va sans dire que les débats quant à leurs usages, leur pertinence et leur dimension éthique sont polarisants. En outre, on relève principalement des enjeux relatifs à leur efficacité réelle ainsi qu’aux risques qui imposent légitimement une prudence quant à la sécurité de l’information et à la protection de la vie privée.

Il est clair que les concepteurs et les critiques de ces solutions technologiques partagent un objectif commun : celui de se sortir du confinement et de la pandémie vite et mieux. Néanmoins, les débats actuels restent fondamentalement ancrés dans les enjeux juridiques et le design des applications. Si ces préoccupations sont absolument nécessaires, il n’en reste pas moins qu’il importe de se questionner sur les biais sociaux que ces applications pourraient reproduire, et qu’elles pourraient rendre invisibles sous le couvert de processus technologiques trop souvent perçus comme « objectifs » et garants de la sécurité des Québécois.

Une efficacité qui n’a pas été prouvée

Avec cela en tête, je considère que la prudence, la diversité des expertises et l’humilité — quant aux possibilités, aux limites et aux risques inhérents aux applications proposées — sont absolument nécessaires pour structurer un débat de société éclairé et constructif. Rappelons-nous que, même si elle est prometteuse et comporte de nombreuses fonctionnalités intéressantes, le déploiement de n’importe quelle application de traçage numérique s’inscrit d’abord et avant tout dans une phase de test.

C’est pourquoi, bien que je salue sincèrement l’effort d’inclure avec rigueur et attention plusieurs considérations relativement à la protection de la vie privée, à la sécurité de l’information et à l’anonymisation dans le design de COVI, je suis sceptique quant à sa fiabilité et à son utilité réelle mais, surtout, j’éprouve une profonde inquiétude à ce qu’elle — ou toute autre application — soit présentée et promue comme une pièce maîtresse des stratégies de déconfinement.

Pour légitimer le développement et le déploiement d’applications de traçage de contacts, on évoque communément les critères de l’efficacité et de l’intérêt général. Alors que l’efficacité n’en est encore qu’à un stade théorique, il semble qu’on tende implicitement vers certains biais, comme celui d’exclure du « général » les intérêts des groupes sociodémographiques les plus touchés par la pandémie : les personnes âgées, les travailleurs et travailleuses essentiels, les individus et familles en situation de précarité financière, ainsi que les communautés culturelles, qui sont surreprésentées dans les quartiers les plus défavorisés de Montréal.

Parmi ces biais, on peut souligner que le projet de développement d’une application mobile assume nécessairement qu’une large portion de la population possède un téléphone intelligent. Or, les données du CEFRIO démontrent que seulement 73 % des Québécois en possèdent. Chez les personnes âgées de 55 à 64 ans et celles âgées de 65 ans et plus, le taux d’adoption est respectivement de 59 % et 37 %. Finalement, seulement 53 % des individus gagnant moins de 20 000 $ annuellement possèdent un téléphone intelligent.

Selon une étude de l’Université d’Oxford, une application de traçage de contacts, pour fonctionner adéquatement, doit être utilisée par au moins 60 % de la population, sans quoi les risques de faux négatifs —c’est-à-dire les risques qu’on nous annonce à tort un niveau de risque bas — sont particulièrement élevés. La marge de manœuvre est très mince. L’enjeu de la fracture numérique est donc central au débat.

Le risque d’un modèle épidémiologique biaisé

Dans son livre blanc, MILA indique que, même si le taux d’adoption est trop faible pour prédire le risque de façon efficace, l’application permettrait d’amasser des données épidémiologiques précieuses. Les données recueillies à l’aide de l’application permettraient de mieux comprendre les facteurs qui contribuent à la transmission de la maladie « afin d’informer les politiques de santé publiques ».

La condition de récolte des données lève le voile, à nouveau, sur un phénomène de marginalisation systémique. Dans un contexte où l’histoire de l’intelligence artificielle est déjà truffée de biais raciaux, socio-économiques et de genre, les informations sur lesquelles se baseraient les directions de santé publique pour prendre des décisions et allouer des ressources contribueraient-elles à creuser les inégalités et à rendre davantage vulnérables des groupes disproportionnellement touchés par la pandémie ? Cette question se pose au moment où plusieurs indiquent déjà un besoin urgent de récolter des données liées à la couleur de peau et au profil socio-économique des victimes de la COVID-19.

Cependant, des groupes tels que Data for Black Lives notent que la simple récolte de données n’est pas suffisante et qu’elle doit également les contextualiser afin de documenter comment les inégalités ont un impact non seulement sur la propagation du virus, mais aussi sur la réponse de la Santé publique dans différentes communautés.

Ainsi, advenant qu’elles fonctionnent, les applications de traçage de contacts pourraient seulement accompagner le déconfinement d’une partie de la population. Une portion de la population qui possède un téléphone intelligent, qui a déjà le privilège de pouvoir se confiner sans trop de conséquences et qui peut éviter de fréquenter quotidiennement des zones à risque. Alors que la pandémie exacerbe déjà les inégalités sociales, on nous présente une « solution » qui tend à s’inscrire dans cette lignée. Au mieux, COVI ne profiterait qu’à une portion de la population en faisant très peu pour les plus vulnérables et, au pire, elle contribuerait à créer un faux sentiment de sécurité face à des réalités qui passeraient sous le radar. Elle risquerait ainsi d’être contre-productive pour veiller à la santé et à la sécurité générale.

Une solution construite par ou avec les communautés (et non pour elles)

Si les derniers mois nous ont démontré une chose, c’est qu’en situation de crise, nous faisons preuve d’une solidarité sociale renouvelée. Cette solidarité doit nous inspirer à penser des solutions — qu’elles soient technologiques ou non — qui mettent avant tout en avant les besoins exprimés par les communautés les plus touchées. Les préoccupations liées aux injustices sociales ne doivent pas être intégrées à une application ou à une stratégie de déconfinement, elles doivent constituer la priorité de nos réflexions et de nos actions.

Si une application numérique venait à être sélectionnée, il ne serait donc pas suffisant qu’elle soit inclusive : sa conception et sa gouvernance devraient être fondées sur une diversité des savoirs et des expertises. Elle devrait enfin s’inscrire de manière cohérente dans le déploiement d’une variété de stratégies, et surtout de ressources, ancrées dans les besoins et la réalité des communautés afin que leurs intérêts soient efficacement défendus.


 
6 commentaires
  • Pierre Boucher - Inscrit 27 mai 2020 06 h 52

    Traçage

    Je trace des lignes, un plan, etc.
    C'est quoi cet horrible mot qui traduit « tracking »? D'où ça sort?
    En livraison, « tracking number » : numéro de repérage, numéro de suivi.
    Chasse : pister, on piste un animal,
    Etc.
    Trop tard maintenant. L'anglais fait sont oeuvre insidieuse de corrompre le français, même en France.

  • Jean-Pierre Martel - Abonné 27 mai 2020 08 h 32

    Trois lacunes supplémentaires

    Premièrement l’imprécision de le géolocalisation. Pour des raisons de sécurité nationale, une imprécision est ajoutée volontairement aux applications _civiles_ de géolocalisation. Cette imprécision va au-delà de la distance de distanciation sociale de deux mètres.

    Deuxièmement, les donnés relatives aux personnes contagieuses sont fournies par les autorités de Santé publique. Ce sont elles qui vous révèle anonymement que vous avez côtoyé des personnes atteintes du Covid-19.

    Or la Santé publique estime encore (officiellement) qu’on est contagieux seulement lorsqu’on est symptomatique. Ce qui était vrai pour le SRAS, mais qui est faux pour le Covid-19. pila pourquoi on ne teste que les personnes symptomatiques; les autres sont estimées non contagieuses.

    Une dernière lacune est que beaucoup de personnes ont des téléphones multifonctionnels trop anciens pour qu’on y installe ces applications téléphoniques.

    Par exemple, j’ai un iPhone4s que je refuse de jeter en dépit du fait que mon fournisseur m’en offre un neuf _gratuitement_. Ce refus est dicté par des préoccupations environnementales. Je serais stupide de jeter un appareil qui fonctionne très bien, plein de métaux toxiques, sous le prétexte qu’un modèle plus récent ne me couterait rien.

    • Pierre Fortin - Abonné 27 mai 2020 11 h 55

      Ne s'agit-il pas d'une occasion inespérée pour introduire l'Intelligence artificielle dans nos vies en créant un formidable précédent ? Serait-on aussi bien disposé à accepter le traçage des personnes qu'offre l'intelligence artificielle s'il ne se présentait pas comme une solution sanitaire en temps de crise ?

      Avec tout le battage médiatique portant aux nues cette nouvelle technologie révolutionnaire, il semble que nous en soyons rendus, sans trop nous en rendre compte, à son intégration dans notre quotidien. Pourtant, une technologie présentant un tel potentiel d'intrusion dans la vie privée ferait, dans un contexte normal, l'objet d'un questionnement public approfondi en regard du respect de nos droits constitutionnels.

      L'an dernier, le commissaire à la protection de la vie privée, Daniel Therrien, faisait part de ses préoccupations et déclarait que « l’Internet des objets et l’intelligence artificielle pose des difficultés quant à la protection de la vie privée et au modèle de consentement. » Il édictait sept principes directeurs pour le consentement valable et précisait les « zones interdites » concernant les pratiques inacceptables des entreprises. Mais le commissaire Therrien ne peut offrir aucune garantie quant au respect de ses principes ... qui ne restent que des principes.

      Or qui, parmi les citoyens lambda que nous sommes, en sait assez sur le sujet pour porter un jugement éclairé et consentir à cette innovation numérique dans sa vie privée ? Et encore, qui d'autre que ses promoteurs, industriels ou politiques, est en mesure d'évaluer de fond en comble ce qui s'y passe et l'usage qu'on en fait ?

      C'est à un magnifique acte de foi auquel nous sommes conviés et, comme toujours, c'est après les éventuelles entorses à notre intégrité qu'on découvrira, comme les clients de Desjardins, que les promesses n'engagent que ceux qui les reçoivent.

  • Jacques Patenaude - Abonné 27 mai 2020 08 h 51

    Pas besoin

    "Mieux vaut être riche et en santé que pauvre et malade"
    Yvon Deschamps

    Cette simple phrase est suffisante pour savoir où se cache le virus et où il fraperra dans la deuxième vague.
    Pas besoin de bébelles comme ça pour savoir

  • Taoufik Essekkouri - Inscrit 27 mai 2020 10 h 25

    Applications non sécuritaires

    Selon un groupe d'experts qui a étudié 30 application de traçabilité de la covid, ils étaient catégoriques: toutes les applications ont des failles de sécurité.
    Ils ajoutent aussi que:" Les applications qui fonctionnent grâce à des codes dits « open source », visibles par tout le monde par souci de transparence, sont logiquement plus vulnérables car elles peuvent plus facilement être la proie d’éventuels hackers." C'est le cas de Mila.
    Si l'application de Mila n'est pas obligatoire et le fait d'obliger quelqu'un à la telecharger sera puni par la loi, alors tout ce qui se dit ou se dira sur cette application que se soit dans le sens positif ou négatif, est de la discussion sans lendemain.
    Le fait de dire à quelqu'un que pour éradiquer la pandémie, il faut que tu acceptes d'être suivi et pisté par une IA, il vous dira non merci.
    Certains principes chers à l'être humain, ne peuvent s'evaporer du jour au lendemain sous n'importe quel prétexte.

  • Marc Davignon - Abonné 27 mai 2020 15 h 27

    Encore une fois !

    Toujours pas un <spécialiste> en informatique ....
    Vous savez, comme en génie logiciel ... peut-être, pour indiquer les tenants et aboutissants.
    Mais non!
    Nous avons des <experts> en ... communications, des gestionnaires, ou un qui a un biais aussi énorme que son ego.

    Désopilants!

    Vous savez, il y en a qui son incapable de corriger un logiciel comme un système de paye et vous voulez faire du <repérage>!

    Mais vous savez faire l'installation d'un <app> sur votre téléphone, ça fait de vous un spécialiste ... sans contredis!