Une application de suivi de contacts «intelligente et éthique» contre la COVID-19

«Grâce à sa capacité prédictive, l’application permet d’avertir les utilisateurs potentiellement infectés avant même qu’ils développent des symptômes de la maladie, au moment où ils sont justement les plus contagieux sans le savoir», soulignent les auteurs.
Photo: Olivier Zuida Le Devoir «Grâce à sa capacité prédictive, l’application permet d’avertir les utilisateurs potentiellement infectés avant même qu’ils développent des symptômes de la maladie, au moment où ils sont justement les plus contagieux sans le savoir», soulignent les auteurs.

Dans le cadre de la lutte contre la pandémie de COVID-19, comme près d’une centaine de pays à travers le monde, le Canada envisage l’utilisation d’une application de recherche de contacts.

L’équipe de Mila, l’Institut québécois d’intelligence artificielle à Montréal, développe une technologie « intelligente » qui irait au-delà des méthodes traditionnelles pour prédire un risque personnel de contagion. Mais pourquoi développer une telle application ? Quelles sont les conséquences pour les droits et les libertés fondamentales ? Est-ce un nouvel outil de surveillance de masse ? Ce sont des questions légitimes et il est essentiel d’y répondre et de lever les malentendus.

Tout d’abord, il n’existe pas de solution simple à la pandémie. Une bonne stratégie pour limiter la propagation du virus doit intégrer différents dispositifs. Un de ces dispositifs, combiné aux tests biologiques et aux mesures de distanciation physique, est le suivi de contacts grâce aux appareils mobiles personnels.

L’approche de Mila se distingue par la philosophie qui anime le projet, les buts et les moyens utilisés pour les atteindre. Avec cette application, l’idée est d’aider les citoyens à être les acteurs de leur propre santé et de celle de leurs proches, et d’accroître leurs capacités à se protéger contre le virus. L’application a ainsi pour but de fournir une information pertinente à ses utilisateurs, d’améliorer leur connaissance des risques d’infection et de formuler des recommandations ciblées. Grâce à sa capacité prédictive, elle permet d’avertir les utilisateurs potentiellement infectés avant même qu’ils développent des symptômes de la maladie, au moment où ils sont justement les plus contagieux sans le savoir. L’application permet également d’informer les autorités publiques de la santé de l’évolution de la pandémie avec des données épidémiologiques complémentaires, permettant de voir venir des flambées du virus.

Mais, nous le savons, les dispositifs technologiques ne sont pas neutres. C’est pourquoi il est crucial de prendre en considération les principes éthiques et les valeurs démocratiques dès la conception des systèmes d’IA afin de déterminer leur utilisation légitime. Les chercheurs de Mila ont contribué à la Déclaration de Montréal pour un développement responsable de l’IA (2018), dont les principes constituent des balises éthiques pour la conception de l’application.

En outre, le développement de cette application se fait dans le cadre plus général de la Charte canadienne du numérique (2019) et respecte scrupuleusement la Charte canadienne des droits et libertés (1982). L’application respecte aussi les principes énoncés dans Déclaration commune des gardiens du droit à la vie privée sur les applications de recherche de contacts exposés à la COVID-19 du 7 mai 2020.

Mais, concrètement, comment l’application fonctionne-t-elle ? En croisant de multiples indicateurs sur l’état de santé des utilisateurs, leurs caractéristiques personnelles et leurs interactions avec d’autres usagers, l’algorithme de l’application déterminera la probabilité d’être porteur du virus. L’information transmise traduira la probabilité d’infection en recommandations personnalisées. Les utilisateurs recevront des notifications leur suggérant d’éviter de sortir dans des lieux publics, de garder plus de distance, ou encore de consulter pour se faire dépister.

Encourager et non contraindre

Dans le respect du principe d’autonomie et des libertés fondamentales, l’application encourage les utilisateurs à poser les bons gestes, mais ne les y contraint pas et ne peut les surveiller parce que les données les plus sensibles restent sur l’appareil. Par ailleurs, l’installation de l’application ne sera pas obligatoire, pas plus que son utilisation. Les utilisateurs devront exprimer leur consentement au moment de l’installation, mais aussi dans les différentes étapes du partage de leurs informations avec l’application.

Conformément aux principes éthiques et juridiques de protection de la vie privée, les informations personnelles entrées seront cryptées avec les technologies les plus sûres et elles ne seront pas transmises à des tiers qui pourraient alors identifier les individus. L’application ne pourra être utilisée comme un moyen de surveillance par les institutions publiques et les données sont « dé-identifiées » et cryptées pour éviter que des personnes autres que celles autorisées à le faire y aient accès. Les données seront gérées par un organisme à but non lucratif indépendant créé avec l’unique mission de soutenir les Canadiens et Canadiennes dans leur lutte contre la COVID-19 en préservant leur santé, leur dignité, et en protégeant leur vie privée. Les informations recueillies ne seront jamais utilisées à des fins commerciales et seront toutes effacées aussitôt que la pandémie sera terminée.

Certains s’inquiètent de l’opacité de l’application et doutent qu’elle fasse uniquement ce qui est promis par ses concepteurs. La réponse à cette inquiétude est simple et nette : en accord avec les principes de transparence et de responsabilité, le code des algorithmes développés sera en accès libre. Il pourra être utilisé gratuitement par d’autres pays qui souhaitent protéger leurs citoyens.

Dans la stratégie globale de lutte contre la propagation de la COVID-19, cette application est un outil qui renforce les capacités des individus et leur solidarité face aux conséquences sanitaires et sociales de la pandémie. Et ce n’est que par son adoption volontaire, par la mise en commun de nos connaissances et des données de santé pertinentes que nous pourrons en tirer des bénéfices réels pour la population dans son ensemble.

* Ont signé ce texte Marc-Antoine Dilhac, professeur de philosophie à l’Université de Montréal et instigateur de la Déclaration de Montréal pour un développement responsable de l’intelligence artificielle ; Yoshua Bengio, professeur d’informatique à l’Université de Montréal et directeur scientifique de Mila — Institut québécois d’intelligence artificielle; Irina Rish, professeure au Département d’informatique et de recherche opérationnelle de l’Université de Montréal ; Richard Janda, professeur à la Faculté de droit de l’Université McGill et membre associé à l’École de l’environnement de McGill ; Joumana Ghosn, chercheuse en intelligence artificielle et directrice de recherche appliquée en apprentissage automatique à Mila ; Stéphane Borreman, médecin d’urgence et vice-président, affaires médicales de Logibe ; Valérie Pisano, présidente et cheffe de la direction de Mila — Institut québécois d’intelligence artificielle ; Benjamin Prud’homme, directeur exécutif, IA pour l’humanité à Mila et cofondateur de Québec inclusif.

12 commentaires
  • Cyril Dionne - Abonné 23 mai 2020 11 h 35

    D’accord, mais...

    Bon. Il faut avoir certaines réserves avec ce nouvel outil. Avant de continuer, l’apprentissage profond utilise des boîtes noires opaques contrairement aux programmes traditionnels débogables ou la logique floue. L’interprétation est faite à partir d’un apprentissage où il faut beaucoup de données et l’information est interprétée qu’en termes de poids dans une géographie mathématique. Donc, les résultats ne peuvent pas être expliqués et on peut souvent douter de leurs fiabilités et leur biais, surtout en ce qui concerne le gros bon sens et la psychologie humaine.

    Ceci dit, premièrement, l’application Bluetooth n’est pas aussi précise au mètre près, donc pour la distanciation sociale, on oublie tout cela. Ensuite, le Bluetooth contient de nombreuses failles de sécurité.

    Deuxièmement, de ne pas traiter que les seules données permettant d'identifier que l'on aurait été dans l’entourage d'une personne contaminée, sans mentionner la personne, ni l'endroit, ni le moment de ce contact à proximité, rendrait impossible le fait de vérifier. Or, si au contraire, on mentionne le lieu et l'heure exact du contact avec une personne contaminée, on pourrait connaître le nom de cette personne.

    Troisièmement, essayez de minimiser les erreurs en termes de probabilités statistiques, surtout s’il n’existe pas beaucoup de données, il est très difficile pour ne pas dire impossible pour empêcher des cas de faux positifs mais également et d'autre part, des faux négatifs.

    Quatrièmement, il faudrait au moins que 60% des gens aient cette application et l’utilisent pour qu’elle soit viable.

    Finalement, les personnes malades et signalées pourraient être identifiées, des rencontres privées être révélées et des personnes contraintes de révéler les données privées qu'elles collectent par chantage, par vols ou autre formes. Ceci, c’est sans dire que tout signal électromagnétique peut être intercepté et copié très facilement même s’il est crypté, « reverse engineering » oblige.

  • Martin Lavallée - Abonné 23 mai 2020 12 h 12

    Non merci!

    Selon les auteurs de cette lettre: «L’application a ainsi pour but de fournir une information pertinente à ses utilisateurs, d’améliorer leur connaissance des risques d’infection et de formuler des recommandations ciblées. Grâce à sa capacité prédictive, elle permet d’avertir les utilisateurs potentiellement infectés avant même qu’ils développent des symptômes de la maladie, au moment où ils sont justement les plus contagieux sans le savoir. L’application permet également d’informer les autorités publiques de la santé de l’évolution de la pandémie avec des données épidémiologiques complémentaires, permettant de voir venir des flambées du virus.»

    D'où vient cette volonté de vouloir tout prédire, tout contrôler? La beauté de la vie et de la condition humaine n'est-elle pas sa part d'inconnu qui l'anime? Je ne veux pas vivre dans un monde où tout est calculé par des algorithmes et où la peur de l'humain face au tragique de sa condition l'amène à vouloir tout contrôler. Non, M. Bengio et consorts, malgré votre pitch de vente, je n'en veux pas de votre technologie et je ne veux pas du monde que vous nous préparez...

  • Taoufik Essekkouri - Inscrit 23 mai 2020 14 h 41

    Le virus et les applications

    À trop vouloir utiliser les applications pour trouver des solutions à tout y compris à détecter des virus, on risque de passer à côté de l'épidémie.
    Tout d'abord le risque zéro que les données collectées ne soient pas utilisées à bon escient, voir être volées, n'existe pas en informatique.
    Ensuite, cette application pourrait engendrer de la peur chez les gens et deviennent irraisonnables sur le simple fait qu'on leur notifie sur leur cellulaire qu'ils sont peut être porteur du virus, alors qu'il n'en ai rien. Les circonstances entourant le contact avec les gens dans le réel, ne peuvent être reflétées fidèlement par des algorithmes. Ce qui ouvre la porte aux verdicts erronés.
    Enfin, pour qu'elle soit pratique, il faudrait que la majorité l'adopte et ce n'est pas une mince affaire, et ceci pour d'autres considérations autres que la charte canadienne des droits et libertés,
    Par ailleurs, d'autres essayent de développer aussi une application, mais celle là ne se base pas sur la géolocalisation ou la collecte de données. Elle détecte la température, le bruit de la toux et de la respiration avec une sorte de clé qu'on insere dans le cellulaire. L'utilisateur aura une idée sur sa santé et décidera de ce qu'il va faire. Pour ça il faudrait développer les premiers symptômes.

    • Cyril Dionne - Abonné 23 mai 2020 15 h 44

      « Par ailleurs, d'autres essayent de développer aussi une application, mais celle là ne se base pas sur la géolocalisation ou la collecte de données. Elle détecte la température, le bruit de la toux et de la respiration avec une sorte de clé qu'on insere dans le cellulaire. »

      Pourquoi ne pas se faire tester pour la COVID-19 tout simplement, un petit test qui ne prendra que quelques secondes à faire au lieu de jouer à l’apprenti sorcier/médecin avec son téléphone dit intelligent? Pardieu, les jeunes ont bien plus à faire que cela avec leur appareil comme se prendre en « selfie ». lol

  • Taoufik Essekkouri - Inscrit 23 mai 2020 19 h 03

    @ Cyrille Dionne

    Je pense qu'ils cherchent (les développeurs de logiciels) à se faire un peu d'argent tant que la saison de la chasse au coronavirus est encore ouverte, pourvu que ça marche. Lol

    • Cyril Dionne - Abonné 23 mai 2020 21 h 08

      Oui, vous avez probablement raison. Ils « garrochent » de l'argent partout et par les fenêtres sans compter en autant que vous mentionnez le mot « coronavirus ». J’imagine qu’on est plus riche qu’on le pense et que l'argent pousse sur des potées fleuries produites en serre parce qu'on économise de l'énergie. Non, les rues ne sont pas pavées d’or au Québec.

    • André Labelle - Abonné 24 mai 2020 10 h 41

      Le développement le l'IA a permis, par exemple, la détection de cancer du sein qu'il était jusqu'à lors impossible à faire. L'IA permet de sauver des vies et l'application développée par l’Institut québécois d’intelligence artificielle à Montréal est de cet ordre. Quel est le prix d'une vie humaine ?

      «On mesure l'intelligence d'un individu à la quantité d'incertitudes qu'il est capable de supporter.»
      [Emmanuel Kant]

  • Raynald Richer - Abonné 24 mai 2020 08 h 21

    Divulgation "volontaire"

    Je ne doute pas des bonnes intentions de M.Bengio et de son équipe, mais il ne faut pas être naïf avec les données personnelles.
    À partir du moment où les données captées, elles ne sont plus confidentielles. Nous vivons dans un monde où les institutions sont incapables de garantir la protection des données personnelles et où les compagnies s’empressent à les vendre au plus offrant.

    Maintenant, soyons idéalistes et imaginons une application qui serait parfaitement sécuritaire et confidentielle. Qu’est-ce qui empêcherait un restaurateur de vous demander de voir votre application comme condition d’entrée dans son restaurant ? Bien sûr, vous pouvez refuser de lui fournir, mais il n’est pas obligé de vous accepter dans son resto… Vous pourriez le poursuivre jusqu’en cours suprêmes, mais personne ne va le faire. Même réflexion avec votre locateur, de votre employeur ou votre compagnie d’assurance. Avez-vous passé un test d’ADN dernièrement ? Votre compagnie d’assurance ne peut pas vous forcer à passer un test d’ADN, mais s’il existe elle peut vous demander de lui fournir les résultats. Bien sûr, elle peut aussi les acheter les résultats à la compagnie qui vous a fait un profil généalogique.
    C’est un peu comme lorsque vous naviguez sur internet, vous pouvez ne pas accepter les “cookies”, mais à ce moment-là vous n’avez pas accès à l’information sur la page. C’est de cette façon de fonction la divulgation dite “volontaire”.

    Bref, on doit absolument considérer qu’à partir du moment où les données captées elles ne sont plus confidentielles, car il existe beaucoup de façons de les récupérer ou de vous contraindre à les partager.

    • Raynald Richer - Abonné 24 mai 2020 09 h 54

      Désolé pour les coquilles. Voici une version plus lisible.

      Je ne doute pas des bonnes intentions de M.Bengio et de son équipe, mais il ne faut pas être naïf avec les données personnelles.
      À partir du moment où les données sont captées, elles ne sont plus confidentielles. Nous vivons dans un monde où les institutions sont incapables de garantir la protection des données personnelles et où les compagnies s’empressent à les vendre au plus offrant.

      Maintenant, soyons idéalistes et imaginons une application qui serait parfaitement sécuritaire et confidentielle. Qu’est-ce qui empêcherait un restaurateur de vous demander de voir votre application comme condition d’entrée dans son restaurant ? Bien sûr, vous pouvez refuser de lui fournir, mais il n’est pas obligé de vous accepter dans son resto… Vous pourriez le poursuivre jusqu’en Cour suprême, mais personne ne va le faire. Même réflexion avec votre locateur, de votre employeur ou votre compagnie d’assurance.
      Avez-vous passé un test d’ADN dernièrement ? Votre compagnie d’assurance ne peut pas vous forcer à passer un test d’ADN, mais si ce test existe, elle peut vous demander de lui fournir les résultats. Bien sûr, elle peut aussi acheter les résultats à la compagnie qui vous a fait un profil généalogique.
      C’est un peu comme lorsque vous naviguez sur internet, vous pouvez ne pas accepter les “cookies”, mais à ce moment-là vous n’avez pas accès à l’information sur la page. C’est de cette façon que fonctionne la divulgation dite “volontaire”.

      Bref, on doit absolument considérer qu’à partir du moment où les données sont captées elles ne sont plus confidentielles, car il existe énormément de façons de les récupérer ou de vous contraindre à les partager.

    • André Labelle - Abonné 24 mai 2020 10 h 32

      M. Richer,
      Si la semaine prochaine le processus de déconfinement se poursuit et que les commerces ayant pignon sur rue sont autorisés à recevoir leur clientèle qui respectera les mesures hygiéniques requises dont le port d'un protège visage, et que je me rende compte que les personnes qui sont à l'intérieur ne portent pas de masque, je ne serai pas enclin à visiter ce commerce.
      Les phénomènes de la transmission de virus ne sont pas concernés par les lois adoptées en parlement, ni par les droits de la personne. C'est à la société d'agir ou de ne pas agir conséquemment. Mais dans les deux cas nous devons accepter de vivre avec le prix à payer pour nos choix.
      « L’anarchie est partout quand la responsabilité n'est nulle part. »
      [Gustave Le Bon]