Le projet d’application de recherche de contacts de Mila crée tout un émoi

Des voix s’élèvent pour réclamer un débat public sur le cadre légal qu’envisage le promoteur.
Photo: Manu Fernandez Associated Press Des voix s’élèvent pour réclamer un débat public sur le cadre légal qu’envisage le promoteur.

Le projet d’application de recherche de contacts liée à la COVID-19 que l’Institut québécois d’intelligence artificielle (Mila) cherche à vendre aux gouvernements canadiens, dont Québec, se prépare à privatiser les données publiques et personnelles récoltées auprès des citoyens pour en assurer la gestion dans une structure opaque, a découvert Le Devoir.

Cette manière de faire vise à prévenir un excès de surveillance des individus par l’État, prétend Mila, mais elle éveille la suspicion chez plusieurs observateurs du monde de la technologie et du droit qui estiment qu’un débat public est nécessaire sur cette mécanique de privatisation de données publiques délicates, puisque liées à la santé.

Ces voix mettent également en doute l’urgence exprimée par les autorités et les tenants du tout technologique pour cette application dont d’autres versions n’ont toujours pas fait leurs preuves en matière de lutte contre la pandémie, ailleurs que dans des régimes totalitaires comme la Chine.

« Il est primordial d’avoir un débat sur les enjeux technologiques entourant cette application afin de déterminer si l’outil est effectivement efficace, dit Hugo Cyr, professeur au Département des sciences juridiques de l’Université du Québec à Montréal (UQAM). Si les données récoltées sont considérées comme une ressource publique [amassées à des fins de santé publique], il devrait également y avoir un débat public sur le partage de ce bien commun. »

Selon le « livre blanc » — un document de 60 pages publié en anglais seulement — dévoilé le 18 mai dernier par l’Institut québécois d’intelligence artificielle pour faire mousser son application baptisée COVI, Mila envisage en effet de soustraire à l’autorité de l’État les données centralisées récoltées par son outil de lutte contre la pandémie. Il en donnerait la gestion à un organisme créé le 9 avril dernier en vertu de la loi canadienne sur les organisations à but non lucratif (OBNL).

COVI Canada, c’est son nom, est administré par les trois principales têtes de Mila Yoshua Bengio, Valérie Pisano et Benjamin Prud’homme, et son adresse postale est la même que celle de l’Institut, selon le registre des sociétés du Canada. Les recherches de Mila intéressent les grands acteurs de l’industrie du numérique et même pharmaceutique. L’Institut est financé en partie par Novartis, Google, IBM, mais également Facebook, champion dans le suivi des comportements humains à des fins commerciales.

Si tant est que ces données puissent servir des intérêts publics, on peut s’interroger sur le bien-fondé d’une gestion hors de la sphère publique

 

Dans le cas du suivi envisagé au nom de la santé publique, les informations ciblées sont hautement confidentielles, puisqu’elles s’apparentent au dossier médical d’un individu. L’application permettrait notamment d’avertir les personnes à risque, soit celles d’âge avancé ou ayant une condition médicale accentuant les effets de la COVID-19 (diabète, maladies cardiaques, etc.), de la présence d’individus contaminés à la COVID-19 dans leur environnement immédiat.

Détails techniques : ces données ne seraient pas anonymisées, mais plutôt « pseudonymisées », donc liées à un pseudonyme, ce qui rend plus facile l’identification des personnes par croisement de données, explique M. Cyr.

« Très peu d’information est disponible sur cet OBNL, dit Marie-Jean Meurs, professeure au Département d’informatique de l’UQAM. Une telle structure permet essentiellement de solliciter des investisseurs variés, mais également de séparer les responsabilités », particulièrement celle de l’État, des données récoltées. « Or, les OBNL augmentent aussi l’opacité, car même si elles sont souvent financées par les gouvernements, leur statut rend la reddition de compte difficile. » Et elle ajoute : « Si tant est que ces données puissent servir des intérêts publics, on peut en effet s’interroger sur le bien-fondé d’une gestion hors de la sphère publique. »

« Il serait possible d’ailleurs d’envisager qu’une agence gouvernementale indépendante soit responsable de ces données centralisées », ajoute M. Cyr.

Mila explique qu’il a « envisagé plusieurs scénarios » et favorisé celui de l’OBNL, qui répondrait aux « craintes exprimées par le public […] sur la surveillance et la remise des données directement à l’État », a indiqué Vincent Martineau, responsable des communications de l’Institut, joint par Le Devoir. Mila assure qu’il va permettre aux « représentants des institutions publiques », comme le ministère de la Santé et des Services sociaux, « de participer à la structure de gouvernance » de l’OBNL, et ce, par l’entremise d’« une table de concertation avec les organismes publics » et d’un « poste d’observateur sur le conseil d’administration ».

N’empêche, la précipitation avec laquelle les gouvernements du Canada cherchent à adopter une application de recherche des cas de COVID-19 pour faciliter la lutte contre la pandémie détonne dans le contexte mondial, où l’utilisation de ces outils n’a toujours pas fait ses preuves.

« En Islande, malgré un taux de pénétration de l’application parmi les plus élevés au monde [presque 40 % des personnes l’ont téléchargée], le responsable de sa mise en place a souligné que le traçage manuel était encore une méthode nettement supérieure, fait remarquer Mme Meurs. Il précise aussi que l’impact potentiel du traçage automatique est exagéré par les promoteurs du solutionnisme technologique. »

Depuis le début de la crise sanitaire, les géants de la Silicon Valley, dont Google et Apple, se rapprochent en effet des gouvernements et des grandes organisations publiques pour développer ce type d’applications. La stratégie vise à les présenter comme des citoyens voulant « bien faire » en temps de crise, tout en « renforçant leur pouvoir d’influence et augmenter leurs perspectives de financements publics de grande envergure, en matière de recherche en Intelligence artificielle ou pour des infrastructures qui bénéficient directement à ces compagnies », explique Mme Meurs.

Pour Hugo Cyr, l’adoption d’un tel outil de surveillance et la gestion de sa fiducie de données par un OBNL ne peuvent se faire dans l’urgence, étant donné ses implications sociales et politiques à moyen et à long terme. « Il n’y a rien de plus permanent que le temporaire, dit-il. Il y a un risque de normalisation de mesures adoptées de manière exceptionnelle. » Il mentionne entre autres les cadres de protection de la vie privée amoindris par la lutte contre le terrorisme après les attentats du 11 septembre 2001 aux États-Unis. « Ça va faire partie du nouveau normal. Une fois que le système est en place, il va être plus difficile à défaire. On va pouvoir aussi en faire d’autres usages. »

Le projet de Mila est par ailleurs très critiqué, puisque les personnes les plus à risque, comme les personnes âgées ou celles vivant dans des quartiers défavorisés, sont moins susceptibles de posséder des téléphones dits intelligents, pourtant nécessaires à la bonne marche de cette surveillance.

« Je ne condamne pas cette fiducie, qui, si elle est bien faite, pourrait être une solution intéressante à l’agrégation des données telle que réalisée par les Google, Apple, Facebook et Amazon (GAFA), dit M. Cyr. Mais elle ne peut faire l’économie d’un débat qui, dans les circonstances, est criant. »

À voir en vidéo

11 commentaires
  • Yvon Montoya - Inscrit 2 juin 2020 05 h 40

    Il nous faut refuser cet outil de manière forte. Aussi demander a ces concepteurs d’outil totalitaire de commencer par apprendre le francais pour nous faire un «  livre blanc » lisible par toute la population du Quebec. Puis in fine d’aller prendre des cours d'éthique, d’histoire et de littérature issue des pays totalitaires. Apres on discutera peut-être.

  • Françoise Labelle - Abonnée 2 juin 2020 06 h 36

    Intelligence, comme en anglais?

    Comme dans «Canadian Security Intelligence Service (CSIS)» peut-être. L'écoute électronique et la collecte de données se pratiquent depuis des lustres, bien avant l'Imitation Artificielle. Dans le second cas, la police secrète de Fouché en faisait son fonds de commerce sous le Directoire. On adore les gadgets et les buzz; il faudra payer le prix du nouveau normal.

  • François Talbot - Abonné 2 juin 2020 07 h 47

    La pâte à dents

    Que quelqu'un m'explique comment l'intelligence artificielle est capable de remettre la pâte à dents dans le tube? Ah, elle ne peut pas...
    Depuis le roman d'Orwell, dès qu'on mentionne "Big Brother" la plupart des gens pensent à un contrôle étatique de la vie privée. Ce que l'auteur n'avais pas imaginé c'est que l'État pourrait céder de grands pans de ses pouvoirs et responsabilités au privé. Tout l'intérêt de "Big Brother" en 2020 n'est pas le contrôle des individus "non-normalisés" mais plutôt la monétisation des identités et ce système appartient aux GAFA. Et sous prétexte que nos gouvernements pourraient avoir des tentations totalitaires, MILA nous propose de faire surveiller la bergerie par les loups.

  • Élisabeth Germain - Abonnée 2 juin 2020 07 h 56

    Tranparence?

    Transparence? Déjà cet acronyme MILA est opaque. En cherchant, on finit par trouver (en anglais) qu'il signifie "Montreal Institute for Learning Algorithms", pieusement rebaptisé "Institut québécois d'intelligence articificielle". L'OBNL Covi Canada lui donne une alure vertueuse. On amalgame Québec, Canada, but non-lucratif, alouette, pour donner l'illusion d'une organisation vertueuse, quasi gouvernementale, dévouée au bien commun, alors que la réalité est emmêlée dans le financement par les GAFA et cie.
    Ça part mal. Ça parle mal.

  • Réal Gingras - Inscrit 2 juin 2020 08 h 47

    Branchez-vous!

    Mais de quoi parle-ton? D’une application publique ou privée?
    On parle dans l’article de données publiques, de santé publique, de débat public, de ressources publiques, d'intérêts publics . On me confirme que cette application est développée sous logiciel libre et on cherche à la vendre aux gouvernements canadiens. Je n’y comprends rien. Si l’application est développée sous licence libre
    (GPL) et ouverte, il n’y a rien à vendre. Elle est alors déposée sur un serveur , mettons les serveurs de Mila, et l’utilisateur va tout simplement la chercher par téléchargement comme cela se fait pour tout autre type d’application libre. C’est privé ou c’est public? Branchez-vous. Mila a reçu tout un tas de subventions publiques des gouvernements pour développer cette application, alors pourquoi la vendre?

    On pourrait faire mieux. Pourquoi se casser la tête en demandant le consentement de l’utilisateur?
    On peut très bien, si on veut, prendre entente avec tous les serveurs du pays et inoculer dans les smartphones l’application COVI géolocalisable à l’insu de l’utilisateur pour pouvoir le suivre par GPS. Il n’y a rien de plus simple. La France a utilisé pour l'instant cette procédure pour envoyer des textos de vigilances sanitaires à tous les citoyens via les serveurs français.

    Toutes les actions que nous faisons sur le réseau sont stockées quelque part sur des méganuages-serveurs.

    
Par un décret d’urgence nationale sanitaire un gouvernement peut, par l’intermédiaire d’un serveur (Telus et Rogers de ce monde), insérer dans le téléphone intelligent de leurs clients-utilisateurs un programme de géolocalisation branché, mettons, directement sur les serveurs de la Santé publique ou ceux de Mila puis, advenant le cas où le propriétaire de ce téléphone, suite à un test, devient positif, à pouvoir l’identifier immédiatement par le programme de géolocalisation que le serveur a téléchargé dans son appareil. C’est aussi simple que ça. Le wifi est partout.
 Les GAFAM le font