À la fois juge et partie, l’«éthique» de Mila

Un groupe composé essentiellement d’informaticiens de Mila, chapeauté par un philosophe « éthicien » également membre de l’institut, nous assure (dans un texte du Devoir, 23 et 24 mai) que l’application de « suivi de contacts » dont Mila fait la promotion sur toutes les tribunes serait non seulement « intelligente », mais surtout « éthique », mot magique devenu le sésame incontournable à toute action en ces temps du « tout à l’éthique ».

Or, qui est vraiment soucieux d’éthique devrait d’abord se demander : depuis quand les personnes qui font la promotion d’un gadget qu’elles ont conçu peuvent-elles légitimement affirmer, la main sur le cœur, le caractère « éthique » de leur boîte noire et nous demander de les croire sur parole ? Cela s’appelle un conflit d’intérêts. Parlant de la COVID-19 : laisserait-on le D^r Didier Raoult se faire le promoteur de la chloroquine, définir lui-même les règles éthiques et la méthode de validation de ses propres essais cliniques ? Bien sûr que non ; tout essai clinique sérieux est d’ailleurs nécessairement supervisé par des experts indépendants de l’équipe qui conduit l’étude pour justement éviter ce genre de conflit évident.

Autre problème : avant même de parler d’éthique, il faudrait d’abord établir l’efficacité technique du gadget que l’on veut diffuser dans la société. Comme le notait la très sérieuse revue Nature dans un éditorial du 30 avril dernier, aucune application de détection ne devrait être utilisée sans avoir au préalable été testée dans des études pilotes publiées et évaluant leurs risques et leur efficacité. Quelle est la qualité de la détection ? Quel est le taux de faux positifs ? Ce sont là des caractéristiques à déterminer avant de penser à une utilisation généralisable. Le même éditorial rappelait d’ailleurs que l’application tant vantée de Singapour n’était utilisée que par 20 % de la population. Ce qui signifie, ajoute la revue, que les chances que deux personnes porteuses de l’application se croisent sont de 4 % ! Et ne parlons pas de la distribution des téléphones cellulaires selon l’âge, ni même de l’organisation prétendument « indépendante » — mais créée par Mila… censée superviser toutes les données requises pour nourrir la machine —, car ce serait là mettre la charrue devant les bœufs.

De tels projets, assurément fort coûteux, paraissent d’utilité douteuse pour contribuer à quoi que ce soit en matière de santé publique et, encore moins, comme l’affirment les auteurs sans aucune preuve, pour « aider les citoyens à être les acteurs de leur propre santé ». Les citoyens ont-ils besoin d’un gadget électronique pour « renforcer leur solidarité » ? Et pour appliquer les règles relativement simples préconisées par la Santé publique ? Il y a tout lieu d’en douter.

Il est d’ailleurs curieux, mais significatif, que le début du texte soit au conditionnel (leur technologie « irait au-delà des méthodes traditionnelles ») et glisse ensuite à l’indicatif présent, donnant ainsi l’impression que la boîte noire est au point, ne fait pas d’erreur, détecte tous les cas et donne toujours les bons « conseils » !

Cela n’est pas crédible. Mais, certes, on peut comprendre que des chercheurs qui ont su convaincre les gouvernements d’investir plus de cent millions de dollars sur des promesses d’une révolution générée par leurs algorithmes d’intelligence apparente (IA) cherchent maintenant à convaincre de leur utilité sociale pour s’assurer du renouvellement de leurs budgets annuels jamais suffisants. Comme l’affirmait il y a plus d’un an la p.-d.g. de Mila, Valérie Pisano : « Ce qu’on a eu dans les dernières années, ça a été des investissements de base, de départ. […] Ça a permis l’essor de Mila, […] mais ce n’est pas suffisant » pour demeurer dans la prétendue « compétition mondiale » (Le Devoir, 29 janvier 2019). Ces sommes « de départ », notons-le, dépassent pour ce seul domaine spécialisé de l’informatique le total des fonds québécois octroyés à l’ensemble des chercheurs dans toutes les autres sciences de la nature réunies ! En somme, on saisit très bien que les chercheurs de Mila se préoccupent du suivi de leurs contacts, mais il ne faudrait pas se méprendre sur l’identité des bénéficiaires de l’opération.

On ne doit donc pas être dupes d’une telle stratégie de mise en marché. Les questions préalables d’efficacité technique ne doivent pas être éludées en orientant le regard vers l’éthique, d’ailleurs traitée de manière péremptoire. Enfin, il y aurait quelque naïveté à prendre pour argent comptant la clairvoyance d’informaticiens qui nous assurent travailler pour le seul bien de l’humanité, mais qui ont trop souvent tendance à penser que le social est soluble dans la technique.