Abus de logiciel
L’excellent reportage de l’émission Enquête diffusé jeudi dernier à Radio-Canada procure d’essentiels éclairages sur l’ampleur des défis pour assurer la sécurité des enfants les plus vulnérables. Outre l’ampleur des difficultés qu’affrontent au quotidien les professionnels de la Direction de la protection de la jeunesse (DPJ), le reportage révèle des faits troublants au sujet d’un logiciel appelé Système de soutien à la pratique (SSP) des professionnels de la DPJ. Cet instrument est d’usage obligatoire pour l’ensemble des professionnels de la DPJ. Il génère un document d’analyse à partir de réponses aux questions à choix multiples fournies par l’intervenant de la DPJ.
Dans un rapport produit en 2017, la Commission des droits de la personne a examiné comment avait été traité le signalement relatif à Thomas Audet, un enfant de 22 mois décédé en juin 2016 dans des circonstances encore nébuleuses. Un mois auparavant, son cas avait été porté à l’attention de la Direction de la DPJ. Le rapport de la Commission des droits de la personne montre du doigt les incohérences du logiciel pour des décisions discutables qui auraient retardé l’évaluation de son dossier.
La journaliste Pasquale Turbide explique dans son reportage que « Dans le cas de Thomas […] le logiciel semble avoir produit un document aux conclusions contradictoires » et orienté les intervenants vers une décision qui a eu pour conséquence de reléguer son dossier à un rang plus bas dans l’ordre de priorité. Thomas est décédé 23 jours plus tard sans avoir été vu par une travailleuse sociale. Une intervenante explique dans le reportage que « le SSP génère parfois des rapports contredisant le jugement clinique de l’intervenante, qui a souvent passé une quinzaine d’heures à rencontrer l’enfant, les parents et des professionnels. Ce qui engendre des situations absurdes ».
Ce qui était au départ un instrument destiné à aider le professionnel dans son travail d’évaluation de la situation complexe semble être devenu un instrument qui sert à ordonnancer les « cas » dans des organisations qui doivent gérer les contradictions entre les missions très exigeantes qu’elles ont à accomplir et les ressources de plus en plus rares.
D’outil d’aide à outil de décision
Les outils d’aide à la décision sont généralement conçus pour guider les professionnels et autres personnes ayant à prendre des décisions dans des situations complexes à recueillir systématiquement les informations pertinentes et nécessaires et aider à les analyser. Ce sont des outils destinés à aider à identifier et à sérier les faits multiples à considérer dans la prise de décision. Mais il est risqué de transformer de tels outils en décideurs.
Les outils d’aide à la décision sont forcément incomplets. Ils ne peuvent avoir tout prévu de la complexité des situations. Ils reposent sur des questions prédéterminées. Des questions nécessairement partielles. Le reportage nous apprend que « Le logiciel propose une série de questions à choix multiples, avant de générer un rapport censé guider le professionnel dans l’évaluation d’un cas. L’ennui, selon la travailleuse sociale et représentante syndicale Nancy Poulin, c’est que les choix de réponses sont souvent incomplets. Parfois, ta réponse n’est pas dans les choix de réponses. Ce qui nous est proposé ne fonctionne pas pour des problématiques avec des parents ou des enfants, par exemple. […] On doit faire un choix de réponses qui ne correspond pas à la réalité pour être capable de passer à l’autre question ».
Dans un contexte de rareté de ressources, la tentation est forte de faire passer de tels outils d’un statut d’auxiliaire aidant à celui d’instrument de mesure et de détermination des « priorités ». Lorsqu’on fait de tels usages d’outils informatiques, on les transforme en normes de conduite. Ces instruments sont en effet dotés de fonctions qui finissent par jouer comme des règles qui s’imposent à tous ceux qui en font usage.
C’est là que la limite est franchie. Lorsque l’outil est configuré de manière à imposer nécessairement une réponse à telle ou telle question, qu’il est structuré de manière à postuler que certains faits sont pertinents et pas d’autres, il oriente le processus d’analyse du professionnel qui l’utilise. Lorsqu’il est utilisé pour supplanter le jugement des professionnels, le danger de dérive s’accroît.
D’un outil d’aide à un outil maître
C’est l’autonomie professionnelle des intervenants qui est ici marginalisée. Lorsque, dans une logique gestionnaire, une organisation impose l’usage d’un instrument et lui confère une autorité qui supplante le jugement professionnel, l’outil n’est plus un outil d’aide, il devient un outil maître. Ce sont les normes implicites incluses dans la structure de l’outil qui en viennent à prévaloir sur le jugement professionnel.
Par-delà le caractère tragique de l’histoire du jeune Thomas, c’est la façon dont une organisation comme la DPJ introduit et utilise les outils d’aide à la décision pour subordonner le jugement des professionnels qui est ici troublant. Lorsque les décisions de gestion en viennent à imposer l’utilisation obligatoire d’un outil qui supplante le jugement des professionnels, tous les citoyens — et surtout les plus vulnérables — sont à risque.