Intelligence artificielle: risques et défis

La semaine dernière était lancée la Déclaration de Montréal pour un développement responsable de l’intelligence artificielle (IA). Ce texte fondateur a été développé dans le cadre d’un processus inclusif donnant une large place au dialogue entre les citoyens, les experts, les décideurs publics et les acteurs de l’industrie. La Déclaration détermine les fondements sur lesquels s’élaboreront les cadres régulateurs qui, au cours des années, baliseront ce qu’il est permis ou interdit de faire en ayant recours aux procédés fondés sur l’IA.

L’IA désigne ces capacités de traiter des masses gigantesques de données et d’information, de calculer des corrélations, de prédire, d’apprendre et d’adapter de façon automatisée des réponses aux situations changeantes. Cela permet des avancées majeures qui doivent bénéficier à tous. Le préambule de la Déclaration explique que « pour la première fois dans l’histoire de l’humanité, il est possible de créer des systèmes autonomes capables d’accomplir des tâches complexes que l’on croyait réservées à l’intelligence naturelle ».

Mais l’IA vient avec son cortège de risques et de défis. C’est pourquoi formuler des principes directeurs pour le développement de ce type d’innovations est un préalable essentiel au développement de règles plus spécifiques qui viendront délimiter les droits et obligations des acteurs concernés par les processus ou les objets carburant à l’IA.

Des principes généraux

La Déclaration se décline en dix principes. On y affirme notamment que le développement et l’usage des systèmes d’IA doivent permettre d’accroître le bien-être de tous les êtres sensibles. Leur utilisation doit se faire dans le respect de l’autonomie des personnes et dans le respect de la vie privée. Les procédés fondés sur l’IA doivent aussi être compatibles avec les liens de solidarité entre les personnes et les générations. Ces systèmes doivent être soumis à l’examen et aux contrôles démocratiques. Ils doivent être compatibles avec la diversité sociale et culturelle. Leurs conséquences doivent être anticipées en fonction d’un principe de prudence. Le recours à de tels outils ne saurait avoir pour conséquence de déresponsabiliser les personnes qui y ont recours.

Ceux qui élaborent les lois ou d’autres normes trouveront dans ces principes directeurs les fondements légitimes au nom desquels certains usages de l’IA peuvent être permis ou interdits.

Les objets comme les véhicules autonomes, les jouets « intelligents » ou les médicaments connectés intégrant des technologies d’IA comportent forcément des normes par défaut. Les objets techniques ne sont pas neutres : ils permettent, autorisent ou interdisent. Les configurations par défaut des objets techniques comportent des régulations souvent mises en place dans le seul souci de répondre au « marché » sans égard aux exigences démocratiques. Ceux qui fabriquent des dispositifs comme les véhicules autonomes devront les configurer en reflétant les principes de la Déclaration.

Des principes à intégrer aux lois

Dans une société démocratique, les lois et les autres régulations, dont celles qui par défaut sont intégrées dans les objets intelligents, doivent reposer sur des justifications. Les valeurs exprimées dans la Déclaration de Montréal reflètent les consensus et justifient les exigences qui pourront être imposées par les lois aux usagers des objets et processus intégrant l’IA.

Des désaccords sont à prévoir sur l’ordre de préséance qui doit s’appliquer lorsque l’un des principes de la Déclaration viendra en conflit avec un autre. Est-ce que l’IA doit avant tout optimiser le bien-être de ceux qui sont déjà favorisés ou contribuer à mutualiser les risques de façon à protéger l’ensemble des membres de la collectivité ? Plusieurs des principes de la Déclaration vont se retrouver au coeur des argumentations que les divers groupes d’intérêts mettront en avant afin de justifier des lois réglementant la configuration des objets « intelligents ».

L’actualisation de certains des principes de la Déclaration va engendrer des remises en question des façons de faire. Par exemple, le principe de participation démocratique devra être concilié avec les revendications des entreprises à l’égard de leurs droits exclusifs sur les données qu’elles collectent et traitent au moyen des procédés d’IA. Il faudra aussi s’interroger sur la portée et les limites du principe d’équité et des exigences du consentement supposément libre et éclairé des individus et par lequel les grands joueurs industriels parviennent à accaparer la valeur des masses de données traitées par les procédés fondés sur l’IA.

Les choix sous-jacents aux dispositifs carburant à l’IA ne sont pas neutres. Cela devrait suffire à exiger leur conformité aux principes de la Déclaration de Montréal.

À voir en vidéo