Quand ChatGPT fait la loi

Par les transformations qu’ils induisent, les objets techniques régulent les comportements, ils font la loi. Les dispositifs fondés sur l’intelligence artificielle (IA) contribuent à faciliter, à interdire ou à changer les attitudes et les façons de faire. Ces temps-ci, on discute fort à propos de ChatGPT, cette interface de conversation dotée d’une puissante IA, qui répond à une panoplie de questions et rédige aussi des textes bien ficelés à partir de quelques simples indications. De quoi soulever des craintes dans plusieurs milieux.

Comme dans le monde de l’enseignement, où l’on prévoit que le recours à l’outil pourra tromper les méthodes d’évaluation et, par défaut, habiliter les étudiants à s’aider de la machine pour se soulager de l’effort de rédiger des travaux réfléchis. Mais comme d’autres objets technologiques, ChatGPT suscite aussi des réflexions positives.

Dans les années 1990, avec l’avènement d’Internet, des juristes ont fait remarquer que la façon dont les objets techniques sont conçus et configurés permet, facilite, habilite ou interdit les actions humaines. Les choix politiques sont en quelque sorte intégrés dans les technologies. Celles-ci établissent des façons de faire qui s’imposent parce que l’objet est ainsi configuré.

Parfois, ces réglages par défaut des objets sont immuables, et parfois ils permettent la personnalisation ou le choix de l’utilisateur. Plutôt que d’être imposée par les lois ou les tribunaux, cette normativité, appelée Lex Informatica ou Lex Electronica, s’applique automatiquement, avec tous les avantages et problèmes que cela implique. Mais ces normes ne résultent pas des délibérations démocratiques.

Des objets qui régulent

Si les lois des États ne viennent pas baliser leurs conditions de fonctionnement, les configurations des objets techniques peuvent supplanter les décisions issues des processus démocratiques et s’imposer sans qu’on ait notre mot à dire.

Par exemple, des navigateurs Internet comme Chrome, Safari ou Edge, contrairement à un livre ou à un magazine physique, sont configurés pour enregistrer les habitudes de navigation d’un utilisateur. Il y a là une règle par défaut selon laquelle les données de l’utilisateur pourront être collectées. Ce choix fait par les concepteurs des navigateurs Internet joue comme une norme obligatoire ou s’impose par défaut, lorsque l’usager a la faculté de modifier les configurations. Depuis les deux dernières décennies, il nous a été donné de constater que de telles possibilités d’utilisation des données ont eu des conséquences importantes, comme la reconfiguration des conditions de diffusion des publicités numériques. Cela a pu aussi faciliter des manipulations fondées sur le ciblage d’individus à leur insu.

Par les changements qu’elle induit dans les processus de production et de circulation de l’information, l’IA peut secouer les fondements de plusieurs règles juridiques. Face aux changements qu’elle induit, on va estimer que des lois étatiques sont ou ne sont pas nécessaires. Par exemple, est-il acceptable de permettre le recours à des dispositifs fondés sur l’IA pour prendre des décisions qui peuvent avoir de lourds effets sur la vie d’individus ? Ne faudrait-il pas interdire l’usage de tels outils pour répondre aux examens destinés à vérifier les compétences d’un futur professionnel ? Les objets techniques peuvent aussi influer sur le déroulement des processus décisionnels ou des processus délibératifs. Voilà plein d’enjeux démocratiques qui ne sauraient être laissés aux seules décisions des concepteurs.

Un exemple à propos d’une technologie plus ancienne permet d’illustrer comment le caractère normatif de la technologie est balisé par les lois. Lorsqu’au début du XXe siècle, les véhicules à moteur ont commencé à se répandre, ils ont été accompagnés de leurs configurations techniques. Par défaut, ces configurations habilitaient les usagers à rouler plus vite que ce que permettaient les moyens de transport utilisés jusque-là.

Les lois des États, alors conçues pour réglementer la circulation des véhicules hippomobiles, se sont trouvées supplantées par les possibilités nouvelles découlant des configurations de véhicules qui, par défaut, pouvaient rouler à des vitesses supérieures. Pour répondre aux conséquences engendrées par ces possibilités que procuraient ces objets techniques, les lois ont été mises à niveau afin de réglementer les conditions d’usage des véhicules dotés de moteur.

Tout comme les lois étatiques, les configurations des objets techniques sont le résultat de décisions politiques. En reconnaissant le caractère normatif des configurations techniques, on se donne la possibilité de débattre de la légitimité de ces normes implantées dans l’architecture des objets et qui s’imposent sans discussion.

Une technologie comme ChatGPT contribue à modifier les façons d’envisager plusieurs activités humaines. Cela peut ou non coïncider avec ce qui est tenu pour souhaitable ou acceptable. Lorsqu’on reconnaît que les objets techniques sont assortis de leur normativité, on peut mettre en question le caractère adéquat ou néfaste des lois que leurs configurations imposent à tous. Il est normal et légitime de subordonner la régulation imposée par les objets techniques aux lois adoptées démocratiquement. À moins de nous résoudre à laisser aux seuls technologues la faculté de nous imposer leurs choix.

À voir en vidéo