Point de vue: pour une IA plus inclusive

Orit Halpern Collaboration spéciale
L’évolution n’est pas qu’une question d’aptitudes, mais aussi de variété. Les villes intelligentes et leurs technologies inhérentes seront plus résilientes si elles sont diversifiées.
Photo: iStock L’évolution n’est pas qu’une question d’aptitudes, mais aussi de variété. Les villes intelligentes et leurs technologies inhérentes seront plus résilientes si elles sont diversifiées.

Ce texte fait partie d'un cahier spécial.

Pour aborder l’avenir de l’intelligence artificielle (IA), il faut d’abord se pencher sur sa définition. Pourquoi est-elle artificielle ? Existe-t-il une seule sorte d’intelligence ? Les systèmes reposent sur des ensembles de données et des algorithmes mis au point par des humains en fonction de leurs propres hypothèses normatives à propos de la société, de l’évolution, de l’intelligence, de la race, du sexe, de l’économie, etc. Ainsi, bon nombre des méthodes d’apprentissage développées pour les machines s’appuient sur les principes de la concurrence, des jeux compétitifs et de la capacité à établir des distinctions entre les personnes et les choses. L’IA peut-elle être réellement artificielle si les humains la programment en fonction de leurs hypothèses et de leurs perspectives historiques ?

Les créateurs d’algorithmes ne sont pas objectifs. Ils ont leurs propres conceptions de l’échec et du succès. Ces conceptions s’intègrent aux systèmes des machines et ont des répercussions sociales souvent discriminatoires. Cela engendre un biais de confirmation. Par exemple, notre conception des machines intelligentes se base sur l’image d’un corps normal et en santé. Pourrions-nous les concevoir en ayant à l’esprit les études en matière de handicap ? Peut-on s’inspirer des perspectives féministes, autochtones, antiracistes ? Ne peut-on pas imaginer différentes formes d’intelligence ? L’écologie nous apprend que les systèmes doivent souvent miser sur la diversité pour s’adapter au changement. L’évolution n’est pas qu’une question d’aptitudes, mais aussi de variété. Les villes intelligentes et leurs technologies inhérentes seront plus résilientes si elles sont diversifiées.

Pour concevoir des systèmes plus inclusifs, il est essentiel de considérer que nous le faisons avec des technologies non humaines et pour celles-ci. Les machines intelligentes n’ont pas à être des répliques exactes des humains, et les villes n’ont pas à être conçues uniquement pour les humains. À mesure que ceux-ci cohabitent plus facilement avec les machines et les technologies, nos environnements physiques doivent refléter cette réalité. Les questions au sujet de l’intelligence artificielle et de leur incidence potentielle sur nos vies sont nombreuses. En les posant, nous devons garder l’esprit ouvert et être prêts à remettre en cause notre conception de la nature, de la vie rurale et urbaine, ainsi que de l’humain et du non-humain, afin de concevoir un avenir prônant la diversité et l’inclusion.