Concevoir l’intelligence artificielle autrement
Contenu Partenaire
Comment les savoirs des peuples autochtones peuvent-ils aider les individus à définir le type de relations qu’ils souhaitent entretenir avec l’intelligence artificielle ? Et comment décloisonner le débat autour du rôle que devrait jouer cette technologie dans la société pour que les communautés autochtones puissent y contribuer ? Jason Edward Lewis, professeur au Département de design et d’arts numériques à l’Université Concordia, fait partie du premier groupe international de chercheurs à se pencher sur ces questions.
C’est dans le cadre des activités de l’Initiative pour les avenirs autochtones que le professeur Lewis a commencé à s’intéresser activement à l’intelligence artificielle. D’origine cherokee, hawaïenne et samoane, le chercheur, qui a œuvré pendant une quinzaine d’années comme développeur de technologies numériques à la Silicon Valley avant d’entreprendre une carrière universitaire, dirige la grappe de recherche depuis sa création en 2014. Chapeautée par le réseau Territoires autochtones dans le cyberespace de l’Université Concordia, cette initiative se déploie en collaboration avec diverses communautés autochtones. Privilégiant une approche multidisciplinaire où créateurs, penseurs, universitaires, technologues et artistes sont appelés à se côtoyer, elle encourage ses collaborateurs à développer leur propre conception du futur et à imaginer comment leurs cultures s’épanouiront dans l’avenir.
Jason Lewis cite en exemple les problèmes éprouvés par divers systèmes de reconnaissance faciale. L’an dernier, une étude menée par les chercheurs Joy Buolamwini et Timnit Gebru du Massachusetts Institute of Technology a montré qu’au moins trois d’entre eux peinaient à identifier les personnes noires, particulièrement les femmes, parce qu’ils comportaient des biais algorithmiques..
« Ce n’est qu’un cas parmi d’autres ; le problème est d’une ampleur bien plus grande parce que la majorité des systèmes sont contaminés par ce genre de biais. En réfléchissant à comment nous pouvions corriger ce problème, mes collègues et moi avons réalisé qu’il fallait aborder la question autrement », indique-t-il..
Représentations artistiques d’ancêtres se joignant à une conversation de groupe lors d’un atelier sur l’IA à Hawaï. Illustration de Sergio Garzon Gracieuseté du groupe Initiative for Indigenous Future (IIF)
D’après le chercheur, c’est toute la façon dont on conçoit le développement de l’IA qui est problématique. Selon lui, il faut cesser de réduire ces systèmes à des outils et les considérer plutôt comme des entités avec lesquelles il est possible d’entretenir des rapports. « Je pense qu’on doit être ouvert à réfléchir autrement à l’IA. Ces systèmes ne sont pas des humains, mais ils deviendront très semblables à l’homme parce qu’ils sont autonomes, qu’ils peuvent apprendre et faire toutes sortes de choses qu’on associe aux entités vivantes. Il va donc falloir que nous déterminions comment nous voulons interagir avec eux en fonction de cette réalité », avance Jason Lewis.
Selon lui, les Autochtones sont bien placés pour entreprendre une telle démarche, car dans leurs cultures, aussi nombreuses et diversifiées soient-elles, il est commun de concevoir des interconnexions entre les êtres vivants, les non-vivants et l’environnement..
« Les épistémologies et les langues autochtones peuvent certainement nous aider à articuler nos rapports avec les non-humains. Maintenant, ce à quoi il faut réfléchir, c’est le type de relations que nous voulons bâtir et maintenir avec des non-humains tels que l’IA promet d’être. ».
Son segment initial s’est tenu les 1er et 2 mars derniers à Honolulu. Il a réuni un peu plus d’une trentaine d’universitaires, d’artistes, de penseurs et de technologues issus de communautés autochtones de Nouvelle-Zélande, d’Australie, d’Amérique du Nord et d’Hawaï.
« De façon générale, ce sont surtout des hommes blancs qui participent aux conversations sur l’IA, relève le chercheur. Maintenant que nous avons réussi à identifier et à réunir des personnes autochtones qui ont des compétences et qui souhaitent contribuer au débat sur le rôle de cette technologie dans nos sociétés, on ne peut plus utiliser comme excuse qu’il est impossible de nous inclure dans ces conversations. »
Lors de la deuxième portion du séminaire, laquelle s’est déroulée les 31 mai et 1er juin derniers, les intervenants ont eu l’occasion de préciser leur réflexion sur l’IA. Au cours de celle-ci, ils ont entamé la rédaction d’un article de contextualisation, la création d’une application numérique langagière faisant appel à l’IA et la réalisation d’œuvres d’art illustrant les formes que pourrait prendre l’IA autochtone.
Tout au long de l’été, les membres du groupe travailleront à finaliser ce qu’ils ont amorcé lors de leur séjour à Hawaï. Le résultat de leur labeur devrait être rendu public en septembre dans le cadre d’une publication numérique.
Comment les savoirs des peuples autochtones peuvent-ils aider les individus à définir le type de relations qu’ils souhaitent entretenir avec l’intelligence artificielle ? Et comment décloisonner le débat autour du rôle que devrait jouer cette technologie dans la société pour que les communautés autochtones puissent y contribuer ? Jason Edward Lewis, professeur au Département de design et d’arts numériques à l’Université Concordia, fait partie du premier groupe international de chercheurs à se pencher sur ces questions.
C’est dans le cadre des activités de l’Initiative pour les avenirs autochtones que le professeur Lewis a commencé à s’intéresser activement à l’intelligence artificielle. D’origine cherokee, hawaïenne et samoane, le chercheur, qui a œuvré pendant une quinzaine d’années comme développeur de technologies numériques à la Silicon Valley avant d’entreprendre une carrière universitaire, dirige la grappe de recherche depuis sa création en 2014. Chapeautée par le réseau Territoires autochtones dans le cyberespace de l’Université Concordia, cette initiative se déploie en collaboration avec diverses communautés autochtones. Privilégiant une approche multidisciplinaire où créateurs, penseurs, universitaires, technologues et artistes sont appelés à se côtoyer, elle encourage ses collaborateurs à développer leur propre conception du futur et à imaginer comment leurs cultures s’épanouiront dans l’avenir.
L’impulsion du biais algorithmique
Depuis près de deux ans déjà, Jason Lewis et son entourage, dont Suzanne Kite, qui est doctorante à l’Université Concordia et assistante de recherche, réfléchissent aux manières dont les savoirs et les langues autochtones peuvent aider les communautés à définir le type de relation qu’elles souhaitent entretenir avec l’intelligence artificielle. Malgré leur neutralité présumée, il est maintenant reconnu que des données utilisées pour alimenter un système d’apprentissage automatique peuvent refléter les points de vue des personnes qui ont contribué à leur collecte, à leur sélection ou à leur emploi. C’est ce qu’on appelle un biais algorithmique..Jason Lewis cite en exemple les problèmes éprouvés par divers systèmes de reconnaissance faciale. L’an dernier, une étude menée par les chercheurs Joy Buolamwini et Timnit Gebru du Massachusetts Institute of Technology a montré qu’au moins trois d’entre eux peinaient à identifier les personnes noires, particulièrement les femmes, parce qu’ils comportaient des biais algorithmiques..
« Ce n’est qu’un cas parmi d’autres ; le problème est d’une ampleur bien plus grande parce que la majorité des systèmes sont contaminés par ce genre de biais. En réfléchissant à comment nous pouvions corriger ce problème, mes collègues et moi avons réalisé qu’il fallait aborder la question autrement », indique-t-il..
Représentations artistiques d’ancêtres se joignant à une conversation de groupe lors d’un atelier sur l’IA à Hawaï. Illustration de Sergio Garzon Gracieuseté du groupe Initiative for Indigenous Future (IIF)D’après le chercheur, c’est toute la façon dont on conçoit le développement de l’IA qui est problématique. Selon lui, il faut cesser de réduire ces systèmes à des outils et les considérer plutôt comme des entités avec lesquelles il est possible d’entretenir des rapports. « Je pense qu’on doit être ouvert à réfléchir autrement à l’IA. Ces systèmes ne sont pas des humains, mais ils deviendront très semblables à l’homme parce qu’ils sont autonomes, qu’ils peuvent apprendre et faire toutes sortes de choses qu’on associe aux entités vivantes. Il va donc falloir que nous déterminions comment nous voulons interagir avec eux en fonction de cette réalité », avance Jason Lewis.
Selon lui, les Autochtones sont bien placés pour entreprendre une telle démarche, car dans leurs cultures, aussi nombreuses et diversifiées soient-elles, il est commun de concevoir des interconnexions entre les êtres vivants, les non-vivants et l’environnement..
« Les épistémologies et les langues autochtones peuvent certainement nous aider à articuler nos rapports avec les non-humains. Maintenant, ce à quoi il faut réfléchir, c’est le type de relations que nous voulons bâtir et maintenir avec des non-humains tels que l’IA promet d’être. ».
Séminaires en sol hawaïen
Le professeur Lewis a aussi conçu avec Suzanne Kite, la professeure Arista ainsi que deux collègues internationaux, Angie Abdilla, consultante sur la culture et les technologies aborigènes, et le chercheur Oiwi Parker Jones, un neuroscientifique d’Oxford, un séminaire en deux temps sur le thème des protocoles autochtones et de l’intelligence artificielle. Il s’agissait d’une première mondiale.Son segment initial s’est tenu les 1er et 2 mars derniers à Honolulu. Il a réuni un peu plus d’une trentaine d’universitaires, d’artistes, de penseurs et de technologues issus de communautés autochtones de Nouvelle-Zélande, d’Australie, d’Amérique du Nord et d’Hawaï.
« De façon générale, ce sont surtout des hommes blancs qui participent aux conversations sur l’IA, relève le chercheur. Maintenant que nous avons réussi à identifier et à réunir des personnes autochtones qui ont des compétences et qui souhaitent contribuer au débat sur le rôle de cette technologie dans nos sociétés, on ne peut plus utiliser comme excuse qu’il est impossible de nous inclure dans ces conversations. »
Lors de la deuxième portion du séminaire, laquelle s’est déroulée les 31 mai et 1er juin derniers, les intervenants ont eu l’occasion de préciser leur réflexion sur l’IA. Au cours de celle-ci, ils ont entamé la rédaction d’un article de contextualisation, la création d’une application numérique langagière faisant appel à l’IA et la réalisation d’œuvres d’art illustrant les formes que pourrait prendre l’IA autochtone.
Tout au long de l’été, les membres du groupe travailleront à finaliser ce qu’ils ont amorcé lors de leur séjour à Hawaï. Le résultat de leur labeur devrait être rendu public en septembre dans le cadre d’une publication numérique.
Ce contenu a été produit par l’équipe des publications spéciales du Devoir en collaboration avec l’annonceur. L’équipe éditoriale du Devoir n’a joué aucun rôle dans la production de ce contenu.