La communauté de l’intelligence artificielle a bien fait ses devoirs

Nous travaillons à la rédaction de la Déclaration de Montréal pour un développement responsable de l’intelligence artificielle, souligne le spécialiste en intelligence artificielle Yoshua Bengio. 
Photo: Graham Hughes La Presse canadienne Nous travaillons à la rédaction de la Déclaration de Montréal pour un développement responsable de l’intelligence artificielle, souligne le spécialiste en intelligence artificielle Yoshua Bengio. 

Il m’apparaît important de répondre au texte « Les menaces technicistes de l’intelligence artificielle » signé par Marie-Claude Goulet et publié dans vos pages le 25 novembre dernier. D’abord parce j’y suis mentionné à plusieurs reprises. Mais surtout parce que je désire corriger l’impression voulant que les chercheurs qui conçoivent les intelligences artificielles le font sans tenir compte des éventuelles conséquences sociales et des enjeux éthiques de cette nouvelle technologie.

La communauté de l’intelligence artificielle de Montréal s’impose d’ailleurs elle-même ce « Devoir de philo ». Par exemple, à l’Institut de valorisation des données (IVADO), où je suis directeur scientifique, nous avons recruté un éthicien, Martin Gibert. Et au MILA, nous menons plusieurs collaborations de recherche avec le professeur de philosophie de l’UQAM Dominic Martin. Nous travaillons également de près avec nos collègues de la Faculté de droit de l’UdeM, notamment les professeurs Catherine Régis et Vincent Gautrais, pour réfléchir aux enjeux juridiques liés à l’IA.

Le souci de développer l’intelligence artificielle de manière responsable et pour le bien de ma communauté est la raison pour laquelle j’ai choisi de rester à Montréal et dans le milieu universitaire plutôt que d’aller travailler dans le privé en Californie.

C’est pour cela que j’ai contribué, début 2017, à l’élaboration des principes d’Asilomar, qui sont reconnus comme étant à la base d’un développement sain de l’intelligence artificielle.

C’est pour cela que j’ai écrit au premier ministre Trudeau pour demander, avec mes collègues, que le Canada appuie les démarches en cours à l’ONU afin de bannir les robots tueurs. C’est pour cela que j’ai contribué, aux côtés de Stephen Hawkins et Elon Musk, à l’élaboration d’une autre lettre, cette fois-ci provenant de toute la communauté internationale en intelligence artificielle et en robotique, et exigeant un traité international pour bannir les robots tueurs.

La Déclaration de Montréal

C’est pour cela que nous avons organisé les 2 et 3 novembre derniers le Forum sur le développement socialement responsable de l’IA à Montréal. Et c’est pour cela que nous travaillons en collaboration avec des collègues des sciences humaines, notamment les professeurs de philosophie Marc-Antoine Dilhac et Christine Tappolet, à la rédaction de la Déclaration de Montréal pour un développement responsable de l’intelligence artificielle.

L’humain est au coeur des principes de cette déclaration en construction. Nous souhaitons que ce texte suscite un large dialogue avec le public. Nous souhaitons aussi que cette déclaration mène les États à fixer des balises et des règles de conduite relativement à l’intelligence artificielle. Chacun est d’ailleurs invité à y contribuer.

Nous nous donnons tout ce mal pour baliser cette nouvelle technologie parce qu’effectivement, l’émergence de l’intelligence artificielle ouvre la porte à des abus et à des transformations économiques qui demanderont que nos gouvernements s’adaptent et répartissent la richesse créée. Mais cette technologie promet aussi de nombreux bienfaits, pour le bénéfice de tous si nous faisons les bons choix collectifs. On peut penser à des applications dans le domaine médical ou de l’éducation, à des solutions environnementales, à une justice plus accessible, à de nouvelles découvertes scientifiques. Et aussi, grâce à des robots qui effectueront des tâches répétitives, à une libération d’une certaine forme d’esclavage moderne : celle d’un travail où l’humain ne s’épanouit pas.

On ne peut prédire avec exactitude les effets qu’aura l’intelligence artificielle sur nos vies, pas plus qu’on ne pouvait prédire les conséquences de l’arrivée de l’électrification il y a plus d’un siècle, ou de l’ordinateur personnel dans les années 1970. La seule certitude que j’ai est que l’intelligence artificielle va prendre son essor dans les années à venir, avec ou sans Montréal.

Voilà pourquoi il est si important de s’y investir à Montréal. Nous avons l’occasion de devenir des producteurs et non pas seulement des consommateurs de cette technologie transformatrice, qui créera énormément de richesse. Nous avons aussi la chance exceptionnelle de donner une couleur typiquement montréalaise à ces développements : inclusive, ouverte, créative et profondément humaine. En produisant une partie de cette richesse ici plutôt qu’en Californie, et en le faisant de manière responsable, nous serons en bien meilleure position pour redistribuer les gains de l’intelligence artificielle dans la collectivité.

8 commentaires
  • Marguerite Paradis - Abonnée 2 décembre 2017 07 h 24

    RELIRE « LE MEILLEUR DES MONDES » MONSIEUR BENGIO

    Puisqu'il faut prioriser avec l’$ des citoyens pour le Bien commun, je commencerais par m'assurer que le potentiel des individus, l'intelligence « bien réelle » des individus, soit mis en valeur.
    Vous n'êtes pas sans savoir du haut de votre chair, comme un curé moderne quoi, qu'une majorité d'individus n'ont pas accès à une qualité de logement, de santé, d'éducation, d'alimentation, de revenu, etc. (bref les déterminants sociaux du bien-être) pour développer tout leur potentiel.
    Bref avant la fuite en avant dans l’artificiel, retroussons nos manches pour se donner un « réel » qui a de l’allure!
    M.P.

    • Nadia Alexan - Abonnée 2 décembre 2017 11 h 27

      Bien d'accord avec vous, madame Paradis.

  • Nadia Alexan - Abonnée 2 décembre 2017 07 h 38

    Je doute fort les intentions nobles des affairistes!

    J'espère que vous avez raison, professeur Bengio. «Nous avons aussi la chance exceptionnelle de donner une couleur typiquement montréalaise à ces développements : inclusive, ouverte, créative et profondément humaine.»
    Par contre, si on se fie aux résultats de la Révolution industrielle, on aurait raison d'avoir des doutes que les «affairistes» vont se préoccuper du côté humain de l'intelligence artificielle et qu'ils ne vont pas l'utiliser à des fins mercantiles en supprimant l'être humain à leur propre égoïsme.

    • Bernard Terreault - Abonné 2 décembre 2017 09 h 08

      Madame Alexan, d'accord que les hommes d'affaire qui ont mené la révolution industrielle pensaient au gain et rien d'autre, MAIS il n'y a aucun, mais aucune doute que cette révolution a grandement haussé le bien-être général. Préféreriez-vous vivre au jour le jour en paysanne illettrée à tirer avec de primitifs outils quelques maigres tubercules du sol, sous la menace constante de la peste, du choléra, ou d'un accouchement qui finit mal?

    • Nadia Alexan - Abonnée 2 décembre 2017 11 h 24

      À monsieur Terreault: Je n'ai pas dit que je suis contre le progrès scientifique. Par contre, je ne veux pas qu'on utilise la science à des fins mercantiles sur le dos de notre humanité!

  • Claude Coulombe - Abonné 2 décembre 2017 15 h 00

    IA et éthique, Montréal, un modèle à suivre...

    La science est neutre mais les innovations qui sortent de nos laboratoires auront des effets sur la société. C’est pourquoi il est important d’avoir une éthique pour éviter les débordements.

    M. Yoshua Bengio se pose les bonnes questions au niveau de la responsabilité sociale du scientifique. Le scientifique, pas plus que quiconque, ne pourra empêcher la science de se construire, d'autres le feront avec peut-être moins de souci éthique et sous d'autres cieux.

    Par la «Déclaration de Montréal» pour un développement responsable de l'IA, et les nombreuses initiatives afin de bannir les robots-tueurs, la communauté IA de Montréal dont M. Bengio est le porte-étendard, montre la voie au monde entier.

  • Marc Therrien - Abonné 2 décembre 2017 17 h 52

    Après le chien, le robot comme meilleur ami de l'homme?

    "Et aussi, grâce à des robots qui effectueront des tâches répétitives, à une libération d’une certaine forme d’esclavage moderne : celle d’un travail où l’humain ne s’épanouit pas."

    Et espérons que ces robots artificiellement intelligents ne développeront pas une conscience d'eux-mêmes qui les amènerait à vouloir se révolter de leur pénible condition robotique et se retourner contre leur créateur qui, lui, est bien présent, visible et atteignable.

    Marc Therrien

  • Marc Davignon - Abonné 3 décembre 2017 17 h 12

    Vraiment?

    Il y a quelque chose de triste quand on «croit» qu'il y est de l'intelligence «artificielle» dans ces algorithmes complexes. Synthétique, tout au plus, mais artificielle! Ceci est un pas à franchir qu'il faut faire pour être «vendeur» (belle photo, en passant).

    Voilà! Où est la première application de ces algorithmes ? «RBC Groupe financier, dont Borealis AI fait partie en tant que centre de recherche sur l’apprentissage-machine au sein de l’Institut de recherche RBC» (https://www.directioninformatique.com/un-autre-laboratoire-dintelligence-artificielle-a-montreal/52608).

    Eh oui! Pour la recherche de corrélations dans les activités financières! Alors, une «intelligence artificielle responsable». Il faut nous laisser rire un peu.

    Il faut lire de ce que Jerry Fodor en dit de ce phénomène : The Mind Doesn't Work That Way:
    The Scope and Limits of Computational Psychology ( http://www.sscnet.ucla.edu/comm/steen/cogweb/Abstr

    Croyez-vous que dans les dernières années, nous avons su comment le cerveau fonctionne? Vraiment?