Musk, Bengio et d’autres réclament une pause de six mois des recherches sur l’intelligence artificielle

Un peu plus d’un millier de personnes, dont le chercheur Yoshua Bengio et le milliardaire Elon Musk, lancent un appel à tous les laboratoires d’intelligence artificielle (IA) : mettez sur pause, pour les six prochains mois, vos technologies plus puissantes que le moteur de langage GPT-4, le temps de reprendre le contrôle de « ces boîtes noires imprévisibles ».

« La recherche et le développement de l’IA devraient être recentrés pour rendre les systèmes puissants et dernier cri plus précis, plus sûrs, plus transparents, plus loyaux », lit-on dans une lettre dévoilée mercredi par l’institut Future of Life et appuyée par Mila. L’association basée à Boston s’est donné pour mission, depuis sa création en 2014, de diminuer les risques menaçant l’humanité, plus particulièrement ceux causés par les nouvelles technologies.

« Les systèmes d’IA actuels sont aussi compétents que les humains dans certaines fonctions », poursuit la lettre, publiée sur le site de l’institut aux côtés d’autres réclamant notamment la fin de l’armement nucléaire débridé. « Il faut se demander : devrait-on laisser les machines nous inonder de propagande et de mensonges ? Devrait-on automatiser tous les emplois ? Devrait-on produire des esprits non humains qui finiront par nous surpasser et nous remplacer ? »

La réponse, tacite, est non. L’organisme Future of Life lance donc un double appel. Les laboratoires qui travaillent sur la mise au point de systèmes d’intelligence artificielle similaires ou plus puissants que GPT-4, tout juste publié par le laboratoire californien OpenAI, sont invités à faire une pause de six mois durant laquelle ils pourront créer une série de protocoles et de règles pour rendre les avancées futures plus responsables et transparentes.

« L’été de l’IA »

Les gouvernements sont invités, de leur côté, à plancher sur un système de gouvernance de l’IA. Celui-ci pourrait inclure « au minimum » une autorité réglementaire en mesure de superviser le développement de la technologie, un mécanisme de suivi de l’utilisation des systèmes informatiques et de stockage de données massives les plus puissants, un système d’identification de la provenance des systèmes qui permettrait de distinguer les applications légitimes des imitations et des outils d’audit et de certification.

Les chercheurs signataires de la lettre croient qu’un financement public adéquat et des centres spécialisés exclusivement dans la recherche de solutions aux enjeux économiques et politiques devraient également être considérés.

« L’humanité peut avoir un avenir florissant grâce à l’IA, conclut la lettre. Nous sommes parvenus à créer des IA puissantes, il est temps de profiter d’un “été de l’IA” durant lequel nous en récolterons les fruits, nous inventerons des systèmes au bénéfice du plus grand nombre et nous donnerons à la société une chance de s’adapter. »

Le chercheur montréalais Yoshua Bengio demeure réaliste : publier une lettre ouverte demeure un pas dans la bonne direction, mais un petit pas. « Il faudra des efforts plus soutenus », a-t-il dit mercredi midi en conférence de presse.

En attendant GPT-5

Le fondateur de l’institut Mila a souligné l’importance de la Loi sur l’intelligence artificielle et les données qui est contenue dans le projet de loi C-27 du gouvernement Trudeau. « Ça va dans la bonne direction, a-t-il dit. Une chose que j’aime de ce projet est qu’il sépare les principes dictés dans la loi des règlements qui seront ensuite adaptés rapidement au fur et à mesure que les besoins se feront sentir. »

Selon le projet de loi C-27, un commissaire à l’intelligence artificielle sera nommé et devra coordonner ses actions avec d’autres organismes et ministères fédéraux — comme le CRTC — pour s’assurer que la loi est respectée.

« C’est important, car voter une loi, c’est long et ça dépend des élus en place, ajoute Yoshua Bengio. Pendant ce temps, les fonctionnaires peuvent réagir plus rapidement. »

La rapidité d’adaptation est cruciale étant donné la vitesse à laquelle évolue la technologie. L’institut Future for Life cite comme exemple le moteur de compréhension et de génération du langage GPT-4, développé par la société californienne OpenAI, comme preuve que les choses évoluent rapidement. « Il peut passer le test de Turing, qui depuis des décennies définit un niveau d’intelligence humain », dit Yoshua Bengio.

Déjà, il semble qu’OpenAI pourrait publier GPT-5, une nouvelle évolution de sa technologie, avant la fin de l’année en cours. La course pour produire l’IA la plus intelligente ne semble pas près de s’arrêter d’elle-même…