L’imposture éthique autour de l’intelligence artificielle

Présentée en 2014, la voiture autonome de Google suscite inexorablement l'intérêt des médias.
Photo: Justin Sullivan Getty Images / AFP Présentée en 2014, la voiture autonome de Google suscite inexorablement l'intérêt des médias.

La propagande de l’intelligence artificielle (IA) va bon train. Son allure va même à fulgurante vitesse, l’IA est sur toutes les lèvres, nous dit-on. Pour se déployer, elle n’a pas besoin de la puissance du calcul algorithmique qui la caractérise, mais de la complicité des médias qui travaillent à la fabrication du consentement.

Le Devoir n’est pas en reste à ce chapitre, nous accablant dans son édition des 22 et 23 septembre d’un cahier spécial qui, sans un esprit critique digne de ce nom, nous présente quasiment cette technologie comme l’entrée du Messie dans l’âge adulte : les miracles déferleront jusqu’à ce qu’on en ait fini avec l’inaptitude humaine, entrave à la fluidité des marchés et à la croissance illimitée du savoir comme de la productivité.

Le clergé de l’IA veut révolutionner notre rapport au monde par l’apprentissage profond et renforcé. La voiture Google, si je peux me permettre un raccourci qu’on jugera sans doute réducteur, en contiendrait les prémices : aller vite, sans accident et sans dévier d’un parcours programmé, éventuellement programmé par d’autres machines. Quel parcours ? Ils seraient infinis ; les accidents aussi, peut-on imaginer. Il faudrait interroger l’inconscient des machines pour avoir une idée des cauchemars qui pointent à l’horizon, mais il subsiste un dogme, un veau d’or que le clergé de l’IA vénère avec une piété de fondamentaliste, c’est le dépassement de tous les seuils : économique, biologique, cognitif et anthropologique. Et ce dogme de l’illimitation, contrairement à ce que prétendent les éthiciens experts de l’IA, s’accomplit vraisemblablement « au péril de l’humain », pour reprendre le titre du dernier ouvrage du biologiste Jacques Testart (2018).

Ce péril, les créatifs en capital de risque l’ont déjà allègrement écarté, comme le rappelle Éric Sadin dans La silicolonisation du monde (2016). Ceux-ci ont bien compris que le meilleur moyen de créer ou d’augmenter la productivité « consiste à se débarrasser des humains » (p. 101). L’IA, grâce à l’apprentissage profond (deep learning), leur facilite la tâche. Essayer d’insuffler de l’éthique dans cette mentalité, c’est comme vouloir transvaser la mer dans un trou creusé sur la plage avec une cuillère.

J’entends les grands prêtres de ce sacerdoce progressiste, les Jocelyn Maclure et Yoshua Bengio, protester qu’ils travaillent au contraire à ce que le développement de cette technologie de « très haut calibre » — calibre comme dans canon — se fasse de manière responsable, éthique… À la manière des « fonds éthiques » ? Du « développement durable » ? On pourrait citer des pages entières montrant que ces notions sont des dispositifs idéologiques servant à dissimuler des pratiques iniques, qu’ils fonctionnent plutôt comme d’efficaces anesthésiants de l’intelligence, du sens moral et politique.

Pour se convaincre de l’imposture du discours éthique autour de l’IA, il suffit de consulter la liste des principaux acteurs de cette passion triste : Apple, Amazon, Facebook, Google, Microsoft, Netflix, Samsung, bref, la fabuleuse Silicon Valley. La plupart de ces multinationales font face à des condamnations se chiffrant en milliards, condamnations qui devraient suffire à démontrer que l’absence d’éthique est leur seule éthique. Amazon coiffe ses consoeurs au poteau des bénéfices en supprimant le personnel et en vampirisant les marchés locaux : des économies, des communautés, des santés mentales sont fragilisées sinon détruites. Amazon est le modèle d’affaires par excellence carburant à l’IA.

L’IA est en fait un puissant coup d’accélérateur à l’accumulation de profits, tout en obtenant des fonds publics pour la recherche sous couvert éthique. Sa logique est radicalement opposée à toute pensée écologique et humaniste. « Dans les faits, écrit Éric Sadin, il s’agit là d’un nihilisme technologique et d’un antihumanisme radical » (p. 30). Il est éclairant de connaître la généalogie de l’esprit qui anime la Silicon Valley pour bien saisir sa nature. Trois courants idéologiques, a priori hétérogènes, convergent : la contre-culture, l’armée et l’esprit d’entreprise. De cette rencontre émergea « une figure d’un nouveau genre, “l’entrepreneur libertaire”, s’opposant à l’autorité et aux normes, seulement mû par son “inspiration prémonitoire”, porteuse d’un horizon salvateur » (p. 56). La force de ce nouveau héros asocial et à la psychologie souvent morbide, qui revendique individualisme, contestation et technoromantisme, s’apparente aux superhéros de Marvel, écrit Sadin. Comme lui, il apparaît dans l’imaginaire libéral libertaire comme le seul à porter les espoirs de l’humanité. Hors la volonté de puissance guerrière dirigée contre des forces du mal improbables, point de salut.

L’idéologie qui sous-tend l’IA est à l’opposé d’un espoir pour l’humanité, car il la met en péril, ce que le discours éthique écarte d’emblée. Comme le dit le journaliste et boursier du National Geographic Ari Beser à propos des découvertes d’Einstein conduisant à la bombe atomique, « [l]a révolution scientifique qu’était la fission atomique exigeait une révolution éthique et une morale ». Or, non seulement cette révolution n’a pas eu lieu, mais le développement du technocapitalisme nous en éloigne chaque jour. Du reste, si cette morale était apparue et qu’elle était ancrée dans nos fragiles institutions démocratiques, on ne songerait même pas aujourd’hui à l’IA ou, du moins, elle n’occuperait pas la place hégémonique qui est aujourd’hui la sienne.

À voir en vidéo