ChatGPT et l’enseignement de l’ignorance

Au cours de la dernière semaine, les journaux nous ont appris, d’une part, que des apprentis sorciers ont cru judicieux de créer une intelligence artificielle capable de rédiger des travaux scolaires à la place des étudiants. D’autre part, on a appris que ces mêmes jeunes, pandémie aidant, sont désormais incapables de maîtriser la langue, voire de développer une autonomie élémentaire.

Certains, en effet, n’arriveraient pas à trouver la cafétéria ou la librairie, même après plusieurs semaines. D’autres magasinent sur Amazon pendant leurs cours ou peinent à comprendre qu’on ne se rend pas à l’école en pyjama. D’un côté, donc, on nous vante des machines de plus en plus autonomes, pendant que les étudiants le deviennent de moins en moins. N’est-ce pas le signe qu’on tente de nous imposer quelque chose d’assez grave ?

Bêtise et savoir

Certes, quelques illuminés de la technopédagogie proposent d’intégrer au plus vite ChatGPT dans les classes. Mais la plupart des professeurs que je connais sont actuellement très préoccupés et s’affairent à réviser leurs modalités d’évaluation pour tenter de contrer les risques de tricherie ou de plagiat. Ce n’est cependant pas la chose la plus préoccupante. Un étudiant dont le travail a été rédigé par une machine n’a pas compris, au sens d’intériorisé, la matière, mais a plutôt demandé à une machine de se substituer à lui.

Nous sommes ici face à une dynamique très inquiétante dont nous peinons à prendre la pleine mesure : plus les machines sont intelligentes, plus nous devenons « bêtes » sans elles, et cela au moment même où nous devrions favoriser le développement d’une conscience citoyenne sensible aux diverses crises qui affectent aussi bien les sociétés que la nature.

Du citoyen actif à la machine intelligente

Plusieurs auteurs, comme Günther Anders, Michel Freitag ou Bernard Stiegler, pour ne nommer que ceux qui me viennent à l’esprit, ont identifié une mutation fondamentale entre les sociétés modernes et postmodernes. Dans la société moderne, l’idéal scolaire vise à former des citoyens dont la République a besoin, capables de l’usage public de la raison. Comme le disait Victor Hugo : « Je veux que l’échelle de la science soit fermement dressée par les mains de l’État, posée dans l’ombre des masses les plus sombres et les plus obscures, et aboutisse à la lumière ; je veux […] que le coeur du peuple soit mis en communication avec le cerveau de la France. » C’est donc dire que l’idéal du citoyen actif, éclairé, cultivé, autonome et doté de la faculté de juger est au coeur de l’idéal du projet moderne.

Dans la société postmoderne, la régulation des sociétés quitte le terrain de la politique pour être déléguée à des systèmes (marché mondial, réseaux informatisés, algorithmes), etc. Ces systèmes sont de plus en plus appelés à décider à notre place dans tous les domaines. Ceci participe d’un phénomène d’extériorisation par lequel nous nous déchargeons de certaines aptitudes pour les confier à des machines extérieures. On peut penser à l’exemple du GPS : mon téléphone « intelligent » sait maintenant le chemin du chalet, mais sans cette béquille, je n’arriverais peut-être plus à m’y rendre « par coeur ». Ainsi, plutôt que d’avoir intériorisé la connaissance de manière autonome, je dois m’en remettre, de manière hétéronome, à des systèmes extérieurs qui pensent pour moi.

L’idéal du citoyen éclairé cède la place à celui de l’individu techno-assisté, dépendant des nouvelles prothèses techniques qui pensent à sa place. Un étudiant peut très bien demander à un robot de rédiger une dissertation sur La République de Platon, et ainsi « réussir » son cours. Mais à la fin de l’opération, il ne sera pas plus savant ni autonome. Il le sera moins. Beaucoup moins. Il faut se demander qui, quelle classe a intérêt à favoriser un tel « enseignement de l’ignorance » (Michéa), à former des gens incapables d’exercer l’autonomie sur le plan individuel et collectif, c’est-à-dire politique, pour s’en remettre plutôt au pilotage automatique du capitalisme globalisé et informatisé.

S’enfermer à double tour dans la caverne

Selon la formule d’Anders, il n’y a plus des hommes entourés de machines, mais des machines entourées d’hommes. La marche du monde est de plus en plus confiée, suivant le projet de l’élite économique et technocratique, à des systèmes autonomes (ceux du capitalisme cybernétique), cependant que l’idéal du citoyen autonome est remplacé par celui de l’individu adaptatif, qui se conduit (et se divertit) à partir de signaux projetés sur des écrans par des algorithmes. Il semble que, plutôt que de sortir de la caverne de Platon, nous avons collectivement choisi de nous y enchaîner, en rendant encore plus sophistiquées les machines qui produisent les ombres qui nous endorment.

Hannah Arendt demandait une chose très simple : « Rien de plus que de penser ce que nous faisons. » La banalité du mal découle en effet de l’absence de pensée. Or, le monde actuel court à la catastrophe à cause du capitalisme et des machines, mais nous ne faisons rien parce que nous regardons le spectacle, en laissant de plus en plus les machines penser à notre place, jusqu’en éducation, où l’on devrait pourtant former des citoyens actifs.

Ce que la classe dominante est en train de faire, à la planète comme en éducation, est profondément irrationnel. Nous ne pouvons pas continuer d’abandonner la direction du monde aux systèmes du technocapitalisme, et nous ne pouvons pas non plus laisser l’éducation entre les mains des robots et de l’élite technocratique qui en fait la promotion active. Comme le disait Warren Buffett : « Il y a une lutte des classes, bien sûr, mais c’est ma classe, celle des riches, qui fait la guerre. Et nous gagnons. »

En clair, il faut non seulement résister à l’invasion de l’intelligence artificielle en éducation, mais aussi reprendre démocratiquement le contrôle de ce qui meut le monde, qui est après tout une affaire trop importante pour le laisser entre les mains des machines et de ceux que Jean-Jacques Pelletier a appelés les « gestionnaires de l’apocalypse ».