Passer à la version normale du sitePasser à la version large du siteTaille d'écran
  • Facebook
  • Twitter
  • RSS
  • Connectez-vous
    Le Devoir de philo

    Les menaces technicistes de l’intelligence artificielle

    Le philosophe Miguel Benasayag nous met en garde contre des avancées technologiques qui évacuent le sens propre à la vie et sa complexité

    25 novembre 2017 | Marie-Claude Goulet - L’auteure est médecin et enseignante à la Faculté de médecine de l’Université de Montréal. | Le Devoir de philo
    Nous ignorons les changements que ces nouvelles technologies qui se développent à toute allure produisent dans nos vies, nos cerveaux, nos corps, nos écosystèmes.
    Photo: Isaac Lawrence Agence France-Presse Nous ignorons les changements que ces nouvelles technologies qui se développent à toute allure produisent dans nos vies, nos cerveaux, nos corps, nos écosystèmes.

    Deux fois par mois, Le Devoir lance à des passionnés de philosophie et d’histoire des idées le défi de décrypter une question d’actualité à partir des thèses d’un penseur marquant.


    Montréal est devenue une des plaques tournantes de la recherche et du développement en intelligence artificielle (IA). Yoshua Bengio, directeur de l’Institut des algorithmes d’apprentissage de Montréal (MILA) et figure de proue de ce mouvement, affirme sur toutes les tribunes avec grand enthousiasme que nous sommes « à l’aube d’une nouvelle révolution industrielle ». L’IA a le vent dans les voiles, c’est le moins qu’on puisse dire.

    Photo: Marie-Claude Goulet Marie-Claude Goulet est médecin et enseignante à la Faculté de médecine de l’Université de Montréal.

    Les deux ordres de gouvernement ont récemment ouvert les vannes avec des subventions importantes pour l’avancée des connaissances dans ce domaine. De grandes multinationales, avec en tête Google, Microsoft, Facebook et Amazon, ont offert des millions de dollars aux différents groupes travaillant au développement de l’intelligence artificielle, dont le MILA de Bengio. La promesse d’une vie augmentée où les machines nous aideraient là où nous faillons semble provoquer un intérêt généralisé quasi incontestable. Comment oser remettre en question ou poser un autre regard sur ce « progrès » qui augure tant de bénéfices pour l’humanité ?

     

    Miguel Benasayag, philosophe et clinicien franco-argentin, auteur de multiples ouvrages dont Cerveau augmenté, homme diminué ? (La Découverte, 2016), propose quant à lui une thèse critique aussi pertinente qu’urgente quant aux nouvelles connaissances sur le fonctionnement du cerveau et leurs différentes applications. « Le développement apparemment illimité des nouvelles puissances technologiques s’accompagne en effet paradoxalement d’un sentiment d’impuissance de plus en plus profond chez nos contemporains qui se sentent comme des feuilles dans la tempête, incapables de maîtriser le cours des événements, tant sociaux que personnels. »

     

    C’est à une rupture historique fondamentale, que Benasayag qualifie de révolution anthropologique, que nous assistons. « C’est dans un monde de désenchantement où la croyance en l’avenir et les promesses historicistes et téléologiques d’un monde parfait à venir sont tombées que la technologie occupe anthropologiquement une place que nous nous sommes trop rarement attardés à penser. » Si l’entreprise de modélisation des mécanismes du cerveau libère une puissance et une connaissance immenses, elle nous plonge en même temps dans une grande perplexité. « Avec les avancées des technologies d’imagerie cérébrale ou de la connaissance de la chimie du système nerveux central, nous sommes confrontés à la tâche immense de penser la nouveauté que suppose ce sujet de la connaissance (le cerveau) qui décide d’entreprendre l’étude de lui-même. »

    Une machine sans limite thésaurise de l’information, tandis qu’un corps avec des limites produit un monde de sens
    Le philosophe Miguel Benasayag

    Possédé

     

    Alors que les technophiles jubilent de promesses de puissances illimitées, les technophobes y voient plutôt une catastrophe à venir et un futur invivable. Le philosophe nous convie à ne pas « faire de choix manichéen » puisque le monde nouveau est déjà là, mais plutôt à réfléchir aux différents possibles permettant de « développer un mode d’hybridation (homme-nature-technologie-culture) qui favorise la colonisation de la technologie dans l’intérêt de la vie et de la culture » et non l’inverse où nous sommes arrivés : l’humain au service de la technologie.

     

    Notre culture est désormais possédée par la technologie. Le simple exemple du téléphone portable parle de lui-même. L’espèce humaine (du moins celle qui en a les moyens) est maintenant connectée en permanence et doit se soumettre aux nouveaux diktats imposés par cette technologie : accélération du temps, travail continu, connexion constante, informations illimitées, flou entre vie privée et vie publique, etc. Les différentes applications de nos téléphones — dits « intelligents » — ont d’ores et déjà modifié notre rapport au monde. « Tout ce que la technologie rend possible tend à se transformer en une obligation dans nos vies, puisque ces possibles sculptent le monde selon leurs caractéristiques propres. » Force est de constater que le développement technologique impose son rythme, sa logique et sa dynamique.

     

    Le vaste domaine de l’intelligence artificielle soulève à ce titre de nombreuses questions qu’on aurait tort de ne pas aborder sous prétexte qu’il s’agit d’un « progrès à venir » qui procurera de soi-disant « gains d’efficacité ». Alors qu’on nous promet un monde sans limites et un « homme augmenté », Benasayag y voit plutôt le triomphe d’un physicalisme réductionniste où les comportements de l’être humain sont analysés comme une série mécanique de mouvements surdéterminés par des lois physiques et chimiques. On assiste selon lui à une déterritorialisation et à une dislocation du sujet dans ses parties ; on transforme l’être humain en un être modulaire.

     

    Alors que le cerveau existe dans un organisme qui s’inscrit dans une histoire et des échanges, et qu’il ne pense ni ne s’adapte seul puisque le corps pense aussi, l’IA tente de programmer une sorte de « cerveau sans corps » où l’on évacue le fait que le sens dépend toujours de l’existence d’un organisme intégré et que les « limites de l’organisme sont la condition même de la possibilité de vivre dans un monde où existent le sens et la compréhension ». Contrairement à l’ordinateur, le cerveau participe d’une pensée à laquelle participe toujours aussi le corps et il s’inscrit dans une temporalité complexe avec des cycles et des rythmes. « Une machine sans limite thésaurise de l’information, tandis qu’un corps avec des limites produit un monde de sens. »

     

    Fabrique de valeurs

     

    La technologie prétend ne cacher aucune idéologie ; or elle s’est transformée au contraire en une véritable fabrique de valeurs. Son enlacement aux intérêts néolibéraux de rendement, d’efficacité, de productivité, ainsi que son développement encouragé à coups de milliards par les grandes multinationales qui y voient des possibilités infinies de capture de nos « temps de cerveaux » et de nos temps de vie devraient à eux seuls nous alerter sur l’urgence de penser cette emprise. De nos agendas à nos amis, de nos déplacements à nos photos, de nos choix culturels à nos « maladies », tout doit être capturé par les machines. La complexité de la vie est réduite aux algorithmes et aux statistiques.

    Photo: Olivier Ezratty CC Miguel Benasayag lors d’une conférence TEDx à Paris en 2010

    Selon Benasayag, au nom de principes empiriques « d’efficacité » et « d’amélioration » de l’espèce humaine, où tout est quantifié et compté, le développement de la science et des nouvelles technologies a renoncé à réfléchir en profondeur aux enjeux humains, éthiques, sociaux et environnementaux créés par cette colonisation de nos vies. Or, veut-on vraiment vivre dans un monde de plus en plus envahi par les ordinateurs ? Qu’est-ce qu’on y gagne et qu’est-ce qu’on y perd ? Est-ce un réel progrès pour l’humanité et l’ensemble de la vie ? Nous ignorons les changements que ces nouvelles technologies qui se développent à toute allure produisent dans nos vies, nos cerveaux, nos corps, nos écosystèmes. La rapidité avec laquelle croît la « révolution numérique » nous empêche de la métaboliser comme l’humanité a pu le faire, par exemple, avec l’apparition du langage et de l’écriture.

     

    « Aider la vie »

     

    Lorsque Yoshua Bengio est questionné sur les futures applications de l’IA, il cite l’exemple des maisons intelligentes qui connaîtront nos désirs avant même que nous ayons le temps d’y penser. Elle saura qu’on veut un café à 7 h le matin, nous lira nos courriels, devinera qu’on aime écouter un air de musique classique au retour du travail, tamisera nos lumières en soirée, etc. Nous n’aurons plus besoin de penser à toutes ces petites choses de la vie et enfin nous pourrons déployer notre efficacité pour ce qui « compte » réellement. Si l’on peut se demander si un tel projet est souhaitable et à quoi servirait ce fameux temps « gagné », il est aussi légitime de se demander qui aura les moyens de « profiter » de ces innovations alors que plus du tiers de l’humanité ne comble pas ses besoins minimaux en nourriture.

     

    Miguel Benasayag, qui aime les petites histoires, nous raconte celle de ce patient de 90 ans qui se plaint du fait qu’il lui faut plus de 30 minutes le matin pour se préparer un café. Il se lève laborieusement de son fauteuil, contourne les meubles pour se rendre à l’armoire où se trouve les filtres, grimpe avec précarité sur la pointe des pieds pour atteindre la boîte, en pose un dans sa cafetière, y verse de l’eau ainsi que la bonne quantité de grains moulus, puis il marche jusqu’au vaisselier où se trouvent les tasses, choisit celle qu’il préfère, dit un mot à sa compagne, se verse un café et retourne enfin s’asseoir dans son fauteuil.

     

    « Mais mon cher Monsieur, ne désespérez pas puisque cette demi-heure que vous prenez à préparer votre café le matin, c’est ce qui vous maintient en vie. Tout va bien. »

     

    À travers ce récit, le penseur nous invite à « aider la vie, pour éviter que par ignorance une supposée augmentation quantitative ne finisse par écraser les dimensions qualitatives propres à la vie, celles du sens et de la complexité. La tentation d’une puissance illimitée, la promesse d’une dérégulation totale s’opposent à l’essence même de la vie, qui n’est autre que la fragilité ».

     

    Des commentaires ? Écrivez à Robert Dutrisac : rdutrisac@ledevoir.com. Pour lire ou relire les anciens textes du Devoir de philo.













    Envoyer
    Fermer
    Les plus populaires


    Abonnez-vous à notre infolettre. Recevez l'actualité du jour, vue par Le Devoir.