Pour une IA bienveillante

Hélène Roulot-Ganzmann Collaboration spéciale
L’IA est au coeur de la médecine du futur, avec les opérations assistées, le suivi des patients à distance, les prothèses intelligentes, les traitements personnalisés, etc.
Photo: iStock L’IA est au coeur de la médecine du futur, avec les opérations assistées, le suivi des patients à distance, les prothèses intelligentes, les traitements personnalisés, etc.

Ce texte fait partie d'un cahier spécial.

L’intelligence artificielle est déjà partout dans nos vies et elle le sera de plus en plus. Pour le meilleur ? Pas si les questions éthiques ne sont pas placées au coeur des discussions. Coups d’oeil sur une poignée d’enjeux, tous domaines confondus, sur lesquels plusieurs se penchent actuellement pour garder le meilleur de l’IA, et éviter le pire.

IA et démocratie

Et si l’IA nourrissait la tentation autoritaire, mettant ainsi à mal nos démocraties ? Certains chercheurs estiment que cela n’est pas pur fantasme et qu’au nom de la sécurité intérieure, plusieurs pratiques menaçant les libertés civiles ont déjà cours à différents degrés dans les démocraties occidentales. L’efficacité des outils algorithmiques de surveillance, notamment la reconnaissance faciale combinée au croisement de vastes collections de données personnelles, peut certes améliorer la sécurité. Mais sans garde-fous, elle peut aussi transformer tout gouvernement en une sorte d’État policier.

IA et affaires militaires

L’une des plus grandes peurs des citoyens par rapport à l’IA demeure le développement d’armes tellement puissantes et autonomes qu’elles annihileraient la planète sans que l’humain puisse rien y faire. Du pur scénario hollywoodien ? Aux Nations unies, quelques pays viennent en tout cas de bloquer la mise en place d’un traité d’interdiction des systèmes d’armes létaux autonomes, plus communément appelés « robots tueurs ». Mais l’IA appliquée à la défense, c’est aussi la promesse de sauver des vies tant militaires que civiles, l’analyse de renseignements massifs par des algorithmes permettant l’amélioration de la détection de menaces.

 

IA et immigration

Le gouvernement fédéral expérimente l’utilisation d’une nouvelle génération de logiciels intelligents pour filtrer et traiter les demandes d’immigration. Une pratique certes efficace, mais à ne pas prendre à la légère. Un rapport indépendant, rédigé par le Citizen Lab de l’Université de Toronto, conclut en effet que l’utilisation insensible de ces outils peut non seulement mener à de la discrimination et à l’atteinte à la vie privée et aux droits des candidats à l’immigration, mais aussi entraîner des « conséquences mortelles » pour les immigrants et les réfugiés.

 

IA et information

En novembre dernier, la Chine dévoilait deux présentateurs virtuels de journaux télévisés. Les journalistes auraient-ils tous du souci à se faire ? L’IA peut aujourd’hui collecter, traiter, analyser et diffuser de l’information, et sans la puissance des algorithmes, les scandales tels que ceux dévoilés par les Panama Papers n’auraient pas pu être mis au jour à une telle échelle. Cela pose cependant la question de la responsabilité éditoriale. Le contrôle humain dans la vérification de la nouvelle devrait toujours être la règle, bien que, dans le contexte de crise que vivent les médias, la tentation d’automatiser certaines tâches soit grande.

 

IA et vie privée

Tous nos faits et gestes sont dé-sormais documentés. À la maison, au travail, dans la rue, on ne compte plus les dispositifs de collecte de données acquises dans un cadre public… et utilisées à des fins commerciales. Des dispositifs qui s’attaquent également aux plus vulnérables d’entre nous. Dans un rapport de recherche publié en novembre, Option Consommateurs estime par exemple que la vie privée des enfants qui utilisent des jouets intelligents est mal protégée. Des failles de sécurité informatique ont en effet permis à des pirates d’accéder aux données recueillies par certains appareils. Avant de laisser le père Noël déposer un jouet connecté sous le sapin, Option consommateurs recommande de se renseigner sur les pratiques du fabricant et de choisir des jouets qui respectent les dernières règles en matière de vie privée sur Internet.

IA et enseignement

L’IA permet de personnaliser les apprentissages, chacun avançant à son propre rythme en fonction de ses forces et de ses faiblesses. De quoi permettre le remplacement de tous les professeurs par des robots ? Pas si vite ! D’abord, lorsque l’apprentissage vise la créativité, l’ordinateur ne peut faire un meilleur travail qu’un enseignant, au moins pour l’instant. Mais surtout, avant de se débarrasser de sa masse salariale, l’État devra se rappeler que le contact humain est à la base de la persévérance scolaire. Et que l’enseignant apporte une dimension sociale que la machine ne peut fournir.

 

IA et santé

L’IA est au coeur de la médecine du futur, avec les opérations assistées, le suivi des patients à distance, les prothèses intelligentes, les traitements personnalisés, etc. Difficile de s’opposer à une telle promesse d’avenir… mais des voix s’élèvent pour demander une meilleure protection des données médicales pour le moins intimes. L’idée que celles-ci puissent être utilisées à d’autres fins, notamment pour évaluer l’admissibilité à l’assurance maladie ou à une assurance vie, inquiète particulièrement. La question de la responsabilité des professionnels de santé en cas d’erreur des outils d’IA revient également fréquemment dans les débats.