L’intelligence artificielle «responsable»

La semaine dernière, au Forum sur l’intelligence artificielle responsable, des chercheurs ont adopté des principes pour le développement éthique de l’intelligence artificielle (IA). La démarche est salutaire. Montréal entend devenir une plaque tournante de la recherche sur l’IA. Investir de façon responsable dans ces technologies transformatrices, c’est nécessairement consacrer des efforts conséquents à comprendre leurs enjeux sociétaux.

Mais une fois énoncés les valeurs et les principes devant guider le développement de l’IA, les changements radicaux qu’induisent ces technologies requièrent de repenser les cadres juridiques fondamentaux. Les valeurs s’expriment dans les lois délimitant les droits et les responsabilités des personnes. Celles-ci devraient-elles demeurer inchangées alors que les technologies d’IA changent radicalement les façons de faire ?

Un exemple : les données que produisent tous ceux qui sont connectés sont l’un des intrants essentiels des procédés fondés sur l’IA. Elles font désormais l’objet de traitements très différents de ceux qui étaient envisagés par les lois sur la protection des renseignements personnels datant de la fin du siècle dernier. Les procédés analytiques utilisant les données massives (« Big Data ») changent radicalement les conditions de la collecte, de la circulation et de l’utilisation des données.

Or, les lois de protection des données personnelles ne procurent plus les cadres appropriés pour garantir que l’utilisation des données générées par la collectivité se fera dans le respect des droits fondamentaux et des valeurs démocratiques. Même en Europe, là où la réflexion est parfois plus avancée sur ces questions, on continue d’envisager la régulation des données associées aux personnes comme on le faisait dans le dernier quart du XXe siècle. Une pareille approche donne une régulation d’autrefois pour encadrer les pratiques du futur.

Faute d’innover sur les mécanismes de régulation, on s’épuise à tenter d’appliquer des lois persistant à postuler que les données relatives à une personne ne peuvent être utilisées que moyennant son consentement et uniquement pour des finalités précises. Cette vision individualiste s’accroche à la fiction d’un « consentement » que les internautes et tous les usagers d’objets connectés donneraient en pleine connaissance de cause. Cette approche produit un résultat déficient : pratiquement la plupart des utilisations des données par les géants du Web, même celles qui soulèvent beaucoup d’inquiétudes, sont autorisées. Nous avons tous cliqué sur le rituel « J’accepte » dès lors que nous avons décidé d’utiliser une application, un site ou un objet de ce monde connecté !

Avec ce type de loi censée protéger la vie privée, on a beau énoncer de beaux principes « éthiques », la régulation qui compte vraiment est celle que nous imposent les Google et Facebook de ce monde ! Les lois actuelles sur les données personnelles ne font que gérer l’abandon de nos libertés aux conditions définies par les géants du Web.

Les données : ressources communes

Les données massives sont essentielles à la création de valeur dans les environnements connectés fonctionnant à l’IA. Pour l’heure, les lois persistent à imposer que ces masses d’information ne soient utilisées que pour des « finalités » définies. Mais les traitements de données massives procèdent de logiques qui font fi des finalités au nom desquelles elles ont été initialement collectées.

Devenues « Big Data », ce ne sont plus des données « appartenant » aux individus. Massivement utilisées, les données sont une ressource commune à tous, comme l’air et l’eau que nous utilisons. Comme l’eau, l’air ou les fréquences radioélectriques, les données sont au coeur de la création de valeur fondée sur l’IA. Leur utilisation doit se concevoir comme un privilège régi par des balises que les États doivent avoir le courage d’imposer et de faire respecter.

En tant que ressources communes, les données doivent être utilisées de manière compatible avec les exigences de respect de la dignité humaine. Au régime juridique actuel permettant aux entreprises de s’approprier les données simplement en obtenant le consentement des individus, il faut substituer des règles obligeant à la transparence et à la responsabilisation de ceux qui génèrent de la valeur avec les informations que tout un chacun produit.

L’IA a vocation à changer tous les milieux dans lesquels nous vivons. Son développement « éthique » suppose de revoir le statut juridique des données qui en sont l’intrant essentiel. Les lois doivent être repensées avec autant d’esprit d’innovation qu’il en faut pour développer les environnements informationnels qui modèlent nos conditions de vie.

4 commentaires
  • Denis Paquette - Abonné 7 novembre 2017 08 h 01

    des establissements

    peut-etre y a-t-il toujours des establissements pour en bloquer le développement, n'est-ce pas le type de régimes que nous avons, enfin, ne sommes nous pas ce que certains establissements veulent de nous

  • Marc Davignon - Abonné 7 novembre 2017 08 h 22

    Eau, air, feu et l'intelligence synthétique.

    Ce sont des composantes. Les données ... elles! Ne sont pas des éléments constitutifs de notre environnement naturel, comme les maisons, les autos, les routes, des «objets» créés par nous.

    Allez voir tous ces «copyrights» de ce monde et poser vous la question si ces «idées» (données) vous appartiennent. Et demandez-vous, aussi, s’il est possible de «breveter» le «vivant» ? Faites une recherche et vous y retrouverez des questions troublantes dans lesquelles un brevet de l'air devient possible! Troublant! Et que dire le la main mise de l'eau par des compagnies privées?

    Les «données» devraient appartenir à celui de qui ils émanent. , pas à celui qui veut l'utilisé ou nous sommes dans un monde «communiste» ; à qui appartient le nom et le prénom de la personne à qui c'est, «information» se referre ?

    Le «big data», c'est le pays de «deep learning» qui cherche des corrélations. Mais une corrélation ne fait pas la causalité. Très mathématique (probabiliste), technique «ancienne», mais qui n'avait pas la puissance (CPU) suffisante pour créé ... la magie.

    Alors? Non! Les données ne sont pas des «ressources communes» comme l'eau, l'air ... et le feu! Bien qu'une route est à usage «commun» et que le transport est «commun», celle-ci reste la «propriété», donc, la responsabilité d'une entité quelquonce.

    De plus, le terme «artificiel» est une erreur, nous sommes en présence d'intelligence «synthétique». La différence? C'est celle de notre prétention qui nous habite.

  • Jacques Morissette - Abonné 7 novembre 2017 08 h 39

    En effet...

    «Avec ce type de loi censée protéger la vie privée, on a beau énoncer de beaux principes « éthiques », la régulation qui compte vraiment est celle que nous imposent les Google et Facebook de ce monde ! Les lois actuelles sur les données personnelles ne font que gérer l’abandon de nos libertés aux conditions définies par les géants du Web.»

    Un bel exemple récent avec Netflix et la décision du Fédéral de plier à ses exigences. Comme si les gouvernements pensent que ces géants feront évoluer les choses dans le bon sens d'un État, disons distinct. C'est plutôt le contraire, ce genre d'État va finir par prendre la forme du moule que les géants du web finiront par leur imposer. Ce n'est pas ce que j'appellerais: État avec une très belle personnalité. Sinon celle du cash qui s'imposerait sans frontière.

  • Marc Davignon - Abonné 7 novembre 2017 08 h 47

    Eau, air, feu et l'intelligence synthétique.

    Ce sont des composantes. Les données ... elles! Ne sont pas des éléments constitutifs de notre environnement naturel, comme les maisons, les autos, les routes, des «objets» créés par nous.

    Allez voir tous ces «copyrights» de ce monde et posez-vous la question si ces «idées» (données) vous appartiennent. Et demandez-vous, aussi, s’il est possible de «breveter» le «vivant» ? Faites une recherche et vous y retrouverez des questions troublantes dans lesquelles un brevet de l'air devient possible! Troublant! Et que dire le la main mise de l'eau par des compagnies privées?

    Les «données» appartient de celui de qui elles émanent. Sommes-nous dans un monde «communiste»? À qui appartiennent le nom et le prénom d'une personne?

    Le «big data», c'est le pays de «deep learning», celui qui cherche des corrélations. Mais une corrélation ne fait pas la causalité. Très mathématique (probabiliste), technique «ancienne», mais qui n'avait pas la puissance (CPU) suffisante pour créé ... la magie.

    Alors? Non! Les données ne sont pas des «ressources communes» comme l'eau, l'air ... et le feu! Bien qu'une route est à usage «commun» et que le transport est «commun», celle-ci reste la «propriété», donc, la responsabilité d'une entité quelconque.

    De plus, le terme «synthétique» serait plus approprié qu’artificiel. La différence? Artificielle nous propulse vers une représentation «comme étant proche de nous» (comme si ont était rendus) tandis qui le mot synthétique introduit un effet de «pas encore comme le vrai».

    Un jour, peut-être, mais pas aujourd'hui et pas demain. Nous sommes encore capables de maitrisé la machine, mais peut-être moins la bête qui sommeille en nous : la cupidité.