Le logiciel libre, remède à l’opacité des algorithmes

Dans un texte publié dans Le Devoir du 12 janvier (« Uber et le nécessaire contrôle social des algorithmes »), le chercheur Yves Gingras soulevait la question fort pertinente de l’opacité des algorithmes utilisés par les services numériques auxquels nous sommes de plus en plus habitués dans notre société (par exemple Uber). Le sujet était à nouveau discuté à l’émission de radio Médium large le 14 janvier. Cet enjeu nous interpelle en tant que citoyens et militants de l’informatique libre.

La philosophie du logiciel libre, croyons-nous, jette une lumière essentielle sur les enjeux du numérique et, espérons-le, aidera le public québécois à s’y retrouver un peu mieux.

M. Gingras nous invite à exercer un « contrôle social » sur les algorithmes de décision, véritables « boîtes noires » dont on ignore tout. Nous sommes d’accord. La société a besoin de « programmes [informatiques] que les gens peuvent lire, réparer, adapter, améliorer » en lieu et place des « boîtes noires » que nous offrent les principaux joueurs de l’industrie, nous disait Richard Stallman, le fondateur du mouvement pour le logiciel libre, dans un essai de 1994.

En effet, si nous désirons exercer un contrôle social adéquat sur les algorithmes, il nous faudra considérer non seulement les lois, les règlements et les institutions, mais aussi le code source des logiciels au moyen desquels les algorithmes sont mis en oeuvre. Malheureusement, le code source des logiciels est généralement caché de la vue des utilisateurs par une exploitation abusive du droit d’auteur de la part des développeurs, typiquement les entreprises qui en sont propriétaires. Le logiciel libre fait exactement le contraire, en exploitant le droit d’auteur de façon à protéger les libertés des utilisateurs contre les abus potentiels des développeurs.

Scénarios possibles

Hypothétiquement, on peut très bien imaginer la communauté des utilisateurs d’Uber (le service en ligne) évoluant indépendamment de l’entreprise Uber, de son modèle d’affaires, de ses pratiques, de son choix d’algorithmes. Que ferait la communauté Uber (les usagers, les transporteurs, les développeurs et les opérateurs techniques) si le service en ligne n’avait pas de propriétaire, qu’il était la chose commune de tous ? Bien des scénarios sont possibles. Parmi ces scénarios, plusieurs qui sont éthiques, légaux et très avantageux autant pour les utilisateurs du service que pour la société en général. C’est le manque de liberté qui empêche la matérialisation des meilleurs scénarios que nous pourrions concevoir.

L’opacité des logiciels, il est facile de s’en rendre compte, a occasionné, occasionne et continuera d’occasionner des abus de toutes sortes. Depuis l’affaire Snowden, ce sont les abus relatifs au droit à la vie privée (surveillance de masse) et au droit à la liberté d’expression (censure) qui attirent le plus l’attention du public. Cependant, il faut bien comprendre que la liste des abus possibles au moyen d’un logiciel gardé secret est très longue. Elle ira en s’allongeant au cours des prochaines années, en cette époque où « le logiciel avale monde ».

3 commentaires
  • Michel Blondin - Abonné 29 janvier 2016 07 h 26

    Il y a urgence

    La liberté est contrainte par l'absence de réglementation dans le domaine.

    Il faut contrer les abus volontaires d'opacité qui servent à des fins lucratives.

    C'est une invasion de la liberté par l'intérieur. Un danger sans précédent insidieux de contrôle directionnel des services et même des besoins.

    La réglementation, bien que technique, doit poindre rapidement dans ce pouvoir sans frontières et sans limites. Il y as urgence d'abus.

  • Marc Davignon - Abonné 29 janvier 2016 10 h 40

    Logiciel libre ou ouvert?

    Que dire de votre intervention? Que vous voudriez faire une coopérative «UBERTIENNE»? Que vous «croyez» qu'un code source se lit comme un livre ? L'informatique est de prime abord un traitement automatique de l'information qui, autrefois, était traité manuellement.

    Vous ne pouvez pas faire une analyse sémiotique d'un code source. Il y a la «complexité cyclomatique» pour faire une analyse d'un code source. Ça, c'est pour tous ceux qui croient que faire de la programmation, vous n'avez pas besoin de lire n'y d'écrire (Le Devoir, 19 décembre 2015 : l’école à l’heure de la programmation).

    Les boites noires, le problème? Le système d'exploitation est une énorme boite noire. Est quand défectuosité se manifeste, vous aurez beau vous évertuer à modifier votre code, ça ne marchera pas. Alors? Est-ce que la boite blanche est préférable ? Non! Il faut avant tout s'assurer que toutes les composantes du système soient vérifiées, vérifiables et «certifiées». Est le logiciel libre n'est pas plus vertueux à cet égard. Il est trop souvent le résultat d'efforts motivé par le produit fini, pas vraiment vérifié (l'approche Agile introduit cette regrettable tendance).
    Qui aime faire la (vrai) assurance qualité avec des dizaines de scénarios pour valider les «algorithmes»? Les tests, c'est comme la documentation en informatique, quand le temps manque, c'est là que l'on coupe.

    Aimeriez-vous avoir une «radio électromagnétique» avec une telle approche? Docteur, le patient est brulé! Pourtant, ça fonctionnait hier? OK! Ouvre le code, on v'a «corriger» («touiker») le code pour le prochain!

    Je ne le crois pas! Le problème de l'informatique n’est pas les algorithmes. Le problème de l'informatique ne trouvera pas sa solution «magique» avec le logiciel libre. Le problème de l'informatique c'est l'humain! Est pour cela, il faut réglementé (la personne neutre de Smith). Avoir un regroupement professionnel d'informaticiens serait un premier pas dans la bonne direction.

    • Laurent Hubert - Abonné 30 janvier 2016 01 h 01

      Bonjour,

      Je fais de l'informatique depuis les années 80. Je suis très heureux que les logiciels libres existes, mais vraiment heureux. Ils m'ont souvent sorti de sales pétrins qu'on pu me faire vivre les systèmes propriétaires : Unix, Windows, Max OS, VxWorks. Sans logiciels libre mon système d'exploitation favori n'existerait pas et mon employeur, un centre de recherche, ne pourrait pas profiter des économies que je lui fait faire actuellement.

      Je trouve aussi maladroit d'utiliser une application médicale pour ridiculisé le logiciel libre.Qu'il soit libre ou propriétaire un logiciel qui vient avec un appareil médical subit une longue batterie de tests au niveau de la FDA et ça inclu même la validation du manuel de l'utilisateur. Une fois l'application approuvée, le fournisseur de l'appareil ne peut le modifier et le remettre production avant que la FDA reprenne les tests et met son sceau dessus. Ex: J'ai connu une compagnie qui a refusé de mettre un correctif logiciel pour tenir compte du changement de rêgle sur d'heure d'été qui a eu lieu sous Bush avant d'avoir l'aval de la FDA. Pour le client c'était trop tard, il devait travailler pendant un temps en tenant compte dans ses activités de la différence entre l'heure affichée et l'heure réel.

      Sur un autre aspect, après la commission Charbonneau, j'aurais tendance à penser qu'une corporation d'informaticiens n'apporte pas plus de garantie que la nébuleuse du logiciel libre.

      Tant qu'au problème d'UBER je n'en sais pas assez sur cette question pour dire quoi que ce soit.

      Laurent