Les vrais enjeux de TikTok

L’application de partage de vidéos TikTok est accusée par les autorités américaines de transmettre des données aux autorités chinoises ou de servir de plateforme à ceux qui projetteraient de truquer les élections. Face à cette menace, le président Trump veut forcer la vente de l’entreprise à des intérêts américains. Il est vrai que le fonctionnement de TikTok repose sur des algorithmes capables de procurer des recommandations hyperpersonnalisées. La plateforme possède de grands atouts pour valoriser avec beaucoup d’efficacité les données produites par les utilisateurs. Profitant des possibilités considérables ouvertes par les technologies fondées sur l’intelligence artificielle, ces plateformes de nouvelle génération ont vocation de constituer un puissant vecteur de productions culturelles hyperpersonnalisées. À ce titre, elles participent à la gouvernance des comportements des individus et des organisations. Elles devraient donc interpeller les politiques numériques de tous les pays. Mais l’approche du président Trump est mal ciblée.

Les accusations des autorités américaines à l’égard de TikTok se fondent sur des arguments de « sécurité nationale ». L’alibi de la « sécurité nationale » est souvent brandi par les dirigeants autoritaires pour justifier leurs décisions arbitraires. Car en ces matières caractérisées par le secret, le commun des mortels n’a d’autre choix que de croire les dirigeants sur parole. Or, les dirigeants américains traînent à cet égard un lourd déficit de crédibilité. Les révélations d’Edward Snowden au sujet de l’espionnage tous azimuts des citoyens ont montré qu’en matière de sécurité nationale, les États, et singulièrement les États-Unis, font ce qui les arrange. Les déficiences des lois américaines en matière de protection des données sont telles que le plus haut tribunal européen a invalidé l’accord en vertu duquel les données des Européens peuvent être exportées vers les États-Unis. Alors, invoquer que TikTok transmettrait des données des utilisateurs américains pour justifier les pressions destinées à engendrer la vente de l’entreprise ne paraît pas très convaincant.

Si les autorités américaines souhaitent vraiment assurer la protection des données personnelles, elles devraient mettre en place des législations garantissant effectivement que toutes les entreprises qui produisent de la valeur avec les données émanant d’une population soient tenues à de réelles redditions de comptes. Or, au lieu de travailler à développer des lois qui permettraient de surveiller les pratiques de ces entreprises qui carburent aux données, le président Trump appelle à l’expropriation de TikTok au nom de vagues menaces d’espionnage au profit du gouvernement chinois.

Garantir la reddition de comptes

L’agitation du dirigeant américain autour de TikTok passe à côté de l’enjeu véritable : celui de garantir la reddition de comptes des plateformes carburant aux données. Les données désormais traitées par de puissants algorithmes sont un mécanisme intrinsèque du fonctionnement du monde connecté. La protection des processus démocratiques requiert la mise en place de mécanismes assurant la reddition de comptes des entreprises qui tirent avantage du traitement des données.

Les activités dans le monde connecté fonctionnent au moyen de procédés qui font usage d’algorithmes. Par exemple, les moteurs de recherche, les réseaux sociaux, plusieurs dispositifs médicaux, les systèmes de domotique, les véhicules autonomes, les imprimantes 3D, les robots, livrent les résultats attendus en mobilisant la puissance des algorithmes qui traitent des données. Il faut que les populations concernées soient en mesure de savoir comment, sur quelles bases, sur quels présupposés fonctionnent les algorithmes et à partir de quels raisonnements ils génèrent leurs décisions ou leurs recommandations. L’enjeu est d’éviter que des calculs à partir de masses de données mènent à des décisions discriminatoires ou autrement attentatoires aux droits des personnes. Les entreprises qui les utilisent doivent être tenues d’expliquer clairement ce que font les algorithmes et selon quels présupposés.

Les algorithmes ont le potentiel de générer des décisions qui ont des conséquences bien réelles sur les personnes. Leur usage doit être encadré par des processus crédibles de contrôle de la raisonnabilité des décisions qu’ils engendrent. Des experts ont préconisé que les lois étatiques instituent des processus de régulation inspirés de ceux qui régissent le développement et la mise en marché des médicaments et d’autres semblables produits complexes. Le développement et la mise en marché des médicaments sont soumis à des exigences quant à la validation des effets de ces produits, de leur efficacité et de leurs conséquences non prévues. Appliquer un tel modèle aux algorithmes impliquerait des obligations de partager les informations relatives à leur fonctionnement. Cela suppose que les autorités publiques disposent d’une réelle capacité d’imposer des processus de vérification et de validation. Si le monde connecté doit fonctionner dans le respect des principes démocratiques, il faut rapidement penser un cadre régulateur à la mesure des enjeux que comportent les processus décisionnels fondés sur des procédés aussi puissants.

Que ce soit aux États-Unis ou au Canada, il est plus que temps de mettre en place des lois pour obliger ceux qui utilisent les données produites dans le monde connecté à garantir qu’ils agissent en conformité avec les droits fondamentaux. Cela nécessite la mise en place de capacités crédibles de vérification et de garanties de transparence. Improvisé en pleine panique électorale, le projet du président Trump d’exproprier TikTok passe à côté des vrais enjeux. Ces applications reposant sur de puissants algorithmes de recommandation et carburant aux données constituent un redoutable défi pour tous les États démocratiques : celui d’assurer le fonctionnement transparent de ces outils qui, pour le meilleur ou le pire, participent à la gouvernance de nos vies.

7 commentaires
  • Françoise Labelle - Abonnée 11 août 2020 07 h 29

    Balayer devant sa porte

    Facebook, Apple, Microsoft, Amazon ont transcrit des messages enregistrés par leurs usagers avec leur consentement peu éclairé, prétextant un entraînement de leurs algorithmes. Personne ne sait ce que ces transcriptions sont devenues. Depuis le lancement du programme Prism de la NSA, celle-ci peut s'approprier ces données légalement.
    «Facebook Paid Contractors to Transcribe Users’ Audio Chats», Bloomberg 13 août 2019.
    «Prism, Snowden, surveillance : 7 questions pour tout comprendre», Le Monde 8 aout 2013.

    Tik Tok lutte contre la désinformation sur le covid et fait la promotion des mesures de santé préconisées par la majorité des médecins, contre le racisme et pour la tolérance, ce qui irrite certainement Trump, sans compter le rôle présumé (exagéré) des usagers dans sa déconfiture en Oklahoma.
    «The real story of the Trump rally is not that interesting» Vox 30 juin.

  • Marc Sauvageau - Inscrit 11 août 2020 10 h 51

    Un algorithme n'est pas du code

    Sans douter des compétences en droit des médias et du cyberespace de Me Trudel, il utilise cependant le terme algorithme pour ce qu'il n'est pas. À la lecture de son texte, on remarque qu'il utilise le terme algorithme comme étant synonyme au code (série d'instructions à un ordinateur dans un langage spécifique). Un algorithme n'est pas du code, c'est un processus analytique qui sert à décrire les étapes à suivre pour résoudre un problème avec justesse et finalité.

    On pourrait comparer un algorithme à une recette d'un mets. La recette décrit les étapes à suivre pour réussir un mets, mais elle ne fait pas le met qui est à la charge du cuisinier.

  • Pierre Langlois - Inscrit 11 août 2020 11 h 13

    La guerre des données

    Plutôt d'accord avec Pierre Trudel. Ses chroniques sont habituellement pertinentes et très bien documentées.

    À propos de TikTok, c'est sa grande popularité qui rend cette application dangereuse parce qu'elle mange un partie des revenus publicitaires des GAFAM américaines. En voulant forcer les Chinois à vendre leur filiale américaine à Microsoft (ou autre), Trump cherche, d'une part, à renforcer l'hégémonie des GAFAM et, d'autre part, à avoir accès aux données des utilisateurs si nécessaire. Sans compter qu'il insiste pour avoir son % sur le prix de vente...

    En somme, Trump ne craint pas tant la mainmise du gouvernement chinois sur les données ramassées par TikTok. Il craint surtout que ces données échappent à son gouvernement et qu'elles enrichissent des entreprises qui ne sont pas américaines.

  • Jacques de Guise - Abonné 11 août 2020 11 h 29

    De l’oralité à la scripturalité au numérique

    Tout comme l’encadrement légal de la « société numérique » devient de plus en plus urgent, le développement de la littératie numérique est aussi crucial, sinon plus, car ce n’est que par le développement d’une culture numérique qu’une prise de conscience de l’urgence de l’établissement de ce cadre légal peut émerger.

    De tout temps, les outils, les instruments, les dispositifs techniques que nous avons utilisés dans le cadre de nos activités intellectuelles ont affecté nos façons de percevoir, de mémoriser et de raisonner. Or comme nous sommes passés de l’oralité, à la scripturalité, nous sommes en train de passer au numérique. Donc, nos modes de perception et de compréhension sont en train de changer, c’est pourquoi il est tellement important de comprendre fondamentalement comment fonctionne le format numérique.

    Présentement, les programmes d’enseignement du numérique sont essentiellement tournés vers les usages, c’est-à-dire qu’ils s’inscrivent dans une approche instrumentale, or il serait crucial qu’un savoir théorique sur le numérique soit dispensé.

    Selon les travaux en anthropologie de l’écrit, trois inventions structurent l’histoire graphique de l’humanité : l’écriture de la langue, l’écriture des nombres et l’écriture du code avec le numérique. Or, langues, nombres et codes relèvent d’univers sémiologiques distincts. Dans le cas des deux premiers, il y a une continuité physique entre la trace écrite et la trace lue, or dans le cas de l’écriture numérique, cette continuité n’existe plus, car nous avons besoin d’un programme informatique pour pouvoir faire sens. Pour eux, paradoxalement, ce n’est qu’en inscrivant l’apprentissage de l’écriture numérique dans la continuité de l’écriture qu’il est possible de mieux en comprendre l’évolution. Selon Jean Lassègue, seule l’histoire de l’écriture rend possible la compréhension de la convergence entre le nombre, la langue et le monde physique d’où émerge l’informatique.

  • Elisabeth Doyon - Abonnée 11 août 2020 13 h 06

    La commande n’est pas petite.

    «Il faut que les populations concernées soient en mesure de savoir comment, sur quelles bases, sur quels présupposés fonctionnent les algorithmes et à partir de quels raisonnements ils génèrent leurs décisions ou leurs recommandations.»

    La commande n’est pas petite. Sachant que la logique formelle est maintenant obscure pour bon nombre et qu’elle ne peut aider à comprendre que les algorithmes qu’on n’associe plus à l’intelligence artificielle aujourd’hui, comment faire pour inculquer ces connaissances quand même les spécialistes de l’IA se penchent encore sur son explicabilité ? Comment faire comprendre que ce sont des raisonnement abductif quand personne ne sait ce qu'est l'abduction et que les spécialistes savent que ça produit des raisonnement non logiquement valide ?

    Ça me parait une forme de pensée magique...