Les vrais enjeux de TikTok

L’application de partage de vidéos TikTok est accusée par les autorités américaines de transmettre des données aux autorités chinoises ou de servir de plateforme à ceux qui projetteraient de truquer les élections. Face à cette menace, le président Trump veut forcer la vente de l’entreprise à des intérêts américains. Il est vrai que le fonctionnement de TikTok repose sur des algorithmes capables de procurer des recommandations hyperpersonnalisées. La plateforme possède de grands atouts pour valoriser avec beaucoup d’efficacité les données produites par les utilisateurs. Profitant des possibilités considérables ouvertes par les technologies fondées sur l’intelligence artificielle, ces plateformes de nouvelle génération ont vocation de constituer un puissant vecteur de productions culturelles hyperpersonnalisées. À ce titre, elles participent à la gouvernance des comportements des individus et des organisations. Elles devraient donc interpeller les politiques numériques de tous les pays. Mais l’approche du président Trump est mal ciblée.

Les accusations des autorités américaines à l’égard de TikTok se fondent sur des arguments de « sécurité nationale ». L’alibi de la « sécurité nationale » est souvent brandi par les dirigeants autoritaires pour justifier leurs décisions arbitraires. Car en ces matières caractérisées par le secret, le commun des mortels n’a d’autre choix que de croire les dirigeants sur parole. Or, les dirigeants américains traînent à cet égard un lourd déficit de crédibilité. Les révélations d’Edward Snowden au sujet de l’espionnage tous azimuts des citoyens ont montré qu’en matière de sécurité nationale, les États, et singulièrement les États-Unis, font ce qui les arrange. Les déficiences des lois américaines en matière de protection des données sont telles que le plus haut tribunal européen a invalidé l’accord en vertu duquel les données des Européens peuvent être exportées vers les États-Unis. Alors, invoquer que TikTok transmettrait des données des utilisateurs américains pour justifier les pressions destinées à engendrer la vente de l’entreprise ne paraît pas très convaincant.

Si les autorités américaines souhaitent vraiment assurer la protection des données personnelles, elles devraient mettre en place des législations garantissant effectivement que toutes les entreprises qui produisent de la valeur avec les données émanant d’une population soient tenues à de réelles redditions de comptes. Or, au lieu de travailler à développer des lois qui permettraient de surveiller les pratiques de ces entreprises qui carburent aux données, le président Trump appelle à l’expropriation de TikTok au nom de vagues menaces d’espionnage au profit du gouvernement chinois.

Garantir la reddition de comptes

L’agitation du dirigeant américain autour de TikTok passe à côté de l’enjeu véritable : celui de garantir la reddition de comptes des plateformes carburant aux données. Les données désormais traitées par de puissants algorithmes sont un mécanisme intrinsèque du fonctionnement du monde connecté. La protection des processus démocratiques requiert la mise en place de mécanismes assurant la reddition de comptes des entreprises qui tirent avantage du traitement des données.

Les activités dans le monde connecté fonctionnent au moyen de procédés qui font usage d’algorithmes. Par exemple, les moteurs de recherche, les réseaux sociaux, plusieurs dispositifs médicaux, les systèmes de domotique, les véhicules autonomes, les imprimantes 3D, les robots, livrent les résultats attendus en mobilisant la puissance des algorithmes qui traitent des données. Il faut que les populations concernées soient en mesure de savoir comment, sur quelles bases, sur quels présupposés fonctionnent les algorithmes et à partir de quels raisonnements ils génèrent leurs décisions ou leurs recommandations. L’enjeu est d’éviter que des calculs à partir de masses de données mènent à des décisions discriminatoires ou autrement attentatoires aux droits des personnes. Les entreprises qui les utilisent doivent être tenues d’expliquer clairement ce que font les algorithmes et selon quels présupposés.

Les algorithmes ont le potentiel de générer des décisions qui ont des conséquences bien réelles sur les personnes. Leur usage doit être encadré par des processus crédibles de contrôle de la raisonnabilité des décisions qu’ils engendrent. Des experts ont préconisé que les lois étatiques instituent des processus de régulation inspirés de ceux qui régissent le développement et la mise en marché des médicaments et d’autres semblables produits complexes. Le développement et la mise en marché des médicaments sont soumis à des exigences quant à la validation des effets de ces produits, de leur efficacité et de leurs conséquences non prévues. Appliquer un tel modèle aux algorithmes impliquerait des obligations de partager les informations relatives à leur fonctionnement. Cela suppose que les autorités publiques disposent d’une réelle capacité d’imposer des processus de vérification et de validation. Si le monde connecté doit fonctionner dans le respect des principes démocratiques, il faut rapidement penser un cadre régulateur à la mesure des enjeux que comportent les processus décisionnels fondés sur des procédés aussi puissants.

Que ce soit aux États-Unis ou au Canada, il est plus que temps de mettre en place des lois pour obliger ceux qui utilisent les données produites dans le monde connecté à garantir qu’ils agissent en conformité avec les droits fondamentaux. Cela nécessite la mise en place de capacités crédibles de vérification et de garanties de transparence. Improvisé en pleine panique électorale, le projet du président Trump d’exproprier TikTok passe à côté des vrais enjeux. Ces applications reposant sur de puissants algorithmes de recommandation et carburant aux données constituent un redoutable défi pour tous les États démocratiques : celui d’assurer le fonctionnement transparent de ces outils qui, pour le meilleur ou le pire, participent à la gouvernance de nos vies.

À voir en vidéo