Du 27 au 29 mai 2019, le Comité permanent de l’accès à l’information, de la protection des renseignements personnels et de l’éthique (le Comité) et, par extension, le Grand Comité international sur les mégadonnées, la protection des renseignements personnels et la démocratie (GCI) ont tenu plusieurs réunions à Ottawa.

Durant ces réunions, le GCI était composé des membres du Comité et de parlementaires provenant de 10 autres pays[1]. Tout au long des réunions, les parlementaires étrangers étaient considérés comme des membres d’office du Comité, ce qui leur a conféré le pouvoir de poser des questions aux témoins.

Le GCI a entendu de nombreux témoins, dont des experts, des universitaires et des responsables de la réglementation, qui lui ont fourni des témoignages pour aider à mieux comprendre les défis concernant les mégadonnées, la protection des renseignements personnels et la démocratie[2].

Par exemple, Shoshana Zuboff, professeure émérite de la Harvard Business School et auteure de The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power, a expliqué ce qu’est le capitalisme de surveillance :

Le capitalisme de surveillance marche sur les traces du capitalisme de marché de la façon suivante: il prend quelque chose qui existe à l'extérieur du marché et il le transforme en marchandise pouvant être produite et vendue. Comme chacun le sait, le capitalisme industriel s'est emparé de la nature et il l'a convertie en terres ou en propriétés foncières pouvant être vendues ou achetées. Le capitalisme de surveillance fait la même chose, mais avec une touche sombre et étonnante: il se saisit de l'expérience humaine privée et il la subordonne aux dynamiques de marché. Il la transforme en matière première gratuite, qui est ensuite convertie en données comportementales.

Certes, une partie des données comportementales sont utilisées pour améliorer les produits et les services, mais le reste forme un excédent comportemental, qui est reconnu pour sa grande valeur de prédiction. L'excédent comportemental est alors versé dans les nouveaux moyens de production, ce qu'on appelle l'intelligence artificielle. Le résultat ainsi obtenu est un nouveau type de produit: le produit prédictif. Ces usines produisent des prédictions du comportement humain[3].

Elle a également expliqué quels sont les impératifs qui motivent le capitalisme de surveillance :

Au début, c'était des économies d'échelle: il faut beaucoup de données pour faire de bonnes prédictions. Puis, c'est passé à des économies de gamme: il faut une variété de données pour faire de bonnes prédictions. Aujourd'hui, nous sommes rendus à une troisième étape de la concurrence: les économies d'action. La meilleure façon d'obtenir des données permettant de prédire le comportement humain, c'est en intervenant – en façonnant, en réglant et en modifiant le comportement humain, en amadouant les individus et en les rassemblant en troupeau, et en les dirigeant vers les résultats garantis qui répondent aux besoins des entreprises participant au capitalisme de surveillance.

Voilà le monde dans lequel nous vivons aujourd'hui. Par conséquent, le capitalisme de surveillance est une atteinte à la démocratie qui vient du haut comme du bas[4].

Jim Balsillie, fondateur et ancien co-président de Research in Motion, ainsi que président du Centre pour l'innovation dans la gouvernance internationale, a offert des commentaires à l’égard du pouvoir de la technologie et des données :

La technologie tire son pouvoir du contrôle des données. Les données à l'échelon micropersonnel lui procurent un pouvoir d'influence sans précédent. Les données s'apparentent non pas au pétrole, mais au plutonium : elles sont incroyablement puissantes, dangereuses lorsqu'elles se répandent et difficiles à nettoyer et elles entraînent de graves conséquences quand elles sont utilisées de façon inappropriée. Les données déployées par le truchement des réseaux 5G de la prochaine génération transforment l'infrastructure passive en véritables systèmes nerveux numériques.

Nos institutions, règles et cadres réglementaires nationaux et internationaux actuels ne sont conçus pour ne faire face à aucun de ces nouveaux défis. Comme le cyberespace ne connaît aucune frontière naturelle, les effets de la transformation numérique ne peuvent pas être confinés hermétiquement à l'intérieur de nos frontières nationales. La coordination internationale est cruciale.

[…]

La technologie perturbe la gouvernance ; si on ne la contrôle pas, elle pourrait entraîner l'obsolescence de la démocratie libérale. En supplantant la presse écrite et parlée auprès de l'opinion publique, la technologie est en train de devenir le nouveau quatrième pouvoir. Dans notre système de freins et contrepoids, la technologie est ainsi mise sur un pied d'égalité avec l'exécutif, le législatif et le judiciaire.

Quand ce quatrième pouvoir refuse de comparaître devant notre comité, comme c'est le cas des cadres de Silicone Valley, il affirme symboliquement ce statut d'égalité auquel il aspire. Toutefois, il affirme ce statut et réclame ses privilèges sans les traditions, la discipline, la légitimité, ni la transparence qui faisaient contrepoids au quatrième pouvoir conventionnel[5].

Roger McNamee, un ancien mentor de Mark Zuckerberg et l’auteur d’un livre intitulé Zucked, a brossé un tableau de la façon dont les grandes plateformes opèrent :

Google et Facebook utilisent des poupées vaudou de données pour fournir à leurs clients, qui sont des spécialistes du marketing, des renseignements parfaits au sujet de tous les consommateurs. Ces sociétés utilisent les mêmes données pour manipuler les choix des consommateurs. Tout comme en Chine, la manipulation comportementale est le but.

[…]

Les algorithmes de Google et de Facebook sont réglés de manière à garder les utilisateurs sur le site et actifs. De préférence, ils appuient sur des boutons émotionnels qui révèlent leur véritable nature. Pour la plupart des utilisateurs, cela signifie du contenu qui provoque de la peur ou de l'indignation. Le discours haineux, la désinformation et les théories du complot sont un véritable stimulant pour ces algorithmes. Ces plateformes sont conçues pour que tout le contenu soit traité exactement de la même manière, qu'il s'agisse de nouvelles chaudes provenant d'un site fiable, d'un avertissement au sujet d'une situation d'urgence ou d'une théorie du complot. Les plateformes ne portent aucun jugement : les utilisateurs choisissent, aidés par des algorithmes qui renforcent un comportement passé. Le résultat : 2,5 milliards de personnes ont leur propre Truman Show sur Facebook, chacun avec son monde unique et ses propres faits[6].

Maria Ressa, présidente-directrice générale et directrice de la rédaction de Rappler Inc., a affirmé ce qui suit concernant la situation aux Philippines :

… aux Philippines, nous avons une mise en garde à vous faire, un exemple à vous donner de la rapidité avec laquelle la démocratie s'effondre et s'effrite de l'intérieur et de comment ces activités d'information peuvent prendre le contrôle de l'écosystème entier et transformer des mensonges en faits. Si vous arrivez à faire croire aux gens que des mensonges sont des faits, vous pouvez les contrôler. Sans faits, il n'y a pas de vérité. Sans vérité, il n'y a pas de confiance[7].

En ce qui a trait au travail des journalistes et à la désinformation visant Rappler, M^me Ressa a ajouté ce qui suit :

Depuis longtemps, les journalistes sont les gardiens des faits. Quand on nous attaque, c'est la démocratie qui est attaquée. Lorsque cette situation se produit, c'est la voix qui possède le mégaphone le plus bruyant qui gagne. Les Philippines sont une boîte de Pétri pour les médias sociaux. En janvier 2019… les Philippins sont ceux qui ont passé le plus de temps en ligne et le plus de temps sur les médias sociaux. Facebook est notre Internet, mais, comme je vous le montrerai à l'aide de certaines des données…c'est une question d'introduire un virus dans notre écosystème d'information. Au fil du temps, ce virus ment et fait croire qu'il diffuse des faits. Il se propage dans le corps politique, et il faut élaborer un vaccin. Voilà ce que nous cherchons, et je pense que nous voyons une solution[8].

[…]

Pour nous, c'est une question de survie[9].

Jason Kint, chef de la direction de Digital Content Next, a affirmé ce qui suit concernant le rôle des tiers et des intermédiaires dans la collecte et l’utilisation des données personnelles :

De nos jours, les données actuelles sont souvent colligées par des tierces parties inconnues qui n'ont pas de connaissances sur les consommateurs et n'ont pas de contrôle sur eux. Ces données sont ensuite utilisées pour cibler les consommateurs sur le Web au plus bas prix possible. Cette dynamique crée des incitatifs pour les acteurs malveillants, et plus particulièrement sur des plateformes non gérées comme les médias sociaux qui dépendent de contenu généré par les utilisateurs, où les propriétaires de sites sont payés lorsque des personnes ou des robots cliquent sur des liens qui les dirigent vers des renseignements fiables ou de faux renseignements[10].

L'écosystème opaque axé sur les données a grandement bénéficié aux intermédiaires, et principalement à Google, et a causé du tort aux éditeurs et aux annonceurs. Ces intermédiaires ont un atout unique en tant que percepteurs et gardiens de nos données personnelles. Par conséquent, des problèmes ont fait surface au cours de la dernière décennie, y compris des fraudes au moyen de robots, des logiciels malveillants, des bloqueurs de fenêtres publicitaires, des pièges à clics, des atteintes à la vie privée et, maintenant, de la désinformation. Cependant, il convient de noter que ce sont tous des symptômes. Ne vous méprenez pas: la cause profonde est la collecte incontrôlée des données les plus personnelles imaginables[11].

Taylor Owen, professeur agrégé à l’Université McGill, s’est penché sur les problèmes qu’entraine l’économie de l’attention :

La désinformation, les discours haineux, l'ingérence électorale, les atteintes à la vie privée, les problèmes de santé mentale et les comportements anticoncurrentiels doivent être traités comme des symptômes du problème, et non pas comme sa cause. La politique publique devrait donc mettre l'accent sur la conception et les incitatifs enchâssés dans la conception des plateformes. C'est la conception de l'économie de l'attention, ce qui favorise la viralité et l'engagement à l'égard de renseignements pertinents. C'est la conception du modèle financier du capitalisme de surveillance, dont nous entendrons beaucoup plus parler, ce qui incite à l'accumulation de données et à l'utilisation de données pour influer sur notre comportement. C'est la conception de la messagerie de groupe, ce qui permet la transmission de messages haineux et incite même à la violence sans qu'une surveillance soit exercée. C'est la conception sur la scène internationale, ce qui offre des incitatifs par l'entremise de solutions d'automatisation parfaites, de filtrage du contenu, de modération et de vérification des faits. C'est la conception de notre économie numérique non réglementée qui a permis à notre sphère publique de devenir monopolisée[12].

Ben Scott, directeur des politiques publiques et de la défense des intérêts chez Luminate, a observé les changements suivants dans l’utilisation d’Internet :

J'ai vu l'Internet ouvert qui était censé étendre la liberté être transformé en un puissant outil technologique de manipulation sociale et de distorsion politique. Vous connaissez tous l'histoire. L'outil qu'on espérait voir contribuer à la revitalisation de la démocratie est aujourd'hui considéré par beaucoup comme l'une de ses plus grandes menaces[13].

En ce qui concerne l’économie de l’attention, le discours haineux en ligne et le rôle de la technologie, M. Scott a ajouté ce qui suit :

La réponse est simple: ils ont trouvé un modèle d'affaires permettant de faire des profits faramineux. Première étape: suivez toutes les activités en ligne de milliards de personnes et conservez ces renseignements dans une base de données. Deuxième étape: triez ces données et regroupez les gens en publics cibles, puis vendez l'accès à l'attention des gens. Pour ce faire, concevez votre marché de l'information non pas pour optimiser la qualité de l'information ou la civilité du dialogue dans la société, mais simplement pour optimiser la dépendance et le temps passé sur la plateforme. En effet, plus les gens passent du temps sur la plateforme, plus ils voient de publicités et plus les profits explosent[14].

[…]

il n'y a pas que les publicités qui sont ciblées. Tout est ciblé. L'ensemble de l'environnement de communication dans lequel nous vivons est maintenant adapté par l'intelligence artificielle dans le but de retenir notre attention. Ce n'est pas une recette pour favoriser la vérité et la justice. Ce qui semble vrai donne de meilleurs résultats que la pure vérité. La conspiration et la haine sont devenues des thèmes structurants des médias sociaux, et cet espace est facilement exploité par des propagandistes qui se font les promoteurs du sectarisme, de la division sociale et de la haine auprès des gens désillusionnés[15].

Je tiens toutefois à être clair: la technologie n'a pas causé ce problème. Elle l'a accéléré. Elle l'a façonné. Elle a façonné sa croissance et son orientation. Elle détermine les façons dont le développement social et l'histoire se déroulent. La technologie amplifie les intentions des personnes qui l'utilisent. Selon moi, ces conséquences ne sont pas inévitables. Il n'y a pas de déterminisme technologique. Nous pouvons régler le problème[16].

Pour tout dire, nos démocraties négligent beaucoup de monde. Les gens ont raison d'être fâchés, mais ce mécontentement ne donne plus lieu à des réformes. Il mène plutôt à une sorte de colère qui s'aggrave. Ce radicalisme provient de la façon dont la technologie change nos environnements informationnels et façonne notre compréhension du monde. Nous voyons rarement le monde comme les autres le perçoivent. Nous sommes divisés en tribus, et la version du monde que nous voyons tous les jours exacerbe nos préjugés et élargit le fossé entre nos communautés. C'est ainsi que nous devons comprendre le problème[17].

Enfin, Heidi Tworek, professeure adjointe à University of British Columbia, a affirmé ce qui suit concernant la désinformation et la transparence algorithmique :

Des groupes marginalisés ont été pris pour cibles en ligne, et on leur a reproché des maux de notre société qu'ils n'ont pas causés. Des nouvelles ont été falsifiées à des fins politiques et économiques. Comme ce fut le cas pour la radio dans la première partie du XXe siècle, une technologie conçue à des fins utopiques est devenue l'outil de dictateurs et de démagogues[18].

Seuls 29 % des Américains ou des Britanniques savent que leur fil de nouvelles Facebook est organisé à l'aide d'algorithmes. Ce sont les Finlandais qui en sont le plus conscients, mais dans une proportion de 39 % seulement. Cette invisibilité procure énormément de pouvoir aux médias sociaux. Ce pouvoir n'est pas neutre. À tout le moins, nous avons besoin de beaucoup plus de transparence quant au fonctionnement des algorithmes, pour pouvoir déterminer s'ils sont discriminatoires et ainsi de suite. Au moment où nous nous efforçons d'avoir des politiques fondées sur des faits, nous avons besoin de données probantes[19].

Les représentants de Facebook, de Google et de Twitter ont comparu le 28 mai 2019[20] et les représentants d’Amazon, d’Apple, de Microsoft et de Mozilla ont comparu le 29 mai 2019[21].

Pendant les réunions du GCI, les représentants des plateformes numériques ont reconnu ce qui suit :

• il faut mettre en place des règles plus strictes en matière de protection de la vie privée et de protection des données[22];
• les plateformes sont prêtes à collaborer avec les gouvernements en vue de réduire l’ingérence dans les élections[23];
• les plateformes devraient assumer la responsabilité de retirer le contenu préjudiciable qui y est publié et faire preuve d’une plus grande volonté de rendre des comptes à l’égard des algorithmes qu’elles utilisent[24].

Le 28 mai 2019, les parlementaires du GCI ont signé la Déclaration d’Ottawa[25]. Les signataires y ont déclaré leur engagement inébranlable à favoriser la concurrence sur le marché, à accroître la responsabilisation des plateformes de médias sociaux, à protéger le droit à la vie privée et les données personnelles, ainsi qu’à maintenir et à renforcer la démocratie. Cette déclaration reconnaît aussi que les plateformes numériques devraient respecter les lois antitrust et en matière de concurrence applicables, renforcer leurs pratiques relatives à la protection de la vie privée et des données, accroître leur responsabilité en matière d’algorithmes, et améliorer la façon dont elles préviennent les activités numériques qui menacent la paix sociale et interfèrent dans les processus ouverts et démocratiques dans le monde.

Enfin, le Comité note le refus de Mark Zuckerberg et de Sheryl Sandberg de comparaître devant le GCI à Ottawa, le 28 mai 2019. En novembre 2018, M. Zuckerberg a également décidé de ne pas se présenter à la réunion du GCI sur la désinformation et les fausses nouvelles[26] en dépit d’avoir été officiellement invité à le faire. Cette réunion tenue à Londres, au Royaume-Uni, était organisée par le Comité sur le numérique, la culture, les médias et le sport, un comité spécial de la Chambre des communes du Royaume-Uni.

Le refus de comparaître de M. Zuckerberg va à l’encontre de ce qu’il a déclaré. Dans un article d’opinion publié en mars 2019, il a réclamé un rôle plus actif des gouvernements et des organismes de réglementation dans les domaines du contenu préjudiciable, de l’intégrité des élections, de la protection de la vie privée et de la portabilité des données. Il a déclaré : « Facebook a la responsabilité de contribuer à régler ces questions, et je suis impatient d’en parler avec les législateurs du monde entier[27] ».

Cette contradiction a donné lieu à l’échange suivant entre le président du Comité et Neil Potts, directeur des politiques mondiales pour Facebook Inc.:

Le président:

À cet égard, ce n'est pas votre décision de déterminer si vous allez venir ou non. Le Comité a demandé à M. Zuckerberg et Mme Sandberg de venir, c'est très simple, pour comparaître devant notre Grand Comité international. Nous représentons 400 millions de personnes, alors quand nous demandons à ces deux personnes de venir, c'est exactement ce à quoi nous nous attendons. C'est un peu un manque de respect de Mark Zuckerberg et de Mme Sandberg de tout simplement choisir de ne pas venir. Cela montre tout simplement qu'ils ne comprennent pas bien ce que nous faisons, en tant que législateurs, comme le représentant de Sainte-Lucie l'a souligné. L'expression « nous faire faux bond », eh bien je crois qu'on peut la répéter, mais il faut souligner qu'ils ont été invités à comparaître et qu'on s'attendait à ce qu'ils comparaissent et qu'ils ont choisi de ne pas le faire. Vous envoyer vous deux en tant que remplaçants n'est tout simplement pas acceptable.

M. Neil Potts:

Je ne connais pas les procédures du Parlement canadien et les exigences en matière de comparution. Je respecte tout ça, mais je tiens à dire à nouveau pour le compte rendu que nous sommes déterminés à travailler avec le gouvernement et à être responsables relativement à ces enjeux.

De plus...

Le président:

Je dirais, monsieur Potts, que si c'était le cas, les personnes demandées seraient assises à votre place actuellement[28].

Durant les réunions du GCI, le Comité a adopté une motion visant la signification d’assignations à comparaître à M. Zuckerberg et à M^me Sandberg :

Que le Comité permanent de l’accès à l’information, de la protection des renseignements personnels et de l’éthique, en raison du refus de M. Mark Zuckerberg et M^me Sheryl Sandberg d’y comparaître le 28 mai, enjoint le président à livrer une assignation s’ils viennent au Canada pour quelconque raison pour comparaître devant le Comité à la prochaine réunion après la date de l’assignation, et s’ils sont convoqués pendant que la Chambre ne siège pas, que le président convoque une réunion extraordinaire du Comité aussitôt que possible afin d’obtenir leur témoignage[29].

Le Comité invite les membres du Comité de la 43^e législature à poursuivre ces efforts en la matière et à poursuivre les travaux du GCI en collaboration avec les parlementaires d’autres pays.