ETHI Réunion de comité

    Je déclare ouverte la séance du Comité permanent de l'accès à l'information, de la protection des renseignements personnels et, dans une plus large mesure, de notre Grand Comité international.

    Nous souhaitons la bienvenue en particulier à nos visiteurs venus de partout dans le monde.

    Vous remarquerez que certains sièges sont inoccupés. Nous avons appris que les vols de certaines délégations avaient été retardés. Ils vont assurément venir. Certains arrivent en ce moment même. D'autres vont arriver dans une heure environ. Encore une fois, je suis désolé qu'ils ne soient pas ici comme c'était prévu.

    J'aimerais pour commencer faire le tour des pays qui seront représentés ce soir, demain et mercredi. J'inviterai ensuite chacun à se présenter brièvement, et nous passerons ensuite aux exposés.

    Nous attendons toujours certains de nos témoins également.

    Nous allons commencer par les pays qui sont représentés et qui ont été confirmés aujourd'hui: le Canada, bien sûr, le Royaume-Uni, Singapour, l'Irlande, l'Allemagne, le Chili, l'Estonie, le Mexique, le Maroc, l'Équateur, Sainte-Lucie et le Costa Rica.

    Je souligne que nous en avons perdu quelques-uns en raison de ce qu'on appelle les élections, un peu partout dans le monde, et nous n'avons vraiment aucun contrôle là-dessus. C'est ce qui a empêché certains des autres pays d'être présents.

    Je vois certains de nos témoins. Monsieur Balsillie et monsieur McNamee, veuillez prendre place à l'avant. Nous commençons tout juste. Bienvenue.

    Je vais demander aux délégués de se présenter brièvement en se nommant et en nommant leur pays.

    Commençons par la représentante de l'Estonie.

    Bonjour à tous.

    Je suis Keit Pentus-Rosimannus, et je représente le Parlement de l'Estonie.

    Bonjour à tous.

    Je suis Sun Xueling, secrétaire parlementaire principale du ministère des Affaires intérieures et du ministère du Développement national de Singapour.

    Merci.

    Bonjour à tous.

    Je suis député au Parlement de Singapour, et je suis également le ministre d'État principal du ministère de la Santé et du ministère de la Justice de Singapour.

    Merci.

    Bonjour.

    Mon nom est Jens Zimmermann. Je suis député au Bundestag allemand et je suis le porte-parole en matière de numérisation pour le Parti social-démocrate.

    Mon nom est Charlie Angus, vice-président de ce comité et député du Nouveau Parti démocratique. Je représente la circonscription de Timmins—Baie James. Ce n'est pas un pays, mais c'est plus vaste que la France.

     Je suis Jacques Gourde, député conservateur de Lévis—Lotbinière.

    Je m'appelle Peter Kent, député parlementaire de la circonscription de Thornhill, juste au nord de Toronto. Je suis le porte-parole de l'opposition officielle, le Parti conservateur, à ce comité, lequel s'occupe des questions d'éthique, de lobbying, de renseignement et de protection de la vie privée.

    Je m'appelle Nate Erskine-Smith. Je suis un député libéral et je représente une circonscription de la région de Toronto appelée Beaches—East York. Je suis le vice-président libéral de ce comité.

    Je m'appelle Raj Saini. Je suis le député parlementaire de Kitchener-Centre. Je suis un député libéral. Je siège également au Comité des affaires étrangères et du développement international.

    Mon nom est Anita Vandenbeld. Je suis la députée libérale de la circonscription d'Ottawa-Ouest—Nepean, qui se trouve à environ 15 minutes à l'ouest d'ici. Je siège aussi au Comité des affaires étrangères et du développement international, et je suis la présidente du Sous-comité des droits internationaux de la personne.

    Mon nom est David Graham. Je représente la circonscription de Laurentides—Labelle, qui est nettement plus petite que celle de Charlie, mais nettement plus vaste que Singapour. Je siège à quatre autres comités. En ce qui concerne celui-ci, je n'en suis pas un membre en titre, mais j'y participe régulièrement.

    Je vous remercie.

    Merci.

    Je vais conclure les présentations.

    Mon nom est Bob Zimmer, député parlementaire de Prince Georges—Peace River—Northern Rockies, une magnifique circonscription du nord de la Colombie-Britannique qui est traversée par les Rocheuses. Je préside également ce comité, le Comité permanent de l'accès à l'information, de la protection des renseignements personnels et de l'éthique.

    Je veux d'abord rendre à César ce qui est à César et souligner la contribution de M. Kint. Je l'ai fait précédemment. Je souligne que l'idée du Grand Comité international a découlé d'une réunion dans un pub, en marge d'un sommet tenu à Washington, en présence de M. Erskine-Smith, Ian Lucas, Damian Collins et moi-même. C'est ainsi que tout a vraiment commencé. Nous voulions faire quelque chose de mieux — nous avons pensé qu'une coalition de pays réussirait mieux à résoudre ces problèmes. Je vous attribue donc le mérite d'avoir probablement payé une des bières que nous avons bues ce soir-là. Je vous en sais gré.

    M. Angus a quelque chose à dire, après quoi nous passerons aux exposés.

    Je suis désolé de vous interrompre, monsieur le président, mais je voulais simplement confirmer que notre comité, avec le consensus de tous les partis, avait assigné M. Zuckerberg et Mme Sandberg à témoigner devant le Comité. Je crois que c'est sans précédent. Je lis que Facebook parle aux médias et qu'ils n'ont pas l'intention de comparaître devant notre comité. Je ne sais pas s'ils ont répondu officiellement à l'assignation.

     Pouvez-vous dire au Comité s'ils se sont donné la peine de nous répondre?

    Oui. J'ai aussi vu… Je crois que c'était sur CNN, cet après-midi. Je n'ai pas reçu une telle réponse, en tant que président du Comité. Quant à savoir s'ils vont se présenter ou pas… Nous avons aussi demandé au greffier. Nous n'avons rien reçu disant qu'ils ne vont pas comparaître demain matin.

    Nous leur réserverons des sièges pour leurs témoignages. C'est à eux qu'il incombe de décider s'ils vont venir s'y asseoir ou pas.

    Comme je l'ai dit, j'espère et je compte bien qu'ils vont se conformer à l'assignation à comparaître et se présenter demain. Tout cela pour dire qu'officiellement, je n'ai rien eu en tant que président, et le greffier n'a rien eu non plus.

    Merci beaucoup.

    Allons-y. Nos invités nous font des exposés plutôt informels ce soir, et nous n'allons donc pas leur poser de questions. C'est tout simplement une façon de donner le ton aux deux prochaines journées. Nous lançons la conversation en parlant des raisons pour lesquelles nous sommes ici et des raisons pour lesquelles nous devons nous préoccuper des mégadonnées, de la protection des renseignements personnels, de la désinformation et ainsi de suite.

    Nous allons commencer par M. Kint.

    Nous allons vous donner la parole.

    Premièrement, je vais lire la liste pour que vous sachiez quand viendra votre tour de parler. Je pourrais dire qui vous représentez, bien que vous soyez tous ici à titre personnel.

    Comme je l'ai dit, ce sera d'abord Jason Kint.

    Jim Balsillie, président, Centre pour l'innovation dans la gouvernance internationale.

    Roger McNamee, auteur de Zucked.

    Monsieur McNamee, je sais que votre curriculum vitae est beaucoup plus long que cela, mais nous allons rester brefs.

    Taylor Owen, professeur agrégé, Université McGill.

    Ben Scott.

    Heidi Tworek, professeure adjointe, Université de la Colombie-Britannique.

    Shoshana Zuboff.

    Madame Zuboff, j'ai vraiment aimé votre livre. Il est très informatif.

    La dernière et non la moindre est Maria Ressa, qui est avec nous par téléconférence.

    Nous sommes ravis que vous ayez pu vous joindre à nous ce soir, madame Ressa. Je sais que vous avez vécu des circonstances difficiles dernièrement. Il aurait été formidable de vous avoir avec nous, mais je comprends que c'est hors de notre contrôle.

    M. Kint va commencer, puis ce sera M. Balsillie.

    Nous vous écoutons, monsieur Kint.

    Je vous remercie de me donner l'occasion de comparaître devant le Grand Comité international. Je suis le PDG de l'association commerciale américaine Digital Content Next, et je vous suis reconnaissant de l'occasion de parler au nom d'éditeurs numériques hautement compétents.

    Nous représentons environ 80 éditeurs dans le monde. Bon nombre d'entre eux ont des bureaux dans vos pays d'origine. Citons notamment le New York Times, le Wall Street Journal, le Financial Times, la BBC, The Guardian et Axel Springer. Nous comptons près de 80 membres. Je tiens à préciser que nous n'avons pas de médias sociaux, de moteurs de recherche et d'entreprises de technologie parmi nos membres. C'est peut-être en partie la raison pour laquelle je suis ici.

    DCN accorde la priorité à faire la lumière sur des enjeux qui minent la confiance dans le marché numérique, y compris un écosystème de données inquiétant qui s'est créé avec très peu de contraintes légitimes quant à la collecte et à l'utilisation des données sur les consommateurs. Par conséquent, on accorde désormais plus d'importance aux données personnelles qu'au contexte, aux attentes des consommateurs, aux droits d'auteurs et même aux faits.

    Pendant que les décideurs du monde entier examinent ces pratiques, nous exhortons le gouvernement et les intervenants de l'industrie à passer à l'action. Nous croyons qu'il est essentiel que les décideurs commencent à établir les liens entre les trois sujets de votre étude: la protection des données, la dominance des plateformes et les répercussions sur la société.

    De nos jours, les données actuelles sont souvent colligées par des tierces parties inconnues qui n'ont pas de connaissances sur les consommateurs et n'ont pas de contrôle sur eux. Ces données sont ensuite utilisées pour cibler les consommateurs sur le Web au plus bas prix possible. Cette dynamique crée des incitatifs pour les acteurs malveillants, et plus particulièrement sur des plateformes non gérées comme les médias sociaux qui dépendent de contenu généré par les utilisateurs, où les propriétaires de sites sont payés lorsque des personnes ou des robots cliquent sur des liens qui les dirigent vers des renseignements fiables ou de faux renseignements.

    Nous sommes optimistes lorsque nous voyons des règlements comme le RGPD dans l'Union européenne qui, s'ils sont appliqués correctement — et c'est important —, renferment des restrictions strictes pour veiller à ce que les entreprises n'utilisent pas des données à des fins secondaires. Nous recommandons d'examiner si les grandes plateformes technologiques qui sont en mesure de recueillir des données dans des millions de sites Web, appareils et applications devraient être autorisées à utiliser ces données à des fins secondaires.

    À titre d'exemple de mesure extrêmement importante, nous saluons la décision de l'Office fédéral de lutte contre les cartels de l'Allemagne de limiter la capacité de Facebook de recueillir et d'utiliser des données par l'entremise de ses applications et sur le Web. C'est une décision très importante.

    L'écosystème opaque axé sur les données a grandement bénéficié aux intermédiaires, et principalement à Google, et a causé du tort aux éditeurs et aux annonceurs. Ces intermédiaires ont un atout unique en tant que percepteurs et gardiens de nos données personnelles. Par conséquent, des problèmes ont fait surface au cours de la dernière décennie, y compris des fraudes au moyen de robots, des logiciels malveillants, des bloqueurs de fenêtres publicitaires, des pièges à clics, des atteintes à la vie privée et, maintenant, de la désinformation. Cependant, il convient de noter que ce sont tous des symptômes. Ne vous méprenez pas: la cause profonde est la collecte incontrôlée des données les plus personnelles imaginables.

    Il est important de comprendre le pouvoir de ces deux entreprises. Il y a quatre ans, DCN a réalisé l'analyse financière initiale dans laquelle Google et Facebook ont été qualifiés de duopole de la publicité numérique. Les chiffres sont saisissants. Dans un marché de publicités numériques de plus de 150 milliards de dollars en Amérique du Nord et dans l'Union européenne, ces deux entreprises représentent entre 85 et 90 % du taux de croissance. Lorsque nous avons poussé l'étude plus loin, nous avons établi un lien entre la concentration des revenus et la capacité de ces deux entreprises de recueillir des données d'une manière qu'aucune autre entreprise ne peut le faire. Donc, ces deux entreprises connaissent bien votre historique de navigation et l'historique de vos emplacements. Les données sont la source de leur pouvoir. L'émergence de ce duopole a créé un déséquilibre entre ceux qui créent le contenu et ceux qui en bénéficient.

    Enfin, ces pratiques relatives aux données et la dominance, sans reddition de comptes, de ces deux entreprises ont une incidence sur la société. Le scandale impliquant Facebook et Cambridge Analytica met en évidence la dynamique dysfonctionnelle actuelle. Dans le cadre de recherches, on a relevé que GSR surveillait étroitement nos données. Comme nous le savons maintenant, Facebook n'a pratiquement rien fait pour veiller à ce que GSR surveille étroitement nos données. Ces données ont fini par être vendues à Cambridge Analytica et ont été utilisées à une fin complètement différente: cibler les publicités et les messages politiques, y compris lors des élections américaines de 2016.

    Compte tenu du pouvoir que Facebook a sur notre écosystème d'information, nos vies et nos systèmes démocratiques, il est essentiel de savoir si nous pouvons faire confiance à l'entreprise. Bon nombre de ses pratiques précédant le signalement du scandale impliquant Cambridge Analytica justifient clairement une forte méfiance.

    Même si de nombreuses excuses exhaustives et bien documentées ont été présentées, il est important de noter qu'il y a eu peu ou pas de changement dans le leadership ou la gouvernance de Facebook Inc. En fait, l'entreprise a refusé à maintes reprises que son PDG présente des preuves pour avoir exercé des pressions sur des gouvernements internationaux voulant poser des questions pertinentes, ce qui laisse ainsi de nombreuses questions sans réponse pour les législateurs.

    Ce qui est tout aussi troublant que les promesses verbales de Facebook, c'est qu'on ne sait pas trop ce qui empêchera une telle situation de se reproduire. Nous croyons qu'une enquête plus approfondie devrait être menée, puisque nous avons encore de nombreuses leçons à tirer de ce qui s'est produit et ne savons pas dans quelle mesure Facebook était au courant du scandale avant qu'il éclate au grand jour. Facebook devrait être assujetti à une vérification indépendante de ses pratiques relatives aux comptes d'utilisateurs et de ses décisions de préserver ou de supprimer des comptes réels et des faux comptes au cours de la dernière décennie. Nous vous exhortons à faire cette demande.

    Pour conclure, il est primordial de faire la lumière sur ces enjeux pour comprendre les mesures à adopter afin de renforcer la protection des données, notamment en offrant aux consommateurs une transparence accrue et un choix concernant leurs données personnelles lorsque des pratiques qui dépassent les attentes normales des consommateurs sont utilisées. Les décideurs dans le monde doivent tenir les plateformes numériques responsables de contribuer à bâtir un marché sain, de restaurer la confiance des consommateurs et de rétablir la concurrence.

    Merci du temps que vous m'avez consacré. Je vous suis reconnaissant de l'occasion de discuter de ces enjeux avec vous aujourd'hui.

    Merci beaucoup, monsieur Kint.

    Vous avez largement respecté les sept minutes qui vous étaient imparties. J'aimerais rappeler à tous les témoins qu'ils disposent de sept minutes pour présenter leur exposé. Le dernier témoin a fait du bon travail pour respecter son temps de parole.

    Le prochain intervenant est M. Balsillie.

    Merci beaucoup, monsieur le président. Je vais prendre moins de temps que cela car je vais faire mon exposé officiel devant le Comité demain.

    Monsieur le président et mesdames et messieurs les membres du Comité, c'est un honneur et un privilège pour moi de témoigner aujourd'hui devant d'éminents dirigeants publics. La gouvernance des données est la question de politique publique la plus importante de notre époque. Elle est liée à des aspects d'ordre économique, social et de sécurité. Il faut des cadres stratégiques nationaux et une coordination internationale.

    Dans le témoignage que je vais faire demain, je vais décrire plus en détail la situation, puis je terminerai avec six recommandations précises. Je vais prendre quelques minutes aujourd'hui pour discuter de l'une des recommandations dont j'aimerais vous faire part, soit de créer une nouvelle institution pour des nations aux vues similaires afin d'aborder les questions de la coopération et de la stabilité dans le marché numérique.

    Les effets d'une économie axée sur les données ne peuvent pas être contenus à l'intérieur des frontières nationales. De nouvelles approches à l'égard de la coordination internationale et de l'application de la loi sont essentielles pour que les décideurs puissent élaborer de nouveaux cadres pour préserver des marchés concurrentiels et des systèmes démocratiques qui ont évolué au fil des siècles dans des conditions technologiques extrêmement différentes. Nous sommes arrivés à un nouveau chapitre dans l'accord de Bretton Woods. Nous avons besoin de règles nouvelles ou réformées pour le commerce mondial numérique, une organisation mondiale du commerce 2.0.

    À la suite de la crise financière de 2008, le Conseil de stabilité financière a été créé pour favoriser la coopération et la stabilité financières mondiales. Une institution mondiale similaire, telle qu'un conseil de la stabilité sur le marché numérique, est nécessaire pour faire face aux défis que présente la transformation numérique. Les neuf pays qui font partie de ce comité et les cinq autres pays qui assistent aux séances, pour un total de 14, pourraient constituer les membres fondateurs d'une entité plurilatérale historique de la sorte qui prendrait assurément de l'expansion au fil du temps.

    Merci.

    Merci, monsieur Balsillie.

    Le prochain intervenant sur la liste est Roger McNamee, puis ce sera le tour de Taylor Owen.

    On vous écoute, monsieur McNamee.

    Je tiens à vous remercier de l'occasion d'être ici.

    Je suis ici en tant que personne qui a passé toute sa carrière à Silicon Valley à bâtir les meilleures entreprises. Ce que je veux que vous compreniez surtout, c'est que la culture de Silicon Valley a complètement déraillé et que l'industrie de la technologie se tourne vers le monopole. Elle se tourne, comme M. Zuboff l'a décrit, vers une forme de capitalisme qui serait inconnue à tous ceux ici qui ont grandi au cours des 50 dernières années.

    À mon avis, l'industrie a démontré qu'elle est incapable de se gouverner elle-même et que, lorsqu'elle doit se débrouiller par ses propres moyens, elle causera des torts auxquels il est difficile de remédier. Par conséquent, je crois qu'il est impératif que ce comité et les pays dans le monde entier se lancent dans un nouveau processus de réflexion relativement aux façons que nous allons contrôler les entreprises dans la Silicon Valley, surtout pour examiner leurs modèles d'affaires.

    Je dirais que le principal problème concernant les modèles d'affaires est que, de nature, ils violent la vie privée et minent la démocratie. Il n'y a aucun moyen d'empêcher cela sans mettre fin aux pratiques commerciales dans leur forme actuelle. Je crois que le seul exemple de solution qui a des chances de succès est celle qui a été mise en œuvre par le Sri Lanka récemment lorsqu'il a décidé de fermer les plateformes à la suite d'un acte terroriste. Je crois que c'est la seule façon que les gouvernements pourront avoir une marge de manœuvre suffisante pour tenir des conversations raisonnables.

    J'entrerai plus dans les détails dans ma déclaration de demain.

    Je tiens à vous remercier de cette occasion. Je veux que vous sachiez que je serai à votre disposition à n'importe quel moment pour vous faire bénéficier de mes 35 années d'expérience dans la Silicon Valley afin que vous puissiez comprendre ce à quoi nous sommes confrontés.

    Merci beaucoup.

    Merci beaucoup, monsieur McNamee.

    Le prochain intervenant est Taylor Owen, puis ce sera au tour de Ben Scott.

    Allez-y, s'il vous plaît.

    Merci, messieurs les coprésidents Zimmer et Collins, et mesdames et messieurs les membres du Comité, de me recevoir. Je dois dire que c'est un véritable honneur d'être ici avec vous et ces autres témoins.

    Je suis particulièrement encouragée, car il y a trois ans, je pense qu'une réunion comme celle-ci aurait semblé inutile pour bon nombre des membres du public, les médias, le secteur de la technologie et les gouvernements. Cependant, je dirais que nous sommes dans une période politique complètement différente. Je veux faire cinq observations à propos du contexte politique dans lequel nous sommes à l'heure actuelle.

    Le premier point que je veux soulever, c'est qu'il est assez évident que l'autoréglementation et même de nombreuses formes de coréglementation qui ont fait l'objet de discussions ont démontré et continueront de démontrer qu'elles sont insuffisantes pour régler ce problème. Ces incitatifs financiers vont grandement à l'encontre d'une importante réforme. Ce sont des entreprises cotées en bourse très peu réglementées dans lesquelles les actionnaires et les administrateurs s'attendent à une croissance en maximisant un modèle de revenus qui fait partie du problème. Cette croissance peut cadrer ou non avec l'intérêt public.

    Le deuxième point que je veux soulever est que ce problème ne repose pas sur des mauvais acteurs; c'est plutôt un problème de structure. La désinformation, les discours haineux, l'ingérence électorale, les atteintes à la vie privée, les problèmes de santé mentale et les comportements anticoncurrentiels doivent être traités comme des symptômes du problème, et non pas comme sa cause. La politique publique devrait donc mettre l'accent sur la conception et les incitatifs enchâssés dans la conception des plateformes.

    C'est la conception de l'économie de l'attention, ce qui favorise la viralité et l'engagement à l'égard de renseignements pertinents. C'est la conception du modèle financier du capitalisme de surveillance, dont nous entendrons beaucoup plus parler, ce qui incite à l'accumulation de données et à l'utilisation de données pour influer sur notre comportement. C'est la conception de la messagerie de groupe, ce qui permet la transmission de messages haineux et incite même à la violence sans qu'une surveillance soit exercée. C'est la conception sur la scène internationale, ce qui offre des incitatifs par l'entremise de solutions d'automatisation parfaites, de filtrage du contenu, de modération et de vérification des faits. C'est la conception de notre économie numérique non réglementée qui a permis à notre sphère publique de devenir monopolisée.

    Si les gouvernements démocratiques déterminent que cette structure et cette conception produisent des résultats sociaux et économiques négatifs, et je dirais que c'est le cas, alors il leur incombe de gouverner.

    Le troisième point que je veux faire valoir, c'est que les gouvernements qui prennent ce problème au sérieux, dont bon nombre sont inclus ici, convergent tous, je pense, vers un programme de gouvernance des plateformes très semblable. Ce programme reconnaît qu'il n'existe pas de solution miracle à ce vaste ensemble de problèmes dont nous discutons. Plutôt, les politiques doivent être mises en oeuvre à l'échelle nationale et coordonnées à l'échelle internationale. Elles sont divisées en trois catégories: des politiques relatives au contenu qui visent à régler un vaste éventail de problèmes de l'offre et de la demande, ainsi que l'amplification et la légalité du contenu dans notre sphère numérique publique; des politiques relatives aux données qui veillent à ce que les données publiques soient utilisées dans l'intérêt public et que les citoyens aient des droits beaucoup plus considérables sur l'utilisation, la mobilité et la monétisation de leurs données; et des politiques relatives à la compétition qui favorisent des marchés libres et concurrentiels dans l'économie numérique.

    C'est le programme de gouvernance des plateformes.

    Le quatrième point que je veux soulever, c'est que dans le cadre de ces discussions sur ce programme, on a tendance à compliquer les solutions, ce qui favorise le maintien du statu quo. Je pense qu'il existe de nombreuses politiques sensées qui pourraient et devraient être mises en oeuvre immédiatement. Le marché du microciblage des publicités en ligne pourrait être beaucoup plus transparent et, dans bien des cas, être supprimé complètement. Les régimes de protection des renseignements personnels pourraient être mis à jour pour offrir des droits beaucoup plus importants aux personnes et pour assurer une surveillance accrue et un pouvoir de réglementation pour sanctionner les abus. La politique fiscale pourrait être modernisée pour mieux tenir compte de la consommation des biens numériques et sévir contre l'érosion de l'assiette fiscale et la participation aux bénéfices. Une politique relative à la concurrence modernisée pourrait être utilisée pour restreindre et réduire les acquisitions et séparer la propriété des plateformes du développement d'applications et de produits. Les médias citoyens peuvent être soutenus en tant que biens publics, et des efforts à grande échelle et à long terme pour favoriser la littératie et l'esprit critique peuvent être financés par les gouvernements nationaux, et non pas par des organismes privés.

    Le fait que peu de ces initiatives ont été mises en oeuvre est un problème de volonté politique, et non pas un problème de politique ou de complexité technique.

    Enfin, le cinquième point que je veux faire valoir, c'est qu'il y a des questions stratégiques pour lesquelles il n'y a aucune solution facile, aucun consensus constructif et aucune institution internationale appropriée. Et il peut y avoir des tensions irréconciliables entre la conception des plateformes et les objectifs de la politique publique.

    Il y a premièrement la façon dont nous réglementons les discours haineux dans la sphère numérique publique. À l'heure actuelle, nous avons largement imparti l'application des lois nationales et l'interprétation de compromis difficiles entre la liberté d'expression et les torts personnels et publics aux plateformes: des entreprises qui cherchent des solutions, et avec raison selon elles, qui peuvent être mises en oeuvre à l'échelle internationale. Dans ce cas-ci, je dirais que ce qui est possible de faire sur les plans technique et financier pour les entreprises risque d'être insuffisant pour les objectifs d'intérêt public ou les objectifs de politique publique.

    Le deuxième enjeu est la responsabilité pour le contenu en ligne. Nous sommes clairement au-delà des notions de neutralité des plateformes et de l’exonération absolue de responsabilité, mais quels sont les meilleurs mécanismes juridiques, étant donné la nature et la conception de ces plateformes, pour tenir responsables ceux qui les exploitent?

    Enfin, alors que l'intelligence artificielle façonne de plus en plus la nature et l'économie de notre espace public numérique, comment pourrons-nous prendre en compte ces systèmes opaques dans nos lois, nos normes et nos règlements?

    À mon avis, ces conversations difficiles, contrairement aux politiques que je considère comme les plus faciles à mettre en œuvre, ne devraient pas être confiées au secteur privé. Elles doivent être dirigées par des gouvernements démocratiquement responsables et la population. Cela exigera toutefois une volonté politique et un leadership en matière de politiques, ce qui correspond précisément au rôle de ce comité, selon moi.

    Merci beaucoup.

    Merci, monsieur Owen.

    Nous passons à M. Scott.

    Merci beaucoup, monsieur le président. C'est un privilège et un honneur pour moi d'être ici devant ce comité international.

    Je comparais devant vous ce soir à titre de témoin, ce qui était auparavant improbable. En effet, j'ai passé l'essentiel de ma carrière à promouvoir les vertus de l'Internet ouvert. J'ai fait ma place pendant la révolution Internet de la fin des années 1990. J'ai travaillé à la première campagne politique véritablement numérique en 2008, pour le président Barack Obama. J'étais l'un des diplomates numériques d'Hillary Clinton à l'apogée de la liberté sur Internet, pendant le printemps arabe. À l'époque, il semblait que les téléphones intelligents et les médias sociaux étaient de véritables catalyseurs des mouvements sociaux et politiques visant à démocratiser le monde. C'était un moment inspirant. Ces technologies ont contribué à l'essor de ces mouvements.

    Je suis idéaliste dans l'âme. Je voulais être au coeur de cette révolution, mais vous avez devant vous aujourd'hui un idéaliste troublé. En 2016, je suis retourné travailler pour mon ancienne patronne, pendant sa campagne présidentielle. J'ai dirigé le comité consultatif sur la politique en matière de technologie. J'ai été aux premières loges des événements qui se sont produits aux États-Unis entre 2015 et 2017. J'ai vu l'Internet ouvert qui était censé étendre la liberté être transformé en un puissant outil technologique de manipulation sociale et de distorsion politique. Vous connaissez tous l'histoire. L'outil qu'on espérait voir contribuer à la revitalisation de la démocratie est aujourd'hui considéré par beaucoup comme l'une de ses plus grandes menaces. Mes amis, c'est une amère ironie, une cruelle ironie, mais il n'est pas nécessaire qu'il en soit ainsi.

    Nous pouvons faire nôtre la promesse des réseaux d'information de redonner le pouvoir au peuple, mais il convient d'examiner à quel moment le contrôle incroyable de la richesse et du pouvoir de cette industrie a commencé à prendre son essor et à influencer le cours des choses. Les racines du phénomène sont profondes et remontent à des décennies. J'ai cependant cerné une période, soit entre 2014 et 2017, lorsque les technologies d'apprentissage machine, ou l'intelligence artificielle, ont été utilisées sur les plateformes des médias sociaux.

    En 2011 et 2012, à l'apogée du mouvement du printemps arabe, ces technologies n'étaient pas au coeur des modèles économiques de Facebook et de Google. Elles sont arrivées quelque temps plus tard. Si vous voulez savoir à quel moment exactement elles ont émergé, il vous suffit de regarder la courbe des profits et revenus de Google et de Facebook. J'ai noté les chiffres pour Facebook à titre d'exemple. En 2011, Facebook a réalisé, pour la première fois, un profit d'un milliard de dollars sur un chiffre d'affaires de quatre milliards de dollars. En 2017, à peine six ans plus tard, après l'avènement de ces nouvelles technologies, Facebook a fait des profits de 16 milliards de dollars sur des revenus de 40 milliards de dollars. Les profits ont plus que décuplé en six ans.

    Comment est-ce arrivé? La réponse est simple: ils ont trouvé un modèle d'affaires permettant de faire des profits faramineux. Première étape: suivez toutes les activités en ligne de milliards de personnes et conservez ces renseignements dans une base de données. Deuxième étape: triez ces données et regroupez les gens en publics cibles, puis vendez l'accès à l'attention des gens. Pour ce faire, concevez votre marché de l'information non pas pour optimiser la qualité de l'information ou la civilité du dialogue dans la société, mais simplement pour optimiser la dépendance et le temps passé sur la plateforme. En effet, plus les gens passent du temps sur la plateforme, plus ils voient de publicités et plus les profits explosent.

    C'est un beau modèle d'affaires, et ça marche. Les profits de Facebook ont décuplé en six ans. Très peu d'entreprises peuvent se targuer d'une telle croissance.

    De plus, il n'y a pas que les publicités qui sont ciblées. Tout est ciblé. L'ensemble de l'environnement de communication dans lequel nous vivons est maintenant adapté par l'intelligence artificielle dans le but de retenir notre attention. Ce n'est pas une recette pour favoriser la vérité et la justice. Ce qui semble vrai donne de meilleurs résultats que la pure vérité. La conspiration et la haine sont devenues des thèmes structurants des médias sociaux, et cet espace est facilement exploité par des propagandistes qui se font les promoteurs du sectarisme, de la division sociale et de la haine auprès des gens désillusionnés.

    Voilà le lien entre les marchés des données dont nous avons entendu parler ici et le contenu abject qu'on voit en ligne, comme le discours haineux ambiant ou de véritables atrocités telles que les fusillades en Nouvelle-Zélande. Ce sont les algorithmes qui attisent nos préjugés. Voilà l'ennemi qu'il faut attaquer. Nous ne pouvons pas compter sur l'industrie pour régler ce problème.

    Le problème fondamental réside au cœur du modèle d'entreprise, dans ce que la professeure Zuboff appelle le « capitalisme de surveillance », et ces entreprises dominent le marché. Les entreprises cotées en bourse...

    Juste une seconde. L'interprétation vient de passer de l'anglais à l'espagnol, je crois. Nous allons le signaler aux interprètes.

    Je suis bon en anglais, mais pas en espagnol.

    C'est l'intelligence artificielle qui cherche à vous distraire de mon témoignage.

    Les interprètes sont-ils prêts? Bien.

    Allez-y, monsieur Scott. Je suis désolé.

    J'ai consacré les deux dernières années et demie à l'étude de ce problème, essentiellement à compter du lendemain des élections présidentielles américaines en novembre 2016, et je suis persuadé de la thèse que je viens tout juste de vous présenter. Je tiens toutefois à être clair: la technologie n'a pas causé ce problème. Elle l'a accéléré. Elle l'a façonné. Elle a façonné sa croissance et son orientation. Elle détermine les façons dont le développement social et l'histoire se déroulent. La technologie amplifie les intentions des personnes qui l'utilisent. Selon moi, ces conséquences ne sont pas inévitables. Il n'y a pas de déterminisme technologique. Nous pouvons régler le problème.

    De la même façon que nous avons pris des décisions stratégiques pour élargir l'accès à des services Internet abordables et pour que la neutralité du Net soit la règle applicable dans de nombreux pays — nous l'avons fait pour soutenir le potentiel de démocratisation offert par la technologie — , nous pouvons maintenant élaborer des politiques pour limiter l'exploitation de ces outils par des acteurs malveillants et par des entreprises pour qui les bénéfices l'emportent sur l'intérêt public. Nous devons aborder notre problème technologique en fonction des problèmes sociaux auxquels nous sommes confrontés.

    C'est pour cette raison que le problème de la fragmentation politique, des propos haineux ou du tribalisme dans les médias numériques, selon la façon dont vous voulez le décrire, diffère dans chacun de vos pays. Il diffère dans chacun de vos pays parce qu'il émane des troubles sociaux, des conflits culturels et de l'antilibéralisme propres à chaque société. Ce sont des caractéristiques communes qu'on retrouve partout, mais chaque pays verra une manifestation un peu différente du problème.

    Pour tout dire, nos démocraties négligent beaucoup de monde. Les gens ont raison d'être fâchés, mais ce mécontentement ne donne plus lieu à des réformes. Il mène plutôt à une sorte de colère qui s'aggrave. Ce radicalisme provient de la façon dont la technologie change nos environnements informationnels et façonne notre compréhension du monde. Nous voyons rarement le monde comme les autres le perçoivent. Nous sommes divisés en tribus, et la version du monde que nous voyons tous les jours exacerbe nos préjugés et élargit le fossé entre nos communautés. C'est ainsi que nous devons comprendre le problème.

    Pour traiter cette maladie, nous devons avoir une vision d'ensemble. Nous devons voir comment les médias sociaux font partie d'un système. Ils ne font pas bande à part en tant que supervilains, peu importe à quel point nous aimerions leur accoler cette étiquette, mais ils ont néanmoins une énorme responsabilité. Il suffit de voir comment l'ensemble du marché des médias s'est plié aux paramètres de performance de Google et de Facebook. Il suffit de voir comment la télévision, la radio et la presse écrite ont malmené leurs stratégies de production et de distribution pour que les gens aiment et partagent leur contenu et pour que ce contenu se retrouve plus haut dans les résultats de recherche de Google Actualités. C'est extraordinaire. Cela accentue la distinction entre les médias traditionnels et les nouveaux médias.

    Oui, je suis parfaitement d'accord avec le professeur Owen: nous avons besoin d'un vaste programme gouvernemental. Nous devons circonscrire le contenu illégal. Nous devons limiter la collecte et l'exploitation de données. Nous devons moderniser la politique de concurrence pour réduire le pouvoir découlant des monopoles. Nous devons également faire la lumière sur ce spectacle de marionnettes et montrer aux gens comment s'aider eux-mêmes pour arrêter de se faire exploiter.

    Je pense que la solution doit passer par une sensibilisation du public et que les dirigeants politiques doivent en assumer la responsabilité. Nous devons investir dans la sensibilisation, et nous devons prendre des engagements en matière de journalisme d'intérêt public afin d'offrir aux gens des solutions de rechange au flot continu et insensé de leurres pour obtenir des clics, un flot auquel nous nous sommes habitués. Il faut offrir des solutions de rechange aux tentations que nous subissons en tant qu'utilisateurs passifs de médias sociaux.

    Je sais que cela peut sembler énorme, mais je vous invite à vous joindre à moi en vous réengageant à faire preuve d'idéalisme. Ce n'est pas trop demandé, car c'est nécessaire à la démocratie.

    Merci beaucoup.

    Merci, monsieur Scott.

    C'est maintenant au tour de Mme Heidi Tworek, qui sera suivie de Mme Zuboff.

    Merci beaucoup, monsieur le président.

    Je remercie les membres distingués du Grand Comité international de leur aimable invitation à prendre la parole aujourd'hui. C'est vraiment un honneur de soutenir ainsi la coopération internationale.

    Dans mon travail, je porte deux chapeaux. Je suis historienne et analyste de politiques. Je sais que porter deux chapeaux est un curieux choix vestimentaire, mais je crois que cela peut nous aider à parvenir à des solutions beaucoup plus rigoureuses qui résisteront à l'épreuve du temps.

    En tant qu'analyste de politiques, j'ai écrit sur les propos haineux et la désinformation au Canada, aux États-Unis et en Europe. Je suis membre du comité directeur du groupe de travail transatlantique de haut niveau sur la modération de contenu en ligne et la liberté d'expression.

    Et en tant qu'historienne, j'examine depuis près de 10 ans l'histoire des médias. Je viens tout juste de terminer un livre qui s'intitule News From Germany: The Competition to Control World Communications, 1900-1945, « des nouvelles de l'Allemagne: la concurrence pour contrôler les communications dans le monde, de 1900 à 1945 ». Dans ce livre, j'explique entre autres comment la démocratie médiatique dynamique de l'Allemagne entre les deux guerres s'est transformée en régime nazi autoritaire capable de répandre une propagande antisémite, raciste et homophobe partout dans le monde.

    Lorsque j'écrivais ce livre, j'ai vu le présent répéter le passé de toutes sortes de façons, ce qui, pour être honnête, est inquiétant. Partout dans le monde, l'extrême droite a repris la terminologie nazie en utilisant les termes lügenpresse et systempresse — la presse menteuse et la presse systémique — pour dénoncer les médias. Des groupes marginalisés ont été pris pour cibles en ligne, et on leur a reproché des maux de notre société qu'ils n'ont pas causés. Des nouvelles ont été falsifiées à des fins politiques et économiques. Comme ce fut le cas pour la radio dans la première partie du XX^e siècle, une technologie conçue à des fins utopiques est devenue l'outil de dictateurs et de démagogues.

    Comme nos autres témoins l'ont décrit, certains aspects de l'Internet sont sans précédent, comme le microciblage, sa portée, l'apprentissage automatique et la précision de la surveillance, mais malgré cela, les historiens parmi nous reconnaissent étonnamment bien certaines des tendances sous-jacentes.

    Je vais donner cinq brèves leçons d'histoire qui pourront selon moi orienter à l'avenir nos discussions stratégiques et nous permettre de trouver des solutions rigoureuses pour renforcer plutôt qu'affaiblir nos démocraties.

    La première leçon est que la désinformation est également un problème de relations internationales. La guerre de l'information est une caractéristique, pas un bogue, du système international depuis au moins un siècle. La question n'est pas de savoir si la guerre de l'information existe, mais pourquoi et quand les États s'y engagent.

    Ce que nous voyons, c'est que cela arrive souvent lorsqu'un État se sent encerclé et affaibli ou lorsqu'il aspire à devenir une plus grande puissance. C'était le cas de l'Allemagne il y a un siècle et c'est le cas de la Russie de nos jours. Si les causes de la désinformation sont en grande partie géopolitiques, nous ne devons pas oublier que beaucoup de solutions seront également géopolitiques et diplomatiques.

    Deuxièmement, nous devons porter attention à l'infrastructure physique concernée. La guerre de l'information et la désinformation sont également rendues possibles grâce à l'infrastructure physique, qu'il s'agisse des câbles sous-marins du siècle dernier ou des câbles à fibres optiques d'aujourd'hui. L'un des premiers actes de guerre de la Grande-Bretagne pendant la Première Guerre mondiale a été de couper les câbles qui reliaient l'Allemagne au reste du monde, l'obligeant ainsi à investir dans une nouvelle technologie de communications, qui était la radio. Au moment où les nazis ont pris le pouvoir, un directeur de radio américain a dit qu'ils avaient l'organe politique le plus efficace que le monde ait jamais vu.

    Nous pensons souvent que l'Internet est sans fil, mais c'est fondamentalement faux; de 95 à 99 % des données passent par des câbles sous-marins à fibres optiques. Google possède en partie 8,5 % de ces câbles sous-marins. Des fournisseurs de contenu possèdent aussi leur propre infrastructure physique. Il arrive que la communication au moyen de ces câbles soit interrompue à cause de morsures de requin, mais les États peuvent eux aussi mordre. Nous savons que la Russie et la Chine, par exemple, sondent les câbles européens et américains.

    Nous savons évidemment que la Chine investit dans le 5G, mais comme l'Allemagne l'a fait, elle investit également dans des réseaux d'information internationaux comme Belt et Road News Network, Xinhua, l'agence de presse chinoise, et des chaînes de télévision de langue anglaise comme CGTN.

    La troisième leçon, comme l'ont dit beaucoup d'autres témoins, est que nous devons nous pencher davantage sur les modèles d'entreprise que sur les éléments individuels de contenu. Il est très tentant de se concentrer sur des éléments de contenu individuel particulièrement nuisibles, mais ces éléments de contenu deviennent viraux à cause des quelques entreprises qui contrôlent le goulot d'étranglement de l'information.

    Seuls 29 % des Américains ou des Britanniques savent que leur fil de nouvelles Facebook est organisé à l'aide d'algorithmes. Ce sont les Finlandais qui en sont le plus conscients, mais dans une proportion de 39 % seulement. Cette invisibilité procure énormément de pouvoir aux médias sociaux. Ce pouvoir n'est pas neutre. À tout le moins, nous avons besoin de beaucoup plus de transparence quant au fonctionnement des algorithmes, pour pouvoir déterminer s'ils sont discriminatoires et ainsi de suite. Au moment où nous nous efforçons d'avoir des politiques fondées sur des faits, nous avons besoin de données probantes.

    Quatrièmement, nous devons prendre garde de concevoir des organismes de réglementation rigoureux. L'exemple de l'Allemagne entre les deux guerres offre une mise en garde. La radio est apparue dans les années 1920. Des bureaucrates pendant la République démocratique de Weimar voulaient se servir de la radio pour renforcer la démocratie et entièrement la transformer après la Première Guerre mondiale. À mesure que cette démocratie devenait politiquement instable, ces bureaucrates ont continuellement mis en branle des réformes qui se sont traduites par une supervision de plus en plus importante du contenu. L'idée ici était de protéger la démocratie en prévenant la diffusion de nouvelles pouvant provoquer de la violence. Ce qui est très paradoxal dans cette histoire, c'est qu'au moment même où les nazis ont pris le pouvoir, ils contrôlaient la radio. Si nous ne sommes pas prudents, une réglementation louable peut donc avoir des conséquences tragiques inattendues.

    Qu'est-ce que cela signifie pour nous aujourd'hui? Cela signifie que peu importe les solutions auxquelles nous parvenons, elles doivent tenir compte d'éventuelles attaques contre la démocratie. Nous devons veiller à intégrer la société civile dans les institutions que nous créons, quelles qu'elles soient.

    Avec Fenwick McKelvey et Chris Tenove, j'ai entre autres proposé de créer des conseils des médias sociaux qui seraient des tribunes multilatérales dont les membres pourraient se rencontrer régulièrement pour examiner une grande partie des problèmes que nous décrivons. Il faut encore discuter du format exact et de la portée géographique des conseils, mais c'est une idée à laquelle beaucoup de personnes adhèrent, y compris le rapporteur spécial sur la protection du droit à la liberté d'opinion et d'expression des Nations unies.

    Cinquièmement, nous devons continuer de porter attention et chercher à remédier aux divisions sociales exploitées par les médias sociaux. Les germes de l'autoritarisme ont besoin d'un sol fertile pour pousser. À défaut de nous occuper du mécontentement économique et social sous-jacent, une meilleure communication ne peut pas occulter ces problèmes indéfiniment.

    Je vais vous répéter les cinq leçons. Premièrement, la désinformation est également un problème de relations internationales. Deuxièmement, nous devons porter attention à l'infrastructure physique. Troisièmement, les modèles d'entreprise ont plus d'importance que les éléments individuels de contenu. Quatrièmement, nous devons mettre sur pied des organismes de réglementation rigoureux. Cinquièmement, nous devons porter attention aux divisions sociales que les médias sociaux exploitent.

    Il est impossible pour un seul pays de s'attaquer à toutes ces choses; une coopération internationale est nécessaire. C'est la raison pour laquelle c'est un grand honneur d'avoir l'occasion de comparaître devant vous aujourd'hui.

    Merci beaucoup.

    Merci, madame Tworek.

    C'est maintenant au tour de Mme Zuboff.

    Vous et moi, avec un nom comme Zimmer, avons toujours été à la fin de chaque liste, et c'est à peu près cela.

    Allez-y, madame Zuboff. Nous sommes heureux de vous compter parmi nous.

    Merci beaucoup, monsieur Zimmer.

    Cela me rappelle effectivement l'école primaire ce soir.

    Bien entendu, vous allez inverser l'ordre demain matin.

    Tout simplement parce que je comprends.

    Allez-y.

    C'est un fardeau qu'on porte toute une vie.

    C'est un grand honneur de discuter avec vous ce soir, notamment parce que j'ai l'impression que ce comité constitue actuellement notre meilleur espoir pour progresser dans la lutte contre les menaces à la démocratie qui sont maintenant endémiques à cause du capitalisme de surveillance, dont on a déjà parlé.

    Je suis très heureuse de voir le genre de synergie qui ressort déjà de nos observations. Les thèmes que le Comité a ciblés, c'est-à-dire la responsabilité des médias, la sécurité et la protection des données, les fausses nouvelles et la désinformation, sont tous des effets d'une même cause. C'est ce que nous avons entendu ce soir, et c'est un énorme pas en avant. Il est très important de le souligner.

    J'estime que cette cause sous-jacente est le capitalisme de surveillance, que je définis comme une vaste logique économique systémique qui, à notre connaissance, est sans précédent. Je veux prendre un instant pour dire ce que le capitalisme de surveillance n'est pas, car cela permet d'établir une série de distinctions que nous devons tous entendre.

    Premièrement, et on l'a mentionné — merci, monsieur Scott —, le capitalisme de surveillance n'est pas une technologie. Il a plutôt pris en otage la technologie numérique à ses propres fins. Il est facile d'imaginer la technologie numérique sans capitalisme de surveillance, mais il est impossible de faire le contraire. Confondre les deux revient à commettre une dangereuse erreur de catégorisation.

    Deuxièmement, le capitalisme de surveillance n'est pas attribuable à une entreprise ni à un groupe d'entreprises. À une certaine époque, on le devait à Google. Ensuite, grâce à Sheryl Sandberg, que j'appelle la Mary Typhoïde du capitalisme de surveillance, on aurait pu l'attribuer à Google et à Facebook. Au bout du compte, c'est devenu le modèle par défaut de Silicon Valley et du secteur de la haute technologie, et à l'heure actuelle, c'est un virus qui a infecté tous les secteurs de l'économie.

    C'est la raison pour laquelle on a d'abord affirmé ici une chose étonnante et importante, à savoir que les données personnelles ont plus de valeur que le contenu. Tous les secteurs d'activités, des assurances, du commerce de détail, de l'édition, de la finance jusqu'aux produits et services, en passant par la fabrication et l'administration, sont maintenant infectés par le capitalisme de surveillance, au point où le PDG de Ford Motor Company, le berceau du capitalisme de gestion il y a un siècle, dit maintenant que la seule façon pour Ford d'être concurrentiel face au genre de coefficients de capitalisation des bénéfices et de capitalisation boursière d'entreprises comme Facebook et Google consiste à transformer l'entreprise en entreprise de données et à transmettre les données provenant des 100 millions de conducteurs de véhicules Ford. Ces flux de données mettraient Ford sur un pied d'égalité avec des entreprises comme Google et Facebook. Il a dit que tout le monde voudrait alors investir dans son entreprise. Nous ne pouvons plus limiter le capitalisme de surveillance à un groupe de sociétés ou à un secteur.

    Enfin, le capitalisme de surveillance ne peut pas plus être réduit à une personne ou à un groupe de personnes. Même s'il peut être très tentant de l'associer à certains des principaux capitalistes du milieu ou au duopole — aux Zuckerberg, aux Page, aux Brin et ainsi de suite —, le moment de notre histoire où il était possible de faire ce genre de rapprochement est révolu.

    Sur le plan de la logique économique, c'est-à-dire de la structure et de l'institutionnalisation... Il peut y avoir des raisons valables et indépendantes de changer les acteurs, de limiter leurs rôles et leur pouvoir extraordinaire et sans précédent, mais cela ne mettra pas fin au capitalisme de surveillance et cela ne le rendra pas illégal.

    Maintenant que j'ai dit ce que le capitalisme de surveillance n'est pas, permettez-moi de prendre un instant pour expliquer ce qu'il est. Le capitalisme de surveillance marche sur les traces du capitalisme de marché de la façon suivante: il prend quelque chose qui existe à l'extérieur du marché et il le transforme en marchandise pouvant être produite et vendue. Comme chacun le sait, le capitalisme industriel s'est emparé de la nature et il l'a convertie en terres ou en propriétés foncières pouvant être vendues ou achetées. Le capitalisme de surveillance fait la même chose, mais avec une touche sombre et étonnante: il se saisit de l'expérience humaine privée et il la subordonne aux dynamiques de marché. Il la transforme en matière première gratuite, qui est ensuite convertie en données comportementales.

    Certes, une partie des données comportementales sont utilisées pour améliorer les produits et les services, mais le reste forme un excédent comportemental, qui est reconnu pour sa grande valeur de prédiction. L'excédent comportemental est alors versé dans les nouveaux moyens de production, ce qu'on appelle l'intelligence artificielle. Le résultat ainsi obtenu est un nouveau type de produit: le produit prédictif. Ces usines produisent des prédictions du comportement humain.

    Vous vous rappelez peut-être une note de service de Facebook qui a été divulguée en 2018, nous ne savons toujours pas exactement par qui. Cette note de service nous a donné un aperçu de la plateforme d'intelligence artificielle de Facebook: FBLearner Flow. Nous avons appris que ce moyen de production calcule quotidiennement des billions de points de données. FBLearner Flow fabrique six millions de prédictions du comportement humain à toutes les secondes.

    Ce que cela nous indique, c'est que les capitalistes de surveillance possèdent et contrôlent non pas un texte, mais deux. D'abord, il y a le texte accessible au public. Lorsqu'on parle de propriété, d'accessibilité et de portabilité des données, il est question du texte accessible au public, qui provient des données que nous fournissons aux entreprises par l'intermédiaire de nos messages, de nos simples conversations et de ce que nous donnons à nos écrans. Or, le résultat de ce moyen de production — les produits prédictifs et la façon dont ils sont analysés — est un texte exclusif, qui n'est pas accessible au public. C'est ce que j'appelle le texte fantôme. Toute la capitalisation boursière, toutes les recettes et toutes les incroyables richesses que ces entreprises ont amassées en très peu de temps proviennent du texte fantôme. Nous ne connaîtrons jamais ces données exclusives. Nous n'en serons jamais propriétaires, nous n'y aurons jamais accès et nous ne pourrons jamais les transférer. C'est la source de tout leur argent et de tout leur pouvoir.

    Maintenant, que fait-on des produits prédictifs? On les vend dans une nouvelle sorte de marché qui fait uniquement le commerce d'avenirs humains. Le premier marché de cette sorte était celui de la publicité ciblée en ligne. Les prédictions humaines qui y étaient vendues s'appelaient les taux de clics. Vous n'avez qu'à prendre un pas de recul pour comprendre que le taux de clics n'est qu'un fragment d'une prédiction d'un avenir humain.

    Aujourd'hui, nous comprenons que ces marchés, qui ont commencé dans le domaine de la publicité ciblée en ligne, ne se limitent pas plus à ce domaine que la production en série se limitait à la fabrication du modèle T. La production en série a été utilisée dans tous les secteurs avec succès. La nouvelle logique du capitalisme de surveillance suit la même voie: on l'utilise aussi dans tous les secteurs avec succès.

    Enfin, comment ces marchés rivalisent-ils? Ils rivalisent sur le plan de la qualité de leurs prédictions. Ce que j'ai compris en étudiant ces marchés, c'est qu'en désossant les dynamiques concurrentielles, nous découvrons les impératifs économiques qui sont le moteur de cette logique. Ces impératifs économiques sont institutionnalisés dans des écosystèmes importants qui traversent notre économie, des fournisseurs d'excédent comportemental et d'analyses et de capacités informatiques aux teneurs et aux acteurs du marché.

    Ces impératifs sont des compulsions. Toutes les manchettes — chaque jour, le journal nous présente une nouvelle atrocité — peuvent être prédites au moyen de ces impératifs. Au début, c'était des économies d'échelle: il faut beaucoup de données pour faire de bonnes prédictions. Puis, c'est passé à des économies de gamme: il faut une variété de données pour faire de bonnes prédictions. Aujourd'hui, nous sommes rendus à une troisième étape de la concurrence: les économies d'action. La meilleure façon d'obtenir des données permettant de prédire le comportement humain, c'est en intervenant — en façonnant, en réglant et en modifiant le comportement humain, en amadouant les individus et en les rassemblant en troupeau, et en les dirigeant vers les résultats garantis qui répondent aux besoins des entreprises participant au capitalisme de surveillance.

    Voilà le monde dans lequel nous vivons aujourd'hui. Par conséquent, le capitalisme de surveillance est une atteinte à la démocratie qui vient du haut comme du bas.

    Du bas, ses systèmes institutionnalisent des modèles de modification du comportement par l'intermédiaire d'architectures numériques mondiales. Il s'agit d'une attaque directe contre l'autonomie humaine et la souveraineté individuelle, soit les fondements mêmes d'une société démocratique.

    Du haut, nous sommes à l'aube de la troisième décennie du XXI^e siècle. Nous entretenions de grands rêves à l'égard de la nouvelle technologie, comme M. Scott l'a dit, mais à cause du capitalisme de surveillance, nous nous retrouvons à une époque marquée par un déséquilibre des connaissances et du pouvoir que ces connaissances confèrent. Cette époque ne peut être comparée qu'à celle qui a précédé l'invention de Gutenberg, une ère absolutiste où le savoir était réservé à quelques-uns et où l'ignorance régnait. Les capitalistes de surveillance savent tout à notre sujet, alors que nous ne savons presque rien sur eux. Ils savent tout à notre sujet, mais ils n'utilisent pas ce qu'ils savent sur nous pour notre bien; ils l'utilisent pour le bien de leurs clients et de leur chiffre d'affaires.

    Pour conclure, c'est un bon signe que nous nous réunissons ce soir dans le magnifique pays qu'est le Canada parce qu'à l'heure actuelle, c'est au Canada que le combat entre le capitalisme de surveillance et la démocratie se livre, plus précisément dans la ville de Toronto. Le capitalisme de surveillance a commencé par la navigation en ligne et il touche maintenant tout ce que nous faisons dans le monde réel. Au moyen des expériences de contagion à très grande échelle menées en ligne par Facebook et du jeu Pokémon GO conçu par Google, le capitalisme de surveillance a expérimenté les façons de rassembler la population en troupeau, ainsi que de régler et de modifier son comportement.

    En passant, ces compétences ont maintenant été intégrées à l'application de ville intelligente de Google, qui s'appelle Waze. Or, l'objectif réel, c'est la ville intelligente elle-même. C'est là que le capitalisme de surveillance souhaite prouver qu'il peut remplacer le désordre et la beauté de la gouvernance municipale et de la démocratie par le règne computationnel, qui représente, après tout, une forme de tyrannie absolutiste.

    La visée est la ville intelligente. Si le capitalisme de surveillance peut conquérir la ville intelligente, il peut conquérir aussi la société démocratique. Aujourd'hui, le combat se livre à Toronto. Si le Canada donne Toronto à Google, ou plutôt à Alphabet — Sidewalk Labs maintient maintenant avidement qu'elle ne fait pas partie de Google —, l'avenir de la société démocratique au XXI^e siècle sera menacé.

    Je vous remercie pour votre attention. J'espère pouvoir poursuivre la discussion demain.

    Merci beaucoup.

    Merci, madame Zuboff.

    La dernière intervenante est Mme Maria Ressa. Elle se joint à nous de Manille, aux Philippines.

    La parole est à vous, madame Ressa.

    Bonjour.

    Tout d'abord, je tiens à dire à quel point je me sens privilégiée de m'adresser à vous et d'écouter les témoignages de chacun. Rappelez-vous tout ce que vous avez entendu, surtout ce que Mme Zuboff vient de dire.

    Je vis tout cela en ce moment. Je suis journaliste depuis plus de 30 ans, et au cours des 14 derniers mois, 11 actions ont été intentées contre moi, dont 5 par le gouvernement. J'ai dû verser une caution à huit occasions en un peu plus de trois mois, et j'ai été arrêtée deux fois en cinq semaines. Tout ce qui se passe... À mes yeux, l'astroturfing sur les médias sociaux est une forme d'opération d'information ascendante, et puis il y a aussi des opérations descendantes; tout cela a déjà été décrit en détail.

    Comme je vous présenterai un exposé demain, mon intervention d'aujourd'hui sera brève. D'après moi, cela revient à tout ce que vous avez entendu. Cela revient à la lutte pour la vérité, et les journalistes sont en première ligne de cette lutte, avec les activistes. Nous sommes parmi les premiers à être ciblés. C'est après que les médias sociaux ont été transformés en armes que les poursuites judiciaires et les pressions exercées contre moi ont commencé. Le combat actuel pour la vérité montre mieux que jamais que l'information, c'est le pouvoir. Si la population croit en vos mensonges, vous pouvez la contrôler, et ça, c'est sans parler des aspects commerciaux de la question. L'information est devenue un moyen d'acquérir du pouvoir dans la sphère géopolitique. Si les faits ne sont pas de votre côté, la vérité n'est pas de votre côté, et sans vérité, il n'y a pas de confiance.

    Nous avons été témoin de l'érosion en cours. Au départ, chez Rappler, nous nous intéressions à la transmission de l'information, aux réseaux sociaux, aux cercles formés par la famille et les amis. Les médias sociaux, ce sont les amis et la famille à la puissance mille. Nous nous sommes donc penchés sur la transmission de l'information. Demain, je vous présenterai les données qui montrent exactement la vitesse à laquelle un pays ou une démocratie peut s'effondrer en conséquence des opérations d'information. Un mensonge répété un million de fois devient la vérité. Vous connaissez peut-être le terme « trollage patriotique ». Il s'agit de propagande haineuse faite en ligne et parrainée par l'État qui cible une personne, une organisation ou un activiste dans le but de le museler et d'inciter la population à la haine. Nous savons tous que la haine dans le monde virtuel mène à la violence dans le monde réel.

    Notre histoire est une mise en garde. Je reçois jusqu'à 90 messages haineux par heure. En trois ans, mon pays est passé d'une démocratie dynamique où les médias sociaux étaient vraiment utilisés pour le bien commun... Nous l'avons vécu. Je pensais que nous... Mon organisation fait partie de celles qui ont travaillé très étroitement avec Facebook, et de voir ensuite le site être transformé en arme à la fin de 2015 et en 2016... Cela a commencé quand le président Duterte est entré en fonction, en juillet 2016, au début de la guerre contre la drogue. Les premières cibles ont été les utilisateurs de Facebook qui mettaient en question le nombre de morts. Aujourd'hui, l'ONU estime que 27 000 personnes ont été tuées depuis juillet 2016. C'est un nombre énorme.

    La dernière chose que je vais dire, c'est que je vous présenterai les données à l'appui demain. C'est systématique. C'est une érosion de la vérité et de la confiance. Dans une situation pareille, la personne avec le meilleur porte-voix l'emporte. Chez nous, c'est le président Duterte. La même chose se passe aux États-Unis. Que ce soit Trump, Poutine ou Duterte, la méthodologie employée est très semblable.

    Je vais m'arrêter là. Je vous remercie de nous avoir invités. Dans les discussions comme celles-ci, ce qui est intéressant, c'est que les pays les plus touchés sont les démocraties les plus vulnérables, comme la nôtre ici en Asie du Sud-Est, dans l'hémisphère Sud. Chaque jour d'inaction de la part des entreprises américaines du secteur de la technologie et des plateformes de médias sociaux qui devraient avoir des valeurs américaines... Ce qui est ironique, bien sûr, c'est qu'elles ont érodé ces valeurs dans nos pays.

    C'est vrai que certaines mesures ont été prises. Je peux vous dire que nous travaillons étroitement avec Facebook à la vérification des faits. J'ai aussi vu que Facebook se penche sur les répercussions et qu'il essaie d'apporter des changements, mais il faut que les choses changent beaucoup plus rapidement.

    Je vais conclure en disant que lorsqu'il est question de situations politiques se déroulant en Occident, les réactions sont habituellement neutres, et le résultat des réactions neutres dans l'hémisphère Sud, c'est que des gens sont tués ou emprisonnés. Pour nous, c'est une question de survie.

    Je vous remercie.

    Merci, madame Ressa.

    Voilà qui met fin aux témoignages de ce soir.

    Nous allons maintenant nous rendre à la pièce 225A pour une rencontre plus informelle où nous pourrons vous poser des questions directement. Encore une fois, madame Ressa, je suis désolé que vous ne puissiez pas être ici, mais je le répète, l'objectif de la séance d'aujourd'hui était de lancer la discussion, et nous la poursuivrons là-bas.

    Je tiens à rappeler à toutes et à tous que les témoignages commenceront dès 8 h 30 demain matin. Je vous demande donc d'être ici dès que possible. Aujourd'hui, j'ai été un peu flexible côté temps, mais je serai beaucoup plus strict demain. Mesdames et messieurs les membres du Comité, demain, vous aurez droit à cinq minutes chacun pour poser vos questions. Nous avons hâte d'entendre vos témoignages.

    Je tiens à remercier les témoins qui ne reviendront pas de s'être déplacés pour participer à la séance de ce soir. Nous avons hâte de poursuivre la discussion avec vous. Même si la séance de mercredi finit à midi, la conversation sur les façons d'améliorer notre monde de données se poursuivra.

    Nous nous retrouverons dans la pièce au bout du couloir.

    La séance est levée.