INDU Réunion de comité

     Chers collègues et amis, je déclare la séance ouverte.

    Je vous souhaite la bienvenue à la 107^e réunion du Comité permanent de l'industrie et de la technologie de la Chambre des communes.

    La réunion d'aujourd'hui se déroule sous forme hybride, conformément au Règlement.

    Avant que je fasse la présentation des témoins, nous avons une petite question à régler, soit l'élection du deuxième vice-président du Comité. Conformément à l'article 102 du Règlement, le deuxième vice-président doit être membre d'un parti de l'opposition autre que l'opposition officielle.

    Je suis maintenant prêt à recevoir des motions pour l'élection du deuxième vice-président. Quelqu'un peut-il soumettre le nom de M. Garon?

    Chers collègues, j'ai besoin que quelqu'un…

    C'est M. Bittle.

    M. Bittle propose que M. Jean‑Denis Garon soit élu deuxième vice-président du Comité.

    Puisqu'il n'y a aucune autre motion, ai-je le consentement unanime du Comité pour que M. Garon soit élu deuxième vice-président?

    Des voix: D'accord.

    (La motion est adoptée.)

    Monsieur Garon, félicitations pour votre élection à la deuxième vice-présidence. Je vous souhaite la bienvenue. Vous avez de grandes responsabilités à assumer, parce que M. Lemire a été fort utile durant ses années au Comité. Il a été un très bon parlementaire, mais je suis sûr que vous serez à la hauteur. C'est un plaisir de vous avoir avec nous.

    Avant de passer au projet de loi C‑27, je dois aussi soumettre au Comité une proposition de budget supplémentaire pour notre étude du projet de loi C‑27. On y indique qu'un montant de 6 000 $ est demandé, et ce montant est ventilé.

    Ai-je le consentement unanime du Comité pour adopter cette proposition de budget?

    Des voix: D'accord.

    (La motion est adoptée.)

    C'est merveilleux.

    Conformément à l'ordre de renvoi du lundi 24 avril 2023, le Comité reprend son étude du projet de loi C‑27, Loi édictant la Loi sur la protection de la vie privée des consommateurs, la Loi sur le Tribunal de la protection des renseignements personnels et des données et la Loi sur l'intelligence artificielle et les données et apportant des modifications corrélatives et connexes à d'autres lois.

    J'aimerais maintenant souhaiter la bienvenue aux témoins. Nous accueillons Mme Vass Bednar, directrice générale du programme de maîtrise en politique publique dans la société numérique de l'Université McMaster, qui se joint à nous par vidéoconférence. De plus, de l'Université de Toronto, nous recevons M. Andrew Clement, professeur émérite à la Faculté de l'information, qui se joint aussi à nous par vidéoconférence, ainsi que M. Nicolas Papernot, professeur adjoint et titulaire d'une chaire CIFAR en intelligence artificielle.

    Je vous remercie tous trois de votre présence.

    Je tiens à m'excuser de notre retard. Nous avons eu une dizaine de votes à la Chambre des communes. En raison du retard, nous avons jusqu'à 19 heures environ pour les témoignages et les questions.

    Sans plus tarder, nous allons commencer par vous, madame Bednar. Vous avez cinq minutes.

    Merci et bonsoir.

    Je m'appelle Vass Bednar. Comme vous l'avez entendu, je dirige le programme de maîtrise en politique publique dans la société numérique à l'Université McMaster, où je suis professeure auxiliaire de sciences politiques. Je suis active au sein de la grande communauté des politiques au Canada en tant qu'agrégée supérieure au CIGI, comme membre du Forum des politiques publiques et par l'entremise de mon bulletin intitulé Regs to Riches. Je suis également membre du comité consultatif stratégique spécial de la commissaire provinciale à la protection de la vie privée.

    Je vous remercie de me donner l'occasion de m'adresser à vous. J'apprécie le travail du Comité. Je suis d'accord pour dire qu'il est urgent de moderniser le cadre législatif du Canada pour qu'il soit adapté à l'ère numérique. Je tiens également à souligner que j'ai été en quelque sorte en congé sabbatique au cours de la dernière année et que je n'ai pas suivi le débat sur le projet de loi dans ses moindres détails. À cause de cela, j'étais un peu nerveuse à l'idée de comparaître devant vous, mais je me suis souvenue que je ne suis pas membre du Comité; je suis invitée à témoigner devant lui. J'ai donc décidé d'être aussi constructive que possible aujourd'hui.

    En examinant ce cadre relatif à la protection de la vie privée, à la protection des consommateurs et à l'intelligence artificielle, je crois vraiment que nous traitons essentiellement de la confiance envers notre économie numérique et de ce que cela représente pour les citoyens, et nous définissons effectivement ce à quoi est censée ressembler une innovation responsable. C'est ce qui m'enthousiasme par rapport à l'orientation que nous prenons.

    Très brièvement, en ce qui concerne la protection de la vie privée, il est bien connu, ou du moins il a été bien dit qu'il ne s'agit pas du projet de loi le plus axé sur le consommateur au monde. Il clarifie les choses pour les petites et les grandes entreprises — ce qui est une bonne chose —, et surtout pour les petites. Je ne pense pas que les exigences imposées aux petites entreprises soient trop lourdes.

    Les éléments relatifs au consentement ont fait l'objet de nombreux débats. Le fait d'examiner le libellé au‑delà de ce qui est nécessaire constitue un élément très important du débat. Qui décide de ce qui est nécessaire et du moment où c'est nécessaire? Je pense que le précédent du consentement, bien sûr, est crucial. Je songe à un avenir où, en tant qu'individus évoluant dans un monde en ligne ou échangeant de l'information avec des entreprises, les consommateurs seront tout simplement beaucoup plus autonomes.

    Par exemple, il y a la capacité de faire des recherches sans que des algorithmes autopréférentiels dictent l'ordre de ce que vous voyez; de voir des prix qui ne sont pas adaptés à vous ou même de savoir qu'une tarification dynamique personnalisée a lieu; d'accéder à des rabais au moyen de programmes de fidélisation sans sacrifier votre vie privée à cette fin; ou tout simplement de se rendre sur le site d'une boutique en ligne que vous avez déjà visitée sans qu'apparaissent de soi-disant offres spéciales fondées sur votre historique de navigation ou d'achat.

    Je pense que cette tension sera probablement au cœur de notre conversation continue sur la nécessité pour les organisations de recueillir des données.

    En ce qui concerne la collusion algorithmique, un récent reportage du New Statesman explique que les prix de la plupart des biens sont fixés non pas par des humains, mais par des processus automatisés conçus pour maximiser les gains de leurs propriétaires. Il y a un grand débat théorique au sujet de la ligne de démarcation entre exploitation et efficacité. Notre droit de la concurrence, qui est en constante évolution, pourrait bientôt commencer à prendre en compte la collusion algorithmique, ce qui pourrait aussi susciter davantage d'attention grâce aux progrès réalisés quant au projet de loi C‑27, car il incite à considérer les effets de la conduite algorithmique dans l'intérêt public.

    Là encore, très brièvement, en ce qui a trait à l'intelligence artificielle, ou IA, je suis d'accord avec d'autres pour dire que le commissaire à l'intelligence artificielle devrait peut-être avoir plus de pouvoirs en tant qu'agent du Parlement. Son bureau doit être financé adéquatement pour pouvoir faire son travail. Il faut souligner que les provinces pourraient vouloir créer leurs propres cadres en matière d'IA afin de remédier à certaines ambiguïtés ou certains recoupements. Nous devrions accepter cela et nous en réjouir dans un contexte de fédéralisme canadien.

    Dans un esprit constructif et tourné vers l'avenir, je me demande si nous ne devrions pas nous inspirer davantage des politiques bien connues en matière d'étiquetage et de fabrication simplement pour en arriver à une plus grande transparence. Pour ce qui est du degré de transparence proposé relativement aux gestionnaires de systèmes d'IA à usage général, nous devons veiller à ce que les gens puissent repérer le contenu généré par l'IA. Cela est également essentiel pour tout résultat d'un système généré par algorithme.

    Il faudrait probablement appliquer une approche inspirée de l'étiquetage nutritionnel à la protection des renseignements personnels, ou bien imposer une exigence d'enregistrement. J'espère que nous pourrons éviter les lourdes vérifications ou l'éclosion d'économies secondaires étranges qui ne sont peut-être pas aussi nécessaires qu'elles le semblent. L'obligation d'enregistrer de nouveaux systèmes d'IA auprès d'Innovation, Sciences et Développement économique, ou ISDE, de manière à ce que le gouvernement puisse effectuer le suivi des éventuels préjudices et des motifs justifiant leur entrée sur le marché canadien, serait utile.

    Je vais conclure dans un instant.

    Bien sûr, nous devrions tous réfléchir à la façon dont le projet de loi interagira avec d'autres leviers politiques, surtout compte tenu du forum des organismes de réglementation numérique qui a été créé récemment.

    Une grande partie de mon travail porte sur des questions relatives à la concurrence, comme l'équité et la liberté du marché. Je souligne qu'aux États-Unis, la commission fédérale du commerce a tenu tout juste la semaine dernière un sommet technologique sur l'intelligence artificielle dans le cadre duquel il a été constaté qu'un écosystème technologique avait concentré le pouvoir entre les mains d'un petit nombre d'entreprises tout en instituant un modèle d'affaires fondé sur la surveillance constante des consommateurs. Les décideurs canadiens doivent être plus honnêtes pour ce qui est du lien entre ces éléments. Nous devrions en faire davantage pour remettre en question ce modèle d'affaires de base et nous assurer de ne pas le mettre en place dans l'avenir.

    J'aimerais formuler très rapidement une dernière préoccupation au sujet de la productivité, et je sais que tout le monde y pense.

    Je crains que la crise de la productivité au Canada n'ait pour effet fondamental de décourager implicitement ou explicitement toute forme de réglementation au nom du risque fantôme d'entraver cette chose insaisissable que nous appelons l'innovation. Je tiens à vous rappeler qu'une réglementation intelligente clarifie la situation sur les marchés et égalise les règles du jeu.

    Merci de m'avoir invitée.

     Merci beaucoup, madame Bednar.

    Je cède maintenant la parole à M. Clement.

    Merci, monsieur le président et membres du Comité.

    Je m'appelle Andrew Clement, et je suis professeur émérite à la faculté de l'information de l'Université de Toronto. En tant qu'informaticien qui a commencé dans le domaine de l'intelligence artificielle, je fais des recherches sur l'informatisation de la société et ses implications sociales depuis les années 1970.

    Je suis l'un des trois contributeurs bénévoles au rapport du Centre pour les droits numériques sur le projet de loi C‑27 dont Jim Balsillie vous a parlé ici.

    Mon exposé portera exclusivement sur la Loi sur l'intelligence artificielle et les données, ou LIAD.

    L'intelligence artificielle, mieux comprise comme une intensification algorithmique, a une longue histoire. Malgré tous ses avantages, les mauvaises applications de l'IA — qui remontent à bien avant l'accélération actuelle touchant les réseaux neuronaux profonds — ont déjà fait du tort à de nombreuses personnes.

    Malheureusement, ceux qui crient le plus fort pour susciter la peur du public sont les géants de la technologie, qui sont bien connus pour leur hostilité à l'égard des gouvernements et de la réglementation. Ces tenants de l'approche « agir vite et casser des choses » exigent maintenant une intervention urgente du gouvernement tout en se disputant la domination de l'industrie. Cela cause des distractions et exige notre scepticisme.

    Une réglementation judicieuse de l'IA axée sur les risques réels se fait attendre depuis longtemps, et l'autoréglementation ne fonctionnera pas.

     Le ministre Champagne veut faire du Canada un chef de file mondial en matière de gouvernance de l'IA. C'est un bel objectif, mais c'est comme si nous participions à un Grand Prix international. Apparemment, pour apaiser les craintes des Canadiens, il a subitement décidé d'y inscrire le Canada. Il est tout sourire au volant, mais son véhicule orné de la feuille d'érable — la LIAD — comporte à peine un châssis et un moteur. Il a insisté sur le fait qu'il faisait simplement preuve de « souplesse », promettant que si vous l'aidiez à franchir la ligne d'arrivée, tout serait réglé au moyen du règlement.

    Comme l'a souligné Mme Scassa, aucun prix n'est remis à celui qui remporte la première place. La bonne gouvernance n'est même pas une course, mais un projet d'apprentissage mutuel continu. Comme il y a beaucoup d'incertitude quant aux promesses et aux dangers de l'IA, une consultation publique éclairée par l'expertise est une condition préalable essentielle à l'établissement d'un fondement législatif solide. Le Canada doit aussi étudier attentivement l'évolution de la situation dans l'Union européenne, aux États-Unis et ailleurs dans le monde avant de déterminer sa propre approche.

    Comme de nombreux témoins l'ont souligné, la LIAD comporte depuis le début de graves lacunes sur le plan de la procédure. Le fait de l'avoir intégrée à la modernisation de la LPRPDE attendue depuis longtemps a rendu beaucoup plus difficile la tenue de l'examen approfondi que méritent ce texte législatif et celui sur l'IA.

    Le ministre s'est d'abord attribué de vastes pouvoirs de réglementation, ce qui l'a placé en conflit d'intérêts avec son mandat de promotion de l'industrie canadienne de l'IA. Ses récents amendements sont loin d'être suffisants pour assurer l'indépendance réglementaire requise.

     Le ministre Champagne vous a dit que la LIAD offre un cadre durable fondé sur des principes. Ce n'est pas le cas.

    La plus grave lacune tient au fait qu'aucune consultation publique n'a été menée, que ce soit auprès d'experts ou de Canadiens en général, avant ou depuis le dépôt de la LIAD. Cela signifie que ce texte n'a pas été examiné selon un éventail suffisamment large de points de vue. Plus fondamentalement, il manque de légitimité démocratique, lacune à laquelle le processus parlementaire actuel ne permet pas de remédier.

    Le ministre semble sensible à cette question. Lors de son témoignage ici, il s'est vanté du fait qu'ISDE avait tenu « plus de 300 rencontres avec des universitaires, des entreprises et des gens de la société civile sur le projet de loi ». Dans sa lettre subséquente, dans laquelle il vous fournit la liste de ces réunions, il dit qu'ISDE a déployé des efforts particuliers afin de nouer le dialogue avec des intervenants représentant divers points de vue.

    D'après mon analyse de cette liste de réunions, qui vous a été envoyée le 6 décembre, ces propos sont trompeurs. L'écrasante majorité des participants à ces réunions d'ISDE provenaient d'organisations commerciales. Il y a eu 223 réunions en tout, dont 36 avec des géants technologiques américains. Seulement neuf réunions rassemblant des organisations de la société civile canadienne ont eu lieu.

    Ce qui est le plus frappant, c'est l'absence complète d'organisations représentant les personnes que la LIAD est censée protéger le plus, c'est‑à‑dire les organisations dont les membres sont susceptibles d'être directement touchés par les applications de l'IA. Il s'agit de citoyens, d'Autochtones, de consommateurs, d'immigrants, de parents, d'enfants, de communautés marginalisées ainsi que de travailleurs ou de professionnels des secteurs de la santé, des finances, de l'éducation, de la fabrication, de l'agriculture, des arts, des médias, des communications et des transports, soit tous les domaines où l'IA est prétendument bénéfique.

    La LIAD viole les normes démocratiques d'une façon qui ne peut pas être corrigée par de seuls amendements. Ce texte doit donc être renvoyé en vue d'une refonte en bonne et due forme. Dans mon mémoire, je formule des suggestions sur la façon de faire cela avec souplesse, dans les délais initialement prévus pour la LIAD.

    Cependant, je suis conscient que la volonté politique commune d'aller de l'avant avec cette option n'existe peut-être pas à l'heure actuelle. Si vous décidez d'aller de l'avant avec cette version de la LIAD, je vous exhorte à en corriger à tout le moins les nombreuses graves lacunes relatives aux huit aspects suivants.

    Tout d'abord, séparer la LIAD des parties 1 et 2 du projet de loi C‑27 afin que chacun des sous-projets de loi puisse être étudié comme il se doit.

    Faire en sorte que le commissaire à l'IA et aux données soit indépendant d'ISDE, et qu'il dispose d'un effectif suffisant et d'un financement adéquat.

    Assujettir la LIAD à un cycle d'examen obligatoire, et exiger que tout renouvellement ou toute révision soit fondé sur des données probantes, éclairé par des experts et modéré de façon indépendante par une véritable consultation publique. Cela devrait comprendre une sensibilisation proactive des intervenants n'ayant pas participé aux réunions tenues à ce jour par ISDE sur le projet de loi C‑27, en commençant par les consultations relatives au règlement. Cela me rappelle l'expression connue selon laquelle si vous n'êtes pas invité à table, c'est que vous figurez au menu.

    Élargir la portée des préjudices au‑delà du soutien individuel pour inclure les préjudices collectifs et systémiques, comme d'autres vous l'ont mentionné.

    Fonder les exigences clés sur des principes solides et largement admis dans la législation, et non uniquement dans des règlements ou des annexes.

    Ancrer explicitement ce cadre fondé sur des principes dans la protection des droits fondamentaux de la personne et le respect du droit humanitaire international, conformément au traité en préparation du Conseil de l'Europe, auquel le Canada a contribué.

    Remplacer la notion inadéquate de système à incidence élevée par celle de système entièrement échelonné et fondé sur le risque, comme c'est le cas dans la loi sur l'IA de l'Union européenne.

    Dresser une liste très précise de systèmes interdits en raison des risques excessivement élevés qu'ils posent.

    Je pourrais continuer.

    Je vous remercie de votre attention. Je serai heureux de répondre à vos questions.

    Merci beaucoup, monsieur Clement.

     Je cède maintenant la parole à M. Papernot.

    Je vous remercie de m'avoir invité à comparaître devant vous aujourd'hui. Je suis professeur adjoint d'ingénierie informatique et d'informatique à l'Université de Toronto, membre du corps professoral de l'Institut Vector, où je suis titulaire d'une chaire CIFAR d'IA au Canada, et membre du corps professoral affilié de l'Institut Schwartz Reisman.

    Mon domaine d'expertise se trouve à l'intersection de la sécurité informatique, de la protection des renseignements personnels et de l'intelligence artificielle.

    Je vais d'abord commenter la Loi sur la protection de la vie privée des consommateurs proposée dans le projet de loi C‑27. Les arguments que je vais présenter sont le fruit de discussions avec les professeurs Lisa Austin, David Lie et Aleksandar Nikolov, des collègues.

    Je ne crois pas que, dans sa forme actuelle, la loi comporte les bonnes mesures pour inciter à l'adoption de normes en matière d'analyse de données préservant la confidentialité. Plus précisément, le fait que la loi s'appuie sur la dépersonnalisation comme outil de protection de la vie privée est inopportun. Par exemple, comme vous le savez, la loi permet aux organisations de divulguer des renseignements personnels à des fins socialement bénéfiques si ces renseignements sont dépersonnalisés.

    En tant que chercheur dans ce domaine, je dirais que la dépersonnalisation crée un faux sentiment de sécurité. En effet, nous pouvons utiliser des algorithmes pour repérer des modèles dans les données, même lorsque des mesures ont été prises pour cacher ces modèles.

    Par exemple, l'État de Victoria, en Australie, a publié des données sur le transport en commun qu'on avait dépersonnalisées en remplaçant le numéro d'identification du titulaire de chaque carte à puce par un numéro d'identification aléatoire unique. Le raisonnement était qu'il n'y a pas d'identification sans identificateur. Cependant, des chercheurs ont cartographié leurs propres déplacements en utilisant leur carte chaque fois qu'ils montaient dans un véhicule de transport en commun et qu'ils en descendaient, et ils ont pu se réidentifier eux-mêmes. Forts de cette connaissance, ils ont ensuite appris les numéros d'identification aléatoires attribués à leurs collègues, ce qui leur a permis de se renseigner sur n'importe quel autre déplacement — voyage de fin de semaine, visite chez le médecin — que la plupart des gens considéreraient comme confidentiel.

    En tant que chercheur dans ce domaine, cela ne me surprend pas.

    De plus, l'IA peut automatiser la recherche de ces modèles.

    L'IA permet de réidentifier une grande partie des personnes au sein de l'ensemble de données. Ainsi, la loi est problématique pour ce qui est de réglementer la protection de la vie privée dans un monde d'IA.

    Au lieu de la dépersonnalisation, la communauté technique a adopté différentes approches en matière d'analyse des données confidentielles, notamment la confidentialité différentielle. Il a été démontré que la confidentialité différentielle fonctionne bien avec l'IA et peut préserver la confidentialité, même si certaines choses sont déjà connues au sujet des données. Cela aurait protégé la vie privée des collègues dans l'exemple que j'ai donné plus tôt. Comme la confidentialité différentielle ne dépend pas de la modification de renseignements personnels, cela crée un décalage entre les exigences de la loi et les nouvelles pratiques exemplaires techniques.

     Je vais maintenant commenter la portion du projet de loi C‑27 proposant une loi sur l'intelligence artificielle et les données. Le texte initial était ambigu quant à la définition d'un système d'intelligence artificielle et d'un système à incidence élevée. Les amendements proposés en novembre à ce sujet semblent aller dans la bonne direction. Cependant, la loi proposée doit être plus claire en ce qui concerne la gouvernance des données.

    À ce moment‑ci, d'importants aspects de la gouvernance des données pouvant donner lieu à des systèmes d'IA nuisibles sont absents du projet de loi. Par exemple, une gestion inadéquate des données se traduit par un ensemble de données non représentatif. Mes collègues et moi avons illustré ce risque au moyen de données synthétiques utilisées pour entraîner des systèmes d'IA générant des images ou du texte. Si on alimente ces systèmes d'IA au moyen de leurs propres résultats, c'est‑à‑dire pour entraîner de nouveaux systèmes d'IA, ces nouveaux systèmes fonctionnent mal. Pour utiliser une analogie, la photocopie d'une photocopie n'est plus fiable.

    De plus, ce phénomène peut toucher particulièrement des populations déjà exposées au risque d'être sujettes à des biais nuisibles liés à l'IA, ce qui peut propager la discrimination. J'aimerais que des considérations plus larges concernant la gestion des données figurent dans la loi.

    Pour revenir au projet de loi lui-même, je vous encourage à envisager de produire des documents de soutien pour faciliter sa diffusion. L'IA est un domaine qui évolue très rapidement, et il n'est pas exagéré de dire qu'il y a de nouveaux développements chaque jour. En tant que chercheur, il est important que j'explique à la prochaine génération de talents en IA ce que signifie la conception d'une IA responsable. Lorsque vous mettrez la dernière main au projet de loi, veuillez tenir compte des documents en langage clair que des universitaires et d'autres peuvent utiliser en classe ou en laboratoire. Ce sera très utile.

    Enfin, puisque le Comité travaille sur la réglementation de l'intelligence artificielle, j'aimerais faire remarquer que le projet de loi n'aura pas de répercussions s'il n'y a plus d'écosystème de l'intelligence artificielle à réglementer.

    Si j'ai choisi le Canada en 2018 plutôt que les autres pays qui essayaient de me recruter, c'est parce que le Canada m'a offert le meilleur environnement de recherche possible pour faire mon travail sur l'IA responsable, grâce à la Stratégie pancanadienne en matière d'IA. Sept ans après le lancement de la stratégie, le financement de l'IA au Canada n'a pas suivi le rythme. D'autres pays offrent un financement plus important aux étudiants et une meilleure infrastructure informatique, deux éléments nécessaires pour demeurer à l'avant-garde de la recherche sur l'IA responsable.

    Je vous remercie de vos travaux, qui posent les fondements d'une intelligence artificielle responsable. J'ai cru important de souligner ces quelques pistes d'amélioration dans l'intérêt de l'intelligence artificielle au Canada.

    Je reste à votre disposition pour répondre à vos questions.

    Merci beaucoup.

    Pour lancer la discussion, je vais céder la parole à Mme Rempel Garner.

    Vous avez six minutes.

    Merci, monsieur le président.

    Bienvenue à tous.

    Mes questions s'adressent à M. Papernot et M. Clement.

    Elles porteront plus particulièrement sur le volet du projet de loi relatif à la LIAD.

    Comme vous l'avez dit, monsieur Papernot, depuis la dernière fois que le Comité a débattu de ce projet de loi, il y a eu plusieurs exemples concrets de situations où l'absence d'une structure réglementaire ou la non-application des lois en vigueur ont créé de l'ambiguïté et des risques de préjudices sociaux.

    J'aimerais commencer par la question des lois canadiennes sur la distribution d'images intimes. L'Association du Barreau canadien et de nombreux autres professionnels du droit ont dit que les lois canadiennes actuelles ne protègent peut-être pas adéquatement les femmes, particulièrement en ce qui a trait à la diffusion en ligne d'hypertrucages et d'images de nu issues d'hypertrucages.

    Croyez-vous que le projet de loi comporte un échéancier ou des dispositions qui protégeraient les Canadiens à cet égard?

    Je vais commencer par M. Clement.

    Je vous remercie de cette question.

    Je ne crois pas qu'il comporte un échéancier pour ce qui est des préoccupations que vous soulevez, mais cela me rappelle qu'il y a un projet de loi sur les préjudices en ligne qui est en préparation depuis des années et qui a fait l'objet de vastes consultations auprès de groupes de citoyens…

    Mon temps est limité. Je m'intéresse plus particulièrement au projet de loi à l'étude. Croyez-vous que ce projet de loi comporte des dispositions adéquates à cet égard?

    Je dirais que non.

    Merci.

    Monsieur Papernot, vous avez la parole.

    Je dirais que le projet de loi n'est pas assez clair en ce qui concerne la surveillance des résultats des systèmes d'IA. C'est donc très difficile, car nous n'avons pas une très bonne idée de la façon dont les différents utilisateurs d'un système d'IA pourraient assembler les résultats qu'ils obtiennent respectivement et ensuite adopter un comportement nuisible.

    Cela témoigne du fait que le projet de loi ne crée pas un environnement dans lequel les professionnels de l'application de la loi pourraient utiliser adéquatement des dispositions d'exécution dans l'éventualité où la portée des lois existantes concernant, disons, la distribution d'images intimes était élargie de façon à englober l'intelligence artificielle. Est‑ce exact?

    C'est exact.

    Je passerais maintenant à la propriété intellectuelle.

    Depuis la dernière fois que le Comité s'est penché sur le projet de loi, le New York Times a intenté une poursuite très importante contre OpenAI et Microsoft concernant l'utilisation de sa propriété intellectuelle dans la création et l'entraînement de grands modèles linguistiques. Selon vous, les décisions relatives à la propriété intellectuelle ou la détermination de la propriété intellectuelle devraient-elles être laissées aux tribunaux ou devraient-elles plutôt être traitées dans un cadre juridique plus formel?

    Je n'ai pas les compétences voulues pour me prononcer là‑dessus. Ce que je dirais, c'est qu'il est actuellement impossible, sur le plan technique, de remonter, à partir d'une prédiction faite par un modèle, jusqu'aux données qui ont servi à l'entraîner. Il serait très difficile de remonter jusqu'aux éléments délictueux des données d'entraînement faisant l'objet de revendications de droits d'auteur.

    Croyez-vous, cependant, que cela démontre la nécessité d'une surveillance parlementaire ou législative en ce qui concerne la définition de ce qui constitue de la propriété intellectuelle dans le domaine de l'entraînement de grands modèles linguistiques?

    Je ne suis pas certain.

    Je vais donner la parole à M Clement.

    Comme le témoin l'a dit dans son exposé, le projet de loi ne met pas suffisamment l'accent sur la gestion, et la gestion des données d'entraînement est un élément extrêmement important. Si, comme il vient de le dire, on ne peut pas remonter jusqu'à l'origine de quelque chose, c'est un gros problème en soi. Le dossier du New York Times sera très important.

    Croyez-vous que le Comité pourrait faire quelque chose — ou que le gouvernement devrait faire quelque chose — pour qu'il y ait, là encore, un impératif législatif, plutôt que de simplement laisser le soin aux tribunaux d'interpréter les lois, qui sont des lois qui ne prévoyaient pas ce type de technologie?

    Le droit d'auteur n'est pas mon domaine d'expertise, mais je dirais qu'il serait bon de mettre à jour la Loi sur le droit d'auteur et de la rattacher au projet de loi.

     [Inaudible] ce projet de loi pour remédier au problème auquel les Canadiens font face en ce qui concerne la réglementation de l'IA?

    Je suis désolé, j'ai manqué la première partie de votre question.

    Diriez-vous que cet aspect particulier démontre en quoi le projet de loi ne remédie pas adéquatement à certains des problèmes auxquels le Canada fait face en matière de gouvernance de l'IA ou qu'il ne fournit pas un cadre réglementaire adéquat et complet à cette fin?

    Je crois qu'il s'agit ici d'un élément qui fait défaut ou qui doit être développé.

    Monsieur Papernot et monsieur Clement, en deux mots, croyez-vous que ce projet de loi est à la hauteur, qu'il est adéquat, qu'il est récupérable?

    Monsieur Clement, vous aviez des opinions bien arrêtées à ce sujet.

    Oui, j'ai dit clairement que, selon moi, ce projet de loi sur l'IA n'est pas adéquat. Quant à savoir s'il est récupérable, cela dépend de vos critères. De toute évidence, il pourrait être amélioré à de nombreux égards.

    Croyez-vous aussi que le Canada court le risque — vu ce caractère nettement inadéquat — d'adopter des systèmes de réglementation qui sont mis en place dans l'Union européenne ou aux États-Unis dans le cadre d'accords commerciaux comme l'Accord Canada—États-Unis—Mexique et l'Accord économique et commercial global? Nous n'avons pas vraiment réfléchi à nos propres cadres nationaux avant d'examiner en quoi les dispositions de ces accords commerciaux pourraient nous forcer à adopter les règlements en matière de propriété des données ou d'IA d'autres grandes administrations.

    Je vais laisser mon collègue répondre à cette question.

    Pour ce qui est du projet de loi, je ne pense pas qu'il soit adéquat dans sa forme actuelle.

    J'ai une très brève question.

    Soyez très brève, madame Rempel Garner.

    Êtes-vous favorable à l'accélérationnisme efficace?

    Il s'agit de la devise préconisée par Marc Andreessen et Yann LeCun selon laquelle nous devrions tous laisser l'IA à l'autoréglementation de l'industrie et abandonner l'humanité aux vices de ses bienfaisants seigneurs de l'IA.

    Absolument pas.

    Je pense que nous avons tous les deux dit très clairement que davantage d'intervenants doivent être consultés dans le cadre de ce processus.

    Je suis du même avis.

    Merci, monsieur le président.

    Merci beaucoup.

    Monsieur Gaheer, vous avez la parole.

    Merci, monsieur le président. Je remercie tous les témoins d'avoir pris le temps de venir ici.

    Ma première question s'adresse à Mme Bednar.

    Dans votre déclaration préliminaire, vous avez utilisé l'expression « collusion algorithmique ».

    Pourriez-vous nous en dire plus sur ce dont il s'agit? Pensez-vous que cela se produit déjà et comment cela se voit‑il déjà?

    Je ferai de mon mieux.

    C'est un domaine qui offre des outils et des leviers complémentaires qui pourraient accompagner ce projet de loi jusque dans la Loi sur la concurrence. La Loi sur la concurrence comporte également des dispositions relatives à la publicité fausse et trompeuse qui, à mon avis, pourraient être utiles pour ce qui est de la tromperie que les gens constatent ou qu'ils subissent lorsqu'une décision ou un résultat généré par un algorithme leur est communiqué.

    En ce qui a trait à la collusion algorithmique, la question est la suivante: lorsque des systèmes communiquent entre eux pour fixer un prix ou dans le cadre d'un processus de soumission — on constate que Walmart et d'autres entreprises utilisent de plus en plus des systèmes algorithmiques pour négocier avec d'autres systèmes algorithmiques —, s'agit‑il d'une forme de collusion numérique que nous qualifierions d'inacceptable ou simplement d'un progrès sur le plan de l'efficacité ou de la capacité à négocier rapidement pour déterminer les prix ou d'autres résultats?

    Ce n'est pas mon principal domaine d'expertise. C'est un domaine qui m'intéresse et qui pique ma curiosité. J'ai fait des recherches à ce sujet. Je me ferai un plaisir de laisser la parole à d'autres témoins également.

    Quelqu'un d'autre veut‑il intervenir à ce sujet?

    L'exemple de la photocopie que j'ai utilisé dans ma déclaration préliminaire montre que l'interaction de multiples systèmes d'intelligence artificielle peut aboutir à un très mauvais rendement, car chaque système perd sa capacité de modéliser les phénomènes sous-jacents.

    Nous étudions actuellement cette interaction négative dans notre laboratoire. Cela n'aidera pas les gens qui risquent déjà de subir un préjudice lié à l'IA.

    Est‑ce que cela se produit déjà?

    Je suis avocat, mais je ne suis pas spécialiste du droit de la concurrence. Un exemple simple, c'est lorsque deux entreprises s'entendent pour fixer le prix du pain. Lorsque l'IA est en cause, est‑ce que cela laisse des traces? Y a‑t‑il des preuves montrant que cette collusion a eu lieu ou non?

    Je vois que M. Clement lève la main.

    Excusez-moi, je ne sais pas à qui vous vous adressez, car nous ne sommes pas sur le parquet.

    J'allais simplement réagir à l'idée de collusion algorithmique.

    Le principal problème, et je pense que cela le démontre, c'est que nous ne savons pas comment ces algorithmes sont utilisés. Tout cela est caché et exclusif.

    Le marché financier incite énormément les entreprises à tirer parti au maximum de leurs données. Il pourrait y avoir une collusion indirecte pour ce qui est de la création d'un environnement où l'amplification algorithmique, le renforcement algorithmique ou peu importe comment vous voulez appeler cela devient très puissant, mais demeure très opaque.

    Merci.

    Ma prochaine question s'adresse à M. Papernot.

    Dans votre déclaration préliminaire, vous avez mentionné que l'IA est un domaine où il y a chaque jour de nouveaux développements et qui est en constante évolution.

     Pouvez-vous nous en dire plus sur l'amendement proposé par le ministre au sujet des systèmes à incidence élevée?

    Pour la catégorie des systèmes à incidence élevée, il y aura une annexe. Il y a une liste préliminaire de systèmes à incidence élevée qui sera modifiée par voie de règlement de manière à ce qu'elle demeure souple à mesure que la technologie évolue.

    Voulez-vous dire quelques mots à ce sujet?

    Selon moi, l'un des problèmes que pose la désignation d'un système particulier comme étant un système à incidence élevée tient au fait qu'il faut garder à l'esprit que les systèmes d'IA peuvent avoir une incidence sur d'autres formes d'analyse algorithmique des données. Là encore, les résultats de ces systèmes peuvent avoir une incidence sur d'autres systèmes en aval. Je pense qu'il faut garder cela à l'esprit pour ne pas complètement déréglementer ceux qui ne sont pas considérés comme ayant une incidence aussi élevée.

    Quel système proposeriez-vous? Comment modifieriez-vous le libellé actuel de la loi?

    Ce n'est pas mon domaine d'expertise.

    Cette question s'adresse à tous en général. Nous avons entendu beaucoup de comparaisons entre la réglementation de l'Union européenne et celle que nous proposons ici. En quoi la LIAD concorde‑t‑elle avec ce qui se fait dans l'Union européenne?

    Je dirais que le texte législatif de l'Union européenne pose un problème semblable, à savoir qu'il s'appuie trop sur la dépersonnalisation. Comme je l'ai mentionné dans ma déclaration, l'importance excessive qu'accorde le projet de loi sur la protection de la vie privée à la modification des renseignements personnels ne cadre pas avec les capacités de la technologie en cours de développement.

    Nous ne sommes plus dans un monde où nous protégeons les données en les modifiant. Nous protégeons les données en les analysant minutieusement, avec des garanties qui découlent de la façon dont les données sont analysées, et je pense donc que cela sous-tend tout le… Si vous examinez la LIAD et la Loi sur la protection de la vie privée des consommateurs, vous constaterez qu'elles dépendent trop de la dépersonnalisation pour être applicables dans un monde où l'on analysera les données au moyen de l'IA. Il en va de même pour d'autres lois, et il en va de même dans l'Union européenne.

    Merci.

     Merci beaucoup, monsieur Gaheer.

    Monsieur Garon, la parole est à vous.

    Merci, monsieur le président.

    Je remercie les témoins de leur présence.

    Professeur Papernot, vous avez parlé du fait qu'actuellement, rien dans le projet de loi ne garantit que l'anonymat sera préservé. Vous avez aussi parlé de la dépersonnalisation ou de l'anonymisation des données, par exemple. Ça me semble être des méthodes qui existaient avant l'avènement de l'intelligence artificielle, et que les économistes et les statisticiens ont utilisées. On met du bruit dans les données, on tire une régression et ça donne le même résultat.

     Comme vous l'avez dit, les algorithmes sont désormais capables de traiter les données de telle sorte que l'anonymat n'est plus garanti. Or la partie 1 du projet de loi est quand même très précise quant à ce qu'on considère comme des méthodes qui garantissent l'anonymat. Il me semble que la technologie évolue très rapidement. Ne devrait-il pas y avoir une réglementation plus vaste, afin de faire évoluer le cadre de ce qu'on considère comme des technologies qui garantissent l'anonymat à un rythme plus rapide que le rythme législatif?

    Je pense que le problème principal est que la législation ne parle que de l'anonymisation ou de la dépersonnalisation des données, qui ne sont pas les seules façons de protéger les renseignements personnels. En effet, on peut utiliser plusieurs autres techniques qui vont apporter de meilleures garanties, qui vont mieux protéger les personnes et qui vont permettre d'avoir des analyses plus utiles pour la société. Donc…

    Je me permets de vous interrompre, monsieur Papernot.

    Le problème que j'ai soulevé est le suivant: le projet de loi énumère des méthodes qui peuvent soi-disant garantir l'anonymat. Vous en avez nommé d'autres qui pourraient être incluses dans le projet de loi. Si nous nous reparlions dans cinq ans, pensez-vous que vous pourriez nous parler de nouvelles méthodes, de méthodes qui n'existent pas aujourd'hui?

    Je ne recommande pas d'autres méthodes qui vont permettre d'obtenir l'anonymat. Je propose plutôt d'autres façons de protéger les renseignements personnels qui ne nécessitent pas le fait d'arriver à un ensemble de données anonymisées.

    En fait, le raisonnement est erroné: il est impossible d'anonymiser des données, puisqu'on pourra toujours les identifier à nouveau, ce qui a été démontré scientifiquement. Le problème, c'est qu'on ne peut pas modéliser ce qui est déjà connu sur les individus qu'on essaie de protéger. J'ai donné l'exemple des données de transport; les gens avaient déjà des informations sur leurs collègues et savaient à quels moments de la semaine ceux-ci avaient pris l'autobus. C'est ce qu'ils utilisaient pour désanonymiser les données.

     Je comprends.

    Ce que je demande, c'est que l'on considère toutes les autres approches qui ne nécessitent pas de modifier les données, mais qui essaient plutôt de modifier l'analyse des données. On peut continuer à utiliser les données, mais en les analysant différemment.

    Selon vous, cela ne figure pas dans le projet de loi sous sa forme actuelle.

    Cela ne figure pas du tout dans le projet de loi actuel. Les techniques les plus poussées et les plus avancées sur lesquelles on fait des recherches aujourd'hui ne sont pas compatibles avec un projet de loi…

    Puisque mon temps de parole file, j'aimerais vous poser une question. Seriez-vous prêt à déposer au Comité une note explicative relativement à vos suggestions à cet égard?

    Oui, bien sûr. J'ai un exemple écrit de ce que je veux dire; je peux le transmettre au Comité.

    Merci.

    J'aimerais maintenant revenir sur quelque chose qui peut sembler anodin. Ma collègue Mme Rempel Garner vous a posé des questions et a parlé du droit d'auteur lorsque notre visage est utilisé.

    Je comprends que vous n'avez peut-être pas l'expertise nécessaire, mais vous avez dit qu'il n'était pas toujours possible, à partir du résultat du modèle, d'identifier les visages utilisés. Néanmoins, il y a quand même des problèmes liés au fait qu'on ne sait pas ce qui est fait avec son visage.

    Je vous pose une question tout à fait naïve. Si un enfant naît demain matin — il n'a donc jamais été identifié sur Internet — me suggéreriez-vous de mettre son visage sur Internet, si on tient compte de la réglementation actuelle?

    Non.

    Merci beaucoup. Ça envoie un message clair quant à la confiance qu'un expert tel que vous peut avoir en ce qui a trait à la réglementation actuelle. Il y a même des gens qui disent que le présent projet de loi est inadéquat et qu'on devrait le déchirer et le réécrire.

    De la réglementation canadienne existe déjà. En effet, d'autres lois encadrent directement ou indirectement l'intelligence artificielle et la protection des données. Pensez-vous que, si le projet de loi C‑27 était amendé en fonction des avancées, il y aurait moyen d'améliorer ce que nous avons déjà, ou est-ce peine perdue?

    Le projet de loi peut être amélioré, bien sûr.

    Je vais revenir à ce que je disais plus tôt. Il faut tenir compte des nouvelles technologies qui ont été développées depuis 10 ou 15 ans et qui permettent de réfléchir à la protection des renseignements personnels et à la façon dont on analyse ces données. C'est ce qui permettra d'innover et de continuer à développer de nouveaux algorithmes et de nouveaux systèmes d'intelligence artificielle, tout en protégeant les individus dont les données sont utilisées pour créer ces systèmes.

    Il faut changer la partie de la loi qui impose que l'on modifie les données pour obtenir cette protection. C'est ce raisonnement qui n'est pas valide.

    Il faut qu'on se penche sur les modes d'analyse des données.

    C'est exact.

    Merci beaucoup.

    Merci, messieurs Papernot et Garon.

    Monsieur Masse, la parole est à vous.

    Merci, monsieur le président.

    Je vais commencer par nos invités qui témoignent par vidéoconférence pour les faire participer à la conversation, d'abord M. Clement, puis Mme Bednar.

    Monsieur Clement, vous avez mentionné le nombre de réunions, soit 223, auxquelles ont participé des représentants du secteur des affaires. M. Gaheer a posé une question que j'ai trouvé intéressante, et elle portait sur les algorithmes. Je me demande, si l'on se concentre uniquement sur les consultations auprès des entreprises… Par le passé, le Comité a examiné, par exemple, le prix de l'essence. Il s'agit d'une industrie verticalement intégrée où il n'y a pas de véritable concurrence parce que le raffinage est effectué par un groupe restreint de sociétés. En fait, une partie de l'essence de marque s'est essentiellement déplacée d'un marché à l'autre. Il y a aussi eu la fixation des prix du pain. Nous avons également reçu des représentants du Bureau de la concurrence à ce sujet. Les PDG nous ont même avoué qu'ils n'avaient même pas eu à s'entendre pour éliminer la rémunération des héros offerte au personnel des magasins d'alimentation. Ils l'ont tous éliminée le même jour. Comme par miracle, ils en sont arrivés à la même conclusion.

    Ma question est la suivante: est‑il possible, par l'entremise du secteur privé, je suppose, de créer des algorithmes qui réduiraient aussi davantage la concurrence? Il n'est même pas nécessaire qu'il y ait collusion s'il n'y a pas de concurrence, comme c'est le cas dans de nombreux marchés au Canada.

    J'aimerais entendre d'abord M. Clement au sujet des préoccupations soulevées par l'utilisation d'un plus grand nombre d'algorithmes pour définir le marché canadien au détriment des consommateurs.

    Commençons par les principaux éléments, surtout dans le contexte de l'IA. À l'heure actuelle, il n'y a que trois ou quatre entreprises qui ont les moyens financiers et techniques requis pour élaborer de grands modèles linguistiques. Vous avez donc dès le départ un marché très concentré avant d'aller beaucoup plus loin. Il y a peut-être de la concurrence entre certaines des adaptations qui découlent de cela, mais c'est l'orientation que prend l'industrie en général.

    Bien sûr, c'est très compliqué. Il y a beaucoup de choses qui se passent, mais nous sommes certainement dans une situation où les quelques grands acteurs — pensons à Amazon — ont tellement de pouvoir sur le marché qu'ils peuvent le façonner en fonction de leurs intérêts.

    J'espère que cela répond à votre question.

    Tout à fait. C'est un sujet que j'ai abordé dans le cadre d'échanges de correspondance et dans mes lectures, et je pense qu'il n'a pas beaucoup retenu l'attention.

    Je vais m'adresser à Mme Bednar au sujet du commissaire à l'IA.

    Je dois reconnaître le mérite du ministre. Des changements ont été apportés au Bureau de la concurrence. Le gouvernement actuel a augmenté le financement par rapport à celui offert par le gouvernement précédent. Il y a eu des changements modestes, mais nous avons encore beaucoup de chemin à faire, à mon avis, afin de protéger les consommateurs.

    Quant au commissaire à l'IA, je me demande comment nous devons nous y prendre pour faire en sorte qu'il demeure dans le coup à mesure que l'intelligence artificielle élargit ses horizons et, par-dessus le marché, qu'il dispose des bons outils et des bons pouvoirs d'application de la loi. C'est ce qui m'inquiète vraiment: que nous nous retrouvions avec un commissaire qui n'a pas la force et le budget nécessaires pour s'occuper de certaines des complications que nous rencontrons.

    Je crains moi aussi qu'il n'ait pas suffisamment de pouvoir ou qu'il n'ait pas les outils dont il a besoin et que nous voulons qu'il ait.

    Je tiens également à dire que bon nombre des dangers dont nous parlons sont exacerbés lors des périodes de décalage réglementaire où les nouvelles techniques commerciales à propos desquelles les lois sont ambiguës deviennent la nouvelle norme. À mesure que les algorithmes qui négocient avec les fournisseurs ou qui fixent les prix deviendront une nouvelle norme, il sera plus difficile pour l'État d'avoir la légitimité requise pour, disons, renégocier ou encore désigner en fin de compte cette façon de faire comme étant quelque chose qui peut être préoccupant.

    Je pense qu'il y a une tension naturelle liée au fait que le travail sur l'IA se fasse au sein d'ISDE, et à mesure qu'une partie de cette tension se manifestera de la même façon sur le marché concurrentiel, les Canadiens gagneraient à ce que cette personne ait un mandat plus solide et plus indépendant, ainsi qu'une voix plus indépendante.

    Il s'agit là de quelques brèves réflexions. Je sais que d'autres ont fait des suggestions plus substantielles au Comité à cet égard.

    C'est très utile. Je vous en suis reconnaissant.

    Je vais maintenant m'adresser à M. Papernot au sujet des nouvelles mesures d'application dans le secteur privé.

    Vous avez mentionné que le financement de la recherche sur l'IA n'avait pas suivi le rythme. Croyez-vous que le projet de loi devrait comporter des dispositions presque semblables à celles touchant les produits de la criminalité, et qu'une conduite donnant de tels résultats devrait peut-être servir à financer la recherche sur l'IA, plus précisément en vue de régler les problèmes que nous pourrions rencontrer?

    Comme vous le savez, il y a beaucoup de bonnes choses. À ce moment‑ci, nous nous concentrons sur les éléments négatifs, mais en même temps, je me demande comment nous pouvons suivre le rythme du secteur privé. S'il y a des problèmes, comment pouvons-nous financer les solutions à ces problèmes sans simplement refiler la facture à la population?

    C'est un peu en dehors de mon champ d'expertise, et je ne vous rendrais pas service en essayant de déterminer d'où devraient provenir les fonds. Ce que je dirais, c'est que nous avons besoin de beaucoup plus de financement si nous voulons maintenir le bassin de talents en IA qui sera nécessaire pour faire appliquer la loi, ne serait‑ce que les fonctionnaires qui auront besoin de la bonne expertise pour évaluer les réclamations qui sont faites au sujet des systèmes d'IA. Nous ne produirons pas suffisamment de talents en IA au Canada si les universités ne reçoivent pas davantage de financement à l'appui de cette tâche.

    Je n'ai probablement plus de temps, mais très rapidement, si le public canadien appuie le financement de la recherche sur l'IA et tout le reste, est‑ce que cela contribuerait à responsabiliser davantage les entreprises en IA quant à leur conduite envers le public si cette formation et ce soutien sont fournis pour leur procurer la main-d'œuvre nécessaire? Cela nous permettrait peut-être d'appliquer la méthode de la carotte et du bâton en matière d'IA éthique.

    Oui. Je pense que plus le projet de loi clarifie les choses, plus il est probable qu'il soutiendra les systèmes d'IA et l'écosystème de l'IA au Canada.

    Je sais que nous avons beaucoup de commanditaires du secteur privé à l'Institut Vector. L'une des choses qu'ils nous ont dites, c'est qu'ils veulent plus de clarté, car il s'agit souvent de petites structures. Ils constatent que le projet de loi prévoit beaucoup de pénalités, mais ils veulent pouvoir continuer d'innover au Canada et ne pas être attirés par d'autres pays où les choses sont claires pour ce qui est de la façon de gérer ce risque à long terme.

    Merci.

    Merci, monsieur le président.

    Merci, monsieur Masse.

    Avant de commencer le deuxième tour, chers collègues, je dois me rendre à la Chambre pour prendre la parole en faveur d'un projet de loi. Par conséquent, je demande le consentement unanime pour désigner Brian Masse comme président suppléant pour le reste de la réunion, si vous n'y voyez pas d'inconvénient.

    Des députés: D'accord.

    Le président: Je vois que j'ai le consentement unanime. Je vous laisse entre les mains compétentes de M. Masse.

    Je cède la parole à M. Williams pour cinq minutes.

    Merci, monsieur le président.

    Merci à nos témoins.

    Madame Bednar, je suis heureux de vous revoir. Merci de comparaître devant le Comité.

    J'aimerais parler avec vous de deux choses pour poursuivre au sujet de la concurrence. Premièrement, le ministre a proposé des amendements — et je ne sais pas si vous les avez vus — qui ont pour effet d'élargir la portée du projet de loi. L'un d'eux consiste à ajouter des définitions générales de l'intelligence artificielle dans la loi. Ce que je cherche vraiment à savoir, c'est si cela nuit à la compétitivité.

    Deuxièmement, lors d'une réunion précédente, nous avons reçu un témoin, Todd Bailey, qui nous a dit que les entreprises établies avaient délibérément recours à une tactique pour causer une capture réglementaire, verrouillant un module de réglementation touchant leurs activités et leurs produits et écartant les nouveaux concurrents.

    Pouvez-vous nous parler de ces deux éléments en lien avec la concurrence?

    Pour ce qui est de notre manque de concurrence si nous allons de l'avant avec cette mesure législative, il y a en effet une certaine concurrence sur le plan de la conception des politiques. Je pense qu'à l'avenir, nous devrions nous attendre à une plus grande harmonisation ou diffusion des politiques dans le domaine de la protection de la vie privée. Ce que nous voyons maintenant, c'est en quelque sorte ce contexte fédéraliste mondial où différentes administrations, pour diverses raisons et dans leurs divers contextes géopolitiques, comme l'a souligné la députée Rempel, proposent des cadres très particuliers. Au Canada, notre fédéralisme est habituellement une force pour ce qui est de la conception de nos politiques. La pire chose que nous puissions faire maintenant, c'est traiter la politique publique comme si elle était encore coulée dans le béton. Il s'agira d'un document évolutif que nous devrions examiner, mettre à jour et perfectionner, en particulier au fur et à mesure que cette technologie continuera de s'améliorer.

    Je vais revenir à la question du consentement que nous venons d'évoquer. Lorsque les plus grandes entreprises disent qu'elles ont le droit d'accéder à tout ce qui se trouve sur le Web public afin d'éclairer leurs modèles et leurs décisions d'affaires, comment une entreprise peut-elle rivaliser avec ce genre de politique?

    Enfin, ne traitons pas la vie privée comme si elle était sous-réglementée ou non réglementée dans notre économie numérique. L'économie numérique est très réglementée, surtout par des acteurs privés.

    L'aspect de la capture réglementaire est toujours une préoccupation dans la conception des politiques lorsqu'on écoute trop certains acteurs, bien sûr. Cependant, aussi réel que puisse être le problème de la capture réglementaire, j'aime à croire au plus profond de mon cœur que tous les acteurs qui présentent des idées et des préoccupations le font dans le meilleur esprit possible.

    J'espère que cela vous est utile.

    Merci, madame Bednar.

    Monsieur le président, je vais céder le reste de mon temps à M. Généreux.

     Je remercie mon collègue ainsi que les témoins.

    Messieurs Clement et Papernot, vous n'avez peut-être pas suivi l'ensemble des témoignages depuis le début de cette étude, mais plusieurs personnes ont parlé des consultations.

    Monsieur Clement, vous avez dit que le ministre avait mené à peu près 300 consultations, mais seulement auprès d'entreprises. Plusieurs personnes nous ont dit que ce projet de loi n'était pas bien écrit, notamment parce qu'il n'y avait pas eu de consultation préalable plus vaste. Pouvez-vous me confirmer que j'ai bien compris ce que vous avez dit à ce sujet?

    Oui.

    Monsieur Papernot, êtes-vous du même avis?

    Il faudra que les consultations continuent une fois la loi en vigueur pour que l'on comprenne les difficultés liées à sa mise en oeuvre en fonction des technologies et de leur évolution dans le temps.

    Oui, je comprends.

    L'autre élément qui a été soulevé à plusieurs reprises, c'est que la loi comprend deux volets à la fois complémentaires et tout à fait distincts: l'intelligence artificielle, et tout ce qui concerne la vie privée. Il y a donc des liens à faire entre les deux.

    D'un autre côté, comme vous l'avez mentionné, on doit s'adapter aux nouvelles technologies de l'intelligence artificielle, qui évoluent rapidement, ainsi qu'aux réglementations mises en place en Europe, aux États‑Unis et un peu partout dans le monde.

    La majorité des experts qui sont venus témoigner, comme vous, depuis le début de l'étude de ce projet de loi nous ont dit qu'il aurait fallu qu'il y ait des consultations bien avant, et qu'à la lumière de celles-ci, on n'aurait probablement pas combiné ces deux éléments dans le même projet de loi.

     Aujourd'hui, nous sommes cependant en train d'étudier un projet de loi comportant deux éléments qui, selon la majorité des gens, devraient être séparés. Croyez-vous vous aussi qu'on devrait les séparer, que l'intelligence artificielle est un élément extrêmement important qu'il faudrait traiter de façon indépendante, et qu'il devrait y avoir des consultations beaucoup plus vastes que ce qui a été fait jusqu'à maintenant?

    Je suis d'accord sur le fait que l'intelligence artificielle est une façon d'analyser des données, mais qu'il y a plein d'autres façons de le faire. On a donc besoin d'une réglementation en matière de respect de la vie privée, au même titre que pour l'intelligence artificielle. Pour cette dernière, la partie du projet de loi C‑27 qui en traite parle beaucoup du respect de la vie privée, mais il y a plein d'autres façons de…

    C'est l'aspect le plus important.

    Bien entendu.

    Je comprends.

    Merci, monsieur Généreux.

    Voulez-vous une réponse rapide?

    Oui, j'aimerais entendre M. Clement.

    Oui. J'ai dit qu'il y a malheureusement peu de consultations concernant la LIAD. Je crois qu'une bonne partie des problèmes que nous constatons par rapport à cette loi auraient pu être réglés si les gens avaient pu venir et présenter leurs différents points de vue.

    Qu'est‑ce qu'on fait maintenant? Je pense qu'il serait utile de la diviser. Je ne sais pas si elle peut être modifiée. Ce n'est pas à moi de décider, mais à ce stade‑ci, je pense que, si elle est adoptée, nous devrions y intégrer un processus d'examen afin que, de façon continue, nous puissions fournir une mise à jour générale, comme d'autres l'ont dit.

    Merci beaucoup.

    Nous passons maintenant à Mme Lapointe, pour cinq minutes.

    Merci monsieur le président.

    Je tiens à féliciter M. Garon pour l'adoption de son projet de loi plus tôt cet après-midi à la Chambre.

    Ma question s'adresse à M. Papernot.

    Lundi, nous avons entendu Gillian Hadfield, présidente de l'Institut Schwartz Reisman. Dans son témoignage devant le Comité, elle a dit que le projet de loi en question contribue beaucoup à lutter contre les préjudices individuels, mais elle a aussi laissé entendre qu'il ne traite pas adéquatement des préjudices ou des risques sur le plan systémique, par exemple les échanges sur nos marchés financiers.

    La question que j'aimerais vous poser est la suivante: comment l'introduction de l'intelligence artificielle dans ces systèmes influe‑t‑elle sur notre capacité de contrôler et d'assurer la fiabilité de nos marchés financiers ou de nous protéger contre les comportements antitrust et de maintenir la confiance dans nos systèmes judiciaires?

    Je n'ai pas d'expertise dans les marchés financiers. Ce que je peux vous dire, c'est que les systèmes d'intelligence artificielle manquent de transparence. Il est très difficile de comprendre comment les systèmes d'intelligence artificielle arrivent à des prédictions précises à partir des données dont ils tirent leur formation. Il serait très difficile de comprendre comment ils ont extrait des données financières historiques, par exemple, pour faire les prédictions qu'ils font sur le marché actuel. C'est probablement le principal problème.

    L'autre problème que je vois, c'est qu'il va falloir expliquer aux humains comment ces systèmes d'intelligence artificielle font leurs prédictions. Encore une fois, il s'agit d'un problème très difficile à résoudre avant d'en arriver à une technologie capable de le faire, et nous risquons d'assister à quelque chose de similaire à ce que nous avons connu avec l'écoblanchiment. On peut rencontrer des problèmes similaires dans les systèmes d'IA, puisque la manière dont leurs prédictions sont justifiées peut être déconnectée de la manière dont les prédictions sont faites par les systèmes d'IA, ce qui peut donner lieu à des allégations trompeuses selon lesquelles ils sont impartiaux, et ainsi de suite.

    Je pense que ces deux aspects sont pertinents en ce qui concerne les marchés financiers en particulier.

    Pouvez-vous donner au Comité votre avis d'expert sur la façon de légiférer sur ces préjudices systémiques de façon à suivre l'évolution de la technologie? La responsabilité devrait-elle incomber à la conception et aux concepteurs de la technologie?

    Je pense que ce qui importe, c'est d'avoir une conversation. Un exemple qui me vient à l'esprit est celui de l'industrie aérospatiale, où il existe un processus très rigoureux visant à déceler les erreurs qui se produisent pendant le déploiement. C'est ce qu'il nous manque dans l'industrie de l'intelligence artificielle, c'est‑à‑dire d'avoir un protocole très clair sur la façon de déceler les bogues dans les algorithmes au fur et à mesure qu'ils se produisent, afin que nous puissions trouver des solutions en tant qu'ingénieurs, mais aussi mettre en œuvre les mesures législatives appropriées pour appuyer ces solutions.

    Je vous laisse le soin de voir comment nous pourrions nous inspirer de secteurs réglementés tels que l'industrie aérospatiale.

    Je vois que M. Clement a levé la main. Pourrions-nous l'entendre à ce sujet?

    Je vais vous donner une minute de mon temps de parole.

    C'est une question vraiment cruciale. Nous avons entendu dire que les systèmes d'intelligence artificielle ont un comportement imprévisible, et aussi que nous ne pouvons pas comprendre, ou nous ne pouvons pas expliquer, de quelle façon ils sont parvenus à ces résultats. Donc, il s'agit là de deux problèmes importants.

    En plus d'avoir des conversations et d'être ouverts sur le sujet, nous devons appliquer une sorte de principe de précaution et de reddition de comptes, de sorte que les organisations qui les mettent en œuvre soient responsables et qu'elles doivent prendre des mesures préalables avant de commencer à faire des expériences sur nous.

    L'industrie aérospatiale dispose de systèmes bien conçus, parce que lorsqu'un avion s'écrase, tout le monde est au courant, et c'est terrible. Lorsqu'un système d'intelligence artificielle, et il ne s'agit pas nécessairement d'un tel système, mais lorsqu'un système de réseau numérique complexe fonctionne mal, les problèmes sont répartis, et il est très difficile de les analyser. Je pense que la situation est pire que celle de l'aérospatiale.

    Merci.

    Monsieur Papernot, nous avons déjà constaté de nombreuses atteintes à la vie privée liées aux systèmes en ligne. Que devrions-nous savoir au sujet de l'escalade de ces types d'atteintes, à la lumière de votre travail approfondi dans les domaines de la protection de la vie privée, de la sécurité et de l'apprentissage machine?

    Qu'entendez-vous par escalade?

    L'escalade des types d'atteintes que nous constatons.

    Je vois.

    Encore une fois, cela nous ramène à ce que je disais au sujet de la question de mettre l'accent sur les types précis de données qui font l'objet de fuites par rapport à la façon dont ces données sont analysées. Comme il y a de plus en plus de fuites de données, cela signifie que des personnes malveillantes ont accès à un nombre croissant de renseignements sur des individus. Elles peuvent ensuite trouver un fil conducteur grâce à ces fuites de données.

    Il leur est ainsi plus facile d'identifier des gens à nouveau à partir de données qui ont été protégées par la dépersonnalisation. En revanche, si nous nous concentrons plutôt sur les algorithmes qui sont utilisés pour analyser ces données, nous pouvons nous assurer que les résultats de l'analyse ne causeront pas la fuite des renseignements supplémentaires sur les personnes. C'est de cette façon que nous contrôlerons la quantité de renseignements sur les individus qui sont accessibles à des entités malveillantes. Il s'agit en fait de ne plus essayer de modifier les données elles-mêmes, mais plutôt de se concentrer sur la manière dont nous les analysons.

    Merci.

    Je suis désolé, mais votre temps est écoulé. Je vous ai donné une partie de mon temps également.

    M. Garon a été très patient. C'est aussi une journée particulièrement excitante pour lui.

    Félicitations pour l'adoption de votre projet de loi à la Chambre. C'est tout un exploit.

     Merci, monsieur le président.

    Je vais m'adresser à vous, professeure Bednar. Aux XIX^e et XX^e siècles, des industries ont beaucoup vanté les bénéfices d'un libre marché, sans aucune réglementation. Ça a mené à de grandes fortunes, à de vastes monopoles, ainsi qu'à des abus à l'endroit des consommateurs.

    Tout ceci a donné lieu à des réglementations historiques. Il y a d'abord les lois antitrusts que nous connaissons aujourd'hui et les grandes lois sur la protection des consommateurs. Or, avec l'industrie de l'intelligence artificielle qui avance à une vitesse exponentielle, j'ai l'impression que nous avons besoin d'encadrement pour que le marché fonctionne.

    Je vais vous citer en anglais, une langue que j'emploie rarement. Vous avez dit plus tôt: « Smart regulation clarifies markets ».

    En français, on dirait qu'une réglementation intelligente permet de mieux faire fonctionner les marchés. Comme on le sait, c'est en quelque sorte la base, en science économique.

    Pensez-vous que, dans ce contexte, la meilleure solution est que cette industrie et le marché se réglementent eux-mêmes? À votre avis, sommes-nous à un stade du développement de l'intelligence artificielle où la réglementation, considérée d'un point de vue historique, est aussi importante qu'ont pu l'être les lois antitrusts à une certaine époque?

    Non, je ne suis pas en faveur d'une autoréglementation prolongée. L'absence de réglementation que nous avons constatée est en grande partie le produit de l'approche adoptée par les États-Unis à la fin des années 1990, qu'on a notoirement qualifiée d'innovation sans permission. Nous avons fait un pas en arrière, et je pense que le Canada a fait quelque peu écho à cela.

    Je comprends que les entreprises ont souvent leurs propres pratiques en matière de politiques, mais il est maintenant temps pour le Canada de fixer officiellement la barre et de continuer d'apprendre du secteur privé, des grandes entreprises, des petites entreprises et, bien sûr, d'un éventail d'acteurs de la société civile et…

     Professeure Bednar, je me permets de vous interrompre, parce que le temps de parole se fait très rare. Cela dit, le président est très généreux.

    Pensez-vous que, dans sa mouture actuelle, le projet de loi C‑27 est trop permissif en matière d'autoréglementation? Devrait-on plutôt se fier à la réglementation gouvernementale, par exemple?

    Je pense qu'en raison de son envergure, le projet de loi empêche une autoréglementation pure par les entreprises. Il demande aux entreprises de se conformer à des façons de faire particulières qui leur coûtent quelque chose et qui entraînent des coûts associés à ces nouvelles normes.

    Je ne pense pas qu'il propose ou inclue une autoréglementation pure en ce qui concerne la protection de la vie privée et l'utilisation des données.

    Merci beaucoup.

    Nous passons maintenant à M. Généreux.

    Vous disposez du temps qui reste, soit environ trois minutes et demie.

    Merci, monsieur le président.

    Monsieur Papernot, plusieurs témoins nous ont dit qu'ils n'avaient pas été consultés avant le dépôt du projet de loi, même si le ministre s'est vanté d'avoir consulté 300 organisations. C'est notamment ce qu'a dit une dame — j'ai malheureusement oublié son nom — qui représentait une organisation de défense des droits des femmes.

    Plus tôt, ma collègue Mme Michelle Rempel Garner parlait des hypertrucages, de la manipulation des images. Je pèse mes mots. Comme on l'a vu il y a quelques jours, Taylor Swift s'est fait arnaquer. En effet, on a utilisé son image. Le projet de loi actuel protège-t-il véritablement les femmes?

    Je vous suggère de consulter les populations touchées par les biais qui vont être amplifiés par les systèmes d'intelligence artificielle, parce que je ne pense pas être en position de commenter les risques.

    Monsieur Clement, quel est votre avis sur la question?

    Je dirais aussi qu'il faut que vous parliez aux personnes qui sont touchées.

    Je crois que c'est une représentante du FAEJ qui a fait ce commentaire. Toutefois, personnellement, je ne crois pas que le projet de loi prévoie cela. Ce n'est pas une chose à laquelle nous aurions pensé ou que nous aurions prévu… avoir ce moyen particulier permettant aux groupes touchés d'exprimer leurs préoccupations.

    Merci.

    Je vais laisser le reste de mon temps de parole à M. Vis.

    Il vous reste 45 secondes. C'est bon.

    Très rapidement, monsieur Papernot, le projet de loi n'interdit pas au gouvernement de bannir un système d'intelligence artificielle susceptible de causer du tort. Le projet de loi prévoit des sanctions pécuniaires.

    Pensez-vous que nous devrions envisager d'accorder au commissaire ou au ministre le pouvoir de bannir certains systèmes d'intelligence artificielle lorsqu'il est prouvé qu'ils nuisent à la société canadienne ou à des particuliers?

    Je pense qu'il est plus important de réfléchir à la façon dont nous pouvons soutenir une intelligence artificielle responsable que de trop nous concentrer sur les sanctions, parce que certaines des applications de l'intelligence artificielle sont socialement bénéfiques. L'ouverture en science a permis d'améliorer considérablement l'intelligence artificielle et son degré de responsabilité.

    Je mettrais l'accent sur cet aspect en particulier.

    Merci beaucoup.

    Sur ce, chers collègues, nous allons conclure notre première séance.

    Je tiens à remercier de leur participation les témoins en ligne ainsi que notre témoin ici présent.

    Nous allons suspendre brièvement la séance et nous préparer pour la prochaine heure.

    Merci.

    Chers collègues, nous allons commencer. Nous avons jusqu'à 20 heures.

    Conformément à la motion adoptée le 7 novembre, le Comité reprend l'étude de l'enquête et les révélations récentes sur Technologies du développement durable Canada.

    J'aimerais souhaiter la bienvenue à notre témoin d'aujourd'hui, Mme Lawrence, ancienne présidente-directrice générale de Technologies du développement durable Canada.

    Madame Lawrence, comme vous le savez, vous avez cinq minutes pour faire une déclaration préliminaire. Veuillez commencer, et merci encore une fois d'être venue témoigner devant le Comité aujourd'hui.

    Merci, monsieur le président, et bonjour, mesdames et messieurs les députés. Je devrais plutôt dire bonsoir.

    Comme on l'a dit, je m'appelle Leah Lawrence et je suis l'ancienne présidente-directrice générale de Technologies du développement durable Canada, ou TDDC. J'y ai travaillé de 2015 à 2023.

    Lorsque j'ai commencé à travailler à TDDC, l'organisation était sur le point de fermer ses portes, mais j'ai pu mettre en place une équipe qui l'a transformée. Nous sommes passés d'un dépassement de budget constant de 20 % à un budget sous-utilisé. Le vérificateur général du Canada et le Secrétariat du Conseil du Trésor nous ont félicités officiellement pour notre souplesse accrue, nos divers volets de financement et nos coûts indirects qui représentaient la moitié de ceux de programmes fédéraux comparables. Par conséquent, ISDE, c'est‑à‑dire Innovation, Sciences et Développement économique Canada, a augmenté le financement de TDDC de plus de 200 % pendant mon mandat.

    Au cours de la dernière année, j'ai passé beaucoup de temps à répondre à diverses demandes de renseignements à la suite des actions d'un dénonciateur. Cette situation et l'attention médiatique qui en a découlé ont eu de graves répercussions sur moi et sur l'organisation. J'ai eu l'impression que mon leadership était devenu une distraction qui empêcherait TDDC, une organisation à laquelle je me consacrais depuis plus de huit ans, de remplir son mandat. J'ai donc démissionné, même si j'avais la confiance soutenue du conseil d'administration de TDDC. Je souligne que, lorsque j'ai démissionné, je n'ai reçu aucune indemnité de départ, et que, comme les employés de TDDC ne sont pas des fonctionnaires, je n'ai pas reçu de pension du gouvernement.

    J'ai décidé de démissionner deux jours après avoir comparu devant le comité de l'éthique de la Chambre des communes, après avoir écouté avec incrédulité le témoignage de Doug McConnachie, le dirigeant principal des finances d'ISDE, devant le même groupe de témoins. Il a dit au Comité qu'il avait passé 30 heures à discuter avec le dénonciateur de TDDC, à formuler des hypothèses, comme en témoignent les enregistrements obtenus par les médias, sur les résultats des diverses enquêtes en cours alors qu'elles se poursuivaient toujours, et a affirmé notamment que ces enquêtes « auraient pu faire les choses de manière à exonérer le conseil et à faire de Leah un bouc émissaire ».

    Les agissements de M. McConnachie, en tant que superviseur de l'enquête pour ISDE, étaient contraires à l'éthique et ont compromis l'enquête. Malgré ses agissements, l'enquête n'a révélé aucun acte répréhensible ou inconduite, et plusieurs recommandations administratives, que l'équipe et moi mettions en œuvre lorsque j'ai décidé de démissionner, ont été faites. Toutefois, je suis ici aujourd'hui pour parler principalement de gouvernance et de conflits d'intérêts.

    La Loi sur la Fondation du Canada pour l'appui technologique au développement durable et le gouvernement du Canada établissent le cadre de politique publique. Le conseil d'administration établit le cadre de gouvernance. Dans le cas de TDDC, la moitié des membres du conseil sont nommés par le gouvernement du Canada. De plus, un sous-ministre adjoint d'ISDE assiste à toutes les réunions du conseil et a accès à tous les documents. Cela comprend toutes les recommandations de financement et toutes les discussions sur les conflits d'intérêts.

    Le travail du directeur général et de la direction consiste à prendre l'orientation stratégique du gouvernement ainsi que l'orientation en matière de gouvernance du conseil et à en faire des pratiques opérationnelles pour l'organisation. Je souligne que le conseil approuve également tous les financements de projet.

    De 2015 à 2019, j'ai beaucoup travaillé à la réforme de la gouvernance avec Jim Balsillie, l'ancien président et Gary Lunn, le président de la gouvernance.

    Un changement clé — harmoniser les règles sur les conflits d'intérêts pour nos deux catégories de membres du conseil, y compris limiter et éliminer les conflits directs et instaurer des périodes de réflexion — a été bloqué lorsqu'une personne non nommée par le gouvernement a obtenu une décision du commissaire à l'éthique selon laquelle elle n'avait pas à respecter les mêmes normes de gouvernance que les personnes nommées par le gouvernement. Il devenait donc impossible pour la direction d'imposer les mêmes règles à tous les membres du conseil.

    Au début de 2019, il m'est apparu très clairement que le gouvernement voulait remplacer le président du conseil. En mai ou juin 2019, j'ai été informée par le représentant officiel d'ISDE, le sous-ministre adjoint Andy Noseworthy, du fait que Mme Annette Verschuren allait être nommée pour remplacer M. Balsillie.

    J'ai exprimé mon inquiétude quant au fait que TDDC finançait un projet pour son entreprise. J'ai dit que je craignais qu'il y ait un risque de conflit d'intérêts et de perception de conflit d'intérêts. J'ai dit que je m'inquiétais du fait que cette nomination pourrait nuire à Mme Verschuren et à TDDC.

    Dans les jours qui ont suivi, notre responsable des relations gouvernementales a communiqué avec le personnel du ministre afin de lui faire part de nos préoccupations au sujet de la nomination de Mme Verschuren, en faisant remarquer qu'aucun président précédent n'avait été en situation de conflit d'intérêts direct ou perçu et que, de plus, la nomination du président était auparavant conditionnelle à l'absence de conflits. Par la suite, le sous-ministre adjoint Noseworthy m'a dit qu'en l'absence d'une politique écrite interdisant explicitement à un bénéficiaire de fonds de devenir président, la nomination aurait lieu.

    Je crains que mes efforts soutenus visant à continuer de renforcer le régime de gouvernance du conseil d'administration aient été en grande partie contrecarrés à partir de ce moment‑là. Il s'agissait désormais principalement d'un exercice de gestion des conflits, plutôt que d'empêcher ou d'éliminer les conflits.

    J'ai continué de travailler à la réforme de la gouvernance avec des conseillers juridiques, et j'ai été heureuse lorsque le conseil d'administration a finalement adopté une politique sur les périodes de restriction après le mandat d'administrateur et a embauché un conseiller en éthique du conseil. Il s'agit là de bonnes avancées, mais elles ne sont pas suffisantes. Une autre réforme importante demeure en suspens: que toute personne nommée au conseil d'administration ne soit pas en situation de conflit d'intérêts.

    Ma deuxième recommandation, c'est que le Secrétariat du Conseil du Trésor convoque un groupe de présidents et de directeurs généraux des nombreux organismes indépendants qui fournissent des fonds au nom du gouvernement et leur demandent de quel soutien ils ont besoin pour s'acquitter de leur mandat du point de vue de la gouvernance et de la responsabilité publique.

    En conclusion, les organisations indépendantes financées par le gouvernement comme TDDC jouent un rôle important. Elles ont accès à des personnes et à des ressources que le gouvernement n'a pas, et elles peuvent obtenir des résultats qui complètent et appuient les politiques gouvernementales.

    Le plan d'action qu'ISDE a exigé de TDDC et que l'organisation a mis en œuvre ne traite pas des questions de gouvernance et de conflit d'intérêts que j'ai soulevées devant vous aujourd'hui et que j'ai défendues tout au long de mon mandat à TDDC.

    Je vous remercie du temps que vous m'avez accordé aujourd'hui et je serai heureuse de répondre à vos questions.

    Merci, madame Lawrence.

    Monsieur Perkins, vous avez six minutes.

    Merci, monsieur le président.

    Merci d'être ici, madame Lawrence. Nous vous en sommes reconnaissants. Cela a probablement été une période très difficile pour vous. Je vous remercie d'avoir accepté de venir nous en parler.

    Vous avez mentionné dans votre déclaration préliminaire la période pendant laquelle il y a eu un changement de président. Je pourrais peut-être commencer par là.

    À l'origine, vous avez été embauchée par le nouveau président de l'époque, Jim Balsillie, pour mettre de l'ordre dans certaines pratiques de gouvernance et de gestion au sein de l'organisation. Vers 2017, ces rapports internes ont été produits par le Conseil du Trésor et le vérificateur général. Je pense que vous avez dit qu'ils avaient donné à TDDC une note parfaite pour toutes les choses que vous aviez corrigées. Est‑ce exact?

    C'est exact. Le rapport du vérificateur général, c'était en 2017, et je crois que le rapport du Secrétariat du Conseil du Trésor a été rédigé tout de suite après.

    Il me semble qu'avec tout ce qui se passait, il aurait été étrange de changer de président peu de temps après, à moins que le président ne le demande. À l'époque où cela se passait…

    M. Balsillie n'est pas timide. Il s'exprime publiquement sur de nombreuses questions, et ce depuis longtemps, en tant que l'un des cofondateurs d'une des entreprises les plus emblématiques du Canada.

    Le cabinet du ministre ou quelqu'un d'autre de la sphère politique a-t-il déjà communiqué avec vous pour vous faire part de ses préoccupations au sujet de ce qu'il disait publiquement lorsqu'il était président de TDDC?

    En particulier, au cours de la période de 2018 et jusqu'au début de 2019, on a fait part plusieurs fois à mon équipe ou à moi-même de préoccupations au sujet de déclarations publiques que M. Balsillie faisait à titre personnel. À l'époque, il y avait une consultation en cours concernant la législation sur les données et le numérique. Bien sûr, c'est un domaine dans lequel il est un expert. Il critiquait les mesures législatives et donnait son avis à titre personnel. Souvent, à la suite de ces déclarations, nous recevions des appels nous demandant pourquoi il faisait des déclarations…

    De qui venaient ces appels?

    Dans un cas, c'était le sous-ministre délégué, lorsque j'étais à une réunion sur un autre sujet. On m'a demandé s'il devait continuer de présider et si c'était une chose tolérable. Le deuxième cas, c'était au niveau opérationnel, lorsque des personnes de rang intermédiaire ont appelé notre équipe chargée des relations gouvernementales.

    Vous a-t-on déjà dit que c'était la raison pour laquelle il y aurait un changement de président?

    Il est apparu clairement qu'il y avait un malaise évident et qu'ils cherchaient activement un autre président. Même si je n'étais pas au courant des conversations tenues avec M. Balsillie au bureau du ministre, je crois comprendre qu'il voulait continuer et qu'il leur en a fait part. Entre mai et juin 2019, on m'a informée qu'il y avait deux candidats potentiels à la présidence du conseil d'administration à qui on aimerait que je parle. L'un d'eux était Mme Verschuren.

    Qui vous en a informée?

    Le ministre Bains m'a demandé de parler à ces deux candidats potentiels, et je l'ai fait.

    Lorsque j'ai parlé à Mme Verschuren, je lui ai demandé de parler au commissaire à l'éthique. C'était bien avant sa nomination. J'ai dit que j'estimais important qu'elle leur parle de ses conflits directs. À l'époque, TDDC avait un contrat avec son entreprise. C'était bien connu. C'était de l'information publique. C'est affiché sur le site Web de TDDC et, bien sûr, sur le site Web de l'entreprise de Mme Verschuren.

    D'après votre déclaration préliminaire, après cela — je suppose que c'était après, d'après ce que vous venez de dire — le ministre Bains a laissé entendre qu'elle serait une bonne remplaçante. Combien de jours se sont-ils écoulés entre le moment où cela s'est produit, celui où vous avez examiné l'affaire et celui où M. Balsillie a été remplacé par Mme Verschuren?

    C'est probablement deux ou trois semaines plus tard que j'ai reçu un appel du sous-ministre adjoint Noseworthy me disant que Mme Verschuren serait la nouvelle présidente. Lorsque j'ai soulevé de nouveau les préoccupations, il m'a dit que, sans une politique, cela suivrait son cours, et c'est ce qui s'est produit.

    Je crois qu'elle a été nommée le 19 juin. C'est moi qui ai appelé M. Balsillie pour lui dire qu'il n'était plus président. Elle présidait une réunion trois jours plus tard.

    Est-ce que c'est de là que vient cette idée de « conflit géré » selon laquelle vous pourriez tant bien que mal gérer le conflit dont le gouvernement était conscient lorsqu'il l'a nommée?

    Eh bien, je dois dire que l'équipe de direction doit mettre en place les politiques et les procédures nécessaires lorsqu'elle suit les directives du conseil d'administration ou du gouvernement et qu'une personne nommée se trouve en situation de conflit direct. Oui, nous nous trouvons maintenant dans une situation de conflit direct où il faut faire une divulgation, ce qui était déjà le cas auparavant, mais le nom du président n'y figurait pas, ce qui constitue un conflit direct. Ensuite, il faut s'assurer de suivre les procédures de très près.

    Je ne parviens pas à comprendre si vous aviez une politique ou non. Le problème semblait être que vous n'aviez pas de politique en matière de conflits et qu'il était donc acceptable qu'il y ait des conflits. Le paragraphe 16(2) de la Loi sur la Fondation du Canada pour l'appui technologique au développement durable précise qu'il est interdit aux membres de tirer de la Fondation ou de ses activités, un profit ou un revenu.

    De toute évidence, le sous-ministre délégué, le sous-ministre et le ministre Bains, en procédant à cette nomination, devaient être au courant du problème. S'ils n'en étaient pas au courant, ils devaient être familiers avec l'article 4 de la loi sur les titulaires de charge publique, qui stipule que, lorsqu'ils exercent une fonction officielle, les titulaires de charge publique ne doivent pas favoriser leurs intérêts personnels ou ceux de leurs parents et de leurs amis. Ils devaient être au courant de cela, que vous ayez ou non une politique de gouvernance d'entreprise. En agissant de la sorte, ils enfreignaient ces lois.

    On ne m'a jamais posé de questions à ce sujet. Je ne sais pas s'ils les ont examinées avant de procéder à la nomination.

    Il vous reste environ 30 secondes.

    Pouvez-vous m'expliquer à nouveau, ainsi qu'à tous ceux qui nous regardent, ce que signifie un conflit géré?

    J'ai siégé à un bon nombre de conseils d'administration. Tout d'abord, on ne fait pas partie d'un conseil d'administration si on est en situation de conflit et qu'on fait affaire avec l'organisation. Il s'agit de l'éthique normale d'une entreprise et d'un particulier. On ne fait pas cela. De plus, si on siège à un conseil d'administration et qu'un conflit survient, on choisira probablement de quitter ce conseil si ce conflit n'est pas plus important pour vos intérêts professionnels que votre présence au conseil d'administration. On fait un choix.

    Dans ce cas-ci, il ne semble pas que ce soit ce que signifie un conflit géré. Cela semble vouloir dire que vous pouvez avoir le beurre et l'argent du beurre.

    Je ne peux pas parler au nom des commissaires, mais je peux vous dire quel est le processus.

    Ils doivent déclarer leurs conflits. On parle de conflits au début de chaque réunion. Lorsqu'un conflit a été déclaré, ils ne reçoivent pas les documents relatifs à ce conflit. Conformément à la politique sur les conflits d'intérêts, ils doivent quitter la réunion lorsqu'on discute de tout ce qui a trait à leur conflit déclaré. C'est ainsi que la situation devait être gérée une fois que des conflits avaient été déclarés.

    Merci, monsieur Perkins.

    Nous devons maintenant passer à M. Van Bynen, qui attend patiemment en ligne depuis le début de la réunion.

    Monsieur Van Bynen, vous avez six minutes.

    Merci beaucoup, monsieur le président.

    J'aimerais commencer par souligner le travail et les enquêtes en cours du Bureau du vérificateur général et du commissariat à l'éthique, ainsi que du cabinet d'avocats qui se penche sur les problèmes liés aux ressources humaines.

    Vous avez aussi comparu devant le Comité de l'éthique le 8 novembre.

    Ma question est la suivante: pourquoi avez-vous demandé à être invitée de nouveau à comparaître devant le Comité alors qu'il y a tant de travail en cours afin de faire toute la lumière sur les questions soulevées par les dénonciateurs et TDDC?

    Tout d'abord, je dois dire que j'ai parlé à la vérificatrice générale cette semaine. Je participe à tous ces processus, même si je suis une particulière et que je ne travaille plus pour TDDC.

    J'ai demandé à venir ici parce que je pensais qu'il fallait que l'on sache que l'équipe de TDDC et moi-même avons essayé de soulever la préoccupation quant au fait que la nomination d'un président en situation de conflit direct risquerait de nuire à TDDC ainsi qu'à Mme Verschuren.

    Cela vous préoccupait. Vous avez mentionné cette préoccupation à plusieurs reprises. J'ai entendu à quelques reprises qu'il s'agissait de conflits « connus ». Pouvez-vous me dire ce que vous avez fait de ces problèmes connus? Étaient-ils documentés? Ont-ils été mis en évidence? Y a-t-il dans les dossiers de la société des preuves de ces discussions que nous puissions utiliser pour vérifier ces informations?

    J'ai donné le conseil qui, selon moi, serait suivi et qui relève du bon sens, à savoir qu'une personne en situation de conflit direct risquerait de nuire à l'organisation de TDDC si elle en devenait présidente.

    Si vous me permettez…

    Mon avis n'est pas sur papier, mais je crois qu'il y a eu des conversations à l'échelon ministériel. Il se peut qu'il y ait des échanges par écrit entre mon équipe et le personnel du bureau du ministre. Il faudrait demander à TDDC si ce genre d'échanges existe.

    Il pourrait donc y avoir de la documentation qui pourrait être rendue disponible en vue de régler la question. C'est bon à savoir. Si vous pouviez nous donner une idée de l'endroit où ces documents pourraient être trouvés afin de faciliter l'examen, nous vous en serions reconnaissants.

    En réfléchissant à ce qui est ressorti de la mission d'enquête, qu'avez-vous appris? Qu'auriez-vous fait différemment, avec le recul?

    Je pense que, dans le cadre de la mission d'enquête, des recommandations ont été formulées concernant l'administration et la gouvernance. C'est une autre raison pour laquelle je suis venue ici aujourd'hui, pour parler de certaines d'entre elles. À mon avis, comme je l'ai dit dans ma déclaration préliminaire, le plan de mise en œuvre d'ISDE ne couvre pas certains des problèmes de gouvernance qui doivent être réglés.

    En ce qui concerne les questions administratives et leur mise en œuvre, j'ai participé à leur lancement avant ma démission. Je crois comprendre que TDDC a déposé la conclusion de cette mise en œuvre auprès d'ISDE et qu'elle attend des commentaires à ce sujet.

    D'accord.

    J'aimerais revenir au commentaire de M. Perkins, à savoir que si ce n'est pas écrit dans votre charte ou dans vos documents de fonctionnement, que les choses ne devraient pas se produire; ces choses-là peuvent se produire. À quel moment cela devient-il une évaluation de ce qui est contraire à l'éthique plutôt que de chercher un document qui dit que c'est correct, alors qu'on sait, d'après les valeurs qu'on a apprises en affaires, que ce n'est pas la bonne chose à faire? Quand cela l'emporte-t-il sur le strict respect de la documentation?

    Je ne suis pas certaine de comprendre la question. Je ne pense pas que le strict respect de la documentation devrait l'emporter sur les conflits directs.

    Il me semble que c'est ce qui a été avancé. Vous avez indiqué qu'il y avait un conflit qui vous semblait problématique — la façon dont vous l'avez fait savoir reste à déterminer —, et la réponse que vous avez reçue, c'est qu'il n'y a rien pour empêcher que cela se produise. Quand disons-nous: il n'y a peut-être rien qui empêche que cela se produise, mais éthiquement, cela ne devrait pas se produire? Quand entamons-nous ces discussions? Y a-t-il eu des discussions de ce genre?

    Oui. Comme je l'ai dit dans ma déclaration préliminaire, j'ai soulevé des préoccupations quant au fait qu'elle était en situation de conflit direct, qu'elle avait un contrat avec l'organisation, et j'ai dit craindre qu'il y ait des problèmes de conflit perçus et directs à gérer. Mais une fois que le ministre a procédé à une nomination, une fois que le ministère nous a demandé de la faire appliquer et que le commissaire à l'éthique l'a approuvée également, nous devons mettre en place un processus et une procédure de gestion.

    Pour gérer la situation, nous communiquerions le fait qu'il y a un conflit permanent déclaré. Je crois que Mme Verschuren en a parlé. Puis, avant chaque réunion, de nouvelles entreprises seraient proposées. Les membres du conseil d'administration répondraient à la proposition. Ensuite, on en discuterait et on inscrirait dans le procès-verbal de chaque réunion qu'il y a un conflit déclaré ainsi que la nature de ce conflit. Dans le cas où la récusation serait nécessaire, la personne concernée quitterait la réunion lorsqu'un point particulier serait abordé.

    Si j'ai bien compris, les procès-verbaux ne reflétaient pas nécessairement cela. Est-ce exact?

    C'est l'une des conclusions, c'est-à-dire que les procès-verbaux nécessitaient une documentation plus claire sur ces questions. Cependant, les documents contenaient des énoncés clairs qui ont été distribués dans les trousses du conseil d'administration.

    Lorsque vous avez pris connaissance de l'allégation des dénonciateurs, quel était le plan initial de votre organisation et quelle a été sa réaction?

    Les dénonciateurs ont porté plainte auprès du conseil d'administration. La plainte comprenait des allégations contre la présidente et moi-même. On nous a immédiatement dit que nous ne participerions pas à l'enquête et qu'on nous demanderait de leur parler au moment opportun.

    D'après ce que j'ai compris, le conseil d'administration a mis sur pied un comité spécial chargé d'enquêter sur la plainte des dénonciateurs. Il a retenu les services d'un cabinet d'avocats indépendant afin d'effectuer un examen et il a collaboré avec ce cabinet pour produire un rapport. Les avocats du cabinet ont obtenu des dizaines de milliers de documents de l'équipe de GI/TI. Un examen de l'intelligence artificielle a été effectué, et le personnel a été interrogé pendant un peu moins de 30 heures. C'est ce qui s'est produit lorsque la plainte des dénonciateurs a été reçue.

    Merci.

    Je suis désolé, monsieur Van Bynen, mais votre temps est écoulé.

    Monsieur Garon, vous avez six minutes.

     Merci beaucoup.

    Madame Lawrence, bienvenue au Comité. Je vous remercie d'être parmi nous et de prendre le temps de répondre à nos questions.

    On est dans un monde où les perceptions sont extrêmement importantes. On comprend que Technologies du développement durable Canada, ou TDDC, est encadré par la Loi sur la Fondation du Canada pour l’appui technologique au développement durable et par des règles. On comprend aussi que cet organisme distribue des fonds publics et que, par ailleurs, il est sujet à la curiosité des parlementaires et à l'œil du public, ce qui est légitime.

    Dans ce contexte, j'en reviens à l'exemple du cas de Mme Verschuren, qui avait accepté la présidence du conseil d'administration de TDDC alors que certaines de ses entreprises recevaient des fonds de l'organisme. Nous savons aussi que d'autres montants leur avaient été alloués par la suite, mais on nous a dit que des avis juridiques avaient été produits.

    Nous comprenons donc que, d'une part, on considérait qu'il n'était pas illégal de procéder ainsi, mais que, d'autre part, on avait déjà des doutes importants sur l'éthique de la chose. Or, normalement, quand on demande un avis juridique dans une situation comme celle-là, ne devrait-on pas tout simplement faire un pas en arrière et refuser le poste ou, encore, ne pas accepter les fonds?

    Je suis désolée, mais l'interprétation coupait.

    Je crois que vous vouliez savoir si les administrateurs auraient dû refuser les fonds à partir du moment où ils ont été nommés. Est-ce exact?

    Je suggérais aussi que Mme Verschuren aurait pu refuser la présidence du conseil d'administration.

    Lorsque j'ai parlé à Mme Verschuren et à Andrew Noseworthy, le sous-ministre adjoint, c'est là que j'ai soulevé le problème du conflit d'intérêts réel et perçu que présentait sa candidature à la présidence.

    Je pensais qu'ils lui auraient fait part de ces préoccupations et que le commissaire à l'éthique lui aurait également donné des directives plus strictes, mais ce n'est pas ce qui s'est passé. Je suis d'accord avec vous, monsieur. Je me serais attendu à quelque chose de mieux.

    Quand on nous dit qu'on avait demandé un avis juridique, sachant que la question éthique était sérieuse, et que les juristes étaient d'avis qu'il était légal de procéder ainsi, cela ne veut-il pas dire que la Loi qui encadre la gestion de l'organisme devrait être révisée?

    Je pense qu'il est essentiel de revoir la loi.

    La Loi sur la Fondation du Canada pour l'appui technologique au développement durable précise qu'il serait souhaitable d'avoir des gens qui ont une grande expertise dans le domaine. À l'époque de la création de TDDC, il y a 20 ans, le groupe de personnes susceptibles d'être nommées au conseil d'administration était très restreint.

    Aujourd'hui, le bassin est beaucoup plus vaste. Je pense que la barre pourrait être beaucoup plus haute en ce qui concerne les conflits d'intérêts, comme vous l'avez dit. C'est une chose que le Comité pourrait examiner, et il pourrait recommander de modifier la loi.

    Malgré le fait que la Loi date d'un certain temps et que l'environnement dans lequel l'organisme évolue a évidemment changé, il n'en demeure pas moins que les membres de son conseil d'administration sont nommés par le gouvernement et que ce dernier doit être au courant des changements dans l'environnement politique et dans le marché par exemple.

    Au Comité permanent de l'accès à l'information, de la protection des renseignements personnels et de l'éthique, vous avez dit à mon collègue M. Villemure qu'« il est donc difficile d'avoir un conseil d'administration complètement exempt de conflit ».

     Cependant, là, on est allé loin en nommant cette présidente, dont les entreprises avaient déjà reçu des fonds. Je vous demande votre perception. Selon vous, comment se fait-il que le gouvernement ait persisté et ait décidé de tout de même nommer Mme Verschuren à la présidence du conseil d'administration?

    Je ne peux pas parler au nom du gouvernement et du ministre quant à la décision qu'il a prise. Ce que je sais, c'est que j'ai recommandé de ne pas procéder à cette nomination, et j'ai fait part de mes préoccupations.

     Je vais vous poser une question purement factuelle: pensez-vous que, quelque part au Canada, ait pu se cacher une seule personne aussi compétente qui aurait pu occuper cette fonction et qui n'eût pas été en conflit d'intérêts?

    Ce que je sais, c'est que mon ancien président n'était pas en situation de conflit d'intérêts. Je pense donc qu'on aurait pu choisir parmi un grand nombre de candidats qui n'étaient pas en situation de conflit d'intérêts direct.

    Je comprends.

    On nous dit que lorsqu'il était question de ses propres entreprises, Mme Verschuren se récusait, qu'elle sortait de la salle, qu'elle ne participait pas aux délibérations du conseil d'administration. Il y a une question que je trouve importante: si une personne en conflit d'intérêts se récuse et quitte la salle, mais qu'elle est de toute évidence en position d'autorité et continuera de l'être, est-ce que le conflit d'intérêts quitte la salle en même temps que cette personne?

    Je ne pense pas qu'il y ait de question, mais je pense que vous…

    Je vous pose la question autrement. Alors que le conseil d'administration délibère sur un sujet, sa présidente, qui est possiblement en conflit d'intérêts, quitte la salle. Pensez-vous que le conflit d'intérêts quitte la salle en même temps que la présidente?

    Je vois. Je pense que dans une situation où vous avez une structure de pouvoir composée d'un président ou d'un administrateur qui a des conflits particuliers, le mieux que vous puissiez faire dans cette situation, c'est de faire exactement cela, lui faire quitter la salle, mais de toute évidence, la perception selon laquelle il aurait dû se récuser est forte, même s'il respecte les normes les plus élevées et ne discute pas des activités. Je pense que c'est la raison pour laquelle nous nous retrouvons ici aujourd'hui, parce que, même s'il a appliqué la norme la plus élevée possible et qu'il ne s'est pas retrouvé dans des situations où il a dû sortir de la salle de réunion pour ne pas parler de sujets conflictuels, même s'il a appliqué cette norme élevée, la perception qu'il aurait pu le faire est forte.

    Merci, monsieur Garon.

    Nous accueillons maintenant M. Barrett. Vous avez cinq minutes.

    Vous avez informé le sous-ministre adjoint Andrew Noseworthy des conflits d'intérêts et des problèmes liés à la nomination de Mme Annette Verschuren à la présidence du conseil d'administration avant sa nomination. Est-ce exact?

    C'est exact.

    M. Noseworthy savait qu'en la nommant, ISDE violait son propre accord de contribution avec Technologies du développement durable Canada. Est-ce exact?

    J'aurais pensé qu'il l'aurait su, étant donné qu'il supervise l'organisation et qu'il connaît les dispositions de la loi et de l'accord de contribution.

    Pouvez‑vous confirmer que votre personnel a pris contact avec le cabinet du ministre pour soulever vos inquiétudes quant à cette nomination?

    Oui. Il y a eu plusieurs discussions avec des membres du personnel. Il y a eu des discussions bilatérales avec le personnel du ministre. Nous lui avons dit que l'ancien président n'avait pas de conflits d'intérêts et qu'à notre connaissance, il n'y avait jamais eu de président possédant une entreprise financée par TDDC.

    En quelle année cette nomination a‑t‑elle eu lieu et qui était le ministre?

    C'était en juin 2019. Le ministre était Navdeep Bains.

    En 2019, le gouvernement Trudeau a procédé à la nomination après que vous ayez émis des craintes auprès du ministre à propos de ce conflit.

    C'est exact.

    Le ministre de l'Innovation était au courant des risques graves liés à la nomination d'Annette Verschuren, mais il est néanmoins allé de l'avant. Je pose la question une troisième fois, parce que c'est surprenant.

    M. Bains ne me l'a pas dit directement. Je n'ai pas communiqué avec lui directement, mais Mme Verschuren a dit qu'elle avait parlé trois fois avec M. Bains avant d'accepter. Elle a dit qu'il savait qu'elle était en conflit direct.

    Pourquoi croyez‑vous que le gouvernement libéral et le ministre de l'Innovation étaient si déterminés à nommer Mme Verschuren?

    Je ne sais pas précisément quelles étaient leurs motivations, mais je sais qu'ils étaient mécontents des déclarations publiques du président sur d'autres projets de loi et politiques du gouvernement.

    Désolé, mais de qui étaient-ils mécontents?

    C'était à propos des consultations sur le numérique et les données qui se déroulaient à l'époque.

    Je comprends pourquoi vous croyez qu'ils voulaient remplacer l'ancien président. Pourquoi croyez‑vous qu'ils étaient déterminés à remplacer l'ancien président par une présidente qui était vue comme ayant un conflit? Pourquoi était‑ce si important de la choisir, elle?

    Je ne le sais pas. En fait, lorsqu'on m'a dit qu'ils allaient remplacer le président, l'ancien ministre Bains m'a demandé de parler à deux candidats, ce que j'ai fait. L'autre a refusé de postuler.

    Ce candidat avait‑il un conflit d'intérêts?

    Non, mais il envisageait la possibilité d'investir dans le secteur à l'avenir. C'est pourquoi il estimait qu'il ne devait pas soumettre sa candidature.

    Je n'ai pas beaucoup de temps, mais c'est très important de comprendre cela.

    La présidente nommée au conseil d'administration était en conflit, parce qu'elle avait des intérêts dans des entreprises qui recevaient de l'argent de TDDC, n'est‑ce pas?

    Son entreprise avait un contrat avec TDDC au moment de sa nomination.

    D'accord. Elle était en conflit avant d'occuper le poste et elle est maintenant visée par une enquête du Commissariat aux conflits d'intérêts et à l'éthique pour avoir voté afin d'attribuer des fonds de TDDC à une entreprise dans laquelle elle avait des intérêts.

    Êtes‑vous au courant de cela aussi?

    Oui, je comprends qu'il y a des enquêtes en cours.

    Savez‑vous combien de fois Annette Verschuren a été en contact avec le ministre d'ISDE?

    D'après ce que je sais, elle n'a rencontré le ministre actuel que deux fois. C'était à une annonce et lors d'un sommet.

    Discutait‑elle avait le sous‑ministre?

    Je crois qu'ils étaient en contact de manière continue, oui.

    Qui était le sous‑ministre avec lequel elle aurait communiqué?

    C'était le sous‑ministre Simon Kennedy.

    Communiquait‑elle avec M. Kennedy souvent?

    Je ne saurais pas le dire.

    Est‑ce que ce serait plus de 10 fois?

    Ce serait lorsqu'un problème survenait concernant TDDC, concernant les accords de contribution, des violations aux modifications apportées à la loi, ce genre de choses.

    Qui faisait la liaison entre TDDC et ISDE?

    À ce niveau, elle communiquait avec le sous‑ministre directement. À mon niveau, j'étais presque exclusivement en contact avec Andy Noseworthy.

    Veena Bhullar ou Amber Batool occupaient‑elles ce rôle?

    Veena Bhullar était notre chef des relations gouvernementales. À certains moments, Amber Batool aurait eu des communications avec le cabinet du ministre. C'était au niveau du chef des politiques.

    Je vous remercie.

    Merci, monsieur Barrett.

    Nous passons à Mme Lapointe pour cinq minutes.

    Je vous remercie, monsieur le président.

    Madame Lawrence, j'ai notamment appris en excellence organisationnelle qu'on a beau avoir la meilleure politique à l'écrit, si on ne la suit pas et s'il n'y a pas de mécanisme pour surveiller et vérifier qu'elle est suivie, cette politique n'aura pas beaucoup de poids.

    Pouvez‑vous nous parler des directives officielles que votre organisation devait suivre en matière d'éthique? Pouvez‑vous aussi nous parler des processus et des mécanismes qui visaient à garantir que le conseil d'administration et les employés suivent bien ces directives?

    Je mentionnerais deux ou peut‑être trois choses.

    Lorsque j'ai commencé à travailler à TDDC, en 2015, j'ai été surprise de constater que les politiques sur les conflits d'intérêts étaient les mêmes pour les employés que pour le conseil d'administration. Autrement dit, les employés avaient le droit à ce moment‑là d'être en conflit d'intérêts direct. Une de mes premières décisions comme PDG a été de faire la distinction entre ces deux politiques et de m'assurer que les employés n'étaient pas en conflit direct. Cette décision s'applique toujours de nos jours.

    Concernant le conseil d'administration, tout ce qu'un PDG peut faire est d'émettre des conseils. La politique sur l'éthique applicable au conseil d'administration a toujours permis à ses membres d'avoir des conflits. Lorsque j'ai été nommée, ce n'était pas le cas de la plupart des administrateurs nommés par le gouverneur en conseil, mais la pratique de longue date était que les administrateurs non nommés par le gouvernement gèrent les conflits, comme nous en avons parlé plus tôt.

    Le processus en place se déroule comme suit: avant de nous lancer dans une ronde du comité d'investissement, nous gérons les conflits permanents des administrateurs nommés au conseil. Le vice‑président et le directeur de l'investissement évaluent toujours les conflits qui existent en pareil cas.

    Ensuite, nous demandons bien avant la réunion que le conseil d'administration déclare les conflits d'intérêts réels ou perçus avec un récipiendaire potentiel et ses partenaires de consortium. Il faut en être informé avant que les membres du conseil ne reçoivent de documents. S'ils déclarent un conflit d'intérêts, ceux‑ci ne recevront pas de documents liés au conflit dans le cartable qui leur est remis.

    Dans le cartable, toutes les déclarations sont résumées, et le président demande durant la réunion s'il faut faire des ajouts ou apporter des changements. Tout membre du conseil qui s'est rendu compte de quelque chose entre ces dates peut alors faire part de ces nouvelles informations.

    Voilà le processus.

    L'idée, c'est que ces informations soient consignées au procès‑verbal et qu'un suivi soit effectué, selon le cas.

    C'est ainsi que cela fonctionne. Il y a eu un suivi dans la plupart des cas. C'est la gestion des conflits que nous avions en place.

    Je comprends que c'était la politique et la pratique attendue. Les membres du conseil d'administration devaient se récuser. Ils devaient discuter des conflits d'intérêts au début de chaque réunion, mais si je ne m'abuse, le rapport de RCGT indique clairement qu'ils ne le faisaient pas. La politique écrite l'exige, mais est‑ce qu'on le faisait dans la pratique? Le rapport signale que non.

    Pourriez‑vous nous en dire plus à cet égard?

    Je crois que les représentants de TDDC ont souligné au comité de l'éthique, et peut‑être à celui‑ci, que le processus a été suivi. Les procès‑verbaux n'en font peut‑être pas mention de manière appropriée. Cela pose problème, mais le processus a été et est toujours suivi.

    Quel est le rôle du PDG si un membre du conseil ne se récuse pas ou ne déclare pas un conflit d'intérêts?

    Le PDG doit travailler étroitement avec le responsable de la gouvernance. De 2015 à 2019, lorsque Gary Lunn était responsable de la gouvernance, nous travaillions ensemble très activement. C'était plus facile à l'époque, parce que nous n'avions pas beaucoup de conflits d'intérêts directs comme je l'ai dit, contrairement à la période après la nomination d'Annette Verschuren.

    Nous collaborions, lui et moi, pour parler aux membres du conseil des conflits réels et perçus. En raison de son influence à titre d'ancien ministre de la Couronne, il arrivait souvent et même toujours à ses fins. Lorsqu'il est parti et que le contexte a changé du tout au tout, en raison du conflit direct qui venait avec la nomination d'Annette Verschuren, tout ce que le PDG et le vice‑président de l'investissement pouvaient faire était de formuler des recommandations.

    Dans la plupart des cas, le directeur demande que le comité ou le président du comité tranche. Dans certains cas de conflits directs, si nous estimons qu'il faut décider de la marche à suivre avant une réunion de comité, nous en parlons avec le président du comité. Dans d'autres cas, s'il y a apparence de conflit, on en discute directement au comité.

    Je vous remercie beaucoup.

    Nous passons à M. Garon pour deux minutes et demie.

     Merci beaucoup, monsieur le président.

    On comprend qu'il pourrait être utile d'apporter des changements législatifs à la loi qui encadre Technologies du développement durable Canada. Entretemps, pour restaurer la confiance du public autant que faire se peut, qu'est-ce qui peut être fait immédiatement afin d'améliorer non seulement la gouvernance de cet organisme, mais aussi la perception qu'a le public de cette gouvernance?

    Tout d'abord, je crois comprendre que le gouvernement du Canada prévoit nommer de nouveaux membres au conseil d'administration, parce qu'il y aura des départs à la retraite. L'important, c'est de s'assurer que ces nouveaux membres ne se trouvent pas en conflit d'intérêts. C'est la première recommandation que je ferais.

    Je vous interromps. Est-il possible de trouver des membres d'un conseil d'administration qui n'ont pas de conflit d'intérêts?

    Absolument.

    J'ai approuvé l'examen de la vérificatrice générale mentionné plus tôt. C'est une des dernières choses que j'ai faites avant de remettre ma démission à TDDC. Cet examen sera très important et aidera à réunir les divers organismes, acteurs ou personnes concernés, ainsi qu'à mieux définir leurs rôles et responsabilités dans ce genre de modèle de gouvernance.

    Selon vous, quels sont les principaux changements législatifs qui pourraient être apportés pour améliorer la situation? Si vous n'avez pas le temps de nous en faire l'énumération, est-ce que vous seriez disposée à transmettre par écrit vos recommandations au Comité quant aux changements immédiats et aux changements législatifs éventuels à apporter pour qu'une situation comme celle-là ne se reproduise pas?

    C'est avec plaisir que je vous transmettrai l'information ultérieurement. Je sais que le personnel de TDDC a aussi proposé de telles modifications à ISDE dans la négociation des contributions huit et neuf. Il devrait donc être en mesure de vous fournir de l'information en ce sens.

    Merci.

    Nous passons maintenant à M. Perkins pour cinq minutes.

    Merci, monsieur le président.

    Si j'ai bien compris, en 2018-2019, l'ancien président, Jim Balsillie, a publiquement dénoncé l'inaction du gouvernement en ce qui concerne sa politique sur la protection des renseignements personnels numériques. Le gouvernement vous a fait part de son mécontentement face au fait qu'il soit toujours en poste après cette déclaration publique. Peu de temps après, le ministre vous a téléphoné et vous a dit: « Nous allons changer de président. Voici deux noms. » Vous avez exprimé des réserves à l'égard de l'une des deux personnes proposées, qui était clairement en conflit d'intérêts. Le ministre Bains et le gouverneur en conseil, le Cabinet, l'ont quand même nommée à ce poste en sachant qu'il y avait conflit d'intérêts.

    Est‑ce exact?

    C'est exact.

    La personne qui était en contact constant avec vous, personnellement, en votre qualité de PDG, et qui faisait le lien avec le ministère était le sous-ministre adjoint, M. Noseworthy. Est‑ce bien cela?

    Je crois que oui, à partir de 2018.

    Le sous-ministre adjoint, M. Noseworthy, a dit devant le Comité qu'il ne se souvenait d'aucune discussion sur des conflits d'intérêts dans ce contexte.

    Croyez-vous qu'il dit vrai?

    Ce que je sais, c'est que les documents pertinents étaient remis à M. Noseworthy et à son équipe avant chaque réunion. Je sais qu'il a été question de conflits à chaque réunion. Si je me souviens bien, M. Noseworthy a participé à ces réunions.

    Devant le Comité, le sous-ministre, Simon Kennedy, a dit qu'il n'était au courant d'aucun conflit avant que le dénonciateur ne s'adresse à lui en 2023.

    Estimez-vous possible que le cabinet du ministre nomme quelqu'un malgré le fait qu'il a été avisé d'un conflit par le sous-ministre adjoint, qui relève vraisemblablement du sous-ministre? Le sous-ministre parle au ministre. Le sous-ministre pourrait‑il prétendre qu'il n'était pas au courant de ces conflits? Cela vous paraît‑il plausible?

    Je ne peux pas parler du sous-ministre Kennedy, car il n'était pas sous-ministre au moment de la nomination de Mme Verschuren. Il est arrivé plus tard.

    Qui était sous-ministre à l'époque?

    C'était John Knubley.

    Vous seriez-vous attendue à ce qu'il soit au courant?

    Oui, je me serais attendue à ce que l'information publique... On a dû faire des vérifications avant de parler avec les candidats.

    Vous avez mentionné que votre responsable des relations gouvernementales était en contact avec le cabinet du ministre au sujet de ces conflits.

    De qui s'agissait‑il?

    C'était Veena Bhullar.

    Ces communications ont-elles eu lieu verbalement, ou par écrit aussi?

    Je ne sais pas si elle a eu des communications en ce sens par écrit. Le cas échéant, il faudrait que TDDC fournisse les renseignements en conséquence.

    Monsieur le président, je demanderais au Comité de demander tous les courriels que cette personne a envoyés au cabinet du ministre ou au sous-ministre au sujet de tels conflits, le cas échéant.

    Merci. C'est bien noté.

    L'idée de gérer les conflits d'intérêts a‑t‑elle changé le ton au sein du conseil, par rapport à ce que vous avez connu avant, à l'époque de M. Balsillie? Comment les membres du conseil d'administration géraient-ils les conflits dans les propositions qui leur étaient soumises, qu'on pense aux fonds d'aide liés à la COVID ou... du moins à Andrée-Lise Méthot et à Stephen Kukucha, qui ont par la suite fait approuver des projets dans lesquels ils avaient des intérêts financiers? TDDC les a financés.

    S'agissait‑il de conflits bien gérés qui semblaient acceptables parce que le conseil d'administration a décidé qu'ils étaient acceptables, ou les administrateurs se sont-ils dit: « Oh, non, nous ne pensons pas que ce soit un comportement approprié, alors nous allons choisir entre faire partie du conseil d'administration et profiter de nos intérêts financiers »?

    Je peux vous donner un exemple.

    Il y a un membre du conseil d'administration qui était là avant 2019. M. Lunn et moi-même avions parlé au conseil d'un conflit potentiel de l'organisme s'il agissait à titre de consultant auprès d'une organisation. Il s'est alors retiré de l'organisation et s'est récusé. Plus tard, après le départ de M. Lunn et la nomination de Mme Verschuren, environ un an après sa nomination, cette personne est venue dire: « Étant donné que les conflits directs sont désormais autorisés, je vais siéger au conseil d'administration de cette organisation. » Il s'agissait d'une entreprise financée.

    De qui s'agissait‑il?

    C'était Guy Ouimet.

    Il a comparu devant le Comité et a admis qu'il avait un projet de 4 millions de dollars qui a été financé pendant qu'il siégeait au conseil.

    Mme Verschuren a‑t‑elle fait des démarches auprès de la direction pour obtenir de l'argent pour le Centre Verschuren?

    Pas à ma connaissance.

    Nous avons des courriels de votre vice-président principal des investissements qui confirment qu'il a approuvé le traitement accéléré de cette demande. C'est le dénonciateur qui nous les a donnés. Est‑ce que cela vous surprend?

    Excusez-moi, c'est un peu technique. Il y aurait traitement accéléré si elle...

    Elle l'avait demandé. C'est dans le courriel.

    Il faudrait que je voie le courriel. Le traitement accéléré diffère de...

    Je n'ai pas besoin d'explication de ce en quoi consiste un traitement accéléré.

    Est‑ce qu'un administrateur ayant quitté le conseil après l'adoption de la politique a communiqué avec le conseil après la période de restriction pour faire du lobbying auprès de TDDC au nom d'une entreprise avec laquelle il travaillait ou dont il était à l'emploi, contrevenant ainsi à la politique du conseil?

    Il y a eu un cas impliquant un ancien membre du conseil. J'ai demandé à Mme Verschuren de lui écrire une lettre pour lui dire qu'il ne pouvait pas faire de demande au nom de l'entreprise pour laquelle il travaillait à ce moment‑là.

    Cependant, cet ancien administrateur a téléphoné au conseil et présenté une demande.

    Il s'occupait d'une demande qu'il voulait présenter. Nous avons dû lui rappeler que la période de restriction était terminée.

    Quel était son nom?

    C'était Geoff Cape.

    Il est devenu PDG de cette entreprise après avoir quitté le conseil d'administration et, pendant la période de restriction d'un an, il a essayé d'obtenir de l'argent du conseil d'administration.

    Oui, je crois qu'il a dit au Comité qu'il pensait que cela ne s'appliquait pas à lui parce que la demande avait été faite avant qu'il ne devienne PDG.

    Merci beaucoup. Malheureusement, votre temps est écoulé.

    Je sais que le temps, à l'horloge que vous voyez dans le coin, file à toute vitesse, mais vous disposerez de cinq minutes, monsieur Sorbara, pour éclairer le Comité.

    Merci, monsieur le président.

    Bienvenue au Comité, madame Lawrence.

    J'aimerais commencer par quelques points que j'ai notés ici.

    Vous avez dit que pendant votre mandat, les employés se récusaient ou discutaient des conflits au début de chaque réunion.

    C'était les administrateurs, monsieur, pas les employés.

    Je m'excuse. Les administrateurs, oui.

    Les administrateurs se récusaient ou discutaient des conflits au début de chaque réunion.

    Vous pouvez me corriger si je me trompe.

    Mme Leah Lawrence: Je m'excuse.

    M. Francesco Sorbara: Non, non, je vous en prie.

    Par ailleurs, vous avez reconnu qu'il était indiqué clairement dans le rapport de Raymond Chabot Grant Thornton que rien de tel n'a eu lieu.

    Pouvez-vous nous en parler davantage ou approfondir la réflexion à ce sujet?

    La question est de savoir s'ils se sont effectivement récusés?

    Pourquoi ne se sont-ils pas récusés, et pourquoi est‑il écrit dans le rapport qu'ils ne l'ont pas fait si vous avez indiqué que c'était censé se produire au début de chaque réunion?

    Oui.

    Je crois que c'est TDDC qui a fourni l'information au Comité en réponse au rapport de RCGT. Ils se sont récusés. Ils ont quitté les réunions en question. Ce qui s'est passé, c'est que cela n'a pas été bien consigné au compte rendu.

    En votre qualité de PDG, dans ce genre de situation, vous mentionneriez la chose à la réunion du conseil s'il y avait un conflit et que les personnes concernées devaient sortir.

    Elles ont quitté la réunion. C'est ce qui s'est passé.

    D'accord.

    Voici ma prochaine question.

    J'ai déjà siégé au comité de l'éthique par le passé; je n'y siège pas cette législature‑ci. Lorsque vous avez témoigné devant le comité de l'éthique, les députés de l'opposition ont qualifié les mesures que vous avez prises quand vous étiez PDG d'« acte criminel », de « fraude » et de « falsification sur le dos du contribuable canadien ». Ils ont ajouté: « Cela mérite une enquête policière. » Que répondez-vous à de telles accusations de la part des députés de l'opposition?

    J'ai lu votre biographie. Vous avez été PDG de l'organisation pendant sept ans, si les dates que j'ai sous les yeux sont exactes. Vous avez siégé à divers conseils d'administration et présidé divers comités. Vous avez un niveau de compétence que je qualifierais de manifeste.

    Que répondez-vous à ces accusations des députés conservateurs?

    Elles sont absolument fausses. C'est l'une des raisons pour lesquelles je voulais revenir ici aujourd'hui: pour pouvoir répondre à des questions comme les vôtres.

    Merci de le dire de façon si concise.

    Dans vos commentaires d'aujourd'hui — et je ne sais pas si c'était dans votre déclaration préliminaire ou en réponse aux questions des députés —, vous vous êtes dite très préoccupée par le conflit potentiel ou réel concernant Mme Verschuren, mais vous avez mentionné qu'aucun courriel n'avait été envoyé à ce sujet. Vous ne l'avez pas écrit dans une lettre, un communiqué ni quoi que ce soit du genre. Avec le recul, pensez-vous que vous auriez dû le faire, ou ai‑je manqué quelque chose dans votre témoignage que vous voudriez rectifier?

    Cela m'a frappé, et j'ai sursauté lorsque vous l'avez dit.

    Je dirais, monsieur, que je ne considère habituellement pas comme une priorité le fait de consigner mes réflexions par écrit pour me protéger. J'essaie avant tout de donner des conseils courageux, et j'espère qu'ils seront suivis.

    D'accord.

    Le rôle de présidente-directrice générale d'une organisation s'accompagne de grandes responsabilités. Je dirais que la barre est très haute en ce qui concerne la divulgation des conflits d'intérêts et des signaux d'alarme et, essentiellement, de protéger la capacité de l'organisation de faire des investissements de façon compétente, par exemple, comme c'est le cas de Technologies du développement durable Canada. Comme mon collègue d'à côté l'a dit, vous avez une responsabilité fiduciaire en tant que PDG, comme tout autre PDG.

    À ce moment‑là, vous avez dit que vous n'aviez peut-être pas mis vos réflexions par écrit sur ce qui se passait. N'auriez-vous pas dû écrire à vos collègues, par courriel ou communiqué, que vous n'étiez peut-être pas d'accord avec cela ou qu'il y avait un potentiel conflit d'intérêts?

    Cela arrive tous les jours. On tient des procès-verbaux. On prend des notes. Les gens ont tout le temps ce genre de conversations, bien sûr, mais ne pensez-vous pas que cela se justifiait dans ce cas?

    J'ai demandé et conseillé à Mme Verschuren de s'adresser au commissaire à l'éthique. J'ai dit à M. Noseworthy qu'il y avait un questionnement important. Mon employée chargée des relations gouvernementales en a parlé au cabinet du ministre.

    Oui, j'ai exprimé mes préoccupations, et je l'ai fait à plusieurs niveaux. C'est mon devoir, et c'est ce que j'ai fait.

    Lorsque le ministre décide de ne pas accepter ce conseil, je dois l'accepter aussi.

    Sur ce, chers collègues, nous n'avons plus de temps.

    Je remercie notre témoin, Mme Lawrence. Je la remercie également d'avoir attendu pour s'adapter à l'horaire modifié du Comité.

    Je tiens à remercier les interprètes, la greffière et les analystes de m'avoir épaulé à cette table.

    Je vous souhaite à tous une bonne soirée, en toute sécurité.