Des critiques déplorent le manque de consultations sur l’IA
La Presse Canadienne|Publié le 15 février 2024
Pour sa part, Jim Balsillie, l’ancien ancien co−dirigeant d’une entreprise technologique, a déclaré aux députés qui étudiaient le projet de loi qu’il considérait que la législation était «antidémocratique». (Photo: La Presse Canadienne)
L’Assemblée des Premières Nations prévient qu’elle pourrait poursuivre le gouvernement libéral en justice au sujet de son projet de loi sur la protection des renseignements personnels et l’intelligence artificielle.
Pour sa part, Jim Balsillie, l’ancien ancien co−dirigeant d’une entreprise technologique, a déclaré aux députés qui étudiaient le projet de loi qu’il considérait que la législation était «antidémocratique».
Le gouvernement a déjà été critiqué pour ne pas avoir procédé à des consultations plus vastes et menées suffisamment en avance quant à son projet de loi C−27, qui met à jour les lois sur la protection de la vie privée et introduit la Loi sur l’intelligence artificielle et les données.
Jim Balsillie, ancien co−chef de Research In Motion, derrière le BlackBerry, a affirmé mercredi que le gouvernement n’avait mené aucune consultation publique et s’était trop appuyé sur les commentaires de l’industrie plutôt que sur la société civile.
Les dirigeants autochtones ont indiqué que les Premières Nations n’avaient pas été consultées du tout.
«En conséquence, le ministre (de la Justice) n’a pas entendu les Premières Nations, ne comprend pas les Premières Nations, et cela se voit dans la loi», a déploré l’Assemblée des Premières Nations dans un mémoire soumis au Comité permanent de l’industrie de la Chambre des communes.
Le mémoire soutient que le projet de loi porte atteinte aux droits des Premières Nations, notamment à la souveraineté des données, et que des litiges sont «probables» si le gouvernement ne respecte pas ses obligations.
Le député libéral Ryan Turnbull a défendu le gouvernement lors de la réunion. Il a soutenu que plus de 300 «réunions et consultations» avaient été organisées sur le projet de loi et qu’il y aura également «deux autres années de consultations approfondies» sur les réglementations découlant du projet de loi.
Les biais de l’IA mentionnés
Le comité a également entendu Christelle Tessono, chercheuse en politique technologique à l’Université de Toronto, qui a déploré que le projet de loi ne répondait pas aux risques pour les droits de la personne que les systèmes d’intelligence artificielle (IA) peuvent causer.
Elle a déclaré qu’au minimum, le préambule du projet de loi devrait «reconnaître l’impact disproportionné bien établi que ces systèmes ont sur les groupes historiquement marginalisés», tels que les peuples autochtones, les personnes de couleur, les membres de la communauté LGBTQ+ et les personnes économiquement défavorisées.
Au cours de son témoignage, M. Balsillie a décrit certains des «innombrables» incidents causés par les systèmes d’IA. Il a ajouté que cela inclut des cas où ces systèmes ont introduit une discrimination en matière de logement, créé des associations racistes, montré des offres d’emploi à des hommes, mais pas aux femmes et recommandé des peines de prison plus longues pour les minorités visibles.
L’Assemblée des Premières Nations s’est également dite préoccupée par l’IA, notamment en raison du possible profilage racial.
«Les Premières Nations ont été traitées comme des criminelles lorsqu’elles tentent d’ouvrir des comptes bancaires et elles ont été victimes de profilage racial dans le secteur de la santé, de la part de la police et des représentants du gouvernement», soutient l’organisation dans son mémoire.
«Imaginez la possibilité que de tels abus se poursuivent, voire s’aggravent, lorsque des organisations et des individus ayant des biais construisent des systèmes d’IA qui auront des conséquences sur les Premières Nations.» Selon le mémoire, le projet de loi fait peu pour rassurer les Premières Nations.
Jim Balsillie croit que le projet de loi devait être renvoyé à la planche à dessin.
«Se précipiter pour adopter une législation aussi imparfaite ne fera qu’aggraver les craintes des citoyens à l’égard de l’IA, car la Loi sur l’intelligence artificielle et les données prouve simplement que les décideurs politiques ne peuvent pas prévenir efficacement les méfaits actuels et émergents des technologies émergentes.»
Anja Karadeglija, La Presse Canadienne
