Anne Griffin, chef de produit chez Open Law, a participé au panel «IA et inégalités sociales» de la conférence «IA en mission sociale». (Photo: Linkedin)
Combien d’entre vous estiment que l’IA contribue/peut contribuer à réduire les inégalités entre les individus?
Combien estiment que l’IA contribue/contribuera à accroître ces inégalités?
C’est la question lancée le 22 mars par Nicolas Zorn, dg du nouvel Observatoire québécois des inégalités, aux participants de la conférence « IA en mission sociale ».
La salle était plutôt divisée. Monsieur Zorn, lui, s’est déclaré « optimiste sceptique ».
Il s’en est suivi les deux panels suivants: « IA et inégalités sociales » et « IA, argent et impact social ».
Cet article rassemble quelques interventions des panélistes. Je les ai retenues parce que je crois qu’elles peuvent stimuler notre réflexion individuelle et collecte. L’IA est un outil, comment et quoi souhaitons-nous qu’il serve?
1-Les politiques d’inclusion ont leur limite
«La parité de genre au sommet (dans les postes de direction et au CA) n’affecte que le 1%. En quoi cela contribue-t-il à réduire les inégalités?» (Nicolas Zorn).
2-Les subventions à l’IA devraient prendre en considération les possibles dommages collatéraux
«Chaque projet d’IA devrait être évalué en fonction de son impact sur différentes clientèles. » (Nicolas Zorn)
3- Le chercheur en IA et le développeur d’applications doivent reconnaître leurs limites d’humains
Ils se situent peut-être à l’intersection de plusieurs univers (genre, ethnie, expérience, etc). Mais ils ne les intègrent pas tous. « Je dois reconnaître mes privilèges. Accepter que je ne représente pas toutes les expériences humaines. Et intégrer d’autres humains qui possèdent ces expériences dans le développement de mes solutions technologiques. Chaque solution AI devrait débuter par deux questions: comment cette solution peut être utile aux gens? À qui, en quoi et comment peut-elle nuire?» (Anne Griffin, chef de produit, Open Law)
4-L’IA doit adopter le point de vue de l’individu
«Chacun de nous devrait savoir quelles données ont été utilisées pour mener à une décision qui nous concerne. Et connaître toutes les données qu’un site, ou une plateforme, détient sur nous. » (Kathleen Siminyu, scientifique de données, Femmes en apprentissage automatisé, L’ Afrique Parle)
5-Il faut élargir la définition d’inégalités au-delà du revenu pour inclure celles liées à la connaissance. «C’est particulièrement vrai pour les projets en IA. Le manque de littéracie financière a accentué les impacts de la crise de 2008 sur plusieurs citoyens. L’absence de littéracie numérique est en train de produire un autre type d’inégalités.» (Margie Mendell, professeur, École des affaires publiques et communautaires, Université Concordia)
6-La 4e révolution industrielle doit s’inspirer de la première
«Les syndicats, les mouvements sociaux et la mutualisation ont été autant de réactions pour que la révolution industrielle profite à un maximum d’individus. Car le paradigme du libre-marché mène forcément à la concentration et au monopole. L’histoire se répète. Le contrôle de l’IA et son déploiement se concentrent entre les mains de quelques acteurs. Des mouvements similaires à ceux de la première révolution industrielle s’imposent pour lutter contre les inégalités issues de l’IA. » (Margie Mendell)
7- Méfions-nous des constats rapides
«La fintech permet de bancariser de nombreux exclus du système financier. Ces invidivus qui n’avaient aucune cote de crédit et aucune capacité d’emprunt ont accès à des opportunités jusque là inatteignables. C’est vrai. Mais la plupart de ces fintech ne sont pas africaines. Elles se trouvent en Occident, souvent à Silicon Valley. Nous sommes, encore, dans un scénario d’extraction de valeur par l’Occident. Cette fois, au lieu de ressources naturelles, il est question de données. Aujourd’hui, ce sont elles qui ont de la valeur.» (Kathleen Siminyu)
8- Il existe un fossé entre la recherche en IA et le terrain
Vous travaillez pour un organisme en économie sociale. Et vous pensez que l’IA peut vous aider à remplir votre mission, que faites-vous?
Vous êtes chercheur en IA et vous souhaite contribuer au bien commun (AI for good), que faites-vous?
«Il manque un intermédiaire entre ces deux univers. Sinon comment s’assurer que l’IA aura un impact social positif? », souligne Béatrice Alain, dg du Chantier de l’économie sociale. D’ailleurs, outre Mme Alain, et une autre participante, aucun représentant du secteur de l’économie sociale ne semblait être présent à cette conférence. Comment s’assurer de créer des solutions AI à impact social positif si les experts de la question sociale ne se sentent pas interpellés le sujet? Et s’ils craignent les impacts négatifs de l’IA sur certains citoyens, leur participation à ce type d’événement est d’autant plus stratégique.
Je terminerai sur cette réflexion de Joshua Benjio :
«Ce qui m’inquiète le plus se résume à la question suivante: sommes- nous suffisamment sages collectivement pour utiliser ces outils technologiques puissants? La sagesse collective ne progresse pas aussi vite que le progrès technologique. Il faut accélérer le rythme.»
