Par Monica Toro Ospina et Jawad Lasri, membres du comité Antiracisme

Plus l’intelligence artificielle (IA) évolue rapidement, plus il devient évident que ses systèmes sont loin d’être neutres : ils peuvent reproduire, voire accentuer les biais sociaux, entraînant des discriminations raciales. Ces biais reflètent et amplifient les préjugés présents dans la société, comme en témoignent plusieurs exemples de discriminations sexistes et racistes. Ils sont notamment alimentés par des données stéréotypées et un manque de diversité dans les équipes de développement.

Les communautés noires et afro-descendantes restent largement sous-représentées dans ce secteur, ce qui contribue à renforcer les discriminations existantes et peut entraîner des conséquences concrètes, comme l’exclusion des femmes ou des personnes racisées. La gravité de la situation appelle une action urgente pour rendre l’IA plus éthique, inclusive et équitable, en misant sur la diversité, la vigilance collective et une technologie réellement au service de toutes et tous.

À cet égard, un rapport publié en 2016 a révélé qu’un logiciel d’IA utilisé dans le système judiciaire américain renforçait les biais racistes en surestimant les risques de récidive chez les accusés noirs. Ce cas illustre bien comment l’IA peut aggraver les discriminations lorsqu’elle repose sur des données biaisées. Cependant, si elle est utilisée de manière responsable, l’IA peut aussi devenir un outil puissant pour détecter et corriger les injustices. Par exemple, des outils comme Ravel Law permettent d’analyser les décisions judiciaires et de mettre en lumière d’éventuels biais. Au Canada, l’IA pourrait également combler le manque de données raciales et favoriser davantage la transparence et l’équité dans le système judiciaire.

Pour faire face à ces défis, il est essentiel de promouvoir la transparence, d’encourager la diversité dans le secteur de l’IA et de mettre en place une régulation stricte, afin de garantir l’équité et le respect des droits fondamentaux.

Dans cette optique, un projet a été mis en place en partenariat avec l’Observatoire des communautés noires du Québec. Ce projet vise, entre autres, à créer un espace collaboratif pour favoriser la participation de ces communautés, renforcer leur impact et stimuler l’innovation dans le domaine de l’intelligence artificielle.