AI’s Democratic Challenge: Reflections on the Law and Political Economy of Artificial Intelligence•
The McGill Law Journal is now open access. To see the full article, please click here.
La Revue de droit de McGill est maintenant en libre accès. Pour voir l’article complet, veuillez cliquer ici.
Artificial intelligence (AI) is variably identified as “job killer,” as “inhuman,” as “unpredictable” and “ungovernable,” but also as the greatest technological innovation in generations. Lawyers struggle with AI across a host of legal fields, including consumer protection, constitutional, employment, administrative, criminal, and refugee law. While AI is commonly discussed as a question of technological progress, its core challenge is a political one. As AI is used as a tool to review employment recruitment files, assess loan, mortgage, or visa applications and to collect and process data of “suspicious” actors, it deepens existing inequalities and socio-economic vulnerability. Given the rapidly expanding reach of AI into most facets of social, economic, and political life, AI shapes people’s access to democratic life in an unprecedented and increasingly precarious manner. Efforts to address its promises and perils through a lens of “AI ethics” can therefore hardly capture the scope of challenges which arise from AI. Seen from a historical perspective, then, AI accentuates and reinforces trends of inequality, social alienation, and political volatility which began long before AI’s implications in society’s daily lives.
L’intelligence artificielle (IA) est perçue à la fois comme « tueuse d’emplois », comme « inhumaine », « imprévisible » et « ingouvernable », mais aussi comme la plus grande innovation technologique depuis des générations. Des juristes confrontent l’IA à travers une multitude de domaines juridiques, allant de la protection des consommateurs au droit constitutionnel, droit du travail, droit administratif, pénal et des réfugiés. Pendant que l’IA est considérée sous l’angle technologique, son principal défi est d’ordre politique. Utilisée pour le recrutement, l’octroi de prêts, d’hypothèques ou de visas, ainsi que pour la surveillance, elle aggrave les inégalités existantes et accroît la vulnérabilité socio-économique. Compte tenu de la portée croissante de l’IA dans différents aspects de la vie sociale, économique et politique, l’IA façonne l’accès des citoyens à la vie démocratique d’une manière sans précédent et de plus en plus précaire. Les réponses axées sur « l’éthique de l’IA » peinent ainsi à saisir l’ampleur des enjeux qu’elle soulève. D’un point de vue historique, l’IA accentue et renforce les tendances à l’inégalité, à l’aliénation sociale et à l’instabilité politique qui ont commencé bien avant que l’IA n’intervienne dans la vie quotidienne de la société.
• “Artificial intelligence can only evolve in a legal framework.”
* Professor of Business Law, McGill University, Faculty of Law. This paper is the revised version of the Opening Lecture presented at the McGill Law Journal’s 2024 symposium, entitled “Reimagining Justice: Artificial Intelligence’s Power for Redress and Division.” My gratitude to the colleagues who presented and contributed to the conversation and for feedback on this paper from Sylvie Leduc, Jennifer Raso, Alberto Salazar, and Teresa Scassa. Excellent comments and editing were provided by the Journal’s editorial team and, in particular, its Volume 70 editor-in-chief, Pascale Malenfant.
