Machine Agencies et l’Algorithmic Media Observatory sont heureux d’annoncer leur nouveau programme de recherche sur la politique des modèles ouverts. La subvention Insight du CRSH, La politique des modèles ouverts, explore les contradictions des modèles ouverts en tant que question déterminante de la gouvernance de l’IA.
Les modèles ouverts – des « technologies open source gratuites à utiliser… sûres et sécurisées » – pourraient-ils constituer « une approche canadienne de l’IA générative » (Chambre de commerce du Canada, 2024) ? La Chambre de commerce a avancé cette idée dans un article, dans le contexte des débats sur la réglementation de l’IA au Canada. Mais cet article était loin d’être « fait au Canada » : il a été rédigé par le géant international des plateformes Meta. Pourquoi une entreprise — notoirement connue pour la commercialisation d’Internet — ferait-elle la promotion d’une technologie gratuite à utiliser ? Comment la rhétorique de l’ouverture peut-elle masquer de nouvelles formes d’expansion des entreprises dans le domaine de l’IA ?
Ces modèles peuvent souvent servir de vecteurs indirects de contrôle corporatif de l’IA. En 2024, Meta a discrètement modifié la politique d’utilisation de son modèle open source, Llama, afin d’autoriser des « applications de sécurité nationale », permettant de fait son usage à des fins militaires (Roth, 2024). La capacité de Meta à modifier unilatéralement ces politiques va à l’encontre des théories fondamentales de l’ouverture, conçue comme un moyen de gouvernance partagée et de responsabilité publique (Lessig, 2004 ; Schrock, 2016). Comment un modèle « ouvert » peut-il être soumis à un contrôle corporatif aussi strict ? Pourquoi les modèles ouverts bénéficient-ils d’une protection réglementaire, alors que la plupart d’entre eux « ne mèneront pas, à eux seuls, à un écosystème plus diversifié, responsable ou démocratisé, même s’ils peuvent présenter d’autres avantages » (Widder et al., 2024, p. 831) ?
La définition des modèles ouverts se situe au croisement de la gouvernance mondiale de l’IA et de la gouvernementalité (Amoore et al., 2024 ; Roberge et al., 2020 ; Veale et al., 2023). De plus en plus, l’IA est comprise comme un projet politique, notamment en raison des positions parfois extrêmes de plusieurs figures clés du domaine (Gebru & Torres, 2024). Les controverses — ou leur absence — sur ce qu’est l’IA et sur ses impacts sociaux ont façonné son projet politique initial, légitimant les grandes entreprises d’IA comme des empires de la « nouvelle » économie (Dandurand et al., 2023 ; Gourlet et al., 2024 ; Suchman, 2023). Ces empires de l’IA ont provoqué une crise mondiale : la nécessité de légitimer l’IA comme fondement de l’avenir sans pour autant légitimer des concentrations de pouvoir antidémocratiques, ce qui a conduit à envisager les modèles ouverts comme solution, en raison à la fois de leur importance et de l’ambiguïté de la notion d’ouverture.
Le programme de recherche combine les études critiques de l’IA et l’économie politique de la communication internationale avec la recherche-création et la théorie des communs afin d’explorer les tensions politiques autour des modèles ouverts, considérés à la fois comme solution et comme menace pour la responsabilité démocratique des technologies de l’IA. Reprenant ce défi, ce projet de cinq ans analyse l’émergence de la gouvernance des modèles d’IA ouverts, collabore au développement de nouvelles formes de gouvernance des modèles et renforce la supervision démocratique de l’IA grâce à la théorie de la gouvernance fondée sur les communs. Ces axes de recherche auront des retombées nationales et internationales. L’équipe fera de Montréal un pôle critique sur les modèles open source dans le champ émergent des études critiques de l’IA, contribuera à la réglementation nationale et internationale de l’IA et développera de nouveaux modèles de gouvernance pour des modèles communautaires.
Le projet sera dirigé à l’Institut Milieux de l’Université Concordia et à la Chaire de recherche du Québec sur l’intelligence artificielle et le numérique francophones (IANF), avec des partenaires tels que MUTEK, le Centre canadien de politiques alternatives et la Société des arts technologiques. L’équipe de recherche comprend notamment Jonathan Roberge, Bart Simon, ME Luka, Jennifer Pybus, Florence Millerand et Patrick McCurdy.
Références
Amoore, L., Campolo, A., Jacobsen, B., & Rella, L. (2024). A world model: On the political logics of generative AI. Political Geography, 113, 103134. https://doi.org/10.1016/j.polgeo.2024.103134
Canadian Chamber of Commerce. (2024, October 28). Open-Sourced AI: A Made-in-Canada Approach to Generative AI. Canadian Chamber of Commerce. https://chamber.ca/open-sourced-ai-a-made-in-canada-approach-to-generative-ai/
Dandurand, G., McKelvey, F., & Roberge, J. (2023). Freezing out: Legacy media’s shaping of AI as a cold controversy. Big Data & Society, 10(2), 20539517231219242. https://doi.org/10.1177/20539517231219242
Gebru, T., & Torres, É. P. (2024). The TESCREAL bundle: Eugenics and the promise of utopia through artificial general intelligence. First Monday. https://doi.org/10.5210/fm.v29i4.13636
Gourlet, P., Ricci, D., & Crépel, M. (2024). Reclaiming artificial intelligence accounts: A plea for a participatory turn in artificial intelligence inquiries. Big Data & Society, 11(2), 20539517241248093. https://doi.org/10.1177/20539517241248093
Lessig, L. (2004). Free Culture: How Big Media uses Technology and the Law to Lock Down Culture and Control Creativity. Penguin Press.
Roberge, J., Morin, K., & Senneville, M. (2020). Deep Learning’s Governmentality: The Other Black Box. In A. Sudmann (Ed.), The Democratization of Artificial Intelligence (pp. 123–142). transcript Verlag. https://doi.org/10.1515/9783839447192-008
Roth, E. (2024, November 4). Meta AI is ready for war. The Verge. https://www.theverge.com/2024/11/4/24287951/meta-ai-llama-war-us-government-national-security
Schrock, A. R. (2016). Civic hacking as data activism and advocacy: A history from publicity to open government data. New Media & Society, 18(4), 581–599. https://doi.org/10.1177/1461444816629469
Suchman, L. (2023). The uncontroversial ‘thingness’ of AI. Big Data & Society, 10(2), 20539517231206794. https://doi.org/10.1177/20539517231206794
Veale, M., Matus, K., & Gorwa, R. (2023). AI and Global Governance: Modalities, Rationales, Tensions. Annual Review of Law and Social Science, 19(Volume 19, 2023), 255–275. https://doi.org/10.1146/annurev-lawsocsci-020223-040749
Widder, D. G., Whittaker, M., & West, S. M. (2024). Why ‘open’ AI systems are actually closed, and why this matters. Nature, 635(8040), 827–833. https://doi.org/10.1038/s41586-024-08141-1
