IA et démocratie – premières réflexions

Jotsna Iyer — 2024-10-18T06:53:32Z

Il ne brise pas les volontés, mais il les amollit, les plie et les dirige ;
il force rarement d'agir, mais il s'oppose sans cesse à ce qu'on agisse ;
il ne détruit point, il empêche de naître ;
il ne tyrannise point, il gêne, il comprime, il énerve, il éteint, il hébète […]

Alexis de Tocqueville

Les mots ci-dessus de Tocqueville décrivant un souverain se retrouvent dans un ouvrage sur Google¹. Écrit à l'époque où Google n'en était pas encore à l'IA générative (GenIA), mais utilisait et développait les IA dans ses algorithmes, sa philosophie et ses pratiques.

Les IA et ses interactions avec la démocratie ou, comme indiqué ci-dessus, son contraire : Un sujet important qui nous préoccupe et nous occupe [nous venons de soumettre deux projets liant l'éducation à l'IA et la démocratie].
L'IA permet-elle une démocratie plus épanouie ou, au contraire, est-elle un instrument à charge ? Si la démocratie est, dans un sens, un équilibre de tensions entre ses composants (individuels et collectifs, travailleurs et dirigeants, etc.), comment les IA affectent-elles ce système ? Qu'avons-nous à faire, en tant que créatrices/créateurs et personnes utilisatrices de l'IA, pour renforcer la démocratie ?

1. L'égalité contre les concentrations de pouvoir

Qu'est-ce que la démocratie sans une égalité (un peu approximative) de tous les citoyen·nes pour influencer les décisions politiques² ? L'égalité qui donne à la collectivité des pouvoirs sur ceux qui ont le pouvoir sur chacun·e ? L'égalité qui exige que ceux qui ont le pouvoir soient cohérents dans la manière dont ils l'utilisent, qu'ils traitent les cas similaires de la même manière, qu'ils expliquent leurs décisions et qu'ils soient soumis à la contestation, à l'examen et à l'abrogation potentielle³^,⁴.

Les moteurs de recherche, les sites web et les réseaux sociaux donnent à celles et ceux qui y ont accès un moyen de communiquer avec leurs représentant·es, de rassembler des sympathisant·es et d'agir pour changer la politique où nécessaire. L'IA utilisée dans ces applications semble ainsi faciliter l'égalité.

Free Clip Art, CC BY-SA 4.0, via Wikimedia Commons

Mais l'IA dans les systèmes de recommandation des actualités, audio, vidéo et de produits, n'a-t-elle pas elle-même le pouvoir de contrôler ce que nous pouvons savoir, avoir et vouloir⁴ ? Comment limiter alors ce pouvoir d'un système qui n'est ni explicable ni responsable ? Tout aussi important, comment réguler les grandes entreprises qui ont seules les moyens de faire fonctionner de tels gourmands de puissance et de données, dans un monde globalisé ?

2. L'accès à l'information contre la désinformation

Pour savoir comment et où renforcer l'égalité, pour prendre des décisions éclairées, mais pas seulement, tous les citoyen·nes ont besoin de savoir en quoi et comment les décisions politiques les concernent. Ils et elles ont besoin de comprendre les questions qui deviennent de plus en plus complexes et techniques, de savoir aller au-delà de ce qui est mis en discussion par la politique et les médias, pour comparer opinions et analyses provenant d'autres cultures et exprimées dans d'autres langues. Voilà qui serait un terrain fertile pour les chatbots, les traducteurs et tous les autres outils capables de résumer, de traduire et de présenter des informations et des actualités. À condition, bien sûr, que nous puissions contourner les hallucinations et empêcher les deepfakes et les trolls synchronisés qui sévissent sur la toile, semant la désinformation et le mécontentement.

3. Liberté d'expression contre démesure et polarisation

Ce qui nous amène à la polarisation, mise en contraste avec la liberté d'expression, le mauvais contre le bon franc-parler, évoqué par Foucault⁵. Colin Crouch pour sa part parle de citoyennetés positive et négative, toutes deux importantes pour la démocratie, mais la première étant la plus précieuse :

la positive, où les individus se réunissent pour discuter afin de transmettre leurs demandes ainsi formulées au gouvernement et à ses institutions ;
la négative, qui correspond à l'activisme du blâme et de la plainte, de la colère et de la vengeance, où les intégrités publique et privée sont soumises à un examen minutieux².

Il s'agit peut-être du talon d'Achille des systèmes de recommandation et des réseaux sociaux qui, tout en rassemblant les personnes et en ouvrant le dialogue, en leur donnant des opportunités d'expression et de participation à la citoyenneté, les poussent vers des contenus extrêmes et finissent par les diviser en camps antagonistes. Par ailleurs, les personnes qui utilisent les modèles de langage pour écrire semblent devenir politisées⁶, si les modèles le sont, aggravant ainsi ce qui est peut-être également une faiblesse de l'humanité :

La démesure gardera toujours sa place dans le cœur de l'homme… Nous portons tous en nous nos bagnes, nos crimes et nos ravages. Mais notre tâche n'est pas de les déchaîner à travers le monde ; elle est de les combattre en nous-mêmes et dans les autres⁷.

Albert Camus

Ce ne sont bien sûr pas les seuls aspects pertinents des liens entre les IA et la démocratie. Nous continuerons à explorer ces questions, à en discuter et à partager dans les mois à venir. Mais d'ores et déjà, il est possible d'entrevoir certaines solutions :

Comme discuté dans ce blog à maintes reprises, il nous faut une IA qui soit plus explicable, plus transparente et plus responsable. Étant donné que les résultats des IA génératives sont sensibles à la base de données utilisée, aux algorithmes et aux procédures d'entraînement, de test, et de déploiement, et aux valeurs de ses programmeurs et ses investisseurs, il nous faut des modèles de langage ouverts, de préférence modélisés à partir d'ensembles de données francophones basées sur le sol français. Toutes nos félicitations à l'équipe d'Open LLM France qui a lancé un tel projet.
Nous avons besoin d'une formation et d'échanges sur la culture des données pour toutes et tous. Nous pourrions peut-être étendre sa portée pour y inclure la remise en question de la validité ou de la fiabilité des données produites, et discuter de leurs contextes d'application appropriés⁸.
Enfin, et sans aucun doute le point le plus important, une éducation de qualité.
Une éducation qui permettrait aux étudiant·es de s'emparer de l'IA non seulement par le codage et la logique, mais aussi par l'analyse de la condition socio-économique et politique qui produit toute solution technologique.
Une éducation qui produirait des étudiant·es plein·es de confiance en elles/eux, capables de démêler la réalité des fausses informations, pour qui la pensée critique ne serait pas qu'un outil mais une culture, un savoir-être. Qui, en même temps, sauraient adoucir leur esprit critique par de la fraternité et du respect pour leurs pairs afin de forger ensemble un avenir gonflé d'espoir, de bonne santé et de bonheur pour toutes et tous – les buts ultimes d'une démocratie saine.

L'IA doit pouvoir contribuer à une telle éducation : en traduisant et en localisant les ressources éducatives, en les rendant identifiables à la vie réelle, compréhensibles et donc plus assimilables, en permettant la création de ressources qui pourront être adoptées et maîtrisées par chaque élève. À suivre…

Merci à l'équipe de la Chaire Unesco RELIA pour ses apports et ses conseils.

Références

Siva Vaidhyanathan, 2011, The Googlization of Everything : (and Why We Should Worry), University of California Press ︎
Colin Crouch, Post Democracy, https://fabians.org.uk/wp-content/uploads/2012/07/Post-Democracy.pdf ︎
Jeremy Waldron, 2011, The Rule of Law and the Importance of Procedure ︎
Seth Lazar, Automatic Authorities : Power and AI ︎
Michel Foucault, 2008, Le Gouvernement de soi et des autres, Seuil ︎
Maurice Jakesch et al., 2023, Co-writing with Opinionated Language Models Affects User's Views, https://dl.acm.org/doi/fullHtml/10.1145/3544548.3581196 ︎
Albert Camus, 1985, L'Homme révolté, Collection Folio essais (n° 15), Gallimard ︎
Ben Williamson et al., 2020, The dataification of teaching in Higher Education : critical issues and perspectives, https://www.tandfonline.com/doi/full/10.1080/13562517.2020.1748811 ︎

Liberté d'expression, indépendance

Les approches et opinions exprimées sur ce site n'engagent que la Chaire RELIA et ne reflètent pas nécessairement celles de Nantes Université et de l'UNESCO.

Licence

Sauf indication contraire, l'ensemble des contenus de ce site https://chaireunescorelia.univ-nantes.fr/ est mis à disposition selon les termes de la Licence Creative Commons Attribution 4.0 International.

Innovation Pédagogique et transition

IA et démocratie – premières réflexions

1. L'égalité contre les concentrations de pouvoir

2. L'accès à l'information contre la désinformation

3. Liberté d'expression contre démesure et polarisation

Références