Ce qui suit est un résumé de mon article paru dans la revue Cités (PUF) "Intelligence artificielle et démocratie", 2025, (PUF) Numéro 100 / 25 ans , " Sauver la démocratie dans un monde dangereux"
Le recours à l’intelligence artificielle (IA) devient un nouveau mode de fonctionnement pour nos sociétés. Cette diffusion de l’IA dans tous les domaines est pourtant peu questionnée sur son lien avec la démocratie. Les interrogations portent généralement sur la performance des outils et des usages. Alors même qu’il est dit un peu partout qu’il s’agit d’un changement de modèle, voire de paradigme, celui-ci n’est pas qualifié et ne fait l’objet d’aucun débat démocratique de fond. On se focalise sur le problème des fausses informations mais ce sujet est souvent instrumentalisé. Le consentement éclairé des citoyens nous paraît fondamental non pas pour refuser l'innovation mais pour la maîtriser.
Premier point, le consentement éclairé du citoyen. Il peut paraitre acquis, dans la mesure où dans tous les pays ils se sont tous précipités sur les outils et les usages de l’IA. Mais leur a-t-on demandé leur avis ? Et surtout, de quelles explications ont-ils bénéficié hormis celles du fonctionnement technique ? Si la gestion par algorithmes et le tout numérique étaient déjà peu questionnés, ils deviennent, avec le passage au stade supérieur de l’IA, une sorte d’impératif catégorique. Dans les organisations, tout service doit se doter d’IA, dans une sorte de prosélytisme généralisé de nouveau croyant.
Mais les citoyens n’ont jamais été consultés et ne le seront probablement jamais, ni leurs représentants, sur les effets du tout numérique et de l’IA sur leur vie quotidienne et celle de leurs enfants. Concernant l’Etat lui-même, les plateformes d’IA qu’il utilise sont jaugées sur leur performance technique mais personne ne s’est demandé quelles conséquences elles ont sur le lien du citoyen avec l’Etat et avec la communauté nationale. Le risque réel de rupture de ce lien est masqué par un technosolutionnisme insidieux qui ainsi appliqué porte en lui une essence totalitaire.
La tentation d’un contrôle peut parfaitement atteindre des Etats dits démocratiques, on a vu la facilité avec laquelle ces Etats ont copié la Chine lors des confinements liés au covid. L’IA en serait l’outil parfait. Un vrai débat public s’impose sur l’étendue du domaine de l’IA, d’ores et déjà au sein des Assemblées parlementaires en France et au sein des instances européennes.
Deuxièmement, un point commun se dégage des discours tenus : l’IA n’est plus un outil technique mais un nouveau paradigme civilisationnel, tout à fait revendiqué par certains comme pouvant concurrencer, voire remplacer, le cerveau humain (ce qui n’est pas acquis selon les meilleurs spécialistes). La logique voudrait dès lors conduire à urgemment questionner collectivement ses conséquences avant de s’engager dans des process de long terme. Des Etats et des organisations internationales comme l’UNESCO se préoccupent certes de certains aspects de l’application de l’IA, la concurrence, les normes, au mieux des standards d’éthique à mettre en place pour les producteurs et les consommateurs, mais dans la vie économique le train est lancé sans aucun frein. Il faut dire que l’IA devient aussi objet de concurrence internationale entre Etats pour savoir qui d’entre eux la dominera. On entre donc là dans des jeux de puissances, qui perdent définitivement de vue les enjeux démocratiques.
Troisième point, on en vient à se demander d’où vient cette déferlante visiblement non maîtrisée par les gouvernants, voire même par la plupart des décideurs privés, priés de souscrire au dogme de l’IA omniprésente et omnipotente. Si elle ne paraît pas être le fruit d’une réflexion de fond des Etats, alors d’où vient-elle ? Il n’est pas paranoïaque de dire que l’avenir de l’IA et de ses usages est actuellement entre les mains d’un petit nombre de maîtres du numérique en position de force vis-à-vis des Etats eux-mêmes. Il est bien connu que quelques très grandes multinationales ont des chiffres d’affaires, sans même parler de leur capitalisation, largement supérieurs aux budgets et aux PIB de la plupart des Etats. On pense évidemment aux fameux milliardaires issus de la Silicon Valley et autres clusters. Or ces acteurs privés ont aujourd’hui la possibilité, par leur maîtrise de l’IA et d’une recherche sans cesse renouvelée, de chercher à mettre en œuvre leurs options idéologiques. Car ils en ont, à côté de la course à la rentabilité. Des milliardaires comme Peter Thiel (ex Paypal, Facebook, Palantir…) , Marc Andreesen et d’autres ne font pas mystère de leurs opinions libertariennes, résolument anti-Etat et surtout fondées sur la certitude que quelques-uns seulement seront capables au niveau mondial de maîtriser une IA de plus en plus dévorante. Ils n’ont pas tort : on peut assister à un véritable schisme entre décideurs -gouvernants ou acteurs privés- maîtres de son utilisation et de sa régulation éventuelle, et le reste de la population. Ce mouvement « séparatiste » entre élites et peuples n'est pas directement ni initialement dû à l’IA mais celle-ci peut grandement l’accentuer.
Une dystopie bien connue est celle de la conjugaison d’un côté d’une IA toute-puissante au service de ceux qui la maîtrisent et de l’autre, d’une masse trop peu éduquée pour comprendre et le cas échéant riposter, et ce, au niveau mondial. Le mouvement actuel de baisse de la transmission des savoirs, en tout cas dans les sociétés occidentales, au profit d’outils d’employabilité et de jeux ne peut qu’y contribuer. Si l’on y ajoute le revenu universel, on aboutit à une actualisation du panem et circenses latin, dans une version automatisée.
Quatrième point, en dehors même de toute volonté machiavélique, l’IA transporte à coup sûr des influences. L’outil technique n’est jamais neutre. L’outil porte la vision de ceux qui l’ont fabriqué. Les algorithmes sont écrits à l’origine par des humains. Il transporte et fabrique des contenus. La capacité de l’IA générative à en produire elle-même revient à lui donner la responsabilité de fabriquer par elle-même des savoirs, des situations. Il n’en reste pas moins que tous les biais humains peuvent se propager via l’IA, la rendant ni plus ni moins fiable que des process purement humains.
Les tentations d’influence, de contrôle social, de propagande, de séduction, de manipulation des données, des votes… ne sont pas qu’un mauvais rêve. Elles sont facilement réalisables. Alors les citoyens eux-mêmes seraient d’accord avec des mesures liberticides, leurs cerveaux ayant été préparés. C’est le fondement même du concept de démocratie qui serait ainsi mis en cause.
Alors que faire ?
En attendant d’hypothétiques débats démocratiques de fond, sans doute faudrait-il traiter en priorité le sujet essentiel de la formation et de l’éducation. Formation de ceux, data scientists et autres mathématiciens, qui fabriquent, filtrent et contrôlent l’IA. Comme l'a montré la récente en cyclique du Pape, il n’est pas impossible de rechercher le respect de l’éthique dès la conception technique et le déploiement du système, par des équipes dûment informées et formées à s’interroger.
L’éducation et la transmission des connaissances nous paraissent des voies prometteuses comme première et fondamentale réponse aux risques de l’IA pour la démocratie. Pour que le citoyen producteur et/ou consommateur d’IA se pose de lui-même les bonnes questions, sans avoir à être systématiquement « protégé » de ses risques c’est-à-dire en fait mis sous tutelle, il doit être doté d’outils d’esprit critique, dès l’école. Cela implique d’intégrer URGEMMENT cette approche dans les programmes scolaires, à travers des disciplines liées à ce qu’on appelait jadis les humanités et via l’initiation au doute scientifique (ou cartésien). On peut aussi s’inspirer des questionnements de base du process d’intelligence économique, le recoupement des informations. Cela n’est pas si difficile en soi à mettre en œuvre mais demande en revanche une vraie volonté des élites politiques de partager le pouvoir.
Car in fine, le traitement démocratique de l’IA n’est pas dissociable du traitement démocratique des autres sujets de société, il est simplement aujourd’hui le plus urgent.
NB - Voir rapport du think tank SKEMA Publika « La transition numérique : impacts et dépendances », octobre 2024 .
