L’intelligence artificielle générative pour ou contre la démocratie ?

Dès lors que ses applications potentielles sont pour l’essentiel inconnues – et qu’elles semblent virtuellement sans limites –, il serait extrêmement difficile de prédire dans quelle mesure l’intelligence artificielle (IA) pourrait affecter la démocratie.

Si des outils restreints d’intelligence artificielle, destinés à des tâches spécifiques, comme la tenue des listes électorales, sont déjà utilisés dans différents pays, les effets de l’intelligence artificielle générative sont plus difficiles à envisager. Cette technologie ne se réduit pas à une nouvelle application, comme une plateforme de réseau social ; c’est plutôt une technologie constitutive, qui rappelle à cet égard l’émergence de l’internet. Elle influencera la démocratie, que ce soit directement, par la transformation des mécanismes électoraux et de gouvernance, ou indirectement, puisqu’elle menace les fondations mêmes des écosystèmes d’information, de la confiance publique et de l’opinion.

Pour ce qui concerne ses conséquences directes, l’IA générative transforme la manière de faire de la politique en permettant une compréhension plus pertinente et fine des résultats potentiels d’une décision. Ainsi des organisations comme Climate Change AI  utilisent-elles déjà cette technologie pour comprendre comment concevoir des routes, des réseaux d’alimentation électrique ou de canalisation d’eau en tenant compte de l’aggravation et de la multiplication des événements climatiques extrêmes. Les services de maintien de l’ordre s’en servent pour la surveillance et pour une police de prévention. Plus récemment, des avocats  et des juges  ont commencé à employer l’IA générative, par exemple ChatGPT, pour les assister dans la rédaction de leurs conclusions pour les uns, voire de leurs décisions ou de leurs arrêts pour les autres.
Pendant ce temps, l’inquiétude monte concernant l’interaction de l’IA générative sur les élections. En 2024, des élections se tiendront dans 45 pays  au moins, et parmi celles-ci des scrutins décisifs aux États-Unis et dans l’Union européenne.

Si l’IA restreinte  contribue déjà à rationaliser l’administration des élections, l’IA générative pourrait introduire de nouveaux biais et de nouvelles incertitudes. Le système électoral américain, très décentralisé, comprend par exemple 10 000 autorités administratives compétentes, chaque État tenant ses propres listes, lesquelles doivent être constamment remises à jour, à mesure que les électeurs déménagent, meurent, ou d’une manière ou d’une autre perdent leur droit de vote. Aujourd’hui, les systèmes d’IA restreinte sont abondamment utilisés dans la gestion des listes, et s’ils permettent de gagner en efficacité, un certain nombre d’éléments laissent déjà penser que les algorithmes utilisés pour la mise à jour des listes ont du mal  à identifier les noms asiatiques et pourraient discriminer plus généralement les minorités. Des biais similaires ont été révélés lors des procédures de vérification des signatures, une mesure exigée d’ordinaire pour les votes par correspondance.

Mais l’influence de l’IA pourrait se faire sentir au-delà de la simple gestion administrative des listes, notamment sur la conception des règles et des structures électorales, avec des conséquences possibles sur la compétitivité des scrutins, la polarisation de l’électorat, la participation et les motifs qui poussent un candidat à se présenter. Une écrasante majorité des circonscriptions – 90 % – sont considérées comme « sûres  » du point de vue partisan – ce qui signifie que le résultat y est en général prévisible, donnant l’avantage soit aux républicains soit aux démocrates. Il existe aujourd’hui des dizaines d’applications permettant d’assister le législateur dans le découpage des circonscriptions. Si des programmes avancés d’IA générative peuvent être utilisés pour améliorer l’équité et la représentativité du système politique américain, ils peuvent, tout aussi facilement, permettre un redécoupage partisan encore plus répressif à l’avantage de la majorité en place, préservant partis et élus des aléas d’un scrutin véritablement compétitif.

Mais outre le redécoupage, l’IA générative pourrait faciliter d’autres réformes structurelles. Les pays européens utilisent le plus souvent un mixte  de système proportionnel plurinominal et de système uninominal à un ou deux tours, tandis qu’aux États-Unis, le système est uninominal à un tour, c’est-à-dire que le gagnant remporte tout. Les réformateurs, cherchant à encourager la modération et à réduire la polarisation débattent des mérites d’autres modes de scrutin, par note, proportionnel, déterminé par une primaire ouverte, etc. Mais les conséquences possibles de ces changements en fonction d’un environnement ou d’un contexte politiques donnés ainsi que leurs interactions lorsqu’ils sont combinés demeurent difficiles à prévoir. L’IA générative pourrait éclairer ces dynamiques complexes, et renforcer nos capacités à évaluer sur le long terme les effets d’une réforme électorale.
Toutefois, si de tels changements affectent directement la mécanique démocratique, les effets indirects sont peut-être plus troublants. Il est probable que l’IA bouleverse en profondeur l’organisation des marchés du travail, avec toutes les conséquences politiques qu’on imagine. Elle pourrait aussi remodeler les écosystèmes informationnels sur lesquels s’appuient gouvernements, candidats et électeurs. L’IA générative pourrait s’avérer une ressource intéressante pour les journalistes, les aidant dans des tâches comme le compte rendu des témoignages devant le Congrès ou l’organisation des sources, voire les assistant dans la rédaction ou la correction de leurs articles. Et il pourrait en résulter des licenciements supplémentaires dans la presse.

Les plateformes de réseau social pourraient utiliser l’IA pour modérer leurs contenus en ligne, lutter contre la diffusion de fausses informations susceptibles d’interférer avec le scrutin ou épargner aux modérateurs humains la tâche souvent traumatisante de passer en revue l’internet pour y déceler les contenus les plus choquants. Mais l’IA générative a aussi, presque certainement, la capacité d’exacerber la crise actuelle de l’information, en facilitant la fabrication de contenus très personnalisés et persuasifs, qui pourront être testés, affinés, adaptés et ciblés en empruntant tous les médias.

Au mois d’avril, le parti républicain a diffusé la première publicité négative réalisée grâce à l’IA, contre le président Joe Biden. Il n’est pas très difficile d’imaginer un paysage politique inondé de publicités (ou de podcasts) produites à moindres frais, en utilisant des images ou des voix provenant de sources crédibles et conçues pour la manipulation de segments ciblés de l’électorat, recourant aux historiques de navigation pour identifier et exploiter leurs fragilités psychologiques. Reste à voir dans quelle mesure ces pratiques pourront véritablement changer la donne.

La capacité de l’IA générative de créer une désinformation convaincante dans maints langages pourrait aussi être une aubaine pour des adversaires étrangers, auparavant handicapés par leur manque d’aisance linguistique ou culturelle. Dans le même temps, les défenseurs de la démocratie pourraient utiliser les mêmes outils pour créer des messages antiautoritaires plus éloquents et cibler plus précisément les communautés les plus vulnérables. Dans l’état actuel des choses, les voix démocratiques sont pourtant en minorité et moins bien armées.

Cela dit, si l’IA peut générer des contenus, il faut encore que des distributeurs, comme Facebook, trouvent son public. Les laboratoires d’IA et les plateformes de réseau social devraient travailler ensemble afin de mettre en œuvre des mécanismes efficaces de prévention de la désinformation.

Il est important de rappeler que ces modèles constitutifs d’apprentissage du langage sont aussi sensibles aux biais que les corpus d’histoire humaine sur lesquels ils s’exercent en sont marqués. En conséquence de quoi ils favorisent les cultures disposant des plus importants corpus écrits et des sources numérisées les plus abondantes (leurs langages favoris étant l’anglais et le cantonais), et les récits de conquêtes (par les conquérants) y sont surreprésentés. Ces biais peuvent être extrêmement dangereux, surtout à une époque marquée par la hausse de la polarisation politique dans les démocraties libérales – 40 % des Américains  refusent le résultat de l’élection présidentielle de 2020.

Par essence, la démocratie dépend de la confiance des citoyens tant dans leurs dirigeants que dans les institutions qui représentent leurs intérêts. Mais la confiance est précaire et doit être entretenue. Si l’IA peut offrir des avantages non négligeables dans des domaines comme la médecine, l’industrie et l’éducation, on doit considérer avec circonspection son action sur la démocratie. Faute de quoi elle ne renforcera pas et bien au contraire fragilisera le gouvernement du peuple par le peuple.
Source – lejecos