Quel(s) risque(s) représente l’IA générative pour les élections et la démocratie :

Les dangers de l’intelligence artificielle pour la démocratie

L’émergence récente de l’intelligence artificielle générative comme ChatGPT constitue une nouvelle menace pour l’intégrité des processus électoraux et démocratiques selon de nombreux experts. Le Forum économique mondial de Davos a même identifié la désinformation amplifiée par l’IA comme le principal risque planétaire à court terme, devant le réchauffement climatique.

Un amplificateur de désinformation politique

Jusqu’ici, la manipulation des opinions via les réseaux sociaux était déjà un défi majeur, comme l’ont illustré les campagnes de désinformation lors de l’élection présidentielle américaine de 2016 et du référendum sur le Brexit. Mais l’IA générative risque de décupler ce phénomène en rendant la désinformation à la fois plus crédible et plus virale.

Les deepfakes audio/vidéo créés par l’IA pour faire dire ou faire n’importe quoi à des personnalités constituent une première menace. Difficilement détectables, ces faux peuvent favoriser l’émergence de narratifs convaincants bien que totalement falsifiés, comme ce faux enregistrement ayant peut-être coûté l’élection au candidat progressiste en Slovaquie.

Mais l’IA peut aussi être utilisée pour donner plus de crédibilité à de simples fausses informations ou comptes automatisés de propagande. Elle permet de générer des contenus persuasifs à grande échelle, à l’image de débats entièrement artificiels entre candidats virtuels.

Défigurer la délibération démocratique

Au-delà de biaiser le choix des électeurs, la diffusion massive de désinformation alimentée par l’IA menace les fondements mêmes de la démocratie selon les experts. En semant le doute généralisé sur toutes les sources d’information, elle crée une « insécurité épistémique » menaçant la possibilité d’un jugement rationnel partagé, condition sine qua non du débat public et de la délibération démocratique.

En France, deux tiers des citoyens adhèrent déjà à au moins une fausse information selon un récent sondage, illustrant la fragilité de l’esprit critique collectif face à un écosystème informationnel dégradé. Or les contradictions entre la défiance des Français envers les réseaux sociaux et leur incapacité à identifier les infox reflètent les difficultés à s’accorder sur les critères d’un jugement rationnel.

Protéger les conditions d’un dialogue démocratique

Face à ces risques inquiétants pour les scrutins de 2024, dont les élections européennes cruciales pour l’avenir du projet d’intégration, plusieurs mesures sont prises pour à la fois protéger la qualité de l’information disponible et les conditions d’un débat public éclairé.

Outre le retrait des contenus les plus dangereux, la labellisation des médias générés par l’IA ou le watermarking (ajout de métadonnées sur la provenance) sont privilégiés pour ne pas heurter la liberté d’expression. Des initiatives de « prebunking » visent aussi à éduquer et prémunir les citoyens contre les manipulations. Le secteur privé comme les géants du numérique développent aussi leurs propres parades.

Cependant, les analystes insistent sur la nécessité d’une coopération renforcée entre toutes les parties prenantes et l’adoption de standards communs sur ce qui constitue une information de qualité et une sécurité épistémique garante d’un débat sain. C’est l’occasion de repenser les bases d’une culture démocratique à l’ère numérique.

Une opportunité de refonder le dialogue démocratique ?

Au final, les risques posés par l’IA générative rappellent que la démocratie ne se résume pas à la tenue d’élections, mais à la capacité d’organiser un dialogue pluriel aboutissant à des compromis. Les potentielles dérives dictent donc d’affermir les garde-fous d’un espace informationnel préservant les conditions d’un jugement collectif éclairé.

Si elle n’est pas maîtrisée, l’IA générative met certes en péril l’intégrité des élections à venir. Mais elle offre aussi une chance inédite de revitaliser les bases d’un véritable débat démocratique, en obligeant à redéfinir les règles d’un discours public digne de ce nom à l’ère du numérique. C’est donc un défi, mais aussi une opportunité de progrès pour nos démocraties.

En définitive, l’émergence de l’intelligence artificielle générative représente un défi de taille pour nos démocraties. Le risque de voir ces technologies détournées pour fausser massivement le jugement des citoyens ne doit pas être négligé. Les élections à venir, comme les européennes de 2024, pourraient bien constituer un premier test grandeur nature de notre capacité collective à préserver l’intégrité de nos processus électoraux face à la désinformation dopée par l’IA.

Cependant, ce risque ne doit pas nous faire perdre de vue les immenses promesses d’émancipation et de progrès portées par l’IA. C’est au contraire une formidable opportunité de réinventer les règles d’un dialogue démocratique véritablement rationnel et éclairé à l’ère du numérique. À condition d’anticiper ses potentiels effets pervers et d’adopter dès à présent un cadre pérenne garantissant un usage vertueux et transparent de ces technologies.

La mobilisation déjà à l’œuvre des pouvoirs publics, de la société civile et des acteurs privés est de bon augure. Mais elle doit s’intensifier pour définir des standards exigeants en matière d’authenticité, de pluralité et de fiabilité de l’information en ligne. C’est à ce prix que l’IA pourra être un levier plutôt qu’un frein à la vitalité démocratique, vecteur de connaissance et d’émancipation plutôt que de manipulation et d’obscurantisme.