Manufacturing “realities”. The impact of AI in the age of disinformation

Abstract

This paper examines the effect of generative artificial intelligence (AI) on propaganda, which has produced a significant shift from traditional methods. Twentieth-century propaganda was based on simplified driven narratives for mass audiences. AI expands the horizon, allowing for the creation of hyper-personalized disinformation at a very large scale. The analysis focuses on the relationship between AI-based bot networks and the algorithms behind social media platforms. It shows how these tools are actively deployed to suppress votes, discredit opponents, strengthen extremist movements, and fuel social polarization. To address this complex threat, a counterstrategy involving multiple stakeholders (governments, tech companies, civil society) is proposed as a way to shift from a reactive posture to a proactive strategy focused on shaping long-term societal resilience.

Keywords:

• self-perpetuating ecosystem,
• dissemination,
• cognitive warfare,
• AI-driven propaganda

Résumé

Cet article examine l’effet de l’intelligence artificielle générative (IA) sur la propagande, induisant un changement significatif par rapport aux méthodes traditionnelles. La propagande du 20e siècle était basée sur des récits simplifiés, destinés à un public de masse. L’IA élargit l’horizon, permettant la création d’une désinformation hyper-personnalisée à très grande échelle. L’analyse se concentre sur la relation entre les réseaux de bots basés sur l’IA et les algorithmes derrière les plateformes des médias sociaux. Elle montre comment ces outils sont déployés pour supprimer les votes, discréditer les opposants, renforcer les mouvements extrémistes et alimenter la polarisation sociale. Pour faire face à cette menace, une contre-stratégie impliquant plusieurs parties prenantes (gouvernements, entreprises technologiques, société civile) est proposée, favorisant le passage d’une posture réactive à une stratégie proactive axée sur la construction d’une résilience sociétale à long terme.

Mots-clés :

• écosystème autoentretenu,
• dissémination,
• guerre cognitive,
• propagande pilotée par l’IA

Resumen

Este artículo examina el efecto de la inteligencia artificial generativa (IA) en la propaganda, induciendo un cambio significativo con respecto a los métodos tradicionales. La propaganda del siglo XX se basaba en narrativas simplificadas, destinadas a un público de masas. La IA amplía el horizonte, permitiendo la creación de una desinformación hiper-personalizada a muy gran escala. El análisis se centra en la relación entre las redes de bots basadas en IA y los algoritmos detrás de las plataformas de medios sociales. Muestra cómo estas herramientas se utilizan para suprimir los votos, desacreditar a los opositores, fortalecer los movimientos extremistas y alimentar la polarización social. Para hacer frente a esta amenaza, una contra-estrategia que implica varias partes interesadas (gobiernos, empresas tecnológicas, sociedad civil) se propone, favoreciendo la transición de una postura reactiva a una estrategia proactiva centrada en la construcción de una resiliencia social a largo plazo.

Palabras clave:

• ecosistema autosostenido,
• diseminación,
• guerra cognitiva,
• propaganda impulsada por la IA