Abstracts
Abstract
This article outlines one of three systemic conditions underwriting misleading, deceptive, and false content in the socio-digital ecosystem today. Against philosophical realism, which attempts to offer a useful diagnostic bulwark against misinformation, the argument takes up both deliberate and nondeliberate misinformation—from intentional disinformation of all stripes (driven by State, corporate, and other actors), deep fakes, pseudo-science, lies and distorted information to fictions and deceptions unwittingly produced by computational features and functions of machine learning and artificial intelligence (AI), such as with automated prompt-and-response systems. The discussion of misinformation today must additionally reckon with the legal framework guiding online content (and its moderation) as it intersects with the economic incentive structures of contemporary platforms. The structure of the legal economy, in turn, shapes the algorithmic systems and interface designs that curate and generate content on digital platforms. It is the computational feature of the information ecosystem today that is the primary object of consideration in this article.
With the increase in computing power in the early 2000s and the archiving of petabytes of digital data, computational approaches shifted from rule-governed, symbolic, and human readable systems to data mining, clustering, and statistical analysis. This statistical turn in the era of the early internet created the conditions for a correlational paradigm for the flow of information within networked communication. The information ecosystem today is ordered by technical tools for prediction and risk reduction—clustering algorithms, Markov chains, n-grams, neural network methods, large language models, and the like. The intersection of the correlational paradigm for computing with the telephonic legal construal of platforms, as well as the concomitant economic incentives, created the conditions for the undermining of documentality imagined by philosophical realism. Following a brief critique of the realist turn in philosophy, the article will explore the correlational paradigm as a technical diagnostic punctum central to the reign of “powers of the false” within the digitally-networked ecosystem today.
Résumé
Cet article s’intéresse à l’une des trois conditions systémiques sous-jacentes à la diffusion de contenus trompeurs, fallacieux et mensongers dans l’écosystème socio-numérique contemporain. À l’encontre du réalisme philosophique — qui tenterait de fournir un diagnostic utile contre la désinformation — notre axe de réflexion aborde d’une part la désinformation intentionnelle (orchestrée par des acteurs étatiques ou corporatifs) telles que les deepfakes, les pseudosciences, les informations mensongères ou déformées, mais également la désinformation involontaire telles que les systèmes de demande et de réponse automatisés de l’apprentissage automatique et de l’intelligence artificielle (IA)
Aujourd’hui, la discussion sur la désinformation doit donc prendre en compte le cadre juridique qui guidant le contenu en ligne (et sa modération) puisqu’il entre directement en intersection avec les structures d’incitation économique des plateformes contemporaines. De plus, nous constaterons que la configuration de l’économie légale a également un impact sur la conception des systèmes algorithmiques et des interfaces qui régissent et produisent du contenu sur les plateformes numériques. Par conséquent, notre réflexion se centrera principalement sur l’aspect computationnel de l’écosystème de l’information contemporain.
Avec l’augmentation de la puissance de calcul au début des années 2000 et le stockage de pétaoctets de données numériques, les approches informatiques ont évolué de systèmes régis par des règles symboliques compréhensibles par les humains vers des méthodes axées sur l’exploration de données, le regroupement et l’analyse statistique. Ainsi, cette évolution à l’ère de l’Internet créa les conditions propices à l’émergence d’un paradigme corrélationnel concernant la circulation de l’information au sein des réseaux de communication. Aujourd’hui, ce sont des outils techniques de prédiction et de réduction des risques (algorithmes de regroupement, chaînes de Markov, n-grammes, méthodes de réseaux neuronaux, grands modèles de langage, etc.) qui ordonnent l’écosystème de l’information. Finalement, l’intersection du paradigme corrélationnel de l’informatique avec la construction juridique téléphonique des plateformes, ainsi que les incitations économiques concomitantes, contrarient bel et bien la documentalité imaginée par le réalisme philosophique. C’est donc après une brève critique du tournant réaliste en philosophie que cet article vise à explorer ce paradigme corrélationnel en tant que « punctum » diagnostique technique, au coeur du règne des « puissances du faux » dans l’écosystème numérique en réseau d’aujourd'hui.