BERT, GPT-3, Timnit Gebru et nous L’intelligence artificielle à la conquête du langage BERT, GPT-3, Timnit Gebru and us How artificial intelligence subsumes language BERT, GPT-3, Timnit Gebru y nosotros La inteligencia artificial a la conquista del lenguaje

Résumé

Le déploiement aujourd’hui de modèles sémantiques automatisés tels le BERT de Google ou le GPT-3 d’OpenAI se montre comme un remarquable défi pour l’inscription de l’herméneutique au coeur même du projet des sciences sociales. L’intelligence artificielle est bel et bien à la conquête du langage. Cela implique d’abord qu’il faille prendre au sérieux les possibilités et la puissance de tels modèles, en se penchant sur l’histoire récente des avancées technologiques en apprentissage profond et les modi operandi de ces machines interprétantes. Cela implique ensuite de s’attarder au type de compréhension mis en jeu, à savoir principalement comment le calcul de probabilité, de variation et de seuil par exemple vient vectoriser le langage pour le restituer à la manière d’un perroquet. Larticle aborde le renvoi par Google de la chercheure Timnit Gebru suivant la parution de « On the Danger of Stochastic Parrots  » pour montrer comment la valeur du traitement automatisé du langage tient tant au monde qu’il met de l’avant qu’à sa référence à un contexte précis. Cela, enfin, doit permettre de circonscrire les apories économiques, politiques et éthiques autour de ces modèles, notamment le fait que les plateformes les développant font l’impasse sur la manière dont ils procèdent par extraction et instrumentalisation du sens. À terme, c’est ce lien étroit entre signification et déplacement des centres de pouvoir qui devient l’enjeu central des Critical AI Studies.

Mots-clés :

• Critical AI Studies,
• traitement automatique du langage naturel,
• GPT-3,
• BERT,
• Timnit Gebru,
• économie politique la signification

Abstract

The deployment of automated semantic models, such as Google’s BERT or OpenAI’s GPT-3, poses a serious challenge to hermeneutics and its centrality to the social sciences. Artificial intelligence is indeed conquering language. The technological advances associated with deep learning and the modi operandi of interpreting machines force us to seriously consider the possibilities and power of such models. More understanding is needed about the type of automated “comprehension” advanced by these models and how their calculations of probability, variation and threshold, for example, can vector language and render it as a form of “parroting.” In this paper and to this end, we examine Google’s dismissal of the researcher Timnit Gebru following the publication of “On the Danger of Stochastic Parrots,” to demonstrate how the value of automated language processing stems as much from the world it puts forward as from its reference to a specific context. Finally, this should allow us to circumscribe the economic, political and ethical aporias around these models, including the fact that the platforms developing them fail to consider the way in which they proceed by extracting and instrumentalizing meaning. In essence, it is the intimate relationship between meaning and the displacement of centres of power that is fundamental to Critical AI Studies and their evolution.

Keywords:

• Critical AI Studies,
• automatic natural language processing,
• GPT-3,
• BERT,
• Timnit Gebru,
• political economy of meaning

Resumen

El despliegue actual de modelos semánticos automatizados como el BERT de Google o el GPT-3 de OpenAI, está demostrando ser un desafío notable para la inscripción de la hermenéutica en el corazón mismo del proyecto de las ciencias sociales. De hecho, la inteligencia artificial va a la conquista de la lengua. Esto implica, en primer lugar, que sea necesario tomar en serio todas las posibilidades y el poder de tales modelos, es decir, lo que es particularmente la historia reciente de los avances tecnológicos en el aprendizaje profundo y el modus operandi de estas máquinas interpretadoras –la lectura bidireccional y los “transformadores”, en particular. Esto implica entender mejor el tipo de comprensión que está en juego, a saber, principalmente, cómo el cálculo de probabilidades, de variación y de umbral, por ejemplo, vienen a vectorizar el lenguaje para restituirlo a la manera de un loro. El artículo toma nota del caso de la referencia de Google, de la investigadora Timnit Gebru, autora del texto “On the Danger of Stochastic Parrots” (El peligro de los loros estocásticos), para mostrar cómo se encuentra el valor del procesamiento automatizado del lenguaje en el mundo que presenta, así como su referencia a un contexto específico. Esto, por último, debe permitir circunscribir las aporías económicas, políticas e incluso éticas en torno a estos modelos y, entre otros, el hecho de que las plataformas que las desarrollan ignoran la forma en que proceden mediante la extracción, mercantilización e instrumentalización del significado. En última instancia, es este estrecho vínculo entre el significado y el desplazamiento de los centros de poder lo que deviene el tema central de los Critical AI Studies (Estudios críticos de IA) y su futuro desarrollo.

Palabras clave:

• Critical AI Studies,
• procesamiento automático del lenguaje natural,
• GPT-3,
• BERT,
• Timnit Gebru,
• economía política del significado