Abstracts
Résumé
Les données d’entraînement d’un système d’IA dans le domaine de la santé ont le pouvoir d’encapsuler l’hétérogénéité de notre monde, mais réduisent dans le même temps les diversités sociales, culturelles et humaines à des calculs de propension à agir. Pour y faire face en l’absence de dispositions spécifiques à l’IA, se tourner vers le droit de la protection des renseignements est une solution presque évidente, compte tenu du nombre de renseignements personnels et de santé concernés. Quelques outils du droit de la protection des données semblent précisément capables de répondre à ces enjeux d’équité et de diversité, comme l’obligation de renseignements exacts, à jour et complets, l’exigence d’information sur les principaux facteurs et paramètres d’une décision, et l’obligation d’effectuer une évaluation des facteurs relatifs à la vie privée. Utiles, ils ne sont cependant pas toujours suffisants.
Abstract
Training data of a healthcare AI system has the power to encapsulate the heterogeneity of our world, but at the same time reduces social, cultural, and human diversities to calculations of propensity to act. Without specific provisions to AI, turning to information protection law is an almost obvious solution to deal with these issues, given the amount of personal and health information involved. Some data protection law tools seem precisely capable of responding to these issues of fairness and diversity, such as the obligation for accurate, up-to-date, and complete information, the requirement for information on the main factors and parameters of a decision, and the obligation to carry out a privacy impact assessment. They are however not always sufficient.
Resumen
Los datos utilizados para entrenar un sistema de inteligencia artificial en el área de la salud tienen el poder de encapsular la heterogeneidad de nuestro mundo, pero al mismo tiempo reducen las diversidades sociales, culturales y humanas a cálculos de propensión para actuar. Para abordar esta situación, y en ausencia de disposiciones específicas sobre inteligencia artificial, recurrir al derecho de protección de datos personales surge como una solución casi evidente, considerando la gran cantidad de información personal y de salud involucrada. Algunas herramientas del derecho de protección de datos parecen adecuadas para abordar estas cuestiones de equidad y diversidad. Entre ellas se encuentran la obligación de proporcionar información precisa, actualizada y completa, el requisito de información respecto a los principales factores y parámetros de una decisión, y la obligación de realizar evaluaciones sobre el impacto en la privacidad. No obstante, si bien estas medidas son útiles, no siempre resultan suficientes.
Resumo
Os dados de treinamento de um sistema de IA no campo da saúde têm o poder de encapsular a heterogeneidade do nosso mundo, mas reduzem ao mesmo tempo as diversidades sociais, culturais e humanas a cálculos de propensão a agir. Para enfrentar a questão na ausência de disposições especificas à IA, voltar-se para o direito da proteção das informações é uma solução quase evidente, tendo em conta o número de informações pessoais e de saúde envolvidos. Algumas ferramentas do direito da proteção de dados parecem precisamente capazes de responder a esses desafios de equidade et de diversidade, como a obrigação de informações exatas, em dia e completas, a exigência de informações sobre os principais fatores e parâmetros de uma decisão, e a obrigação de efetuar uma avaliação dos fatores relativos à vida privada. Úteis, mas não ainda suficientes.
摘要
医疗保健人工智能系统的训练数据能够囊括我们世界的异质性，但同时将社会、文化和人类的多样性简化为行为倾向的计算。由于没有针对人工智能的具体规定，考虑到所涉及的个人和健康信息的数量，求助于信息保护法几乎是解决这些问题的显而易见的解决方案。一些数据保护法律工具似乎恰恰能够应对这些公平性和多样性问题，例如准确、最新和完整信息的义务，有关决策主要因素和参数的信息要求，以及进行隐私影响评估的义务。但这些应对还不够充分。