Algorithmic Assemblages of Power: AI Harm and the Question of Responsibility

Resumen

Los debates actuales sobre el daño causado por los sistemas de IA se centran principalmente en los sesgos algorítmicos o de los datos. En este artículo, argumento que el daño producido por la IA debe analizarse desde una perspectiva de poder, utilizando un enfoque sistémico y multidimensional que tenga en cuenta las múltiples escalas en las que se manifiesta el daño: macro, meso y micro. Reducir el daño de la IA a un simple fallo técnico o a la falta de representación en los datos corre el riesgo de simplificar el problema. La IA, como un ensamblaje sociotécnico hegemónico, reproduce activamente el daño y la violencia estructural a gran escala, exacerbando las asimetrías de poder tanto dentro de los países como entre ellos. Esto plantea la cuestión de quién debe ser responsable del daño en múltiples escalas y qué marcos deben establecerse para abordarlo. Una crítica feminista de la IA enmarca el daño a través de una ética del cuidado, subrayando la necesidad de colocar los derechos humanos en el centro de la gobernanza, los ecosistemas y los sistemas de IA.