Agentes conversacionales inteligentes (chatbots) y estereotipos de género en la atención de las violencias machistas: taxonomía de posibles amenazas desde un enfoque de threat modelling

Resumen

El uso de inteligencia artificial (IA) en la lucha contra la violencia de género (VG) ha cobrado creciente relevancia, en particular mediante agentes conversacionales o chatbots diseñados para brindar apoyo a las víctimas. Sin embargo, la implementación de estas herramientas no está exenta de riesgos. Este artículo analiza las amenazas en el uso de agentes conversacionales inteligentes o chatbots en la atención de la VG y propone una taxonomía de estas amenazas basada en el enfoque de threat modeling. A partir del análisis de la literatura especializada y de experiencias existentes, se identifican vulnerabilidades tecnológicas, sesgos algorítmicos y limitaciones éticas que pueden comprometer la seguridad y efectividad de estas herramientas. Además, se discute cómo la IA Feminista puede contribuir a la creación de sistemas más inclusivos y sensibles a las necesidades de las víctimas. La propuesta de taxonomía presentada ofrece un marco de referencia para el diseño de chatbots con un enfoque ético, priorizando la privacidad, la autonomía y la seguridad de las usuarias.