Derecom. Revista Internacional de Derecho de la Comunicación y de las Nuevas Tecnologías

“Creando” una auditoría para verificar la ética de la Inteligencia artificial

Laura Davara Fernández de Marcos — Thu, 19 Jun 2025 00:00:00 +0000

El presente artículo se centra en la creación de una auditoría para verificar la ética en la inteligencia artificial (IA) puesto que constituye el tercer pilar de la IA junto con cuestiones legales y técnicas. Precisamente por la importancia de auditar la ética que hay detrás de las decisiones de la IA, la autora utiliza ChatGPT para proponer una auditoría ética basándose, en un primer momento, en dar respuesta a ocho cuestiones esenciales, a saber: ¿Cómo se garantiza que los datos utilizados para entrenar la IA están libres de sesgos discriminatorios?; ¿Qué mecanismos hay para que los usuarios afectados por decisiones de la IA puedan apelar decisiones sesgadas?;¿Qué medidas se implementan para evitar que los modelos generen contenido ofensivo o dañino?; ¿Cómo se gestiona el uso de IA para prevenir su abuso en la creación de deepfakes o la manipulación de imágenes y videos?;¿Cómo se asegura que los datos utilizados para entrenar la IA cumplen con las normativas de protección de datos como el GDPR?; ¿Cómo se maneja el impacto ambiental del entrenamiento de sus modelos de IA?; ¿Qué medidas se implementan para garantizar que su IA no sea utilizada con fines maliciosos?; ¿Qué medidas se toman para proteger a los menores de la exposición a IA que pueden influir negativamente en su desarrollo? El objetivo del artículo es sentar las bases de una auditoría de la ética de la IA, asegurando que la ética esté integrada en el ADN de cualquier IA diseñada.

Síntesis práctica del Reglamento de Inteligencia artificial: 5 claves para 2025

Elena Davara Fernández de Marcos — Thu, 19 Jun 2025 00:00:00 +0000

En el presente artículo se ofrece un análisis de cinco cuestiones esenciales del Reglamento de Inteligencia Artificial (RIA) para 2025. En primer lugar, se destaca el objetivo del RIA de promover una IA centrada en el ser humano y fiable. En segundo lugar, se recuerda que el ámbito de aplicación del reglamento va más allá de los creadores de IA, incluyendo a todos los operadores y responsables de su implementación. El tercer punto aborda la importancia de definiciones claras para asegurar el cumplimiento del RIA. En cuarto lugar, se subraya que ciertas prácticas de IA están explícitamente prohibidas para evitar daños y discriminación. La quinta clave, como no podía ser de otra manera, es la necesidad de información y transparencia puesto que constituyen elementos esenciales e innegociables según el RIA. Además, el artículo menciona fechas importantes para la implementación del reglamento y ofrece una breve referencia a las infracciones y sanciones previstas. En conclusión, se enfatiza que la verdadera clave del RIA es asegurar una inteligencia artificial centrada en el ser humano, priorizando la ética y la protección de los derechos humanos.

La Inteligencia Artificial en contextos educativos: usos éticos de la información y alfabetización digital

Alfonso López-Pulido, José Manuel Sánchez Ramírez — Thu, 19 Jun 2025 00:00:00 +0000

La proliferación de tecnologías digitales, incluyendo la Inteligencia Artificial (IA), ha modificado la manera en la que se accede, se procesa y se comparte la información. No obstante, esta mutación también ha intensificado problemas como la desinformación, las dificultades en la verificación de la información y los posibles usos no éticos de la IA, especialmente en contextos educativos y de investigación académica, así como el peligro de la disminución de las capacidades de expresión lingüística de los alumnos y de su independencia de pensamiento. El presente estudio explora cómo estas dinámicas afectan a la educación, los desafíos que deben superar el estudiantado y el profesorado, y las estrategias para mitigar estos riesgos, destacando la alfabetización digital.

Delitos de la palabra: aproximación a la lingüística forense en el discurso digital

Alicia Silvestre Miralles — Thu, 19 Jun 2025 00:00:00 +0000

¿Dónde acaba la broma o la descortesía y empieza el delito? El advenimiento de la digitalización y la globalización ha dotado de poder y espacios de expresión a cada voz individual y grupal. Sin embargo, la comunicación masiva muestra grietas y desajustes en el uso de esa libertad, que es un derecho: a menudo se utiliza la palabra sin ser consciente de sus implicaciones legales. Si bien es un avance que podamos todos expresarnos libremente en cualquier foro o red, lo cierto es que no se conoce suficientemente el efecto de una intervención inadecuada, sobre todo entre las generaciones más jóvenes. Por ejemplo, ante amenazas, delitos de odio (discurso del odio), falsas acusaciones, insultos, maledicencia, calumnia, falsedad, ofensa, injuria, difamación, ¿conocemos su alcance social (Fairclough, 1995) y sus penas correspondientes? El objetivo de este escrito es revisar la actualidad de la relación existente entre las leyes y los usos que proliferan en los medios digitales. Tras recabar datos estadísticos y estudiar casos, se deduce que resulta urgente informar de los riesgos y de cuáles son los delitos tipificados, enseñar y promover las buenas prácticas y alternativas éticas, además de fomentar cauces para conservar una libre expresión ejercida como derecho consciente y exenta de riesgos delictivos. En este sentido, los estudios de conciencia lingüística (Van Lier, 1996) y sensibilidad lingüística (Silvestre y Pardo, 2024) acuden a rellenar este nicho.

Análisis FIMI de la desinformación en las elecciones españolas de 2023: objetivos, canales y narrativas para dañar la confianza en el sistema electoral

Rodrigo Cetina-Presuel, Catalina Gaete-Salgado — Thu, 19 Jun 2025 00:00:00 +0000

Los procesos electorales contemporáneos se desarrollan en un ecosistema informativo altamente digitalizado, protagonizado por plataformas de redes sociales y herramientas algorítmicas que han terminado con la intermediación editorial de los medios de comunicación. En un escenario donde la regulación aún es emergente, y donde las instituciones se adaptan progresivamente a la transformación tecnológica, el sistema electoral es vulnerable a la desinformación inundando el debate público. Con el objetivo de recabar evidencia de los desórdenes informativos en contexto electoral, el Observatorio Complutense de Desinformación desarrolló una metodología a partir de la taxonomía FIMI (Foreign Information Manipulation and Interference) del Servicio Exterior de la Unión Europea, y la aplicó en misiones de observación electoral en 14 países. Este estudio presenta los resultados de ese proceso en las elecciones españolas de 2023, donde se identificó el objetivo de deslegitimar ciertos aspectos del proceso electoral, utilizando a Whatsapp como principal canal de distribución. Las reacciones y medidas ante bulos electorales fueron contundentes desde la sociedad civil, pero mejorables desde las plataformas de redes sociales y las instituciones del Estado. En la discusión se analiza lo observado, y se finaliza ofreciendo recomendaciones para mejorar la capacidad de respuesta de todos los actores del sistema democrático, que, ante una amenaza polifacética como la desinformación, deben actuar en colaboración.

La metamorfosis de la verdad: Deepfakes y el desafío de la autenticidad en la sociedad digital

Ana Alzaga Gallo — Thu, 19 Jun 2025 00:00:00 +0000

Insertos en la revolución tecnológica actual, la Inteligencia Artificial (IA) y los deepfakes han emergido como herramientas poderosas, que no solo facilitan la creación de contenido, sino que también tienen el potencial de distorsionar la realidad de forma jamás vista. Los deepfakes, que combinan técnicas avanzadas de aprendizaje profundo, con la capacidad de generar imágenes, vídeos y audios falsos, pueden representar una amenaza significativa para la veracidad de la información, así como para los derechos fundamentales de las personas. Este artículo busca proporcionar una comprensión profunda de cómo los deepfakes están redefiniendo el panorama de la información. A través de una exhaustiva revisión bibliográfica, se examinará el concepto de deepfake y las tecnologías subyacentes, su impacto social y ético, y las posibles medidas de detección y mitigación. En última instancia, se discutirán sus implicaciones legales y se presentarán estadísticas y ejemplos recientes que ilustran la magnitud de este fenómeno. Entre las principales conclusiones fruto de la revisión realizada en este artículo, se subraya la importancia de abordar los desafíos que presentan los deepfakes desde múltiples frentes, incluyendo la tecnología, la legislación y la educación, para proteger la integridad de la información en la era digital.

Combatiendo la desinformación jurídica: Qué es el derecho de autodeterminación y cómo aplica en Cataluña

Elena Llorca-Asensi, María-Elena Fabregat-Cabrera, Raúl Ruiz-Callado — Thu, 19 Jun 2025 00:00:00 +0000

La enorme polarización que experimenta la sociedad española en torno a la cuestión catalana hace urgente y necesario acabar con el desorden conceptual en torno a la expresión "derecho de autodeterminación". La confusión entre autodeterminación y secesión ha generado un debate público marcado por la desinformación y, en muchos casos, la manipulación del lenguaje jurídico. Este artículo tiene como objetivo contribuir a un debate democrático basado en información rigurosa, y no en la distorsión - interesada o no - de términos jurídicos clave. A través de una triangulación metodológica que incluye revisión de la literatura, entrevistas en profundidad a expertos y una encuesta a especialistas en derecho internacional, se analizan las raíces de la desinformación jurídica sobre la autodeterminación y su impacto en el discurso político y mediático. Los resultados evidencian que la falta de precisión conceptual dificulta la toma de decisiones informadas y refuerza la confrontación ideológica. El artículo defiende la necesidad de esclarecer el significado jurídico de la autodeterminación en el marco constitucional español y el derecho internacional, para garantizar que las posiciones a favor o en contra de la independencia de Cataluña se expresen desde el conocimiento y no desde interpretaciones erróneas o interesadas. En este sentido, se reivindica el papel del Derecho como herramienta para fortalecer la calidad democrática y evitar que la polarización social se nutra de falsedades o simplificaciones jurídicas.

La Inteligencia Artificial desde una perspectiva crítica: IA Generativa como una herramienta de transmisión de información y conocimiento

Mildred Emily Bravo Galindo — Thu, 19 Jun 2025 00:00:00 +0000

La Inteligencia Artificial (IA) ha complementado las tareas humanas al constituir una herramienta que agiliza el procesamiento de datos y proporciona información de manera efectiva reduciendo los tiempos de respuesta de los sistemas informáticos. La capacidad generativa de la IA forma parte de la evolución tecnológica y conlleva un cambio en la relación de los seres humanos con las máquinas. La IA generativa se ha presentado como un mecanismo para promover la democratización y diversidad de los datos mediante un proceso de aprendizaje a partir de la interacción con los usuarios, lo cual supone una mejora constante de sus capacidades. A partir de estas características, surge el cuestionamiento sobre los modelos de referencias sociológicas, diversidad cultural y de derechos humanos que se han implementado o no en las principales plataformas de IA. Desde una perspectiva crítica, social y humana se desarrolla esta investigación, analizando las respuestas de los principales chatbots basados en IA sobre temas relacionados con otras culturas, conocimientos no tradicionales, cosmovisiones y modos de vida no occidentales. Se demuestra que la IA generativa no reconoce a los miembros de la sociedad que no tienen los recursos o no disponen de tiempo para formar parte del proceso de aprendizaje de la IA. Como consecuencia, se reducen las fuentes de información, se invisibiliza a quienes no participan en los avances tecnológicos y se establecen brechas que se traducen en la sociedad como más desigualdades.

Inteligencia Artificial y publicidad dirigida a las mujeres. Dove: un caso de estudio

Mariana Alba Manrique — Thu, 19 Jun 2025 00:00:00 +0000

El presente artículo tiene como objetivo analizar y contrastar las contribuciones de la bibliografía clásica de la publicidad contemporánea con las nuevas tendencias publicitarias y cómo el uso de las nuevas tecnologías, incluida la inteligencia artificial, ha transformado la manera en que las mujeres perciben su imagen y autoestima a través de los diferentes medios de comunicación y las redes sociales. De este análisis comparativo se desprenden tres esferas: la estética, la legal y la ética. En primer lugar, la esfera estética ofrece un nuevo paradigma en los estándares de belleza, la hiperrealidad de la imagen perfecta y el consumo de productos capaces de mejorar la imagen y la autoestima de la mujer. En segundo lugar, la esfera legal contempla aquellos contenidos que pueden ser considerados publicidad engañosa, ya que realizan sus ofertas bajo la falsa promesa de que la felicidad es alcanzable a través de la belleza femenina. En tercer lugar, la esfera ética pone de manifiesto que la adultificación y la infantilización son promotoras de una obsesión por el culto a la belleza irreal, que en la mayoría de los casos se inculca a las mujeres y a las niñas. Los resultados de este análisis y el estudio del caso Dove dejan en evidencia que la bibliografía clásica se refiere a los prejuicios, estigmas y estereotipos publicitarios que aún subsisten y que las iniciativas a favor de la diversidad, la igualdad y la inclusión aún no pueden derribarlos, pero que la inteligencia artificial los está logrando enmascarar en beneficio del aspecto estético del consumidor, en detrimento de su autoestima, basada en un hedonismo utilitario como forma de vida.

Introducción

Leticia Porto Pedrosa, Alberto Zuart Garduño — Thu, 19 Jun 2025 00:00:00 +0000

El ascenso de los Agentes de IA: integrando IA, tecnologías blockchain y computación cuántica. Petar Radanliev, 487 páginas. 1ª edición, 2025, Addison-Wesley

René Palacios Garita — Thu, 19 Jun 2025 00:00:00 +0000

El libro publicado por Addison/Wesley, explora la convergencia de la inteligencia artificial (IA), la tecnología blockchain y la computación cuántica, analizando cómo estas tecnologías se potencian mutuamente y su impacto en el futuro. El autor detalla la evolución de la IA hacia agentes autónomos, el rol de la blockchain en la creación de sistemas descentralizados y seguros, y el poder de la computación cuántica para resolver problemas complejos. Se subraya la necesidad de abordar los desafíos de seguridad y ética, especialmente ante el riesgo de que la computación cuántica rompa los sistemas de cifrado actuales. A su vez, destaca la importancia del potencial transformador de estas tecnologías en diversos sectores.

Nexus. Una breve historia de las redes de información desde la Edad de Piedra hasta la IA. Yuval Noah Harari, 602 páginas. 2024, Debate

José Carlos Cámara Molina — Thu, 19 Jun 2025 00:00:00 +0000

Con un estilo al alcance de todos los públicos, Nexus propone una amplia reflexión sobre los retos que trae consigo la inteligencia artificial, una de las disrupciones más profundas de la historia de la humanidad, tal vez por encima del nacimiento de la agricultura, el origen de las civilizaciones o la invención de la escritura.