¿Cuándo es obligatorio etiquetar un contenido generado con inteligencia artificial según el AI Act?

La inteligencia artificial generativa ha revolucionado la creación de contenidos, pero el Reglamento (UE) 2024/1689 (AI Act) no obliga a etiquetar todo el material generado mediante IA. La normativa europea adopta un enfoque basado en el riesgo y establece obligaciones de transparencia únicamente en aquellos casos en los que existe un mayor potencial de engaño o de afectar al interés público.

El artículo 50 del AI Act establece que el etiquetado es obligatorio, principalmente, en dos supuestos: cuando se difunden deepfakes (imágenes, audios o vídeos generados o manipulados mediante IA que puedan inducir a error) y cuando se publican textos generados por IA para informar sobre asuntos de interés público, salvo que hayan sido revisados por una persona y exista una responsabilidad editorial claramente asumida. Fuera de estos casos, identificar el contenido como generado por IA es, con carácter general, una decisión voluntaria.

Además de las obligaciones para quienes utilizan estas herramientas, el AI Act también exige a los proveedores de modelos de inteligencia artificial de propósito general que incorporen mecanismos técnicos, como metadatos o marcas digitales, que faciliten la identificación de los contenidos generados artificialmente. El objetivo es mejorar la trazabilidad y favorecer un uso transparente de la IA sin imponer un etiquetado universal.

El artículo también destaca que el uso de la inteligencia artificial plantea importantes retos en materia de protección de datos y seguridad de la información. Para reducir el riesgo de brechas de seguridad y filtraciones de datos, se recomienda que las organizaciones implanten un Sistema de Gestión de Seguridad de la Información conforme a la ISO/IEC 27001 o se adapten al Esquema Nacional de Seguridad (ENS), fortaleciendo así la protección de la información y el cumplimiento normativo en la era de la IA.

inteligencia artificial

 

Ir al sitio web