Índice de contenidos - La crisis de la autenticidad digital - Artículo 50 del RIA: estructura y objetivos - Marcado técnico: obligaciones para proveedores (art. 50.2 RIA) - Etiquetado visible: obligaciones para responsables del despliegue (art. 50.4 RIA) - Textos informativos y asuntos de interés público - Código de Conducta de Transparencia y modelos de IA de propósito general - Retos técnicos y jurídicos - Conclusiones La crisis de la autenticidad digital La irrupción de la inteligencia artificial (IA) en la generación y manipulación de contenidos ha transformado radicalmente la confianza en la información digital. La presunción de autenticidad, ya debilitada antes de la IA generativa, ha perdido vigencia ante la facilidad con la que se pueden crear imágenes, vídeos, audios y textos indistinguibles de los reales. Esta situación afecta a la comunicación pública, los mercados y los procesos democráticos. El Reglamento (UE) 2024/1689 sobre Inteligencia Artificial (RIA), aprobado el 13 de junio de 2024, responde a este desafío imponiendo obligaciones de transparencia: aunque no se prohíbe la creación de contenido sintético, sí se exige que su origen artificial sea identificable para los usuarios. Artículo 50 del RIA: estructura y objetivos El artículo 50 del RIA establece un marco horizontal de transparencia, aplicable a todos los sistemas de IA generativos, sin importar su nivel de riesgo. Distingue cuatro obligaciones principales: (i) transparencia en sistemas conversacionales; (ii) marcado técnico legible por máquina para proveedores; (iii) información al usuario en sistemas de reconocimiento de emociones o biometría; y (iv) etiquetado visible para deepfakes y textos generados o manipulados artificialmente. Esta arquitectura normativa busca que los usuarios puedan identificar cuándo interactúan con IA o consumen contenido generado por ella, reduciendo el riesgo de engaño y protegiendo la integridad del debate público. Marcado técnico: obligaciones para proveedores (art. 50.2 RIA) El artículo 50.2 obliga a los proveedores de IA generativa a marcar técnicamente los contenidos sintéticos (imágenes, vídeos, audios, textos) de forma que sean detectables por sistemas automáticos. No se impone una tecnología específica, pero el marcado debe ser robusto y resistente a manipulaciones habituales. La responsabilidad de demostrar la eficacia técnica recae en el proveedor. Según el Código de Conducta de Transparencia, el marcado puede realizarse mediante: (i) marcas de agua digitales invisibles; (ii) metadatos estructurados que informen sobre el origen y modificaciones del archivo; y (iii) técnicas de huella digital (fingerprinting) que vinculen el contenido al sistema generador. Se recomienda combinar varias técnicas para reforzar la detectabilidad, sin exigir soluciones cerradas, y se exige una robustez razonable frente a manipulaciones previsibles. Etiquetado visible: obligaciones para responsables del despliegue (art. 50.4 RIA) El artículo 50.4 exige a quienes desplieguen sistemas de IA que generen o manipulen imágenes, audio o vídeo que simulen hechos, personas u objetos reales (deepfakes), que etiqueten el contenido de forma visible y comprensible para el público. A diferencia del marcado técnico, el etiquetado tiene un fin comunicativo: advertir al usuario sobre la naturaleza artificial del contenido. Esta obligación debe aplicarse de manera proporcionada, considerando el medio y las expectativas del público. Si el contenido es artístico, creativo o satírico y está claramente identificado como tal, la obligación se adapta para no restringir la libertad de expresión, pero protegiendo los derechos de las personas afectadas. Textos informativos y asuntos de interés público El etiquetado visible también se aplica a textos generados o manipulados por IA que informen sobre asuntos de interés público, como noticias o comunicados institucionales. Debe indicarse claramente su origen artificial, salvo que el contenido haya sido sometido a control editorial y una persona física o jurídica asuma la responsabilidad, siempre que no se trate de deepfakes susceptibles de inducir a error. Las autoridades competentes quedan exentas cuando actúan en el marco de la investigación o persecución de delitos. Código de Conducta de Transparencia y modelos de IA de propósito general La adhesión al Código de Conducta de Transparencia no garantiza automáticamente el cumplimiento del RIA, pero sí puede servir como prueba ante las autoridades. El Código propone una estrategia multinivel basada en metadatos firmados, marcas técnicas y etiquetado visible, para asegurar la trazabilidad del contenido sintético. Respecto a los modelos de IA de propósito general (GPAI), el Código reconoce que muchos sistemas sujetos al artículo 50 se basan en modelos desarrollados bajo los artículos 53 y 55 del RIA, que exigen documentación técnica, transparencia sobre los datos de entrenamiento y, en modelos de riesgo sistémico, medidas adicionales de evaluación y mitigación. Aunque estos artículos no imponen directamente el marcado, sí forman parte del marco normativo que condiciona la generación de contenido. Retos técnicos y jurídicos El cumplimiento del artículo 50 plantea desafíos relevantes: - Robustez del marcado: Las técnicas como marcas de agua o metadatos pueden verse alteradas por compresión, cambios de formato o edición, dificultando la distinción entre modificaciones legítimas y la eliminación deliberada de marcas. - Interoperabilidad: La ausencia de un estándar técnico europeo genera incertidumbre sobre la compatibilidad entre sistemas y la verificación cruzada de marcas. - Dificultades en el texto: A diferencia de imágenes o vídeos, el texto no permite incorporar señales imperceptibles resistentes a modificaciones, y los sistemas de detección actuales no son plenamente fiables. - Alcance del contenido manipulado: El artículo 50.4 no define con precisión qué grado de intervención activa la obligación de etiquetado, por lo que se requiere interpretar el impacto en la percepción del usuario y el potencial de inducir a error. Será necesario que las autoridades desarrollen criterios claros para garantizar seguridad jurídica y proporcionalidad en la aplicación de estas obligaciones. Conclusiones El artículo 50 del RIA establece un régimen de transparencia esencial para el contenido generado o manipulado por IA, reforzando la confianza en el entorno digital. Diferencia claramente las obligaciones del proveedor (marcado técnico) y del responsable del despliegue (etiquetado visible), delimitando responsabilidades a lo largo de la cadena de valor. La supervisión se centrará en la robustez técnica del marcado, la claridad del etiquetado y la documentación que permita rastrear el contenido. La transparencia deja de ser opcional y se convierte en un requisito legal, clave para la evaluación de conformidad y la mitigación de responsabilidades. Fuente: elderecho.com