El proceso de adaptación de la nueva normativa europea sobre inteligencia artificial aún está en marcha. Los Estados miembros de la UE deben incorporar el Reglamento UE 2024/1689 a sus legislaciones nacionales, y en España esto se materializará a través de la Ley para el Buen Uso y la Gobernanza de la Inteligencia Artificial, prevista para agosto. Knowmad Mood destaca que la Ley de IA de la UE introduce un marco regulatorio pionero, que obliga a las empresas, especialmente a las que desarrollan o emplean sistemas de IA de alto riesgo, a garantizar la calidad de los datos, la transparencia de los modelos, la supervisión humana, la ciberseguridad y la formación de los equipos. En este contexto, Knowmad Mood identifica siete requisitos clave que las empresas españolas deberán acreditar en 2026. Entre ellos, la trazabilidad de los datos utilizados en el entrenamiento, validación y funcionamiento de los sistemas de IA, asegurando su origen, calidad y uso a lo largo de todo el ciclo de vida. Esto implica mecanismos para garantizar que los datos sean representativos, actualizados y libres de sesgos, así como la capacidad de reconstruir cualquier decisión automatizada. La ley exige que los modelos de IA sean comprensibles y auditables, no simples ‘cajas negras’. Las organizaciones deberán contar con documentación técnica y funcional que explique el diseño de los modelos, las variables que influyen en sus resultados y los supuestos bajo los que operan, facilitando la labor tanto de reguladores como de equipos internos. Cosmomedia subraya la importancia de que las pymes registren todas las herramientas de IA que utilizan, desde asistentes de redacción hasta software de análisis de datos, identificando su propósito y nivel de riesgo. Este inventario es esencial para la transparencia exigida por la ley. Dado que muchas empresas recurren a proveedores externos de IA, es imprescindible solicitar toda la documentación técnica y las instrucciones de uso para certificar el cumplimiento normativo. La ley obliga a los proveedores a facilitar información suficiente para un uso seguro. El incumplimiento de estas obligaciones puede acarrear sanciones de hasta 35 millones de euros o el 7% de la facturación global en casos graves, como la falta de documentación o transparencia. Sin embargo, para pymes y startups, la ley prevé sanciones proporcionales para no poner en riesgo su viabilidad. Uno de los pilares de la normativa es la supervisión humana efectiva. No basta con que una persona esté presente: deben existir roles definidos y procedimientos claros para intervenir, corregir o anular decisiones automatizadas en caso de errores o riesgos. En sistemas de alto riesgo, como selección de personal, análisis crediticio o infraestructuras críticas, la supervisión humana es obligatoria y no se permite la automatización total. Las empresas también deberán identificar y evaluar de forma continua los riesgos técnicos, éticos, legales y reputacionales asociados a sus sistemas de IA, implementando marcos de evaluación que contemplen posibles sesgos, impactos en derechos fundamentales y consecuencias no deseadas. La ciberseguridad es otro aspecto fundamental. Knowmad Mood advierte que la protección frente a ataques, manipulación de datos o fugas de información debe integrarse desde el diseño y durante toda la operación de los sistemas inteligentes. Según Perforce, el 60% de las organizaciones han sufrido brechas de datos en entornos de entrenamiento de IA, lo que subraya la necesidad de reforzar la seguridad antes del despliegue en producción. El cumplimiento de la Ley de IA no termina con la implantación de la tecnología. Las empresas deberán monitorizar de forma continua el rendimiento y comportamiento de sus modelos, detectando desviaciones o usos indebidos y actuando preventivamente ante posibles riesgos. Por último, la normativa pone especial énfasis en la formación de los equipos. Las empresas deberán acreditar que sus profesionales cuentan con la capacitación adecuada y programas de actualización para garantizar competencias alineadas con la evolución tecnológica y regulatoria. No basta con instalar un software: es imprescindible formar a la plantilla sobre su funcionamiento y los posibles sesgos, minimizando así los riesgos asociados. Fuente: emprendedores.es