Qué cubre la norma y qué no
La ISO 27090 se centra en las amenazas que afectan solo o sobre todo a los sistemas de IA. Las asigna al ciclo de vida, describe sus posibles consecuencias y muestra formas de detectar y mitigar los ataques. La descripción de la norma por parte de ISO menciona expresamente el envenenamiento de los datos de entrenamiento y el robo de un modelo mediante consultas que parecen un uso normal. También destaca las consecuencias en aplicaciones críticas para la seguridad.
La norma no redefine la seguridad de la información en general. El control de acceso, el cifrado, el registro, la gestión de vulnerabilidades y la continuidad siguen siendo cosa de la ISO 27001 y la 27002. La ISO 27090 interviene donde esos controles no bastan para la IA, por ejemplo cuando un atacante cambia el comportamiento de un modelo a través de datos o entradas sin tomar el control de un servidor.
La equidad, la transparencia o el impacto en las personas afectadas tampoco son su tema. Para eso existen la ISO 42001, con apreciación de riesgos y evaluación de impacto para la IA, y el Reglamento de IA de la UE. Para la privacidad en la IA, ISO elabora la norma hermana ISO 27091. Quien implante la norma debe conocer esta delimitación para que las responsabilidades no se asignen dos veces o ninguna.
Costes y esfuerzo interno
La norma en sí se compra a ISO o a un organismo nacional de normalización. No necesita un organismo de certificación, porque no hay certificado. Licencia de Sightadel para la ISO 27090: Precio bajo consulta. Si ya gestiona la ISO 27001 o la ISO 42001 en Sightadel, sigue usando el registro de riesgos, los controles y las evidencias.
La partida más grande es el tiempo de los especialistas. Un análisis de amenazas para sistemas de IA no lo puede hacer solo el equipo de seguridad de la información. Necesita personas que conozcan los modelos, los datos y las interfaces: desarrollo, responsables de datos, operaciones y, en servicios contratados, compras. Cuente con varias sesiones de trabajo por cada sistema de IA crítico.
Implantar controles técnicos puede resultar caro, por ejemplo comprobaciones adicionales de los datos de entrenamiento, límites de consultas o pruebas con entradas manipuladas a propósito. Conviene avanzar por criticidad y empezar por los sistemas en los que un ataque causaría más daño. Donde falte experiencia, puede contratar asesoramiento como paquete dentro de la aplicación.
Relación con el Reglamento de IA
En su art. 15, el Reglamento de IA de la UE exige que los sistemas de IA de alto riesgo alcancen un nivel adecuado de precisión, solidez y ciberseguridad durante todo su ciclo de vida. Entre los ataques citados figuran el envenenamiento de datos, el envenenamiento de modelos, las entradas manipuladas para la evasión del modelo, los ataques a la confidencialidad y los defectos del modelo. Esto coincide en gran medida con los temas de la ISO 27090.
Aun así, la norma no es una prueba de conformidad. No es una norma armonizada con referencia publicada en el Diario Oficial de la UE y, por tanto, no genera la presunción de que se cumple el art. 15. CEN-CENELEC elabora una norma europea propia sobre la ciberseguridad de los sistemas de IA en el marco del reglamento, que por ahora solo existe como proyecto. Tras el aplazamiento de 2026, las obligaciones para sistemas de alto riesgo se aplican desde diciembre de 2027 para sistemas independientes y desde agosto de 2028 para la IA en productos regulados.
Si su sistema se considera de alto riesgo y qué obligaciones se derivan de ello es algo que debe comprobar por separado, preferiblemente con su asesoría jurídica. Sightadel no ofrece asesoramiento jurídico al respecto. Para las obligaciones legales, Sightadel tiene un framework propio para el Reglamento de IA, que gestiona con las mismas evidencias.
Integración en el SGSI y en el sistema de gestión de IA
El menor esfuerzo se consigue cuando usa la ISO 27090 como fuente de conocimiento para procesos existentes. En la apreciación de riesgos según la ISO 27001 añade para cada sistema de IA las amenazas de la norma. Los controles elegidos van al plan de tratamiento y, cuando van más allá del anexo A, a la Declaración de aplicabilidad como controles adicionales.
Si opera la ISO 42001, el inventario de IA ya le da la lista de sistemas, sus finalidades y sus responsables. La apreciación de riesgos de la IA pregunta allí por los riesgos para la organización y para las personas afectadas. La ISO 27090 ayuda a completar bien la parte sobre ataques dirigidos, en lugar de despacharla con frases generales sobre seguridad informática.
En Sightadel, las amenazas, los controles y las evidencias están vinculados al sistema de IA correspondiente. El mismo control, por ejemplo una comprobación del origen de los datos de entrenamiento, lo vincula con la ISO 27001, la ISO 42001 y el Reglamento de IA. Así lo mantiene una sola vez y ve en cada framework dónde cuenta. En la auditoría interna comprueba después si los controles para sistemas de IA funcionan como estaba previsto.
Situar los ataques típicos en la práctica
En el envenenamiento de datos, un atacante introduce datos manipulados en el entrenamiento para que el modelo reaccione después de forma errónea o a su favor. Esto importa sobre todo si entrena o reentrena modelos por su cuenta, por ejemplo con datos de internet, de clientes o de proveedores de servicios. Protegen las fuentes conocidas, las comprobaciones antes del entrenamiento y unos permisos claros sobre quién puede modificar los datos.
En el robo de modelos, un atacante lanza muchas consultas y, a partir de las respuestas, construye un modelo que se comporta de forma parecida. Afecta sobre todo a proveedores cuyo modelo es accesible a través de una interfaz. Los patrones de consulta inusuales y los límites por usuario son aquí puntos de partida evidentes. Si solo contrata IA, este ataque suele afectarle menos.
En los sistemas con modelos de lenguaje se añade la inyección de prompts: instrucciones ocultas en entradas, correos o documentos hacen que el sistema eluda reglas o revele datos. Esto afecta también a empresas que solo usan IA a través de un proveedor. Qué ataques describe la norma en detalle lo encontrará en su texto. Sightadel no contiene el texto literal.
Documentación y operación continua
Como no hay certificado, nadie prescribe una documentación concreta. Resultan útiles, también en auditorías de la ISO 27001 o la ISO 42001, una lista de los sistemas de IA con las partes que hay que proteger, el análisis de amenazas por sistema, los controles elegidos con su justificación y evidencias de que están implantados y son eficaces. Deje constancia de quién hizo cada valoración y cuándo.
Los sistemas de IA cambian más deprisa que muchos otros sistemas. Un modelo nuevo en el proveedor, un conjunto de datos nuevo o una interfaz nueva pueden cambiar la valoración. Defina qué cambios desencadenan un nuevo análisis y haga de la comprobación un paso fijo en las compras y la puesta en producción. Tras un incidente o cuando se conozca un ataque nuevo, revise los sistemas afectados fuera del calendario.
En Sightadel, las nuevas valoraciones, las revisiones de proveedores, la auditoría interna y la revisión por la dirección funcionan como ciclos recurrentes con fecha. En el Trust Center muestra a sus clientes cómo protege los sistemas de IA sin reunir documentos nuevos para cada solicitud.