Custos e esforço interno
Licença Sightadel para a ISO 42001: Preço sob consulta. Todas as edições e descontos constam da página de preços. A isto acresce o organismo de certificação, que fatura de forma independente, por dias de auditoria. O número de dias depende da dimensão, das instalações e do número e tipo de sistemas de IA no âmbito. Peça propostas e certifique-se de que o organismo está acreditado para a ISO 42001 ou consegue demonstrar um processo de acreditação em curso.
A maior rubrica é o esforço interno, que se distribui de forma diferente da ISO 27001. Além de uma pessoa responsável pelo sistema de gestão, precisa de tempo de especialistas que conhecem os sistemas de IA: desenvolvimento, responsáveis pelos dados, áreas de negócio que utilizam IA e, muitas vezes, proteção de dados e jurídico. As avaliações de impacto não se fazem apenas à secretária.
Quem já opera um SGSI segundo a ISO 27001 poupa bastante. A liderança, o controlo da informação documentada, a auditoria interna, a revisão pela gestão e as ações corretivas já estão então implementados. Novos são sobretudo o inventário de IA, a política de IA, a avaliação de riscos de IA, a avaliação de impacto e as medidas relativas ao ciclo de vida. Onde faltar experiência, contrata consultoria como pacote na aplicação.
Benefícios perante os clientes e relação com o Regulamento da IA
Os clientes perguntam cada vez mais como os fornecedores gerem a IA: que modelos são utilizados, com que dados, quem verifica os resultados, como são tratados os erros? Um certificado ISO 42001 responde a estas perguntas de forma estruturada e confirmada por um organismo independente. Em especial os fornecedores de software que integram funções de IA nos seus produtos utilizam-no para encurtar as verificações de compras e de segurança dos seus clientes.
A norma é voluntária, o Regulamento da IA da UE não. Mas ambos se complementam bem. Consoante o papel e a classe de risco, o regulamento exige, por exemplo, literacia em IA dos colaboradores, gestão de riscos, qualidade dos dados, documentação, supervisão humana e transparência. A ISO 42001 fornece a organização na qual essas obrigações são cumpridas e demonstradas de forma fiável.
Mas um certificado não substitui uma avaliação da conformidade legal. Se um sistema é considerado de risco elevado e que obrigações daí decorrem, verifica-se em separado, idealmente com o seu assessor jurídico. O Sightadel não presta aconselhamento jurídico sobre esta matéria. Para as obrigações legais, existe no Sightadel um framework próprio para o Regulamento da IA, que pode gerir com as mesmas evidências.
Anexo A: o que as medidas abrangem
O anexo A contém 38 medidas, organizadas em nove domínios. Vão desde políticas de IA e organização interna, passando por recursos como dados, ferramentas, capacidade de computação e pessoas, até à avaliação das consequências dos sistemas de IA. Outros domínios dizem respeito ao ciclo de vida dos sistemas de IA, aos dados, à informação para as partes interessadas, à utilização responsável e às relações com fornecedores e clientes.
Tal como na ISO 27001, seleciona deste catálogo as medidas que tratam os seus riscos e fundamenta as exclusões na Declaração de Aplicabilidade. Uma empresa que apenas compra e utiliza IA avaliará muitas medidas relativas ao desenvolvimento de forma diferente de um fabricante de produtos de IA. O decisivo é que a justificação seja coerente com o papel definido.
Um anexo com orientações de implementação explica cada medida em mais pormenor; outros anexos tratam de objetivos, fontes de risco e da utilização em diferentes setores. No Sightadel, cada medida é uma pergunta guiada com opções de resposta, modelo, ligação a evidências e comentário. O Sightadel não contém o texto da norma. Precisa de ter um exemplar da norma na empresa.
Que documentação é exigida
O elemento central é um inventário de IA: que sistemas desenvolve, fornece ou utiliza, para quê, com que dados, quem é responsável e que papel assume. Sem um inventário completo, a avaliação de riscos e a avaliação de impacto ficam com lacunas – e o auditor pergunta precisamente por isso.
A isto juntam-se a política de IA aprovada pela gestão de topo, o âmbito, o método e os resultados da avaliação de riscos de IA, o plano de tratamento, a Declaração de Aplicabilidade, os objetivos de IA, as evidências de competência, a documentação das avaliações de impacto, bem como o programa de auditoria, os relatórios de auditoria, a revisão pela gestão e as ações corretivas. Para cada sistema, os auditores esperam ainda provas relativas ao ciclo de vida: requisitos, verificações antes da libertação, monitorização na operação e tratamento de comportamentos incorretos.
No Sightadel, estes documentos estão associados ao respetivo ponto de controlo. As avaliações de impacto são feitas através de perguntas guiadas e guardadas como evidência, e os prestadores de serviços de IA são avaliados no módulo Fornecedores. O registo de atividade mostra quem tomou que decisão e quando.
Preparação para a auditoria de certificação
A auditoria segue o mesmo modelo que noutros sistemas de gestão ISO: a fase 1 verifica a documentação e a prontidão para a auditoria, a fase 2 a implementação. Antes disso, uma auditoria interna e uma revisão pela gestão têm de ter sido realizadas por completo pelo menos uma vez.
Na fase 2, os auditores pegam tipicamente num sistema de IA concreto e acompanham-no: onde está no inventário, como foi avaliado, que consequências foram avaliadas, quem deu a aprovação, como é monitorizado na operação, o que acontece quando há uma reclamação? Prepare esta cadeia por completo para dois ou três sistemas, incluindo os interlocutores da área de negócio e da área técnica.
Fragilidades frequentes são um inventário que ignora serviços de cloud utilizados com funções de IA, avaliações de impacto sem referência às pessoas afetadas e a falta de critérios que definam quando um sistema tem de ser reavaliado. Quem já está certificado segundo a ISO 27001 pode, em muitos organismos, acordar uma auditoria combinada e poupar dias de auditoria.
Depois do certificado: a IA muda mais depressa do que as normas
O certificado é válido por três anos, com auditorias de acompanhamento anuais. No caso da IA, a manutenção é mais exigente do que em muitos outros sistemas, porque os modelos, os fornecedores e as finalidades mudam rapidamente. Um novo modelo no prestador de serviços, um novo caso de utilização nas vendas ou um novo conjunto de dados pode desencadear uma nova avaliação.
Defina, por isso, que alterações desencadeiam uma reavaliação e torne o inventário uma etapa obrigatória em cada aquisição. A monitorização na operação, as reclamações e os incidentes devem entrar na revisão pela gestão. Repita regularmente as formações em literacia em IA, porque as ferramentas e as regras mudam.
No Sightadel, a verificação do inventário, as reavaliações, as formações, a auditoria interna e a revisão pela gestão decorrem como ciclos recorrentes com data. Associa as mesmas evidências à ISO 27001, ao RGPD ou ao Regulamento da IA, pelo que só as mantém uma vez. No Trust Center, mostra aos clientes como gere a IA, sem ter de reunir nova documentação para cada pedido.