O seu quadro de gestão de riscos empresariais não está quebrado; foi construído para um tipo diferente de sistema.
A gestão de riscos empresariais tradicional faz muitas coisas brilhantemente.
Mas assenta em pressupostos que a IA generativa e os modelos de fundação violam silenciosamente:
1. O pressuposto determinístico - Mesma entrada, mesma saída. Os sistemas probabilísticos não se comportam dessa forma.
2. Categorização estática de risco - Os registos de risco anuais não conseguem acompanhar riscos que mudam trimestralmente.
3. A incompatibilidade temporal - As falhas do modelo propagam-se em minutos; os ciclos de governação decorrem em meses.
4. A lacuna de explicabilidade - Não pode auditar totalmente uma decisão que nenhum ser humano consegue reconstruir totalmente.
5. Cegueira à concentração sistémica - A sua maior dependência de IA pode estar fora do seu registo de riscos.
A resposta não é deitar fora a ERM.
É para o aumentar, deliberadamente e a nível empresarial.
Essa é toda a premissa de Gestão de Riscos de IA a Nível Empresarial® (EW-AiRM®) www.ewairm.com, e discutido em maior detalhe no próximo Wiley livro.
#EWAiRM#GestãoDeRiscosEmpresariais#AIGovernance#AIRiskManagement#RiscoDeModelo