A IA mais arriscada na sua organização é a IA que não conhece.
Neste preciso momento, algures, um colaborador está a colar dados de clientes num modelo de base. Uma equipa está a executar um suplemento de IA que ninguém avaliou. Um produto adquirido integrou discretamente funcionalidades de IA na sua última atualização, mas o fornecedor não informou o seu departamento de TI.
Nada disto consta no seu registo de riscos,
porque a IA Sombra é, por definição, não regulada.
Três perguntas-chave que vale a pena colocar esta semana:
1. Sabemos efetivamente que ferramentas de IA estão a ser utilizadas em toda a organização, incluindo as integradas?
2. Teria um membro da equipa que encontrasse uma ferramenta de IA útil um meio para a divulgar sem medo?
3. Quem é responsável pela resposta às perguntas 1 e 2?
Se a terceira pergunta gerar silêncio, esse silêncio é uma conclusão.
Capítulo 1 de Enterprise-wide AI Risk Management® (EW-AiRM®) ewairm.com trata a IA Sombra e a IA integrada em dispositivos como categorias de risco de primeira ordem, e não como notas de rodapé.
Saiba mais em www.ewairm.com