A alucinação não é um erro:
É uma propriedade de design da arquitetura do sistema GenAI.
Essa distinção é enormemente importante para a governação:
Um erro pode ser corrigido e fechado. Uma propriedade tem de ser gerida continuamente, com controlos, monitorização e uma anulação humana testada.
Já vimos o que acontece quando as organizações tratam isto como um erro: empresas profissionais envergonhadas por trabalhos redigidos por IA que ninguém verificou, advogados experientes a apresentar petições com citações que nunca existiram.
Professor Associado Andy Schmulow, um dos apoiantes do livro, diz-o de forma clara: "...os funcionários e até os líderes estão a cortar caminho, a pedir à IA para fazer o seu trabalho e a não verificar o que ela produz." O seu veredicto sobre o livro: "Deveria ser considerado indispensável."
Enterprise-wide AI Risk Management® (EW-AiRM®) ewairm.com trata a alucinação, a deriva e o colapso do modelo como residentes permanentes do panorama de risco e constrói os controlos em torno dessa realidade.