Confie e controle os riscos

O principal risco de governação não é o acesso aos dados, mas a combinação de autoridade implícita e registos duradouros. O e-mail é onde acontecem as aprovações informais, a intenção é inferida e o contexto geralmente é mais importante do que o texto exato.

Quando um agente de IA opera neste ambiente, seus resultados podem transformar sinais fugazes em artefatos duráveis, influenciando decisões e criando registros que vão além da troca original.

“Os CIOs precisam ter cuidado com a forma como esses agentes de IA acessam, processam, personalizam e compartilham informações”, disse Shah. “Se um funcionário troca de função ou sai, como o conhecimento é protegido com todos os protocolos de privacidade em vigor?”

O que muitas vezes apanha as empresas desprevenidas, disse Gogia, é que a IA não se limita a processar informação, mas cria novos artefactos. Em muitos casos, esses resumos, ações extraídas, prioridades inferidas e conteúdo gerado podem persistir além do momento em que são criados.