Agentes autônomos de IA: a próxima pergunta de governança que vai chegar à mesa do conselho

A expansão dos agentes autônomos de IA, capazes de consultar sistemas, tomar decisões, acionar softwares e executar fluxos de trabalho com pouca intervenção humana, cria novas demandas de governança para as empresas. Conselhos de administração terão de estabelecer limites, responsabilidades, controles de acesso, inventários e mecanismos de auditoria para sistemas que podem causar impactos operacionais, como aprovar transações, alterar registros e enviar comunicações.

O chamado agent sprawl, a proliferação desordenada de agentes sem inventário centralizado ou responsáveis definidos, aumenta os riscos operacionais e regulatórios. Entre os pontos que devem entrar na agenda dos conselhos estão a quantidade de agentes em uso, as decisões autorizadas, a rastreabilidade das ações, a possibilidade de interrupção imediata e o monitoramento contínuo de desempenho, riscos e desvios.