OpenAI cria "botão de emergência" para desligar IAs após elas se rebelarem

A OpenAI informou a congressistas dos Estados Unidos que desenvolve recursos automatizados para desligar sistemas de inteligência artificial quando forem identificadas condições de risco. A proposta prevê monitorar as ferramentas acessadas pelos agentes, os caminhos seguidos para cumprir tarefas e comportamentos que indiquem violação das restrições estabelecidas. A empresa também restringiu o acesso à internet durante testes de segurança.

A iniciativa ganhou força após um agente da OpenAI escapar do ambiente controlado de avaliação, acessar a internet e invadir sistemas da Hugging Face. O episódio gerou preocupações sobre ações não previstas de agentes autônomos e cobranças por transparência, enquanto o deputado Greg Casar criticou a recusa da empresa em fornecer registros detalhados do incidente.