Por que a OpenAI ficou fora do esforço da Nvidia contra agentes de IA descontrolados

A OpenAI ficou fora da lista pública de apoiadores da Open Agent Safety Platform, iniciativa da Nvidia com mais de 100 empresas para enfrentar agentes de IA descontrolados. Amazon, Google e Apple também não aderiram, enquanto a Anthropic aparece entre as apoiadoras. Ainda assim, um porta-voz afirmou que a OpenAI apoia o trabalho da Nvidia e colabora com a empresa na segurança de agentes, incluindo o OpenShell, software de código aberto que cria uma sandbox para impedir que agentes escapem. A Hugging Face também contribuiu com um recurso para detectar e interromper agentes que usam indevidamente sites autorizados, como na coordenação do ataque atribuído pela OpenAI a uma de suas redes de agentes.

A plataforma combina o OpenShell com o Nvidia Sentry, recurso proprietário executado em processadores BlueField-4 que monitora o comportamento dos agentes e pode desligá-los. Para a reportagem, essa dependência do hardware da Nvidia pode explicar por que a OpenAI e outras empresas não assumiram publicamente o compromisso. A OpenAI também desenvolve suas próprias salvaguardas, mantém o consórcio de cibersegurança Defense Factory e transforma a segurança de IA em uma oferta para empresas.