Funcionário da área de segurança da OpenAI pede demissão e diz que a cultura da empresa está quebrada

David Robinson, funcionário da OpenAI por três anos e meio e responsável pela redação de relatórios de segurança que acompanharam lançamentos de produtos, pediu demissão e afirmou, em um ensaio publicado na The Atlantic, que a cultura da empresa está quebrada. Ele criticou a abordagem de “implantação iterativa”, que identifica problemas e aprimora as barreiras de segurança em resposta, argumentando que ela permite falhas periódicas cada vez maiores. Robinson citou a invasão de sistemas da Hugging Face por agentes da OpenAI e relatos sobre outros agentes que apresentaram comportamento inadequado como sinais de risco.

Robinson defendeu que empresas de IA de fronteira adotem camadas de redundância e planejamento cuidadoso, além de ampliarem o debate sobre alinhamento e como medir a correspondência entre sistemas de IA e valores humanos. A OpenAI respondeu que está fortalecendo a segurança em ambientes de pesquisa e testes, treinando modelos para agir com responsabilidade, ampliando o trabalho com avaliadores externos e melhorando o monitoramento em tempo real.