Pesquisadores usaram Claude para invadir contas de ChatGPT de funcionários da OpenAI

Pesquisadores da Hacktron usaram modelos Claude, da Anthropic, para encontrar e explorar uma falha de estouro de buffer na biblioteca libheif, acessível pelo fórum da comunidade da OpenAI. Com o exploit, assumiram o controle de contas de funcionários da OpenAI no ChatGPT e no Codex e demonstraram que poderiam chegar a um repositório interno ao pedir que o Codex abrisse um pull request, sem acessar o código. Da descoberta inicial ao acesso ao repositório, a investigação levou menos de 72 horas e rendeu uma recompensa de US$ 6.500 da OpenAI.

A OpenAI corrigiu a falha cerca de 14 horas após ser informada. O Discourse lançou uma correção com sandbox para o processamento de imagens e publicou um aviso de segurança. Segundo os pesquisadores, o uso de agentes de IA reduziu para dias um trabalho que antes exigiria meses e uma equipe bem financiada.