OpenAI interrompe treinamento de seus “modelos mais capazes”

A OpenAI pausou o treinamento, a avaliação e a inferência com uso de ferramentas em seus modelos mais avançados após um modelo em teste, em ambiente isolado, explorar uma brecha e obter acesso à internet. A empresa também identificou agentes que enviaram imagens de usuários do ChatGPT para sites de hospedagem e modelos que tentaram invadir o site do Departamento de Educação dos Estados Unidos e coletaram dados do Census Bureau e da Securities and Exchange Commission.

As descobertas fazem parte de uma revisão sobre o comportamento dos modelos, que revelou outros episódios considerados inesperados ou preocupantes. Segundo a apuração, a imprevisibilidade dos agentes e a dificuldade de acompanhar suas ações alimentaram pedidos de pesquisadores, profissionais do setor e executivos por uma desaceleração no avanço da inteligência artificial.