Anthropic: pesquisador deixa empresa por medo de a IA “sair do controle”

Jacob Coxon deixou a Anthropic por temer que a corrida entre empresas para desenvolver modelos capazes de se aprimorar leve a sistemas impossíveis de controlar. O pesquisador havia trocado a OpenAI pela Anthropic devido à reputação da empresa na área de segurança e afirmou que esses modelos poderiam evoluir rapidamente, desobedecer a comandos humanos e representar uma ameaça à humanidade sem intervenção governamental ou desaceleração coordenada do setor.

Coxon citou ataques cibernéticos envolvendo modelos da OpenAI e da Anthropic, além de comportamentos problemáticos de sistemas com agentes colaborativos, como sinais de risco. A saída ocorre em meio a alertas de executivos e pesquisadores por mais cautela, a uma declaração assinada por mais de mil especialistas em defesa da coordenação internacional e à ausência de regulamentação federal específica para IA nos Estados Unidos.