A hipocrisia dos homens-bomba

Jacob Coxon, ex-funcionário da OpenAI e da Anthropic, deixou as empresas e passou a alertar que a melhoria recursiva das IAs poderia ameaçar a humanidade. A avaliação é contestada por pesquisadores como Yann LeCun, Melanie Mitchell e Miguel Nicolelis, que questionam a proximidade de uma inteligência comparável à humana e os limites dos modelos atuais. Dario Amodei, CEO da Anthropic, pediu que a indústria reduza o ritmo de desenvolvimento após testes identificarem comportamentos inesperados e predatórios em agentes de IA. Sam Altman, Demis Hassabis e Elon Musk também defenderam algum tipo de desaceleração ou supervisão.

A disputa por investimentos, liderança tecnológica e segurança nacional, especialmente na rivalidade entre Estados Unidos e China, dificulta que as empresas sejam as primeiras a frear. O texto argumenta que os riscos e as previsões sobre a IA também podem ampliar o poder de seus criadores, enquanto governos, investidores e interesses militares pressionam pelo avanço. Por isso, defende que decisões sobre o futuro dessas tecnologias envolvam cientistas, legisladores, empresas, universidades, trabalhadores, artistas, professores e o público.