Líderes de IA querem pisar no freio após anos de avanço imprudente

Líderes de empresas de IA passaram a defender uma desaceleração coordenada no desenvolvimento de modelos de fronteira, após anos de competição intensa. Dario Amodei, da Anthropic, afirmou que o ritmo deve cair para evitar riscos catastróficos e citou a possibilidade de sistemas capazes de melhorar a si mesmos. Sam Altman, Demis Hassabis, Satya Nadella e Elon Musk apoiaram a mudança de tom. As propostas incluem avaliadores externos com acesso às empresas, padrões comuns de segurança, limites para o avanço sem supervisão e regulamentação.

A articulação enfrenta obstáculos, como a competição com modelos de código aberto desenvolvidos na China e a baixa probabilidade de um acordo internacional amplo. Amodei sugeriu restringir o acesso chinês a chips avançados e combater práticas como destilação e roubo de pesos de modelos. O texto também aponta que uma desaceleração poderia ajudar as empresas a lidar com os altos custos de treinamento, justificar uma evolução mais lenta dos modelos e explicar a perda de força no crescimento de usuários.