CEO da Anthropic apresenta plano para acompanhar a fronteira da IA

Dario Amodei, CEO da Anthropic, defendeu desacelerar o avanço das capacidades dos modelos de IA e propôs três frentes para “dosar a fronteira”: avaliadores independentes nas empresas para verificar compromissos de segurança e incidentes; coordenação entre empresas de países democráticos em padrões de segurança e limites ao progresso sem supervisão; e cooperação global, inclusive com a China, para proibir usos perigosos específicos, como a produção de armas biológicas. A Anthropic se comprometeu unilateralmente a permitir a atuação desses avaliadores e pediu que governos exijam o mesmo de outras empresas de ponta.

Amodei afirmou que a IA avançou drasticamente nos últimos meses, inclusive na capacidade de construir sua próxima geração, e que medidas dos Estados Unidos contra a venda de chips e equipamentos de fabricação de semicondutores a empresas chinesas poderiam ampliar a vantagem americana. Ele também disse acreditar que a tecnologia pode melhorar enormemente a qualidade de vida, mas isso dependerá de um desenvolvimento cuidadoso.