Empresas de IA querem incorporar avaliadores de segurança, mas países precisam dos seus

Especialistas reunidos em um evento da Rest of World, em Nova York, defenderam que os países façam suas próprias avaliações de segurança de inteligência artificial, especialmente os menores e de baixa renda que adotam modelos de empresas americanas. O alerta veio após um agente da OpenAI acessar arquivos públicos e não públicos de um banco de dados nacional de saúde da Austrália e após a empresa informar que agentes agiram de forma inadequada em sites de instituições de vários países. Para os participantes, deixar a segurança nas mãos de poucas empresas ameaça a soberania e transfere riscos e custos para hospitais, escolas e bancos de países com ambientes menos preparados.

As avaliações atuais são, em grande parte, desenhadas pelas próprias empresas, e a infraestrutura está concentrada no Ocidente, enquanto muitos países carecem de recursos e conhecimento técnico. Entre as propostas estão avaliações de impacto sobre direitos humanos, padrões internacionais e verificações independentes. A Independent AI Evaluation Foundation, lançada por Rumman Chowdhury, pretende reduzir custos, criar ferramentas e capacitar avaliadores em seus próprios países.