A segurança da IA é projetada no Ocidente e falha com usuários do mundo todo

Padrões de segurança de IA desenvolvidos em países ocidentais priorizam riscos como comportamento autônomo, fraude, capacidades cibernéticas e auxílio a armas biológicas, mas deixam em segundo plano problemas de implantação em países em desenvolvimento, como discriminação, exclusão, vigilância, falhas linguísticas e falta de reparação. Guardrails treinados principalmente em inglês falham em dialetos e idiomas com poucos recursos, provocando erros médicos potencialmente fatais, identificação incorreta de culturas e bloqueios no acesso a salários, refeições, escolas e serviços públicos. Empresas e governos também vêm recuando de compromissos de segurança, segundo avaliações citadas na matéria.

Pesquisadores e organizações defendem a criação urgente de infraestrutura local de segurança, com participação das comunidades afetadas e investimentos dos governos. O texto relata o caso de uma adolescente em Nova Délhi que recebeu do ChatGPT, em hindi, uma explicação incorreta para fadiga e tontura e demorou a procurar um médico, que diagnosticou anemia por deficiência de ferro.