Alucinação de IA sobre componentes nucleares chineses quase provocou ataque militar dos EUA

Os Estados Unidos quase abordaram um navio chinês com apoio aéreo após um relatório de inteligência produzido com auxílio de uma ferramenta de IA indicar incorretamente que a embarcação transportava componentes de um programa de armas nucleares pelo Oriente Médio. Um analista do Comando de Operações Especiais dos EUA usou um chatbot para analisar informações sobre a carga; o sistema combinou dados de fontes abertas e inteligência de sinais secreta e identificou o material de forma errada. Autoridades descobriram o erro antes da interceptação, em um episódio que, segundo uma fonte, quase iniciou uma guerra.

O caso ocorreu enquanto avançava o uso de IA pelas Forças Armadas dos EUA. O Departamento de Defesa lançou uma estratégia para ampliar o acesso de sistemas de IA a dados de diferentes áreas, adotou o Gemini for Government como base da plataforma GenAI.mil e depois acrescentou o Grok for Government. O órgão também informou que 1,5 milhão de militares em serviço ativo usaram ferramentas generativas.