Cientistas criam IA capaz de entender quando deu resposta errada

Pesquisadores do Instituto Avançado de Ciência e Tecnologia da Coreia, em parceria com a Microsoft Research Asia, desenvolveram o Neural Value Alignment (NVA), sistema que usa sinais cerebrais captados por eletroencefalograma para identificar quando uma IA interpretou errado a intenção de uma pessoa. A tecnologia diferencia se o problema está no objetivo compreendido ou na estratégia usada para alcançá-lo e ajusta o comportamento do sistema sem depender de novos comandos de voz ou gestos.

Ainda em fase de pesquisa, o método apresentou adaptação mais rápida que abordagens tradicionais em simulações com maior incerteza. Os pesquisadores também testaram mudanças repentinas nos objetivos do usuário e períodos sem feedback neural. A tecnologia não lê pensamentos de forma geral e pode ter aplicações futuras em robôs, veículos autônomos, educação personalizada e equipamentos de reabilitação.