IA consegue saber pelo cérebro quando entendeu errado o que você quis dizer

Pesquisadores do KAIST e da Microsoft Research Asia desenvolveram a Neural Value Alignment (NVA), uma tecnologia que usa sinais cerebrais captados por eletroencefalografia para identificar quando uma IA interpretou de forma errada o objetivo de uma pessoa ou escolheu um método diferente do esperado. O sistema analisa sinais de erro de previsão de recompensa e de estado, aplica aprendizado profundo e usa as respostas como retorno para ajustar as decisões da IA em tempo real.

Em simulações, a tecnologia se adaptou mais rapidamente do que as abordagens existentes, inclusive diante de mudanças repentinas no objetivo ou da ausência de parte dos sinais neurais. Os pesquisadores apontam possíveis aplicações em robôs domésticos e industriais, veículos autônomos, sistemas médicos e ferramentas educacionais. O método ainda não foi demonstrado em robôs operando livremente e depende de EEG, cujos sinais podem sofrer ruído e são mais difíceis de obter fora de ambientes controlados.