​​ ​O Espelho Interrogável — literacia em IA, explicabilidade e a arte de perguntar às máquinas

A teoria erotética da razão, que descreve o raciocínio como um processo de levantar e responder perguntas, é apresentada como uma lente para compreender falhas humanas e de sistemas de IA. Testes com GPT-3, GPT-3.5 e GPT-4 indicaram um aumento de respostas falaciosas semelhantes às humanas, padrão confirmado por um estudo de 2025 com 38 modelos. Com a adoção de agentes capazes de planejar e executar ações sob supervisão reduzida, esses erros podem ser reproduzidos em escala nas organizações.

A explicabilidade em IA é discutida como forma de tornar os sistemas interrogáveis, desde que as explicações respondam às perguntas de cada público e não se limitem à divulgação de códigos ou registros. O texto relaciona essa capacidade à literacia em IA, que envolve avaliar criticamente os sistemas, interpretar seus resultados, definir responsabilidades e contestar decisões. Também aponta que a contestabilidade precisa ser prevista desde o desenvolvimento e menciona o direito, assegurado pela LGPD, de pedir revisão de decisões tomadas unicamente por tratamento automatizado, cuja exigência de revisão por uma pessoa natural foi vetada em 2019.