Nova teoria pode ajudar cientistas a entender como a IA “pensa”

Nick Cammarata, pesquisador independente que deixou a OpenAI em 2023, propõe que padrões na atividade dos neurônios artificiais podem ser interpretados. Um neurônio pode, por exemplo, responder tanto à imagem de um gato quanto à dianteira de um carro por identificar uma característica visual comum, como uma forma triangular. A hipótese sugere que associações aparentemente aleatórias podem refletir padrões que não são evidentes para as pessoas.

A proposta ainda é teórica e não demonstra que todos os mecanismos internos dos modelos possam ser compreendidos. Pesquisadores avaliam que investigar esses padrões poderia ajudar a identificar comportamentos inesperados e riscos, complementando as explicações em linguagem natural produzidas pelos próprios sistemas, que nem sempre representam fielmente seus processos internos.