Para conter o hacking com IA, redes unidirecionais podem ser uma alternativa

Eli-Shaoul Khedouri, CEO da Intuition Machines, defende o uso de redes unidirecionais com “data diodes” para reduzir o risco de modelos de IA com capacidades cibernéticas avançadas escaparem de ambientes de teste e acessarem a internet. Esses dispositivos permitem o fluxo de dados em apenas uma direção, enquanto o treinamento e o aprendizado por reforço permanecem isolados, com acesso apenas a artefatos aprovados. A proposta também inclui redes separadas para telemetria e gerenciamento, registros imutáveis de software e versões simuladas de serviços e APIs.

Segundo Khedouri, os componentes já são usados em ambientes de alta segurança e estão disponíveis comercialmente, mas ainda não foram adotados por laboratórios de fronteira. A implementação exigiria tempo, mudanças na arquitetura e custos adicionais, embora ele estime um custo inferior a 5% por gigawatt para clusters de treinamento de alta garantia. A abordagem busca tornar fisicamente impossíveis ações indesejadas ao combinar fluxos unidirecionais de dados e verificação formal, em vez de depender apenas de monitoramento ou de sandboxes conectadas à internet.