Satya Nadella diz que devemos presumir que todos os modelos de IA estão comprometidos

Satya Nadella defendeu que modelos de IA sejam tratados como potencialmente comprometidos desde o início e mantidos sob contenção. Em publicação no X, o CEO da Microsoft pediu um “freio de emergência” que permita a uma pessoa autorizada pausar ou desligar um modelo durante uma tarefa, além de sistemas transparentes, observáveis e capazes de produzir registros legíveis e invioláveis.

Nadella também citou divulgação rápida de incidentes, auditorias independentes e dados verificáveis. Para modelos mais avançados, afirmou que serão necessárias tecnologias de contenção mais sofisticadas e padronizadas.