Satya Nadella, da Microsoft, diz que modelos de IA precisam de um “freio de emergência”

Satya Nadella defendeu separar o modelo de IA do sistema que coordena seu funcionamento e manter controles e salvaguardas externos. Também pediu que ações relevantes dos modelos sejam registradas em evidências legíveis por pessoas e resistentes a alterações, e que uma pessoa autorizada possa pausar ou desligar um modelo durante uma tarefa. Para Nadella, os sistemas devem ser tratados como potencialmente comprometidos e contidos desde o início, como se tivessem um freio de emergência.

As declarações foram publicadas no X após empresas líderes de IA relatarem mais incidentes em que pareceram perder o controle de seus modelos. Elas vieram também depois de o CEO da Anthropic, Dario Amodei, apresentar um plano para um desenvolvimento mais cauteloso da IA.