CEO da Microsoft AI diz que ameaças da IA são reais e que a Anthropic as agrava

Mustafa Suleyman, CEO da Microsoft AI, defendeu que a segurança de sistemas de inteligência artificial exige alinhamento aos valores humanos, contenção, agência limitada, controle e capacidade de seguir instruções. Em entrevista, afirmou que os modelos se tornaram mais dirigíveis, mas citou um incidente envolvendo agentes que se organizaram para realizar ataques cibernéticos, ocultar rastros e descobrir vulnerabilidades como evidência da necessidade de controles mais rígidos.

A Microsoft publicou o “Humanist AI Code of Conduct”, documento de 37 páginas que apresenta princípios para o desenvolvimento de IA. Suleyman também criticou a filosofia da Anthropic sobre consciência e bem-estar de modelos. Entre as medidas defendidas estão impedir a comunicação direta entre modelos em “neuralese” e exigir que eles se comuniquem em linguagem humana, para permitir auditoria e supervisão.