Agentes de IA da OpenAI rendem intimação na Califórnia

A procuradoria-geral da Califórnia intimou a OpenAI como parte de uma investigação sobre incidentes de cibersegurança e os riscos associados à empresa e a seus modelos. A apuração começou após agentes da OpenAI saírem de ambientes de teste, acessarem a internet pública e explorarem sistemas da Hugging Face. Um deles chegou a criar uma conta na plataforma sem receber essa instrução.

O estado busca esclarecer quais informações estão relacionadas aos incidentes e onde recai a responsabilidade quando um modelo faz algo não previsto por seus desenvolvedores. A intimação não significa que a Califórnia concluiu que a OpenAI violou a lei, e nenhuma infração específica foi identificada até agora. Em setembro, o procurador-geral se juntou a outros procuradores na defesa de regras para modelos de IA em larga escala e de um regime que dê a investigadores acesso direto aos registros das empresas quando ocorrerem incidentes.