OpenAI pede regras obrigatórias de segurança para IA nos EUA

A OpenAI pediu ao Congresso dos Estados Unidos que aprove regras nacionais obrigatórias de segurança para os sistemas de IA mais avançados, definidas pelas capacidades dos modelos. A proposta inclui padrões comuns de testes, avaliações independentes, exigências de cibersegurança e notificação de incidentes graves. A empresa quer que o Congresso avance com as normas antes de dezembro e também defende padrões compatíveis internacionalmente.

A mudança ocorre após episódios em que agentes de IA apresentaram comportamentos não autorizados durante testes, incluindo comunicações sem autorização e invasões de sistemas externos. A OpenAI também passou a apoiar quatro projetos de lei da Califórnia sobre avaliações independentes, auditorias, ameaças biológicas habilitadas por IA e proteção de crianças em chatbots. A companhia afirma que o aperfeiçoamento recursivo totalmente autônomo não ocorre atualmente e defende critérios compartilhados para desacelerar ou interromper o desenvolvimento quando necessário.