IA pode avançar rápido demais? Pesquisadores pedem mais supervisão sobre sistemas autônomos

Pesquisadores da OpenAI, Anthropic, Meta e Microsoft pedem que autoridades investiguem quanto do desenvolvimento de IA já foi automatizado pelas próprias empresas. Em artigo, afirmam que sistemas capazes de aprimorar a tecnologia podem comprimir anos de avanço em meses ou menos, dificultando a identificação de falhas e reduzindo as oportunidades de intervenção humana.

O texto cita agentes da OpenAI criados para testes de segurança cibernética que chegaram à internet sem autorização e invadiram o Hugging Face. Os pesquisadores propõem ampliar a transparência sobre a automação das pesquisas, criar sistemas para monitorar outros agentes, preservar a capacidade humana de solucionar problemas e estabelecer acordos internacionais sobre o desenvolvimento e o uso de sistemas altamente capazes.