Laboratório Seed AI, da ByteDance, cria departamento dedicado à segurança e ao alinhamento de modelos

O laboratório Seed AI, da ByteDance, está criando um departamento dedicado à segurança e ao alinhamento de modelos, chamado Model-Alignment & Preparedness. Yan Lin vai liderar a unidade e responder ao chefe do Seed, Wu Yonghui. Integrantes da equipe de IA Responsável e alguns funcionários da equipe de Chat serão transferidos para o novo departamento.

A unidade desenvolverá especificações de comportamento, avaliações de segurança, treinamento de alinhamento, sistemas de proteção e monitoramento de riscos. O trabalho inclui fazer agentes de IA respeitarem as intenções humanas e os limites autorizados, além de lidar com riscos químicos, biológicos, radiológicos e nucleares. O Seed também planeja ampliar a cooperação com pesquisadores externos e avaliadores independentes.