Base Labs cria parceria de segurança de IA com pesos abertos com Hugging Face e Goodfire

A Baseten lançou, por meio do braço de pesquisa Base Labs, uma estrutura de infraestrutura de segurança para modelos de código aberto com Hugging Face e Goodfire AI. A parceria pretende desenvolver e publicar métodos de treinamento, avaliação e monitoramento de modelos com pesos abertos, incorporando segurança às etapas de treinamento e implantação. As empresas ainda não divulgaram como a colaboração funcionará tecnicamente.

O anúncio ocorre em meio ao debate sobre os riscos desses modelos, cujas proteções podem ser removidas por uma técnica chamada abliteration. A Hugging Face lista mais de 6.000 modelos modificados dessa forma. A Base Labs também convidou a comunidade de desenvolvedores a contribuir com a estrutura.