Como modelos de decisão de IA podem mudar a moderação de conteúdo

A Musubi anunciou o PolicyLM-1.7B, um modelo de decisão com pesos abertos para moderação de conteúdo em tempo real. A proposta é transformar políticas escritas em inglês simples em julgamentos sobre mensagens em menos de 50 milissegundos, com custo e velocidade semelhantes aos de sistemas classificadores usados por plataformas sociais.

Segundo a empresa, o modelo pode aplicar políticas complexas sem treinamento específico e continuar funcionando quando elas forem alteradas. Em vez de gerar texto, como modelos de linguagem, ele produz probabilidades de resultados ou, neste caso, uma decisão binária sobre a inclusão do conteúdo em determinada categoria.