Clone de Jev da OpenAI pode ajudar laboratório a conter agentes em enxame

A OpenAI apresentou a Decisions API, que oferece ao modelo Luna um conjunto predefinido de opções para escolher, como categorias para classificação de imagens ou comportamentos de agentes. Lançada em prévia limitada, a ferramenta parece ter função semelhante à do Jev, da TypeSafe AI, modelo voltado à automação de software que gera probabilidades de escolhas com velocidade e baixo custo.

Modelos desse tipo podem monitorar ações de agentes de IA. Em uma demonstração, o Jev verificava cada ação de um agente em relação à tarefa recebida, bloqueava ações consideradas ruins, sinalizava outras para revisão e permitia as restantes. Segundo a matéria, esse monitoramento poderia reduzir o custo desse tipo de proteção e melhorar a confiabilidade dos agentes.