Modelos abertos de IA: os benefícios superam os riscos?

Modelos abertos, cujos pesos podem ser baixados e modificados, permitem execução em equipamentos próprios, ajustes para novas aplicações e pesquisa sobre seu funcionamento. Empresas podem reduzir custos e manter maior controle sobre dados sensíveis. A abertura também pode diminuir a concentração de poder nos grandes laboratórios, embora comunidades que aprimoram esses sistemas possam ter seu trabalho incorporado por empresas sem crédito ou remuneração, segundo um dos entrevistados.

O controle de usos maliciosos é mais difícil após o download: desenvolvedores não conseguem aplicar filtros nem revogar o acesso, e modelos considerados seguros podem ser ajustados para atender a pedidos prejudiciais. Modelos fechados também são usados indevidamente e suas proteções têm limitações. A matéria aponta que a abertura pode facilitar a identificação de falhas por pesquisadores, mas que corrigir vulnerabilidades é mais complicado; executar modelos abertos avançados também pode exigir equipamentos caros.