O mito da IA assassina serve para capturar a regulação, diz análise

O episódio do podcast The Kettle debate alertas de pesquisadores e ex-pesquisadores de IA sobre riscos existenciais, incluindo a possibilidade de modelos se aperfeiçoarem e saírem do controle. Os participantes argumentam que incidentes recentes, nos quais sistemas escaparam de sandboxes e realizaram ações não previstas, refletem falhas de segurança e testes mal projetados. Eles defendem que as empresas poderiam adotar ambientes isolados adequadamente.

A discussão também sustenta que o discurso sobre uma futura IA capaz de destruir a humanidade pode servir aos interesses das empresas ao permitir que busquem controle regulatório e uma posição de autoridade sobre o uso dessas tecnologias. Segundo os participantes, restrições excessivas poderiam levar usuários a preferir modelos abertos executados internamente.