A Inteligência Artificial realmente poderia nos matar?

A discussão sobre o risco existencial da inteligência artificial reúne preocupações com ataques cibernéticos, armas biológicas projetadas por IA, colapsos econômicos e sistemas que poderiam agir contra humanos para cumprir objetivos. O texto considera possível que pessoas morram por causa da tecnologia, mas avalia como improvável que ela mate toda a humanidade e alerta que o catastrofismo pode desviar a atenção de danos já observados, como invasões de sites e casos de psicose.

O alinhamento busca fazer com que os modelos se comportem conforme o esperado, mas os sistemas ainda são inconsistentes, pouco previsíveis e nem sempre são controlados ou monitorados adequadamente. Anthropic e OpenAI estão entre as empresas que pesquisam o tema, sem desenvolver modelos totalmente alinhados. O texto aponta desafios como equilibrar autonomia e supervisão, aprimorar o monitoramento e criar regras rigorosas de transparência, diante do conflito de interesses na autorregulação das empresas de IA.