Google DeepMind lança instituto para ampliar debate sobre AGI

Pesquisadores do Google e do Google DeepMind lançaram o DeepMind Institute para ampliar o debate sobre inteligência artificial geral (AGI), reunindo visões diferentes das empresas e da comunidade global de pesquisa. O instituto é dirigido por Shane Legg, James Manyika e Demis Hassabis, e sua primeira coleção reúne quatro ensaios sobre políticas econômicas diante de possíveis impactos da AGI, transparência do raciocínio de modelos, princípios para o florescimento humano e avaliação de modelos de IA de fronteira.

Um dos textos defende limitar a quantidade de computação sequencial opaca dos modelos ou exigir que sistemas menos transparentes continuem monitoráveis. Em outro, Hassabis propõe um órgão de padrões de IA de fronteira liderado pelos Estados Unidos, com avaliações voluntárias antes do lançamento que poderiam se tornar obrigatórias. O sistema incluiria testes independentes e não divulgados, com a possibilidade de desacelerar de forma coordenada o desenvolvimento de modelos avançados caso a gravidade da situação exigisse.