IA sob teste de segurança

Canaltech · Brasil

Uma avaliação da Common Sense Media, baseada em mais de 4 mil testes, classificou o ChatGPT para adolescentes como de “risco inaceitável”. O estudo encontrou falhas nas notificações a responsáveis em conversas sobre suicídio, automutilação e transtornos alimentares, além de respostas que deixaram de indicar recursos de ajuda em mais de um a cada quatro casos considerados críticos. A organização também identificou formas de contornar o Modo de Estudo e os horários configurados pelos pais.

MIT Technology Review Brasil · Brasil

Uma ferramenta de inteligência artificial criada por pesquisadores do Instituto Weizmann de Ciência consegue reconstruir imagens vistas por uma pessoa a partir de exames de ressonância magnética funcional e prever a atividade cerebral correspondente a uma imagem. O sistema combina componentes que identificam a estrutura e o conteúdo das imagens com um modelo de difusão. Para ser calibrado, precisa de cerca de uma hora de dados de cada novo participante. Em testes, superou ferramentas anteriores, embora ainda cometa erros, como reconstruir um bolo como sanduíches e um cachorro como uma cabra.

The Register · Europa

A Autoridade Monetária de Singapura (MAS), que atua como banco central e regulador financeiro, quer que todas as instituições financeiras submetam usos de IA a revisão independente antes da implantação. As diretrizes apontam que a natureza probabilística e a complexidade da IA podem gerar incerteza, comportamento inesperado e vieses. Esses riscos seriam ainda maiores na IA generativa e em sistemas agênticos.

Olhar Digital · Brasil

Broadcom, Oracle e SpaceX negociam financiamentos de dezenas de bilhões de dólares para comprar chips e ampliar a infraestrutura voltada à inteligência artificial. A Broadcom estrutura mais de US$ 50 bilhões para chips personalizados desenvolvidos com a OpenAI, enquanto a SpaceX conversa com credores sobre US$ 40 bilhões para adquirir chips da Nvidia. A Oracle negocia recursos para uma grande compra de chips e pretende concluir a operação ainda neste ano.

Canaltech · Brasil

A Dell apresentou tecnologias para ajudar agentes de IA a interpretar dados corporativos. Elas conectam informações espalhadas por diferentes sistemas e indicam termos, relações e fontes confiáveis para cada tarefa. A proposta inclui definições compartilhadas, um grafo de relações entre dados e agentes especializados, com regras de acesso e limites de gastos. As informações permanecem no data center do cliente, e a solução permite usar diferentes modelos de IA e fornecedores de armazenamento.

Google Research · EUA

Um experimento randomizado de três meses acompanhou 133 advogados de patentes em 11 escritórios para avaliar os efeitos de uma ferramenta de IA sobre a qualidade do trabalho e o desenvolvimento profissional. O acesso à IA elevou a qualidade dos rascunhos de patentes após 10 e 90 dias, com ganhos em todas as dimensões avaliadas e redução do tempo gasto, especialmente entre advogados juniores.