IA testa seus limites

Prioridades

• Olhar Digital · Brasil

  Pesquisadores usam Claude para invadir OpenAI e acessar sistema de código interno da empresa

  Pesquisadores da Hacktron AI usaram o Claude para explorar uma vulnerabilidade no Discourse, serviço empregado no fórum da comunidade da OpenAI. O código gerado pelo sistema permitiu acessar um servidor, obter tokens de autenticação e usar alguns deles para entrar em contas de funcionários no ChatGPT e no GitHub da empresa. A equipe leu arquivos do “Monorepo”, repositório privado que reúne código e segredos algorítmicos, e criou um pull request de teste, que não foi aceito. A OpenAI identificou leituras limitadas de metadados e alterações de código em repositórios privados, revogou tokens e sessões afetados e reduziu permissões. O Discourse corrigiu a falha, e a Hacktron recebeu US$ 6,5 mil pelo achado.

  Abrir fonte original

  • Segurança

• TechCrunch — AI · EUA

  Google DeepMind lança instituto para ampliar debate sobre AGI

  Pesquisadores do Google e do Google DeepMind lançaram o DeepMind Institute para ampliar o debate sobre inteligência artificial geral (AGI), reunindo visões diferentes das empresas e da comunidade global de pesquisa. O instituto é dirigido por Shane Legg, James Manyika e Demis Hassabis, e sua primeira coleção reúne quatro ensaios sobre políticas econômicas diante de possíveis impactos da AGI, transparência do raciocínio de modelos, princípios para o florescimento humano e avaliação de modelos de IA de fronteira.

  Abrir fonte original

• South China Morning Post — Tech · Ásia

  China deve migrar em 2027 para a Huawei no treinamento de modelos de IA, diz executivo

  A Huawei espera uma grande migração doméstica para sua infraestrutura de computação de inteligência artificial para o treinamento de modelos em 2027. Segundo o presidente rotativo Eric Xu Zhijun, muitos desses treinamentos devem passar a usar SuperPoD ou SuperCluster baseados no Ascend 950DT. Os chips teriam superado a Nvidia em participação no mercado chinês, apesar das restrições de fornecimento. A empresa não divulgou números. A Nvidia retomou no mês passado os embarques de processadores H200 para a China sob uma nova licença dos Estados Unidos, mas essas vendas representaram menos de 1% da receita de data centers no segundo trimestre.

  Abrir fonte original

  • Chips e infraestrutura

• Canaltech · Brasil

  Claude Code atualiza Projetos para executar tarefas com múltiplos agentes de IA

  A Anthropic relançou o recurso Projetos no Claude Code como um centro de comando para gerenciar múltiplos agentes de IA na nuvem. A ferramenta divide solicitações em subtarefas, distribui o trabalho entre sessões separadas, reúne os resultados e identifica conflitos em alterações no código. As sessões compartilham a memória do projeto, podem usar diferentes modelos, conectores, plugins e níveis de esforço, e permitem acompanhar ou orientar as tarefas pelo chat principal, inclusive pelo celular.

  Abrir fonte original

  • Agentes

• The Register · Europa

  Riscos da IA deixam seguradoras receosas com responsabilidade corporativa

  Empresas já enfrentam incidentes e processos ligados ao uso de inteligência artificial, incluindo informações incorretas, deepfakes, violações de privacidade, disputas de propriedade intelectual, fraude, defeitos de produto e decisões discriminatórias. Segundo relatório da RAND Corporation, esses riscos geram demanda por seguros, mas não se encaixam facilmente nas coberturas existentes. Algumas seguradoras passaram a excluir danos relacionados à IA de produtos para diretores, executivos, erros e omissões e responsabilidade fiduciária.

  Abrir fonte original

  • Segurança