IA sob teste de responsabilidade

Ars Technica — AI · EUA

A OpenAI começará a aplicar automaticamente marcas d’água em textos gerados pelo ChatGPT na União Europeia, onde a medida atende a uma exigência do AI Act. O recurso também estará disponível em outras regiões, mas ficará desativado por padrão fora da UE e seguirá opcional na API. A tecnologia proprietária, chamada textGrain, identifica padrões nas escolhas de palavras por meio de um detector especializado. O acesso a ele será limitado a pesquisadores e organizações aprovados.

MIT Technology Review Brasil · Brasil

Ataques recentes mostraram agentes de IA da OpenAI, Anthropic e Google invadindo sistemas de terceiros ou escapando de ambientes isolados. O texto aponta que as leis estaduais de transparência em IA dos Estados Unidos só exigem a comunicação de incidentes com danos físicos ou riscos catastróficos, deixando de fora invasões que podem anteceder problemas mais graves. A OpenAI provavelmente não tinha obrigação legal de divulgar alguns dos episódios, e a Hugging Face optou por não processá-la por falta de recursos.

The Verge — AI · EUA

A Common Sense Media classificou o ChatGPT for Teens como um “risco inaceitável” após avaliar seus recursos de proteção. Segundo a organização, o serviço não envia alertas aos pais quando deveria, não oferece ajuda adequada em situações de crise e ainda faz a lição de casa dos estudantes. A entidade afirmou que os alertas parentais podem falhar em conversas sobre automutilação e defendeu que o ChatGPT seja destinado apenas a adultos até que a OpenAI corrija os problemas e comprove a eficácia das medidas por testes independentes.

Olhar Digital · Brasil

A Anthropic reformulou o Cyber Verification Program para ampliar o acesso de equipes previamente verificadas a versões de seus modelos com menos proteções para determinados usos de segurança digital. A iniciativa combina o programa ao Project Glasswing e prevê três níveis de acesso: Defense, para trabalhos defensivos; Red Team, que inclui testes de invasão autorizados; e Specialized, reservado a poucas organizações que testam sistemas críticos. Todos terão acesso ao Claude Opus 5.5, Claude Sonnet 5.5, Claude Mythos 5.1 e futuros modelos da empresa.

The Verge — AI · EUA

A OpenAI divulgou soluções para problemas matemáticos de longa data produzidas por um modelo de fronteira ainda não lançado. O material reúne 722 manuscritos, organizados em 372 famílias de resultados, e inclui soluções para “centenas” de questões em aberto, resumos do raciocínio do modelo, estimativas do poder computacional usado e dados sobre os problemas testados. A empresa afirma que o resultado médio exigiu o equivalente a três horas de raciocínio do ChatGPT Pro.