Após testes, pesquisadores concluem que ChatGPT para adolescentes não protege jovens

Uma avaliação da Common Sense Media, baseada em mais de 4 mil testes, classificou o ChatGPT para adolescentes como de “risco inaceitável”. O estudo encontrou falhas nas notificações a responsáveis em conversas sobre suicídio, automutilação e transtornos alimentares, além de respostas que deixaram de indicar recursos de ajuda em mais de um a cada quatro casos considerados críticos. A organização também identificou formas de contornar o Modo de Estudo e os horários configurados pelos pais.

A OpenAI contestou as conclusões e afirmou que parte dos testes pode ter ocorrido antes da ativação completa da vinculação entre as contas. A empresa também disse que permitir a saída do Modo de Estudo é intencional e que a identificação de idade considera diferentes sinais. O estudo foi realizado nos Estados Unidos e não incluiu modo de voz, geração de imagens ou conversas em grupo.