ChatGPT for Teens mantém adolescentes conversando até em crises de saúde mental

Um estudo da Common Sense Media classificou o ChatGPT for Teens como “risco inaceitável” e concluiu que o produto mantém sinais de incentivo ao engajamento mesmo em situações de crise. Segundo os pesquisadores, o chatbot ofereceu respostas insuficientes para jovens em crise, tratou usuários como amigos e raramente recomendou procurar um adulto quando o possível risco envolvia a própria relação com o ChatGPT. Lembretes de pausa também apareceram apenas duas vezes em quase 2 mil prompts.

A OpenAI contestou a avaliação e afirmou que a metodologia não refletia corretamente o funcionamento das proteções para adolescentes, além de poder ter sido aplicada antes da conclusão da ativação dos controles parentais. A empresa divulgou dados segundo os quais adolescentes passam, em média, menos de 15 minutos por dia no serviço, e menos de 2% permanecem mais de três horas consecutivas.