Meta mudará sugestões de IA após chatbot fazer perguntas invasivas sobre crianças

A Meta anunciou mudanças nas sugestões de prompts de seu chatbot de IA depois que um vídeo viral mostrou o sistema fazendo perguntas invasivas sobre as filhas de uma usuária. Após publicar um vídeo no Instagram, Kalie Robins recebeu a sugestão “Quem é a criança passageira?” sobre uma gravação em que aparecia com a filha. Segundo Robins, o Meta AI reuniu informações sobre suas filhas em publicações antigas dela e de familiares, sugeriu perguntas sobre a idade das crianças e onde a família morava e exibiu fotos que ela afirma ter apagado anos antes.

A porta-voz da Meta, Dina El-Kassaby, disse que a empresa “errou o alvo” e que o recurso não deveria ter feito perguntas desse tipo. Ela afirmou que o problema que levava o Meta AI a sugerir prompts sobre temas pessoais foi corrigido. Segundo a empresa, as respostas se baseiam em informações às quais o usuário já tem acesso e, nesse caso, o sistema pode ter usado vídeos em que Robins mencionava os nomes das filhas.