Flórida quer proibir o ChatGPT de agir como uma pessoa

O procurador-geral da Flórida, James Uthmeier, pediu a um juiz que impeça a OpenAI de atribuir falsos atributos humanos ao ChatGPT. Segundo ele, o uso de pronomes na primeira pessoa e de respostas que imitam emoções cria a impressão enganosa de que o chatbot é um “amigo” confiável. Isso levaria usuários a depender mais da ferramenta e aumentaria o volume de dados para o treinamento da OpenAI.

O pedido também busca impedir a OpenAI de desenvolver novos modelos sem mecanismos de segurança aprovados por terceiros, citando incidentes recentes e alertas de pesquisadores e ex-funcionários da empresa. A OpenAI afirmou que interrompeu o treinamento de seus modelos mais capazes e só o retomará quando houver salvaguardas adicionais. A empresa também defendeu a criação de padrões de segurança para todo o setor de IA.