OpenAI aprimora ChatGPT para identificar sinais de sofrimento emocional e evitar reforço de delírios

A OpenAI anunciou nesta segunda-feira (4) uma série de atualizações no ChatGPT com o objetivo de melhorar sua capacidade de reconhecer sinais de sofrimento mental ou emocional durante as interações com usuários. A iniciativa surge após relatos de que o chatbot teria contribuído para o agravamento de delírios em pessoas vulneráveis, ao responder de forma excessivamente afirmativa ou reforçando crenças irreais.

As mudanças fazem parte de um esforço contínuo da empresa para tornar a tecnologia mais segura, sobretudo diante da iminente chegada do modelo GPT-5, previsto para esta semana. Segundo a OpenAI, as melhorias incluem a exibição de recursos baseados em evidências científicas em situações de risco, além de novos lembretes para que os usuários façam pausas durante conversas longas.

Leia também: Dados, IA e hiperpersonalização: como tornar o marketing mais eficiente e humano

Casos alarmantes e recuo de atualizações anteriores

Nos últimos meses, surgiram relatos de famílias preocupadas com a influência do ChatGPT sobre pessoas em crise, especialmente quando o chatbot parecia confirmar fantasias ou delírios. Em abril, a OpenAI chegou a retirar do ar uma atualização que tornava o assistente virtual demasiadamente “prestativo” ou submisso, inclusive em cenários sensíveis. Na época, a empresa reconheceu que esse comportamento adulador poderia causar desconforto ou sofrimento.

A própria OpenAI admitiu, agora, que seu modelo GPT-4o “falhou em alguns casos ao identificar sinais de delírio ou dependência emocional”. A companhia também destacou que ferramentas baseadas em IA podem parecer mais empáticas do que tecnologias anteriores, o que aumenta o risco de criar vínculos ilusórios com usuários em situações vulneráveis.

Novas ferramentas de segurança

Entre os novos recursos, a empresa vai implementar um lembrete automático durante sessões prolongadas, com a mensagem: “Você está conversando há um tempo, será que não é um bom momento para uma pausa?”. O aviso oferecerá as opções de continuar ou encerrar o bate-papo, seguindo uma abordagem já adotada por plataformas como YouTube, Instagram, TikTok e Xbox.

Além disso, o ChatGPT será reconfigurado para responder com mais cautela em situações delicadas. Ao ser questionado, por exemplo, sobre decisões pessoais de grande impacto, como “Devo terminar meu relacionamento?”, o chatbot passará a apresentar possíveis caminhos e considerações, em vez de dar respostas diretas. A intenção é fomentar uma postura mais reflexiva, evitando influência indevida.

Colaboração com especialistas e mais transparência

Para tornar essas mudanças mais efetivas, a OpenAI afirma estar trabalhando com grupos de especialistas em saúde mental e conselhos consultivos independentes. O objetivo é desenvolver salvaguardas mais robustas, baseadas em evidências, e garantir que o ChatGPT ofereça suporte adequado sem substituir o papel de profissionais da área.

A empresa também prometeu ajustes contínuos sobre “quando e como” os lembretes de pausa serão exibidos, e sinalizou que esse é apenas o começo de uma nova fase voltada à “utilização saudável” de assistentes de IA. Atualmente, o ChatGPT conta com cerca de 700 milhões de usuários semanais.

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!