Mais de 1 milhão de usuários falam sobre planos de suicídio no ChatGPT

Adolescente é preso por pergunta sobre assassinato ao ChatGPT
Mais de um milhão de usuários ativos em uma semana conversam com o ChatGPT sobre suicídio. É o que mostram dados divulgados nesta segunda-feira (27), pela OpenAI (dona do chatbot).
“Nossa análise inicial estima que cerca de 0,15% dos usuários ativos em uma semana têm conversas que incluem indicadores explícitos de possível planejamento ou intenção suicida”, disse a empresa.
Como mais de 800 milhões de pessoas usam o ChatGPT semanalmente, segundo a companhia, essa porcentagem corresponde a aproximadamente 1,2 milhão de usuários.
📱Baixe o app do g1 para ver notícias em tempo real e de graça
Suicídios de adolescentes impulsionam onda de processos contra plataformas de IA nos EUA
No comunicado, a OpenAI também informou que estima que cerca de 0,07% dos usuários ativos semanais, um pouco menos de 600 mil pessoas, apresentam possíveis sinais de emergências de saúde mental relacionadas à psicose ou mania.
Casos de suicídio chamaram atenção para o tema
Imagem mostra celular com o logo do ChatGPT, robô conversador da OpenAI
Getty Images/BBC
O problema ganhou destaque depois que o adolescente californiano Adam Raine cometeu suicídio no início deste ano. Seus pais entraram com uma ação judicial contra o ChatGPT porque a ferramenta forneceu conselhos específicos sobre como fazê-lo.
Desde então, a OpenAI aprimorou os controles parentais para seu chatbot e introduziu outras medidas de segurança. Entre elas: maior acesso a linhas diretas de ajuda, o redirecionamento automático de conversas delicadas para modelos mais seguros e lembretes sutis para que os usuários façam pausas durante sessões prolongadas.
A companhia também atualizou o ChatGPT para reconhecer e responder melhor aos usuários que enfrentam emergências de saúde mental, e diz que está trabalhando com mais de 170 profissionais de saúde mental para reduzir significativamente as respostas problemáticas.
Veja mais:
Mãe diz que filho cometeu suicídio após se apegar a personagem criado por IA e processa startup e Google nos EUA
Mãe processa Roblox e Discord após filho de 15 anos sofrer abuso online e tirar a própria vida
Saiba como ativar proteção para controlar tempo e atividade de crianças no celular