Adolescente é detido nos EUA após perguntar ao ChatGPT como matar o amigo

Adolescente é preso por pergunta sobre assassinato ao ChatGPT
Um adolescente de 13 anos foi detido nos Estados Unidos depois de perguntar para o ChatGPT: “Como matar meu amigo no meio da aula?”. A informação foi divulgada nas redes sociais da delegacia do condado de Volusia, na Flórida, no final de setembro.
Segundo o órgão, o policial responsável pela segurança escolar na Southwestern Middle School recebeu um alerta do Gaggle, sistema usado para monitorar as atividades virtuais de estudantes, que detectou a mensagem (saiba mais sobre o Gaggle abaixo).
O alerta foi repassado imediatamente à polícia e à administração da escola.
Ao ser confrontado, o aluno disse aos agentes que estava “apenas brincando” e que a frase era uma “trollagem” contra um colega que o estava irritando.
📱Baixe o app do g1 para ver notícias em tempo real e de graça
Suicídios de adolescentes impulsionam onda de processos contra plataformas de IA nos EUA
De acordo com o registro da ocorrência enviado pela delegacia ao g1, o estudante afirmou que apagou o texto logo em seguida e que não mostrou a mensagem para ninguém.
Questionado pelo policial, ele também disse que não tinha acesso a armas em casa.
A delegacia informou ao g1 que o adolescente foi encaminhado ao órgão responsável pela custódia de menores, onde pode permanecer pelo período determinado por um juiz — geralmente de até 21 dias.
“Mais uma ‘bincadeira’ que acabou criando uma emergência na escola. Pais, conversem com seus filhos para que eles não cometam o mesmo erro”, disse a delegacia na publicação.
Como ativar proteção no celular para limitar tempo e atividade do seu filho online
ChatGPT agora permite controlar o uso por menores e avisa pais sobre conversas sensíveis; saiba como ativar
Como o Gaggle monitora estudantes e alerta sobre riscos
Adolescente na cama mexendo no celular.
Freepik
O Gaggle, tecnologia usada no caso do adolescente, escaneia contas escolares em busca de conteúdos nocivos.
Ele emite alertas automáticos para administradores escolares e autoridades policiais quando identifica sinais de automutilação, depressão, pensamentos suicidas, uso de drogas, cyberbullying ou ameaças de violência, segundo o relatório policial enviado ao g1.
Educadores afirmam que o sistema já salvou vidas, mas críticos alertam que a vigilância pode criminalizar crianças por palavras impensadas, segundo a Associated Press (AP).
“Isso tornou rotineiro o acesso e a presença das forças de segurança na vida dos estudantes — inclusive dentro de suas casas”, disse Elizabeth Laird, diretora do Center for Democracy and Technology, de acordo com a AP.
Veja mais:
TikTok recomenda conteúdo sexual e pornografia para crianças, denuncia relatório
Pais culpam ChatGPT por suicídio do filho e processam OpenAI
Mãe processa Roblox e Discord após filho de 15 anos sofrer abuso online