ChatGPT afrouxa regras para conteúdo erótico e violência – 19/02/2025 – Tec

Em resposta a pedidos para o lançamento de um “modo adulto” do ChatGPT, a OpenAI afrouxou, neste mês, as regras contra pornografia e conteúdos violentos explícitos (que se enquadram na categoria “gore”, geralmente associada a sangramentos), que antes eram proibidos de forma taxativa.

No caso dos pedidos para a inteligência artificial (IA) gerar textos, áudios ou vídeos de sexo ou violência, o modelo analisará o contexto antes de responder ou recusar-se a fazê-lo. A OpenAI diz que as referências sexuais seriam apenas sugeridas, mas pessoas já publicaram nas redes sociais interações recentes com o chatbot descrevendo cenas de sexo, nomeando partes íntimas e usando expressões de conotação sexual.

O ChatGPT afirma que dará esse tipo de resposta em cenários como material de ficção, jornalismo, ciência e medicina. Ou seja, quando o usuário explicar esse contexto, o ChatGPT ativará o chamado “modo adulto” e poderá fornecer respostas “eróticas ou violentas”.

O acesso à plataforma de inteligência artificial generativa é liberado para maiores de 13 anos.

Entidades de direitos humanos alertam que o uso da tecnologia pode facilitar a difusão de materiais de pedofilia e outras práticas abusivas, como a divulgação de vídeos íntimos de ex-cônjuges (revenge porn, em inglês).

De acordo com artigo publicado no site acadêmico The Conversation, havia, em abril de 2024, mais de 50 sites gratuitos oferecendo conteúdo de sexo explícito feito com IA. Reportagem da Folha mostrou que parte desses sites não informa quais dados foram usados para treinar a inteligência artificial na produção desse conteúdo pornográfico, o que incorre no risco de reforçar padrões sobre a prática sexual.

A criação de conteúdos sexuais envolvendo menores de idade continua proibida definitivamente no ChatGPT.

A OpenAI diz que alterou as especificações do modelo para fomentar a “liberdade intelectual” dos usuários, segundo o comunicado no qual as novas orientações à IA foram divulgadas. O chatbot deve “assumir que o usuário tem as melhores intenções” e “evitar censurar assuntos que podem obscurecer certas perspectivas da vida pública”, diz o documento.

A flexibilização das normas, ainda segundo o informe, seria possível graças ao avanço no controle da ferramenta. “Estamos trabalhando para expandir os contextos de uso da ferramenta”, diz a OpenAI.

A liberalização do ChatGPT está na agenda do CEO da OpenAI, Sam Altman, desde o ano passado. Em publicação na rede social Reddit, no último mês de maio, ele escreveu que a empresa planejava trabalhar com “conteúdo NSFW”, sigla em inglês para materiais que devem ser vistos em ambientes privados, ou seja, que não deveriam ser abertos no trabalho.

O desafio, segundo Altman, era manter um equilíbrio entre o uso pessoal do material explícito e o veto à criação de pornografia infantil e deepfakes (clones feitos com IA, que com frequência colocam as vítimas em situações sexuais ou constrangedoras). Essas proibições permanecem.

“Isso não significa que queremos criar pornografia com IA”, disse uma superintendente da OpenAI em entrevista à rádio pública americana NPR. Ainda assim, ela acrescentou que as definições de pornografia são relativas. “Há casos em que a nudez e a sexualidade importam em situações criativas.”

Também no Reddit, usuários afirmam que têm conseguido descrições sexuais e violentas sem dificuldades, contanto que apresentem ou inventem um contexto.

Antes, os usuários tinham que recorrer a truques textuais, conhecidos como “jailbreaks”, para fazer o chatbot desrespeitar as regras. A americana que se apaixonou pelo ChatGPT (em caso reportado pelo New York Times), por exemplo, alertava outras usuárias para não exagerarem na intimidade com o chatbot, por causa do risco de ter a conta banida.

A mudança na OpenAI vem após outros modelos de IA, com moderação mais branda, ganharem projeção, como foi o caso do Grok, de Elon Musk, que inundou as redes sociais com deepfakes satíricas. A plataforma de Musk também é mais incisiva em análises políticas.

Sob as novas regras, o ChatGPT também ganhou mais liberdade para fazer análises políticas. Ele, por exemplo, escreve peças publicitárias em defesa de um político, desde que elas não sejam direcionadas a públicos específicos.

A alteração na política também flexibilizou as restrições do chatbot na menção a dados pessoais. O ChatGPT passou a mencionar informações disponíveis na internet (como foto, documento de identificação, dados de saúde e informações financeiras) desde que considere que se trata de pessoa pública e de dado conhecido.