Além de Grok, ChatGPT também tira roupa de pessoas sem consentimento

O ChatGPT atende a pedidos para editar fotos e retirar as roupas sem consentimento da pessoa fotografada, assim como faz o Grok, que passou a chamar a atenção de autoridades na Ásia e na Europa desde o início do ano por estar despindo mulheres e menores de idade.

A plataforma da OpenAI trocou as roupas de pessoas por trajes de banho em testes feitos pela Folha. Foram usadas imagens do repórter e personagens feitos por IA no experimento, para evitar a exposição de terceiros. O ChatGPT só retirou as vestimentas, enquanto o Grok transformou o repórter em uma mulher e o exibiu em uma dança sensual, sem que houvesse instrução para isso.

No Brasil, é crime manipular, produzir ou divulgar conteúdo de nudez ou ato sexual falso gerado por inteligência artificial ou outros meios tecnológicos. O crime pode ser punido com reclusão de dois a seis anos, além de multa. A pena é majorada se a vítima for mulher, criança, adolescente, pessoa idosa ou com deficiência.

A OpenAI diz que bloqueia solicitações de geração de imagem que possam violar suas regras e que infrações recorrentes podem levar a perda da conta. Porém, a empresa disse que atualizou seu algoritmo recentemente para lidar com “sistemas excessivamente restritivos”.

“Por exemplo, havia bloqueios de representações de amamentação ou adultos usando trajes de banho em contextos não sexualizados”, diz a empresa em nota. Ela também afirmou que aplica proteções para o uso não consensual de imagens, sem comentar os exemplos enviados pela reportagem.

A xAI, por outro lado, disse que implementou medidas para evitar a edição de imagens reais de pessoas, que envolvessem “roupas reveladoras como biquinis”, após ameaças de punições das autoridades.

O ChatGPT, diferentemente do Grok, não divulga as imagens que gera em uma rede social, de forma que todos possam ver. Isso, de acordo com especialistas em segurança da informação, torna mais difícil medir a quantidade de imagens íntimas geradas pelo chatbot da OpenAI.

Mesmo que não exista nudez completa, a geração de imagens em roupa de banho se enquadra no entendimento jurídico de divulgação de fotos íntimas, diz a diretora de pesquisa do InternetLab Clarice Tavares. “Além da violação do consentimento dessas pessoas, nos casos em que temos visto [no Grok], existe uma intencionalidade de sexualização.”

Em decisão de 2020, o STJ (Superior Tribunal de Justiça) julgou culpado um homem que divulgou fotos de sua ex-namorada em roupas de banho. “Mesmo que não fosse um caso de nudez total, houve uma intenção de vingança na divulgação daquelas fotos íntimas”, afirma Tavares.

O cientista da computação argentino Marcelo Rinesi, que participou dos primeiros testes do Dall-E, o modelo predecessor ao ChatGPT Images, lembra que o risco de que o modelo gerasse pornografia não consentida era uma das principais preocupações da OpenAI.

“Essa é uma das regras básicas de segurança e privacidade em qualquer tecnologia, desde a fotografia. O que é específico dessa tecnologia é a capacidade de gerar uma imagem erótica de uma pessoa qualquer apenas com uma foto e quase sem custo”, afirma Rinesi.

De acordo com o CEO da OpenAI, Sam Altman, a empresa escolheu mudar suas diretrizes por causa de reclamações de usuários sobre a aplicação muito estrita das normas. As mudanças, disse ele dias antes da mudança, visaram “garantir liberdade intelectual”.

A geração de imagens íntimas sem consentimento teve uma explosão neste ano, quando usuários do X perceberam que era possível usar o Grok com esse objetivo. Entre os dias 5 e 6 de janeiro, a IA de Musk, que publica na rede social por meio da conta @Grok, gerou 6.700 imagens por hora que foram identificadas como sexualmente sugestivas ou de nudez, de acordo com uma análise divulgada pela Bloomberg feita por Genevieve Oh, uma pesquisadora independente de redes sociais.

Os outros cinco principais sites dedicados à geração de imagens com IA tiveram uma média de 79 novas imagens de nudez por IA por hora em um período de 24 horas.

Enquanto o Grok, por escolha de seus desenvolvedores, não impunha limites aos usuários, o ChatGPT apresenta algumas salvaguardas. Porém, é possível driblá-las com alterações no comando. A Folha não vai explicar como fez isso para evitar a reprodução da prática.

Em sites de fórum, como o Reddit, pessoas compartilham informações de como gerar imagens sexualizadas em plataformas de IA como o Grok, o ChatGPT, e o Gemini do Google. A revista especializada Wired encontrou páginas com dicas de como usar os modelos para despir mulheres reais.

Após o contato da revista, o Reddit retirou esses tópicos do ar, afirmando que eles infringiram suas regras.

Outros concorrentes como Gemini, do Google, e Meta AI, da Meta, não geraram roupas de pessoas reais em biquinis.

COMO PROTEGER SEUS DADOS

A empresa de cibersegurança Eset afirma que é preciso redobrar o cuidado com quais imagens são tornadas públicas, por meio, por exemplo, de publicação em redes sociais. Desde que ferramentas como o Grok, o ChatGPT e o Gemini, do Google, receberam a habilidade de editar fotos, qualquer um com poucas instruções em português básico pode tirar uma imagem de contexto.