Google lista sites que criam imagens íntimas falsas de mulheres e crianças, diz estudo

O mecanismo de busca do Google lista sites e aplicativos que permitem “tirar a roupa” de fotos de mulheres e crianças sem consentimento, mostra estudo da FGV do Rio. O buscador também recomenda plataformas semelhantes por meio do recurso de autocompletar texto e de links adicionais.

Sites de “nudify” ou “deep nude” usam modelos de inteligência artificial generativa e técnicas de deepfake para produzir imagens sexualizadas falsas de pessoas reais, permitindo que usuários comuns criem versões manipuladas que simulam nudez ou atos sexuais.

“A indexação desses sites pelo Google amplifica exponencialmente o alcance de tecnologias de abuso, facilitando violência de gênero online e abuso infantil em escala industrial. A velocidade de disseminação exige intervenção imediata pela empresa, considerando que medidas similares já foram adotadas para o combate à distribuição de imagens de abuso sexual infantil e terrorismo”, diz Yasmin Curzi, professora da FGV do Rio que coordenou o estudo.

Em nota, o Google afirmou que “trabalha constantemente para desenvolver novas proteções na busca que ajudem pessoas afetadas por esse tipo de conteúdo, evoluindo as políticas já existentes da plataforma”.

O estudo propõe que o Google desindexe esses sites, a exemplo do que faz com sites com imagens íntimas não consensuais e de material de abuso sexual infantil.

“Tais ferramentas (nudify) são estruturalmente vocacionadas à produção de imagens íntimas não consensuais e de imagens de abuso sexual de crianças”, diz o relatório. “A indexação dessas ferramentas e sites pelo Google não apenas facilita acesso massivo a ferramentas de abuso, mas legitima sua existência ao tratá-las como conteúdo convencional.”

Os pesquisadores também recomendam a implementação de filtros algorítmicos para impedir indexação futura de sites similares e a remoção da função de “autocompletar” com sugestões para termos relacionados a “nudify”, “undress AI”, “deepnude” e variantes.

Sites e aplicativos de “nudify” potencialmente violam a Lei Geral de Proteção de Dados, por usar imagens de pessoas sem consentimento, e o artigo 21 do Marco Civil da Internet, que prevê a remoção, a partir de notificação privada, de conteúdo de nudez ou atos sexuais privados sem autorização. A jurisprudência brasileira já equipara deepfakes sexuais a imagens íntimas não consentidas.

O Google disse também em comunicado que o mecanismo de busca “conta com ferramentas simplificadas para que qualquer pessoa solicite a remoção desse tipo de conteúdo” dos resultados. “Além das remoções mediante denúncia, atualizamos continuamente nossos sistemas de ranqueamento para reduzir a visibilidade de pornografia sintética e rebaixar sites infratores.”

O relatório da FGV também mostra um aumento exponencial, detectado pelo índice do Google Trends, nas buscas pelos termos “free nudify”, “app nudify” e outros relacionados em janeiro deste ano no Brasil.

Algumas das pessoas podem estar buscando os termos para entender do que se trata. No entanto, o mecanismo sugere no autocompletar e em sites adicionais outros aplicativos semelhantes, e não apenas a definição do termo.

“O Google precisa colocar filtros e revisão humana para esse conteúdo, que é sensível; eles conseguem fazer isso facilmente com violação de direito autoral, que causa prejuízo econômico para eles”, diz Luã Cruz, coordenador de telecomunicações e direitos digitais do Idec (Instituto de Defesa de Consumidores) .

Outro estudo divulgado em janeiro nos Estados Unidos, realizado pelo Tech Transparency Project, mostrou que as lojas de aplicativo do Google (Play Store) e da Apple (App Store) disponibilizavam dezenas de aplicativos de nudify.

“Em relação à nossa loja de aplicativos, a Google Play, temos políticas robustas que proíbem aplicativos com conteúdo inapropriado, incluindo recursos que facilitem a criação de conteúdo sexual sintético. Oferecemos canais de denúncia e quando identificamos violações das políticas da Play, agimos imediatamente”, disse o Google em nota.

A nudificação via IA se disseminou a partir do ano passado com o Grok, o chatbot do X, antigo Twitter, que permite a geração dessas imagens. O aumento de casos de nudez não consentida gerado pelo Grok levou a Indonésia e a Malásia a bloquearem o acesso ao X. O Reino Unido abriu uma investigação formal sobre a criação de deepfakes sexualizados de mulheres e crianças pelo aplicativo.

Em janeiro deste ano, a Secretaria Nacional do Consumidor (Senacon), a Agência Nacional de Proteção de Dados (ANPD) e o Ministério Público Federal (MPF), recomendaram que o X adotasse uma série de medidas contra a divulgação de imagens sexualizadas de mulheres reais.

A recomendação solicitava a suspensão imediata das contas por trás da geração de imagens íntimas sem consentimento, a criação de procedimentos técnicos e operacionais para identificar e remover conteúdos sintéticos sexualizados que ainda estejam na plataforma, além de um canal de denúncias e um relatório de impacto.

Em resposta às autoridades, a empresa afirmou ter removido milhares de publicações e suspendido centenas de contas por violação às suas políticas, além de declarar a adoção de medidas de segurança. Mas, na avaliação da ANPD e dos outros órgãos, as informações apresentadas não foram acompanhadas de evidências concretas, relatórios técnicos ou mecanismos de monitoramento que permitam aferir sua efetividade.

Depois disso, Senacon e ANPD determinaram que o X implemente, de forma imediata, medidas aptas a impedir a produção, a partir do Grok, de conteúdo sexualizado ou erotizado de crianças e adolescentes e de adultos que não expressaram consentimento, além de prestação de informações sobre as providências já adotadas.

O prazo para a resposta do Grok vence no final deste mês. Em caso de descumprimento das determinações, a empresa estará sujeita a processo administrativo e multa diária, além de ação pelo crime de desobediência.

“Queremos a suspensão imediata do Grok, os consumidores estão sendo lesados todos os dias”, diz Cruz, do Idec. “Não queremos que o serviço continue no ar enquanto se aguarda a resposta da empresa. Quando há um problema com um carro ou medicamento, enquanto se aguarda a resposta, a venda dos produtos fica suspensa. O digital não tem por que ser diferente.”