A ANPD (Agência Nacional de Proteção de Dados), o MPF (Ministério Público Federal) e a Senacon (Secretaria Nacional do Consumidor do Ministério da Justiça e Segurança Pública) recomendaram, nesta terça-feira (18), que o X, antigo Twitter, adote uma série de medidas contra a divulgação de imagens sexualizadas de mulheres reais criadas com IA (inteligência artificial).
O documento solicita, entre outras ações, a suspensão imediata das contas por trás da geração de imagens íntimas sem consentimento.
As autoridades brasileiras receberam uma série de denúncias de entidades da sociedade civil, incluindo a SaferNet e o Idec (Instituto de Defesa de Consumidores), e da deputada federal Erika Hilton (Psol-SP) de que o Grok, um modelo de IA que responde a pedidos feitos no X, estaria despindo mulheres e menores de idade sem consentimento. Tanto o Grok quanto o X são de responsabilidade da xAI, uma empresa controlada por Elon Musk.
O governo pede ainda que o X crie, no prazo máximo de 30 dias, procedimentos técnicos e operacionais para identificar e remover conteúdos sintéticos sexualizados que ainda estejam na plataforma, além de um canal de denúncias e um relatório de impacto.
A xAI disse, na última quarta-feira (14), que implementou medidas para evitar a edição de imagens reais de pessoas que envolvessem “roupas reveladoras como biquinis”, após ameaças de punições das autoridades.
As autoridades brasileiras dizem que consideram outras medidas, caso as recomendações não sejam acatadas, ou sejam implementadas de modo insuficiente para mitigar os riscos identificados. Multas e suspensão estão na lista de punições ao dispor do governo.
A crescente de casos de nudez não consentida gerada pelo Grok levou a Indonésia e a Malásia a bloquearem o acesso ao X. O Reino Unido abriu uma investigação formal sobre a criação de deepfakes sexualizados de mulheres e crianças pelo chatbot.
Mesmo que não exista nudez completa, até a geração de imagens em roupa de banho se enquadra no entendimento jurídico de divulgação de fotos íntimas, diz a diretora de pesquisa do InternetLab Clarice Tavares. “Além da violação do consentimento dessas pessoas, nos casos em que temos visto [no Grok], existe uma intencionalidade de sexualização.”
Em decisão de 2020, o STJ (Superior Tribunal de Justiça) julgou culpado um homem que divulgou fotos de sua ex-namorada em roupas de banho. “Mesmo que não fosse um caso de nudez total, houve uma intenção de vingança na divulgação daquelas fotos íntimas”, afirma Tavares.
A geração de imagens íntimas sem consentimento teve uma explosão neste ano, quando usuários do X perceberam que era possível usar o Grok com esse objetivo. Entre os dias 5 e 6 de janeiro, a IA de Musk, que publica na rede social por meio da conta @Grok, gerou 6.700 imagens por hora que foram identificadas como sexualmente sugestivas ou de nudez, de acordo com uma análise divulgada pela Bloomberg feita por Genevieve Oh, uma pesquisadora independente de redes sociais.
Os outros cinco principais sites dedicados à geração de imagens com IA tiveram uma média de 79 novas imagens de nudez por IA por hora em um período de 24 horas.
Para o Idec, que provocou as autoridades, a resposta das autoridades representa mais um capítulo na história de omissão fiscalizatória brasileira. “A mera expedição de recomendações, sem qualquer medida cautelar ou suspensão, é uma licença para que as violações continuem enquanto a burocracia se arrasta. É como enviar uma carta educada a um incêndio florestal.”
