A rede social X (antigo Twitter), de Elon Musk, anunciou nessa quarta-feira (14) medidas para impedir que seu chatbot de inteligência artificial Grok transforme fotos de pessoas reais em imagens com caráter sexual onde isso for ilegal, após as críticas em todo o mundo pela geração desse tipo de conteúdo a partir de imagens de mulheres e menores.
A empresa disse que “bloqueará geograficamente a capacidade” de todos os usuários do Grok e do próprio X para criar imagens de pessoas em “biquínis, roupas íntimas e outras peças similares” nas jurisdições onde essas ações são consideradas ilegais.
“Implementamos medidas tecnológicas para impedir que a conta do Grok permita a edição de imagens de pessoas reais com roupas reveladoras, como biquínis”, disse a equipe de segurança do X em comunicado.
“Esta restrição se aplica a todos os usuários, incluídos os assinantes do serviço pago”, afirmou.
Na semana passada, o X havia anunciado que restringiria o acesso ao recurso para assinantes pagos, o que gerou críticas de especialistas e autoridades de que a medida não seria efetiva. No mesmo dia, o chatbot continuava gerando as imagens ilegais sexualizadas sem consentimento de usuários.
O anúncio do X ocorre depois que o procurador-geral da Califórnia, Rob Bonta, iniciou uma investigação sobre a xAI, a empresa de IA de Musk, por “facilitar a produção em larga escala de montagens íntimas não consentidas (deepfakes), utilizadas para assediar mulheres e meninas na internet, principalmente por meio da rede social X”.
“Temos tolerância zero para a criação e disseminação, com IA, de imagens íntimas não consentidas ou de material pedopornográfico”, complementou o procurador-geral. A investigação determinará “se, e como, a xAI violou a lei”.
O governador da Califórnia, Gavin Newsom, disse na quarta-feira que a “vil” decisão da xAI de permitir a proliferação de deepfakes sexualmente explícitos o levou a instar o procurador-geral a responsabilizar a empresa.
AFRONTA ÀS VÍTIMAS
Uma análise realizada na semana passada pela ONG AI Forensics sobre mais de 20 mil imagens geradas pelo Grok revelou que mais da metade retratava pessoas com pouca roupa, das quais 81% eram mulheres e 2% pareciam menores de idade.
O movimento internacional de indignação se intensificou nas últimas semanas contra o Grok e a possibilidade que ele oferece de modificar imagens, em particular as publicadas na rede social X.
Esta opção estava permitindo que os usuários criassem ‘deepfakes’ sexualizados de mulheres e menores de idade usando indicações como “coloque-a em um biquíni” ou “tire a sua roupa”.
Na semana passada, o Grok tentou se esquivar das críticas com uma nova política de monetização, anunciando no X que a geração e edição de imagens ficavam “limitadas aos assinantes do serviço pago”.
Mas esse anúncio apenas alimentou ainda mais a indignação: o gabinete do primeiro-ministro britânico Keir Starmer condenou a medida por considerá-la uma afronta às vítimas, e “não uma solução”. Por sua vez, o regulador de mídia britânico, Ofcom, disse que estava abrindo uma investigação para determinar se o X descumpriu a legislação do Reino Unido em relação às imagens sexualizadas.
Aumentando ainda mais a pressão sobre a companhia de Musk, uma coalizão de 28 organizações da sociedade civil enviou nesta quarta-feira (14) cartas abertas aos diretores-executivos da Apple e do Google, instando-os a proibir o Grok e o X em suas lojas de aplicativos diante do aumento de imagens sexualizadas.
Indonésia e Malásia bloquearam o acesso ao Grok, enquanto a Índia assinalou que o X havia eliminado milhares de publicações e centenas de contas de usuários em resposta a suas queixas.
Nesta quinta-feira, as Filipinas anunciaram que suspenderão o acesso ao Grok.
A comissária francesa para a infância, Sarah El Hairy, disse que havia remetido as imagens geradas pelo Grok à promotoria, ao regulador de mídia Arcom e à União Europeia, que pediu a paralisação total da geração desse tipo de conteúdo.
