A UE (União Europeia) está analisando de forma “muito séria” o Grok de Elon Musk depois que o chatbot com inteligência artificial gerou imagens sexualizadas de pessoas, incluindo menores, na plataforma de mídia social X (Ex-Twitter).
“Estamos cientes do fato de que o X ou Grok está agora oferecendo um ‘Modo Picante’ com conteúdo sexual explícito, que, em alguns casos, envolve imagens infantis”, disse o porta-voz da comissão Thomas Regnier em uma coletiva de imprensa nesta segunda-feira (5), referindo-se a uma configuração que o Grok estreou no ano passado que gera o material sugestivo. “Isso não é picante. Isso é ilegal.”
Usuários do X têm solicitado ao Grok para remover digitalmente roupas de fotos —frequentemente de mulheres— para que os sujeitos parecessem estar vestindo apenas roupas íntimas ou biquínis. A proliferação dessas imagens na rede social alarmou reguladores e defensores da segurança online em todo o mundo, com autoridades indianas, britânicas e francesas entre aquelas que condenam as publicações.
A xAI, que administra o X e o Grok, não respondeu a um pedido de comentário. Musk disse em uma publicação no X no domingo (4) que a plataforma tem adotado medidas contra material ilegal, como remoção de conteúdo, suspenção de contas e contato com autoridades quando necessário. “Qualquer pessoa que use o Grok para fazer conteúdo ilegal sofrerá as mesmas consequências como se tivessem carregado conteúdo ilegal”, disse ele na publicação.
Enquanto a maioria dos modelos de IA convencionais proíbe imagens e vídeos sexuais, a xAI posicionou o Grok como mais permissivo. O sistema permite representações de nudez parcial adulta e imagens sexualmente sugestivas, mesmo proibindo pornografia explícita envolvendo a imagem de pessoas reais e conteúdo sexual envolvendo menores.
Em alguns países, incluindo os EUA e o Reino Unido, é ilegal publicar deepfakes íntimos gerados por IA de pessoas sem seu consentimento. Aplicar essas distinções que existem entre os países é um teste crítico dos sistemas de segurança incorporados em ferramentas de IA geradoras de imagens.
A aparente falha da xAI em implementar barreiras eficazes atraiu condenação de reguladores em todo o mundo.
O regulador de mídia do Reino Unido, Ofcom, disse nesta segunda que estava ciente das “sérias problemáticas” sobre os recursos do Grok e havia feito “contato urgente com X e xAI para entender quais medidas eles tomaram para cumprir seus deveres legais de proteger usuários no Reino Unido.”
O governo francês acusou o Grok na sexta-feira (2) de gerar conteúdo sexual “claramente ilegal” no X sem o consentimento das pessoas e sinalizou o assunto como potencialmente violando a Lei de Serviços Digitais da UE. A regulamentação exige que grandes plataformas mitiguem o risco de propagação de conteúdo ilegal.
O ministério de Eletrônica e Tecnologia da Informação da Índia exigiu uma revisão abrangente dos recursos de segurança do Grok, e autoridades malaias disseram que estão investigando o assunto após reclamações sobre a produção “indecente” do Grok.
O X de Musk já era objeto de uma investigação sob a DSA da UE e em dezembro foi multado em 120 milhões de euros (US$ 140 milhões) por falhas de conformidade —a primeira penalidade sob a controversa lei de moderação de conteúdo. O foco do bloco em empresas de tecnologia americanas como o X atraiu intensas críticas do governo do presidente dos EUA, Donald Trump, que argumentou que os reguladores europeus estão censurando a liberdade de expressão.
