O órgão de privacidade da União Europeia abriu uma investigação em “larga escala” sobre o X de Elon Musk por imagens sexuais geradas por IA (inteligência artificial) sem consentimento, no mais recente sinal de como reguladores estão examinando o chatbot Grok
A DPC (sigla em inglês para Comissão de Proteção de Dados da Irlanda), responsável por aplicar o GDPR (sigla em inglês para Regulamento Geral de Proteção de Dados) da UE, informou na noite desta segunda-feira (16) que abriu uma investigação sobre a criação e publicação de imagens sexualizadas “potencialmente prejudiciais” pelo Grok que continham ou envolviam o processamento de dados de usuários da UE.
O chatbot Grok está integrado aos feeds do X e foi desenvolvido pela xAI, startup de IA de Musk, que no ano passado adquiriu o X. No início deste mês, a xAI se fundiu com a SpaceX, fabricante de foguetes de Musk, criando um gigante de US$ 1,5 trilhão.
A investigação marca a mais recente de uma série de inquéritos por autoridades globais envolvendo o X, depois que milhares de deepfakes sexualizados de mulheres foram gerados usando o Grok no início de janeiro, provocando uma reação generalizada de usuários, especialistas em segurança e políticos.
“A DPC tem mantido contato com [o X] desde que surgiram as primeiras reportagens há algumas semanas sobre a suposta capacidade de usuários de solicitar à conta @Grok no X que gerasse imagens sexualizadas de pessoas reais, incluindo crianças”, disse Graham Doyle, vice-comissário da DPC, em comunicado.
Ele acrescentou que a comissão “iniciou uma investigação em larga escala que examinará a conformidade [do X] com algumas de suas obrigações fundamentais sob o GDPR em relação às questões em pauta”.
O X não respondeu imediatamente a um pedido de comentário.
Musk adotou uma abordagem de não intervenção na moderação do chatbot Grok, citando a liberdade de expressão. No ano passado, a xAI fez alterações no chatbot depois que ele elogiou Hitler e fez postagens antissemitas no X.
Os escritórios do X em Paris foram alvo de uma operação de busca por investigadores franceses e europeus no início de fevereiro, como parte de uma ampla investigação sobre os algoritmos do X, bem como a disseminação de material de abuso sexual gerado por IA. Promotores franceses convocaram Musk e Linda Yaccarino, ex-CEO do X, para “entrevistas voluntárias” em Paris em abril.
O Reino Unido também anunciou uma nova investigação sobre o X e a xAI, afirmando ter “sérias preocupações” sobre o uso de dados pessoais pelo Grok e “seu potencial para produzir conteúdo prejudicial de imagens e vídeos sexualizados”.
A UE já abriu uma investigação formal sobre a xAI pela disseminação de imagens sexualizadas de mulheres e crianças pelo Grok sob a Lei de Serviços Digitais do bloco, que exige que grandes plataformas de tecnologia mitiguem a disseminação de conteúdo ilegal e prejudicial.
Agora, a nova investigação europeia avaliará se o X violou as regras do GDPR da UE, que determinam que as empresas garantam que os dados pessoais dos usuários sejam processados apenas para fins legais específicos, considerem a privacidade durante o desenvolvimento de produtos e elaborem avaliações de risco antes do lançamento de recursos de alto risco, por exemplo.
Após pressão de governos ao redor do mundo, incluindo ameaças de multas e proibições na UE, Reino Unido e França, o X implementou “medidas tecnológicas” para limitar o Grok de gerar certas imagens explícitas. No entanto, a empresa insistiu que remove material de abuso sexual infantil e material de nudez não consensual.
Em resposta às buscas na França, o X disse em uma postagem que as alegações eram “infundadas” e que “nega categoricamente qualquer irregularidade”. Chamou a operação de “ato abusivo de teatro de aplicação da lei projetado para alcançar objetivos políticos ilegítimos”, acrescentando que a investigação “distorce a lei francesa, contorna o devido processo legal e coloca em risco a liberdade de expressão”.
