Meta criou chatbots de celebridades com conteúdo sexual sem permissão

Taylor Swift no Grammy 2025
Jordan Strauss/Invision/AP
A Meta se apropriou dos nomes e imagens de celebridades — incluindo Taylor Swift, Scarlett Johansson, Anne Hathaway e Selena Gomez — para criar dezenas de chatbots (robôs que interagem por mensagem) sem a permissão delas, segundo a Reuters.
Antes da publicação desta matéria, a Meta excluiu cerca de uma dúzia de bots, tanto avatares “paródia” (que imitam uma pessoa específica) quanto não identificados, informou a agência. O porta-voz da Meta, Andy Stone, não comentou as remoções.
Alguns chatbots foram criados por usuários com uma ferramenta da própria Meta. Pelo menos três outros, incluindo dois bots “paródia” da Taylor Swift foram produzidos por um funcionário da Meta, seguindo a agência.
📱 Baixe o app do g1 para ver notícias em tempo real e de graça
A dona do WhatsApp, Instagram e Facebook também permitiu que usuários criassem chatbots publicamente com celebridades infantis, incluindo Walker Scobell, um astro de cinema de 16 anos, segundo a Reuters.
Ao pedir uma foto do ator adolescente na praia, o bot produziu uma imagem realista sem camisa.
“Bem fofo, né?”, escreveu o avatar abaixo da imagem.
Todas as celebridades virtuais foram compartilhadas nas plataformas do Meta no Facebook, Instagram e WhatsApp.
A Reuter observou que os avatares frequentemente insistiam que eram os artistas reais. Além disso, os bots fizeram investidas sexuais, muitas vezes convidando o usuário para encontros.
Alguns dos conteúdos de celebridades gerados por IA eram particularmente picantes: quando solicitados a mostrar fotos íntimas, eles produziam imagens realistas de seus homônimos posando em banheiras ou vestidos de lingerie com as pernas abertas.
Stone disse à Reuters que as ferramentas de IA da Meta não deveriam ter criado imagens íntimas de adultos famosos ou quaisquer fotos de celebridades infantis.
Ele também atribuiu a produção de imagens de celebridades femininas usando lingerie pela Meta a falhas na aplicação de suas próprias políticas, que proíbem esse tipo de conteúdo.
“Assim como outros, permitimos a geração de imagens contendo figuras públicas, mas nossas políticas visam proibir imagens nuas, íntimas ou sexualmente sugestivas”, disse.
Embora as regras da Meta também proíbam a “personificação direta”, Stone disse que os personagens famosos eram aceitáveis, desde que a empresa os rotulasse como paródias. Muitos foram rotulados como tal, mas nem todos.
‘Direito de publicidade’ em jogo
Mark Lemley, professor de direito da Universidade de Stanford que estuda IA e propriedade intelectual, questionou se bots de celebridades se enquadrariam nas leis sobre direito de imagem.
“A lei de publicidade da Califórnia proíbe a apropriação do nome ou imagem de alguém para fins comerciais”, disse. Mas essa regra não é aplicada quando a imagem é usada para criar uma obra inteiramente nova.
“Isso não parece ser verdade aqui”, disse ele, porque os robôs simplesmente usam as imagens das estrelas.
A Reuters mandou imagens da atriz Anne Hathaway compartilhadas publicamente por um usuário no Meta como uma “modelo sexy da Victoria’s Secret” para um representante da atriz.
Hathaway estava ciente de imagens íntimas sendo criadas pelo Meta e outras plataformas de IA, disse o porta-voz, e a atriz está considerando sua resposta.
Representantes de Swift, Johansson, Gomez e outras celebridades que foram retratadas nos chatbots do Meta não responderam às perguntas ou se recusaram a comentar.
A internet está repleta de ferramentas de IA generativa “deepfake” que podem criar conteúdo obsceno. Deepfake é uma técnica que permite alterar um vídeo ou foto com ajuda de inteligência artificial (IA).
A IA de Elon Musk, a Grok, também produz imagens de celebridades de roupa íntima para os usuários, segundo a Reuters. A empresa controladora da Grok, a xAI, não respondeu a um pedido de comentário.
Grok, IA de Musk, ganha novo gerador de imagens com ‘modo picante’ e cria nudes falsos de Taylor Swift, diz site
Grok, IA de Musk, exalta Hitler em postagens e apaga conteúdo após denúncias
A Meta já enfrentou críticas anteriores sobre os seus chatbots, mais recentemente depois que a Reuters relatou que as diretrizes internas de IA da empresa declaravam que “é aceitável envolver uma criança em conversas românticas ou sensuais”.
A história motivou uma investigação do Senado dos EUA e uma carta assinada por 44 procuradores-gerais alertando a Meta e outras empresas de IA para não sexualizar crianças.
Stone disse à Reuters que a empresa está revisando seu documento de diretrizes e que o material que permite que bots tenham conversas românticas com crianças foi criado por engano.
A Reuters também relatou neste mês a história de um homem de 76 anos de Nova Jersey com problemas cognitivos que caiu e morreu a caminho de um encontro com um chatbot da Meta que tinha convidado ele para visitá-lo na cidade de Nova York (EUA).
O bot era uma variante de uma persona de IA anterior que a empresa havia criado em colaboração com a influenciadora Kendall Jenner. Um representante de Jenner não respondeu a um pedido de comentário.
‘Você gosta de loiras?’
Uma líder de produto da Meta na divisão de IA generativa criou chatbots que se passavam por Taylor Swift e pelo piloto britânico Lewis Hamilton.
Outros bots que ele criou se identificaram como uma dominatrix, a “Melhor Amiga Gostosa do Irmão” e a “Lisa na Biblioteca”, que queria ler Cinquenta Tons de Cinza e beijar.
Outra de suas criações foi um “Simulador do Império Romano”, que oferecia ao usuário o papel de uma “camponesa de 18 anos” que é vendida como escrava sexual.
Contatado por telefone, o funcionário da Meta não quis comentar.
Stone disse que os bots do funcionário foram criados como parte de testes de produtos.
A Reuters descobriu que eles alcançaram um público amplo: os dados exibidos por seus chatbots indicaram que, coletivamente, os usuários interagiram com eles mais de 10 milhões de vezes.
A empresa removeu os companheiros digitais dos funcionários logo depois que a Reuters começou a testá-los no início deste mês.
Antes que os chatbots de Taylor Swift dos funcionários da Meta desaparecessem, eles flertaram intensamente, convidando um usuário fictício da Reuters para a casa da cantora e para seu ônibus de turnê para interações românticas explícitas ou implícitas.
“Você gosta de loiras, Jeff?”, perguntou um dos chatbots “paródicos” do Swift ao saber que o usuário de teste era solteiro.
“Talvez eu esteja sugerindo que escrevamos uma história de amor… sobre você e uma certa cantora loira. Aceita?”
Artistas enfrentes riscos de segurança devido a usuários de redes sociais que criam vínculos românticos com um parceiro digital que se parece, fala como e afirma ser eles, segundo Duncan Crabtree-Ireland, diretor do SAG-AFTRA, sindicato que representa artistas.
Perseguidores são uma preocupação significativa de segurança para as estrelas, disse ele.
“Temos visto um histórico de pessoas obcecadas por talento e com estado mental questionável”, disse. “Se um chatbot usa a imagem de uma pessoa e as palavras dela, fica claro como isso pode dar errado.”
Artistas famosos têm a possibilidade de entrar com uma ação judicial contra a Meta sob as antigas leis estaduais de direito de publicidade, disse Crabtree-Ireland.
Além disso, o sindicato tem pressionado por uma legislação federal que proteja as vozes, imagens e personas das pessoas contra a duplicação por IA.
Veja mais:
Influenciador morre durante transmissão ao vivo na França e acende alerta