O Conselho de Supervisão da Meta, conhecido informalmente como Suprema Corte do Facebook, decidiu reverter uma decisão da empresa na última quinta-feira (5). A big tech manteve no ar, por meses, um anúncio que clonava a voz e a imagem do jogador Ronaldo para divulgar um cassino online chamado Plinko.
Os conselheiros encontraram 3.900 anúncios desse jogo de azar, sendo que 3.500 continham vídeos envolvendo a identidade de outras celebridades, como o também ídolo do futebol Cristiano Ronaldo.
Na decisão, o conselho orientou que a Meta reforce a sua política de moderação de deepfakes —reprodução da aparência ou da fala de alguém por meio de inteligência artificial— aumentando a participação humana e treinando os colaboradores. Segundo os julgadores, o protocolo atual coloca os usuários em risco de levar golpes financeiros.
O vídeo, que misturava a imagem de Ronaldo com um deepfake da voz do jogador dessincronizado, seguiu no ar mesmo após receber mais de 50 denúncias. A publicação é de setembro de 2024, ficou no ar até o conselho assumir o caso já neste ano e recebeu mais de 600 mil visualizações.
Em pronunciamento, a big tech disse que “muitas das alegações do conselho são simplesmente imprecisas”. “Responderemos à recomendação completa em 60 dias, de acordo com os estatutos”, acrescentou.
O conteúdo enganoso, após ser alvo de denúncias de fraude por um usuário, recebeu apenas revisão do sistema autônomo da Meta que não encontrou violação. O usuário teve de recorrer duas vezes das decisões do conglomerado de redes sociais para reverter a decisão.
A companhia apenas submeteu o material à supervisão humana quando o caso chegou à Suprema Corte do Facebook, alegando que o vídeo parecia ser patrocinado —quando alguém paga para aumentar o alcance da publicação.
O impulsionamento do anúncio foi desativado por aplicar “práticas comerciais consideradas inaceitáveis” pela empresa, embora a publicação original tenha permanecido na plataforma. Depois, a Meta removeu o vídeo por violar a política de “fraudes, golpes e práticas enganosas”. Posteriormente, a empresa também constatou violação à política de spam.
Os cinco conselheiros responsáveis pelo julgamento avaliaram que o protocolo de moderação automatizada da big tech é insuficiente para remover publicações que fingem ser uma pessoa famosa em uma tentativa de golpe ou fraude mesmo quando houver violações flagrantes.
“A Meta provavelmente está permitindo a circulação de quantidades relevantes de conteúdo fraudulento em suas plataformas para evitar a possível aplicação excessiva de regras em um pequeno subconjunto de pronunciamentos genuínos de celebridades”, avaliou a entidade nos autos.
De acordo com o veredito, a postura da Meta é “particularmente preocupante” porque as publicações de celebridades já têm proteções adicionais e passam por verificação cruzada antes de serem removidas.
“A abordagem da Meta de apenas aplicar essa política [de revisão humana] após buscar contexto adicional por meio de escalonamento favorece a aplicação insuficiente contra conteúdos que violam as regras”, disse o Conselho de Supervisão nos autos.
No comunicado, a Meta diz que “as fraudes cresceram em escala e complexidade nos últimos anos, impulsionadas por redes criminosas transfronteiriças implacáveis”.
“Estamos testando o uso de tecnologia de reconhecimento facial, aplicando medidas agressivas contra fraudes e capacitando as pessoas a se protegerem por meio de diversas ferramentas e avisos de segurança em nossa plataforma”, completou.
