A Meta permitiu que alguns de seus principais anunciantes não passassem pelo processo de moderação de conteúdo, protegendo seu negócio multibilionário em meio a preocupações internas de que os sistemas da empresa penalizavam erroneamente grandes marcas.
De acordo com documentos internos de 2023 vistos pelo Financial Times, a proprietária do Facebook, WhatsApp e Instagram introduziu uma série de “proteções” que “protegem grandes anunciantes”.
Os memorandos, que não haviam sido relatados anteriormente, indicavam que a Meta “suprimiria detecções” com base no quanto um anunciante gastava na plataforma, e que alguns dos principais seriam revisados por humanos.
Um documento sugeriu que um grupo chamado “gastadores P95” —aqueles que repassavam mais de US$ 1.500 por dia— estavam “isentos de restrições publicitárias”, mas ainda assim “eventualmente seriam enviados para revisão manual humana”.
Os memorandos antecedem o anúncio desta semana feito pelo CEO da empresa, Mark Zuckerberg, de que a Meta encerrará seu programa de checagem de fatos por terceiros nos EUA e reduzirá sua moderação automatizada de conteúdo, enquanto se prepara para o retorno de Donald Trump como presidente.
Os documentos de 2023 mostram que a Meta descobriu que seus sistemas automatizados haviam sinalizado incorretamente algumas contas de grandes anunciantes por violações das regras da empresa.
A empresa disse ao FT que os anunciantes que mais pagavam estavam desproporcionalmente sujeitos a notificações errôneas de possíveis violações. Não respondeu a perguntas sobre se alguma das medidas nos documentos era temporária ou contínua.
Ryan Daniels, porta-voz da Meta, disse que a reportagem do FT é “simplesmente imprecisa” e “baseada em uma leitura seletiva de documentos que claramente afirmam que esse esforço foi destinado a abordar algo sobre o qual temos sido muito públicos: prevenir erros na aplicação”.
A publicidade compõe a maior parte das receitas anuais da Meta, que foram quase US$ 135 bilhões (R$ 824,93 bilhões) em 2023.
A big tech normalmente examina anúncios usando uma combinação de inteligência artificial e moderadores humanos para impedir violações de seus padrões, em um esforço para remover material como fraudes ou conteúdo prejudicial.
Em um documento intitulado “prevenção de erros de grandes anunciantes”, a Meta disse que tinha sete proteções para contas comerciais que geram mais de US$ 1.200 (R$ 7.332,72) em receita em um período de 56 dias, bem como usuários individuais que gastam mais de US$ 960 (R$ 5.866,18) em publicidade no mesmo período.
O documento aponta que as proteções ajudam a empresa a “decidir se uma detecção deve prosseguir para uma aplicação” e foram projetadas para “suprimir detecções… com base em características, como nível de gasto publicitário”.
Deu como exemplo um negócio que “está no top 5% de receita”.
A Meta disse ao FT que usa o termo “gastos mais altos” como uma proteção porque isso geralmente significa que os anúncios da empresa terão maior alcance, e assim as consequências poderiam ser mais graves caso uma empresa ou seus anúncios fossem removidos erroneamente.
A empresa também reconheceu que impediu que algumas contas de grandes anunciantes fossem desativadas por seus sistemas automatizados, enviando-as para uma revisão humana, pois a Meta estaria preocupada com a precisão de seus sistemas.
No entanto, a big tech descartou protecionismo e disse que todas as empresas estão sujeitas aos mesmos procedimentos e nenhum anunciante está isento de suas regras.
No memorando “prevenção de erros de grandes gastadores”, a empresa classificou diferentes categorias de proteções como “baixa”, “média” ou “alta” em termos de se eram “defensáveis”.
Funcionários da Meta designaram a prática de ter proteções relacionadas a gastos como tendo “baixa” defensabilidade.
Outras proteções, como usar o conhecimento da confiabilidade do negócio para ajudar a decidir se uma detecção de violação de política deve ser automaticamente aplicada, foram rotuladas como “alta” defensabilidade.
A Meta disse que o termo “defensável” se referia à dificuldade de explicar a noção de proteções para as partes interessadas, caso fossem mal interpretadas.
Os documentos de 2023 não nomeiam os grandes gastadores que estavam dentro das proteções da empresa, mas a descrição de limites de valores pagos sugerem que milhares de anunciantes podem ter sido considerados isentos do processo típico de moderação.
Estimativas da empresa de inteligência de mercado Sensor Tower sugerem que entre os 10 maiores gastadores dos EUA no Facebook e Instagram estão Amazon, Procter & Gamble, Temu, Shein, Walmart, NBCUniversal e Google.
A Meta alcançou receitas recordes nos últimos trimestres e suas ações estão sendo negociadas em um nível recorde, após a recuperação da empresa de uma queda pós-pandemia no mercado global de publicidade.
Mas Zuckerberg alertou sobre ameaças ao seu negócio, desde o aumento da IA até o rival TikTok, que cresceu em popularidade entre usuários mais jovens.
Uma pessoa familiarizada com os documentos argumentou que a empresa estava “priorizando receita e lucros sobre a integridade e saúde do usuário”, acrescentando que preocupações foram levantadas internamente sobre contornar o processo padrão de moderação.
Na terça-feira (7), Zuckerberg disse que a complexidade do sistema de moderação de conteúdo da Meta havia introduzido “muitos erros e muita censura”.
Seus comentários vieram depois que Trump acusou a Meta no ano passado de censurar discursos conservadores e sugeriu que, se a empresa interferisse na eleição de 2024, Zuckerberg “passaria o resto de sua vida na prisão”.
Os documentos internos também mostram que a Meta considerou buscar outras isenções para certos anunciantes de grandes valores.
Em um memorando, funcionários da Meta propuseram “proteções mais agressivas” contra a moderação excessiva para o que chamam de “gastadores platina e ouro”, que juntos geram mais da metade da receita publicitária.
“A aplicação de integridade de falso positivo contra Anunciantes de Alto Valor custa receita à Meta [e] erode nossa credibilidade”, dizia o memorando. A sugestão seria uma opção de isenção geral para esses anunciantes de certas aplicações, exceto em “casos muito raros”.
O memorando mostra que os funcionários concluíram que anunciantes platina e ouro não eram “um segmento adequado” para uma isenção ampla, porque estima-se que 73% de suas aplicações eram justificadas, de acordo com os testes da empresa.
Os documentos internos também mostram que a Meta havia descoberto várias contas geradas por IA dentro das categorias de grandes gastadores.
A Meta já havia sido alvo de investigação por criar isenções para usuários importantes. Em 2021, Frances Haugen vazou documentos mostrando que a empresa tinha um sistema interno chamado “cross-check”, projetado para revisar conteúdo de políticos, celebridades e jornalistas para garantir que postagens não fossem removidas erroneamente.
De acordo com os documentos de Haugen, isso às vezes era usado para proteger alguns usuários da aplicação, mesmo que eles violassem as regras do Facebook, uma prática conhecida como “whitelisting”.
O conselho de supervisão da Meta —um órgão independente da empresa como se fosse a “Suprema Corte” e que recebe da empresa para supervisionar suas decisões de moderação mais —descobriu que o sistema de cross-check havia deixado conteúdo perigoso online. Exigiu uma reformulação do sistema, que a Meta desde então empreendeu.
