No ano passado, eu e minha esposa superamos as probabilidades da meia-idade e tivemos uma linda menina. Milhares de pessoas que me seguem no Instagram e em outros aplicativos ainda não perceberam. E não é porque eu saí de todos.
Apenas optei por não publicar fotos da minha filha nas redes sociais, uma decisão que está se tornando cada vez mais popular por causa da inteligência artificial.
Os pais têm debatido os riscos e benefícios de publicar fotos de seus filhos na internet por décadas — desde o surgimento de sites de compartilhamento de fotos. Mas quando as redes sociais foram incorporadas ao tecido da sociedade, o “sharenting” (compartilhamento de informações sobre os filhos) tornou-se a norma.
Apenas um 25% dos pais não compartilha fotos de seus filhos online devido a preocupações de que predadores online e empresas possam coletar seus dados pessoais, segundo estudos.
Mas pais como eu aderiram ao grupo dos que nunca postam por causa de uma ameaça mais recente: aplicativos que podem gerar automaticamente deepfakes de nudez com o rosto de qualquer pessoa usando inteligência artificial generativa, a tecnologia que alimenta robôs como o ChatGPT.
Os chamados aplicativos “nudificadores” são simples e baratos para qualquer pessoa usar, com alguns até oferecendo testes gratuitos. Dei uma olhada em alguns deles.
Esses aplicativos estão sendo amplamente usados por estudantes, e, para as vítimas, ter nudes gerados artificialmente circulando por aí é tão traumatizante quanto seria se as fotos fossem reais.
Embora uma nova lei federal dos Estados Unidos torne crime postar nudes falsos não consensuais online, nada impede as pessoas de usar esses aplicativos, que proliferaram na internet. Dezenas desses sites estão arrecadando milhões de dólares por ano.
Além dos deepfakes de IA, existem mais riscos na postagem de fotos —como potencialmente expor informações pessoais sensíveis de jovens a pessoas mal-intencionadas— que podem desencorajar os pais.
Para ser claro, publicar ou não fotos da família é uma escolha pessoal, então este texto não é uma condenação aos pais que postam. (Eu gosto de ver fotos dos filhos de outras pessoas nas redes sociais!) Em vez disso, que isso seja uma explicação sobre o que considerar ao postar fotos de crianças na internet.
A ASCENSÃO DOS DEEPFAKES
Nudes falsos de pessoas reais não são novidade. Por muitos anos, aplicativos de edição de fotos como o Adobe Photoshop podiam manipular fotos para criar imagens de aparência realista.
No entanto, devido à quantidade de tempo e habilidade necessários para criar falsificações convincentes, as vítimas tendiam a ser celebridades.
Os aplicativos nudificadores de IA mudaram o jogo. Os abusadores precisam apenas visitar um dos sites e carregar uma imagem de sua vítima. Os nudificadores frequentemente aceitam pagamentos com cartão de crédito ou criptomoedas em troca de tokens virtuais para produzir nudes falsos.
A publicação de deepfakes foi recentemente considerada um crime federal quando o presidente Donald Trump sancionou o Take It Down Act, um projeto de lei bipartidário combatendo a pornografia de vingança que incluía imagens de nudez não consensuais e falsificações geradas por IA.
Embora a legislação exija que os sites de redes sociais removam imagens ofensivas, ela não proíbe empresas de oferecer os próprios aplicativos geradores de imagens.
Redes sociais como Snap, TikTok e Meta proíbem a publicidade de nudificadores em seus aplicativos, e alguns estados estão começando a discutir legislação que proibiria empresas de oferecer aplicativos nudificadores. Mas se isso acontecer, a fiscalização seria difícil porque muitos dos criadores de aplicativos estão no exterior.
Em outras palavras, qualquer pessoa ainda pode facilmente usar um aplicativo nudificador em uma criança e manter as fotos, e ninguém saberia.
Um site que examinei oferecia um teste gratuito para despir digitalmente alguém em uma foto; a partir daí, os usuários podiam pagar uma assinatura de US$ 49 por mês por 600 créditos, ou US$ 0,08 por nude falso. O aplicativo também permitia aos usuários criar animações pornográficas.
Muitas pessoas estão subindo fotos nesses aplicativos nudificadores, que arrecadam aproximadamente US$ 36 milhões por ano em receita para as empresas que oferecem o software, segundo Alexios Mantzarlis, fundador da publicação de tecnologia Indicator que investigou 85 sites do tipo.
Embora novas leis possam dificultar que abusadores compartilhem deepfakes com outros, para muitas vítimas o dano já foi feito.
O que tudo isso significa para os pais é: abusadores poderiam copiar uma foto de uma criança postada em sua conta de rede social e carregá-la em um aplicativo nudificador. Ou, se estiverem fisicamente próximos, poderiam usar uma câmera para tirar uma foto da criança e depois carregá-la na ferramenta.
Não há como impedir alguém de fazer o segundo caso, mas a primeira situação pode ser evitada optando por não publicar fotos de seus filhos na internet.
CONTAS PRIVADAS SÃO UMA SOLUÇÃO IMPERFEITA
Pais que desejam compartilhar fotos de seus filhos nas redes sociais podem reduzir significativamente o risco postando as fotos apenas em uma conta que amigos próximos e familiares têm permissão para ver. Mas isso ainda tem limitações.
Os abusadores geralmente conhecem a vítima, então um seguidor do Instagram com acesso ao seu perfil poderia ser um culpado, disse Sarah Gardner, fundadora da Heat Initiative, um grupo de defesa da segurança infantil.
“Só porque você tem uma conta privada não significa que alguém que você conhece não vá pegar suas fotos e fazer algo malicioso com elas”, disse ela.
ATÉ UMA FESTA DE ANIVERSÁRIO PODE EXPOR
Além dos deepfakes de IA, ainda existem ameaças tradicionais a considerar, como o roubo de identidade.
A festa de aniversário de uma criança pode parecer um marco que vale a pena divulgar nas redes sociais, mas até esse tipo de compartilhamento aparentemente inofensivo pode expor as crianças a danos futuros.
Fotos da festa de aniversário podem revelar o dia e o ano exatos em que a criança nasceu, informações que podem ser combinadas com outros dados que hackers coletaram por meio de violações de segurança cibernética para cometer roubo de identidade, disse Leah Plunkett, autora de “Sharenthood”, um livro sobre compartilhamento de informações sobre crianças na internet.
Por mais improvável que isso possa parecer, o roubo de identidade envolvendo menores aumentou 40% de 2021 a 2024, com aproximadamente 1,1 milhão de crianças tendo suas identidades roubadas a cada ano, de acordo com a Comissão Federal de Comércio.
POR QUE FAZEMOS ISSO?
Compartilhar alguns dados faz parte do contrato social da era digital. Compartilhamos nossa localização, por exemplo, para obter direções úteis de aplicativos de mapas. Para quaisquer pais contemplando se devem postar fotos de seus filhos, é um exercício útil perguntar: quais são os benefícios?
Aplicativos de redes sociais como Instagram, Snapchat e TikTok são ferramentas convenientes para compartilhar eficientemente fotos e vídeos agradáveis com um amplo grupo de pessoas com quem nos importamos.
Mas os verdadeiros beneficiários são as próprias empresas de redes sociais, que coletam dados para melhorar seus produtos para que possam fazer com que as pessoas, incluindo nossos filhos, continuem usando seus produtos.
Existem maneiras de menor risco para compartilhar fotos de nossos filhos. Meu método preferido é enviar fotos da minha filha para alguns amigos e parentes por meio de mensagens de texto, que são criptografadas.
Alguns pais compartilham álbuns de fotos de família com um pequeno grupo de pessoas usando serviços online como o iCloud da Apple e o Google Fotos.
No final, estou ciente de que tudo isso pode ser uma batalha perdida. Muitas escolas postam crianças nas redes sociais para mostrar que seus alunos estão se divertindo. Provavelmente serei o pai desagradável exigindo que as fotos da minha filha sejam removidas.
Quando minha filha crescer, ela terá seu próprio celular e decidirá se quer postar suas fotos. Mas até esse dia chegar, farei o possível para manter as fotos dela fora da internet.
