Se você perguntar a um chatbot se ele pode ser racista, a resposta será “sim”. A inteligência artificial aprende com grande volume de dados, e esse aprendizado reflete padrões e desigualdades existentes na sociedade. Daí a expressão “racismo algorítmico”.
Apesar de reconhecer o problema, uma IA generativa qualquer não está livre de reproduzir vieses e estereótipos. Como seria possível, então, usar essa tecnologia a favor da promoção da igualdade racial?
“Muitos professores e educadores têm dificuldade de trazer o letramento racial para a prática”, diz Luana Génot, 36, fundadora do ID_BR (Instituto Identidades do Brasil) e uma das vozes do país na luta antirracista. “Daí nasce a Deb, do desejo de democratizar esse processo.”
Deb, para quem não conhece, é a inteligência artificial que confrontou Xuxa na televisão. A apresentadora perguntou se, sendo uma mulher branca, poderia dizer que gostaria de ter nascido negra. Pediu para a Deb pegar leve. “Não é que você não pode, mas talvez não deva falar isso sem uma ressalva sobre todo o contexto de uma vivência feminina negra”, respondeu o robô.
A ferramenta, criada pelo ID_BR em 2024, está disponível ao público no Instagram (@chamaadeb) e por meio de aplicativos para instituições e empresas, e é um dos braços do trabalho de Luana, que aposta na educação e na empregabilidade para um país mais igualitário.
“Nesses quase dez anos de instituto, vi um número muito limitado de empresas que têm letramento racial constante. E vi também que existe muita gente que quer aprender, mas tem medo de expor suas dúvidas e acabar ‘cancelada'”, diz Luana, vencedora na categoria Inteligência artificial do Prêmio Todas 2 Folha/Alandar de Lideranças Femininas em Tecnologia.
Para evitar que a Deb reproduza os mesmos vieses de outras inteligências artificias generalistas, Luana e sua equipe municiaram e seguem atualizando o chatbot com conteúdo direcionado –artigos, livros, estudos e bancos de dados públicos que versam sobre questões raciais, sociais, climáticas e de gênero.
A expectativa, agora, é levar a Deb para educadores da rede pública, para que a ferramenta contribua com a efetiva aplicação das leis 10.639/2003 e 11.645/2008, que tornaram obrigatório o ensino de história e cultura afro-brasileira e indígena nas escolas do país.
“A lei é um aparato muito importante, mas você precisa tirar do papel, né? Não só quando tem um episódio como o de George Floyd”, diz Luana, lembrando o assassinato do homem negro durante abordagem policial nos Estados Unidos, em 2020, que gerou uma onda global de protestos contra o racismo.
Nesses quase dez anos de instituto, vi um número limitado de empresas que têm letramento racial constante. E vi também que existe muita gente que quer aprender, mas tem medo de expor suas dúvidas e acabar ‘cancelada’
A carreira da publicitária que se especializou em raça, etnia e mídia pela Universidade de Wisconsin-Madison (EUA) e que atuou como voluntária na campanha para reeleição de Barack Obama, em 2012, ganhou outro caminho em 2016, quando ela fundou o Instituto Identidades do Brasil.
“Eu estava ali, com fome de ver uma liderança feminina negra ou indígena no mercado de trabalho, e não encontrei”, conta. “Aquilo foi o gancho para começar a entender o mercado e compreender por que nossas identidades influenciam as possibilidades que teremos.”
Antes de se formar, Luana trabalhou como modelo e traçou uma carreia internacional. Até ouvir de um agente que era bonita, “mas negra”.
“O ID_BR nasce como uma instituição sem fins lucrativos porque foi a forma que encontrei de viabilizar essa discussão [sobre igualdade racial] sem um capital financeiro enorme.”
Além de CEO do instituto, a carioca é integrante do Conselho de Desenvolvimento Econômico e Social da Presidência da República, autora indicada ao prêmio Jabuti em 2020 por “Sim à Igualdade Racial: Raça e Mercado de Trabalho”, colunista, mãe de Alice e de Hugo. Mas seu foco segue o mesmo: mover estruturas.
“Acho que o maior legado em quase dez anos de trabalho foi fazer a Faria Lima colocar a mão no bolso”, diz. Principal centro financeiro do país, a avenida paulistana concentra potenciais sócios e parceiros para a luta antirracista, diz Luana. Gente que pode investir, empregar e escalar o letramento racial nas empresas.
“Mas não toda a Faria Lima [está comprometida], só uma parte dela. Falta alçar essa pauta de forma sistêmica a todo o empresariado e a toda a gestão escolar do Brasil.”
