No início do ano, um relatório da Anistia Internacional denunciou como racista um sistema preditivo usado pela polícia britânica, afirmando que os dados que o sustentam baseiam-se em práticas estabelecidas de abordagem e revista que visam desproporcionalmente pessoas negras.
O documento, intitulado “Racismo Autom atizado”, está longe de ser o primeiro a apontar esse grave problema. No Brasil, pesquisadores como Nina da Hora, Silvana Bahia e Tarcízio Silva alertam há anos sobre o perigo de ferramentas e aplicações de inteligência artificial amplificarem vieses e preconceitos, já que tais tecnologias se alimentam de um histórico social com práticas racistas e colonialistas estruturalmente enraizadas.
Sem dúvida, enfrentar esses desafios requer avanços regulatórios. A intenção antirracista não deve estar só nas atitudes e valores a partir dos quais cada um de nós interage com as ferramentas tecnológicas, mas também incorporada na própria construção das ferramentas.
Imagens estereotipadas ou excludentes geradas por IA são apenas a parte mais visível do problema. Mas sistemas inteligentes também atuam de forma invisível em muitas aplicações cotidianas, como as que personalizam nossos feeds de redes sociais, fornecem serviços de segurança por reconhecimento facial ou determinam acesso a crédito —e tudo isso pode estar contaminado por uma lógica racista e excludente.
Enquanto isso, novos desafios já se anunciam. Hoje é possível, por exemplo, usar IA para desenvolver novas aplicações usando apenas comandos em linguagem natural, sem necessidade de escrever um código do zero. A inovação tem nome e foi escolhida pelo Dicionário Collins como a palavra do ano: “vibe coding”. Segundo o dicionário, este é um termo que captura algo fundamental sobre nossa relação em constante evolução com a tecnologia.
“Basicamente, é dizer a uma máquina o que você quer, em vez de programá-la manualmente em um processo trabalhoso. Enquanto especialistas em tecnologia debatem se isso é revolucionário ou imprudente, o termo repercutiu muito além do Vale do Silício, refletindo uma mudança cultural mais ampla em direção à presença da IA em tudo no cotidiano”.
Esse processo reduz barreiras e permite que indivíduos com diferentes níveis de conhecimento criem sistemas complexos. A consequência imediata é uma expansão massiva de aplicações de IA em setores antes pouco automatizados e sua integração em quase todos os domínios da vida social.
Se, por um lado, isso democratiza o processo de inovação, também acarreta novos desafios. Sistemas construídos de forma altamente intuitiva podem ser mais opacos, difíceis de auditar e potencialmente desalinhados com normas éticas e regulatórias e com os desejados valores de justiça social.
Precisamos urgentemente refletir sobre quais são as estruturas de governança, o alcance da educação crítica e os mecanismos de supervisão necessários para acompanhar essa integração acelerada da IA no dia a dia. Como já ensinou Silvana Bahia no livro “Pode um robô ser racista” (2023), “trazer as questões raciais, sociais, éticas, de gênero, de humanidades para as tecnologias, ou seja, entender a política e o impacto que as tecnologias têm, é uma questão urgente para hoje, com consequências para o futuro”
