Quando Jess Smith carregou uma foto sua em um gerador de imagens por IA (inteligência artificial) no verão, ela não esperava passar por um experimento social.
A ex-nadadora paralímpica australiana queria incrementar seu retrato e carregou uma foto sua de corpo inteiro. E avisou especificamente a ferramenta que faltava uma parte do seu braço esquerdo, abaixo do cotovelo.
Mas o ChatGPT não conseguia criar a imagem que ela pedia. E, apesar de diversos pedidos, os resultados foram praticamente os mesmos: uma mulher com dois braços ou com um dispositivo metálico, representando uma prótese.
Smith perguntou à IA por que era tão difícil criar a imagem que ela pediu. A resposta foi que não havia dados suficientes para trabalhar.
“Foi uma percepção importante para mim que, é claro, a IA é um reflexo do mundo em que vivemos hoje e do nível de desigualdade e discriminação existente”, afirma ela.
Até o início de outubro, Smith não conseguia criar uma imagem de si própria. Mas, depois que a BBC perguntou ao ChatGPT o motivo da dificuldade, ela tentou novamente e conseguiu.
Smith ficou surpresa ao descobrir que, agora, o chatbot consegue produzir um retrato preciso de uma mulher com um só braço, como ela.
“Oh, meu Deus, funcionou, é incrível que ele tenha sido finalmente atualizado”, conta ela à BBC. “É um grande avanço.”
Talvez não pareça grande coisa, mas este é um ponto importante para milhões de pessoas com deficiência.
“A representação na tecnologia significa não ser visto apenas como uma reflexão tardia, mas como parte do mundo que está sendo construído”, afirma Smith.
“A IA está evoluindo e, quando ela evoluir com base na inclusão, todos nós nos beneficiaremos. É mais do que um progresso tecnológico, é um progresso da humanidade.”
Um porta-voz da OpenAI, responsável pelo ChatGPT, declarou que, recentemente, a empresa “fez melhorias significativas” do seu modelo de geração de imagens.
“Sabemos que os desafios permanecem, particularmente em termos de representação justa, e estamos trabalhando ativamente para melhorar isso, incluindo o refinamento dos nossos métodos pós-treinamento e acrescentando novos exemplos com diversidade, para ajudar a reduzir o viés ao longo do tempo”, informou a empresa.
Embora a IA, agora, reconheça a deficiência de Smith, Naomi Bowman ainda vivencia um problema similar.
Ela só tem visão de um olho e pediu ao ChatGPT para omitir o fundo de uma fotografia. A IA fez a alteração, mas também “mudou completamente o meu rosto e igualou meus olhos”.
“Mesmo quando expliquei especificamente que eu tenho uma condição em um dos olhos e pedi que ele deixasse meu rosto sem alteração, ele não conseguiu editar a foto”, ela conta.
Inicialmente, Bowman achou engraçado, mas, agora, ela fica triste, “pois mostra o preconceito inerente na IA”.
Ela pede que os modelos sejam “treinados e testados rigorosamente para reduzir o preconceito da IA e garantir que os conjuntos de dados sejam suficientemente abrangentes para que todos sejam representados e tratados de forma justa”.
Algumas pessoas preocupadas com o impacto ambiental da IA também já criticaram a criação de imagens no ChatGPT.
REPRESENTAÇÃO CULTURAL
Os especialistas afirmam que o preconceito na IA, muitas vezes, reflete os mesmos pontos cegos existentes na sociedade como um todo, não apenas as deficiências mal representadas.
Abran Maldonado é CEO (diretor-executivo) da Create Labs, uma empresa americana criadora de sistemas de IA culturalmente conscientes. Ele afirma que a diversidade na IA começa nas pessoas envolvidas no treinamento e na marcação dos dados.
“É questão de quem está na sala onde os dados estão sendo construídos”, explica ele. “Você precisa de representação cultural na etapa de criação.”
Nem tudo é representado corretamente na internet. Maldonado destaca que, se as pessoas que vivenciaram as experiências não forem consultadas, a IA sairá perdendo.
Um exemplo conhecido é um estudo do governo americano em 2019, que concluiu que os algoritmos de reconhecimento facial identificam rostos asiáticos e afroamericanos com muito menos precisão, em comparação com caucasianos.
CONVERSAS DESCONFORTÁVEIS
Mesmo vivendo com um só braço, Jess Smith não se considera deficiente. Ela afirma que as barreiras que ela enfrenta são sociais.
“Se eu usar um banheiro público e precisar manter a torneira abaixada, isso prejudica minha capacidade, não porque não posso fazer, mas porque o designer não pensou em mim”, ela conta.
Smith acredita que existe o risco de que a mesma omissão ocorra no mundo da IA, onde os sistemas e espaços são construídos sem considerar a todos.
Quando Smith compartilhou sua experiência original no LinkedIn, alguém enviou a ela uma mensagem para dizer que seu aplicativo de IA criou uma imagem de uma mulher com um braço só.
“Tentei criar e aconteceu o mesmo, não consegui gerar a imagem”, ela conta.
Ela informou a pessoa, mas nunca recebeu resposta. Isso ocorre com frequência nas conversas sobre deficiências, segundo Smith.
“A conversa é muito constrangedora, desconfortável e as pessoas se afastam.”
Texto originalmente publicado aqui.
