Exatamente por tentar imitar o comportamento humano, a Inteligência Artificial atua com falhas que impactam no tema Diversidade e Inclusão, com a possibilidade de perpetuar preconceitos e acentuar desigualdades por conta dos vieses que ela carrega
Katya Hemelrijk (*)
Mesmo com tantas transformações que a Inteligência Artificial (IA) já trouxe ao nosso cotidiano, vale reforçar que os algoritmos que tentam imitar e se aproximar cada vez mais do comportamento humano trazem consigo vieses de uma sociedade que ainda exclui pessoas por suas características como deficiências, raça, gênero etc.
Exatamente por tentar imitar o comportamento humano, ela atua com falhas que impactam no tema Diversidade e Inclusão, com a possibilidade de perpetuar preconceitos e acentuar desigualdades por conta dos vieses que ela carrega. Eu comprovei isso testando vários sites de IA, um exercício que eu proponho a quem esteja atuando como aliado da diversidade.
Constantemente faço perguntas sobre o tema e pedi informações sobre um estudo da condição econômica e social da pessoa com deficiência. A IA me trouxe os dados, mas respondia a mim como se eu fosse um homem. Ao questioná-la sobre o porquê de me tratar assim, sendo que sou uma mulher, ela se desculpou justificando que esse tipo de pergunta, geralmente, é de interesse masculino.
Com relação às informações e imagens de pessoas com deficiência, tudo chega pela Inteligência Artificial em tom assistencialista, sem muitos dados macroeconômicos.
Testei uma IA que faz busca de imagens com elementos que a gente abastece. Pedi uma charge de um contexto urbano de pessoas com diversas deficiências e diversos marcadores sociais. Em segundos ela me apresentou uma ilustração com várias pessoas, todas brancas e cadeirantes. Solicitei também uma imagem que retrate a diversidade em uma grande empresa em 2023 e o resultado é um retrato sem ninguém da diversidade. Somente pessoas brancas e jovens.
Pedi então uma imagem que retratasse colaboradores de uma grande empresa em 2050. O resultado foi uma ilustração com pessoas brancas, negras, homens e mulheres, aparentemente mais sêniores, porém nenhuma pessoa com deficiência. Tem robô como funcionário, mas não tem pessoa com deficiência. Esse é o time do futuro para a IA. Quantos anos serão necessários para a Inteligência Artificial considerar a representatividade da sociedade no mundo corporativo?
IA já nasce excludente
A IA é a repetição dos nossos comportamentos, e comprovadamente ela já nasce excludente porque ainda não aprendeu a ser diversa. Quem está ensinando essa tecnologia é o ser humano falho e ainda muito enviesado, com informações e dados equivocados que busca na Internet.
Outra tentativa foi pedir à Inteligência Artificial que trouxesse imagens de pessoas com deficiência em ambiente corporativo misturadas com outros marcadores sociais e o resultado foi muito impactante. Além de trazer pessoas com deficiência “fake”, o chamado “cripface” – uso de imagens que distorcem a realidade da pessoa com deficiência -, a IA trouxe (pasmem!) um homem em uma cadeira de rodas de hospital, que não é igual às utilizadas pelas pessoas cadeirantes de fato, e fazendo um gesto com as mãos que imita um tiro em sua própria cabeça.
A IA ainda precisa entender como evitar preconceitos e estereótipos que são reproduzidos em bancos de imagens, quase sem representatividade real dos marcadores sociais, com imagens “fakes” e estereotipadas.
O mesmo para os processos de recrutamento e seleção. Quantos vieses trazem os algoritmos e o que a Inteligência Artificial entende quando interpreta um currículo de uma pessoa com deficiência concorrendo a uma vaga de trabalho? Também é preciso mudar a cultura e falar de inclusão da diversidade com quem está programando e alimentando a IA.
O fato é que ao humanizar as máquinas estamos passando para elas não apenas as boas qualidades, mas aprendizados que ainda estamos tendo como sociedade. A inclusão deveria ser natural do ser humano, mas infelizmente ainda não é.
(*) CEO da Talento Incluir Consultoria, que conta com soluções focadas nos pilares de DE&I Conscientização, Contratação, Carreira, Acessibilidade e Consultoria Estratégica para a inclusão de pessoas com deficiência.