Segundo especialista da Certsys, o comportamento dos algoritmos diz muito sobre quem os programou, e muito mais sobre a sociedade em que vivemos, com suas discriminações e desigualdades arraigadas
De tempos em tempos reaviva-se um debate que, apesar do barulho causado, quase nunca se aprofunda dentro da esfera pública. Essa discussão gira em torno da responsabilidade social e das estruturas sociais que impactam diretamente no desenvolvimento e programação de algoritmos, que também aparecem diariamente via redes sociais, contato com grandes empresas, como bancos, e em toda nossa jornada na Web.
Embora muitos sejam os casos que geraram polêmica, o mais recente ocorreu na rede social Twitter. Muitos usuários verificaram que o algoritmo da rede centralizava a prévia das imagens postadas em pessoas brancas, e nunca negras. Diversas foram as tentativas para que o algoritmo centralizasse a foto na timeline em um rosto de homem ou mulher de cor negra, mas a ferramenta sempre “desviava” o foco das imagens. A descoberta levantou questionamentos, e a explicação foi encontrada no banco de imagens utilizado para a programação dos algoritmos (em geral com pessoas apenas brancas) e também no perfil dos programadores em questão.
“Esse comportamento dos algoritmos diz muito sobre quem os programou, e muito mais sobre a sociedade em que vivemos, com seus preconceitos e desigualdades estruturais arraigados. A evolução rápida do desenvolvimento dessas tecnologias não acompanha os debates correntes na sociedade. Podemos dizer que a introdução da ética é um movimento a posteriori. Quando, em processos modernos e saudáveis, a toda tecnologia corresponde uma ética desde o seu início”, sinaliza César Souza, um dos líderes técnicos em Algoritmo na Certsys.
De acordo com ele, este tipo de situação escancara também uma falha estrutural inerente ao próprio nicho de TI, onde “estão ainda muito incipientes os debates que levaram ao avanço da questão humanitária e identitária na sociedade contemporânea”. Atitudes como as de “robôs racistas” vão de encontro a uma mudança institucional que é tendência no mercado, relativa à busca por maior diversidade em espaços corporativos e em todos os níveis de trabalho.
Visto que os processos mediados por Inteligência Artificial ainda não estão em um estágio de geração de conteúdo próprio, estes são alimentados com dados prévios. “É fato que toda informação carrega um viés, uma tendência. Essa tendência vai se replicar para o sistema que foi treinado. Em um cenário em que há dados, mas não informações sobre eles, a catalogação se torna outro problema. Neste caso, o problema não é o dado, mas quem está catalogando”, pondera Souza.
Comportamento induzido
Dependendo de quem e de como se classifica esse dado, prossegue o especialista, esse sistema eletrônico será induzido a um determinado tipo de comportamento. “Quando surgem temáticas sobre reconhecimento facial, triagem de currículo, sempre se reverbera uma polêmica atrelada, porque ainda nenhum desses sistemas consegue garantir que não será enviesado”, continua ele.
Em outros termos, o meio, a informação e os diversos fatores sociais nos quais estamos inseridos afetam a nossa percepção de diversas questões. A IA carrega a estruturalidade dos preconceitos arraigados na nossa sociedade. “Existe pouco diálogo na Academia, no setor de TI e entre os movimentos sociais. É um meio que é um reflexo muito grande da nossa sociedade, e falta acolhimento dentro da área. Tivemos um passo grande tecnologicamente falando, e agora temos que voltar alguns passos para adequar isso a uma ética”, observa.
Ainda de acordo com o especialista, dentro do setor de TI, novos grupos surgem para debater este tipo de questão e alinhar o ambiente de tecnologia às temáticas latentes em outras áreas. “É um assunto delicado para as empresas, porque mexe com a imagem delas. Falta uma interdisciplinaridade maior entre as áreas. Alguns currículos de universidades do exterior já incluem certas disciplinas que apontam para esse caminho. É necessário apresentar para quem está saindo da universidade esse outro lado da figura tecnológica”, finaliza César Souza.