Racismo algorítmico: o que é e como pode se expressar nas organizações

Atualmente, 41% das empresas brasileiras utilizam a inteligência artificial em algum de seus setores. Esse é um reflexo do avanço da tecnologia digital, que tem impactado diversos aspectos da sociedade. Apesar disso, essas tecnologias não necessariamente são neutras e cada vez mais casos de racismo algorítmico têm sido apontados.

Com a popularização dessas ferramentas em diferentes áreas, especialmente no RH, o tema merece atenção especial das organizações. O recrutamento já é um momento de vulnerabilidade para grupos minorizados e não podemos utilizar tecnologias que reproduzam violências. 

Então, para garantir que os processos sejam mais justos, os impactos da IA e outras plataformas devem ser medidos e monitorados.

Neste artigo, discutiremos o que é o racismo algorítmico e como ele está presente em empresas. Vamos abordar a importância de equipes diversas e como algumas ferramentas podem reproduzir vieses que afetam grupos minorizados. Continue a leitura para descobrir. 

Para começar, é preciso primeiro compreender o que é um algoritmo. Criados por programadores ou desenvolvedores, eles compõem códigos com instruções para uma plataforma tecnológica. A ideia é que suas ações visem resolver algum problema. 

Em tese, seus procedimentos devem ser padronizados, objetivos e não ambíguos. Mas nem sempre essa objetividade se concretiza. Os algoritmos podem refletir e reforçar os preconceitos presentes na sociedade, incluindo o racismo. 

Portanto, o racismo algorítmico se refere a como essas tecnologias podem reproduzir discriminações. 

Para o pesquisador Tarcízio Silva , as tecnologias digitais fortalecem opressões, especialmente em sociedades desiguais. Isso acontece porque a construção dessa tecnologia é feita dentro um contexto social no qual as desigualdades estão presentes. Ou seja, a programação dos algoritmos não seria neutra, estando conectada ao pensamento atual de uma sociedade. 

Isso faz com que a tecnologia tome decisões arbitrárias e desiguais. Um exemplo é o software utilizado para avaliar réus norte-americanos . A ferramenta costumava tomar decisões favoráveis para os réus brancos e desfavoráveis para os negros. 

Ao utilizar as tecnologias no âmbito empresarial, essas disparidades também podem acontecer. Portanto, é preciso avaliar suas aplicações e quais têm sido seus resultados.

Compreender como esses algoritmos são criados é o primeiro passo para desvendar o problema. Atualmente, a maioria dos profissionais de tecnologia são homens e brancos. Segundo uma pesquisa da Firjan , no Brasil, 6 em cada 10 profissionais da área são homens brancos.

O cenário também se repete internacionalmente. A soma do total de profissionais negros nas empresas de tecnologia norte-americanas é de 9%. Ou seja, a população negra ainda é minoria para pensar e desenvolver essas ferramentas. Isso facilita para que os algoritmos desenvolvidos por essas empresas sejam treinados de forma enviesada.

Ainda assim, as empresas de TI desempenham um papel fundamental em combater o racismo algorítmico e outras formas de discriminação reproduzidas pela tecnologia.

É essencial que as empresas do ramo criem programas de diversidade , valorizando e incentivando a inclusão em suas equipes. A implementação de diferentes perspectivas é uma saída para que os efeitos do racismo algorítmico diminuam. 

Além disso, é muito importante ouvir o que pesquisadores especialistas no assunto estão dizendo. A cientista da computação Nina Da Hora , por exemplo, tornou-se uma referência no assunto e denuncia com frequência as disparidades reproduzidas pela tecnologia.

Após compreender como o racismo algorítmico se constitui e qual é o papel das empresas de tecnologia, é preciso pensar seus impactos no RH. 

Hoje, a maior parte das empresas utiliza algum tipo de ferramenta para agilizar o recrutamento. Em geral, essas plataformas utilizam algoritmos e IA para filtrar os candidatos. O uso dessas tecnologias pode reduzir em até 73% o tempo médio de triagem nos processos seletivos. 

Ainda que facilitem muito o trabalho do profissional de RH, é preciso prestar atenção em seus usos. Pois essas ferramentas podem ser prejudiciais e impor novas barreiras. 

A pesquisadora Cathy O’Neil aponta que essas ferramentas são treinadas para buscar padrões históricos de sucesso. Ou seja, reproduzem o que a sociedade considera como boas conquistas. Aspectos como estudar em grandes universidades ou estágios em grandes empresas são super valorizados. Isso prejudica a entrada de profissionais de grupos minoritários , que possuem menos oportunidades. 

Esse cenário causa inseguranças nos candidatos. Ele cria um distanciamento, fazendo com que alguns grupos já considerem que não serão aceitos nos processos seletivos. Além disso, o viés presente nessas ferramentas pode levar à exclusão de candidatos talentosos com base em características raciais. 

Tudo isso acaba perpetuando a desigualdade no acesso a oportunidades de emprego. É fundamental que as organizações revisem e ajustem o uso das ferramentas. Esse cuidado é necessário para que a diversidade continue crescendo nas organizações.

É preciso adotar uma abordagem consciente em relação ao desenvolvimento e aplicação de algoritmos. Para a professora Fernanda Carreira , é necessário compreender que a tecnologia não é objetiva. Ela possui vieses que direcionam suas decisões.

Para diminuir esse impacto, a implementação de práticas de governança de dados é uma saída. Os dados utilizados para treinar os algoritmos devem ser representativos e livres de preconceitos.

No âmbito do RH, é essencial utilizar a tecnologia como ajudante, não como decisora final. É verdade que tanto as pessoas quanto as tecnologias possuem vieses inconscientes . Por isso, um profissional sempre deve avaliar as decisões tomadas pelo algoritmo.

Ao aceitar os apontamentos das plataformas sem questionar, os profissionais de RH podem validar decisões prejudiciais. Tomar como verdade absoluta as decisões dos algoritmos prejudicada os candidatos e as empresas. 

Para os que buscam oportunidades, burlar o algoritmo acaba se tornando um novo desafio. Já para as organizações, esse pode ser um empecilho para as ações de diversidade. 

Isso não significa que a tecnologia deve ser abandonada. É necessário encontrar um equilíbrio entre o uso desses recursos e a atuação humana.

Assim, as empresas que assumiram o compromisso de fortalecer a diversidade devem estar atentas a essas questões. O caminho para que os esforços sejam realmente efetivos passa pela revisão de todos os processos.

Se você pretende ampliar a diversidade na sua organização, conheça o trabalho da Singuê .

O conteúdo Racismo algorítmico: o que é e como pode se expressar nas organizações aparece primeiro em Singuê.