Há muitos anos, o LinkedIn descobriu que os algoritmos de recomendação que usa para combinar candidatos com oportunidades de emprego estavam a produzir resultados tendenciosos. Os algoritmos classificavam os candidatos em parte com base na probabilidade de se candidatarem a uma posição ou de responderem a um recrutador. O sistema acabou por encaminhar mais homens do que mulheres para os cargos disponíveis simplesmente porque os homens costumam ser mais agressivos na busca de novas oportunidades.
O LinkedIn descobriu o problema e construiu outro programa de IA para neutralizar a parcialidade nos resultados do primeiro. Enquanto isso, alguns dos maiores sites de busca de empregos do mundo — incluindo CareerBuilder, ZipRecruiter e Monster — estão a adotar abordagens muito diferentes para lidar com o preconceito nas suas próprias plataformas, um dos assuntos discutidos num episódio recente do podcast MIT Technology Review Brasil “Algoritmos de recrutamento precisam de revisão?“. No entanto, uma vez que essas plataformas não divulgam exatamente como os seus sistemas funcionam, é difícil para quem procura emprego saber a eficácia de qualquer uma dessas medidas na prevenção da discriminação.
Se começasse a procurar um novo emprego hoje, a Inteligência Artificial provavelmente influenciará a sua busca. A IA pode determinar quais publicações vê nas plataformas de busca de empregos e decidir se deve encaminhar o seu currículo para os recrutadores de uma empresa. Alguns podem pedir que jogue videojogos com tecnologia de IA que medem os seus traços de personalidade e avaliam se seria adequado para funções específicas.
Cada vez mais empresas estão a usar IA para recrutar e contratar novos funcionários, e a IA pode estar presente em quase qualquer estágio do processo de contratação. A Covid-19 gerou uma nova procura por essas tecnologias. Tanto a Curious Thing quanto a HireVue, empresas especializadas em entrevistas com inteligência artificial, relataram um aumento nos negócios durante a pandemia.
A maioria das buscas de emprego, porém, começa com uma simples pesquisa. Os candidatos a emprego recorrem a plataformas como LinkedIn, Monster ou ZipRecruiter, onde podem fazer upload de currículos, procurar ofertas de emprego e se candidatar a vagas.
O objetivo desses sites é combinar candidatos qualificados com as vagas disponíveis. Para organizar todas essas vagas e candidatos, muitas plataformas empregam algoritmos de recomendação baseados em IA. Os algoritmos, às vezes chamados de mecanismos de correspondência, processam informações do candidato a emprego e do empregador para selecionar uma lista de recomendações para cada um.
“Costuma ouvir a história de que um recrutador passa seis segundos a olhar o seu currículo, certo?” diz Derek Kan, vice-presidente de gestão de produtos da Monster. “Quando olhamos para o mecanismo de recomendação que criamos, pode reduzir esse tempo para milissegundos”.
A maioria dos mecanismos de combinação são otimizados para gerar candidaturas às vagas, diz John Jersin, ex-vice-presidente de gestão de produtos do LinkedIn. Esses sistemas baseiam as suas recomendações em três categorias de dados: informações que o utilizador fornece diretamente à plataforma; dados atribuídos ao utilizador com base em outros com conjuntos de habilidades, experiências e interesses semelhantes; e dados comportamentais, como a frequência com que um utilizador responde a mensagens ou interage com anúncios de emprego.
No caso do LinkedIn, esses algoritmos excluem o nome, idade, sexo e raça de uma pessoa, porque incluir essas características pode contribuir para a parcialidade em processos automatizados. Mas a equipa de Jersin descobriu que, mesmo assim, os algoritmos do serviço ainda podiam detectar padrões de comportamento exibidos por grupos com identidades de género específicas.
Por exemplo, enquanto os homens são mais propensos a se candidatar a empregos que exigem experiência de trabalho além das suas qualificações, as mulheres tendem a apenas procurar empregos em que as suas qualificações correspondam aos requisitos da posição. O algoritmo interpreta essa variação de comportamento e ajusta as suas recomendações de uma forma que, inadvertidamente, prejudica as mulheres.
“Por exemplo, pode acabar recomendando mais cargos seniores para um grupo de pessoas do que para outro, mesmo que possuam o mesmo nível de qualificação”, diz Jersin. “Essas pessoas podem não ter as mesmas oportunidades. E, realmente, é desse impacto que estamos a falar.”
Os homens também apresentam mais habilidades nos seus currículos, com um grau de proficiência menor do que as mulheres, e costumam se envolver de forma mais agressiva com os recrutadores na plataforma.
Para resolver esses problemas, Jersin e sua equipa no LinkedIn criaram uma nova IA projetada para produzir resultados mais representativos e a implantaram em 2018. Era, essencialmente, um algoritmo separado projetado para neutralizar recomendações direcionadas a um grupo específico. A nova IA garante que, antes de encaminhar as correspondências curadas pelo mecanismo original, o sistema de recomendação inclua uma distribuição de gênero uniforme dos usuários.
Kan diz que a Monster, que possui cerca de 5 a 6 milhões de anúncios de emprego, também incorpora dados comportamentais em suas recomendações, mas não corrige o preconceito da mesma forma que o LinkedIn faz. Em vez disso, a equipa de marketing concentra-se em fazer com que utilizadores de origens diversas se inscrevam no serviço, e a empresa então conta com os empregadores para relatar à Monster se ela repassou ou não um conjunto representativo de candidatos.
Irina Novoselsky, CEO da CareerBuilder, diz que está focada em usar os dados que o serviço recolha para ensinar os empregadores a eliminar a parcialidade dos seus anúncios de vagas de emprego. Por exemplo, “quando um candidato lê a descrição de um cargo com a palavra ‘rockstar’, uma percentagem menor de mulheres candidata-se”, diz ela.
Ian Siegel, CEO e cofundador da ZipRecruiter, diz que os algoritmos da empresa não levam em consideração certas características de identificação, como nomes, ao classificar os candidatos; em vez disso, classificam as pessoas com base em outros 64 tipos de informações, incluindo dados geográficos. Diz que a empresa não discute os detalhes de seus algoritmos, citando questões de propriedade intelectual, mas acrescenta: “Acredito que estejamos tão perto de avaliar as pessoas baseado no seu mérito quanto é possível no momento”.
Com a automação em cada etapa do processo de contratação, os candidatos devem agora aprender como se destacar tanto para o algoritmo quanto para os gerentes de contratação. Mas sem informações claras sobre o que esses algoritmos fazem, os candidatos enfrentam desafios significativos.
“Creio que as pessoas subestimam o impacto dos algoritmos e dos mecanismos de recomendação nas tarefas”, diz Kan. “A maneira como se apresenta é provavelmente lida por milhares de máquinas e servidores primeiro, antes mesmo de chegar ao olho humano”.
MIT Technology Review