Mundo A Amazon abandonou um robô recrutador que virou machista
Por Redação O Sul | 11 de outubro de 2018
A Amazon parou de utilizar uma inteligência artificial criada pela companhia para encontrar bons candidatos a vagas de emprego após perceber que a ferramenta exibia um comportamento discriminatório contra mulheres. Criada em 2014, a IA era a esperança da empresa para automatizar o processo de seleção de currículos, mas foi abandonada no início deste ano.
De acordo com cinco pessoas ouvidas pela agência de notícias Reuters, essa falha foi percebida após cerca de um ano de desenvolvimento. Enquanto analisavam os dados com as decisões tomadas pela IA, os funcionários perceberam que ela dava notas mais baixas para currículos que continham a palavra ‘mulher’. Em um dos casos, a ferramenta julgou como algo negativo uma candidata ter sido capitã de um clube de xadrez para mulheres.
A Amazon até tentou criar um filtro para ensinar à IA que a palavra ‘mulher’ não é um termo negativo, mas não conseguiu garantir a eficiência desse método. De acordo com a empresa, os responsáveis pelas contratações olhavam as listas de recomendações geradas pelo programa. No entanto, ela afirma que eles não se baseavam apenas nessas informações para decidir quem seria contratado.
Segundo as fontes ouvidas pela agência, isso aconteceu porque a máquina utilizou como base as contratações feitas durante os últimos dez anos para aprender padrões que pudessem indicar quem seriam os melhores funcionários. Como a tecnologia ainda é uma área dominada por homens, esse treinamento levou a IA a reproduzir o mesmo comportamento machista que a empresava esperava evitar ao transferir essas responsabilidades para um programa.
A ferramenta experimental de contratação da empresa utilizou inteligência artificial para dar aos candidatos a emprego na companhia pontuações que variam de uma a cinco estrelas – da mesma forma que os compradores avaliam produtos na Amazon, disseram algumas pessoas.
“Todo mundo queria esse santo graal”, disse uma das fontes. “Eles literalmente queriam que fosse um motor onde eu lhe daria 100 currículos e ele cuspiria os cinco primeiros e nós os contrataríamos.”
Essa não era a única falha da inteligência artificial da Amazon. Ela também passou a ignorar informações importantes para os cargos, como as habilidades dos candidatos em diversas linguagens de programação, e a favorecer currículos com as palavras “executar” e “capturar”, disse uma das fontes. A partir de certo momento, pessoas completamente desqualificadas para os trabalhos começaram a ser recomendadas aleatoriamente pelo programa.
Depois de aproximadamente 500 iterações desenvolvidas, os executivos da empresa perceberam que o projeto não chegava a lugar e nenhum e encerraram os trabalhos da equipe. A Amazon ainda aproveitou alguns dados do projeto e atualmente utiliza uma versão simplificada da IA para encontrar candidatos duplicados em bases de dados de currículos. Após o fracasso, um novo time foi formado para criar ferramentas de contratação com foco em promover a diversidade.
Deixe seu comentário
Últimas
Rio Grande do Sul Acidente na BR 285 em Passo Fundo: colisão lateral entre duas carretas resulta em morte
Rio Grande do Sul Governo gaúcho e Grupo Nordex, da Alemanha, formalizam intenção de investimentos em energia eólica
