O algoritmo de Inteligência Artificial da Amazon que não gosta de mulheres
A Amazon tem tentado automatizar a caça ao talento com soluções de IA. Descobriu-se agora que um dos motores usados discriminava as candidaturas de mulhers
Pelos menos cinco fontes confirmaram que a Amazon está a desenvolver uma solução de IA para recrutamento e que em 2015 teve de a deixar de usar por ter descoberto que discriminava as candidaturas de mulheres. «Todos querem este Santo Graal. Querem literalmente que seja um motor onde coloquemos 100 currículos e de onde saem os cinco melhores, que acabamos por contratar», disse uma das fontes à Reuters.
O sistema da Amazon analisava os CV e atribuía-lhes uma pontuação de 0 a 5. Neste caso, uma vez que foi alimentado com os currículos recebidos nos dez anos anteriores, predominantemente de homens, passou a considerar que as candidaturas masculinas eram melhores do que as femininas. Assim, expressões como “mulher” ou “feminino” no currículo fazia com que estes CV tivessem classificações inferiores.
Apesar de a Amazon ter calibrado o programa para ser neutro em relação a estas expressões, não havia garantia de que as máquinas não tivessem outras formas de discriminação. A equipa que estava a fazer este desenvolvimento foi desmantelada no início deste ano e os recrutadores nunca se guiaram apenas no feedback do algoritmo, embora tenham aceite as suas indicações.
A Amazon defende que desenvolveu este software, que agora já não o está a fazer e que os «recrutadores nunca o usaram para avaliar candidatos».
Goldman Sachs e Hilton estão entre alguns dos grandes grupos que pretendem automatizar a caça ao talento. No entanto, o professor de Carnegie Mellon Nihar Shah defende que ainda há muito a fazer: «como garantir que o algoritmo é justo, como garantir que o algoritmo consegue ser interpretado e explicado – ainda estamos bastante longe».
Relacionados
-
As cabras preferem caras sorridentes
Um estudo realizado com 20 cabras revela uma preferência por caras risonhas colocadas ao lado direito. Será que só os animais domésticos é que distinguem os humores dos humanos
-
Energia eólica vai liderar na Europa em 2027
O diretor executivo da Agência Internacional de Energia prevê que, em 2027, o vento seja a maior fonte de energia na Europa, passando de 10% hoje para os 23% daqui a uma década.
-
Líder da ESA com extensão de dois anos no cargo
Jan Woerner devia terminar o seu mandato de quatro anos à frente da Agência Espacial Europeia, mas vai ter uma extensão de dois anos, o que lhe irá permitir assegurar a continuidade dos projetos em curso.
-
Avaria mecânica deixa Hubble em “modo de segurança”
Um dos seis giroscópios do Hubble avariou e deixou o Telescópio em modo de segurança. O plano dos investigadores e responsáveis pela missão é recuperar um dos outros, que também já tinham avariado.
-
Noruega quer digitalizar e disponibilizar online tudo o que já foi publicado no país
Os responsáveis da Biblioteca Nacional da Noruega têm o plano ambicioso de digitalizar e colocar online todos os livros, jornais, revistas, posters, fotos, filmes, transmissões de rádio e sites registados no domínio nacional .no. O arquivo cresce entre 5 e 10 TB por dia.
Comentários