Os algoritmos podem exacerbar a discriminação no emprego. É hora da Comissão Federal de Comércio dos EUA regulamentá-los.
Salve esta história
Salve esta história
No início deste mês, Lina Khan, presidente da Comissão Federal de Comércio dos EUA (FTC), escreveu um ensaio no The New York Times reafirmando o compromisso da agência em regulamentar a inteligência artificial. No entanto, Khan não mencionou uma área da IA que a FTC precisa regulamentar urgentemente: sistemas automatizados de contratação. Sua sofisticação varia de ferramentas que simplesmente analisam currículos e os classificam, até sistemas que dão luz verde aos candidatos e eliminam aqueles considerados inadequados. Cada vez mais, os trabalhadores americanos são forçados a usá-los se quiserem ser contratados.
Cortesia de Alice Marwick
Você pode comprar este livro no site:
Se você comprar algo por meio de links em nossos artigos, poderemos ganhar uma comissão. Isso ajuda a apoiar nosso jornalismo. Mais detalhes
No meu livro recente, The Quantified Worker, defendo que o trabalhador americano está a ser reduzido a números pelas tecnologias de inteligência artificial no local de trabalho, entre as quais se destacam os sistemas de contratação automatizados. Estes sistemas reduzem os candidatos a uma pontuação ou classificação, muitas vezes ignorando a forma da sua experiência humana. Às vezes, eles até classificam as pessoas por raça, idade e sexo, práticas proibidas por lei nas decisões de contratação.
Ironicamente, muitos destes sistemas são considerados livres de preconceitos ou garantidos para reduzir a probabilidade de contratações discriminatórias. Mas devido à fraca regulamentação, foi demonstrado que tais sistemas negam oportunidades iguais de emprego em categorias protegidas, como raça, idade, género e deficiência. Por exemplo, em dezembro de 2022, o Sindicato das Mulheres Caminhoneiras processou a Meta, alegando que o Facebook “exibe seletivamente anúncios de emprego com base no sexo e na idade dos usuários, sendo os trabalhadores mais velhos muito menos propensos a ver anúncios e as mulheres menos propensas a ver anúncios de emprego azuis”. “empregos de colarinho”, especialmente em indústrias onde as mulheres têm sido historicamente excluídas. Isto é enganoso. Além disso, é injusto tanto para quem procura emprego como para os empregadores. Os empregadores estão a adquirir sistemas de contratação automatizados para reduzir a sua responsabilidade pela discriminação no emprego, e os fornecedores destes sistemas são obrigados por lei a fundamentar as suas reivindicações de eficiência e justiça.
A lei classifica os sistemas de contratação de pessoal automatizado para a competência da FTC, mas a agência ainda não emitiu recomendações específicas sobre como os vendedores desses sistemas devem anunciar seus produtos. Primeiro, você precisa exigir uma auditoria para garantir que os sistemas de contratação automatizados cumpram as promessas que eles dão aos empregadores. Os fornecedores dessas plataformas devem ser necessários para fornecer relatórios claros sobre verificações de auditoria, demonstrando que seus sistemas reduzem o viés nas decisões de tomada de decisão, como é anunciado. Durante a auditoria, dev e-se provar que, ao criar as plataformas, os desenvolvedores seguiram as recomendações da Comissão para obter capacidades iguais no campo do emprego (EEOC).
Além disso, em cooperação com a EEOC FTC, poderia estabelecer um sinal de “contratação automatizada justa”, que será usada para confirmar que os sistemas de contratação automatizados passaram um processo de auditoria estrita. Esse sinal servirá como um sinal de qualidade útil para os consumidores – candidatos e empregadores.
O FTK também deve permitir que os candidatos que sejam consumidores de sistemas de aplicativos o n-line com inteligência artificial, arquivem uma ação judicial de acordo com a Lei Federal sobre Relatórios de Crédito (FCRA). Acreditav a-se anteriormente que a FCRA se aplica apenas às “grandes agências de crédito de três”, mas a leitura atenta mostra que essa lei pode ser aplicada em qualquer caso quando o relatório foi criado para tomar qualquer “decisão econômica”. De acordo com essa definição, os perfis de candidatos criados por plataformas automatizadas de contratação o n-line são “Relatórios de Consumidores”, o que significa que as organizações que as criam (por exemplo, plataformas o n-line de contratação o n-line são consideradas agências de relatórios de crédito. Segundo a FCRA, qualquer pessoa aplicada a um desses relatórios pode entrar em contato com a agência que a criou para se familiarizar com os resultados e as correções ou adições de demanda. A maioria dos consumidores não sabe que eles têm esses direitos. A FTC deve iniciar uma campanha educacional para informar os candidatos sobre esses direitos para que possam us á-los.
