A fraude de desemprego é um problema real, e o software tendencioso apenas o exacerba. Os estados precisam de alternativas que mantenham a confidencialidade.
Salve este artigo
Salve este artigo
Banco de dados de AI →
Nas condições em que a economia dos EUA está apenas começando a se recuperar após o Kovid-19, e milhões de pessoas ainda estão sem trabalho, o Congresso permitiu expandir os benefícios de desemprego que complementam os programas de assistência estatal. É louvável apoiar os americanos durante a crise, mas jogadores sem escrúpulos transformaram fraude com benefícios de desemprego em um problema sério. Infelizmente, muitos estados que buscam interromper a fraude por meio de vigilância estabelecem sistemas tendenciosos que podem causar muito mais mal do que benefícios. É previsível que esses sistemas cometam erros e, quando são cometidos, punirem principalmente os americanos bipoc, travessuras e gênero não inferior de gênero.
Vint e-uma equipe recorreu a serviços de alta tecnologia para verificar identificadores biométricos que usam visão computacional para determinar se as pessoas que são emitidas para si são. Essa é a mesma tecnologia que permite aos usuários desbloquear o telefone usando o rosto – o processo de coincidência um a um, quando o software determina se os recursos do seu rosto coincidem com aqueles que são armazenados em um único modelo. Mas se, para dispositivos de consumo, uma verificação de pessoa for comum, para serviços públicos, é relativamente raro. Então deve ser.
Opinion Wired
Sobre o site
Albert Fox Kan (@foxcahn) é o fundador e diretor executivo do Projeto de Supervisão de Tecnologia de Observação (STOP), o grupo de Nova York para a proteção dos direitos civis e privacidade, bem como um pesquisador convidado na Escola de Direito de Yale no Escola de Direito de Yale. Evan Selinger (@evanselinger) é professor de filosofia no Rochester Institute of Technology.
Você pode assumir que a verificação da pessoa é inofensiva porque as disputas que não diminuem estão relacionadas principalmente ao reconhecimento de pessoas. A polícia usa o reconhecimento de pessoas quando compara a imagem do suspeito com o banco de dados que contém fotobots ou fotografias de uma carteira de motorista, onde o algoritmo está tentando encontrar uma coincidência. Contando com a tecnologia de reconhecimento das pessoas, a polícia prendeu ilegalmente pelo menos três homens negros e, provavelmente, há muito mais.
Mas a verificação da pessoa também pode ser tendenciosa. Quando os erros surgem, e eles já estavam na Califórnia, eles histórica e desproporcionalmente preocupam grupos demográficos de gênero e racial. Nos programas de fraude com benefícios, a dependência do governo da verificação da pessoa cria um risco aumentado de que as declarações de cor, transgêneros e candidatos nã o-guerreiras sejam considerados um atraso ou até mesmo rejeitados. Tais resultados podem levar ao fato de que será difícil para você manter luz ou teto sobre sua cabeça. Pior ainda, as agências policiais podem interrogar de maneira irracional pessoas vulneráveis, porque os algoritmos tendenciosos são céticos em relação à sua personalidade. Essa interação pode levar a uma prisão ilegal, perseguição judicial e promessas estatais para aqueles que não fizeram nada além de simplesmente não passaram no teste algorítmico imperfeito.
É triste que os órgãos estatais criem condições para perpetuar a injustiça dos algoritmos. Quando um sistema automatizado de dados integrados foi inserido em Michigan em 2013, essa iniciativa foi caracterizada como be m-sucedida, uma vez que o número de casos de fraude de desemprego aumentou cinco vezes e 65 milhões de dólares foram recebidos na forma de novas multas e taxas. Como se viu, o software não era confiável. O sistema notou por isso dezenas de milhares de moradores de Michigand, e as pessoas carimbaram decisões automáticas, o que levou à falência e às consequências ainda mais sérias.
O crescimento da dependência de smartphones, como o ID. ME, também aumenta as taxas de desigualdade digital. Muitos americanos com baixa renda e idosos correm o risco de serem privados de acesso aos serviços públicos mais importantes simplesmente porque não têm um telefone com uma câmera e um navegador da web.
