Estou preocupado com o fato de as agências policiais estarem cada vez mais usando robôs para neutralizar ameaças, observação e captura de reféns. Talvez eu apenas assistisse ao Robocop com muita frequência, mas apreensão com máquinas cautelosamente que tomam decisões importantes em relação à vida e à morte, especialmente considerando a frequência com que as pessoas reais abusam de seus poderes. Tenho alguma obrigação moral de obedecer à policial robô?
Hollywood não é muito otimista sobre os robôs que mantêm posições principais. Robokop “é apenas um dos exemplos de um amplo cânone científico e fantástico, que capturou em nossas mentes as trágicas conseqüências da transferência de tarefas criticamente importantes por máquinas inflexíveis – robôs, cujas principais diretrizes são realizadas com literalidade, que podem levar à morte Isso pode explodir uma pessoa até a morte, mas divertido a escada é clara. O significado desses filmes é claro: as máquinas rígidas não são capazes de soluções improvisadas e nuances morais, que são tantas vezes exigidas nos momentos de crise.
Talvez tenha sido esse estereótipo que forçou a Dynamics de Boston, alguns dos robôs dos quais são usados nos departamentos de polícia, para lançar um vídeo no qual seus modelos dançam à música dos contornos da década de 1950 “Do You Love Me” em dezembro. Talvez você o tenha visto? Entre os robôs estavam Atlas, Android, semelhante à aeronave de ataque desconstruída, e Spot, que serviu de inspiração para os bots assassinos no episódio de “Metalhead” da série Black Mirror. Ambos os carros pareciam ser criados para dissipar o medo de aproveitar o poder dos robôs, então o que poderia ser melhor do que demonstrar sua destreza? E qual poderia ser o melhor teste para destreza do que a habilidade considerada tão única que criamos um movimento projetado para tirar sarro da incapacidade da máquina de fazer isso (robô)? Observando como os carros se embaralham, se contorcem e círculos, é difícil não ver neles criaturas vivas e animadas capazes da mesma flexibilidade e sensibilidade que nós mesmos.
Eliminação espiritual de problemas na era digital
Para obter um guia filosófico para uma reunião com a tecnologia, abra um tick de suporte por e-mail; Ou registr e-se e deixe um comentário abaixo.
Não importa que as articulações do local possam cortar o dedo ou que os robôs da polícia já tenham sido usados para usar força mortal. Uma das maneiras de responder à sua pergunta, o suspeito, sem apelar à filosofia moral, pode consistir em consequências pragmáticas. Se você, como a maioria de nós, planeja permanecer vivo e saudável, então sim, deve obedecer ao robô da polícia.
Mas sinto que sua pergunta não é apenas prática. E concordo que é importante considerar compromissos relacionados à transferência de funções policiais para veículos. A propósito, o vídeo do Boston Dynamics foi publicado no final de 2020 para “comemorar o começo, como esperamos, um ano mais feliz”. Uma semana depois, os rebeldes invadiram o Capitólio e fotos de policiais que não resistiram à multidão apareceram nas redes sociais – fotografias que contrastavam surpreendentemente com uma reação difícil aos protestos da Black Lives Matter no último verão.
Naquele momento, quando muitos departamentos de polícia enfrentaram uma crise de autoridade devido à violência racial, o argumento mais convincente a favor de uma polícia robótica é que os carros não são caracterizados pela capacidade de prejudicar. Para um robô, uma pessoa é uma pessoa, independentemente da cor da pele, gênero ou causas. Como a Casa Branca observou no relatório de 2016 sobre algoritmos e direitos civis, as novas tecnologias são capazes de “ajudar as agências policiais a tomar decisões com base em fatores e variáveis que empiricamente se correlacionam com o risco, e não com base em instintos e preconceitos humanos imperfeitos. ”
Conselho
Por que não consigo parar de olhar para o meu próprio rosto em zoom?
Suporte à nuvem
Tenho uma obrigação moral de estar no Tiktok?
Suporte à nuvem
Importa que eu permita que meu carro estacionasse sozinho?
Obviamente, se as tecnologias policiais modernas indicarem que tudo não é tão simples. Os algoritmos da obra preditiva da polícia, usados para identificar pessoas e áreas de aumento de risco, são muito suscetíveis ao viés, que Ianna Hovards chama de “pecado original da IA”. Como esses sistemas são baseados em dados históricos (casos judiciais anteriores, prisões anteriores), como resultado, eles distinguem as mesmas comunidades que foram inicialmente selecionadas injustamente como alvo e fortalecem o racismo estrutural. As previsões automatizadas podem se tornar aut o-realizadas, corrigindo o modelo de controle policial excessivo para determinados quadrantes.(Os oficiais que chegaram a um lugar marcado como “amadurecido por crimes” têm maior probabilidade de encontr á-los). Em outras palavras, essas ferramentas não são tão neutralizadas pelos preconceitos, pois as formalizam, assando a desigualdade social existente em sistemas que a consolidam inconsciente e mecanicamente. De acordo com o professor de ética digital de Kevin McNesh, os valores dos criadores dos algoritmos “são congelados no código, institucionalizando efetivamente esses valores”.
Por enquanto, os policiais que executam recomendações algorítmicas ainda são humanos, mas é fácil imaginar um futuro próximo em que as decisões policiais não serão apenas tomadas, mas também executadas por máquinas – o dia em que algum robô do tipo Atlas aparecerá no rua que o modelo preditivo identificou como perigosa e usando suas “habilidades motoras finas” e “28 graus de liberdade” para prender o primeiro provável candidato. Talvez seja um sinal dos tempos que tais cenários distópicos, embora ainda indesejáveis, comecem a parecer piores do que a nossa situação actual. A ação de Derek Chauvin por si só serve como um lembrete de que uma pessoa pode ser tão cruel e insensível quanto uma máquina.
No entanto, o fato de o policial ser humano foi parte do que provocou indignação pública. Reagimos fortemente às pessoas que abusam do seu poder, muito mais do que às avarias das máquinas, mesmo que possam ser rastreadas através dos recantos sombrios da burocracia até ao erro humano. À medida que o sistema de justiça criminal automatiza cada vez mais as suas operações, as suas ações tornam-se cada vez mais opacas, envoltas num verniz de objetividade distanciada que corre o risco de obscurecer atos de injustiça. Como observa a escritora Jackie Wang em seu livro Carceral Capitalism, a personificação é um componente necessário da indignação moral.“Todos os bancos de dados policiais são bastardos” não faz sentido, escreve ela. O mesmo acontece com “Todos os robôs policiais são bastardos”, não importa quão humanos eles pareçam ou quão bem eles possam dançar.
INSCREVER-SE PARA
Assine o WIRED e fique atualizado com todas as suas ideias favoritas.
Eu acrescentaria que se a personificação é crucial para cultivar o ressentimento, então também é necessária para neutralizá-lo. Entre as muitas imagens notáveis capturadas em filme durante os protestos de George Floyd estava um vídeo de membros da Guarda Nacional dançando com manifestantes em Atlanta, poucos dias depois de as ruas terem sido cheias de gás lacrimogêneo. A dança que realizaram, a Macarena, era um tanto mecânica, mais simples do que muitos dos movimentos que os robôs Boston Dynamics são capazes de realizar. E, no entanto, o próprio momento demonstrou uma destreza que não é apenas física, mas também espiritual. Foi um daqueles lampejos de graça que às vezes aparecem quando as pessoas baixam a guarda e improvisam, rompendo a rigidez dos papéis sociais coreografados e das tensões arraigadas.
Um dos participantes da ação, Amisha Harding, disse a repórteres que Dancing abriu espaço para diálogo com os policiais.”Tendo conversado com eles”, disse ela, “percebi que muitos deles também acreditam no que estamos lutando”. Embora os oficiais não pudessem, obedecer às suas próprias diretrizes principais (juramento), expressar publicamente seu apoio ao movimento, muitos deles admitiram o protesto de que seus corações não concordavam com as tarefas estabelecidas diante deles. No cinema, é essa dissonância que marca a aquisição por um robô da consciência. A máquina que ganha consciência e começa a sentir ansiedade por causa das ações que é ordenada a executar, vai além do escopo do status do instrumento e se torna, de fato, uma pessoa.
