O crescimento da “zombobina” é o último exemplo de por que os desenvolvedores devem planejar abusos nocivos na mesma extensão que os possíveis erros caros.
Salve esta história
Salve esta história
Pessoas terríveis usarão tecnologias para realizar atos terríveis. Esta é uma verdade universal, aplicável a quase qualquer tecnologia que facilite a comunicação e a interação, independentemente de quão boas as intenções possam ser. Uma coisa tão inofensiva como o Google Drive pode se tornar um vetor de assédio. Como descobrimos recentemente, as plataformas para videoconferências, como o Zoom, também podem se tornar um vetor. Nas últimas semanas, as aulas na escola secundária na Carolin do Norte e no Texas, bem como a coleção NAACP na Califórnia, foram interrompidas por vídeos, imagens e textos racistas e femininos. Como as aulas de distância são novamente ativadas em todo o país, só podemos esperar novos problemas – mas quanto zoom é culpar por isso?
Em abril do ano passado, a zombombaia ocorreu em nossa universidade, e uma colega disse que sua aula o n-line estava quebrada: os trolls percorreram a má vontade do zoom para estabelecer pornografia e gritar insultos racistas e sexistas. Mesmo precauções óbvias como a recusa em publicar referências públicas às reuniões são vulneráveis à engenharia social, por exemplo, os estudantes universitários postam links para fóruns “vêm bombardear minha classe”. Como pesquisadores de ética técnica, não consideramos incrível. No entanto, aparentemente, isso ficou surpreso com o diretor geral da Zoom, que disse o New York Times: “Riscos, abuso – nunca pensamos nisso”.
Opinião com fio
Sobre o site
Casey Fisler – Professora Associada do Departamento de Informática da Universidade do Colorado em Boulder. Ela lidera o laboratório de “Regras da Internet”, onde, juntamente com seus alunos, ele explora ética e política no campo da tecnologia, além de maneiras de tornar as tecnologias de rede mais surpreendentes e seguras. Natalie Garrett é estudante de pó s-graduação da Faculdade de Ciências da Informação da Universidade do Colorado em Boulder. Sua pesquisa é destinada à operação da ética na indústria tecnológica.
As grandes tecnologias adoram velocidade, especialmente quando há uma oportunidade óbvia, por exemplo, uma pandemia que faz você confiar mais nas tecnologias de comunicação. Mas a mentalidade “mov a-se rapidamente e quebra as coisas” leva a testes e implementação limitados de software, o que ainda não está pronto. Esse é um problema tão bem conhecido que, para isso, existe um termo: “dever técnico” – um custo não remunerado da implantação de software, que acabará por corrigir depois de ficar claro quais são os erros.
As dívidas se acumulam quando esses problemas não são resolvidos no processo de design. No entanto, quando os erros são prejudiciais à sociedade, isso não é percebido como baixa tecnologia, mas como uma tecnologia antiética.“Nunca pensamos em uso inadequado” – este é um prenúncio de um tipo de dever diferente: dever ético.
O problema de “pessoas terríveis” em zoom não é um bug típico, afinal. Quando a abordagem “corrigimos coisas ruins depois que elas acontecem” diz respeito a danos potenciais, seja individual ou público, você não pode prever problemas éticos. E o problema com a dívida ética é que o cobrador de dívida metafórico ocorre somente depois que o dano já foi causado. Você não pode retornar ao passado e melhorar as funções de confidencialidade, para que os estudantes marginais nã o-suspeitos não ouçam esses insultos raciais no meio da lição. Você não pode cancelar os resultados das eleições após a distribuição da desinformação minou a democracia. Você não pode cancelar o interrogatório e a prisão ilegal do preto após uma acusação tendenciosa de reconhecer pessoas. Você não pode forçar as pessoas a se recusarem a assistir a vídeos sobre a teoria da conspiração, que eles tinham um algoritmo de recomendação. O dano já foi feito.
O techno não pode ver o futuro, mas eles podem prever e assumir. Eles sabem que as pessoas terríveis existem. No momento, eles podem facilmente imaginar aqueles que deliberadamente espalham as teorias da conspiração, que usam o reconhecimento de pessoas como evidência, mesmo quando lhe dizem para não fazer isso, que está tentando manipular as eleições com a ajuda de desinformação e que considera engraçado aterrorizar nada suspeito de estudantes e professores da faculdade. Essas nem todas são manchetes altas, também podem ser micr o-armadas com danos individuais que se acumulam com o tempo. No processo de desenvolvimento, você deve imaginar todas as opções possíveis para usar sua tecnologia para outros fins. E então você deve desenvolver um design para tornar esses abusos mais complexos.
Mais popular
A ciência
Uma bomba demográfica de uma ação lenta está prestes a atingir a indústria de carne bovina
Matt Reynolds
Negócios
Dentro do complexo supe r-secreto Mark Zuckerberg no Havaí
Gatrine Skrimjor
Engrenagem
Primeira olhada em Matic, um aspirador de robô processado
Adrienne co
Negócios
Novas declarações de Elon Mask sobre a morte de um macaco estimulam novos requisitos para a investigação da SEC
Dhruv Mehrotra
Curiosamente, eles são melhor imaginados como as tecnologias podem ser usadas para perseguição, pessoas que são frequentemente perseguidas. Estamos falando de pessoas marginalizadas e vulneráveis, como mulheres e pessoas com cor da pele – pessoas que não são suficientemente representadas no campo da tecnologia. Garantimos que, na sala onde essas pessoas reuniram: “Pessoas aleatórias invadirão reuniões de zoom e demitirão pornografia na tela”, e você falará sobre abusos. Como muitos tipos de danos causados pelas tecnologias afetam desproporcionalmente as pessoas marginalizadas, essas pessoas devem ser incluídas no processo de design como parte da solução para o problema da dívida ética.
A tecnologia geralmente cria “pessoas do usuário” no processo de design para imaginar como diferentes tipos de pessoas podem usar essa tecnologia. Se essas pessoas não incluirem um “usuário perseguindo o antigo”, “um usuário que deseja ferir pessoas vulneráveis” e “um usuário que considera engraçado mostrar a todos seus órgãos genitais”, então você perde um estágio importante de design. E se você responder: “Sim, provavelmente, haverá esses problemas, mas nós os corrigiremos depois de descobrirmos o que são”, comece a manter o livro de contabilidade de suas dívidas éticas.
Infelizmente, até agora, não podemos contar com o fato de que as empresas tecnológicas pensam com antecedência, é importante que os usuários finais entendam danos potenciais e tomem medidas para a defesa automática. Eu (Casey) mal impedi a tentativa organizada de Zoombombombar em aulas de ética tecnológica, que foram realizadas depois que eu postei no YouTube uma chamada para o Zoombers, apenas porque eu tinha uma sala de espera como precaução. Se você ensina, seja realizando reuniões ou conduz um casamento, você deve tomar precauções para proteger suas reuniões de jogadores ruins, mesmo que essas precauções possam ser não óbvias ou insuficientemente atenciosas. Felizmente, após a propagação do zoombombancimento, na primavera, o Zoom incluiu algumas dessas configurações nas configurações padrão, além da melhoria da criptografia. Embora se essas medidas fossem proativas e não reativas, poderíamos evitar alguns problemas.
O problema com as dívidas é que elas precisam ser devolvidas – com interesse. Para a dívida técnica, isso significa que as mudanças estão se tornando cada vez mais difíceis de implementar assim que a tecnologia entrar no mundo. O mesmo vale para o dever ético, mas, levando em consideração o fato de que as tecnologias são tão profundamente introduzidas em nossas vidas que todo mundo tem que pagar.
WIRED Opinion publica artigos de escritores terceirizados que representam uma ampla gama de pontos de vista. Leia mais opiniões aqui e veja nossas diretrizes para envio de artigos aqui. Poste sua opinião em opin@wired. com.
Outras histórias interessantes da WIRED
- 📩 Quer as últimas notícias sobre tecnologia, ciência e muito mais? Assine a nossa newsletter!
- Gravidade, aparelhos e a grande teoria das viagens interestelares
- Conheça o WIRED25 deste ano: as pessoas que tornam as coisas melhores
- Masmorras eDragons TikTok é a coisa mais útil para a Geração Z.
- Você tem um milhão de guias abertas. Veja como gerenciá-los
- As linhas e loops borrados da Pesquisa Google
- 🏃🏽♀️ Quer as melhores ferramentas para se manter saudável? Confira as escolhas da nossa equipe Gear para os melhores rastreadores de fitness, equipamentos de corrida (incluindo tênis e meias) e os melhores fones de ouvido.
