As empresas tecnológicas precisam apenas adaptar o sistema de recompensa de insetos, que eles já usam para detectar vulnerabilidades no código.
Salve esta história
Salve esta história
Banco de dados de inteligência artificial →
Em maio de 2021, o usuário do Twitter @Capohai compartilhou a captura de tela de pesquisa do Google no pedido “que os terroristas usam na cabeça”, o que deu o primeiro resultado o lenço palestino Keffiye. Ao mesmo tempo, o Senado francês acabara de votar para proibir mulheres com menos de 18 anos em público, e o partido político do presidente do LREM Macron se recusou a apoiar a candidata Sarah Zemmakh pelo fato de que ela colocou um hijab na pr é-eleição anúncio. Quantas pessoas fizeram mais pessoas fizeram o Google a mesma pergunta e perceberam sua resposta como confirmação de seus próprios preconceitos ou como uma declaração de fato objetiva? Quantas pessoas sofreram com os resultados?
A indignação sobre a equalização tácita dos palestinos do Google, lenços de cabeça e terroristas saíram das redes sociais nas notícias, mas quando a mesma pesquisa é realizada hoje, Kefyeia ainda ocupa o primeiro lugar nos resultados.
É lógico que @Capohai se voltou para o Twitter, porque para a maioria das pessoas que notaram o comportamento antiético das empresas tecnológicas – uma violação de confidencialidade, incitando ódio e desinformação, comportamento tendencioso e muito mais – a única oportunidade de escrever sobre isso nas redes sociais . Mas, como esse exemplo mostra, o modelo de retaliação não funciona para uma correção real de violações éticas.
Se você olhar para a imagem como um todo, podemos observar chamadas para fortalecer a regulamentação da indústria tecnológica, o que é extremamente necessário, no entanto, a adoção e a implementação das leis podem levar muito tempo e, em geral, elas não são O suficiente para impedir as ma l-funções éticas imprevistas inerentes às tecnologias. Como os algoritmos estão inclinados a expressar nossos (maus) valores de uma maneira inesperada que requer atualizações constantes e configurações sutis para correção, atos normativos, por mais inteligentes e amplamente escritos, não podem prever e interromper todos os problemas futuros.
Mas existe uma opção que não depende da indignação das redes sociais ou do novo regulamento. As empresas tecnológicas já estão configuradas para resolver problemas éticos na escala da empresa. Eles só precisam adaptar o sistema de remuneração existente.
Atualmente, centenas de grandes e pequenas empresas e organizações oferecem recompensas que variam de milhares a milhões de dólares para aqueles que encontrarem vulnerabilidades em seus códigos que possam ser exploradas por invasores. O programa de recompensas do Google se aplica até mesmo a aplicativos vendidos na Play Store. A Apple, que lançou recentemente um programa de recompensas (pagando até um milhão de dólares pelos tipos mais graves de explorações), adota uma abordagem semelhante. Nas notas do programa, a empresa afirma que “recompensará os pesquisadores que compartilham conosco problemas críticos e os métodos usados para resolvê-los”, fornecendo reconhecimento público e doações correspondentes das recompensas para instituições de caridade.
INSCREVER-SE PARA
Assine o WIRED e fique atualizado com todas as suas ideias favoritas.
Imagine quão melhores os produtos e serviços do Vale do Silício poderiam se tornar se essas empresas agrupassem as violações éticas em “questões críticas e os métodos usados para explorá-las” e começassem a oferecer recompensas adequadas. Afinal, violações éticas podem causar tantos problemas para uma empresa e usuários quanto um vazamento de código. O texto acima nem precisa ser alterado. E um programa de recompensas éticas poderia usar o restante das regras da Apple, que incluem: 1) você deve ser o primeiro a relatar um problema, 2) você deve explicar claramente e mostrar evidências do que aconteceu, 3) você não pode divulgar publicamente informações sobre um problema antes que a Apple tenha a chance de corrigi-lo e 4) você pode obter um bônus se a empresa reintroduzir acidentalmente um problema conhecido em um novo patch.
Para os usuários, o sistema de recompensa incentivará as pessoas a procurarem violações éticas e a denunciá-las mais rapidamente. Para as empresas, um sistema deste tipo irá ajudá-las a encontrar e resolver problemas antes que estes prejudiquem os clientes, gerem má publicidade e potencialmente desestabilizem o governo. É claro que algumas empresas podem não estar interessadas na imprensa negativa, na perda de clientes e no aumento dos preconceitos, mas serão provavelmente motivadas pela estabilidade e boa vontade a longo prazo que um tal programa pode criar. Ter um histórico público de resposta cuidadosa a questões éticas no passado também pode ajudar uma empresa se quiser atrair funcionários talentosos e crescer em outros mercados e indústrias.
Mais popular
A ciência
Uma bomba-relógio demográfica está prestes a atingir a indústria da carne bovina.
Matt Reynolds
Negócios
Dentro do complexo ultrassecreto de Mark Zuckerberg no Havaí
Guthrie Scrimgeour
Engrenagem
Primeiro, dê uma olhada no Matic, o aspirador robô redesenhado
Adriane So
Negócios
Novas declarações de Elon Mask sobre a morte do macaco estimulam novos requisitos para a investigação da Comissão de Valores Mobiliários dos EUA
Dhruv Mehrotra
Existem muitas situações em que os problemas éticos são difíceis de resolver nas mudanças complexas, mas de curto prazo – por exemplo, mudanças manuais nos resultados da pesquisa e explicação das causas – geralmente são possíveis enquanto as empresas estão trabalhando em soluções de longo prazo.
Esse sistema de recompensas é necessário em escala global, uma vez que pouca atenção é dada a um grande número de violações de normas éticas na Internet, que são cometidas em outros idiomas, exceto o inglês, e não causam danos diretos no Estados Unidos. Além disso, o sistema de recompensa, que facilita os usuários comuns, entrando em contato com as empresas e se familiarizando com os resultados de seu trabalho, pode mudar a idéia pública dessas tecnologias e o papel que as pessoas desempenham em sua constante manutenção, correção, renovação e transformação . A Internet não é um objeto estático e estável, e a idéia dele como tal apenas complica o processo de sua transformação em algo que funcionará melhor para todos.
O sistema de remuneração pelo cumprimento das normas éticas pode parecer irrealista, mas é muito mais realista e mais fácil implement á-lo rapidamente do que muitas outras idéias agora discutidas, incluindo decisões do governo que também precisamos. No final, os usuários continuarão a encontrar problemas éticos e escrever sobre eles, não importa o que o Vale do Silício esteja fazendo. O sistema de remuneração simplesmente fornecerá um processo menos prejudicial e mais útil. E embora atos normativos geralmente tenham uma escala nacional, esse sistema pode ajudar as comunidades em todo o mundo.(O consórcio II já recomendou que os desenvolvedores que descobriram preconceitos em seus sistemas, e o Twitter realizou o concurso de recompensas de viés algorítmico no ano passado, mas esse programa deve ser muito maior e aberto a todos os participantes).
Idealmente, as recompensas éticas devem ser tão lucrativas quanto as recompensas atuais para erros e estão ligadas ao nível e tipos de danos que eles podem causar. Para evitar mais ocasências e mentiras de Frank, tudo isso pode ser gerenciado por um centro sem fins lucrativos, compensado por um grupo grande e diversificado de especialistas em ética em todo o mundo, que é instruído a receber dicas e recomendações daquelas comunidades que provavelmente provavelmente Sofra de possíveis violações de ética.
Este centro será instruído a determinar a escala de danos éticos, estabelecer o preço da remuneração e informar empresas individuais sobre o que deve ser feito. Embora as comissões de ética nas empresas geralmente não tenham o direito de publicar informações sobre suas investigações ou executar suas conclusões, esse centro independente deverá ser responsável pela publicação de detalhes sobre violações de ética depois que empresas individuais responderão a elas por conta própria. É importante tornar esses problemas públicos para ajudar outras pessoas a evitar repetir erros.
O sistema de remuneração pela violação das normas éticas pode ajudar o Vale do Silício a compensar os danos e corrigir a posição das comunidades e pessoas que sofreram de seus produtos. No processo, ela pode ajudar a tornar essas empresas mais responsáveis pelas comunidades às quais elas servem.
Outras histórias de arame interessantes
- As últimas notícias sobre tecnologia, ciência e muito mais: Obtenha nossas correspondências!
- Neil Stevenson finalmente assumiu o aquecimento global
- O evento com raios espaciais indica o local de pouso “viking” no Canadá
- Como excluir sua conta do Facebook para sempre
- Silicon Book of Silicon Book Apple
- Quer o melhor PC? Tente coletar o seu próprio
- 👁️ Explore a inteligência artificial como nunca antes com nosso novo banco de dados
- 🎮 Jogos com fio: as dicas, críticas mais recentes e muito mais
- 🏃🏽 As vezes querem obter as melhores ferramentas para manter a saúde? Confira a seleção dos melhores rastreadores de fitness, equipamentos de corrida (incluindo sapatos e meias) e os melhores fones de ouvido compilados pela nossa equipe de equipamentos.
