Três passos para tornar as empresas de tecnologia mais justas

Diversidade não são dados. Trata-se de fazer perguntas humanas difíceis e envolver todos na organização no processo.

Salve esta história
Salve esta história

Nenhuma tecnologia nasce por acidente e a desigualdade está incorporada desde o início. Por exemplo, o preconceito dos algoritmos reflete os preconceitos e preconceitos dos seus criadores. As desigualdades inerentes fazem-se sentir em tudo, desde videochamadas a carros sem condutor e dispositivos inteligentes, bem como na tecnologia nos cuidados de saúde e na justiça criminal. As consequências disto a longo prazo são abrangentes e assustadoras. A Big Tech demorou a recuperar o juízo, como pode ser visto nos anúncios da IBM e da Amazon de que estão interrompendo a implementação do reconhecimento facial porque isso poderia aumentar o preconceito na vigilância policial.

OPINIÃO COM FIO
SOBRE O SITE

Sheila Warren é Chefe de Blockchain, Dados e Ativos Digitais no Fórum Econômico Mundial e membro de seu Comitê Executivo. Mãe de três filhos, ela também atua em conselhos de diversas organizações de justiça social.

Mas estas medidas são muitas vezes tomadas demasiado tarde, como reacção a danos que já ocorreram. Se quisermos um futuro melhor, precisamos de criá-lo desde o início, e isso requer ir além de uma abordagem organizacional isolada.

Uma abordagem é aumentar a diversidade na tecnologia como medida para reduzir a desigualdade no desenvolvimento de produtos. Os esforços para aumentar a diversidade não são novos, mas produziram resultados mínimos. A percentagem de empregados negros nas principais empresas tecnológicas aumentou apenas um dígito, e o número de CEOs negros nas empresas Fortune 500 caiu de seis em 2012 para quatro. Embora extremamente importante, a diversidade não é um jogo de números e, como disse um comentarista sem rodeios, contratar um diretor de diversidade não resolverá a cultura racista da sua empresa, muito menos os problemas associados ao fato de seu software ser tendencioso contra pessoas negras.

Os problemas de exclusão e injustiça são sistémicos e, portanto, não podem ser resolvidos através de mudanças pontuais ou de abordagens de cima para baixo institucionalmente isoladas. Esses problemas exigem soluções multiníveis e a participação de todos os colaboradores da empresa. Refletindo sobre as experiências em que estive envolvido em setores que vão desde finanças e tecnologia até artes, filantropia e justiça social, as soluções que tiveram mais sucesso são as seguintes, que podem ser aplicadas por todos na empresa:

1. Busque opiniões de forma ativa e proposital.

A criação de comunidades que refletem a vida real é um trabalho muito duro. Mas esta é a única maneira de garantir que o produto que você cria não será tendencioso. A criação de comunidades que levam em consideração a representação demográfica, geográfica e intersetorial é uma obrigação que devemos revisar constantemente e para a qual devemos responder.

Aqui estão algumas perguntas que devem ser feitas durante discussões estratégicas:

A quem realmente somos responsáveis?
Quem está ligado e quem não é? A quem devemos ser responsáveis?
Como estamos procurando opiniões diferentes? Como a opinião deles é levada em consideração?
Quem se sentirá desconfortável no processo de discutir?
Quem considerará o resultado proposto irrelevante, contraproducente ou prejudicial?
Estamos construindo junto com a comunidade, e não para isso?

Mais popular
A ciência
Uma bomba demográfica de uma ação lenta está prestes a atingir a indústria de carne bovina
Matt Reynolds
Negócios
Dentro do complexo supe r-secreto Mark Zuckerberg no Havaí
Gatrine Skrimjor
Engrenagem
Primeira olhada em Matic, um aspirador de robô processado
Adrienne co
Negócios
Novas declarações de Elon Mask sobre a morte de um macaco estimulam novos requisitos para a investigação da SEC
Dhruv Mehrotra

Embora não exista uma abordagem universal, considere a combinação de um aumento na variedade da composição do Conselho de Administração, comparando seus funcionários com sua base de consumidores (real e potencial) e uma busca consciente por clientes em potencial que você não tem. Isso envolve uma análise crítica e regular das suposições que você faz e dos modelos que eles criam, seja em seus canais de distribuição, nas relações com os concorrentes ou no abandono de segmentos de mercado inteiros.

Como parte dos projetos do Fórum Econômico Mundial relacionados a blockchain e dados, solicitamos opiniões sobre mesas redondas em países, nas sessões de nossa reunião anual em Davos, no Github, bem como em seminários e grupos focais. Mais de 100 organizações de tamanhos diferentes participaram do nosso conjunto de instrumentos para implantar blockchain, e as opiniões de mais de 20 países representando uma diversidade geográfica e econômica significativa foram consideradas em nosso roteiro na troca de dados por meio de fronteiras do estado. Esses dados nos ajudaram a considerar os ângulos de visão, elemento s-chave do sucesso e do fracasso, bem como os riscos que talvez não possamos levar em consideração apenas com base em nossa experiência e pesquisa. E ainda pensamos que podemos e devemos funcionar melhor.

Os projetos que podem levar por seis meses levam muito mais tempo devido à nossa abordagem à inclusão, mas esse tempo vale não apenas para criar o melhor resultado, mas também para evitar danos não intencionais. Em vez de agir rapidamente e quebrar as coisas, preferimos mover lentamente e buscar consenso.

2. Avalie, superestime e revise seus processos.

A igualdade e a inclusão começam como intenções que se enraizam na prática durante um processo iterativo que nunca para. Esses valores devem ser integrados ao processo e não são considerados um exercício de instalação de sinalizador. Caso contrário, nada vai mudar.

Questões para discussão:

Onde a justiça é realmente manifestada em seu processo? Em design? À venda?
Com que seriamente os princípios que você declarou como um mecanismo de barragem?
Quem é responsável? No mundo ideal, todos sentirão a responsabilidade pelo cumprimento dos princípios que a organização coloca na vanguarda.

A abordagem do processo não precisa ser inventada do zero. Tecnologias civis e organizações relacionadas há muito pensam no desenvolvimento de processos, especialmente quando se trata de criar uma variedade de comunidades.

Um exemplo é o Instituto de Artes e o Diálogo Civil, que no final dos anos 90 se tornou pioneiro no campo da arte como um método para causar conversas complexas, criando um “espaço seguro para idéias inseguras” e focando no processo de envolver o público na criação de arte. Ou o Caravan Studios, cuja abordagem para envolver a sociedade é profundamente colocada em suas atividades desde o início.(Apocalipse: estou entrando no Conselho de Administração da Techsoup, cuja divisão é o Caravan Studios). Uma abordagem semelhante também se reflete no “design orientado para o humano” ou “inovação responsável” em empresas como Microsoft, Salesforce, Adobe e MasterCard, que estão tentando codificar as abordagens orientadas para o usuário.

3. Crie coalizões que garantam a responsabilidade de seus membros.

As empresas tecnológicas podem aprender muito sobre a construção de coligações com as organizações de justiça social. Como membro do conselho da Equal Justice Society, vi o quanto pode ser alcançado construindo alianças, ouvindo e aprendendo com aqueles que realizam trabalhos relacionados. A EJS atua em comunidades de justiça social e de direitos civis, e os funcionários discutem regularmente quando liderar e quando seguir. Os objectivos que a EJS estabelece para si são maiores do que qualquer organização pode alcançar sozinha, tal como a equidade e a inclusão são objectivos igualmente elevados que todo o ecossistema tecnológico deve abordar através de uma mentalidade de coligação.

É importante notar que as conversas com os parceiros da coligação devem ser honestas, reconhecendo tanto os sucessos como os fracassos. Isto pode ser difícil, especialmente com organizações que podem ser concorrentes que disputam os mesmos mercados, financiamento ou recursos. Mas decepcionamos todo mundo quando não discutimos os fracassos.

Além disso, à medida que as empresas seguem sugestões dos seus concorrentes e parceiros, é importante definir colectivamente expectativas e compromissos com a justiça, a inclusão e a protecção dos utilizadores. Se houver um sinal de que uma questão é importante para um grupo, ela se espalhará rapidamente. Vemos isso agora, à medida que empresa após empresa faz declarações sobre seu compromisso com a justiça racial.

Isto não significa que organizações (ou indivíduos) solidárias devam tornar-se juízes e júri do seu ecossistema. Pelo contrário, trata-se de criar sistemas que promovam ações concretas e responsabilização, em vez de apenas declarações cuidadosamente formuladas.

Por exemplo, assinamos os Princípios do Presidio, que definem os direitos dos usuários de aplicações blockchain, juntamente com pessoas que representam diferentes ideologias. Para demonstrar o seu compromisso, organizações e indivíduos assinam compromissos para promover e implementar estes princípios. Foi um exercício de autodeterminação colectiva e de expectativa de que as organizações e os seus pares se saíssem melhor com os seus utilizadores. Outro exemplo é o projeto Black Tech for Black Lives, que pede aos tecnólogos negros e aos seus aliados em todo o ecossistema tecnológico que se comprometam com uma ou mais ações específicas para combater o racismo sistémico.