A troca de “metadados de metadados” é crucial para o desenvolvimento de produtos que combatem a desinformação, evitando o aparecimento de “movimentos negros” no sistema de segurança.
Salve esta história
Salve esta história
O futuro para criptografia. Bats destacados em tempo real, como Signal e WhatsApp, bem como aplicações para relatórios de Teelegram, WeChat e Messenger, que são usados por duas em cada cinco pessoas no mundo, ajudam a proteger a vida privada e facilitar nossos direitos de organizar, gratuitamente comunicar e manter contatos íntimos com nossas comunidades.
Eles são criados especialmente para conveniência e velocidade, para comunicação entre pessoas e com grandes grupos. No entanto, são essas condições que contribuem para abuso e comportamento ilegal, desinformação e incitação de ódio, mistificação e fraude – tudo isso em detrimento da grande maioria dos usuários. Já em 2018, os relatórios de investigações disseram que foram essas funções que desempenharam um papel em dezenas de mortes na Índia e na Indonésia, bem como nas eleições na Nigéria e no Brasil. A facilidade com que os usuários podem enviar mensagens sem verificar sua confiabilidade significa que a desinformação pode se espalhar rapidamente, secretamente e em uma escala significativa. Algumas aplicações permitem criar grupos muito grandes – até 200. 000 pessoas – ou organizar máquinas de propaganda criptografadas, afastand o-se do plano original – para imitar a “sala de estar”. E algumas plataformas sugeriram alterar uma política focada em obter lucro, permitindo que os usuários de negócios usassem os dados do cliente de maneiras novas e invasivas, o que acaba prejudicando a confidencialidade.
Em resposta aos danos causados por essas aplicações, os governos de países famosos pediram às plataformas que introduzissem os backdors chamados ou usassem a varredura automática de mensagens no lado do cliente. No entanto, essas decisões minam as principais liberdades de cada pessoa e expõem muitos usuários em maior risco, como muitos observam. Essas violações de medidas e outras decisões tradicionais de moderação que dependem do acesso ao conteúdo raramente são eficazes no combate ao abuso da Internet, como mostrado por um estudo recente de Riana Pfeffercorn da Universidade de Stanford.
As mudanças no design do produto, não “movimentos negros”, são a chave para a reconciliação do uso concorrente e abuso de mensagens criptografadas. Embora o conteúdo de mensagens individuais possa ser prejudicial, é a escala e viral de sua distribuição que é um problema real, transformando conjuntos de mensagens nocivas em uma onda poderosa de forças sociais destrutivas. Pesquisadores e defensores dos direitos humanos já analisaram como as mudanças como uma limitação do transporte, melhorando a rotulagem e a redução do tamanho dos grupos, pode reduzir significativamente a propagação e a seriedade do conteúdo problemático, propaganda organizada e comportamento criminoso. No entanto, esse trabalho é realizado usando rotatórias, como taiplases e grupos públicos. Sem bons dados com plataformas, é difícil a auditoria da eficácia real de tais mudanças.
Se inscrever
Inscrev a-se na Wired e mantenh a-se a par de todas as suas idéias favoritas.
As plataformas podem fazer muito mais. Para que mudanças tão importantes nos produtos se tornem mais eficazes, eles precisam ser compartilhados com pesquisadores de “metadados de metadados”. Eles são dados agregados que mostram quantos usuários a plataforma possui, onde e quando as contas são criadas, como as informações são distribuídas, que tipos de mensagens e formatos são a distribuição mais rápida, quais mensagens são frequentemente relatadas e como (e quando) os usuários são excluídos. Para deixar claro, não se trata das informações que geralmente são chamadas de “metadados”, que geralmente se referem a informações sobre uma pessoa em particular que pode ser profundamente pessoal para os usuários, por exemplo, o nome, endereço de e-mail, número do celular, fechar contatos e até dados de pagamento. É importante proteger a confidencialidade desse tipo de metadados pessoais; portanto, o Escritório do Alto Comissário da ONU para os direitos humanos acredita corretamente que os metadados do usuário se enquadram no direito à inviolabilidade da vida privada, quando se trata de espaço online.
Felizmente, não precisamos de esse volume ou tipo de dados para lidar seriamente com o problema de danos. Em vez disso, a empresa deve ser franca com pesquisadores e órgãos regulatórios sobre a natureza e o volume de metadados, que eles coletam, com quem compartilham esses dados e como os analisam para influenciar o design do produto e a escolha de um lucro modelo. Sabemos com certeza que muitas plataformas para a troca de mensagens pessoais coletam enormes matrizes de informações, que podem ser úteis no desenvolvimento e no teste de novos produtos do produto e na atração de investimentos e anunciantes.
Os dados agregados e anonimizados que eles coletam podem, sem violar a criptografia e a confidencialidade, são usados por plataformas e pesquisadores para esclarecer padrões importantes. Tais metadados agregados podem levar a melhorias e segurança nos jogos, melhorando as funções e escolhendo o design.
Atualmente, as plataformas não mostram prontidão para a troca voluntária de dados de tal maneira que causa muita atenção e fortalece a confiança dos pesquisadores e da sociedade civil. A maioria das empresas que gerencia esses serviços de mensagens nem é compartilhada por informações básicas sobre o tamanho do mercado ou a criação de novas contas. Por exemplo, embora o Facebook/WhatsApp compartilhe resultados internos indicando que as restrições ao envio e marcação reduziram significativamente a disseminação de informações erradas, eles se recusaram a compartilhar uma análise interna mais sutil, que mostrou que a participação da desinformação aumenta acentuadamente quando mais de uma distribuição repetida ocorre. A publicação pública de tal análise em estágios anteriores melhoraria a reputação do WhatsApp em termos de transparência e eficácia das soluções e, ao mesmo tempo, levaria outros jogadores a introduzir recursos de design semelhantes.
