Os modelos de negócios e as deficiências do Facebook e do Google lembram o projeto Darpa, encerrado em 2003. Naquela época, os americanos não queriam que o governo coletasse seus dados, então por que concordamos que as empresas privadas façam isso agora?
Salve esta história
Salve esta história
“Cada compra com cartão de crédito que você faz, cada revista que você compra e cada receita abastecida, cada site que você visita e cada e-mail que você envia ou recebe, cada nota que você recebe, cada depósito bancário que você faz, cada viagem que você reserva e cada evento que você participa – tudo isso estas transacções e comunicações acabarão numa base de dados virtual e centralizada”, alerta um colunista do New York Times.
Em meio ao extenso testemunho de Mark Zuckerberg ao governo e às contínuas críticas ao escândalo Cambridge Analytica, o colunista do Times deve estar falando sobre o Facebook, certo? Ou talvez sobre o modelo de negócios mais amplo baseado em publicidade da Internet?
Não é bem assim: a coluna “Você é um suspeito” de William Safir foi publicada no Times em 2002, dois anos antes da criação do Facebook. E Safir não está a falar de redes sociais ou de publicidade digital, mas sim do programa Total Information Awareness desenvolvido pela Agência de Projectos de Investigação Avançada de Defesa dos EUA (Darpa), que propôs recolher enormes quantidades de dados americanos para identificar potenciais ameaças à segurança nacional. A base de dados virtual seria propriedade do Departamento de Defesa, que a utilizaria para identificar padrões de comportamento que pudessem prever ameaças terroristas emergentes.
Renee DiResta (@noUpside) é uma líder inovadora da WIRED, diretora de pesquisa da New Knowledge e bolsista da Mozilla sobre mídia, desinformação e confiança. Ela é afiliada ao Berkman-Klein Center em Harvard e ao Data Science Institute da Columbia University.
Hoje, participamos voluntariamente do cenário distópico que Safir previu há 16 anos: todos os dados são partilhados com empresas como o Facebook e o Google. Mas neste sistema, as empresas privadas são as guardiãs da nossa informação, e temos de contar com as consequências de um mundo em que as empresas obtêm o tipo de dados que outrora foram considerados demasiado ultrajantes para o governo.
O projeto Total Information Awareness, liderado pelo almirante John Poindexter, foi um metaprograma. O objetivo era agregar sinais gerados por outros programas executados pela Diretoria de Conscientização da Informação da Darpa. Esses programas visavam desenvolver uma série de capacidades, incluindo análise de informações, ferramentas de apoio à decisão, tradução de idiomas, recuperação de dados e reconhecimento de padrões. Quando todos os componentes foram combinados, eles deveriam criar uma imagem abrangente das pessoas e de seu comportamento. O objetivo era detectar sinais que pudessem ser usados para identificar comportamentos terroristas e prevenir ataques; a inspiração veio do fracasso do governo em ligar os pontos deixados pelos terroristas do 11 de Setembro enquanto planeavam o seu ataque.
A preocupação com o programa era bipartidária e generalizada. O Instituto Cato alertou sobre a possibilidade de uma sociedade de vigilância e levantou preocupações sobre a Quarta Emenda. A ACLU chamou o programa de rede virtual que exigiria que o governo “reunisse o máximo de informações possível sobre cada pessoa – e hoje em dia isso é muita informação… Não apenas registros governamentais de todos os tipos, mas registros médicos e financeiros das pessoas”. , suas crenças políticas, histórico de viagens, receitas, hábitos de compra, comunicações (telefonemas, e-mail e navegação na web), registros escolares, associações pessoais e familiares, e assim por diante.”O Senado dos EUA, liderado pelos senadores Ron Wyden e Byron Dorgan, votou por unanimidade pela revogação do programa logo após seu anúncio; algumas bases tecnológicas foram embaralhadas e direcionadas para outras partes do governo que não estavam focadas nas atividades dos cidadãos norte-americanos.
Mas enquanto a Total Information Awareness estava a ser desmantelada em Washington, um sistema semelhante surgiu e começou a ganhar impulso em Silicon Valley. Em poucos anos, os principais relatórios do setor e blogs de capital de risco falavam sobre o poder (e a promessa econômica) do Big Data e da localização móvel social.
Mais popular
A ciência
Uma bomba-relógio demográfica está prestes a atingir a indústria da carne bovina.
Matt Reynolds
Negócios
Dentro do complexo ultrassecreto de Mark Zuckerberg no Havaí
Guthrie Scrimgeour
Engrenagem
Primeiro, dê uma olhada no Matic, o aspirador robô redesenhado
Adriane So
Negócios
As novas alegações de Elon Musk sobre a morte de macacos estimulam novas demandas de investigação da SEC
Dhruv Mehrotra
Hoje, você provavelmente pode citar várias empresas que têm acesso a dados sobre todas as compras com cartão de crédito que você faz, todas as assinaturas de revistas que você faz, todos os sites que você visita, todos os e-mails que você envia ou recebe, todas as viagens que você reserva e sobre todos os eventos dos quais você participou. – todos os diferentes tipos de dados de que Safir estava falando, mas coletados para identificar padrões de comportamento que ajudam a prever em quais anúncios você clicará.
No sector privado, tanto as startups como as grandes empresas começaram a falar sobre quão bem podem recolher, armazenar e explorar dados; tornou-se um modelo de negócios popular. Que isso estava acontecendo não era segredo: os anúncios personalizados do Gmail, os logins universais e os anúncios redirecionados que nos seguiam de site em site eram óbvios até mesmo para usuários minimamente experientes. As maiores empresas de tecnologia do mundo tiveram sucesso porque criaram produtos que os utilizadores adoraram – os seus utilizadores concordaram voluntariamente em partilhar as suas informações e dados comportamentais. O rastreamento generalizado e a agregação de dados tornaram-se a norma, à medida que logins universais, pixels de rastreamento, entrada em produtos relacionados (como o Gmail) e aquisições de startups tornaram mais fácil para as plataformas de tecnologia criarem perfis de usuário abrangentes.
No mês passado, numa audiência no Congresso, a senadora Maria Cantwell conversou com o CEO do Facebook, Mark Zuckerberg, sobre as semelhanças entre a TIA e a recolha de informações privadas:
“Você já ouviu falar em Consciência Total da Informação?”perguntou o senador Cantwell.”Você sabe do que estou falando?”
“Não, não sei”, respondeu Zuckerberg.
Não foi surpresa que Zuckerberg nunca tivesse ouvido falar do programa; afinal, foi proposto quando ele estava no ensino médio. Cantrell continuou a explicar a essência da iniciativa: mineração de dados em grande escala com potencial para vigilância, controle e identificação sem precedentes. Ela citou o WhatsApp e a Palantir como outros exemplos de empresas privadas que coletam dados, o que chamou de “uma grande tendência na era da informação”. A sua linha de investigação, traçando paralelos entre várias empresas e a TIA, levanta questões importantes: como é que as empresas privadas ganham o nível de poder que os americanos negaram à Darpa? Quais são as consequências da existência desta ferramenta fora do âmbito da supervisão pública? Então, o que devemos fazer a seguir?
É claro que existem algumas diferenças críticas entre a Total Information Awareness e as plataformas dos gigantes das redes sociais. Primeiro, os usuários concordam voluntariamente com os termos de serviço das empresas. As pessoas supostamente sabem do que estão abrindo mão em troca de e-mail, mensagens, compartilhamento de fotos e bate-papo gratuitos com amigos. Em segundo lugar, os riscos são muito diferentes: o governo tem o direito de prender você, mas o Facebook e o Google não.
Mais popular
A ciência
Uma bomba-relógio demográfica está prestes a atingir a indústria da carne bovina.
Matt Reynolds
Negócios
Dentro do complexo ultrassecreto de Mark Zuckerberg no Havaí
Guthrie Scrimgeour
Engrenagem
Primeiro, dê uma olhada no Matic, o aspirador robô redesenhado
Adriane So
Negócios
As novas alegações de Elon Musk sobre a morte de macacos estimulam novas demandas de investigação da SEC
Dhruv Mehrotra
A Total Information Awareness foi franca sobre a vigilância e como ela pode ser usada para fins defensivos e ofensivos. O Facebook, à primeira vista, trata de curtidas, fotos, atualizações de status e comunidade. O Google é um excelente mecanismo de busca e um provedor de e-mail popular. Mas os sistemas internos das nossas empresas privadas são assustadoramente semelhantes aos da TIA, e as mesmas ameaças existem – mas sem qualquer supervisão pública compensatória. É perigoso. Agora, vários governos, e não apenas o nosso, podem utilizar grandes quantidades de dados para prever o nosso comportamento e atingir-nos. Além disso, aprendemos que outros países já abusaram disto, como a Rússia, que utilizou uma segmentação precisa e enormes quantidades de dados para chegar aos cidadãos americanos.
Ironicamente, as plataformas privadas que acumularam os mecanismos de coleta e mineração de dados necessários para a conscientização total da informação não são obrigadas a usá-los para fins de segurança nacional e contraterrorismo que inspiraram (e supostamente justificaram) a TIA e muitas organizações de liberdades civis na área. acho que eles não deveriam fazer isso. Mas o mais preocupante é que parece que as nossas plataformas sociais estão, na verdade, a fazer o oposto: podem radicalizar involuntariamente os extremistas. A ideia de que os sinais sociais podem identificar sinais precoces de radicalização ou selecionar aqueles com maior probabilidade de serem receptivos ou solidários parece cada vez mais plausível. Em resposta, os nossos sistemas de recomendação e funções de pesquisa podem utilizar inadvertidamente estes sinais para facilitar ainda mais este processo – exactamente o oposto da detecção e intervenção.
Então, o que devemos fazer a seguir? Como lidar com as ferramentas mais poderosas que hoje estão em mãos privadas? Primeiro, precisamos que grupos de cidadãos mantenham um olhar atento sobre as empresas poderosas da mesma forma que vigiam o governo. Alguns dos grupos mais veementes na crítica à consciência total da informação – a Electronic Frontier Foundation, o Open Technology Institute – têm-se mantido em grande parte silenciosos sobre a acumulação de poder semelhante por parte do Facebook e do Google. April Glaser, da Slate, escreveu recentemente um excelente artigo que explora todas as nuances e políticas, desde conflitos de interesse financeiros até visão de mundo. Como ela diz, precisamos de cães de guarda para latir.
Mas a sociedade civil por si só não pode vencer esta luta. Também precisamos do controle dos usuários comuns da Internet. Como país, estávamos extremamente preocupados com o facto de o governo estar a compilar bases de dados e a procurar determinadas assinaturas comportamentais que pudessem revelar tendências extremistas. A ideia de que um programa tão invasivo pudesse ser eficazmente supervisionado foi considerada absurda. Mas apenas alguns anos depois, estávamos transferindo o conteúdo desses mesmos bancos de dados para grandes corporações com uma velocidade incrível. Não confiamos no nosso governo – muitos escândalos, muitos abusos – mas ainda não aceitamos totalmente o facto de estarmos a entregar as nossas informações pessoais a poderosos interesses privados, sem qualquer supervisão.
Outros artigos interessantes da WIRED
- Um novo olhar sobre a cultura corporativa disfuncional da Theranos
- A cetamina como tratamento para a depressão oferece esperança e controvérsia
- ENSAIO FOTOGRÁFICO: Vistas irreais de cores alucinantes no deserto etíope de Danakil
- Nyan Cat, Doge e a arte de Rickroll – aqui está tudo o que você precisa saber sobre memes
- O sistema Seakeeper super giratório mantém os navios estáveis no mar
- Quer se aprofundar ainda mais em seu tópico favorito? Assine o boletim informativo Backchannel
