Para consertar a tecnologia, a democracia deve amadurecer

Os apelos à “democratização da tecnologia” soam vazios quando ambos os sistemas parecem estar a falhar. O principal é perceber que a democracia ainda não atingiu a sua forma final.

Salve esta história
Salve esta história

Banco de dados de IA →

Há pouco em que possamos concordar hoje em dia. Mas há duas declarações que podem obter apoio generalizado: “Precisamos de consertar a tecnologia” e “Precisamos de consertar a democracia”.

Cada vez mais pessoas reconhecem que os rápidos avanços tecnológicos estão a criar riscos em toda a sociedade: vigilância pública e privada, automatização generalizada do trabalho, ascensão do poder de monopólio e oligopólio, crescimento estagnado da produtividade, discriminação algorítmica e riscos catastróficos colocados por avanços em áreas como inteligência artificial e biotecnologia. Uma questão menos discutida, mas, na minha opinião, igualmente importante, é a perda de ganhos potenciais que não trazem benefícios de curto prazo ou de mercado. Estas incluem o desenvolvimento de vacinas contra novas doenças e plataformas de código aberto para capacidades digitais básicas, como identificação e comunicação.

Ao mesmo tempo, à medida que as democracias falham face aos desafios globais complexos, os cidadãos (e cada vez mais os líderes eleitos) em todo o mundo estão a perder a confiança nos processos democráticos e a inclinar-se para alternativas autocráticas. As democracias sofrem em vários graus de impasse e hiperpartidarismo, falta de responsabilização perante a vontade do povo, ineficiência, enfraquecimento da capacidade do Estado, incapacidade de acompanhar o ritmo da evolução das tecnologias e aquisição de controlo pelas empresas. Embora as experiências democráticas de menor escala estejam a crescer tanto a nível local como global, continuam demasiado fragmentadas para tomar decisões importantes de governação à escala nacional.

Isto coloca-nos numa posição difícil. É claro que poderíamos fazer um trabalho melhor ao orientar o desenvolvimento tecnológico para o florescimento humano colectivo – talvez um dos maiores desafios do nosso tempo. Mas se a democracia existente está tão repleta de deficiências, não parece estar à altura da tarefa. Eis como soam muitos apelos à “democratização da tecnologia”: Dado o número de queixas, porquê submeter um sistema aparentemente falido ao controlo de outro?

Ao mesmo tempo, à medida que lidamos com tudo, desde a vigilância até às viagens espaciais, precisamos desesperadamente de formas de negociar colectivamente compromissos de valor complexos com implicações globais, e de formas de partilhar os seus benefícios. Definitivamente parece Trabalhando pela Democracia, embora em uma iteração muito melhor. Então, como podemos renovar radicalmente a democracia para que possamos avançar com sucesso em direção a resultados positivos globais e de longo prazo?

O caso da inteligência coletiva

Para responder a estas questões, devemos compreender que as nossas actuais formas de democracia são apenas manifestações iniciais e muito imperfeitas de inteligência colectiva – sistemas de coordenação que incorporam e processam a tomada de decisões descentralizada, agente e reflexiva por parte de indivíduos e comunidades para desenvolver as melhores soluções para o equipe inteira.

SE INSCREVER
Assine o WIRED e fique atualizado com todas as suas ideias favoritas.

A inteligência coletiva, ou IC, não é reservada apenas aos humanos. As redes de árvores criadas pelo micélio podem exibir propriedades inteligentes, trocando nutrientes e enviando sinais de socorro sobre secas ou ataques de insetos. Abelhas e formigas exibem inteligência de enxame através de processos complexos de seleção, deliberação e consenso, utilizando um vocabulário de movimentos físicos e feromônios. Os humanos não são os únicos animais que votam. Os cães selvagens africanos, ao decidirem se devem mudar para outro local, começam a espirrar para determinar se um quórum foi alcançado, com o ponto de inflexão determinado pelo contexto – por exemplo, indivíduos de posição inferior requerem um mínimo de 10 espirros para alcançar o que indivíduos de alto escalão podem sobreviver com apenas três. Búfalos, babuínos e suricatos também tomam decisões por meio de quórum, com “regras” flexíveis baseadas no comportamento e na negociação.

Mas os humanos, ao contrário dos suricatos ou das formigas, não têm de depender de caminhos para a CI codificados na nossa biologia, ou esperar que a mão lenta e invisível da evolução ajuste os nossos processos. Podemos fazer melhor propositadamente, compreendendo que o progresso e a inclusão não têm de ser comprometidos.(Esta é a tese em que se baseia a minha organização, o Projeto de Inteligência Coletiva.)

As nossas inovações incrementais nos sistemas de troca de informações – como a democracia representativa, os Estados-nação, os mercados capitalistas e não capitalistas e a tecnocracia burocrática – já moldaram o mundo moderno. E ainda assim podemos conseguir muito mais. Todas estas manifestações existentes de inteligência colectiva são apenas versões aproximadas das estruturas que poderíamos construir para tomar melhores decisões colectivas sobre os recursos colectivos.

Mais popular
A ciência
Uma bomba-relógio demográfica está prestes a atingir a indústria da carne bovina.
Matt Reynolds
Negócios
Dentro do complexo ultrassecreto de Mark Zuckerberg no Havaí
Guthrie Scrimgeour
Engrenagem
Primeiro, dê uma olhada no Matic, o aspirador robô redesenhado
Adriane So
Negócios
As novas alegações de Elon Musk sobre a morte de macacos estimulam novas demandas de investigação da SEC
Dhruv Mehrotra

De certa forma, as estruturas democráticas que temos agora, como a votação por maioria, as nomeações vitalícias e os níveis arcaicos de representação, operam sob regras ainda mais grosseiras do que muitos algoritmos. O mesmo acontece com os nossos mercados, que ignoram uma vasta gama de negociações subtis de valor em favor da optimização primitiva de custos, lucros ou preço das acções. Estas regras necessitam urgentemente de atualização. Na verdade, os receios a longo prazo de que os modelos de IA descontrolados optimizem excessivamente os resultados errados e destruam a humanidade são, em grande medida, os mesmos que os perigos associados à optimização por força bruta no nosso actual processo de tomada de decisão.

A adopção do conceito de inteligência colectiva permite-nos ver a democracia existente como um ponto de partida e não como um projecto concluído. Não devemos abandonar os ideais democráticos – sem eles ficaremos com pura tecnocracia e com a erosão do julgamento político comum em mera competência técnica. Mas para enfrentar os desafios da mudança tecnológica, precisamos de fazer muito mais do que apenas fortalecer as nossas instituições democráticas em ruínas. Em vez disso, devemos utilizar tecnologias em evolução para criar instituições colectivas melhores e mais inteligentes para o exercício mais profundo do poder colectivo.

Mecanismos, tecnologias e sistemas

Para compreender como construir os melhores blocos de construção para a inteligência colectiva, podemos dividir a “pilha” de CI em motores, tecnologias e sistemas.

Os mecanismos coletam, processam e agregam inteligência coletiva de diversas fontes. Eles nos permitem combinar as preferências das pessoas e informações locais para tomar decisões. A votação por maioria direta é um exemplo de mecanismo básico de IC. Outros incluem várias formas de fixação de preços e trocas, deliberação por consenso, definição de agenda de cima para baixo, delegação de autoridade a representantes, seleção de júris, e assim por diante.

O desenvolvimento da inteligência colectiva pode começar com mudanças bastante pequenas, como a substituição da votação por maioria directa pela votação por classificação ou pela votação quadrática. Podem permitir que as preferências sejam expressas de forma mais detalhada (permitindo uma segunda e terceira opções, ou permitindo que os “créditos de voto” sejam atribuídos de forma diferente entre diferentes questões). Isto poderia expandir-se para uma série de mecanismos, combinando elementos como mercados de previsão (que incentivam a previsão da probabilidade de eventos futuros), leilões e mecanismos de troca (que podem triangular noções de valor partilhado), financiamento retroativo (que permite pós- alocação hoc de recursos), democracia líquida (que permite ao estado alocar representação dinamicamente) e classificação (na qual uma amostra representativa das partes interessadas toma decisões em deliberação).

Esses recursos são possibilitados por tecnologias que ajudam os mecanismos de CI a escalar e interoperar em diferentes contextos. Vejamos a Wikipédia, por exemplo, uma manifestação extremamente valiosa de CI (representando quase metade do valor de todas as pesquisas do Google), que é governada por mecanismos de CI aninhados para edição, expansão e resolução de disputas. A Wikipedia não inventou a ideia de uma enciclopédia colaborativa – na verdade, o Oxford English Dictionary pode ter adotado um processo semelhante, embora analógico, de contribuições voluntárias no final do século 19 – mas tecnologias como protocolos básicos da Internet que permitem hiperlinks e wiki estruturas, tornaram isso possível em uma escala anteriormente inimaginável.

Os recentes avanços nas tecnologias de coordenação podem ter um efeito semelhante – a chave para gerir tecnologias em rápida evolução pode residir na utilização destas tecnologias para controlo. Por exemplo, organizações descentralizadas que utilizam tecnologias baseadas em blockchain estão experimentando delegação de autoridade baseada em tokens, votação quadrática, certificados de influência, tokens de votação intransferíveis e similares.

Plataformas de democracia deliberativa como a pol. is já fizeram grandes progressos utilizando algoritmos básicos de aprendizagem automática para identificar pontos de consenso entre grandes grupos com opiniões divergentes. Futuras aplicações complementares de inteligência artificial poderiam mudar o panorama da CI eficaz, representando preferências em contextos deliberativos, utilizando modelos de linguagem para identificar lacunas na argumentação ou pontos de consenso, ou calculando o consenso entre grupos de opiniões.

Isto nos leva aos sistemas de CI, que são fundamentais para impulsionar melhorias radicais. Sem sistemas bem projetados, as consequências de decisões erradas podem nunca ocorrer, ou os mecanismos podem simplesmente trazer à tona ideias que nunca são usadas (como acontece com muitos projetos de tecnologia do tipo “envie as informações ao seu representante”). A expansão dos sistemas de IC permitir-nos-á ir muito além das noções existentes de participação democrática na vida nacional, para uma rica rede de participação e progresso através de sectores, fronteiras e escalas.

Esses sistemas podem assumir a forma:

Cognição coletiva – obtenção de respostas úteis ou verdades sobre uma situação por meio de contribuições coletivas
Coordenação coletiva – sincronizar ações individuais para atingir um objetivo comum
A colaboração coletiva é a facilitação da interação entre entidades com interesses próprios diferentes e possivelmente divergentes.

Pequenos experimentos já mostraram a possibilidade de usar cada um desses componentes. Isso pode parecer um local de trabalho com suporte de IC, que usa mercados de previsão doméstica (como eles tentaram anteriormente no Google), bem como processos de discussão na equipe (usando a plataforma de discussão, como o Loomio) e a estrutura da propriedade coletiva (Como é, foi desenvolvido na saída da comunidade).

Essa ideia pode ser desenvolvida ainda mais. Imagine o mundo da abundância de bens públicos financiados pelos impostos sobre o consórcio em combinação com a participação ativa em investimentos com base em necessidades gerais. Agora, muitos projetos com retorno social incrível, da infraestrutura de transporte a pequenas empresas que beneficiarão muitos residentes da comunidade, podem definhar no Vale da Morte inovador porque não são adaptados para financiamento puramente estatal e não correspondem a incentivos de capital privado. Os mecanismos conjuntos de financiamento da CII podem eliminar essa lacuna redraviando recursos estaduais e filantrópicos para o apoio financeiro desses projetos, proporcionalmente seus benefícios para uma comunidade específica e redistribuind o-os dinamicamente, se necessário. Isso poderia direcionar melhor o financiamento da pesquisa científica, criando enormes efeitos externos positivos que não são suficientemente estimulados no sistema atual ou financiamento direto do estado para a política industrial (em vez de subsídios diretos que podem perder as informações locais necessárias ou serem propensas a capturar e consumo).

Ou imagine o mundo das empresas que usam a KI, o que colocou apoio coletivo na escala do país através do país por meio de democracia econômica eficaz. Os mecanismos avançados da KI podem expandir a contribuição e a propriedade coletiva, indo além do direito de votar em um local de trabalho ou votar uma vez a cada quatro anos. Imagine redes de produção gerenciadas com a participação de partes interessadas locais e globais que usam taxas transacionais como fontes fiscais de financiamento de investimentos a longo prazo – uma renovação radical de um monopólio regulamentado. Ou assistentes com inteligência artificial, ajudando as comunidades a encontrar compromissos entre os valores, expandindo a prática da administração baseada na comunidade e calculando vários indicadores quantitativos e qualitativos para otimização, em vez de maximizar o preço das ações. Ou plataformas que permitem que indivíduos e comunidades monitorem a influência de novas tecnologias, interdalizando efeitos externos – de uma deterioração no estado até o risco de pandemia.

É claro que conseguir isto não será fácil – mudar as estruturas de poder nunca é fácil. Académicos, desde John Dewey a Helen Landemore, enfatizaram as mudanças materiais e as condições de “educação e liberdade” – do acesso às necessidades básicas à segurança económica – necessárias para que as democracias possam verdadeiramente abraçar a inteligência colectiva. São necessários trabalho de alinhamento de incentivos, mudanças políticas, construção de bases e defesa pública para transmitir às pessoas a necessidade urgente de passar da tecnologia transformadora para a inteligência e contribuição colectivas.

Como pode ser

Para um mergulho mais profundo na criação de um sistema de CI, podemos olhar para o exemplo da gestão de dados, uma área que é duplamente importante dado o papel central dos fluxos de informação na entrega de CI em diferentes contextos.

A atual economia de dados (tal como a economia digital como um todo) é o principal motor do crescimento e progresso globais, bem como de uma confusão fragmentada, com fugas e concentração de poder. Os corretores de dados vendem e revendem dados pessoais sem qualquer controle. Grandes redes como o Facebook e o Google recolhem informações de milhares de milhões de pessoas e utilizam-nas para os interesses restritos de alguns acionistas. É apenas em breves momentos de generosidade durante uma crise, como quando a Google forneceu dados de mobilidade às cidades durante a pandemia de Covid, que o público pode ver quão vastos são estes armazenamentos de dados e quão úteis podem ser na construção de segurança e prosperidade partilhadas.