As plataformas e tecnologias o n-line do futuro próximo agravarão nosso isolamento físico e cognitivo um do outro, de certa forma semelhante à maneira como nossos corpos e mentes são controlados na prisão.
Salve esta história
Salve esta história
Cinco meses depois, minha prisão de oito meses e bem em frente ao Ano Novo Persa, Navruz, os guardas me colocaram em uma nova câmera no outro extremo do regime rigoroso de Evin em Teerã. O tamanho de 3 por 3 metros era muito maior que minha câmera antiga, o que significava que eu poderia andar oito nos cantos. Por falta de outras classes, caminhadas contínuas se tornaram minha única ocupação e eles rapidamente se tornaram dependentes.
Eu andei e andei. Ele lembrou e representou, previu e planejava todos os cenários possíveis e frequentemente falava consigo mesmo em todos os idiomas que ele possuía. Durante essas caminhadas em forma de oito, fiquei de frente para as janelas ou paredes do crepúsculo. A luz do sol penetrou na sala, colocando os caminhos de ouro no chão e depois ao longo das paredes. Ele dançou, aqueceu e depois desapareceu, prometendo voltar amanhã. As imagens apareceram na tela de mármore: uma traseira nua curva de uma mulher sentada, cercada por perfis de rostos e nuvens.
Inscrever-se para
Inscrev a-se na Wired e mantenh a-se a par de todas as suas idéias favoritas.
Privado da oportunidade de ver, eu estava procurando refúgio em sons. Havia menos luz na nova célula por causa de um avião alto e magnífico e uma amoreira bem na rua. Mas ela estava ao lado da entrada principal, o que significa que, de acordo com os padrões de Evin, ela estava mais saturada de eventos e entretenimento – pelo menos de ouvido. Ouvi como os guardas entediados fofocavam sobre seus superiores em turnos no final do corredor, como eles responderam aos pedidos de outros prisioneiros, como assistiram futebol ou drama na televisão estatal.(Eu nunca ouvi as notícias, já que eles foram estritamente recomendados para não assist i-los). Um dia, alguns segundos da versão instrumental da música Radiohead “A Punch Up at A Wedding” em uma publicidade de televisão estúpida me forçou a chorar com o coração. Eu não sabia o que queria mais: abraços ou livros. Eu suspeito que é muito raramente possível perder os dois ao mesmo tempo.
O único consolo para mim foi a nossa igualdade nesse infortúnio, ou pelo menos sua percepção. Os guardas e interrogadores sempre disseram que, em nosso departamento, eles não distribuem livros e jornais a ninguém. Eu acreditei neles porque não vi (e não ouvi) um único som.
Porém, uma tarde ouvi algo que destruiu esse pequeno conforto. Quatro pares de chinelos apareceram perto da cela, a dois andares de mim, sugerindo quatro prisioneiros que provavelmente tinham acabado de sair da solitária para serem mantidos juntos em uma grande cela. Poucas horas depois, através dos dutos de ventilação que ligam as celas, ouvi o farfalhar de jornais. Isso partiu meu coração, realmente quebrou. Esse poço comum e o que eu podia ouvir através dele me perturbaram profundamente durante os três meses seguintes. De todas as injustiças da prisão de segurança máxima, desde o vendado no pátio até o terrível uniforme cinza de poliéster e a cueca barata de náilon azul, esta foi a mais sentida.
Mas e se não houvesse dutos de ventilação comuns entre as celas através dos quais eu pudesse ouvir a outra cela? E se as câmaras forem tão grandes que nunca sentimos a presença de outras pessoas? E se eles pudessem nos tornar surdos e cegos? E se eles pudessem prender nossos sentidos da mesma forma que prendem nossos corpos? Também surgem questões mais amplas: se não soubermos nada sobre os salários dos nossos colegas ou onde e segundo que padrões vivem, poderemos saber se estamos a ser tratados de forma justa? É possível sentir-se injustiçado se não existir um espaço comum onde possamos ver e aprender sobre a vida de outras pessoas?
Mais popular
A ciência
Uma bomba-relógio demográfica está prestes a atingir a indústria da carne.
Matt Reynolds
Negócios
Dentro do complexo ultrassecreto de Mark Zuckerberg no Havaí
Guthrie Scrimgeour
Engrenagem
Primeiro, dê uma olhada no Matic, o aspirador robô redesenhado
Adriane So
Negócios
As novas alegações de Elon Musk sobre a morte de macacos estimulam novas demandas de investigação da SEC
Dhruv Mehrotra
A rara mistura de isolamento físico e cognitivo que experimentei na prisão foi uma versão exagerada da fragmentação social que está rapidamente a tornar-se uma realidade para muitas pessoas nas áreas urbanas mais desenvolvidas em todo o mundo. A pandemia acelerou um pouco esta realidade. Muitos de nós deixamos de ir ao escritório, aos eventos, às lojas, cafés e restaurantes. Dirigíamos carros ou bicicletas e evitávamos o transporte público. Máscaras faciais e outras barreiras físicas nos mantiveram afastados de outras pessoas. Quase todos os espaços públicos ou partilhados onde podíamos interagir ou mesmo olhar para estranhos desapareceram, transformando as nossas vidas num verdadeiro casulo físico, em vez do metafórico cognitivo que há tanto temíamos.
Eu chamo isso de mistura de isolamento material e cognitivo na vida cotidiana por personalização maciça da verdade. Este é um argumento muito mais amplo do que a notória “bolha de filtro”, que se concentrou apenas na filtração cognitiva ou na informação.
As plataformas rapidamente se transformam em instituições sociais que têm uma incorporação profunda e prolongada, bem como um efeito cognitivo em nossas vidas. Tecnologias do futuro mais próximo, como carros que geram aut o-angústia, conjuntos de realidade mista e entrega de carga com drones, transformarão o isolamento que experimentamos durante a pandemia em constante realidade cotidiana. Nossas chances de se encontrar ou interagir com alguém que não conhecemos serão bastante reduzidas, porque os espaços gerais para essa interação diminuirão ou nosso acesso a eles será limitado. Eles afetam nossa vida mental e material da mesma maneira que o controle sobre o corpo e a mente na prisão.
Sociedade sozinha
Uma vez que o “mercado de um” era um sonho de profissionais de marketing e fabricantes em todo o mundo. Se você tem certeza das necessidades únicas e vitais de uma pessoa, você já vendeu este produto sem ter tempo para produz i-lo. Essa forma mais alta de personalização é um lugar onde o consumo e a produção se tornam um.
Antes do início da era da inteligência artificial e do aprendizado de máquina, era difícil imaginar a personalização em escala de massa. Mas com o advento de grandes plataformas digitais, como o Google ou o Facebook, a personalização em massa finalmente apareceu: um processo automatizado e contínuo de hiperfragmentação do consumidor e prevendo suas necessidades ou desejos com base no monitoramento em massa dos dados e tecnologias de classificação complexas. No Facebook, Instagram e Twitter e o anúncio incorporado às recomendações da Amazon e da Netflix e à lista de reprodução semanal do Discover do Spotify – as empresas usam estatísticas e a probabilidade de descobrir rapidamente o que podemos precisar ou querer nos empurrar de acordo .
Mais popular
A ciência
Uma bomba-relógio demográfica está prestes a atingir a indústria da carne.
Matt Reynolds
Negócios
Dentro do complexo ultrassecreto de Mark Zuckerberg no Havaí
Guthrie Scrimgeour
Engrenagem
Primeiro, dê uma olhada no Matic, o aspirador robô redesenhado
Adriane So
Negócios
As novas alegações de Elon Musk sobre a morte de macacos estimulam novas demandas de investigação da SEC
Dhruv Mehrotra
Agora, surge a pergunta: e se o mercado de um se espalhar para as outras esferas da vida e se transformar em uma sociedade de uma?
Quando a personalização em massa vai além dos canais ou da publicidade, torna-se algo totalmente diferente: personalização em massa da verdade.“Verdade” aqui se refere à experiência vivida, incorporada e de longo prazo, bem como ao conhecimento prático e instintivo do mundo externo que cada pessoa possui.
Pense em como as plataformas poderiam controlar os nossos corpos e experiências materiais, não apenas as nossas experiências cognitivas. Eles poderiam nos levar em carros autônomos, escolhendo rotas onde compraríamos coisas que não precisamos; eles poderiam escolher quais eventos nos levariam e quais pessoas nos apresentariam, talvez com dicas visuais indicando quem abordar ou evitar; vão pedir coisas que acham que não vamos devolver, com preços personalizados para nós; eles decidirão com quem namoramos, acasalamos e reproduzimos. Eles podem não ser capazes de limitar as nossas mentes, mas são perfeitamente capazes de controlar os nossos corpos – e as nossas mentes acabarão por seguir os nossos corpos.
Uma sociedade de um só significa que viveremos de acordo com as nossas verdades pessoais, tanto no mundo mental como no físico, sem ter a oportunidade de nos familiarizarmos com as verdades dos outros. Isso pode funcionar de duas maneiras. Como descobri no confinamento solitário, no pequeno espaço partilhado de um duto de ventilação onde alguns prisioneiros tinham acesso a jornais, a justiça não pode ser realizada sem coletivismo (ou espaço partilhado). A investigação também demonstrou que quando as crianças pobres fazem amizade com as mais ricas, têm uma probabilidade significativamente maior de concluírem o ensino secundário e, subsequentemente, ganharem em média 20% mais quando adultos. Não é nenhum segredo que a segregação aprofunda a desigualdade.
Não só a justiça e a igualdade sofrerão com a personalização em massa, mas também a democracia, uma vez que mina a autonomia – uma condição necessária para qualquer conceito de cidadania. Imagine como um político pode conduzir uma campanha eleitoral simultaneamente racista e anti-racista, e até mesmo vencer, se as pessoas não forem expostas às vidas umas das outras e não incorporarem “verdades” em espaços públicos partilhados. Mesmo depois da vitória, um político pode continuar a manipular os eleitores, variando a forma como escolhem e enquadram as suas agendas e realizações, enquanto as pessoas têm menos interacções significativas com aqueles que não conhecem.
Mais popular
A ciência
Uma bomba-relógio demográfica está prestes a atingir a indústria da carne.
Matt Reynolds
Negócios
Dentro do complexo ultrassecreto de Mark Zuckerberg no Havaí
Guthrie Scrimgeour
Engrenagem
Primeiro, dê uma olhada no Matic, o aspirador robô redesenhado
Adriane So
Negócios
As novas alegações de Elon Musk sobre a morte de macacos estimulam novas demandas de investigação da SEC
Dhruv Mehrotra
Esta era uma tática comum usada por interrogadores na prisão. Eles contaram aos prisioneiros várias histórias sobre a sua origem étnica e política. Somente se os prisioneiros fossem transferidos para enfermarias públicas ou encontrassem uma maneira de interrogá-los é que poderiam perceber que estavam sendo manipulados.
A confiança também está ameaçada pela personalização em massa porque só é construída dentro de uma equipe. Quem quer voar em um avião vazio de uma companhia aérea desconhecida? Um aspecto muito perturbador do meu tempo em confinamento solitário foi que eu não podia confiar em um único fato que me contavam sobre o mundo exterior. Eu constantemente sentia que cada informação que eles compartilhavam comigo tinha a intenção de me manipular para que confessasse o que eles pensavam que eu estava escondendo.
Por exemplo, porque fui preso alguns meses antes das muito tensas eleições de 2009, não acreditei numa palavra do que disseram sobre qual o candidato que tinha iniciado a sua campanha. A desconfiança estendeu-se até a factos mundanos como quem foi nomeado treinador principal da selecção iraniana de futebol. Só meses depois, quando conheci outros presos num espaço comum, é que percebi que eles não estavam mentindo.
Neutralidade da plataforma
Uma sociedade unipessoal ainda pode parecer uma quimera em 2023 (ou um pesadelo, dependendo de quem você é), mas existia um mercado unipessoal antes da combinação de big data e aprendizado de máquina dar origem a plataformas digitais gigantes.
Ainda há tempo para evitar as consequências sombrias da personalização em massa. Uma das ideias políticas específicas que venho promovendo desde 2018 é o que chamo de “neutralidade da plataforma”: regular as plataformas para que dissociem os seus modelos ou algoritmos de IA do código subjacente, criando assim um mercado livre para algoritmos e modelos de terceiros. . que os usuários podem comprar e instalar em qualquer plataforma.
Considere instalar um modelo de IA de terceiros no Google Maps que substituirá o modelo padrão e permitirá evitar cadeias de cafés ou empresas racistas ou poluentes. Imagine se você pudesse comprar e usar um algoritmo de terceiros no Instagram que protegesse adolescentes de bullying ou automutilação. Ou considere um plugin Tinder de terceiros que tornará seu perfil invisível para seus colegas, familiares ou ex-parceiros.
No mínimo, tornará os modelos e algoritmos de IA mais transparentes e mais responsáveis.
Outra solução seria o que fiz durante meu confinamento solitário. Com uma caneta que certa vez roubei e levei para minha cela, escrevia frases curtas em letras minúsculas, seguindo as linhas naturais das pedras de mármore das paredes. Sobre a minha situação, sobre as coisas estúpidas que os interrogadores disseram ou perguntaram, sobre o que mais senti falta, palavras de músicas, conselhos a outros presos, e assim por diante. E eu assinei tudo isso com uma data. Continuei a fazer isso nas três ou quatro celas em que fui mantido durante os oito meses de confinamento solitário, e continuei a fazer isso depois.
Até hoje, dezenas de pessoas que passaram algum tempo naquelas celas viram minhas palavras, aprenderam com elas, cantaram e dançaram com elas. Foi assim que consegui perturbar suas verdades incorporadas e personalizadas.
O principal perigo da personalização em massa não é o seu efeito nas nossas mentes, mas sim nos nossos corpos. Como os representantes da maioria das civilizações asiáticas já compreenderam há muito tempo, o corpo não está separado da mente, e muitas vezes é através do corpo que ocorre uma mudança na consciência, e não vice-versa.
