“Os decodificadores neurais, lendo pensamentos, podem significar o fim da vida privada. Mas todas as consequências dessa tecnologia são ainda mais graves.
Salve esta história
Salve esta história
Ao longo dos séculos, a mentalidade atingiu multidões de pessoas, pois parecia penetrar nas profundezas de suas almas, descobrindo facilmente as memórias, desejos e pensamentos da platéia. Agora, há temores de que os neurologistas possam fazer o mesmo desenvolvendo tecnologias que podem “decodificar” nossos pensamentos e expor o conteúdo oculto de nossa mente. Embora a decodificação neural tenha sido desenvolvida por várias décadas, ela entrou na cultura popular no início deste ano, graças a uma série de obras de alto perfil. Em um deles, os pesquisadores usaram dados de eletrodos implantados para restaurar a música Pink Floyd, que foi ouvida pelos participantes experimentais. Em outro trabalho publicado na revista Nature, os cientistas combinaram a varredura cerebral com os geradores da linguagem com base na inteligência artificial (como ChatGPT e ferramentas semelhantes) para traduzir a atividade cerebral em frases coerentes e contínuas. Esse método não exigiu intervenção cirúrgica invasiva e, no entanto, possibilitou restaurar o significado da história de um discurso puramente imaginário e não falado ou ouvido.
Manchetes dramáticas com ousadia e prematuramente anunciaram que “a tecnologia dos pensamentos de leitura já apareceu”. Atualmente, esses métodos exigem que os participantes em um enorme tempo no FMRT para que os decodificadores possam ser treinados em dados cerebrais específicos. No estudo da natureza, os sujeitos realizados no aparelho até 16 horas, ouvindo histórias e, mesmo depois disso, poderiam, se quisessem enganar o decodificador. Como Jerry Tang disse, um dos principais pesquisadores, nesta fase, essas tecnologias não são dispositivos onipotentes para ler pensamentos que podem decifrar nossas crenças ocultas, mas representam um “dicionário entre padrões de atividade cerebral e descrições de conteúdo mental”. Sem um participante voluntário e ativo que fornece atividade cerebral, esse dicionário é inacessível.
Se inscrever
Inscrev a-se na Wired e mantenh a-se a par de todas as suas idéias favoritas.
No entanto, os críticos afirmam que podemos perder a “última linha de privacidade” se permitirmos que essas tecnologias se desenvolvam sem supervisão atenciosa. Mesmo se você não aderir a esse pessimismo no espírito dos technooks, o ceticismo geral raramente é uma má idéia. O pai do PR “Edward L. Bernies não era apenas o sobrinho de Freud, mas também usou ativamente a psicanálise em sua abordagem à publicidade. Hoje, várias empresas contratam cognitologistas para” otimizar “as impressões do produto e interceptar sua atenção. A história nos garante que, Assim que os cálculos financeiros forem justificados, as empresas que desejam ganhar vários dólares ficarão felizes em introduzir essas ferramentas em suas atividades.
No entanto, a concentração na confidencialidade levou ao fato de não entendermos todas as consequências do uso dessas ferramentas. No discurso, essa nova classe de tecnologia está posicionada como dispositivos invasivos para ler pensamentos no pior caso e mecanismos de tradução neutra da melhor maneira possível. Mas essa imagem ignora uma natureza verdadeiramente porosa e confusa da mente humana. Não seremos capazes de avaliar toda a escala das capacidades e riscos dessas ferramentas, até aprendermos a consider á-las como parte de nosso aparato cognitivo.
Ao longo de quase toda a história da humanidade, a mente foi representada como um certo livro ou banco de dados privado interno – uma região aut o-suficiente, que está em algum lugar dentro de nós e é habitada por pensamentos fixos, acesso ao qual somente nós mesmos. Se imaginarmos a mente como um diário privado contendo pensamentos claramente definidos (ou “internalismo”, como às vezes é chamado), então não é tão difícil se perguntar como podemos abrir esse diário para o mundo exterior – como alguém do lado Pode decifrar a linguagem oculta da mente para penetrar neste santuário interno. Os teólogos acreditavam que esse acesso pode ser obtido do princípio divino através de Deus, capaz de ler nossos pensamentos mais secretos. Freud acreditava que um psicanalista experiente seria capaz de resolver o verdadeiro conteúdo da mente usando métodos hermenêuticos, como a interpretação dos sonhos. Descartes, um homem do Iluminismo, aderiu a uma hipótese mais física. Ele argumentou que nossas almas e mentes estão intimamente ligadas à glândula pineal e expressam sua vontade. Assim, ele revelou o caminho para a idéia de que, se pudermos estabelecer a correspondência correta entre o pensamento e os movimentos corporais, podemos trabalhar na direção oposta, atingindo o conteúdo mais mental.
Abordagens mais modernas seguiram seus passos. Os polígrafos, ou detectores de mentiras, tentam usar mudanças fisiológicas para ler o conteúdo de nossas crenças. A própria palestra de Tang sobre o decodificador de pensamento como um “dicionário” entre varreduras cerebrais e conteúdo de pensamento expressa uma versão moderna da ideia de que podemos decifrar a mente por meio do corpo neural. Mesmo os críticos da descodificação do pensamento, com as suas preocupações sobre a privacidade, consideram esta teoria internalista da mente um dado adquirido. É precisamente por causa da natureza supostamente oculta dos nossos pensamentos que a ameaça do acesso externo é tão profundamente perturbadora.
Mais popular
A ciência
Uma bomba-relógio demográfica está prestes a atingir a indústria da carne bovina.
Matt Reynolds
Negócios
Dentro do complexo ultrassecreto de Mark Zuckerberg no Havaí
Guthrie Scrimgeour
Engrenagem
Primeiro, dê uma olhada no Matic, o aspirador robô redesenhado
Adriane So
Negócios
As novas alegações de Elon Musk sobre a morte de macacos estimulam novas demandas de investigação da SEC
Dhruv Mehrotra
Mas e se a mente não estiver tão isolada de nós como imaginamos? No século passado, os teóricos começaram a formular um conceito alternativo de mente que confronta a consciência solipsista, mostrando como ela leva a paradoxos. Um dos argumentos mais radicais a esse respeito vem do falecido lógico e filósofo Saul Kripke, que expandiu o conceito de uma “linguagem privada” – a suposta linguagem interna e oculta do pensamento, inteligível apenas para o pensador – e criticou a visão de a mente como uma entidade autossuficiente. Segundo Kripke, qualquer pensamento que fosse privado e acessível apenas ao pensador acabaria por se tornar incompreensível até mesmo para ele.
Para entender o que Kripke está tentando dizer, vamos primeiro pegar dois conceitos de cores: verde e verde (um conceito encontrado em diversas culturas que se refere tanto a objetos verdes quanto a azuis). Digamos que você seja uma pessoa que nunca viu a cor azul antes – talvez você more em algum lugar fora do continente e esteja sempre nublado lá. Você olha para uma árvore e pensa: “Esta árvore é verde”. Até agora tudo bem. Mas é aqui que as coisas ficam estranhas. Digamos que alguém venha até você e diga que o que você realmente quis dizer não foi que a árvore é verde, mas que ela é verde. Esta é uma distinção conceitual que você nunca fez para si mesmo, então você tenta pensar; mas quando o faz, você percebe que não há nada em seu comportamento ou pensamentos passados que você possa usar para se convencer de que realmente quis dizer madeira verde e não molhada. Como não há um único fato em sua mente que você possa apontar para provar que realmente quis dizer verde, a ideia de que o significado de nossos pensamentos é de alguma forma internamente evidente, completo e transparente para nós começa a desmoronar. O significado e a intenção não podem surgir apenas no domínio privado e seguro da consciência, uma vez que a nossa própria consciência interior está repleta de incerteza.
Este exemplo nos aponta para algo estranho em nossa cognição. Temos cérebros finitos, mas os conceitos mentais têm aplicações infinitas, e nesta lacuna surge uma imprecisão fundamental. Muitas vezes não temos certeza do que queremos dizer e tendemos a superestimar a validade e a integridade de nossos próprios pensamentos. Muitas vezes eu fazia uma declaração e, quando solicitado a esclarecer, percebi que não tinha certeza do que queria dizer. Como observou o escritor Mortimer Adler: “O homem que diz saber o que pensa, mas não consegue expressá-lo, geralmente não sabe o que pensa”.
Mais popular
A ciência
Uma bomba-relógio demográfica está prestes a atingir a indústria da carne bovina.
Matt Reynolds
Negócios
Dentro do complexo ultrassecreto de Mark Zuckerberg no Havaí
Guthrie Scrimgeour
Engrenagem
Primeiro, dê uma olhada no Matic, o aspirador robô redesenhado
Adriane So
Negócios
As novas alegações de Elon Musk sobre a morte de macacos estimulam novas demandas de investigação da SEC
Dhruv Mehrotra
Se considerarmos a mente como uma entidade privada, autossuficiente e autossuficiente, então nossos pensamentos tornam-se estranhamente sem sentido, imateriais, ilusórios. Quando permanecemos sozinhos, isolados do mundo exterior, nossos pensamentos flutuam com o fluxo, sem estarem ancorados, e somente quando estão entrelaçados no mundo material e social mais amplo é que adquirem peso e significado pleno. Estes argumentos encorajam-nos a ver que um pensamento não é uma coisa estável que armazenamos passivamente numa consciência privada e interna; em vez disso, ocorre entre nós e nosso ambiente. Em outras palavras, os pensamentos não são tanto o que você tem, mas o que você faz com o mundo ao seu redor.
Cientistas cognitivos e psicólogos começaram a desenvolver esta visão “externalista” da mente. Por exemplo, começaram a estudar o papel da interacção social na cognição e a utilizar a distribuição física da mente para compreender melhor fenómenos como a memória transactiva, a recordação partilhada e o contágio social. Pensar não é apenas algo que acontece dentro do nosso crânio, mas também um processo que envolve o nosso corpo, bem como as pessoas e objetos ao nosso redor. Como Annie Murphy Paul escreve em seu livro The Expanded Mind, nossos sinais “extraneurais” não apenas “mudam a maneira como pensamos”, mas “fazem parte do próprio processo de pensamento”.
Se a mente não é apenas uma entidade estável e auto-suficiente que fica sentada à espera de ser lida, então é um erro pensar que estes descodificadores de pensamentos actuarão simplesmente como relés neutros, transmitindo pensamentos internos para uma linguagem pública. Estas máquinas não serão máquinas que descrevem puramente pensamentos – como se fossem uma entidade separada que nada tem em comum com o sujeito pensante – mas terão a capacidade de caracterizar e registar os limites e fronteiras de um pensamento no próprio acto de decodificar e expressar esse pensamento. Pense nisso como o gato de Schrödinger – o estado de um pensamento se transforma à medida que é observado, transformando sua imprecisão em algo concreto.
Para ver um exemplo semelhante de outra área, podemos simplesmente entrar em contato com os algoritmos. Os autores que escrevem sobre tecnologias observaram há muito tempo que, embora os algoritmos se posicionem como agnósticos, com base nesses preditores de seus desejos, eles realmente ajudam a formar e formar seus desejos no processo de previsão, transformando você em consumidores ideais. Eles não apenas coletam dados sobre o usuário, eles o transformam em uma pessoa que corresponde às necessidades da plataforma e de seus anunciantes. Além disso, é graças à capacidade do algoritmo de se posicionar como uma verdade neutra e objetiv a-buscando que ele possa fazer isso com tanta eficiência. Nosso esquecimento nos torna especialmente suscetíveis a uma reforma sutil. Da mesma forma, a narrativa atual em torno dos decodificadores dos pensamentos perde metade da imagem, ignorando a capacidade dessas ferramentas de voltar e mudar o próprio pensamento. Esta é uma questão não apenas de interrogatório, mas também para projetar.
Mais popular
A ciência
Uma bomba-relógio demográfica está prestes a atingir a indústria da carne bovina.
Matt Reynolds
Negócios
Dentro do complexo ultrassecreto de Mark Zuckerberg no Havaí
Guthrie Scrimgeour
Engrenagem
Primeiro, dê uma olhada no Matic, o aspirador robô redesenhado
Adriane So
Negócios
As novas alegações de Elon Musk sobre a morte de macacos estimulam novas demandas de investigação da SEC
Dhruv Mehrotra
O não reconhecimento do potencial de formação dessas tecnologias pode levar ao desastre a longo prazo. Os detectores de mentiras, a tecnologia anterior, foram usados pela polícia para implantar falsas memórias ao suspeito. Em um caso, o adolescente começou a duvidar de sua própria inocência depois que o sargento o enganou, fazend o-o pensar que havia falhado no teste do detector de mentiras. Sua fé na neutralidade e objetividade do dispositivo o forçou a sugerir que ele suprimiu as memórias de um crime violento, o que acabou levando ao reconhecimento e condenação, que foi cancelado apenas mais tarde, quando o promotor encontrou evidências de absolvição. É importante entender que as ferramentas que supostamente relatam sobre nosso conhecimento também fazem parte do sistema que eles descrevem; A fé cega pode nos tornar vulneráveis a uma forma realmente profunda de manipulação. É importante observar que a tecnologia não precisa ser difícil ou precisa para ser usada dessa maneira (no final, a eficácia dos detectores de mentiras foi rejeitada pela comunidade psicológica). Para abrir essa confusão cognitiva, basta acreditar que esses carros são neutros e confiam em seus resultados.
Não há como negar os benefícios potenciais que as ferramentas de “decodificação do pensamento” podem trazer. As pessoas estão pensando em como poderíamos usá-los para nos comunicarmos com pacientes não-verbais e paralisados, para devolver a voz àqueles que atualmente não conseguem se expressar. Mas à medida que continuamos a desenvolver estas ferramentas, é importante vê-las como dispositivos em diálogo com o seu objecto. Como em qualquer diálogo, devemos ter cuidado com os termos incluídos e excluídos, com a sintaxe e a estrutura implícitas nos seus parâmetros. Quando concebemos estes aparatos, incluímos termos que estão fora do nosso território linguístico típico – palavras que tentam forjar novas formas de pensar sobre o género, o ambiente ou o nosso lugar no mundo? Se não incluirmos tais termos no design destas tecnologias, estas ideias não se tornarão, em certo sentido, literalmente impensáveis para os utilizadores? Estas preocupações não estão muito distantes dos argumentos estabelecidos de que devemos ter cuidado com os dados nos quais treinamos a IA. Mas quando se considera que estas IAs podem expressar – e, portanto, moldar – os nossos pensamentos, parece especialmente importante que acertemos.
Os mentalistas, sem surpresa, sabiam de tudo isso muito antes de a filosofia, a teoria e a ciência cognitiva moderna se tornarem conhecidas por eles. Apesar de sua marca paranormal, eles não eram realmente capazes de telepatia. Em vez disso, com a ajuda de sugestões, inferências e bastante engenhosidade, eles forçaram seus ouvintes a pensar exatamente da maneira que queriam. Eles compreenderam as propriedades externas da mente e os seus muitos processos interligados – como os pensamentos que nos parecem tão pessoais, que parecem ser o produto apenas da nossa vontade, são constantemente moldados pelo mundo que nos rodeia – e usaram isto em seu proveito. . No entanto, aprendendo como esse truque é feito, podemos dissipar essa ilusão e aprender a assumir um papel mais ativo na formação dos nossos próprios pensamentos.
