Limites de explicabilidade

Acadêmicos, economistas e pesquisadores de IA subestimam frequentemente o papel da intuição na ciência. É por isso que eles estão errados.

Salve esta história
Salve esta história

Banco de dados de IA →

Quando olhamos para uma pilha de blocos ou para um pacote de Oreos, temos uma noção intuitiva de quão estável ele é, se pode cair e em que direção. Este é um cálculo bastante complexo que envolve massa, textura, tamanho, forma e orientação dos objetos na pilha.

Pesquisadores do MIT liderados por Josh Tenenbaum sugerem que nossos cérebros têm o que pode ser chamado de mecanismo físico intuitivo: a informação que podemos coletar através de nossos sentidos é imprecisa e barulhenta, mas ainda fazemos inferências sobre o que pensamos que pode acontecer, então podemos mudar de ideia. do caminho, ou correr para evitar que o saco de arroz caia, ou tapar os ouvidos. Um tal sistema “newtoniano barulhento” envolve compreensão probabilística e pode falhar. Considere esta imagem de rochas empilhadas em formações precárias.

Imagens de Stuart Dee/Getty

Com base na sua experiência, seu cérebro está lhe dizendo que eles não suportam. E ainda assim eles estão de pé.(Isso é muito semelhante aos mecanismos de física de videogames como Grand Theft Auto, que simulam a interação do jogador com objetos em seus mundos 3D).

Durante décadas, a inteligência artificial de senso comum tem sido um dos desafios de pesquisa mais desafiadores da área – inteligência artificial que “compreende” as funções das coisas no mundo real e as relações entre elas e é, portanto, capaz de inferir intenção, causalidade e significado. . A IA fez avanços incríveis ao longo dos anos, mas a maior parte da IA usada hoje é baseada no aprendizado de máquina estatística, que usa toneladas de dados de treinamento, como imagens do Google, para construir um modelo estatístico. Esses dados são marcados por humanos com rótulos como “gato” ou “cachorro”, e a rede neural da máquina é exposta a todas as imagens até que consiga adivinhar o que está na imagem com a mesma precisão que um humano.

Em tais modelos estatísticos, não há entendimento de quais objetos são, por exemplo, que os cães são animais ou que às vezes perseguem carros. Por esse motivo, para criar modelos precisos, esses sistemas exigem enormes quantidades de dados, pois estão mais envolvidos no reconhecimento de imagens do que um entendimento do que está acontecendo na imagem. Esta é uma abordagem rude de “treinamento”, que se tornou possível graças a computadores mais rápidos e enormes matrizes de dados que agora estão disponíveis.

Também é muito diferente de como as crianças estudam. O Tenenbaum geralmente mostra um vídeo gravado por Felix Varneken, Francis Chen e Michael Thomasello, do Instituto de Antropologia Evolutiva Max Planck em Leipzig (Alemanha), na qual uma criança pequena observa como um adulto se aproxima repetidamente da porta do armário, claramente querer entrar , mas não pode abr i-lo corretamente. Após várias tentativas, a criança puxa a porta, permitindo que o adulto entre. O que parece doce, mas óbvio para uma pessoa – ver apenas alguns exemplos e criar uma solução é realmente muito difícil para um computador. Uma criança que abre a porta para um adulto entende instintivamente a física da situação: há uma porta, ela tem loops, ela pode ser aberta, um adulto tentando entrar no armário, não pode simplesmente passar por ela. Além da física, que a criança entende, ele é capaz depois de várias tentativas de adivinhar que o adulto pretende atravessar a porta, mas ele não é be m-sucedido.

Mais popular
A ciência
Uma bomba demográfica de uma ação lenta está prestes a atingir a indústria de carne bovina
Matt Reynolds
Negócios
Dentro do complexo supe r-secreto Mark Zuckerberg no Havaí
Gatrine Skrimjor
Engrenagem
Primeira olhada em Matic, um aspirador de robô processado
Adrienne co
Negócios
Novas declarações de Elon Mask sobre a morte do macaco estimulam novos requisitos para a investigação da Comissão de Valores Mobiliários dos EUA
Dhruv Mehrotra

Isso requer o entendimento de que as pessoas têm planos e intenções e podem querer ou precisar de ajuda para sua implementação. A capacidade de aprender um conceito complexo, bem como descobrir as condições específicas sob as quais esse conceito é implementado, é a área em que as crianças demonstram habilidades naturais sem vigilância.

Bebês como minha filha de 9 meses aprendem por meio da interação com o mundo real, que parece treinar vários motores ou simuladores intuitivos em seu cérebro. Um deles é o motor físico (para usar o termo de Tenenbaum), que nos ensina a compreender – empilhando blocos de construção, derrubando xícaras e caindo de cadeiras – como a gravidade, o atrito e outras leis newtonianas operam em nossas vidas e definem os parâmetros. pelo que podemos fazer. .

Além disso, os bebês exibem um mecanismo social desde o nascimento que reconhece rostos, rastreia olhares e tenta compreender como outros objetos sociais no mundo pensam, se comportam e interagem com eles e entre si. Esta “hipótese de restrição social”, proposta por Patricia Cool, professora de ciências da fala e da audição na Universidade de Washington, argumenta que a nossa capacidade de falar está fundamentalmente ligada ao desenvolvimento da compreensão social através das nossas interações sociais na infância. Elizabeth Spelke, psicóloga cognitiva da Universidade de Harvard, e seus colegas estão trabalhando para mostrar como os bebês desenvolvem uma “psicologia intuitiva” que lhes permite adivinhar os objetivos das pessoas já aos 10 meses.

Em seu livro Thinking, Fast and Slow, Daniel Kahneman explica que a parte intuitiva do nosso cérebro não é tão boa em estatística e matemática. Ele propõe a seguinte tarefa. Um taco de beisebol e uma bola juntos custam US$ 1, 10. O taco custa $ 1 a mais que a bola. Quanto custa a bola? Nossa intuição diz 10 centavos, mas isso está errado. Se a bola custar 10 centavos e o taco custar $ 1 a mais, então o taco custará $ 1, 10, totalizando $ 1, 20. A resposta correta é: A bola custa 5 centavos e o taco custa $ 1, 05, totalizando $ 1, 10. Obviamente, é possível enganar a nossa intuição em relação às estatísticas, tal como as pedras empilhadas que existem no mundo natural confundem o nosso mecanismo físico interno.

Mas académicos e economistas usam frequentemente exemplos como este como razão para subestimar o papel da intuição na ciência e na investigação académica, e isto é um enorme erro. Os mecanismos intuitivos que nos ajudam a avaliar rapidamente situações físicas ou sociais realizam cálculos extremamente complexos que podem nem ser explicados; eles não podem ser calculados linearmente. Por exemplo, um esquiador experiente não consegue explicar o que está fazendo, assim como você não pode aprender a esquiar apenas lendo as instruções. Seu cérebro e todo o seu corpo aprendem a se mover, sincronizar e trabalhar de maneiras altamente complexas para entrar em um estado de fluxo onde tudo funciona sem pensamento linear.

Na infância, seu cérebro sofre enormes mudanças. Inicialmente, no cérebro do bebê, o dobro de conexões entre os neurônios estão crescendo do que em adultos e são reduzidos à medida que a criança envelhece. Seu cérebro desenvolve uma compreensão intuitiva dos sistemas complexos com os quais eles interagem: escada, mãe, pai, amigos, carros, montanhas de neve. Alguns aprendem a distinguir entre dezenas de ondas, o que os ajuda a navegar no mar ou a distinguir muitos tipos de neve. À medida que o cérebro se desenvolve, ele corta as conexões que não parecem importantes na idade adulta.

Embora nossa capacidade de explicar, discutir e se entender com a ajuda de palavras seja extremamente importante, também é importante entender que as palavras são idéias simplificadas e, para pessoas diferentes, elas podem significar coisas diferentes. Muitas idéias ou coisas que sabemos não podem ser reduzidas a palavras e, se puderem, as palavras transmitem não mais do que uma breve apresentação da idéia ou entendimento real.

Assim como não devemos rejeitar esquiadores especializados que não podem explicar como eles andam, não devemos rejeitar a intuição de xamãs que ouvem a natureza dizendo a eles que tudo ficou desequilibrado. Pode acontecer que nossa atitude em relação a muitos sentimentos dos habitantes indígenas e suas relações com a natureza como “primitiva” – porque eles não podem explicar, e não podemos entender – de fato, estamos mais associados à falta de um mecanismo de Intuição ambiental. Talvez nossos sentidos tenham desligado esses neurônios porque eles não são necessários no mundo da nossa cidade. Passamos a maior parte de nossas vidas, tendo enterrado o nariz em livros e telas, sentados nos escritórios e conseguindo uma educação para entender o mundo. Nossa capacidade de explicar as coisas é matemática ou economicamente que entendemos coisas como sistemas ambientais é melhor que o cérebro daqueles que foram imersos no ambiente natural da infância e os entendem intuitivamente?

Talvez uma grande dose de humildade e uma tentativa de integrar a compreensão não linear e intuitiva das mentes das pessoas que consideramos menos educadas – pessoas que estudaram na prática e observação, e não por livros didáticos – melhorarão significativamente nossa compreensão de como as coisas funcionam e Que possamos trabalhar para causar problemas que atualmente não estão resolvidos com a ajuda de nossas ferramentas modernas. Este é outro argumento a favor da diversidade. Os modelos reducionistas matemáticos e econômicos são úteis do ponto de vista da engenharia, mas devemos lembrar que nossa capacidade de descrever sistemas adaptativos complexos com a ajuda de tais modelos é limitada, eles não levam em consideração a intuição e o risco de negligenciar seu papel na experiência humana .

Se o Tensenbaum e seus colegas conseguirão o desenvolvimento de máquinas que possam aprender modelos intuitivos do mundo, é bem possível que eles ofereçam coisas que não possam ser explicadas inicialmente ou tão complexas que não somos capazes de compreend ê-los com a ajuda de Teorias e ferramentas existentes. Se estamos falando sobre o desejo de uma maior explicação de modelos de aprendizado de máquina e IA ou estamos tentando entender como os povos indígenas interagem com a natureza, alcançaremos o limite de explicação. É esse espaço, fora da explicação, que é uma emocionante borda frontal da ciência, onde abrimos e avançamos além da nossa compreensão atual do mundo.

Nova inteligência

O aprendizado profundo tem seus limites e desvantagens.
O Google inventou soa anteriormente desconhecida para a audição humana.
A IA pode afetar significativamente o curso da guerra – talvez até mais do que armas nucleares.

Foto: Imagens com fio/getty