Mark Andreessen (principalmente) está enganado desta vez

O principal capitalista de risco do Vale do Silício está tentando criar uma narrativa de IA generativa e, ao mesmo tempo, expõe suas contradições.

Salve esta história
Salve esta história

Mark Andreessen coloca periodicamente o mundo nos ouvidos, apresentando hipóteses de grande escala sobre o início de uma nova era tecnológica. Em seu lendário post no blog “Why the Software Eats the World”, publicado em 2011, o c o-fundador de Andreessen Horowitz trouxe então inovador e agora argumentos irrefutáveis em favor do fato de que ainda mais as empresas industriais mais antigas serão forçado a colocar o software principalmente como suas atividades. Em 2020, quando Kovi d-19 encontrou o mundo em uma escassez desesperada de máscaras e tampões nasais, ele publicou o livro “É hora de construir” – um chamado para armas para reviver investimentos em tecnologia que podem resolver problemas de prensa como pandemia, Mudanças climáticas, infraestrutura destruída e falta de moradia.

Agora ele voltou com um livro de 7. 000 palavras, na qual novamente tentou formular a essência do problema; Desta vez, estamos falando sobre o fato de que “a IA não destruirá o mundo e, além disso, pode salv á-lo”. A maior parte do artigo é dedicada à desmembramento dos cenários da morte da IA e do resto – elogie a IA como o Salvador da Civilização.

Isso, é claro, é previsível. Andreessen investe em revoluções tecnológicas, então ele tem poucos incentivos para fazer qualquer coisa, exceto sua inflação. No entanto, seu artigo tem valor em dois aspectos. Em primeiro lugar, seus óbvios “pontos cegos” é um guia útil para o pensamento dos maiores propagandistas da IA e onde eles estão enganados. Em segundo lugar, sua análise de alguns medos histéricos associados à IA realmente (até certo ponto) cai sobre o alvo.

Então, vamos mergulhar no livro.

O que é ai e o que pode ser

Andreessen já, no início, propõe uma “breve descrição da IA”: “O uso de matemática e código de software para ensinar computadores a como entender, sintetizar e gerar conhecimento de maneiras, semelhante a como as pessoas fazem isso” (alocada por mim por mim ).

Se inscrever
Inscrev a-se na Wired e mantenh a-se a par de todas as suas idéias favoritas.

Isso aparentemente inofensivo paralelo ao pensamento humano, como a frase “inteligência artificial”, esconde um enorme abismo nas possibilidades entre a mente humana e o estado moderno do aprendizado de máquina. Grandes modelos de linguagem (BYA) são algoritmos de saída estatística. Eles prevêem a seguinte coisa provavelmente na sequência de coisas, por exemplo, palavras em uma frase. Eles criam um texto muito semelhante ao humano, porque foram treinados em um grande número de textos humanos para prever o que uma pessoa escreverá.

Você já percebeu que isso remotamente não é como você “entende, sintetiza e gera conhecimento”. Você, como todas as pessoas, aprendeu sobre o mundo, interagindo diretamente com ele. Você formou idéias sobre objetos físicos, como árvores e mesas, sobre abstrações, como pobreza e ética, bem como os pensamentos e sentimentos de outras pessoas. Você aprendeu a usar o idioma para falar sobre esses conceitos e process á-los, mas o idioma para você é apenas uma camada, uma maneira de compartilhar e esclarecer sua imagem mental do mundo. Não há imagem mental para LLM; A linguagem é tudo o que é.

É claro que, recentemente, a LLM tem dado saltos incríveis em suas habilidades, o que permitiu que os pesquisadores da Microsoft dissessem que o GPT-4, o último modelo do OpenAI, contém “faíscas” de inteligência geral. E LLM não é a única direção da pesquisa no campo da IA. É possível que, com o tempo, os carros desenvolvam algo mais parecido com o nosso intelecto, embora exista todos os motivos para acreditar que, no final, será mais estranho do que humano.

Mais popular
A ciência
Uma bomba demográfica de uma ação lenta está prestes a atingir a indústria de carne bovina
Matt Reynolds
Negócios
Dentro do complexo supe r-secreto Mark Zuckerberg no Havaí
Gatrine Skrimjor
Engrenagem
Primeira olhada em Matic, um aspirador de robô processado
Adrienne co
Negócios
Novas declarações de Elon Mask sobre a morte do macaco estimulam novos requisitos para a investigação da Comissão de Valores Mobiliários dos EUA
Dhruv Mehrotra

No entanto, para o argumento de Andreessen, é importante que você perceba a IA como uma versão ideal da inteligência humanóide completa, porque ele lista alguns dos métodos em que essa forma de IA tornará o mundo melhor.

Nunca tome decisões erradas novamente?

No prometido mundo Andreesen, complementado pela IA, “cada criança terá um mentor II, infinitamente paciente, infinitamente compassivo, infinitamente conhecedor, infinitamente útil”. Cada adulto terá um “assistente/treinador/mentor/instrutor/consultor/terapeuta”, que “estará presente com todas as capacidades e problemas de vida, maximizando os resultados de cada pessoa”. O fornecimento de AI-Kocheod para pessoas influentes, como CEOs e funcionários do governo, “pode ser a mais importante de todas” adições, porque “o efeito de aumentar as melhores decisões dos líderes para as pessoas que eles gerenciam é enorme”.

Existem dois pontos cegos principais aqui. A primeira é que a suposição de que esses assistentes de IA terão “conhecimento infinito” é um exagero, dado que os LLMs agora inventam fatos rotineiramente do nada e às vezes continuam a fazê-lo mesmo quando seus usuários apontam erros.(Eles fazem isso porque, como dito acima, os LLMs são simplesmente padrões estatísticos de palavras sem nenhuma ideia da realidade por trás das palavras).

Ainda mais alarmante é a suposição de que os humanos usarão IA ainda mais avançada para tomar decisões “melhores”. Para quem é melhor? Um treinador de IA “infinitamente paciente” e “infinitamente útil” pode ficar tão feliz em ajudar seu mestre a cometer genocídio quanto em desenvolver um processo de produção mais eficiente ou um sistema de benefícios mais justo.

Ok, você diz, mas e se o assistente de IA fosse de alguma forma programado para não apenas maximizar as capacidades de uma pessoa, mas também para afastá-la das decisões sociopatas? Ótimo – exceto que Marc Andreessen será categoricamente contra tal proposta.

Grande parte de sua postagem é dedicada a atacar um dos principais medos associados à IA: a disseminação de discursos de ódio e desinformação. Para ser claro, ele não está dizendo que não espalhará discursos de ódio e desinformação. Ele está simplesmente dizendo que trazer ordem às redes sociais é difícil e difícil (é verdade!), que as pessoas que acreditam nisso são em sua maioria esquerdistas (também é verdade!), e trazer ordem à IA será ainda mais difícil porque “é provável que a IA tornar-se a camada de controle para tudo” (hmm, ok?) e, portanto, não deve ser colocado em ordem, não importando as consequências.

Esta posição pode ser aceite, mas contradiz fundamentalmente a ideia de que os treinadores de pessoas em IA – mesmo que alguma vez ultrapassem o ponto de inventar merdas e se tornem úteis – farão do mundo um lugar melhor. Se, como Andreessen insiste, programar a IA para ter valores específicos está fora de questão, então tudo o que um treinador de IA faria seria ajudar as pessoas a se tornarem melhores em tornar o mundo do jeito que elas o fazem, o que é… bem, olhe ao seu redor.

É claro que cientistas brilhantes criarão medicamentos ainda mais brilhantes para salvar vidas e produtos químicos para baterias que salvam o clima. Mas todos os predadores, criminosos, conspiradores gananciosos e manipuladores se tornarão ainda melhores no uso de outras pessoas em seu benefício. Nenhuma tecnologia na história jamais mudou a natureza humana básica.

Andreessen contra quiosques em supermercados

Outro exemplo da lógica questionável de Andreessen surge quando ele tenta combater o medo comum de que a IA deixe todos sem trabalho. O seu argumento é que a IA não é diferente dos avanços tecnológicos anteriores que não eliminaram empregos. A longo prazo, isto é certamente verdade: as novas tecnologias destroem alguns tipos de empregos e acabam por criar outros. Mas a forma como ele chega a esta conclusão é quase ridícula pela sua simplicidade.

Andreessen começa criando um espantalho: a ideia de que a IA assumirá “todos os nossos empregos”. Literalmente tudo. Ele então analisa a questão apontando a chamada “falácia da peça de trabalho”, que é “o equívoco de que em uma economia, em um determinado momento, há uma quantidade fixa de trabalho que deve ser feito, e isso é feito por máquinas ou por pessoas.” , e se for feito por máquinas, então as pessoas não terão nada para fazer.”

Eu ficaria surpreendido se o público altamente instruído de Andreessen realmente acreditasse na falácia do trabalho, mas ele vai em frente e destrói-a de qualquer maneira, introduzindo – como se fosse algo novo para os seus leitores – o conceito de crescimento da produtividade. Ele argumenta que quando a tecnologia torna as empresas mais produtivas, estas transferem as poupanças para os seus clientes sob a forma de preços mais baixos, resultando em pessoas com mais dinheiro para comprar mais coisas, o que aumenta a procura, o que aumenta a produção, numa bela economia auto-sustentável. ciclo virtuoso de crescimento. Melhor ainda, à medida que a tecnologia torna os trabalhadores mais produtivos, os empregadores pagam-lhes mais, o que significa que têm ainda mais dinheiro para gastar e o crescimento torna-se duas vezes mais poderoso.

Há muito errado nesse argumento. Quando as empresas se tornam mais produtivas, não transmitem fundos salvos aos consumidores se não forem forçados a competir ou regulamentação. Concorrência e regulamentação são fracas em muitos lugares e em muitos setores, especialmente onde as empresas se tornam maiores e dominam – lembr e-se de grandes lojas de caixa nas cidades onde as lojas locais estão fechadas.(E não se pode dizer que Andreessen não sabe disso. Seu post “Hora de construir” é direcionado contra as “forças que restringem a concorrência do mercado”, como oligopólios e apreensão das autoridades reguladoras “)

Além disso, as grandes empresas têm mais probabilidade do que as pequenas têm recursos técnicos para a implementação da IA e veem benefícios significativos com isso – afinal, II é mais útil na presença de uma grande quantidade de dados que ele pode processar. Assim, a IA pode até reduzir a concorrência e enriquecer os proprietários de empresas que a usam sem reduzir os preços para seus clientes.

Assim, embora a tecnologia possa tornar a empresa mais produtiva, às vezes apenas torna os funcionários individuais mais produtivos (o desempenho máximo de chamado). Em outros casos, simplesmente permite que as empresas automatizem parte do trabalho e contratem menos pessoas. No Livro de Daron Asemoglu e Simon Johnson “Power and Progress”, um guia longo, mas inestimável, para entender como as tecnologias influenciam os empregos historicamente, isso é chamado de “automação suave”.

Por exemplo, tome quiosques de serviço próprio nos supermercados. Eles não aumentam a produtividade do trabalho das mesas de caixa restantes, não ajudam o supermercado a atrair mais compradores ou vender mais mercadorias. Eles apenas permitem que ele liberte parte da equipe. Muitas conquistas tecnológicas podem aumentar a produtividade limitadora do trabalho, mas, conforme declarado no livro, se isso depende de como as empresas decidem apresent á-las. Alguns deles aumentam as capacidades dos trabalhadores, outros, como a automação fraca, apenas melhoram o resultado geral. E muitas vezes a empresa seleciona a primeira opção apenas se seus funcionários ou lei forem forçados a fazer isso.(Ouça como Asemoglu fala sobre isso para mim em nosso Podkasta, tem um futuro agradável).

O verdadeiro problema da IA e os empregos que Andreessen ignora completamente é que, embora muitas pessoas possam rapidamente perder seus empregos, novos tipos de empregos em novos setores e em novos mercados criados pela IA aparecerão mais tempo, e para muitos funcionários será re – qualificação difícil ou inacessível. E isso aconteceu com cada grande golpe tecnológico até agora.

Quando os ricos ficam mais ricos

Outra coisa em que Andreessen gostaria que você acreditasse é que a IA não levará a “aterrorizante desigualdade”. E, novamente, é algo como uma pessoa de palha – a desigualdade não precisa ser aterrorizante para ser pior do que hoje. Estranho, mas Andreessen, por assim dizer, bate em seu próprio argumento. Ele diz que as tecnologias não levam à desigualdade, porque o inventor da tecnologia tem um incentivo para torn á-la acessível o máximo possível. Como um “exemplo clássico”, ele dá ao esquema de Elon uma máscara para transformar Teslas de uma marca de luxo em uma massa de demanda em massa, que, como ele observa, fez da máscara uma “pessoa mais rica do mundo”.

No entanto, enquanto Musk se tornou o homem mais rico do mundo, promovendo Tesla para as massas, e muitas outras tecnologias também se tornaram enormes, os últimos 30 anos nos Estados Unidos houve um aumento lento, mas constante na desigualdade de renda. De alguma forma, isso não é como um argumento contra o fato de que a tecnologia provocou a desigualdade.

Boas coisas

Agora vamos para coisas razoáveis na obra de Andreessen. Andreessen está certo quando rejeita a idéia de que a IA sobrenatural destruirá a humanidade. Ele acredita que essa é apenas a última iteração de um meme cultural de longa data sobre criações humanas que ficaram fora de controle (Prometheus, Golem, Frankenstein) e indica que a ideia de que a IA pode decidir que todos nós é um “erro de a categoria ” – ela sugere que a IA tem sua própria mente. Em vez disso, ele diz, a IA é “códigos matemático s-códigos de computadores criados por pessoas pertencentes a pessoas usadas por pessoas controladas por pessoas”.

Esta é uma verdade absoluta, o antídoto desejado dos avisos apocalípticos de Eliezer Yudkovsky – e não corresponde à afirmação mencionada por Andreessen de que, se você der “treinador pela IA”, o mundo se tornará automaticamente melhor. Como eu disse: se as pessoas criarem, possuem, usam e controlam a IA, elas farão exatamente o que querem com ele, e isso pode incluir fritar o planeta e nítido.

Esta afirmação nos leva ao segundo ponto razoável. Aqui Andreessen se refere aos temores de que as pessoas usem a IA para fazer más ações, por exemplo, para desenvolver b i-weapons, invadir um Pentágono ou cometer um ato terrorista. Segundo ele, esses são medos bastante razoáveis, mas a decisão não é limitar a IA.

Ele está certo a um certo ponto. Essas coisas ruins que as pessoas podem fazer com a IA já são proibidas por lei, porque são ruins. O princípio geral da boa legislação é direcionar os danos, não os fundos. O assassinato é um assassinato, independentemente de ter sido cometido de uma pistola, faca ou AI controlada. A discriminação racial ao contratar é a mesma, independentemente de o empregador olhar para a sua foto, determina sua raça pelo nome em um currículo ou use o algoritmo de teste que contém um preconceito oculto não intencional contra pessoas de cores. E a legislação, desenvolvida para combater a tecnologia específica, os riscos desatualizados conforme é alterado.

No entanto, alguns métodos de dano são tão eficazes que outros que exigem legislação especial. Mesmo na maioria das permissões dos Estados Unidos, nem todos têm permissão para usar e usar armas, sem mencionar armas maiores. Se o assassinato com a ajuda de um drone controlado por IA se tornará comum, você pode ter certeza de que veremos leis mais rigorosas sobre drones.

Os crimes que usam IA também podem exigir mudanças não tanto na legislação quanto na prática de aplicação da lei. As autoridades podem precisar de novos métodos para investigar esses crimes, assim como tiveram que aprender a rastrear traficantes de drogas que vendem em uma rede escura usando criptomoeda.

Em alguns casos, a solução para o problema não está em novas leis, mas na adoção de padrões pela indústria. É difícil fazer a disseminação de informações erradas com um crime, especialmente nos Estados Unidos, dado o quão politizada será a definição de desinformação. Mas, como Andreessen observa, “se estiver preocupado que a IA gerem pessoas falsas e vídeos falsos, a resposta é criar novos sistemas nos quais as pessoas poderão se confirmar e conteúdo real usando assinaturas criptográficas”.

Sim, e eu diria que é necessário dar mais algumas etapas. Em primeiro lugar, as empresas de desenvolvimento de IA devem aceitar o padrão geral para colocar assinaturas digitais em imagens e vídeos criados pela IA.(Pelo menos um desses padrão já existe – Iniciativa de autenticidade de conteúdo, que também oferece um método de verificação do conteúdo, mesmo que a assinatura tenha sido removida). Em seguida, as plataformas de redes sociais, sites de notícias etc. devem marcar qualquer conteúdo que todos que o venham conhecem sua origem sem a necessidade de procur á-lo.

Andreilsen falou anteriormente sobre grandes mudanças tecnológicas. Em certo sentido, é gratificante que ele esteja tentando faz ê-lo novamente. A maioria das discussões públicas atuais sobre a IA é uma mistura tão histérica de paranóia apocalíptica e utopismo sem vida que ninguém consegue assumir uma posição clara. As palavras de Andreessen têm peso para muitas pessoas, e é bom que destrua alguns dos medos mais óbvios errôneos.

Infelizmente, como ele faz isso, parece quase uma aut o-paródia de seu manifesto “o software devorando o mundo”. Mas se nada mais for deixado, ajuda a esclarecer o vazio de desgraça e hype. O problema – como eu já escrevi – é que as pessoas, aparentemente, são muito difíceis de pensar em outros termos.