Banco de dados de inteligência artificial →
“Não sei programar e isso me frustra porque agora, com tantos livros, cursos e acampamentos, há tantas oportunidades de aprender. Suspeito que serei capaz de compreender muito melhor a revolução das máquinas se eu falar a língua deles. Devo pelo menos tentar?”
-Decodificador
Caro Decodificador, seu desejo de falar a “linguagem” das máquinas me lembrou a história de Ted Chiang “A Evolução da Ciência Humana”. A história imagina um futuro em que quase todas as disciplinas científicas serão dominadas por “metahumanos” superinteligentes, cuja compreensão do mundo excede em muito a dos humanos. Relatos de novas descobertas metahumanas – embora sejam ostensivamente escritos em inglês e publicados em revistas científicas que qualquer um pode ler – são tão complexos e tecnicamente obscuros que os cientistas humanos foram relegados ao papel de teólogos que tentam interpretar textos que lhes são tão familiares. … tão incompreensível quanto a vontade de Deus para os escolásticos medievais. Em vez de conduzirem pesquisas originais, esses aspirantes a cientistas praticam agora a arte da hermenêutica.
Solução de problemas espirituais na era digital
Para obter orientação filosófica sobre tecnologia de reuniões, abra um ticket de suporte por e-mail; ou cadastre-se e deixe um comentário abaixo.
Houve um tempo, não muito tempo atrás, em que a codificação era considerada uma das habilidades mais promissoras que colocaria uma pessoa na elite tecnológica que moldaria o nosso futuro. A história de Chiang, publicada pela primeira vez em 2000, foi presciente na sua capacidade de prever os limites deste conhecimento. Em áreas como aprendizagem profunda e outras formas de IA avançada, muitos tecnólogos já se parecem mais com teólogos ou alquimistas do que com “especialistas” no sentido moderno da palavra: embora escrevam códigos básicos, muitas vezes não conseguem explicar o surgimento de códigos de nível superior. níveis de habilidades que seus programas desenvolvem à medida que aprendem com os conjuntos de dados.(Ainda me lembro do choque quando, em 2016, David Silver, cientista-chefe da DeepMind, disse que não conseguia explicar como o programa AlphaGo que ele desenvolveu foi capaz de desenvolver sua estratégia vencedora: “Ele descobriu por conta própria”, disse Silver, “durante o próprio processo de introspecção e análise”).
Enquanto isso, algoritmos como GPT-3 ou Copilot do Github aprenderam a escrever código, causando disputas que os desenvolvedores de software, cuja profissão já foi considerada uma ilha tranquila na próxima automação do tsunami, em breve pode perder sua relevância e incitar o medo existencial de auto-programação. Os cenários de “IA fluente” são baseados na possibilidade de que as máquinas aprendam a se desenvolver de forma independente e, embora os algoritmos de codificação não iniciem a apreensão da Skynet, eles causam preocupação razoável com a crescente opacidade de nossas tecnologias. No final, a IA tem uma tendência estabelecida de encontrar soluções idiossinocrazic e inventar idiomas especiais que não são passíveis de intuição humana. Muitos, por razões óbvias, começaram a se perguntar: o que acontecerá quando as pessoas não conseguirem mais ler o código?
Menciono tudo isso, um decodificador para reconhecer as duras realidades, e não para menosprezar suas ambições, que considero rotular. Nesse sentido, os medos predominantes sobre a obsolescência dos programadores me parecem alarmistas e prematuros. O código automatizado de uma forma ou de outro existe há várias décadas (lembr e-se dos editores da Web da década de 1990 que geraram HTML e CSS), e até os algoritmos de codificação mais avançados estão atualmente sujeitos a erros simples e requerem um controle humano considerável. Também me parece que você não está se esforçando para fazer uma carreira no campo da codificação, pois é guiado por um senso mais profundo de curiosidade. Talvez você esteja considerando os prazeres criativos do hobby – participação em projetos de código aberto ou a proposta de corrigir erros simples nos programas que você usa regularmente. Ou talvez você tenha ficado intrigado com a oportunidade de automatizar os aspectos tediosos do seu trabalho. Se eu entendo sua pergunta corretamente, acima de tudo, você deseja ter uma idéia mais completa da linguagem em que a maior parte da vida moderna é construída.
Se inscrever
Inscrev a-se na Wired e mantenh a-se a par de todas as suas idéias favoritas.
Há argumentos convincentes a favor do fato de que a codificação hoje é uma das principais formas de alfabetização – que o conhecimento de estruturas de dados, algoritmos e linguagens de programação é tão importante quanto a leitura e a escrita quando se trata de entender as grandes ideologias nas quais nós somos tecidos. Obviamente, é natural não confiar em amadores.(Muitas vezes, condeno os desenvolvedores de amador pelo fato de que eles sabem exatamente tanto quanto criar caos, dominar a sintaxe das linguagens de programação, mas não tenho nenhuma previsão ou visão necessária para criar produtos de sucesso.) Mas esse membro da experiência também pode ser considerado como uma disciplina de humildade. Uma das vantagens do conhecimento amador é que elas, em regra, despertam curiosidade simplesmente devido ao fato de serem impressionantes para iniciantes com o pouco que sabem. Na era das interfaces simplificadas e convenientes, é muito sedutor levar nossas tecnologias para uma moeda limpa, não prestando atenção aos incentivos e planos escondidos sob a superfície. Mas quanto mais você aprende sobre a estrutura subjacente, mais questões básicas o preocupam: como o código é convertido em impulsos elétricos? Como o design do software muda sutilmente a experiência dos usuários? Qual é a base de princípios como acesso aberto, uso conjunto e comunidade digital? Por exemplo, um usuário aleatório pode parecer que as plataformas sociais são criadas para associ á-lo aos amigos e fornecer informações úteis. No entanto, a consciência de como o site é organizado inevitavelmente forças para abordar mais criticamente a questão de como eu
Por fim, esse conhecimento pode nos proteger do fatalismo. Aqueles que entendem como e por que o programa está sendo criado terão menos probabilidade de aceitar seu design como inevitabilidade. Você falou sobre a revolução da máquina, mas vale a pena mencionar que as revoluções históricas mais famosas (iniciadas, ou seja, as pessoas) foram o resultado da alfabetização em massa em combinação com inovações tecnológicas. A invenção da imprensa e a demanda por livros do novo público competente lançaram as bases para a Reforma Protestante, bem como as revoluções francesas e americanas. Quando uma parte significativa da população aprendeu a ler por conta própria, ela começou a duvidar da autoridade de padres e reis e a inevitabilidade de idéias dominantes.
Os tecnólogos que agora resolvem as questões éticas mais agudas – sobre a justiça dos valores de dados, automação e IA – geralmente enfatizam a necessidade de um debate público mais amplo, mas o diálogo sutil é difícil quando o público em geral não tem conhecimento fundamental suficiente sobre o tecnologias discutidas.(Basta olhar para as recentes audiências no subcomitê dos representantes da Câmara dos EUA para entender a que distância da compreensão das tecnologias que eles estão tentando regular). Como autor do The New York Times, escrevendo sobre tecnologia, Kevin Ruz, os modelos avançados de IA são desenvolvidos “portas fechadas” e os habitantes curiosos estão cada vez mais tendo que limpar os relatórios esotéricos sobre sua estrutura interna – ou aceitar explicações de especialistas para a fé.”Quando as informações sobre as [essas tecnologias] se tornam públicas”, ele escreve, “muitas vezes é suavizado pelo PR corporativo ou é enterrado em obras científicas obscuras”.
Se a história de Chiang é uma parábola sobre a importância de manter as pessoas “em saber sobre o assunto”, também é um argumento sutil em favor do círculo do conhecimento ser o mais amplo possível. Naquele momento, quando a inteligência artificial é melhor e melhor falar nossas línguas, nos atingindo com sua capacidade de ler, escrever e conversar para que possa parecer humano plausível, a necessidade de as pessoas entenderem os dialetos da programação está se tornando cada vez mais urgente. Quanto mais de nós, é capaz de falar neste jargão, maior a probabilidade de permanecermos os autores da revolução da máquina, e não de seus intérpretes.
Sinceramente,
Nuvem
Informamos que o tempo de espera no serviço de suporte a nuvem excede o habitual e obrigado por sua paciência.
Se você comprar algo dos links em nossos artigos, podemos obter uma comissão. Isso ajuda a apoiar nosso jornalismo. Aprender mais .
Este artigo foi publicado na edição para março de 2023. Inscreva-se agora.
Dig a-nos o que você pensa sobre este artigo. Envie uma carta para o editor em manch@wird. com.
