Já sou adulto o suficiente para me esconder sob uma mesa da escola. Depois de décadas, estudei física com especialistas em bombardeio. Agora ouço principalmente um eco.
Salve esta história
Salve esta história
Minha grande ideia veio até mim com um dia úmido de agosto no Long Island-Sound, capturado pelo marinheiro sem vida do dia, até os joelhos com um hóspede que eu queria agradar, com velas inúteis, sem chips de cerveja e batata , de acordo com a misericórdia de um pequeno motor de suspensão, que, é claro, falhou.
Durante um longo reboque estranho, meu convidado, que era físico, sugeriu que o “pino de corte” no motor falhou, pois foi planejado para impedir o envelhecimento e superaquecido putti para lutar até a morte – obviamente fraco e um vínculo que quebra A corrente antes do dano real ocorrerá. Que brilhante! Eu pensei. E se tal mudança no meu cérebro não me permitisse oferecer “Vamos ao iate!”Em um dia claramente projetado para um cinema com ar condicionado.
Não seria ótimo se os freios automáticos nos desligassem em nossas cabeças antes de abrirmos a boca? Ou atirar em outra pessoa?
Essa destruição direcionada é montada regularmente em quase tudo – engenheiros ou evolução. Existem rachaduras nas calçadas que permitem que você falhe, mantendo os quadrados quando são puxados por árvores; Os pár a-choques são esmagados para não bater nas pessoas; A casca de ovo está rachando facilmente para que os filhotes possam romper. Ou os ovos falham ou os filhotes.
Meu vizinho, como se viu, trabalhou no projeto de Manhattan, e nós dois pensamos imediatamente: e se esse disjuntor de segurança tivesse impedido o bombardeio de Hiroshima, que “transformou as pessoas em matéria”, como I. I. Rabi posteriormente colocou, um dos Os muitos ganhadores do Nobel que estavam presentes em sua criação. Ele também foi um dos muitos que foram assediados pelo horror e remorso pelo terrível poder destrutivo das armas e pelo objetivo pelo qual foi aplicado.
Recentemente, criadores de destaque da IA ficaram horrorizados com o poder potencialmente destrutivo de sua própria tecnologia engenhosa, que, de certo modo Tais recursos com velocidades de tirar o fôlego como água e eletricidade, em erupção de uma enorme quantidade de carbono – o que também é importante, mas não na forma útil para os seres humanos.
Alguns deles pedem freios – pelo menos sobre a limitação da velocidade para desacelerar a raça maluca para criar “mentes desumanas, que podem superar, superar, torna r-se obsoletas e nos substituir”. Essa redação é retirada da sensacional “letra aberta”, na qual milhares de tecnólogos estão solicitando oficialmente essa pausa. Alguns falam sobre a extinção da humanidade.
Mais popular
A ciência
Uma bomba demográfica de uma ação lenta está prestes a atingir a indústria de carne bovina
Matt Reynolds
Negócios
Dentro do complexo supe r-secreto Mark Zuckerberg no Havaí
Gatrine Skrimjor
Engrenagem
Primeira olhada em Matic, um aspirador de robô processado
Adrienne co
Negócios
Novas declarações de Elon Mask sobre a morte de um macaco estimulam novos requisitos para a investigação da SEC
Dhruv Mehrotra
De fato, alguns paralelos entre a bomba e nosso novo cérebro com inteligência artificial são simplesmente incríveis. Antes do Hiroshima, o físico Robert Wilson convocou uma reunião de cientistas envolvida em uma bomba para discutir o que fazer com o “gadget”. Talvez eles devam considerar algumas opções, talvez planejar uma demonstração ou algo assim, antes de soltar uma bomba nos seres humanos – us e-os como manequins para testes (como, por exemplo, carros com inteligência artificial, como alguns dizem, também usam pessoas como como manequins). O pai de “bombas, Robert Oppenheimer, recuso u-se a vir. Ele já foi capturado pelo impulso do que estava acontecendo, reconhecido como” doçura “da tecnologia e, além disso, alguém teve que fazer isso.
Hoje ouvimos os mesmos argumentos sobre a IA generativa. A tecnologia é inegavelmente tentadora. É apresentado como inevitabilidade.”Eu me console com a justificativa usual: se eu não tivesse feito isso, alguém teria feito isso”, diz Jeffrey Hinton, o “pai” da AI, um dos que agora são o alarme.
E, no entanto: mesmo depois que as bombas foram lançadas no Japão, alguns cientistas (incluindo Oppenheimer) acreditavam que havia uma janela na qual poderíamos manter tudo em segredo, interromper a apreensão global de bombas que certamente nos explodiriam em frente ao nariz. Poderíamos dizer a Stalin que temos essa arma muito legal, para tornar tudo transparente, ninguém tinha um monopólio ainda. Isso, é claro, não aconteceu; Também criamos uma bomba expandida, Stalin também, todas as comunidades do Pacífico evaporaram e agora dezenas de milhares de ogivas nucleares estão esperando por um estado de combate.
E mesmo depois que a IA entrou em nossas vidas com tanta firmeza que dificilmente percebemos, uma parte significativa dos principais pesquisadores acredita que ainda há tempo em que podemos fazer uma pausa, resumindo.“Talvez em breve tenhamos que dividir nosso planeta com“ mentes ”mais razoáveis que se preocupam conosco menos do que nos importamos com mamutes”, adverte o físico e especialista em treinamento de máquinas Max Tegmark, um dos autores da letra de pausa. Metade dos pesquisadores da IA, ele disse: “Dê à IA pelo menos uma chance de 10 % de levar à extinção da humanidade”.
Uma chance de 10 % parece ser uma base suficiente para desenvolver uma determinada versão deste PIN: um interruptor. Melhor ainda, o interruptor não é morto.
Tenho idade suficiente para me esconder debaixo de uma mesa da escola, protegendo (ha!) De bombas nucleares, que a Rússia prometeu “enterra r-nos”. Mas não sou tão velho a saber o medo não razoável do domínio mundial dos nazistas. Portanto, não condeno os criadores da bomba, embora eles já se condenassem – mesmo antes de perderem o controle de seus dispositivos.
Mais popular
A ciência
Uma bomba demográfica de uma ação lenta está prestes a atingir a indústria de carne bovina
Matt Reynolds
Negócios
Dentro do complexo supe r-secreto Mark Zuckerberg no Havaí
Gatrine Skrimjor
Engrenagem
Primeira olhada em Matic, um aspirador de robô processado
Adrienne co
Negócios
Novas declarações de Elon Mask sobre a morte de um macaco estimulam novos requisitos para a investigação da SEC
Dhruv Mehrotra
Também não entendo a tecnologia o suficiente para ter uma idéia clara de quão assustado eu deveria estar. O editor – -i n-Heief desta revista afirmou que, diferentemente da bomba, a IA generativa “não poderia destruir a humanidade com um golpe”. Mentes sérias não concordam com isso.
Mas do meu ponto de vista, quando eu estava sentado debaixo da mesa, e décadas depois estudei física com especialistas em bombardeios, ouço principalmente um eco – as mesmas palavras e frases, as mesmas conversas, justificativas estranhas nessas estradas paralelas para o apocalipse .
Vamos tomar, por exemplo, a questão de quem está no comando: Oppenheimer e muitos de seus arredores acreditavam que as únicas pessoas que têm o direito de expressar sua opinião sobre essas coisas são “pessoas inteligentes”, que, por definição (ou por padrão), significava pessoas que são bem versadas em física.
Hoje são técnicos. Eles acreditam que, como são inteligentes nesta área única, observa Peggy Nunan no Wall Street Journal, esta é a única medida de inteligência que importa. Além disso, se você não apoiar a corrida para criar cérebros de máquinas cada vez mais avançados, você é marcado por Luddite e até um traidor, que aconteceu com as pessoas, em particular com Robert Oppenheimer, que não apoiou a criação do Boga H.
A carta aberta diz o seguinte: “Tais decisões não devem ser transmitidas aos líderes tecnológicos indistintos”.
O e x-CEO do Google, Eric Schmidt, e seu novo aliado, e x-secretário de Estado Henry Kissinger, acreditam que pequenos grupos de elite devem ser coletados para considerar essa questão. Quem pertence à elite? Eu acho que nem poetas, nem artistas, nem proprietários de pequenas empresas, nem Margaret Etwood. Não importa o quão “diversificados” sejam, acredito que eles são mais semelhantes do que diferentes. Tais grupos de “elite” raramente incluem pessoas que podem repensar seriamente os mundos, fazer algo, reparar algo, fazer boas perguntas: Ludilshchiki, agricultores, professores do jardim de infância.
Warren Buffett, geralmente um otimista, comparou a IA com uma bomba atômica na assembléia anual de Berkshire Hathaway. Como muitas outras pessoas recentemente, o buffete parafraseou a declaração de Einstein de que as bombas atômicas mudaram tudo, exceto a nossa imagem de pensamento.”A IA pode mudar tudo no mundo, exceto quando as pessoas pensam e se comportam”, disse ele.
O termo técnico para essa inconsistência entre os cérebros humanos e as tecnologias que esses cérebros criam são “incompatíveis”. Se você acha que uma bomba controlada pela inteligência artificial não pode ter um objetivo, pense novamente, porque seu objetivo é destruir que isso se sai muito bem. Aviões e drones controlados pela IA não querem nos prejudicar; Eles apenas fazem o que podem, como nós.”O rinoceronte negro morreu não porque odiamos rinocerontes, mas porque éramos mais inteligentes que eles e perseguimos outros objetivos para usar seu habitat e chifres”, diz Togmark.
Mais popular
A ciência
Uma bomba demográfica de uma ação lenta está prestes a atingir a indústria de carne bovina
Matt Reynolds
Negócios
Dentro do complexo supe r-secreto Mark Zuckerberg no Havaí
Gatrine Skrimjor
Engrenagem
Primeira olhada em Matic, um aspirador de robô processado
Adrienne co
Negócios
Novas declarações de Elon Mask sobre a morte de um macaco estimulam novos requisitos para a investigação da SEC
Dhruv Mehrotra
O amigo do meu físico acreditava que a coisa mais importante que as pessoas deveriam saber sobre a bomba é que não conseguem entender: não era apenas o mesmo; Ela era 1000 vezes mais.”Mais é outro”, lembrou o físico Phil Anderson. Tudo o que se torna grande o suficiente neste universo – até você, o querido leitor, pode entrar em colapso sob sua própria gravidade e formar um buraco negro. “
Tais propriedades emergentes – muitas vezes imprevisíveis (ou pelo menos incompreensíveis) produtos de combinar muitas coisas – criam coisas maravilhosas como o cérebro (um neurônio não pode ter pensamentos), cidades, árvores e flores, clima, tempo e assim por diante. O ChatGPT não é apenas uma versão maior e mais rápida do que era antes – já cria coisas novas que não entendemos. Obviamente, não podemos prever como a IA se comportará, digamos, no conflito. Kissinger tem muito medo da IA armada.”Quando os combatentes da IA interagem de ambos os lados … você se encontra no mundo da destrutividade potencialmente completa”.
As tecnologias estão se tornando mais inteligentes, mais rápidas, fantásticas, onipresentes e onipotentes. As pessoas ainda permanecem criaturas biológicas frágeis, controladas pelo cérebro que não foram evoluídas muito desde que lutamos um com o outro com paus e pedras. A evolução nos forçou a ter medo de cobras, aranhas, grandes animais altos – não armas, não bombas nucleares, não mudanças climáticas, não inteligência artificial.”Não acho que as pessoas tenham sido criadas para isso”, disse Schmidt.
Espero que alguém tenha a mente de liberar o vento das velas. Não há nada de errado em Becalmed. Isso significa “estar calmo”. Às vezes, o percurso é deslocado e você precisa relex ê-lo novamente.
Em certo sentido, é difícil entender como essa inclinação ocorreu. Nós criamos tudo isso por nós mesmos, para nós mesmos.
É verdade que, por natureza, somos “chauvinistas de carbono”, como disse o Tegmark: gostamos de pensar que apenas essas máquinas de carne e sangue, como podemos pensar, calcular, criar. Mas a crença de que os carros não podem fazer o que fazemos, ignora a idéia principal da IA: “A inteligência é o processamento da informação e não importa se essas informações são processadas por átomos de carbono no cérebro ou átomos de silício no computador . “
Claro, há quem diga: absurdo! Tudo está bem! Melhor ainda! Que haja carros. Quanto mais cedo nos fundimos com eles, melhor; Já começamos a fazer isso com a ajuda de nossos olhos e corações de engenharia, nossos acessórios íntimos aos dispositivos. Ray Kurzweil, como você sabe, não pode esperar pelo início da singularidade, quando todas as diferenças são reduzidas a zero.”Essas são realmente as próximas décadas que precisamos sobreviver”, disse Kurzweil recentemente na frente de um público numeroso.
Mais popular
A ciência
Uma bomba demográfica de uma ação lenta está prestes a atingir a indústria de carne bovina
Matt Reynolds
Negócios
Dentro do complexo supe r-secreto Mark Zuckerberg no Havaí
Gatrine Skrimjor
Engrenagem
Primeira olhada em Matic, um aspirador de robô processado
Adrienne co
Negócios
Novas declarações de Elon Mask sobre a morte de um macaco estimulam novos requisitos para a investigação da SEC
Dhruv Mehrotra
Até Jaron Lanya, que diz que a idéia de aproveitar o poder pela inteligência artificial é estúpida, porque foi criada por pessoas, admite que a extinção da humanidade é possível – se arruinarmos seu uso e literalmente nos deixamos loucos: “Para mim , o perigo é que somos que somos que somos usamos nossas tecnologias para se tornar mutuamente obscura ou, se você quiser, ficarem loucos, para que não agiremos com entendimento suficiente e nossos próprios interesses para sobreviver, e nós morrerá por causa da loucura, de fato. ”
Talvez nós apenas nos esquesassemos.“Para perder nossa humanidade” – essa frase era frequentemente repetida por aqueles que fizeram bombas e quase tão frequentemente repetidos hoje. O perigo de tecnologias descontroladas, meu amigo-físico, escreveu, é “ansiedade de que possamos perder parte do recurso indefinível e incomum que faz as pessoas” pessoas “. Sete ou mais décadas depois, Lanya concorda com isso.”Devemos dizer que a consciência é uma coisa real e que as pessoas têm uma essência interior mística que difere de outras coisas, porque se não dissermos que as pessoas são especiais, como podemos criar uma sociedade ou tecnologia que servirá às pessoas?”
Isso importa se morrermos?
As pessoas há muito se distinguem pela capacidade de empatia, bondade, capacidade de reconhecer as emoções de outras pessoas e reagir a elas. Estamos orgulhosos da criatividade e da inovação, originalidade, adaptabilidade, mente. Auto estima. Criamos ciência, arte, música. Nós dançamos, rimos.
Mas como Jane Gudoll descobriu que os chimpanzés podem ser altruístas, fazer instrumentos, lamentar seus mortos, todos os tipos de animais, incluindo peixes, pássaros e girafas, provaram que eles são capazes de raciocinar, planejar, ter um senso de justiça, resistir à tentação e até sonhar.(Apenas pessoas, graças ao seu enorme cérebro localizado incorretamente, parece ser capaz de realmente destruir em massa).
Talvez às vezes estamos nos enganando, pensando que os animais são capazes de tudo isso, porque vamos antropomorfomasia. Certamente estamos nos enganando, pensando que os carros são nossos amigos, nossos animais de estimação, nossos proxies. Sherry, o Terkl, do Instituto Tecnológico de Massachusetts, chama a AI de “proximidade artificial” porque é muito boa na criação de relações falsas, mas de forma convincente, incluindo falsa empatia. O tempo para isso é o mais adequado. A Terra precisa urgentemente nossa atenção; Devemos fazer o possível para nos unir com a natureza e não fortalecer “nossa conexão com objetos que não se importam se a humanidade morrerá”.
Eu admito, fui apegado ao meu Roomba. Estou falando com meu balde de lixo. Eu também estou apegado ao meu gato. Talvez eu deva ter medo por ela? As mentes da máquina não precisam de pacotes de lã para ronronar de joelhos. Penso nas grandes garças azuis que assisti outro dia no castelo – suave e majestoso, carregando seus bicos, ao que parecia, galhos inteiros de árvores para construir ninhos. A vida de silício não teria motivos de preocupação. Não preste atenção a outros pássaros, abelhas e borboletas. Criaturas biológicas são produtos evolutivos que se adaptam ao meio ambiente por milhões de anos. Eles não podem acompanhar os tempos. Eles estarão por dano por lado?
