Os algoritmos têm dificuldade em compreender a ambiguidade humana. Mas essas peculiaridades são uma defesa frágil contra a ameaça de hackers criados pelo homem.
Salve esta história
Salve esta história
Quão realista é o futuro dos hackers de IA?
Cortesia de W. W. Norton & amp; Empresa
Você pode comprar este livro em:
Se você comprar algo por meio de links em nossos artigos, poderemos ganhar uma comissão. Isso ajuda a apoiar nosso jornalismo. Aprender mais .
Sua viabilidade depende do sistema específico que está sendo modelado e hackeado. Para que a IA comece a otimizar uma solução, e muito menos a desenvolver uma solução inteiramente nova, todas as regras do ambiente devem ser formalizadas de uma forma que o computador possa compreender. As metas devem ser definidas – na IA elas são chamadas de funções objetivo. A IA precisa receber feedback sobre o desempenho de suas tarefas para melhorar seu desempenho.
Às vezes é uma questão pequena. Para um jogo como Go, isso é simples. Regras, objetivo e feedback – você ganhou ou perdeu?- são definidos com precisão e não há nada além deles que possa turvar as águas. A IA do GPT-3 pode escrever ensaios coerentes porque seu “mundo” é apenas texto. É por isso que a maioria dos exemplos modernos de alvos e recompensas de hacking ocorrem em ambientes simulados. São artificiais e limitados, e todas as regras são dadas pela IA.
O principal é a quantidade de ambigüidade no sistema. Podemos imaginar a introdução de leis fiscais na IA porque o código tributário consiste em fórmulas que determinam o valor do imposto. Existe até uma linguagem de programação chamada Catala que é otimizada para leis de codificação. Mas mesmo assim, todas as leis contêm alguma ambiguidade. Essa ambigüidade é difícil de traduzir em código, dificultando o manuseio pela IA. Apesar da presença da IA, os advogados fiscais estarão totalmente ocupados num futuro próximo.
A maioria dos sistemas humanos é ainda mais ambígua. É difícil imaginar a IA criando um sucesso esportivo na vida real, como um taco de hóquei curvo. A IA terá que compreender não apenas as regras do jogo, mas também a fisiologia humana, a aerodinâmica do taco e do disco, e assim por diante. Não é impossível, mas será muito mais difícil do que inventar um novo movimento em um jogo de Go.
Essa ambiguidade oculta em sistemas públicos complexos fornece proteção contra a IA de hackers em um futuro próximo. Não teremos hackers esportivos gerados pela IA até que os andróides comecem a praticar esses esportes, ou até que uma IA generalizada seja desenvolvida que possa entender o mundo em todas as suas dimensões que se cruzam. Existe um problema semelhante ao invadir jogos em um cassino ou processo legislativo.(Haverá muito tempo antes que a IA possa simular e simular o trabalho das pessoas, tanto individualmente quanto em grupos, antes que, como as pessoas, possam criar novas maneiras de invadir processos legislativos.
Mas, embora o mundo, cheio de hackers com inteligência artificial, ainda é um problema do campo da ficção científica, esse não é um problema estúpido do campo da ficção científica. As realizações no campo da IA ocorrem de forma rápida e violentamente, e os saltos nas possibilidades são instáveis e intermitentes. As coisas que consideramos complexas são simples e as coisas, que, em nossa opinião, devem ser simples, acabam sendo difíceis. Quando estudei na faculdade no início dos anos 80, fomos ensinados que o jogo nunca será dominado por um computador por causa de sua enorme complexidade: não as regras, mas o número de movimentos possíveis. Hoje, a inteligência artificial são os grandes mestres do jogo.
Mais popular
A ciência
Uma bomba demográfica de uma ação atrasada está prestes a atingir a indústria de carne
Matt Reynolds
Negócios
Dentro do complexo supe r-secreto Mark Zuckerberg no Havaí
Gatrine Skrimjor
Engrenagem
Primeira olhada em Matic, um aspirador de robô processado
Adrienne co
Negócios
Novas declarações de Elon Mask sobre a morte de um macaco estimulam novos requisitos para a investigação da SEC
Dhruv Mehrotra
E embora II possa se tornar um problema de amanhã, vemos seus precursores hoje. Devemos começar a pensar nas decisões que terão força legal, são compreensíveis e éticas, porque se pudermos esperar algo da IA, é que essas decisões precisarão de nós antes do que poderíamos esperar.
Provavelmente, o primeiro lugar onde você pode encontrar hacks criados pela inteligência artificial são os sistemas financeiros, uma vez que suas regras são desenvolvidas de tal maneira que a algoritização é passível de ser passível. Um exemplo primitivo disso são os algoritmos do comércio de alta frequência, que no futuro se tornará muito mais complicado. Pod e-se imaginar que a IA terá as informações financeiras do mundo inteiro em tempo real, todas as leis e regras mundiais, fitas de notícias e tudo o mais que, em nossa opinião, pode estar relacionado aos negócios e depois definir o objetivo de “obter o máximo lucro legal “ou possivelmente” lucro máximo que pode se safar conosco “. Acredito que isso não é tão longe e, como resultado, todos os tipos de hacks novos e completamente inesperados aparecerão. E, provavelmente, haverá tais hacks que simplesmente não podem ser passíveis de entendimento humano, o que significa que nunca entenderemos que eles estão acontecendo.
No curto prazo, provavelmente veremos hacks conjuntos de IA e homem. A IA pode revelar uma vulnerabilidade que pode ser potencialmente invadida e, em seguida, um contador experiente ou advogado tributário usando sua experiência e julgamentos decidirá se essa vulnerabilidade pode ser usada com benefício para si mesmo.
Durante quase toda a história da humanidade, exclusivamente pessoas envolvidas em hackers. A busca por novos hacks requer experiência, tempo, abordagem criativa e boa sorte. Quando a AI começa a se envolver em salto, a situação mudará. A IA não será limitada pelas mesmas maneiras ou terá os mesmos limites que as pessoas. Eles não precisarão dormir. Eles vão pensar como alienígenas. E eles vão quebrar os sistemas como não podemos prever.
Os computadores aceleraram hackers em quatro parâmetros: velocidade, escala, cobertura e sofisticação. AI irá agravar ainda mais essas tendências.
Em primeiro lugar, velocidade: o processo de hackers humano, que às vezes leva meses ou anos, pode ser reduzido para dias, horas ou até segundos. O que pode acontecer se você alimentou a IA de todo o código tributário dos EUA e ordenar que ele encontre todas as maneiras de minimizar suas obrigações fiscais? Ou, quando se trata de uma corporação transnacional, analisar e otimizar o código tributário de todo o planeta? Posso entender sem sugerir que o mais razoável para registrar a empresa em Delaware e o navio no Panamá? Quantas vulnerabilidades dos preguiços ele encontrarão, o que ainda não sabemos? Dezenas? Centenas? Milhares? Não temos idéia, mas provavelmente aprenderemos sobre isso na próxima década.
Mais popular
A ciência
Uma bomba demográfica de uma ação atrasada está prestes a atingir a indústria de carne
Matt Reynolds
Negócios
Dentro do complexo supe r-secreto Mark Zuckerberg no Havaí
Gatrine Skrimjor
Engrenagem
Primeira olhada em Matic, um aspirador de robô processado
Adrienne co
Negócios
Novas declarações de Elon Mask sobre a morte de um macaco estimulam novos requisitos para a investigação da SEC
Dhruv Mehrotra
Além disso – a escala: assim que os sistemas de IA começarem a encontrar hacks, eles poderão us á-los em uma escala para a qual simplesmente não estamos prontos. Portanto, quando a AI começa a quebrar os sistemas financeiros, ela domina esse espaço. Agora, nossos mercados de crédito, códigos fiscais e leis geralmente são tendenciosos para ricos. AI irá agravar essa desigualdade. A primeira AIS que invadirá sistemas financeiros em busca de lucro não será desenvolvida por pesquisadores que buscam igualdade, mas por bancos globais, fundos de hedge e consultores de gerenciamento.
Agora, sobre a escala: temos sistemas públicos que lidam com hackers, mas eles foram desenvolvidos quando as pessoas eram hackers, e hacks ocorreram no ritmo humano. Não temos um sistema de gerenciamento que possa lidar de maneira rápida e eficaz com o ataque de centenas – para não mencionar milhares – brechas fiscais recentemente descobertas. Simplesmente não podemos corrigir o código tributário tão rapidamente. Não poderíamos impedir o uso do Facebook para invadir a democracia; É difícil imaginar o que pode acontecer se isso acontecer. Se a inteligência artificial começar a calcular os hacks imprevistos, mas legais dos sistemas financeiros, e depois enviar a economia mundial a uma atração selvagem, a restauração será longa e dolorosa.
E, finalmente, sofisticação: hacks com a ajuda da IA abre o caminho para estratégias complexas que vão além daquelas que podem apresentar uma mente humana sem ajuda externa. Uma análise estatística complexa da IA pode identificar a relação entre variáveis e, portanto, possíveis explorações de que os melhores estrategistas e especialistas não poderiam não ser perceptíveis. Essa sofisticação pode permitir que a IA aplique estratégias que minem vários níveis do sistema de destino. Por exemplo, a IA, criada para maximizar a parcela dos votos do partido político, pode determinar a combinação exata de variáveis econômicas, mensagens de propaganda e mudanças processuais no voto, o que pode fazer a diferença entre a vitória e a derrota nas eleições, espalhando um Revolução que o software cartográfico produziu no campo de Jerrimery, em todos os aspectos da democracia. E isso sem mencionar os truques difíceis de força que a IA pode oferecer para manipular o mercado de ações, sistemas legislativos ou opinião pública.
Na velocidade do computador, escala, escopo e sofisticação, os hackers se tornarão um problema com o qual nós, como sociedade, não conseguiremos mais lidar.
Lembr o-me da cena do filme “Terminator”, no qual Kyle Reese diz a Sarah Connor sobre o ciborgue, que a caça: “Você não pode concordar com ele. Ele não pode ser acordado com ele. Ele não se sente pena ou remorso, Sem medo. E é que não vai parar, nunca … “Não estamos lidando com ciborgues matadores literais, mas como a IA se torna nosso oponente no mundo dos hacks sociais, pode ser tão difícil para nós Acompanhe sua capacidade desumana de caçar por nossas vulnerabilidades.
