Ai pode se tornar um poder extraordinário do bem se for o mei o-fio

Até agora, ninguém tem um plano para regular a IA. Aqui estão as perguntas que os líderes devem fazer para restringir a onda iminente.

Botão/pausa de reprodução
Pausa
Vídeo: funcionários com fio; Getty Images
Salve esta história
Salve esta história

No verão de 2010, no escritório bizarro da Regency of the Regency, com vista para a Russell Square em Londres, eu, juntamente com dois amigos, Demis Hassabis e Shane Leggy, fundou uma empresa chamada DeepMind. Nosso objetivo, que ainda parece tão ambicioso, louco e encorajador, como então, estava reproduzindo o que nos torna únicos como forma: nosso intelecto.

Para fazer isso, precisávamos criar um sistema que pudesse imitar e depois superar todas as habilidades cognitivas de uma pessoa, da visão e da fala ao planejamento e imaginação e, finalmente, empatia e criatividade. Como esse sistema pode aproveitar o processamento paralelo de dados em supercomputadores e um grande número de novas fontes de dados na Internet aberta, entendemos que mesmo o progresso modesto em alcançar esse objetivo teria profundas consequências para a sociedade.

Naquela época, pareci a-nos que estava muito longe.

Mas o II está subindo as escadas das habilidades cognitivas há várias décadas, e parece que nos próximos três anos atingirá o nível de capacidades humanas em uma ampla gama de tarefas. Esta é uma grande declaração, mas se eu estiver pelo menos um pouco certo, as consequências serão realmente profundas.

Um progresso adicional em uma área acelera outros em um processo de repouso caótico e cruzado, que ninguém pode controlar diretamente. Ficou claro que, se nós ou outros conseguimos reproduzir a inteligência humana, não será apenas um negócio lucrativo, como de costume, mas uma mudança sísmica para a humanidade, que abre uma época em que oportunidades sem precedentes serão acompanhadas por riscos sem precedentes. Agora, juntamente com muitas tecnologias, incluindo biologia sintética, robótica e cálculos quânticos, começa uma onda de IA em rápido desenvolvimento e a IA extremamente capaz. O fato de que, na época da fundação, o DeepMind nos pareceu um kiksoid se tornou não apenas crível, mas também parece inevitável.

Como criador dessas tecnologias, acredito que elas podem trazer muitos benefícios incomumente. Mas sem isso eu chamo a contenção, todos os outros aspectos da tecnologia, todas as discussões de suas desvantagens ou vantagens éticas que ela pode trazer, não importam. Considero a dissuasão um conjunto interconectado de mecanismos técnicos, sociais e legais que limitam e controlam a tecnologia que funciona em todos os níveis possíveis: teoricamente, esse é um meio de evitar o dilema como manter o controle sobre as tecnologias mais poderosas da história. Precisamos urgentemente respostas impenetráveis à questão de como controlar e restringir a onda iminente, como manter garantias e as possibilidades de um estado nacional democrático, o que é fundamental para gerenciar essas tecnologias e ao mesmo tempo sob sua ameaça. Agora ninguém tem esse plano. Isso indica um futuro que nenhum de nós deseja, mas tenho medo de que esteja se tornando cada vez mais provável.

Diante de enormes incentivos enraizados que levam a tecnologia para a frente, a restrição, à primeira vista, é impossível. E, no entanto, para o bem de todos nós, a restrição deve ser possível.

Cortesia de Crown

Você pode comprar este livro em:

Se você comprar algo dos links em nossos artigos, podemos obter uma comissão. Isso ajuda a apoiar nosso jornalismo. Consulte Mais informação

Parece que a chave da restrição é a regulamentação hábil nos níveis nacional e supranacional, equilibrand o-se entre a necessidade de alcançar o progresso e as restrições razoáveis de segurança, cobrindo tudo, desde gigantes tecnológicos e militares a pequenos grupos de pesquisa universitária e startups – e relacionados a um abrangente abrangente estrutura que garante a conformidade com a lei da lei. Já fizemos isso antes, dizem os autores: Olhe para carros, aviões e medicamentos. Não é para que possamos gerenciar e restringir a próxima onda?

Se tudo fosse tão simples. A regulamentação é necessária. Mas uma regulamentação não é suficiente. À primeira vista, os governos devem estar melhor preparados para gerenciar novos riscos e tecnologias do que nunca. Os orçamentos estaduais para esses fins geralmente estão em um nível recorde. No entanto, de fato, novas ameaças são simplesmente extremamente complicadas para qualquer governo. Esta não é a falta da idéia do governo; Esta é uma avaliação da escala da tarefa que enfrentamos. Os governos estão travando a última guerra, a última pandemia, regulam a última onda. Os reguladores regulam o que podem prever.

Mais popular
A ciência
Uma bomba demográfica de uma ação lenta está prestes a atingir a indústria de carne bovina
Matt Reynolds
Negócios
Dentro do complexo supe r-secreto Mark Zuckerberg no Havaí
Gatrine Skrimjor
Engrenagem
Primeira olhada em Matic, um aspirador de robô processado
Adrienne co
Negócios
Novas declarações de Elon Mask sobre a morte de um macaco estimulam novos requisitos para a investigação da SEC
Dhruv Mehrotra

Apesar dos fatores adversos, os esforços para regular as tecnologias de fronteira estão crescendo. O ato legislativo mais ambicioso é provavelmente a lei da UE sobre inteligência artificial, proposta pela primeira vez em 2021. No momento, a lei está passando por um longo processo de se tornar o direito europeu. Nele, a pesquisa e a implementação do AIS são classificadas por uma escala de risco. Tecnologias com “risco inaceitável” de causar danos diretos serão proibidos. Se a IA afetar os direitos humanos básicos ou sistemas críticos, como infraestrutura básica, transporte público, assistência médica ou segurança social, será classificada como “alto risco” e estará sujeita a supervisão e responsabilidade mais rigorosas. A IA de alto risco deve ser “transparente, segura, controlada por uma pessoa e documentada adequadamente”.

A lei sobre inteligência artificial, embora seja uma das tentativas mais avançadas, ambiciosas e míopes de regular hoje no mundo, também demonstra os problemas inerentes à regulamentação. Ele foi atacado de todos os lados – porque foi longe demais e por não ir longe o suficiente. Alguns argumentam que ele está focado demais em riscos nascentes e promissores, tentando regular algo que ainda não existe; Outros – que ele não é previdente longo. Alguns acreditam que ele permite que grandes empresas tecnológicas quebrem o gancho, que participaram de seu desenvolvimento e suavizaram suas posições. Outros acreditam que ele é demais para o bastão e leva ao resfriamento de pesquisas e inovações na UE, a redução de empregos e receitas tributárias.

Na maioria dos casos, a regulamentação passa por uma corda esticada de interesses concorrentes. Mas existem poucos em quais áreas, exceto as tecnologias de fronteira, é necessário resolver problemas que são tão difundidos, tão importantes para a economia e, ao mesmo tempo, se desenvolvem tão rapidamente. Todo esse ruído e confusão mostram claramente o quão difícil e complexo é qualquer forma de regulamentação, especialmente em condições de aceleração de mudanças, e como, por causa disso, quase certamente deixará espaços, não permitindo que você os restrinja efetivamente.

Além do facto de os debates legislativos serem tensos, os países também estão em desacordo. Por um lado, cada nação quer estar e ver-se na fronteira tecnológica. É um indicador de orgulho nacional, segurança nacional e um imperativo existencial. Por outro lado, estão desesperados para regular e gerir estas tecnologias, para contê-las, até porque temem que ameacem o Estado-nação como a autoridade máxima. O mais assustador é que tudo isto pressupõe um cenário optimista de Estados-nação fortes, razoavelmente competentes e coesos (liberais democráticos), capazes de trabalhar de forma coerente a nível interno e bem coordenados a nível internacional.

A China é uma espécie de líder em regulamentação. O governo emitiu numerosos decretos sobre a ética da IA, procurando impor restrições generalizadas. Ele proíbe ativamente várias criptomoedas e iniciativas DeFi e limita a quantidade de tempo que crianças menores de 18 anos podem passar em jogos e aplicativos sociais a 90 minutos por dia durante a semana e três horas nos fins de semana. A regulamentação de algoritmos de recomendação e de grandes modelos linguísticos na China é muito superior a tudo o que já vimos no Ocidente.

Mas embora a China esteja a abrandar em algumas áreas, está a avançar noutras. A sua regulamentação é acompanhada por uma implantação sem precedentes da tecnologia como instrumento do poder estatal autoritário. Fale com os especialistas da defesa e da política ocidentais e eles descobrirão que, embora a China esteja a jogar um bom jogo sobre a ética e os limites da IA, quando se trata de segurança nacional, não existem barreiras significativas. Essencialmente, a política chinesa de IA tem dois caminhos: civil regulamentado e militar-industrial livre.

A regulamentação por si só provavelmente não será suficiente para restringir a tecnologia. Este não é um argumento contra a regulamentação, que é absolutamente necessária, mas um reconhecimento necessário das suas limitações. Isso não impedirá vilões ou acidentes motivados. Não revela o núcleo de um sistema de investigação aberto e imprevisível. Ela não oferece alternativas dadas as enormes recompensas financeiras. E o mais importante, não atenua a necessidade estratégica. Não descreve como os países podem coordenar as suas ações num fenómeno transnacional sedutor e difícil de definir, criando uma massa crítica frágil de alianças, especialmente num ambiente onde os tratados internacionais falham com demasiada frequência. Existe um abismo intransponível entre o desejo de conter a maré que se aproxima e o desejo de moldá-la e possuí-la, entre a necessidade de protecção da tecnologia e a necessidade de protecção dos outros. Vantagem e controle estão em direções opostas.

A realidade é que a dissuasão não é algo que um governo, ou mesmo um grupo de governos, possa fazer sozinho. Isto exige inovação e ousadia nas parcerias público-privadas, bem como incentivos inteiramente novos para todas as partes. Regulamentos como a Lei da IA da UE pelo menos sugerem um mundo em que a contenção está nos planos e em que os principais governos estão a levar a sério os riscos de proliferação, demonstrando um novo nível de compromisso e vontade de fazer sacrifícios significativos.

A regulamentação não é suficiente, mas é pelo menos um começo. Num mundo onde a contenção parece impossível, tudo isto aponta para um futuro onde ela poderia ser.

Então, o que devemos fazer a seguir? Como ir além da regulamentação? Alguma organização tem a oportunidade de impedir a distribuição de massa e, ao mesmo tempo, aproveite a enorme força e benefícios que surgem como resultado da próxima onda? Pare os participantes sem escrúpulos que adquirem tecnologia ou formam a propagação de idéias nascentes em torno dela? À medida que a autonomia cresce, alguém ou algo para esperar um controle significativo no nível macro? Contendo significa a resposta “sim” a essas perguntas. Teoricamente, nos permite evitar as consequências mais perigosas da tecnologia. Isso significa usar e controlar a onda – uma ferramenta vital para construir sociedades estáveis e prósperas – e ao mesmo tempo control á-la de maneira a evitar o risco de um desastre grave, mas não tão intrusivo para convidar a ant i-utopia . Isso significa a conclusão de um novo tipo de transação grandiosa.

É tentador pensar em restringir um sentido óbvio e literal – um tipo de caixa mágica na qual você pode selar essa ou essa tecnologia. Em casos extremos, quando se trata de programas ou patógenos prejudiciais, essas medidas radicais podem ser necessárias. No entanto, em geral, a dissuasão é considerada mais como um conjunto de cercas de proteção, uma maneira de preservar a humanidade ao volante quando a tecnologia corre o risco de causar mais mal do que bem. Imagine essas cercas agindo em diferentes níveis e com diferentes métodos de implementação. Eles devem ser fortes o suficiente para parar teoricamente a catástrofe quebrada. A dissuasão deve atender à natureza da tecnologia e direcion á-la para o canal, o que é mais fácil de controlar. Para delinear maneiras promissoras, você deve fazer as seguintes perguntas:

A tecnologia de uso universal e geral ou específica? As armas nucleares são uma tecnologia muito específica para uma finalidade, enquanto o computador é inerentemente mult i-fins. Quanto mais opções de uso em potencial, mais difícil é restringir a tecnologia. Portanto, não devem ser incentivados sistemas gerais, mas aqueles que têm uma orientação mais estreita e específicos para uma área específica.

A tecnologia passa de átomos a bits? Quanto mais a tecnologia é mais desmaterializada, mais é suscetível ao controle de efeitos hiperevolutivos. Áreas como o design de materiais ou o desenvolvimento de medicamentos serão acelerados rapidamente, o que dificultam a rastreamento da taxa de progresso.