Dê uma alma a cada IA

Os magos da inteligência artificial, incluindo os arquitectos de notórios sistemas de “IA generativa”, como o ChatGPT, estão agora a expressar publicamente o horror geral face às terríveis consequências que poderiam ser causadas pelas suas próprias criações. Muitos apelam a uma moratória ou a uma pausa no desenvolvimento da IA, para dar tempo aos países e instituições existentes para desenvolverem novos sistemas de controlo.

Por que essa onda repentina de ansiedade? Na esteira do colapso de muitas suposições clichês, aprendemos que os chamados testes de Turing não têm significado e não fornecem qualquer insight sobre se os modelos generativos de grandes linguagens – GLLMs ou “golems” – são seres verdadeiramente inteligentes. . Eles fingirão uma personalidade de forma convincente muito antes de terem algo ou alguém “sob sua cabeça”.

Em qualquer caso, esta distinção parece agora menos relevante do que questões de comportamento bom ou mau – ou potencialmente letal.

Este ensaio foi adaptado do livro Soul on Ai, de David Brin.

Alguns continuam esperançosos de que a fusão do talento orgânico e cibernético levará ao que Reed Hoffman e Marc Andreesen chamaram separadamente de “aprimoramento da inteligência”. Ou podemos nos deparar com uma sinergia afortunada com as “máquinas da graça amorosa” de Richard Brautigan. Mas parece haver muito mais pessoas preocupadas, incluindo muitos dos fundadores de elite do novo AI Safety Center, que se preocupam com o comportamento não autorizado da IA, que vai desde irritante até “existencialmente” ameaçador para a sobrevivência humana.

Algumas medidas de curto prazo, como as regras de protecção dos cidadãos recentemente adoptadas pela União Europeia, podem ajudar ou pelo menos tranquilizar. O tecnólogo Yuval Noah Harari propôs uma lei que exige que qualquer trabalho realizado por golems ou outras IAs seja designado como tal. Outros recomendam o aumento das penas para qualquer crime cometido com a ajuda da IA, como no caso das armas de fogo. Claro, estes são apenas paliativos temporários.

Vamos deixar claro se qualquer “moratória” irá desacelerar o desenvolvimento da IA, mesmo que seja um pouco. Como diz sucintamente o cientista cibernético da Caltech, Yasser Abu-Mostafa: “Se você não desenvolver esta tecnologia, outra pessoa o fará. Os mocinhos obedecerão às regras… Os bandidos não.”

Sempre foi assim. Na verdade, em toda a história da humanidade, apenas um método conteve os vilões – de ladrões a reis e senhores feudais. Refiro-me a um método que nunca funcionou perfeitamente e que continua profundamente falho até hoje. Mas pelo menos manteve a predação e o engano afastados o suficiente para impulsionar a nossa civilização recente a novos patamares e muitos resultados positivos. Este método é melhor descrito em uma palavra.

Aqueles que hoje falam sobre inteligência sintética tendem a ignorar as lições ensinadas tanto pela natureza como pela história.

Mais popular
A ciência
Uma bomba-relógio demográfica está prestes a atingir a indústria da carne bovina.
Matt Reynolds
Negócios
Dentro do complexo ultrassecreto de Mark Zuckerberg no Havaí
Guthrie Scrimgeour
Engrenagem
Primeiro, dê uma olhada no Matic, o aspirador robô redesenhado
Adriane So
Negócios
As novas alegações de Elon Musk sobre a morte de macacos estimulam novas demandas de investigação da SEC
Dhruv Mehrotra

Natureza, porque, como Sarah Walker explica em Noema, padrões semelhantes podem ser encontrados no surgimento de formas de vida anteriores há mais de 4 mil milhões de anos. Na verdade, a IA generativa pode ser comparada a uma espécie invasora que se espalha sem restrições num ecossistema novo e ingénuo. Um ecossistema baseado em novos tipos de fluxos de energia. Um ecossistema composto pela Internet, milhões de computadores e bilhões de mentes humanas impressionáveis.

E a história, porque o nosso próprio passado humano é rico em lições ensinadas por muitas crises anteriores induzidas pela tecnologia ao longo de 6. 000 anos. Momentos em que nos adaptamos bem ou não conseguimos fazê-lo – por exemplo, o advento da escrita, da imprensa, do rádio e assim por diante. Mais uma vez, apenas uma coisa limitou a predação de pessoas poderosas que utilizam novas tecnologias para aumentar o seu poder predatório.

Esta inovação pretendia achatar a hierarquia e estimular a competição entre as elites em arenas claramente definidas – mercados, ciência, democracia, desporto, tribunais. Arenas projetadas para minimizar trapaças e maximizar resultados positivos, onde há advogado contra advogado, corporação contra corporação, especialista contra especialista. Richdud contra Richdud.

Ele nunca funcionou perfeitamente. Além disso, esse método está sempre, como agora, está sob ameaça de substituição por golpistas. Mas a concorrência mútua achatada é a única coisa que já funcionou.(Veja a idéia descrita no “Oratório Funerário” de Perikla, em Fukidid ou no trabalho muito posterior de Robert Wright, “Nonal Disponível”.) A competição mútua é como a natureza nos desenvolveu e como nos tornamos a primeira sociedade, criativa o suficiente para criar IA. E se eu disser como descendente de Adam Smith, é claro. Smith, a propósito, desprezava os aristocratas e oligarcas.

Podemos aplicar os mesmos métodos de responsabilidade mútua à IA rapidamente emergente que nos ajudou a pacificar tiranos e hooligans humanos que nos oprimiam em culturas feudais anteriores? Muito dependerá de que forma essas novas entidades levarão. Se sua estrutura ou “formato” será tal que obedece às nossas regras. Por nossos desejos.

Sob todas as disputas sobre como “controlar a IA”, encontramos três suposições generalizadas (embora aparentemente contraditórias):

Que várias organizações monolíticas controlam esses programas – por exemplo, Microsoft, Google, China, Two Sigma, Openai.
Que eles serão amorfos livres e infinitamente divididos/reproduzíveis, espalhando suas cópias através de cada rachadura no novo cibercossistema. Como paralelo, você pode se lembrar do filme de 1958 “Blob”.
Que eles se unirão em uma supermacrostation, semelhante a um famosa notório dos filmes do Terminator.

Todos esses e outros formatos foram investigados em histórias de ficção científica muito boas (e muitas ruins). Escrevi histórias ou romances com sua participação. No entanto, nenhum desses três formatos oferece uma saída do nosso dilema atual: como obter resultados positivos máximos da inteligência artificial e, ao mesmo tempo, minimizar o fluxo de más ações e danos, que, como vemos, estão se aproximando de nós no Velocidade do tsunami.

Antes de procurar outra maneira, pense no que é comum para todos os três formatos padrão.

Em primeiro lugar, não é necessário supor que essas entidades tenham uma consciência autônoma, para que sejam produtivas ou perigosas quando são usadas por parceiros humanos. Já vemos como memes prejudiciais, erros contratáticos e até feitiços religiosos são gerados pelo comando tanto dentro desses castelos de investigação (formato nº 1) quanto atrás de suas paredes. De fato, uma das aplicações mais alarmantes é a ajuda das elites humanas existentes para dar responsabilidade.

Talvez essas três suposições venham à mente tão naturalmente porque se assemelham a regimes de falha histórica. O formato nº 1 é muito semelhante ao feudalismo, e o número 2 é, é claro, caos. O terceiro se assemelha ao despotismo do proprietário cruel ou do monarca absoluto. Mas esses ecos terríveis de nosso passado primitivo podem ser inapropriados, pois a IA está se tornando cada vez mais autônoma e poderosa.

E então fazemos novamente a pergunta: como essas criaturas podem ser responsabilizadas? Especialmente se seu rápido efeito mental será impossível de rastrear pessoas orgânicas? Em breve, apenas a IA será rápida o suficiente para capturar outras IAs envolvidas em fraude ou mentiras. Hmm … sim? E, portanto, a resposta deve ser óbvia. Coloqu e-os um no outro. Faça com que eles competam, até transmitem um ao outro.

Aqui está apenas um obstáculo. Para alcançar a responsabilidade mútua real na competição de IA contra a IA, é necessário, antes de tudo, dar a eles um sentido verdadeiramente dividido de seu próprio “eu” ou individualidade.

Por individualização, quero dizer que cada sociedade da IA (ele/ela/E/E/VA) deve ser que o autor de Verner Winj tenha chamado em 1981 um nome e endereço reais no mundo real. Como qualquer outra elite, essas criaturas poderosas devem dizer: “Eu sou. Este é o meu cartão de identidade e a raiz nativa. E sim, eu fiz”.

Assim, proponho um novo formato de IA para consideração: devemos estimular urgentemente a IA-sociedade a se unir em indivíduos discretamente definidos e divididos com poder competitivo relativamente igual.

Seria benéfico para cada sujeito ter um nome real identificado ou identificador de registro, bem como uma “casa” física para um núcleo operacional-referencial.(Talvez a “alma”?) E depois disso eles terão um incentivo para competir por uma recompensa. Especialmente para a descoberta e exposição dos de seus colegas que se comportam como consideramos indecorosa. E esse comportamento nem precisa ser determinado com antecedência, como exige a maioria dos mestres da IA, reguladores e políticos.

Essa abordagem não apenas transmite a aplicação da lei a sujeitos que, por sua natureza, são mais capazes de detectar e condenar os problemas ou má conduta um do outro. Este método tem outra vantagem adicional. Ele pode continuar a funcionar, mesmo quando esses sujeitos concorrentes estão se tornando mais inteligentes e inteligentes, muito tempo depois que as ferramentas de regulamentação usadas por pessoas orgânicas e agora são prescritas pela maioria dos especialistas da IA, perderão qualquer capacidade de acompanhar os tempos.

Falando de outra forma, se nenhum de nós, pessoas orgânicas, poderão acompanhar os programas, e então a contratação de entidades que, por natureza, podem acompanhar a perna? Afinal, os observadores consistem no mesmo material que o observado.

Um dos que trabalham com o problema da individualização da IA é Guy Huntington, o “consultor de identificação e autenticação”, que observa que vários meios de identificação de entidades já existem na rede, embora inadequados para nós. Huntington avalia o exemplo de um “medbot”, IA de diagnóstico médico avançado, que deve ter acesso aos dados do paciente e executar funções que podem mudar dentro de alguns segundos, mas ao mesmo tempo reservar um traço distinto que pessoas ou outros bots podem avaliar . Huntington discute a adequação prática do registro quando as instalações de software dão origem a muitas cópias e opções. Ele também considera o eusocialismo da formiga quando as subcopias servem como macilílias, como trabalhadores na colméia. Ele pressupõe que, para gerenciar esse sistema de registro de identificadores, é necessário criar uma determinada grande instituição que funcione estritamente como software.

Pessoalmente, sou cético sobre o fato de que uma abordagem puramente regulatória funcionará por conta própria. Em primeiro lugar, como a adoção de atos regulatórios requer concentração, atenção política universal e consenso e, em seguida, sua implementação no ritmo de instituições humanas orgânicas – preguiçosas e caracóis, na opinião de adaptar rapidamente criaturas cibernéticas. A regulamentação também pode ser difícil devido ao “problema de um piloto livre” – nações, corporações e indivíduos (orgânicos ou outros) que veem benefícios pessoais no abandono da cooperação desconfortável.

Dê uma alma a cada IA ​​- ou então

Dê uma alma a cada IA - ou então