Deepfakes são muito mais sofisticados do que as falsificações do Big Brother de 1984. Mas uma agência inspirada em Orwell pode ajudar-nos a prevenir uma distopia gerada pela inteligência artificial.
Salve esta história
Salve esta história
Banco de dados de IA →
A vida em um pesadelo distópico não é tão ruim. Para Winston Smith, o homem trágico do filme 1984 de George Orwell, “o maior prazer da vida” é trabalhar no Ministério da Verdade, onde mentiras são fabricadas e a verdade é atirada em buracos de memória. Para ajudar a “corrigir” o registro histórico, Winston se orgulha de inventar estatísticas falsas, eventos falsos, pessoas falsas e até mesmo revisa jornais para incluir fantasmas como o camarada Ogilvy, um herói de guerra fictício. Essencialmente, MT é uma fábrica de notícias falsas.
No mundo real de 2020, estamos a assistir a uma inversão da fraude de 1984. Falsificações de alta qualidade estão surgindo à medida que a IA se torna cada vez mais democratizada. Entretanto, representantes do “Estado”, longe das maquinações eficientes que Orwell imaginou, encontram-se perplexos com falsificações maliciosas (como o vídeo “Drunk Pelosi”) e muitas vezes os seus alvos. No seu recente ensaio sobre a relevância duradoura de 1984, George Packer escreve: “O Ministério da Verdade é o Facebook, o Google e as notícias por cabo. Conhecemos o Grande Irmão e ele somos nós.”Qualquer um de nós pode se tornar um propagandista. Além disso, aqueles que estão no poder não dispõem de um mecanismo regulador eficaz para combater a próxima fase da era da desinformação, quando falsificações indistinguíveis inundarão a Internet. Embora muitos comentadores tenham visto 1984 como um caldeirão negro de horrores a evitar, talvez tenhamos de salvar a ideia do Ministério da Verdade para preservar o que resta da nossa realidade partilhada.
Pense em como nossas falsificações já são muito melhores e mais estranhas que as do Big Brother. No momento, você pode experimentar o prazer de uma imitação bem executada com apenas um clique ou toque, sem a necessidade de Winston Smith. Vá para Esta pessoa não existe e atualize quantos companheiros fictícios seu coração desejar. Quando os fantasmas digitais ficam muito estranhos, você pode deleitar-se com uma troca profunda de rostos: aqui, se tiver coragem, está Steve Buscemi como Jennifer Lawrence. Ou você pode se fingir usando o FaceApp.
As falsificações nem sempre são inofensivas. Mais de 90 % das falsificações são de natureza pornográfica, principalmente é “pornô por vingança”. Os criminosos usam gravações falsas de áudio para se passar por líderes das empresas. O conteúdo sintético é avisado por especialistas, pode ser usado para influenciar as pesquisas, flutuações nos mercados financeiros ou desencadear guerras. Em junho de 2019, o democrata Adam Schiff, uma pessoa localizada constantemente à beira de levantar um suspiro longo e cansado, liderou a audiência no Congresso dedicado a falsificações. Em geral, foi um evento sombrio.
Naquele dia, os representantes descobriram que “um estudante com uma boa placa de vídeo pode fazer isso”. Que os criadores de falsificações nocivas (“bandidos”) e aqueles que trabalham na identificação e interceptação de conteúdo falso (“mocinhos”) estão em uma corrida armamentista sem fim. Hani Farid, especialista em forense digital da Universidade da Califórnia em Berkeley, disse: “Somos superiores a todos. O número de pessoas que trabalham na lateral da síntese de vídeo, em comparação com o lado do detector, é de 100 a 1.”Finalmente, os representantes aprenderam sobre o ponto de virada da indistinguibilidade: em alguns anos, será impossível distinguir o vídeo real de Deepfake a olho nu. As perspectivas são aterrorizantes: as falsificações ideais que todos podem criar, se desenrolar em uma escala e é difícil distingu i-los. Não é de surpreender que, durante a audiência, o representante de Washington Denny Hek citou repetidamente as palavras de “Ada” de Dante: “Pense na esperança de todos os que vêm aqui”.
Se você descartar um pessimismo tão rude, o que pode ser feito? As plataformas nas quais o False Content aparece (Facebook, Instagram, YouTube, Twitter) tomaram algumas medidas para combater a desinformação. Em uma mensagem recente no blog do Facebook, ela prometeu “excluir a mídia manipulada” se “eles forem um produto de inteligência artificial ou aprendizado de máquina que combine, substitua ou imponha conteúdo no vídeo, criando a impressão de autenticidade”. Isso é importante, mas a detecção é um problema sério, e poucos acreditam que as grandes tecnologias serão capazes de se aut o-regular totalmente. Obviamente, existem muitas leis sobre o roubo de dados pessoais e difamação que podem desmamar os criadores de falsificações nocivas, mas não está claro quem e como eles os observarão.
Inscrever-se para
Inscrev a-se na Wired e mantenh a-se a par de todas as suas idéias favoritas.
Como os professores de direito Daniel Qitron e Robert Chesni descrevem em seu trabalho “DeepFakes: um desafio iminente para a vida privada, democracia e segurança nacional”, três agências federais (FCC, FEC e FTC) podem teoricamente regular a disseminação de conteúdo falso, mas ““ Após um exame mais detalhado deles, o papel potencial é muito limitado “. A jurisdição da FCC é limitada ao rádio e televisão. O FEC está envolvido apenas no processo eleitoral. A FTC monitora “publicidade falsa”, mas, como regra, falsa, não anunciam bens ou serviços.
Então, e a nova agência federal? O corpo central, que será confiado de informação errada, separa os fatos da ficção e, assim, garantirá a sanidade coletiva dos americanos quando um fluxo de falsificações neles: o departamento de informações, o Departamento de Fatos, o Ministério da Verdade!
Mais popular
A ciência
Uma bomba demográfica de uma ação lenta está prestes a atingir a indústria de carne bovina
Matt Reynolds
Negócios
Dentro do complexo supe r-secreto Mark Zuckerberg no Havaí
Gatrine Skrimjor
Engrenagem
Primeira olhada em Matic, um aspirador de robô processado
Adrienne co
Negócios
Novas declarações de Elon Mask sobre a morte de um macaco estimulam novos requisitos para a investigação da SEC
Dhruv Mehrotra
Um círculo completo, e voltamos à ant i-utopia novamente. A idéia pode parecer absurda, até impensável: os burocratas de Washington regulam a própria realidade, ditando para os americanos, o que é verdadeiro e o que não é.
Mas é tão louco? A EPA protege nosso ambiente, a FDA protege nossos corpos, o DHS protege nossos limites. Na era da indistinguibilidade, você terá que fazer uma escolha difícil para proteger nossas mentes. Quando as falsificações vêm para você e seus filhos – por exemplo, quando seu filho adolescente se torna vítima de um Huligan da Internet, você pode querer ter um Ministério da Verdade, que realmente corresponde ao seu nome, que não se falsifica, mas certifica a verdade Que o selo defina decisivamente sua autoridade em vídeos falsos: “Este conteúdo não é real”. A história americana não conhece a escassez das intervenções necessárias (embora a princípio e difícil), nas quais os cidadãos trocaram um certo grau de autonomia individual por calma coletiva: “aprovado pela FDA” alimentos e medicina; Materiais de áudio e vídeo “aprovados por MOT”.
Obviamente, o nome precisa ser mudado. O “Ministério” de Orwell é algo para ponderar e ponderar. Dorian Lynskey, autor de The Ministry of Truth: A Biography of George Orwell’s 1984, disse-me que “para Orwell, o que é problemático não é que o Ministério seja uma agência centralizada. O problema é que ela mente.” De acordo com Lynskey, “o objetivo do romance é o horror do que acontece quando a verdade objetiva não existe.” Quando milhões de pessoas sentirem esse horror perto de casa, elas vão querer ter regulação poderes – não importa como serão chamados.
Na prática, uma nova entidade governamental poderia assumir a liderança na aplicação de soluções técnicas e padrões industriais, fornecendo estrutura para o que é atualmente uma resistência desorganizada contra deepfakes por parte de advogados e legisladores, ativistas e tecnólogos preocupados. Do lado técnico, estão sendo feitos esforços em duas áreas: autenticação no front-end (usando tecnologia verificada na captura que comprova a “proveniência” ou proveniência de uma determinada peça de mídia) e detecção forense no back-end (usando algoritmos de aprendizado de máquina para identificar, em vez de criar falsificações profundas). A Darpa já está a investir recursos em esforços de detecção de falsificações, tal como o Facebook e o Google, mas a maioria dos observadores concorda que é necessária muito mais coordenação entre as organizações. A Witness, uma organização sem fins lucrativos que trabalha na intersecção entre direitos humanos e meios de comunicação, publicou recentemente um relatório sobre autenticação de meios de comunicação intitulado “Tick or It Didn’t Happen”. O relatório prevê um mundo em que “cada peça de mídia deve ter uma marca” que “sinalize autenticidade”. Witness levanta mais de uma dúzia de dilemas associados a tal cenário, reconhecendo o seu potencial. Um bom governo poderia organizar, aplicar e padronizar as práticas de autenticação.
