Qual é a diferença moral entre fantasias sexuais sobre alguém e assistir sua profunda falsa?
Salve esta história
Salve esta história
10 de abril foi um dia muito ruim na vida do famoso jogador e Youtuber Atriok (Brandon Yuing). Ying liderou uma de suas transmissões habituais de Twitch quando a janela do navegador acidentalmente acabou sendo aberta para o público. Nesses poucos momentos, o público de repente se virou para o que se mostrou profundamente falso pornô com a participação de mulheres Yuutubers e jogadores Qtcinderella e Pokimane – colegas e, pelo que entendi, namoradas do Juing. Em um momento depois, um espectador rápido apresentou a captura de tela dessa cena no Reddit, e assim o escândalo se tornou um fato.
O próximo normal
Este artigo faz parte da próxima série normal, dedicada ao futuro da moralidade e como nossas crenças éticas mudarão nos próximos anos.
As falsificações profundas são, no sentido amplo da mídia, arquivadas por inteligência artificial, geralmente para colocar o rosto de uma pessoa na face de, digamos, um ator em um filme ou videoclipe. Infelizmente, porém, como relatou o jornalista do vice Samantha Cole, a principal função da inteligência artificial foi a criação de pornografia com a participação de celebridades e também, talvez ainda mais alarmante, a visualização de fantasias sexuais de amigos ou conhecidos. Dada sua crescente sofisticação e acessibilidade, qualquer pessoa que tenha uma fotografia do seu rosto agora pode transform á-la em um filme pornô.”Estamos todos na bunda”, expressou Cole de forma concisa.
Para a maioria das pessoas, acho, é óbvio que Ying fez alguma má conduta, consumindo uma pornografia fictícia, mas não acordada de seus amigos. De fato, comentários sobre o Reddit e uma forte reação (justificada) de mulheres cujos rostos foram usados em rolos indicam um profundo sentimento de nojo. Isso é compreensível, mas é surpreendente determinar exatamente onde está exatamente o crime. De fato, a tarefa de fazer isso traz para a vanguarda de um problema filosófico que nos faz reconsiderar não apenas a pornografia, mas também a própria natureza da imaginação humana. Eu chamo isso de dilema de um pervertido.
Por um lado, pode-se argumentar que, consumindo o material, Yuing estimulou sua produção e distribuição, que no final poderiam prejudicar a reputação e o bem-estar de seus colegas. Mas duvido que o veredicto aos olhos do público seria muito mais suave se ele próprio criasse um vídeo para prazer pessoal. E poucos vêem em sua incapacidade de fechar a guia o principal problema. O crime parece ser o próprio consumo de falsas profundas, e não nas consequências subsequentes disso. O consumo de falsificações está errado, independentemente de as pessoas que estão “estrelando” os clipes ou outra pessoa, aprendem sobre isso.
Ao mesmo tempo, estamos igualmente confiantes de que as fantasias sexuais são moralmente neutras. De fato, ninguém (com exceção de, possivelmente, alguns católicos inveterados) teria acusado Ying de criar em suas imagens pornográficas de imaginação de KTK-Rolushka. Mas qual é a diferença? Tanto a fantasia quanto o Deepfake são, de fato, imagens virtuais criadas com base na entrada de dados anteriores, apenas uma existe na cabeça e a outra na tela. É verdade que é mais fácil compartilhar o último, mas se o crime consiste em consumo pessoal, e não em efeitos externos, isso não deve importar. Daí o dilema pervertido: acreditamos que as fantasias sexuais são bonitas enquanto surgem e são mantidas apenas na cabeça humana e nojentas no momento em que existem no cérebro com a ajuda de uma representação um tanto realista – mas dificilmente encontramos moralmente diferença significativa para justificar essa avaliação.
A longo prazo, isso provavelmente nos fará reconsiderar nossa atitude moral com falsas falsas e fantasias sexuais, pelo menos na medida em que queremos manter uma sequência em nossa moralidade. Existem dois caminhos óbvios ao longo dos quais pode percorrer.
Mais popular
A ciência
Uma bomba demográfica de uma ação lenta está prestes a atingir a indústria de carne bovina
Matt Reynolds
Negócios
Dentro do computador supe r-secreto, Mark Zuckerberg no Havaí
Gatrine Skrimjor
Engrenagem
Primeira olhada em Matic, um aspirador de robô processado
Adrienne co
Negócios
Novas declarações de Elon Mask sobre a morte de um macaco estimulam novos requisitos para a investigação da SEC
Dhruv Mehrotra
A primeira é que simplesmente começaremos a perceber os deepfakes pornográficos como uma maneira normal de fantasiar sobre sexo, apenas transmitiremos parte do trabalho que foi realizado anteriormente no cérebro, carro. Dada uma enorme quantidade de falsificações pornográficas (às vezes incrivelmente realistas) e a facilidade com que elas podem ser ajustadas às suas preferências (como o Dall-E aparecerá para o pornô?), Este pode ser um resultado completamente plausível. O conhecimento de que as pessoas podem usar suas fotos para criar pornografia fictícia pode aceitar o mesmo status que o conhecimento de que algumas pessoas podem pensar em você (ou olhar para sua última selfie no Instagram) quando se masturbou – nada de especial, a menos que fale sobre isso em pessoa. Pelo menos, podemos imaginar que a criação de falsificações profundas terá o mesmo status que desenhar uma imagem muito realista de sua fantasia sexual é estranha, mas não moralmente nojenta.
A segunda, e, talvez, uma opção mais interessante, é que começamos a duvidar da neutralidade moral das fantasias sexuais. Na Europa cristã, pensamentos sobre sexo têm sido considerados profundamente pecaminosos e, para alguns, eles ainda continuam sendo um estigma de vergonha. Somente após o Iluminismo, tudo o que acontece na cabeça humana se tornou um “negócio privado”, que não está sujeito à avaliação moral. Mas isso, é claro, é uma exceção, se falamos historicamente. E até certo ponto, ainda moralizamos as fantasias das pessoas. Por exemplo, acho que algumas ética (e muitas outras pessoas) acreditam que as fantasias sexuais associadas a crianças ou violência cruel são moralmente repreensíveis.
Mas o DeepFakes pode nos dar um motivo para ir ainda mais longe e lançar dúvidas sobre pensamentos sujos como uma categoria comum. Com o advento da Internet, temos uma nova atitude em relação ao status moral de nossos dados pessoais. De fato, a maioria das pessoas ocidentais hoje considera que uma pessoa deve controlar completamente as informações sobre sua personalidade. Mas isso, em sentido rigoroso, não inclui os dados armazenados nas cabeças de outras pessoas? Isso não me dá a oportunidade de controlar a imaginação de outras pessoas? Essa idéia não é tão selvagem quanto parece à primeira vista. Lembr e-se do episódio de “Friends” “aquele com um chip e um pato”, no qual Ross provoca Rachel, representand o-a nua contra sua vontade, alegando que esse é um dos “direitos de um e x-cara, certo?”Rachel implora repetidamente para que ele pare, mas Ross, em resposta, apenas fecha os olhos e diz: “Espere, espere, agora você tem cem, e eu sou o rei”. A piada é mostrada como completamente indiscutível, com a risada de espectadores e outras coisas. Mas agora, depois de duas décadas, isso deixa um gosto bastante amargo na sua boca? De fato, na era da informação, a neutralidade moral da mente, ao que parece, está cada vez mais no cerco. Talvez depois de mais 20 anos a idéia que eu posso fazer na minha cabeça tudo o que quero, com aquele com quem eu quero, também parecerá moralmente repugnante para as pessoas.
Mais popular
A ciência
Uma bomba demográfica de uma ação lenta está prestes a atingir a indústria de carne bovina
Matt Reynolds
Negócios
Dentro do computador supe r-secreto, Mark Zuckerberg no Havaí
Gatrine Skrimjor
Engrenagem
Primeira olhada em Matic, um aspirador de robô processado
Adrienne co
Negócios
Novas declarações de Elon Mask sobre a morte de um macaco estimulam novos requisitos para a investigação da SEC
Dhruv Mehrotra
Provavelmente veremos os dois cenários. Os pedidos de moralização sobre a imaginação das pessoas soarão. E, provavelmente, as pessoas reagirão com um choque menor, aprendendo sobre o fenômeno de Deepfake, mesmo quando isso acontecerá com eles. Basta comparar a iluminação de mídia de hoje na pornografia de mídia com falsificações profundas com o que foi há dois anos. O pânico moral, característico das primeiras mensagens, quase desapareceu completamente, apesar do rápido desenvolvimento de tecnologias que ocorreram durante esse período. E, no entanto, provavelmente, não chegaremos a nenhum consenso moral em relação a falsificações profundas. De fato, levamos milhares de anos para aprender a viver com uma imaginação humana, e o aparecimento de falsificações questiona a maioria dos protocolos culturais.
Então, qual opção é preferível do ponto de vista da filosofia moral? Não há uma resposta fácil aqui. Em parte porque ambas as opções fazem sentido, ou pelo menos têm potencial para fazer sentido (caso contrário não haveria qualquer dilema). Mas também tem a ver com a própria natureza dos julgamentos morais. As verdades morais não podem ser formuladas de uma vez por todas. Pelo contrário, devemos começar cada dia perguntando-lhes de novo.
Pense desta forma: sabemos quantos eletrões existem num átomo de hidrogénio e, portanto, nunca mais precisaremos de fazer essa pergunta. Mas questões como “Quem deveríamos ser?”, “O que é uma boa vida humana?”ou “As pessoas podem ser culpadas pelas suas fantasias?” são questões que precisam de ser colocadas repetidamente em cada geração. Isso ocorre porque a filosofia moral é uma atividade que morre no momento em que paramos de praticá-la. Para que os nossos mundos de vida morais façam sentido, devemos reavaliá-los conscientemente, porque estas atividades dependem sempre do contexto social, tecnológico e cultural em que ocorrem. Assim, assim que chegarmos a uma resposta final à questão de qual opção é preferível do ponto de vista da filosofia moral, a filosofia moral deixa de sê-lo.
O que tudo isso tem a ver com Ewing, Pokimane e QTCinderella? Não há dúvida de que os sentimentos de vergonha e humilhação expressos pelos sujeitos dos vídeos são reais. E, pessoalmente, não encontro motivos para duvidar da autenticidade da vergonha e do arrependimento expressos por Ewing. Mas a nossa compreensão moral da situação é uma questão completamente diferente. E devemos estar preparados para o facto de que daqui a 20 anos poderemos pensar sobre estas coisas de forma muito diferente. Tudo depende de como continuamos a construir e reavaliar os nossos mundos de vida morais. Um bom primeiro passo é dar um passo atrás e repensar o que exatamente consideramos questionável nos deepfakes.
