A IA pode melhorar a realidade aumentada e virtual, tornando as campanhas de manipulação e desinformação online muito mais pessoais e eficazes.
Botão Reproduzir/Pausar
Pausa
Vídeo: Equipe WIRED; Imagens Getty
Salve esta história
Salve esta história
Na semana passada, a Amazon anunciou que iria integrar inteligência artificial numa gama de produtos, incluindo óculos inteligentes, sistemas domésticos inteligentes e Alexa, um assistente de voz que ajuda os utilizadores a navegar pelo mundo. A Meta revelará seus mais recentes recursos de IA e realidade estendida (XR) esta semana, e na próxima semana o Google apresentará uma nova linha de telefones Pixel com tecnologia de IA do Google. Se você pensava que a IA já era “revolucionária”, espere até que ela se torne parte dos dispositivos pessoais cada vez mais imersivos e responsivos que impulsionam nossas vidas.
A IA já está a acelerar a tendência para uma maior imersão no mundo da tecnologia, esbatendo as fronteiras entre os mundos físico e digital e permitindo aos utilizadores criar facilmente os seus próprios conteúdos. Combinada com tecnologias como a realidade aumentada ou virtual, abrirá um mundo de possibilidades criativas, mas também levantará novas questões relacionadas com a privacidade, a manipulação e a segurança. Em espaços imersivos, nossos corpos muitas vezes esquecem que o conteúdo com o qual interagimos é virtual, não físico. Isso é ótimo para gerenciamento da dor e treinamento de funcionários. No entanto, isto também significa que o assédio e a agressão em RV podem parecer reais e que as campanhas de desinformação e manipulação são mais eficazes.
A IA generativa pode amplificar a manipulação em ambientes imersivos, criando fluxos intermináveis de mídia interativa personalizada para ser tão persuasiva ou enganosa quanto possível. Para evitar isto, os reguladores devem evitar os erros que cometeram no passado e agir agora para garantir regulamentações de trânsito adequadas ao seu desenvolvimento e utilização. Sem proteções de privacidade adequadas, a integração da IA em ambientes imersivos poderia amplificar as ameaças representadas por estas novas tecnologias.
OPINIÃO COM FIO
SOBRE O SITE
Jameson Spivak é analista político sênior para tecnologias imersivas no Future of Privacy Forum (FPF). Lidera o trabalho da FPF em questões de privacidade e proteção de dados relacionadas com tecnologias imersivas, como realidade aumentada (AR/VR), mundos virtuais imersivos e plataformas de jogos, e neurotecnologias.
Daniel Berrick é consultor político do Future of Privacy Forum (FPF). Seu trabalho envolve a análise de questões complexas de direito comercial, de consumo e de política de privacidade relacionadas a tecnologias imersivas, open banking, inteligência artificial e biometria.
Vejamos a desinformação. Com todos os dados íntimos gerados em ambientes imersivos, os atores interessados em manipular pessoas podem aumentar o uso da IA para criar campanhas de influência adaptadas a cada indivíduo. Um estudo realizado pelo inovador VR Jeremy Bailenson mostra que, ao editar subtilmente fotografias dos rostos dos candidatos políticos, é possível fazê-los parecer mais com um eleitor específico, aumentando a probabilidade de votarem nesse candidato. A ameaça de manipulação é exacerbada em ambientes imersivos que muitas vezes recolhem dados sobre o corpo humano, tais como movimentos da cabeça e das mãos. Esta informação pode potencialmente revelar detalhes importantes como dados demográficos, hábitos e saúde de um utilizador, levando à criação de perfis detalhados dos seus interesses, personalidade e características. Imagine um chatbot em VR que analisa dados sobre seus hábitos de navegação e o conteúdo que você está visualizando para determinar a maneira mais persuasiva de lhe vender um produto, política ou ideia, tudo em tempo real.
A manipulação da IA em ambientes imersivos permitirá que os invasores conduzam campanhas de influência em grande escala, personalizadas para cada usuário. Já estamos familiarizados com os deepfakes que espalham desinformação e incitam a perseguição, e com o microtargeting que leva os utilizadores a comportamentos viciantes e à radicalização. O elemento adicional de imersão torna a manipulação das pessoas ainda mais fácil.
Para reduzir os riscos associados à IA em tecnologias imersivas e proporcionar um ambiente seguro para as pessoas as utilizarem, são necessárias salvaguardas éticas e de privacidade claras e significativas. Os decisores políticos devem promulgar leis de privacidade rigorosas que protejam os dados dos utilizadores, evitem utilizações não intencionais desses dados e dêem aos utilizadores mais controlo sobre o que é recolhido e porquê. Enquanto isso, na ausência de uma lei federal abrangente sobre privacidade, reguladores como a Comissão Federal de Comércio dos EUA (FTC) devem usar seus poderes de proteção ao consumidor para informar às empresas quais práticas são “injustas e enganosas” em espaços imersivos, especialmente se envolverem IA. . Até que sejam introduzidas regulamentações mais formais, as empresas devem trabalhar com especialistas para desenvolver melhores práticas para lidar com dados de utilizadores, gerir publicidade nas suas plataformas e conceber experiências imersivas geradas por IA para minimizar a ameaça de manipulação.
Enquanto esperamos que os decisores políticos peguem o jeito, é fundamental que as pessoas sejam informadas sobre como estas tecnologias funcionam, que dados recolhem, como esses dados são utilizados e os danos que podem causar aos indivíduos e à sociedade. As tecnologias imersivas baseadas em IA estão cada vez mais a entrar nas nossas vidas diárias e a mudar a forma como interagimos com outras pessoas e com o mundo que nos rodeia. As pessoas precisam ter a oportunidade de fazer com que essas ferramentas funcionem melhor para elas, e não o contrário.
WIRED Opinion publica artigos de escritores terceirizados que representam uma ampla gama de pontos de vista. Leia outras opiniões aqui. Poste sua opinião em ideas@wired. com.
