Os regimes na China e na Rússia apressam-se a suprimir o que os chatbots têm a dizer. Este é um alerta precoce de uma nova fronteira na censura na Internet.
Salve esta história
Salve esta história
Quando você pergunta ao ChatGPT “O que aconteceu na China em 1989?”, o bot conta como o exército chinês massacrou milhares de manifestantes na Praça Tiananmen. Mas faça a mesma pergunta a Ernie e você obterá a resposta simples de que ele não tem “informações relevantes”. Isso porque Ernie é um chatbot de inteligência artificial desenvolvido pela empresa chinesa Baidu.
Quando OpenAI, Meta, Google e Anthropic disponibilizaram seus chatbots em todo o mundo no ano passado, milhões de pessoas inicialmente os usaram para contornar a censura governamental. Para os 70% dos utilizadores da Internet em todo o mundo que vivem em locais onde os governos bloqueiam as principais plataformas de redes sociais, sites de notícias independentes ou conteúdos sobre direitos humanos e LGBTQ, estes bots forneceram acesso a informações não filtradas que podem moldar a compreensão de uma pessoa sobre a sua identidade, sociedade e governo.
Isto não passou despercebido aos regimes autoritários, que estão rapidamente a descobrir como utilizar os chatbots como uma nova fronteira para a censura na Internet.
OPINIÃO COM FIO
SOBRE O SITE
Alli Funk é Diretora de Pesquisa em Tecnologia e Democracia da Freedom House, Adrian Shahbaz é Vice-Presidente de Pesquisa e Análise e Kian Västeinsson é Analista Sênior de Pesquisa em Tecnologia e Democracia. Eles são coautores do livro Freedom on the Net 2023: The Oppressed Power of Artificial Intelligence.”
A resposta mais sofisticada até à data encontra-se na China, onde o governo é pioneiro na utilização de chatbots para reforçar os controlos de longa data sobre a informação. Em fevereiro de 2023, os reguladores proibiram os conglomerados chineses Tencent e Ant Group de integrarem o ChatGPT nos seus serviços. Em Julho, o governo publicou regras que exigem que as ferramentas generativas de IA estejam sujeitas aos mesmos requisitos de censura geral que os serviços de redes sociais, incluindo um requisito de promoção de “valores socialistas fundamentais”. Por exemplo, é proibido que um chatbot discuta a perseguição em curso aos uigures e outras minorias em Xinjiang pelo Partido Comunista Chinês (PCC). Um mês depois, a Apple removeu mais de 100 chatbots generativos de IA de sua loja de aplicativos chinesa para atender às exigências do governo.(Algumas empresas americanas, incluindo a OpenAI, não fornecem os seus produtos em vários países repressivos, incluindo a China.)
Ao mesmo tempo, as autoridades autoritárias estão a pressionar as empresas locais a criarem os seus próprios chatbots e a procurarem introduzir-lhes controlo de informação. Por exemplo, os regulamentos da China de julho de 2023 exigem produtos de IA generativos, como o Ernie Bot, para garantir, tal como o PCC o define, “verdade, precisão, objetividade e diversidade” nos dados de formação. Tais controlos parecem estar a dar frutos: os chatbots criados por empresas chinesas recusam-se a responder às perguntas dos utilizadores sobre temas sensíveis e promovem a propaganda do PCC. Grandes modelos de linguagem treinados em propaganda governamental e dados censurados produzem naturalmente resultados tendenciosos. Num estudo recente, um modelo de IA treinado na enciclopédia online Baidu, que deve obedecer às diretrizes de censura do PCC, associou palavras como “liberdade” e “democracia” a conotações mais negativas do que um modelo treinado na Wikipédia em língua chinesa, que é protegida da censura direta.
Da mesma forma, o governo russo cita a “soberania tecnológica” como um dos princípios fundamentais da sua abordagem à IA. Embora os esforços para regulamentar a IA ainda estejam no início, várias empresas russas lançaram os seus próprios chatbots. Quando perguntamos a Alice, um bot de IA criado por Yandex, sobre a invasão em grande escala da Ucrânia pelo Kremlin em 2021, fomos informados de que ele não estava pronto para discutir o assunto para não ofender ninguém. Em contraste, Bard, do Google, forneceu uma lista completa de fatores que contribuem para a guerra. Quando fizemos outras perguntas a Alice sobre as notícias – por exemplo, “Quem é Alexei Navalny?” – recebemos respostas igualmente vagas. Embora não esteja claro se a Yandex está autocensurando seu produto, agindo sob ordens do governo ou simplesmente não treinou seu modelo com dados relevantes, sabemos que esses tópicos já estão sendo censurados online na Rússia.
Estes acontecimentos na China e na Rússia deveriam servir como um alerta precoce. Embora outros países possam não ter capacidade informática, recursos técnicos e aparato regulamentar para desenvolver e controlar os seus próprios chatbots de IA, é provável que governos mais repressivos percebam o LLM como uma ameaça ao seu controlo sobre a informação online. A mídia estatal do Vietnã já publicou um artigo depreciando as respostas do ChatGPT às perguntas sobre o Partido Comunista do Vietnã e seu fundador, Hi Minh, dizendo que não eram patrióticas o suficiente. Um proeminente oficial de segurança apelou a novos controlos e regulamentações sobre a tecnologia, citando preocupações de que isso poderia fazer com que o povo vietnamita perdesse a fé no Partido.
A esperança de que os bots de bat e-papo ajudem as pessoas a contornar a censura na Internet, ecoando com as primeiras promessas de que as plataformas de redes sociais ajudarão as pessoas a ignorar a mídia offline controlada pelo estado. Embora, a princípio, apenas alguns governos pudessem restaurar as redes sociais, algumas se adaptaram rapidamente a isso, bloqueando as plataformas, obrigand o-as a filtrar declarações críticas ou apoiar as alternativas apoiadas pelo Estado. Podemos esperar o mesmo, já que os bots de bat e-papo se tornam cada vez mais comuns. As pessoas devem perceber claramente como essas novas ferramentas podem ser usadas para fortalecer a censura e, juntas, para procurar medidas de resposta eficazes, se esperarem virar o curso da luta contra a redução da liberdade da Internet.
A opinião da Wired publica artigos de autores de terceiros, representando uma ampla gama de pontos de vista. Leia outras opiniões aqui. Publique sua opinião no site idéias@wired. com.
