As ferramentas usadas para procurar materiais sobre violência contra crianças podem ser usadas nos Estados Unidos para proteger “crianças ainda não nascidas” se a UE proibir através da criptografia.
Salve esta história
Salve esta história
O desejo de proteger as crianças na Internet em breve encontrará força política igual e oposta: uma criminalização do aborto. Em um país em que em muitos estados o feto será considerado uma criança, ferramentas de observação destinadas a proteger as crianças serão usadas para combater o aborto. E uma das maiores ameaças à liberdade reprodutiva virá sem querer de seus ardentes defensores na União Europeia.
Na semana passada, a União Europeia enviou um projeto de regra que realmente proibirá a criptografia e fará com que as empresas da Internet verifiquem as informações para materiais ofensivos. As autoridades regulatórias não apenas exigirão que os fabricantes dos aplicativos de bat e-papo verifiquem cada mensagem quanto à disponibilidade de materiais sobre violência sexual sobre crianças (CSAM), que já estão sendo feitas por empresas como a Meta, no Facebook Messenger, mas também obrigarão as plataformas para verificar cada proposta de cada mensagem para atividades ilegais. Essas regras afetarão todos que usam aplicativos de bat e-papo de empresas que líderes de negócios na UE. Quase todo usuário americano estará sujeito a essa digitalização.
Reguladores, empresas e até convenceram os oponentes da vigilância de ambos os lados do Atlântico consideram a CSAM uma ameaça única. E embora muitos de nós possam concordar com o futuro, no qual os algoritmos determinam magicamente os danos causados às crianças, até a UE admite que a varredura exigirá “supervisão e verificação humana”. A UE não leva em consideração a realidade matemática da criptografia: se permitirmos que a ferramenta de rastreamento busque um conjunto de conteúdo, poderá ser facilmente direcionado para o outro. Dessa maneira, esses algoritmos podem ser treinados em conteúdo religioso, mensagens políticas ou informações sobre o aborto. Esta é exatamente a mesma tecnologia.
As tecnologias anteriores de proteção infantil servem como um aviso para nós. Em 2000, a Lei de Proteção à Internet das Crianças (CIPA) exigiu que escolas e bibliotecas financiadas pelo governo federal bloqueiem conteúdo que fosse “prejudicial para as crianças”. Mais de 20 anos depois, distritos escolares do Texas à progressista Arlington, Virgínia, usaram a lei para bloquear os websites da Planned Parenthood e de outros fornecedores de aborto, bem como uma vasta gama de conteúdos progressistas, anti-racistas e LGBTQ. O Congresso nunca disse que informações médicas precisas sobre o aborto são “materiais prejudiciais”, mas é isso que alguns estados estão dizendo hoje, embora a Lei Roe ainda esteja em vigor.
SE INSCREVER
Assine o WIRED e fique atualizado com todas as suas ideias favoritas.
Depois de Ro, em muitos estados o aborto será considerado não apenas abuso infantil, mas em alguns estados, provável homicídio, processado em toda a extensão da lei. Os reguladores europeus e as empresas tecnológicas não estão preparados para o desastre dos direitos civis que se aproxima. Independentemente do que as empresas digam sobre os seus valores, elas comportar-se-ão de forma muito diferente quando confrontadas com uma ordem judicial anti-escolha e com a ameaça de pena de prisão. Uma proibição efetiva da criptografia de ponta a ponta permitiria aos tribunais dos EUA forçar a Apple, Meta, Google e outras empresas a pesquisar conteúdo relacionado ao aborto em suas plataformas e enfrentar processos judiciais caso recusassem.
Mesmo que o aborto ainda seja constitucionalmente protegido, a polícia já tem como alvo as grávidas, utilizando todos os meios modernos de vigilância. Como Cynthia Conti-Cook da Fundação Ford e Kate Bertash do Fundo de Defesa Digital escreveram num artigo de opinião do Washington Post no ano passado: “A utilização de ferramentas forenses digitais para investigar a gravidez… representa uma ameaça insidiosa às nossas liberdades fundamentais. “A polícia está usando históricos de pesquisa e mensagens de texto para acusar mulheres grávidas de assassinato após natimorto. Este não é apenas um método invasivo, mas também extremamente falho, transformando facilmente questões médicas em provas de intenção criminosa. Durante anos, vimos registros digitais de pagamentos e compras, até mesmo históricos do PayPal, usados para prender pessoas por comprarem e venderem abortivos como o mifepristona.
As mulheres grávidas devem se preocupar não apenas com as empresas que têm seus dados, mas também com todos os outros a quem podem vend ê-los. De acordo com o processo que ajudei a registrar em 2019 contra o corretor de dados e o serviço de notícias da Thomson Reuters, a empresa vende informações sobre as histórias de aborto de milhões de policiais, empresas privadas e até a gerência da imigração dos EUA ( GELO). Mesmo algumas autoridades regulatórias estaduais são alarmantes, por exemplo, recentemente, o promotor geral do Estado de Nova York Leticia James alertou que os aplicativos de rastreamento, mensagens de texto e outros dados podem ser usados para perseguir mulheres grávidas.
Reguladores e empresas querem ter uma Internet aberta e o estado de observação simultaneamente. Isto é impossível.
Devemos reconsiderar todas as ferramentas de vigilância (estado e privado), levando em consideração as mulheres grávidas que em breve se tornarão um alvo. Para empresas tecnológicas, isso inclui uma revisão do que significa prometer a confidencialidade de seus clientes. A Apple há muito elogiou como protege os dados do usuário, especialmente quando em 2016 apelou ao tribunal federal para enfrentar os requisitos do governo para invadir o suspeito iPhone. Sua posição estrita sobre confidencialidade era especialmente óbvia, porque a ordem judicial fazia parte da investigação do terrorismo.
Mas a empresa não está tão disposta a lutar quando se trata de CSAM. No verão passado, a Apple propôs integrar o sistema CSAM em cada iPhone e iPad, digitalizando conteúdo para mais de um bilhão de dispositivos. A empresa de Cupertino perdeu rapidamente para o fato de que o Centro Nacional de Assistência para as crianças desaparecidas e exploradas chamou pela primeira vez as “vozes estridentes da minoria”, mas não abandonou completamente esse empreendimento, anunciando recentemente a varredura de CSAM para usuários do REINO UNIDO. A Apple não está solitária e ingressada em empresas como a Meta, que não apenas digitaliza ativamente o conteúdo de mensagens não infectadas na plataforma do Facebook, mas também ignora as declarações de “através da criptografia” para rastrear mensagens na plataforma do WhatsApp, ganhando acesso a cópias decifradas e usuários marcados. O Google incorpora da mesma forma o sistema de detecção CSAM em muitas de suas plataformas, fornecendo anualmente às autoridades centenas de milhares de mensagens.
