A plataforma pode recomendar rapidamente grupos criados para roubo de crianças do que remov ê-los.
Salve esta história
Salve esta história
Banco de dados de inteligência artificial →
Processando uma linguagem natural
Tentando determinar a escala e a influência dos grupos no Facebook, que espalha Qanon e desinformação relacionada, eu estava procurando grupos no Facebook com nomes que incluem 10, 11 ou 12. Isso fazia parte do meu trabalho no Laboratório de Desinformação de Pitt, e eu Pensei em 10- m, 11º ou 12º distritos da cidade de Pittsburgh. Em vez disso, um grupo apareceu chamado “Buscando Novi@ de 9. 10. 11, 12, 13 años”. Procurando uma namorada de 9 anos? O que?
A estética da página era desenho animado: olhos enormes com cílios longos, corações e cores pastel. As postagens, que mencionaram claramente os órgãos genitais fotografados, foram jogados e cheios de emoticons: “Veja sua idade nesta lista? Digit e-a em resposta e eu mostrarei a você”.
Na maioria das vezes, os posts eram apenas uma porta de conexões, perigo real atrás do palco.”Estou procurando uma garota pervertida de 11 anos”, disse uma mensagem com um fundo violeta e emojis do coração. As respostas continham solicitações para continuar a amizade através do Messenger ou foram propostas para entrar em grupos fechados ou bat e-papos do WhatsApp – mesmo dos olhos de até de um transeunte digital.
Este não era um conselho proibido de anúncios 8chan. Pode ser encontrado no Facebook. E, como eu descobri ansiosamente, ela não era a única. De fato, já em janeiro de 2022 – por três meses de minhas tentativas de alcançar medidas contra eles – se eu entrar na pesquisa em 11, 12, 13 na plataforma, 23 dos 30 primeiros resultados foram os grupos orientados para crianças dessas idades , com os nomes dos grupos, incluíam namorado/namorada, Novio/A, ou Niños/Niñas, às vezes junto com “Pervertidos”, “Hot”, etc. Havia mais de 81. 000 participantes.
Captura de tela: Facebook via funcionário da Wired
Mais popular
A ciência
Uma bomba demográfica de uma ação lenta está prestes a atingir a indústria de carne bovina
Matt Reynolds
Negócios
Dentro do complexo supe r-secreto Mark Zuckerberg no Havaí
Gatrine Skrimjor
Engrenagem
Primeira olhada em Matic, um aspirador de robô processado
Adrienne co
Negócios
Novas declarações de Elon Mask sobre a morte de um macaco estimulam novos requisitos para a investigação da SEC
Dhruv Mehrotra
Talvez você tenha assumido que, nos 18 anos da existência do Facebook (agora incluído no Meta), ele fornecerá cheques básicos para criar um grupo cujo nome anuncia a busca de crianças por contatos íntimos, causa muita atenção. Além disso, de acordo com a própria política do Facebook, ninguém com menos de 13 anos deve estar na plataforma. Cada participante de tal grupo por definição é uma criança que viola a política do Facebook, estar no Facebook, adultos violando a política do Facebook, personificando a criança ou adultos, agindo abertamente como adulto, já que ele viola a política do Facebook (assim como numerosas leis estaduais e internacionais) procurando contatos sexuais com crianças.
Obviamente, a prudência adequada determina medidas proativas para impedir a criação de tais grupos, apoiados pelas ações rápidas para remover aqueles que se enquadram no grupo assim que forem observados e relatados. Eu pensaria assim. Até que eu tropecei nesses grupos e comecei a descobrir com uma crescente desconfiança de que eles não podem ser removidos.
As crianças são divididas por imagens pessoais e informações de contato em um espaço digital sexualizado, elas tendem a entrar em grupos ou bat e-papos fechados, onde são esperados e trocados por outras imagens e ações.
Se inscrever
Inscrev a-se na Wired e mantenh a-se a par de todas as suas idéias favoritas.
Mesmo que o debate em torno da lei de Ear TI adotada pelo Congresso atraia a atenção para o uso de canais digitais para espalhar materiais de natureza francamente sexual, não somos capazes de lidar com a mudança sísmica de maneiras para criar materiais sobre a violência sexual sobre as crianças. Quarent a-cinco por cento das crianças americanas de 9 a 12 anos relatam que usam o Facebook todos os dias.(Esse fato de que a declaração do Facebook faz com que eles estejam trabalhando ativamente para impedir crianças menores de 13 anos na plataforma). Segundo estudos recentes, mais de um quarto das crianças de 9 a 12 anos relatam que encontraram assédio sexual na Internet. Todo oitavo relata que ele foi convidado a enviar uma foto ou vídeo em forma nua; Cada décimo – que ele foi convidado a participar de uma transmissão sexualmente franca. Os smartphones, o acesso à Internet e no Facebook estão agora nas mãos das crianças e criam novos espaços para predação ativa. Numa escala.
Claro, relatei o grupo que descobri por acaso. Aproveitei o sistema do Facebook na plataforma, sinalizando-o como contendo “nudez ou atividade sexual” que (no próximo menu) “envolvia uma criança”. Alguns dias depois, veio uma resposta automática. O grupo foi verificado e não violou nenhum “padrão específico da comunidade”. Se eu continuasse encontrando conteúdo “ofensivo ou desagradável para você” – o problema era do meu gosto?- Eu deveria ter informado sobre esse conteúdo específico e não sobre o grupo como um todo.
Mais popular
A ciência
Uma bomba demográfica de uma ação lenta está prestes a atingir a indústria de carne bovina
Matt Reynolds
Negócios
Dentro do complexo supe r-secreto Mark Zuckerberg no Havaí
Gatrine Skrimjor
Engrenagem
Primeira olhada em Matic, um aspirador de robô processado
Adrienne co
Negócios
Novas declarações de Elon Mask sobre a morte de um macaco estimulam novos requisitos para a investigação da SEC
Dhruv Mehrotra
O grupo “Buscando novi@ de 9, 10, 11, 12, 13 anos” tinha 7. 900 membros quando relatei. Quando o Facebook respondeu que não violava os padrões da comunidade, já havia 9 mil deles.
Então eu twitei no Facebook e na redação do Facebook. Enviei mensagens para pessoas que não conhecia, mas pensei que tinham acesso a pessoas no Facebook. Marquei os jornalistas. E relatei mais uma dúzia de grupos através do protocolo da plataforma, alguns com milhares de usuários: grupos que encontrei não por meio de consultas de pesquisa sexualmente explícitas, mas simplesmente digitando “11 12 13” na barra de pesquisa de Grupos.
À medida que tentava obter resultados, ficava cada vez mais claro que o problema não eram as limitações da tecnologia. Todo o poder dos algoritmos baseados em IA estava à mostra, mas funcionou para expandir, em vez de reduzir, os perigos para as crianças. Porque mesmo quando respostas após respostas chegaram à minha caixa de entrada negando a causa para a ação, novos grupos de sexualização infantil começaram a ser recomendados para mim como “Grupos dos quais você pode gostar”.
Cada novo grupo que me foi recomendado tinha a mesma combinação de golpes cheios de desenhos animados, preparação emocional e convites gamificados para compartilhar material sexualmente explícito que os grupos sobre os quais relatei. Alguns estavam em espanhol, alguns em inglês, outros em tagalo. Quando eu estava procurando a tradução de “hanap jowa”, o nome de uma série de grupos, me levou a um artigo das Filipinas que relatava os esforços dos usuários do Reddit para remover grupos do Facebook que eram perigosos para crianças.
Captura de tela: Facebook via funcionário da Wired
Mais popular
A ciência
Uma bomba demográfica de uma ação lenta está prestes a atingir a indústria de carne bovina
Matt Reynolds
Negócios
Dentro do complexo supe r-secreto Mark Zuckerberg no Havaí
Gatrine Skrimjor
Engrenagem
Primeira olhada em Matic, um aspirador de robô processado
Adrienne co
Negócios
Novas declarações de Elon Mask sobre a morte de um macaco estimulam novos requisitos para a investigação da SEC
Dhruv Mehrotra
Se o seu shopping local tivesse uma seção inteira de janelas com um anúncio “meninos e meninas 10, 11, 12 anos, encontre seu romance sexual aqui” – com portas abertas levando a placas de fotos ocultas e os proprietários do shopping organizado Uma transferência gratuita sob demanda, para pegar qualquer criança a qualquer momento – iríamos de ombros e dissemos: Oh, bem, nada pode ser feito? Vamos acusar seus pais, vamos nos afastar?
O problema é que as plataformas de mídia social que formam nossa sociabilidade avançada (e às vezes subsidia m-a, como o Facebook, fornecendo Internet gratuita limitada em alguns mercados em desenvolvimento), crie com precisão esses espaços sem i-nativos, onde, como sabemos, e sabemos e as crianças perigosas são expostas. Cerca de 10 % das crianças que se tornaram vítimas de violência sexual são submetidas a violência por estranhos, outros 30 % dos membros da família. No entanto, a maioria está sujeita a violência pelos conhecidos: pessoas que têm a possibilidade de contatos repetidos criando confiança e alavancas emocionais que podem criar oportunidades para sair da visão a portas fechadas. Grupos do Facebook e um ecossistema de bat e-papos e canais privados nos quais entram, permitem que estranhos se familiarizem e em larga escala, e os quartos privados estão em apenas um clique deles.
As recomendações mostraram que a inteligência artificial, alimentand o-se de dados internos, reconheceu precisamente as características do grupo que eu reconheci – capturou esquemas predatórios em idiomas e regiões, o que permitiu aumentar a eficiência sem atrito. Enquanto isso, enquanto os mecanismos de recomendação do Facebook funcionam como um Uber ininterrupto para os atacantes, o Serviço de Segurança funciona como um DMV de 1990: entrada de dados manuais, inação padrão.
O apelo a uma pessoa com laços dentro do Facebook foi o único passo que parecia me fazer agir. Este homem percebeu minha preocupação seriamente. Uma semana depois, os maiores grupos começaram a desaparecer. Mas por vários meses, novos e igualmente grandes apareceram em seu lugar. Mais recentemente, a maior dessa última onda de grupos desapareceu: eles foram excluídos ou transferidos para o status de um “grupo secreto” – é impossível determinar qual deles. Voltamos ao número menor de grupos – seu conteúdo é idêntico ao antigo e eles estão crescendo constantemente novamente, apesar das minhas repetidas mensagens sobre eles através da ferramenta de segurança do Facebook.
Talvez meus esforços não tenham nada a ver, mesmo com as poucas capturas que ocorreram. Quem sabe? A transparência é zero, e isso faz parte do problema. As capturas de tela feitas por mim podem ser a única evidência externa de que dezenas de grupos com milhares de participantes e centenas de contatos por dia floresceram no Facebook por vários meses, sem tomar medidas.(“Não somos aceitáveis para a exploração de crianças, incluindo materiais sobre violência sexual contra crianças ou interação inadequada entre adultos e menores, em nossas plataformas”, escreveu o representante da meta em comunicado para a Wired. “Chamamos todos que vê o conteúdo que, de acordo com eles, vende, viola nossas regras, relata m-o usando nossas ferramentas para informar no aplicativo “).
