Quando os algoritmos contribuem para a aut o-overhaul, quem é responsável?

O Tribunal Britânico decidiu que o adolescente Molly Russell morreu parcialmente devido ao conteúdo o n-line, mas é difícil responsabilizar as plataformas.

Salve esta história
Salve esta história

Quando Molly Russell, de 14 anos, morreu em 2017, ela tinha imagens gráficas de auto-mutilação em seu celular, o boletim eletrônico “Imagens depressivas que você pode gostar” e dicas para ocultar doenças mentais dos entes queridos. Inicialmente, os investigadores encontraram a morte de um suicídio adolescente britânico. Mas depois de quase cinco anos, o tribunal britânico dos legistas cancelou essa decisão. Agora eles argumentam que Russell morreu “como resultado do ato de aut o-confusão, sofrendo de depressão e o impacto negativo do conteúdo o n-line” – e os próprios algoritmos são avisados.

Este não é o primeiro caso de um choque de tecnologia e suicídio em questões de alto perfil que ultrapassa os limites da ciência e da lei. E certamente não é o último. Dizem mais e mais estudos que as plataformas de mídia social desempenham um certo papel no desenvolvimento da depressão, problemas com a imagem do corpo e outros problemas de saúde mental entre os usuários. Embora a maioria das coisas até agora tenha se concentrado em público que usa as plataformas para o CyberBulling, a investigação da morte de Russell foi “talvez o primeiro caso em que as empresas da Internet foram legalmente acusadas de suicídio”, segundo o New York Times.

No entanto, a decisão do Tribunal Britânica não significa necessariamente que as empresas de redes sociais serão responsabilizadas. Por exemplo, o tribunal legista não pode impor uma punição; Os líderes do Meta e do Pinterest foram forçados a testemunhar, mas ninguém pagou, sem mencionar a prisão. Além disso, os estudos existentes que conectam os problemas das plataformas de saúde mental e mídia social são baseados principalmente em associações – X e Y mudaram, mas se uma delas causou outra, é difícil dizer. A atribuição da responsabilidade final pelo suicídio associada às redes sociais permanece inatingível.

No final, Molly Russell não é a única pessoa cujas causas de morte não seriam evitadas por algumas nuances prescritas pelo Tribunal. O que 6, 5 milhões de pessoas morrem um ano – da poluição do ar ou da capital fóssil? Os ataques cardíacos são a principal causa de morte nos Estados Unidos ou é um ciclo de pobreza? E, nesse caso, que suicídio não é um ato de aut o-confusão, concluindo uma longa fila de problemas associados a ele?

A maneira como respondemos a essas perguntas é importante. Mas nos Estados Unidos, o futuro de tais casos depende da vontade dos juízes e dos júris de lidar com cadeias de causalidade cada vez mais longas. Também forçará os legisladores e os seus eleitores a fazerem uma escolha desconfortável: dar um salto ousado para além da ciência existente sobre o suicídio ou esperar ansiosamente por novas descobertas.

Se for preciso dizer: encorajar o suicídio é uma droga, seja do agressor da escola, de uma conta anônima ou do seu feed de notícias. Mas isso não o torna ilegal.

SE INSCREVER
Assine o WIRED e fique atualizado com todas as suas ideias favoritas.

Em 2006, uma mãe do Missouri chamada Lori Drew e seu funcionário criaram uma conta falsa no MySpace para se passar por um adolescente chamado Josh Evans. Drew usou a conta para se comunicar com sua vizinha de 13 anos, Megan Mayer. Drew acreditava que Mayer estava espalhando rumores sobre a filha adolescente de Drew, Sarah. As mensagens começaram de forma sedutora, mas eventualmente “Josh Evans” supostamente disse a Mayer que “o mundo seria um lugar melhor sem você”. Logo depois, Mayer estava morto.

Mesmo depois que a conta falsa do MySpace se tornou conhecida, a polícia local recusou-se a prender Drew. Os Meyers nunca abriram um processo civil contra ela. E quando o Ministério Público dos EUA em Los Angeles apresentou acusações federais contra Drew ao abrigo da Lei de Fraude e Abuso de Computadores (CFAA), um projecto de lei de segurança cibernética de 1986, o caso não avançou. Como resultado, Drew permaneceu livre.

Mais popular
A ciência
Uma bomba-relógio demográfica está prestes a atingir a indústria da carne bovina.
Matt Reynolds
Negócios
Dentro do complexo ultrassecreto de Mark Zuckerberg no Havaí
Guthrie Scrimgeour
Engrenagem
Primeiro, dê uma olhada no Matic, o aspirador robô redesenhado
Adriane So
Negócios
As novas alegações de Elon Musk sobre a morte de macacos estimulam novas demandas de investigação da SEC
Dhruv Mehrotra

Na próxima vez que estas questões surgiram nos EUA, as coisas foram um pouco diferentes. Em 2014, Conrad Roy, um jovem de 18 anos de Massachusetts, cometeu suicídio. Descobriu-se que seu telefone continha anos de conversas com sua namorada de longa distância, Michelle Carter, que repetidamente o encorajou a cometer suicídio por meio de mensagens de texto. Carter, que tinha 17 anos na época da morte de Roy, foi posteriormente condenado por homicídio culposo no tribunal de menores e cumpriu 11 meses de prisão.

Com base nos relatos da mídia sobre as ações de Carter, o desejo de puni-la era lógico, disse Mark Tunick, teórico político da Florida Atlantic University. Mas em Texting, Suicide and the Law, Tunick argumenta que as duas categorias de homicídio culposo de Massachusetts – omissão (ou omissão de intervenção) e comissão (dano causado por negligência) – não se aplicam a Carter. Primeiro, o adolescente não tinha obrigação de proteger Roy da mesma forma que um pai ou um médico fariam. Mais importante ainda, o tribunal não conseguiu provar que Carter causou a morte de Roy.

Muitos teóricos jurídicos concordam mais ou menos com isso. Nos tribunais americanos, a questão da causa da morte é muitas vezes decidida pelo teste “mas para”: se o professor Plum não tivesse batido na cabeça da Sra. Peacock com um castiçal na estufa, a Sra. Peacock estaria viva. Como o suicídio é tradicionalmente visto como um ato voluntário de uma pessoa, os tribunais geralmente consideram que todas as outras cadeias de causalidade são quebradas nesses momentos finais cruciais. Carter poderia enviar quantas mensagens quisesse, mas neste caso o verdadeiro “mas” foram as ações do próprio Roy.

O poder do contágio social complica ainda mais as noções de responsabilidade pessoal pelo suicídio. Pode ser a acção de um indivíduo, mas o suicídio é “em grande parte uma desordem social”, diz David Fink, epidemiologista social do Instituto Psiquiátrico do Estado de Nova Iorque. Os métodos e razões para o suicídio variam muito ao longo do tempo e da cultura. Os factores económicos parecem ter uma influência profunda nas taxas de suicídio. Agora, médicos e cientistas estão tentando compreender o papel que as redes sociais desempenham na disseminação de ideias prejudiciais.

Pelo menos desde a década de 1970, os epidemiologistas demonstraram que a exposição ao suicídio – seja através da morte de um amigo ou membro da família, ou através dos meios de comunicação – aumenta o risco de uma pessoa ter pensamentos ou ações suicidas. Neste contexto, culpar uma pessoa parece contraproducente e incompleto.

No entanto, os investigadores não conseguiram identificar um mecanismo claro pelo qual estas ideias se possam espalhar. Parte do problema tem a ver com os métodos disponíveis aos investigadores, diz Seth Abrutyn, sociólogo da Universidade da Colúmbia Britânica.

Em uma extremidade do espectro – suicídios que ocorrem entre entes queridos, por exemplo, entre prisioneiros, estudantes do ensino médio e jovens americanos indígenas. Para entender se outro suicídio na sociedade provocou outros pesquisadores como a Abrutrin, realizar entrevistas detalhadas com aqueles que ainda estão vivos. Eles descobriram que a disseminação de pensamentos e comportamentos suicidas está conectada não tanto com a “contagiosidade”, como a educação: assim como eles aprendem a jogar xadrez ou parar de fumar, as pessoas que morrem de suicídio parecem ensinar aos outros uma nova maneira de pensar em seus infortúnio, meios para suicídio, etc.

No outro extremo do espectro, existem suicídios que são distribuídos com menos força, mas em uma rede mais ampla, como uma celebridade após o suicídio. Tais casos são estudados usando métodos estatísticos que permitem identificar flutuações na quantidade de suicídios que se poderia esperar com base nos dados por um determinado ano. Por exemplo, alguns meses após o alto suicídio do ator Robin Williams, os pesquisadores descobriram 10 % mais suicídio do que o esperado, o que provavelmente foi o resultado de uma ampla iluminação da mídia.

Mas esses dois métodos não dão respostas às perguntas mais importantes sobre suicídio. As pesquisas são limitadas tanto pela precisão dos aut o-relatórios quanto pelo fato de muitas pessoas no cluster suicida não estarem mais vivas para compartilhar suas histórias. Embora os métodos estatísticos possam provar que as histórias de suicídio são importantes, elas não dão uma idéia clara de como essas histórias podem ser alteradas para melhor.

Nos últimos anos, ficou claro que as redes sociais estão entre esses dois extremos, e os dados necessários para preencher essa zona cinzenta pertencem às empresas que esperam esconder sua influência nos usuários. Enquanto Tiktok, Instagram, Facebook, Twitter e outras plataformas declaram abertamente seu objetivo de promover laços estreitos a diferentes distâncias, eles abandonam qualquer análise independente das consequências. Isso torna praticamente impossível o estudo da infecção por suicídio por meio de redes digitais.

Os suicidologistas também sabem que tentar atribuir a culpa pelo suicídio pode ter consequências dramáticas. A pesquisa de Abrutin mostra que a forma como falamos sobre o suicídio é em si um vetor. Num estudo de 2019 numa comunidade onde ocorreram vários suicídios de jovens, Abrutin e os seus colegas mostraram que racionalizar estas mortes como o desejo dos alunos de “escapar” de problemas como o “stress escolar” parecia ensinar a outros alunos com problemas semelhantes que o suicídio é uma opção para eles também.

Esta lógica pode ser facilmente estendida ao caso de Russell: se todos concordam que publicações deprimentes nas redes sociais podem levar uma pessoa ao suicídio, então faz sentido que mais pessoas tirem as suas próprias vidas com base nessa lógica. Mas, ao mesmo tempo, diz Abrutin, contar histórias adequadamente também pode reduzir o risco de pensamentos ou comportamentos suicidas. Encontrar maneiras de falar sobre a resiliência individual e comunitária e a disponibilidade de recursos para pessoas que lutam contra a ideação suicida pode, na verdade, ser protetor.

Talvez nunca possamos dizer com certeza que as redes sociais causaram a morte de Molly Russell ou de qualquer outra pessoa. Mas isso não significa que não possamos trabalhar para prevenir danos futuros.

Nos EUA, o discurso que incentiva o suicídio pode ser expressamente proibido pela nova legislação. Embora a pesquisa científica sobre o tema ainda esteja em seus primórdios, o advogado Nicholas LaPalme propôs um novo sistema chamado “supressão de vontade”. Este padrão reconhece “quão poderosas” são as palavras de uma pessoa como Carter “quando sua vítima já está lutando contra a depressão”. Se os tribunais reconhecerem que alguém pode ignorar a vontade de outro, a cadeia de causalidade pode permanecer intacta “porque a vítima não tinha capacidade mental naquele momento para fazer uma escolha” para resistir às palavras da outra pessoa.

Deixando de lado a questão controversa da “capacidade mental” e da autonomia, o quadro da “supressão da vontade” pode ser facilmente alargado a casos como o de Russell. Há uma década, era fácil descartar um site como o Facebook como uma ferramenta neutra que usuários individuais usavam para o bem ou para o mal. Hoje, porém, pode-se argumentar que as plataformas algorítmicas “sobrecarregam a vontade” dos utilizadores, identificando os seus pontos fracos e apresentando-lhes conteúdos que os fazem comunicar mais e sentir-se pior.