Danos reais da troca de dados com a linha de texto de crise

Pessoas que precisam de ajuda têm acesso ao crescente número de dicas e ferramentas de cuidados – algumas delas são úteis, algumas são prejudiciais. A proteção do consumidor precisa ser atualizada.

O menino está no telefone

Salve esta história
Salve esta história

Logotipo

Banco de dados de inteligência artificial →

Outra semana, outro horror diante da linha de texto de confidencialidade: crise, um serviço de mensagens de texto sem fins lucrativos para pessoas que experimentam crises mentais graves, usaram conversas “anônimas” para criar uma ferramenta comercial de aprendizado de máquina para serviços de suporte ao cliente.(A reação da linha de texto da crise foi focada nos dados próprios e se eles contêm informações pessoais. Mas nesta resposta, os dados são usados ​​como uma manobra perturbadora. Imagine o seguinte: Digamos que você escreveu a linha de texto de crise e recebeu o seguinte conteúdo em resposta: “Ei, só para saber, usamos essa conversa para ajudar nossa subsidiária comercial a criar uma ferramenta para empresas envolvidas no suporte ao cliente.” Você continuaria escrevendo?

Esta é uma paródia real – quando o preço da obtenção de atendimento psiquiátrico em uma situação de crise se transforma em grãos na fábrica de lucros. E não apenas os usuários da CTL pagam; Todo mundo que se volta para a ajuda é pago quando precisam especialmente.

Os americanos precisam de ajuda e não conseguem. Uma enorme demanda insatisfeita por conselhos e assistência importantes levou ao surgimento de uma nova classe de organizações e ferramentas de software que existem na zona de regulamentação cinza. Eles ajudam as pessoas com falência ou despejo, mas não são advogados; Eles ajudam as pessoas com crises de saúde mental, mas não são instituições médicas. Eles oferecem às pessoas comuns para confiar nelas e geralmente prestam assistência real. Mas esses serviços também podem não ser responsáveis ​​por seus conselhos ou mesmo abusar da confiança das pessoas. Eles podem cometer erros, distribuir publicidade e informação predatória ou simplesmente vender francamente dados. E o consumidor garante que geralmente protegem as pessoas de ações ou erros sem escrúpulos de advogados ou médicos ainda não chegaram a este dia.

Essa zona de regulamentação “cinza” também pode restringir as atividades de organizações que oferecem novas soluções. Tomemos, por exemplo, UPSOLVE, uma organização sem fins lucrativos que desenvolve software que ajuda as pessoas a passar pelo procedimento de falência.(UPSOLVE quer treinar os líderes públicos de Nova York para que eles ajudem outras pessoas a navegar pelos notórios tribunais de dívida da cidade. Um problema: esses ouvintes em potencial não são advogados, portanto, de acordo com as leis de Nova York (e quase todos Outros estados), a iniciativa UPSOLVE será ilegal agora a UPSOLVE entrou com uma ação para fazer uma exceção para si. A empresa afirma corretamente que a falta de assistência jurídica significa que as pessoas são realmente privadas de direitos sob a lei.

A incapacidade da profissão jurídica de fornecer aos americanos acesso ao apoio está bem documentada. Mas a reivindicação UPSOLVE também levanta questões novas e importantes. Quem finalmente é responsável pelo conselho dado no âmbito de um programa semelhante e quem é responsável pelo erro – o aluno, o treinador, ambos? Como devemos ensinar às pessoas seus direitos como cliente desse serviço e como alcançar a proteção? Essas perguntas podem ser respondidas. Existem muitas ferramentas políticas para criar uma responsabilidade crescente: podemos apropria r-se de que as pessoas que dão conselhos, status legal especial, estabelecem a obrigação de lealdade às organizações que trabalham com dados confidenciais ou criam caixas de areia política para testar e estudar novos modelos para o fornecimento de aconselhamento .

Se inscrever
Inscrev a-se na Wired e mantenh a-se a par de todas as suas idéias favoritas.

Mas, em vez de usar essas ferramentas, a maioria dos órgãos regulatórios parece preferir enterrar a cabeça na areia. Oficialmente, você não pode dar consultas legais ou médicas sem um diploma profissional. Não oficialmente, as pessoas podem receber esses conselhos de qualquer forma, exceto o nome, de ferramentas e organizações que trabalham nos quintais. E embora os poderes possam ser importantes, as autoridades regulatórias não levam em consideração como o software mudou fundamentalmente a maneira como damos conselhos e nos preocupamos, e o que isso significa para as responsabilidades daqueles que dão conselhos.

E precisamos de tal participação mais do que nunca. As pessoas que recorrem a especialistas ou enfermeiras em busca de ajuda são vulneráveis. Eles podem não ser capazes de distinguir um bom serviço de um ruim. Eles não têm tempo para desmontar as condições para a prestação de serviços, repletos de jargões, reservas e recusas de responsabilidade. E eles praticamente não têm a oportunidade de negociar para estabelecer as melhores condições, especialmente quando se entregam no meio da crise. É por isso que os deveres fiduciais que advogados e médicos têm são tão necessários: não apenas para proteger uma pessoa que se voltou para obter ajuda uma vez, mas também para dar às pessoas confiança que elas podem procurar ajuda de especialistas sobre os problemas mais importantes e delicados que eles enfrentam. Em outras palavras, o dever de um advogado do cliente não é apenas proteger o cliente de um advogado específico; Consiste em proteger a confiança da Companhia contra advogados.

E isso é um dano verdadeiro – quando as pessoas não querem entrar em contato com uma linha direta para suicídios, porque não acreditam que essa linha quente persegue seus únicos interesses. Essa desconfiança pode ser contagiosa: as ações da linha de texto de crise podem não apenas impedir as pessoas de usar a linha de texto de crise. Isso pode impedir as pessoas de usar qualquer serviço semelhante. O que poderia ser pior do que a incapacidade de encontrar ajuda? Incapacidade de confiar nela.

Rate article