A inteligência artificial me disse que tenho câncer

No final de 2019, vim fazer o que pensei ser uma mamografia de rotina. O radiologista que leu as imagens me disse que havia uma área problemática e que eu deveria marcar uma consulta para fazer um ultrassom diagnóstico. Alguns dias depois, em um ultrassom, o técnico parou em uma área do meu seio esquerdo e franziu a testa para a tela. Imediatamente percebi que as coisas estavam ruins. Outra mamografia e várias idas ao médico – e tudo ficou claro: eu estava com câncer de mama.

Cortesia da MIT Press

Você pode comprar este livro no site:

Se você comprar algo por meio de links em nossos artigos, poderemos ganhar uma comissão. Isso ajuda a apoiar nosso jornalismo. Mais detalhes

Todo mundo fica louco quando recebe um diagnóstico de câncer, mas exatamente como você enlouquece depende da sua personalidade. Meu próprio mecanismo de enfrentamento envolve tentar aprender tudo o que puder sobre minha doença. E porque acredito que um design deficiente da interface do usuário do EHR pode levar a problemas de comunicação entre os prestadores de serviços de saúde, sempre analiso meu registro online. Meu relatório de mamografia do hospital incluía uma nota estranha: “Esta imagem foi lida pelo Dr. Soandso e também pela inteligência artificial”. A IA leu minhas fotos? Eu não dei meu consentimento para isso. Qual foi o diagnóstico dele?

Marquei uma consulta para obter uma segunda opinião e resolvi perguntar o que a IA encontrou.“Por que a IA leu minhas fotos?”Perguntei ao cirurgião no dia seguinte.

“Que perda de tempo”, respondeu o cirurgião. Na verdade, eles bufaram, decidindo que a ideia era tão absurda. “Seu câncer é visível a olho nu. Não faz sentido pedir a uma inteligência artificial para lê-lo.” Eles apontaram para uma tela de computador próxima, que mostrava o interior dos meus seios. A imagem em preto e branco era um semicírculo sobre um fundo preto, cheio de dutos aracnóides, com um brilho brilhante faixa branca marcando o local da biópsia diagnóstica. A área cancerosa parecia um monte de manchas. Fiquei grato por esse médico ser tão competente e tão perspicaz que pôde ver o crescimento mortal no mar de pelotas. É por isso que eu consultei um especialista qualificado e imediatamente decidi que o cirurgião era o certo para mim e assinei um formulário concordando com uma operação de oito horas.

Médicos, enfermeiros e funcionários que cuidavam de mim foram simplesmente fantásticos. Eles eram hábeis em seus negócios e são muito profissionais. Minha experiência no tratamento do câncer pode ser aterrorizante, mas, em vez disso, foi controlado. Vários meses se passaram e, felizmente, eu estava livre de câncer e basicamente recuperado. Um ano depois, eu tinha uma folha de saúde pura e, como ainda estava interessado em como a II lê meus filmes, decidi descobrir o que realmente estava acontecendo com a detecção de câncer de mama usando a IA.

Aprendi sobre inteligência artificial para identificar o câncer, porque estava curioso e li uma pequena fonte. Hoje, os pacientes geralmente não sabem que os sistemas de inteligência artificial estão envolvidos em seu tratamento. Isso levanta a questão do consentimento completo. Poucas pessoas leem o acordo médico que devemos assinar antes de iniciar o tratamento, assim como poucas pessoas leem as condições e serviços necessários para criar uma conta no site. Nem todos ficarão encantados com o fato de que seus dados são usados à margem para ensinar inteligência artificial ou que os algoritmos em vez de as pessoas tomam decisões sobre cuidados médicos.”Acho que os pacientes descobrirão que estamos usando essas abordagens”, disse Justin Sanders, um médico de medicina paliativa do Instituto de Oncologia Dan a-Farber e do Hospital Brigham e uma mulher em Boston.”Isso pode se tornar um fator distraído desnecessário e minar a confiança no que estamos tentando fazer, o que provavelmente pode ser evitado”.

Mais popular
A ciência
Uma bomba demográfica de uma ação lenta está prestes a atingir a indústria de carne bovina
Matt Reynolds
Negócios
Dentro do complexo supe r-secreto Mark Zuckerberg no Havaí
Gatrine Skrimjor
Engrenagem
Primeira olhada em Matic, um aspirador de robô processado
Adrienne co
Negócios
Novas declarações de Elon Mask sobre a morte de um macaco estimulam novos requisitos para a investigação da SEC
Dhruv Mehrotra

Eu queria saber se a AI concorda com meu médico. Meu médico me salvou desde a morte precoce; Posso também encontrar meu câncer? Cheguei a um experimento: vou pegar o código de um dos muitos AIs para detectar o câncer de mama com um código aberto, vou tirar minhas próprias fotos e ver se ele encontrará meu câncer. Em termos científicos, este é o estudo de replicação assim chamado quando o cientista repete o trabalho de outro cientista para garantir que os resultados sejam verdadeiros.

Eu tinha um colega na ciência dos dados que criaram IA para detectar o câncer de mama, que teve resultados impressionantes publicados. Decidi suprimir todos os sentimentos da estranheza de uma conversa com um colega sobre o peito e levar minhas próprias imagens médicas através do código do câncer de mama do meu colega para descobrir o que exatamente diagnostica ai (o nome dele é Kshishtof Geras, e O código da IA acompanha seu trabalho de 2018 “Triagem de câncer de mama de alta resolução com redes neurais de convolução profunda de várias visualizações).

Meu plano imediatamente desceu dos trilhos.

Eu vi minhas fotos em um registro médico eletrônico (EMK). Eu tentei carreg á-los. Eu tenho um erro. Tentei fazer upload de fotos com dados despersonalizados de acordo com as opções propostas. Um cartão médico eletrônico me ofereceu para baixar fotos com um estranho. Não pude verificar se essas são imagens ou outras pessoas, porque no pacote de download não havia arquivos necessários para abrir o pacote no Mac, que era meu computador principal.

Alguns dias depois, cheguei à conclusão de que o código de download está quebrado. Liguei para o hospital, onde estava conectado com o suporte técnico do sistema portal. Fiz o suporte técnico, atingi o nível mais alto e ninguém queria corrigir o código ou conduzir uma investigação. Eles se ofereceram para me enviar um CD com imagens.”Eu não tenho uma unidade de CD”, eu disse a um funcionário amigável de suporte técnico.”Ninguém mais tem uma unidade de CD. Por que existe um método de carregamento eficaz?”

“As unidades de CD são armazenadas nas salas médicas para ler imagens”, ela me disse. A essa altura, eu quase me arrependei de decepção.

Voltando ao meu escritório, recorri à estratégia mais baix a-técnica que eu só podia imaginar. No meu computador Mac, tirei uma captura de tela de fotos no meu sistema EMR. A tecnologia EMR não me impressionou. Enviei imagens para meu assistente científico Isaek Robinson, que enviou o código de detecção do repositório de herass para o Github, o site da Code Exchange. Depois de vários dias para mexer, Robinson conseguiu iniciar o código.

Eu assumi que o programa visuaria todo o meu cartão médico e determinaria se eu tenho câncer, pois o médico olha para o cartão de todo o paciente. Errado. Cada programa para detectar o câncer funciona de maneira um pouco diferente e usa seu conjunto específico de variáveis. O programa Gerase usa dois tipos diferentes de seios. São imagens semicirculares com manchas de luz dentro.”Parece muco”, diz Robinson, tendo olhado dezenas de tais fotos para configurar o programa.

Percebi o que eu era como eu levaria todo o meu mapa e diagnosticaria, talvez com algumas imagens dramáticas gradualmente aparecendo, como nas cenas da série “Anatomy Gray”, onde encontram um grande tumor que cria complicações da trama e decide até o fim episódio. Eu já escrevi sobre esse fenômeno quando as idéias irrealistas de Hollywood sobre a IA podem obscurecer nossa compreensão coletiva de como a IA realmente funciona. A realidade do uso da IA na medicina é muito mais comum do que você pode imaginar, e a IA não “diagnostica” o câncer como o médico humano. O radiologista aparece muitas fotos da área afetada, lê o histórico médico e pode assistir a vários vídeos gravados de diferentes pontos de vista. A IA recebe uma imagem estática, a avalia em relação às leis matemáticas encontradas nos dados de ensino da IA e gera a previsão de que partes da imagem são matematicamente semelhantes às áreas marcadas (pessoa) nos dados de treinamento. O médico considera evidências e tira uma conclusão. O computador gera uma previsão que difere do diagnóstico.

Para fazer um diagnóstico, uma pessoa usa uma série de testes padrão, e a inteligência artificial é construída com base nesse processo de diagnóstico. Alguns desses testes são autoexame, mamografia, ultrassom, biópsia por agulha, teste genético ou biópsia cirúrgica. São então oferecidas opções de tratamento do câncer: cirurgia, radiação, quimioterapia, medicamentos de suporte. Cada pessoa recebe uma combinação específica de testes e tratamento. Fiz mamografias, ultrassonografias, biópsias com agulha, testes genéticos e cirurgia. Um amigo meu, que foi diagnosticado na mesma época, descobriu a massa no autoexame. Ela foi submetida a mamografias, ultrassonografias, biópsias por agulha, testes genéticos, biópsias cirúrgicas, quimioterapia, cirurgia, radiação, uma segunda rodada de quimioterapia e medicamentos de manutenção. O tratamento depende do tipo de câncer, sua localização e estágio: 0-4. Os testes, tratamentos e medicamentos disponíveis hoje nos hospitais americanos são os melhores da história da humanidade. Felizmente, um diagnóstico de câncer não é mais uma sentença de morte.

Como Geras e seus coautores pré-treinaram o modelo e o colocaram online, tudo o que Robinson e eu tivemos que fazer foi inserir nosso código no modelo pré-treinado e executar minhas varreduras nele. Nós a expulsamos e… nada. Nenhum resultado significativo sobre o câncer, nada. Foi estranho porque eu sabia que tinha câncer de mama. Os médicos simplesmente cortaram todo o meu seio para que o câncer não me matasse.

Conduzimos uma investigação. Encontramos uma pista em um artigo onde os autores escrevem: “Provamos experimentalmente a importância de armazenar imagens de alta resolução”. Percebi que minha imagem – uma captura de tela de uma mamografia – estava em baixa resolução. Era necessária uma imagem de alta resolução.

Robinson descobriu um problema adicional escondido no fundo do arquivo de imagem. Minha foto da tela parecia para nós em preto e branco, como todos os raios-X. No entanto, o computador apresentou uma captura de tela como uma imagem colorida, também conhecida como imagem RGB. Cada pixel em uma imagem colorida tem três valores: vermelho, verde e azul. Ao misturar esses valores, você obtém cores, como no caso de tinta. Se você fizer um pixel com 100 unidades de azul e 100 unidades de vermelho, obtenha um pixel roxo. O valor do pixel roxo pode parecer o seguinte: R: 100, G: 0, B: 100. A fotografia digital em cores é uma grade de pixels, cada uma com uma cor RGB. Quando você coloca todos os pixels um ao lado do outro, o cérebro humano forma uma coleção de pixels na imagem.

O código Herasse espera ver uma grade de pixels Pointhlist, mas ele esperava ver outro tipo de grade de Pointeri Pixel, chamada de imagem em preto e branco de um canal único. Em uma imagem em preto e branco de canal único, cada pixel tem apenas um valor, de 0 a 255, onde 0 é branco e 255 é preto. Na minha imagem RGB, cada pixel tem três valores.

É hora de procurar imagens com uma resolução mais alta. Depois de outra longa e decepcionante conversa com o apoio técnico da empresa envolvido em visualização médica, suspirei e pedi que me enviassem um disco compacto. Então eu comprei uma unidade de CD para leitura de arquivos. Era como um teatro absurdo. Fiz Robinson novamente dirigir as imagens em preto e branco transformadas corretamente de alta resolução através do código de detecção. O código desenhou uma estrutura vermelha em torno da área problemática. Ele determinou corretamente a área onde estava meu câncer. Sucesso! Ai me disse que tenho câncer.

No entanto, a probabilidade de a área identificada ser maligna é muito baixa. O sistema fornece dois graus – benignos e malignos, cada um em uma escala de zero a um. O tumor maligno na mama esquerda foi de 0, 213 pontos de 1. Isso significa que a probabilidade de que o câncer foi detectado na figura é de apenas 20 %?

Eu organizei uma videochamada com Geras, meu colega e o autor do código que eu usei.”Isso é muito alto”, disse Geras quando eu disse a ele meu resultado. Ele parecia preocupado.

“Na verdade, eu tinha câncer”, eu disse.”Estou bem agora.”

“Nada mal para o meu modelo!”Gerass brincou. Herass brincou. Sua voz parecia alívio.”Acredito que é realmente preciso. Tive medo de que ela tenha dado um resultado positivo e você não teve câncer”. Nenhum especialista em pesquisa de dados estava pronto para essa situação: alguém liga e diz que dirigiu suas próprias fotos através da sua IA para detectar câncer. Teoricamente, todo o motivo da ciência aberta é que outras pessoas podem reproduzir ou desafiar seus resultados científicos. Na prática, as pessoas raramente olham para o código de pesquisa um do outro. Talvez eles também não esperem essa proximidade entre os dados e seus colegas.

Geras explicou que a porcentagem da porcentagem não é indicada nos pontos e que, de acordo com seu plano, isso é apenas uma avaliação da escala de zero a um. Como em qualquer outro sistema de avaliação, as pessoas determinarão o limiar da ansiedade. Ele não se lembra de como era esse limiar, mas estava abaixo de 0, 2. A princípio, pareci a-me estranho que o número fosse apresentado na forma de uma escala arbitrária, e não como uma porcentagem. Parecia que seria mais útil derivar a afirmação como: “A probabilidade de que um tumor maligno esteja localizado nesta imagem seja um tumor maligno dentro da estrutura vermelha”. Então eu percebi: o contexto é importante. A medicina é uma área com um grande número de ações judiciais e grande responsabilidade. O obstetra, por exemplo, pode fazer uma ação por uma lesão no nascimento até que a criança tenha vinte e um. Se o programa alegar que a probabilidade de doença do câncer em uma determinada área é de 20 % e o diagnóstico está incorreto, o programa, seu criador, hospital ou seu fundo de financiamento poderá ser levado à responsabilidade legal. A escala arbitrária parece mais científica que o diagnóstico e, portanto, é menos atraente abusar na fase de estudo.

Como pessoa, toda a minha vida alcançou altos resultados, fiquei um pouco desanimado. Parecia que 0, 2 pontos em 1 – isso não é suficiente. Por alguma razão, eu esperava que meu câncer fosse uma pontuação alta. No final, foi um câncer – uma doença que poderia me matar e um assassino comum que já matou minha mãe, vários membros da minha família e vários amigos.

A diferença entre como o computador determinou a gravidade do meu câncer e como o médico o diagnosticou tem a ver com o que o cérebro pode fazer e o que os computadores podem fazer. Tendemos a atribuir características semelhantes às humanas aos computadores e a nomear processos computacionais com nomes de processos cerebrais, mas, no final das contas, um computador não é um cérebro. As redes neurais computacionais recebem nomes de processos neurais porque as pessoas que escolheram o nome imaginaram o cérebro funcionando de uma determinada maneira. Eles estavam errados em muitos níveis. O cérebro é mais do que apenas uma máquina, e a neurociência é um daqueles campos onde sabemos muito, mas permanecem mistérios significativos. No entanto, o nome “redes neurais” pegou.

Essa capacidade de detectar anormalidades está subjacente à capacidade do meu médico de detectar partículas malignas em um raio-X. Meu médico é treinado na aparência dos diferentes tipos de câncer; ele examina dezenas deles todos os dias e é especialista na detecção de câncer. O computador funciona de maneira diferente. Um computador não pode detectar instintivamente algo “errado” porque não possui instintos. A visão computacional é um processo matemático baseado em uma grade. A imagem da mamografia digital é uma grade com limites fixos e densidade de pixels definida. Cada pixel possui um conjunto de valores numéricos que representam sua posição e cor na grade; uma coleção de pixels forma uma figura. Cada forma mede sua distância das outras formas na grade, e essas medidas são usadas para calcular a probabilidade de uma das formas ser cancerígena. Isto é matemática, não instinto de sobrevivência. E o instinto de sobrevivência é uma das forças mais poderosas do mundo. Ele também é um pouco misterioso, mas tudo bem. A cada ano compreenderemos cada vez mais o desenvolvimento da ciência, da antropologia, da sociologia e de todas as outras disciplinas.

Pessoas inteligentes discordam sobre o futuro do diagnóstico de IA e seu potencial. No entanto, continuo cético de que esta ou qualquer outra IA será capaz de funcionar bem o suficiente fora de circunstâncias extremamente restritas para substituir os médicos. Algum dia? Talvez. Breve? Dificilmente. Como descobri em minha própria pesquisa, os modelos de aprendizado de máquina tendem a ter um bom desempenho no laboratório e a deteriorar-se dramaticamente fora dele. No entanto, os modelos podem ser usados de forma bastante eficaz para disseminar informações. Aprendi sobre o aumento dos linfonodos pós-vacinação graças a um artigo que me foi recomendado pelo sistema de recomendação do site do The New York Times – um sistema que usa IA. Alguns meses depois de tomar a vacina contra a Covid-19, surgiu um grande caroço sob minha axila. Eu sabia que não deveria ter medo e pensar que estava com câncer de novo porque li um artigo escrito por uma pessoa e distribuído por inteligência artificial.

Adaptado de More Than a Glitch: Confronting Race, Gender, and Ability Bias in Tech, de Meredith Broussard. Reimpresso com permissão da The MIT Press. Direitos autorais 2023.