O caso de um algoritmo terrível que "previu" a gravidez de adolescentes

Um dos chefes do governo da Argentina recebeu a IA, a quem foram transferidos dados invasivos sobre as meninas. A reação feminista pode afetar o futuro das tecnologias médicas.

Salve esta história
Salve esta história

Banco de dados de inteligência artificial →

Para Leer Este Articulo en Español por favor Aprote Aqui.

Em 2018, quando o Congresso da Argentina foi debates quentes sobre se o aborto deveria ser descriminalizado, o Salta e o gigante tecnológico americano da Microsoft apresentaram o sistema algorítmico para prever a gravidez adolescente. Eles a chamavam de “plataforma tecnológica para intervenção social”.

Sobre o site

Diego Hemio é jornalista, professor e podcaster. Atualmente, ele escreve para o jornal Clarín (Buenos Aires), Vértice (México) e outras mídias. Ele é o criador do epistolar do podcast.

Alex Hagerte é um antropólogo que estuda direitos humanos, tecnologia e resistência da IA. Ela é pesquisadora associada da Universidade de Cambridge e consultora sênior da Rede Just AI.

Florence Aranda é uma ativista feminista argentina, poeta e pesquisadora independente. Ela estuda literatura moderna na América Latina na Universidade de Buenos Aires.

“Com a ajuda da tecnologia, você pode com cinco ou seis anos de antecedência, indicando o nome, sobrenome e endereço, prever qual garota – a futura adolescente – é 86 % predisposta à gravidez adolescente”, Juan Manuel Urtubey, que ocupou a televisão nacional , orgulhosamente ocupado na televisão nacional. Naquela época, o cargo de governador da província. O objetivo declarado era prever com a ajuda do algoritmo o que as meninas de áreas de baixa renda chegarão nos próximos cinco anos. Ao mesmo tempo, não foi especificado o que aconteceria se uma garota ou uma jovem fosse reconhecida como uma maternidade “predeterminada” e como essas informações ajudarão a prevenir uma gravidez na adolescência. As teorias sociais subjacentes ao sistema de inteligência artificial, como seus algoritmos, eram opacas.

O sistema baseou-se em dados que incluíam idade, etnia, país de origem, deficiência e disponibilidade de água quente no banheiro, obtidos de 200 mil moradores da cidade de Salta, incluindo 12 mil mulheres e meninas de 10 a 19 anos. Embora não existam documentos oficiais, sabemos, através de artigos de comunicação social e de duas análises técnicas, que “agentes territoriais” visitaram as casas de meninas e mulheres, fizeram perguntas, tiraram fotografias e registaram localizações GPS. O que uniu aqueles que foram submetidos a uma vigilância tão estreita? Eram pobres, alguns migrantes da Bolívia e de outros países sul-americanos, e outros das comunidades indígenas Wichi, Culla e Guarani.

Embora os funcionários da Microsoft digam com orgulho que a tecnologia Salta é “um dos principais exemplos de utilização de dados de inteligência artificial” em programas governamentais, há poucas novidades. Em vez disso, é uma continuação de uma tradição argentina de longa data: controlar a população através da vigilância e da força. E a reação a isso mostra como as feministas argentinas têm sido capazes de resistir a este abuso da inteligência artificial.

No século XIX e no início do século XX, sucessivos governos argentinos levaram a cabo genocídio contra a população indígena e promoveram políticas de imigração baseadas numa ideologia que visava atrair europeus na esperança de “embranquecer” o país. Com o tempo, a identidade nacional foi formada em linhas sociais, culturais e, acima de tudo, raciais.

Segundo a historiadora Marisa Miranda, que acompanha as tentativas da Argentina de controlar a sua população através da ciência e da tecnologia, o pensamento eugénico tende a mudar e a adaptar-se a novos paradigmas científicos e circunstâncias políticas. Veja a imigração, por exemplo. Ao longo da história argentina, a opinião pública oscilou entre elogiar a imigração como um meio de “melhorar” a população e ver os imigrantes como uma ameaça política indesejada que deve ser cuidadosamente monitorizada e gerida.

Mais recentemente, entre 1976 e 1983, a ditadura militar argentina controlou a população através de violência política sistemática. Durante a ditadura, foi confiada às mulheres a “tarefa patriótica” de sustentar a população do país, e a contracepção foi proibida por lei em 1977. A manifestação mais brutal do interesse da ditadura pela maternidade foi a prática de sequestro de mulheres grávidas, considerada politicamente subversiva. A maioria das mulheres foi morta após o parto e muitos dos seus filhos foram adoptados ilegalmente pelos militares para serem criados em “famílias católicas patrióticas”.

Embora o sistema de inteligência artificial de Salta para “previsão da gravidez” tenha sido chamado de futurista, ele só pode ser compreendido à luz dessa longa história, especialmente, segundo Miranda, do persistente impulso eugênico, que sempre “contém uma referência ao futuro” e sugere que a reprodução “deve ser controlada pelos poderosos deste mundo”.

Mais popular
A ciência
Uma bomba-relógio demográfica está prestes a atingir a indústria da carne bovina.
Matt Reynolds
Negócios
Dentro do complexo ultrassecreto de Mark Zuckerberg no Havaí
Guthrie Scrimgeour
Engrenagem
Primeiro, dê uma olhada no Matic, o aspirador robô redesenhado
Adriane So
Negócios
As novas alegações de Elon Musk sobre a morte de macacos estimulam novas demandas de investigação da SEC
Dhruv Mehrotra

Devido à total falta de regulamentação nacional da IA, a plataforma tecnológica de intervenção social nunca foi formalmente revista e o seu impacto nas raparigas e mulheres nunca foi avaliado. Nenhum dado oficial sobre sua precisão ou resultados foi publicado. Tal como a maioria dos sistemas de inteligência artificial em todo o mundo, incluindo os utilizados em contextos sensíveis, carece de transparência e responsabilização.

SE INSCREVER
Assine o WIRED e fique atualizado com todas as suas ideias favoritas.

Embora não se saiba se o programa tecnológico foi finalmente suspenso, o que sabemos sobre o sistema veio à luz através dos esforços de activistas feministas e jornalistas que conduziram uma espécie de auditoria no terreno ao sistema de inteligência artificial falho e prejudicial. Aproveitando rapidamente a maquinaria bem lubrificada da organização de base, estes activistas chamaram a atenção dos meios de comunicação nacionais para a forma como a tecnologia não testada e não regulamentada está a ser usada para violar os direitos das raparigas e mulheres.

“A idéia de que os algoritmos podem prever uma gravidez na adolescência antes de chegar é uma ocasião ideal para ativistas que se opõem às mulheres e direitos sexuais e reprodutivos de declarar as leis sobre o aborto ao desnecessário”, escreveu cientistas feministas Pas Pas e Joan Varon. De fato, logo ficou claro que a tecnologia está de pé uma organização nã o-lucrativa argentina chamada Conin Foundation, liderada pelo doutor Abel Albino, um oponente ardente do aborto, bem como pela Microsoft.

“[Programa tecnológico] é uma fabricação patriarcal”, disse Ana Perez Declerk, diretora do observatório para combater a violência contra as mulheres.”As variáveis socioeconômicas são misturadas para criar a impressão de que uma garota ou mulher é extremamente culpada por sua situação. Ao mesmo tempo, o contexto não é levado em consideração. Esse sistema de inteligência artificial é outro exemplo de como o O estado viola os direitos das mulheres. Imagine o quão difícil ele se recusará a participar dessa vigilância “. Ela acrescentou que as famílias dependem do programa de patrocínio do departamento, do Ministério da Primeira Infância, em termos de serviços como vacinação e leite livre. Em um país em que, de acordo com os resultados de 2021, metade da população vive na pobreza, esse é o apoio mais importante, que meninas e mulheres vulneráveis não podem correr o risco de expressar sua opinião.

O laboratório da Universidade de Inteligência Artificial Aplicada Buenos Aires apontou sérios erros técnicos e de design da plataforma e questionou o desenvolvimento de desenvolvedores que o modelo faz “as previsões certas em 98, 2 % dos casos”. As revisões técnicas foram baseadas em informações incompletas, pois o sistema não era transparente. No entanto, verificou-se que o banco de dados do sistema incluía dados étnicos e socioeconômicos, mas não continha nada sobre acesso à educação sexual ou contracepção, que são reconhecidos em todo o mundo como as ferramentas mais importantes para reduzir o nível de gravidez adolescente .”Problemas metodológicos, como a falta de confiabilidade dos dados, podem levar ao fato de que os políticos tomarão as decisões erradas”, disse Diego Fernandez Sluzak, diretor do laboratório.

Embora o plano para a previsão da gravidez tenha sido publicamente criticado por cientistas e jornalistas, os ativistas do movimento feminista usaram essa atenção para garantir um certo grau de responsabilidade social, mesmo nas condições da completa falta de regulamentação da IA do Estado. Essa resistência eficaz ao sistema de inteligência artificial foi possível devido ao fato de as feministas argentinas já terem criado um poderoso movimento social.

No século XIX, as mulheres-imigrantes em Buenos Aires defendiam a igualdade e os direitos reprodutivos no jornal anarquista La Voz de la Mujer (“Voz de uma mulher”) sob o slogan “Ni Dios, ni patrón, ni marido” (nem o chefe, nem o chefe, nem um marido).

Após a ditadura, as mulheres argentinas começaram a ser organizadas. A primeira Assembléia Nacional das Mulheres ocorreu em 1986, inspirada na reunião feminista da América Latina e do Caribe em 1981 e uma terceira conferência mundial em Nairóbi em 1985. Milhares de mulheres visitam as reuniões anuais nas quais estão sendo desenvolvidas as reuniões anuais para a luta pelos direitos reprodutivos. Na reunião de 2005, a campanha nacional foi aberta para o direito a um aborto legítimo, seguro e livre sob o slogan “Educación sexual para Decidir, anticonceptivos para não abortar, aborto legal para não morir, o que significa” educação sexual para tomar uma decisão, tomar uma decisão, tomar uma decisão, tomar uma decisão, tomar uma decisão, tomar uma decisão, tomar uma decisão, tomar uma decisão, tomar uma decisão, tomar uma decisão, tomar uma decisão, tomar uma decisão, tomar uma decisão, tomar uma decisão, tomar uma decisão, tomar uma decisão, tomar uma decisão, tomar uma decisão, tomar uma decisão, tomar uma decisão, tomar uma decisão, Para tomar uma decisão, para tomar uma decisão, os contraceptivos evitam o aborto, o aborto legítimo para sobreviver “.

A campanha feminista contra a violência de gênero #niunamenos (menos uma solteira) eclodiu na Argentina em 2015, após a descoberta do corpo de Kyara Paes, uma adolescente grávida de 14 anos, morta por seu namorado na província de Santa Fa. O movimento de massa atraiu mulheres de todas as camadas da sociedade e uniu uma variedade de movimentos ativistas, incluindo grupos que defendem os direitos dos povos indígenas, LGBTK e imigrantes. Os protestos se espalharam rapidamente para o Uruguai, Chile e México. Cidades como Washington, Paris, Barcelona, Oslo, Amsterdã, Genebra e Pequim se juntaram à mobilização, lideradas principalmente por mulheres latin o-americanas que vivem nessas cidades.

A campanha #Niunamenos causou um incêndio nas redes sociais. O movimento mostrou uma ausência quase completa de dados e estatísticas oficiais sobre violência de gênero na Argentina e em outros países, o que levou à ativação no nível de base do rastreamento e liberação de dados sobre femicida e outras formas de violência.(Os esforços realizados pelos ativistas foram posteriormente apanhados pelo governo, inclusive na Argentina, foi criado um sistema nacional para registrar casos de violência de gênero).

Em 2018, um novo movimento feminista surgiu quando mais de um milhão de manifestantes foram às ruas de Buenos Aires com uma demanda pela legalização do aborto. Isso marcou o início da onda verde (Marea Verde), que recebeu seu nome de lenços verdes, que usavam ativistas inspirados por lenços brancos cult, Maderes Place-de Maio, Mãe e avós, que desafiaram corajosamente a ditadura em busca de seus morto crianças e netos roubados. Como #niunamenos, a “onda verde” se espalhou rapidamente em outros países da América Latina e até na Polônia, onde ativistas que se opunham às restrições ao aborto colocam lenços verdes para protestar em 2021. Sob a influência da “onda verde” em 2020, a Argentina se tornou um dos primeiros países da América Latina a legalizar o direito ao aborto.

Como observam Zeynep Tullfaces e outros cientistas, o ativismo de dados não surge no vácuo. Ele pode se espalhar com a ajuda de hashtags, mas funciona apenas quando é suportado por redes locais bem organizadas, como #Niunamenos e The Green Wave, que criaram as feministas argentinas.

A Argentina anunciou sua intenção de se tornar um líder regional no desenvolvimento de tecnologia e inteligência artificial. Em Buenos Aires, o cenário das startups floresce, apesar da instabilidade econômica em andamento no país. Na Argentina, como em muitas outras partes do mundo, o desenvolvimento da IA é rapidamente, mas a regulamentação está perigosamente para trás. O governo do e x-presidente Maurisio Macri anunciou o plano nacional na IA em 2019, mas foi amplamente abandonado. Para que o Plano Nacional para a IA seja eficaz em termos de proteção da sociedade, especialmente grupos historicamente marginalizados da população, os políticos devem prestar atenção ao trabalho realizado pelas feministas no campo.

O coletivo feminista Socorro Rosa, ou Pink Salvation, assim como a Tecnologia de Intervenção Social, buscam abordar a questão da gravidez na adolescência, e ambos usam a palavra destino, que significa “destino” ou “destino”, para descrever seus projetos. No entanto, eles contrastam fortemente entre si. Socorro Rosa destaca dados sobre o elevado número de gravidezes adolescentes resultantes de violência sexual e afirma os direitos dos adolescentes à segurança, consentimento, educação sexual e acesso ao aborto seguro. O grupo descreve a campanha como um meio de “desafiar, questionar e ousar imaginar outros destinos [destinos]” para meninas e mulheres. O sistema de IA, por outro lado, concentra-se em meninas e mulheres que vivem na pobreza, sem qualquer contexto social. Considerando que o destino dessas adolescentes está selado e que alguns estão “destinados” à gravidez, ela faz previsões secretas. Entretanto, Socorro Rosa e outras activistas feministas assumem que as raparigas e as mulheres estão integradas em sistemas políticos mais amplos e que a mudança social é possível.

O caso de um algoritmo terrível que “previu” a gravidez de adolescentes