Banco de dados de IA →
Ao ler estas palavras, provavelmente existem dezenas de algoritmos fazendo previsões sobre você. O algoritmo provavelmente determinou que você acessaria este artigo porque previu que você o leria. As previsões algorítmicas podem determinar se você conseguirá um empréstimo, um emprego, um apartamento, um seguro e muito mais.
Essa análise preditiva está conquistando cada vez mais áreas da vida. E ninguém pede sua permissão para fazer tais previsões. Nenhuma organização governamental os controla. Ninguém lhe informa sobre as profecias que determinam o seu destino. Pior ainda, uma pesquisa na literatura acadêmica sobre a ética da predição revela que se trata de uma área de conhecimento pouco pesquisada. Como sociedade, não pensámos nas implicações éticas de fazer previsões sobre pessoas, seres que deveriam ter agência e livre arbítrio.
Desafiar dificuldades é o que significa ser humano. Nossos maiores heróis são aqueles que desafiaram as probabilidades: Abraham Lincoln, Mahatma Gandhi, Marie Curie, Helen Keller, Rosa Parks, Nelson Mandela e outros. Todos eles alcançaram um sucesso além de todas as expectativas. Todo professor conhece crianças que conquistaram mais do que aquilo que lhes foi concedido. Além de melhorar o desempenho básico de todos, queremos uma sociedade que permita e incentive ações que desafiem as probabilidades. No entanto, quanto mais utilizamos a IA para categorizar as pessoas, prever o seu futuro e tratá-las em conformidade, mais reduzimos as capacidades humanas, o que, por sua vez, nos expõe a riscos desconhecidos.
As pessoas têm usado previsões desde antes do Oráculo de Delfos. As guerras foram travadas com base nessas previsões. Nas últimas décadas, as previsões têm sido utilizadas para informar práticas como a definição de prémios de seguro. Normalmente, essas previsões diziam respeito a grandes grupos de pessoas – por exemplo, quantas pessoas em cada 100. 000 iriam bater os seus carros. Algumas destas pessoas serão mais cuidadosas e afortunadas do que outras, mas os prémios de seguro serão aproximadamente uniformes (excepto em categorias amplas, como grupos etários), no pressuposto de que a partilha de riscos permite compensar os custos mais elevados dos menos cuidadosos e afortunados. pelos custos relativamente mais baixos para os cuidadosos e sortudos. Quanto maior o pool, mais previsíveis e estáveis eram os prêmios.
Hoje, a previsão é feita principalmente por meio de algoritmos de aprendizado de máquina, que usam estatísticas para preencher lacunas no desconhecido. Algoritmos de texto usam enormes bancos de dados de idiomas para prever o final mais plausível para uma sequência de palavras. Os algoritmos de jogos usam dados de jogos anteriores para prever o melhor próximo movimento. E os algoritmos aplicados ao comportamento humano utilizam dados históricos para prever o nosso futuro: o que vamos comprar, se planeamos mudar de emprego, se vamos ficar doentes, se vamos cometer um crime ou bater um carro. Com este modelo, o seguro não se trata mais de agrupar os riscos de grandes grupos de pessoas. Em vez disso, as previsões tornaram-se individualizadas e cada vez mais você se paga de acordo com as suas pontuações de risco pessoais, levantando novas questões éticas.
SE INSCREVER
Assine o WIRED e fique mais esperto com seus líderes inovadores favoritos.
Uma característica importante das previsões é que elas não descrevem a realidade. A previsão refere-se ao futuro, não ao presente, e o futuro é algo que ainda não se tornou realidade. Uma previsão é uma suposição, contém todo tipo de avaliações subjetivas e preconceitos em relação a riscos e valores. É claro que as previsões podem ser mais ou menos precisas, mas a relação entre probabilidade e realidade é muito mais tênue e eticamente problemática do que alguns acreditam.
No entanto, hoje em dia as instituições tentam muitas vezes fazer com que as previsões sejam um modelo de realidade objectiva. E mesmo quando as previsões da IA são puramente probabilísticas, na prática são frequentemente interpretadas como determinísticas – em parte porque os humanos têm uma fraca compreensão da probabilidade e em parte porque os incentivos avessos ao risco acabam por reforçar as previsões.(Por exemplo, se se prevê que uma pessoa tenha 75% de probabilidade de ter um desempenho fraco, as empresas não vão querer arriscar contratá-la quando tiverem candidatos com um factor de risco mais baixo).
A forma como fazemos previsões levanta questões éticas que levam a um dos debates mais antigos da filosofia: se existe um Deus onisciente, podemos realmente ser considerados livres? Se Deus já sabe tudo o que vai acontecer, isso significa que tudo o que vai acontecer foi predeterminado – caso contrário, seria incognoscível. Segue-se que o nosso sentido de livre arbítrio é apenas isso, um sentimento. Essa visão é chamada de fatalismo teológico.
