Banco de dados de AI →
Os algoritmos de aprendizado de máquina são tendenciosos, errados e racistas? Deixe os cidadãos decidirem.
Os algoritmos de aprendizado de máquina desempenham um papel crescente em nossas vidas, sendo, de fato, estruturas baseadas nas regras para tomar decisões. Eles sugerem que devemos ler e ver com quem encontrar, dev e-nos nos detiver em antecipação ao julgamento. Suas perspectivas são enormes – eles podem identificar melhor o câncer. Mas eles também podem discriminar a cor da pele ou o índice postal em que vivemos.
Apesar de sua distribuição generalizada na sociedade, não existe uma estrutura real que regularia o uso de algoritmos. Contamos com jornalistas ou organizações públicas que acidentalmente relatam que algo deu errado. Enquanto isso, o uso de algoritmos se aplica a todas as esferas de nossas vidas e muitas instituições estatais. No mundo após o Covid-19, esse problema atingirá uma escala colossal.
Opinião com fio
Sobre o site
Federica Karugati – Diretor do Programa no Centro de Pesquisa Promissora nas Ciências da Vôo da Universidade de Stanford. É o autor do livro “Criando a Constituição: a Lei, a Democracia e o Crescimento da Atenas Antiga”, seu trabalho é publicado nas principais revistas de ciências políticas e blogs acadêmicos.
No novo relatório do OpenAI, propõ e-se criar autoridades de auditoria externas para avaliar a influência das decisões tomadas com base em algoritmos. No entanto, o relatório não especifica como esses órgãos devem parecer.
Não sabemos como regular os algoritmos, porque sua aplicação está associada a uma inconsistência fundamental para resolver problemas públicos. Os algoritmos seguem as regras lógicas para otimizar o trabalho para obter um determinado resultado. A política estatal é uma questão de compromissos: otimização para alguns grupos de sociedade necessariamente piora a situação de outros.
A solução de compromissos sociais exige que muitos votos diferentes sejam ouvidos. Isso pode parecer radical, mas na verdade esta é a lição original da democracia: os cidadãos devem ter o direito de votar. Não sabemos como regular os algoritmos, porque ficamos chocantes no governo civil.
A administração civil é possível hoje? Claro disponível. Sabemos dos sociólogos que um grupo diversificado de pessoas pode tomar boas decisões. De várias experiências recentes, também sabemos que os cidadãos podem estar envolvidos na tomada de decisões sobre questões políticas muito difíceis, incluindo mudanças climáticas e até a formação de constituições. Por fim, podemos recorrer ao passado para descobrir como realmente criar instituições gerenciadas pelos cidadãos.
Os antigos atenienses – cidadãos da primeira experiência de democracia em grande escala do mundo – construíram toda a sua sociedade com base no princípio do governo civil. Para os nossos propósitos, uma instituição se destaca: o Conselho dos Quinhentos – um órgão consultivo responsável por tomar todas as decisões, desde a guerra até as finanças públicas e o entretenimento. Todos os anos, 50 cidadãos eram selecionados por sorteio de cada uma das 10 tribos. A seleção ocorreu entre aqueles que não haviam servido no ano anterior e não haviam servido duas vezes.
Estas regras organizacionais simples promoveram a participação generalizada, a acumulação de conhecimento e a aprendizagem dos cidadãos. Primeiro, porque os mandatos eram limitados e não podiam ser repetidos mais de duas vezes, ao longo do tempo, amplos sectores da população – ricos e pobres, instruídos ou não – participaram na tomada de decisões. Em segundo lugar, porque o conselho representava toda a população (cada tribo compreendia três distritos geográficos diferentes), podia recorrer ao conhecimento diversificado dos seus membros. Terceiro, no final do seu mandato, os membros do conselho regressaram a casa com um vasto conhecimento sobre os assuntos da sua cidade, que puderam partilhar com as suas famílias, amigos e colegas, alguns dos quais já tinham servido no conselho, e alguns dos quais que estavam em processo de adesão. É claro que os atenienses não cumpriram o seu compromisso com a inclusão. Como resultado, as vozes de muitas pessoas não foram ouvidas, incluindo mulheres, estrangeiros e escravos. Mas não precisamos de seguir o exemplo dos atenienses nesta questão.
Mais popular
A ciência
Uma bomba-relógio demográfica está prestes a atingir a indústria da carne bovina.
Matt Reynolds
Negócios
Dentro do complexo ultrassecreto de Mark Zuckerberg no Havaí
Guthrie Scrimgeour
Engrenagem
Primeiro, dê uma olhada no Matic, o aspirador robô redesenhado
Adriane So
Negócios
As novas alegações de Elon Musk sobre a morte de macacos estimulam novas demandas de investigação da SEC
Dhruv Mehrotr
O Conselho de Cidadãos de Algoritmos, criado no Modelo de Atensky, representará toda a população da América. Já estamos fazendo isso com o júri (embora, talvez, quando as decisões afetam um eleitorado específico, seja necessária uma conformidade mais precisa com a população real). Ao discutir, os cidadãos confiarão na auto-avaliação de agências e relatórios sobre o impacto algorítmico dos sistemas de tomada de decisão usados por agências governamentais e relatórios sobre auditoria interna na indústria, bem como relatórios de jornalistas-investigadores e ativistas da sociedade civil , caso existam. Idealmente, o conselho deve atuar como um órgão autoritário ou conselho consultivo sob a agência regulatória existente. Ele poderia avaliar, como o OpenAI recomenda, várias perguntas, incluindo o nível de proteção da vida privada, o grau (e os métodos) dos sistemas de segurança, a confiabilidade ou aspectos éticos, bem como fontes de dados, mã o-d e-obra e outros recursos.
Relatórios semelhantes aos que o OpenAI acaba de lançar são um primeiro passo importante no processo de obtenção de consentimento do setor. O relatório enfatiza os riscos de desenvolvimento não regulamentado da tecnologia e as vantagens do processo inclusivo de criação de órgãos regulatórios. Por exemplo, a indústria pode desempenhar um papel no processo de seleção ou na escolha de materiais disponíveis para membros do Conselho ou fornecendo recomendações de especialistas.
O Conselho seria uma resposta justa e eficaz à questão de como resolver compromissos públicos que criam algoritmos. Diferentemente das soluções tecnocráticas propostas e das estruturas de auditoria tradicionais, o Conselho expandirá a gama de possíveis soluções para os problemas criados pelos algoritmos, fortalecerá a responsabilidade democrática e contribuirá para a participação e o treinamento dos cidadãos.
A erosão das normas e instituições democráticas em todo o mundo exige novas idéias. É hora de considerar decisões institucionais criativas, a fim de lidar com alguns dos problemas mais sérios que a sociedade enfrenta. A democracia ateniense nos lembra que, por dois milênios e meio, superamos o escritório – primeiro aos reis, depois especialistas e agora os carros. Agora temos a oportunidade de mudar essa tendência.
A opinião da Wired publica artigos de autores de terceiros, representando uma ampla gama de pontos de vista. Leia outras opiniões aqui. Publique sua opinião no site do opinião@wired. com.
Outras histórias de arame interessantes
- DJ virtual, drone e casamento no estilo de zoom
- O trabalho remoto tem suas vantagens até que você queira obter um aumento
- Todas as ferramentas e dicas necessárias para assar pão em casa
- Reconhecimento de Marcus Hatchins, Hacker, que salvou a Internet
- Na lua, a urina do astronauta se tornará um produto quente
- 👁 O cérebro é um modelo útil para a IA? Além disso: aprenda as últimas notícias sobre ai
- 🏃🏽♀️ Você quer as melhores ferramentas para manter a saúde? Veja a seleção dos melhores rastreadores de fitness, executando mercadorias (incluindo sapatos e meias) e os melhores fones de ouvido compilados por nossa equipe de equipamentos.
