A equipe do MIT criou um algoritmo para otimizar tempos de chamada e rotas de ônibus. O burburinho em torno deste plano fornece lições sobre como falamos com as pessoas quando falamos com elas sobre inteligência artificial.
Salve esta história
Salve esta história
Banco de dados de inteligência artificial →
Quando o sistema das Escolas Públicas de Boston anunciou um novo horário de início em dezembro passado, alguns pais consideraram isso inaceitável e protestaram. O algoritmo usado para definir esse tempo foi desenvolvido por pesquisadores do MIT e, cerca de uma semana depois, Cade Crockford, diretor do programa Tecnologia para a Liberdade da ACLU de Massachusetts, enviou-me uma carta pedindo-me para assinar um artigo instando os políticos a serem mais atenciosos e democráticos quando consideram o uso de algoritmos para mudar políticas que afetam a vida dos residentes. Cade, que também é Media Lab Fellow e meu colega, sempre presta atenção às principais questões de liberdade digital e é ótimo em apontar no que preciso prestar atenção.(Naquela época, eu não tinha contato com os pesquisadores do MIT que desenvolveram o algoritmo.)
Fiz algumas edições em seu rascunho e o enviamos ao Boston Globe, que o publicou em 22 de dezembro de 2017, sob o título “Não culpe um algoritmo por fazer o que os funcionários da escola de Boston pediram”. No artigo criticamos as mudanças, mas argumentamos que não é o algoritmo que deve ser criticado, mas sim o processo político urbano que dita a otimização de diversos interesses e preocupações. As Escolas Públicas de Boston decidiram não implementar a mudança naquele dia. Cade e eu nos cumprimentamos e encerramos o dia.
As famílias manifestantes, Cade e eu, fizemos o que achamos justo e justo, dadas as informações que tínhamos na época. Um mês depois, surgiu uma imagem mais matizada que, creio, fornece uma visão sobre como a tecnologia pode e deve servir como uma plataforma para o envolvimento com a política – e como a política pode reflectir as diversas vozes das pessoas por ela afectadas. Numa altura em que a democracia atravessa um período particularmente negro e em que a tecnologia está cada vez mais fora de controlo, sinto que uma lição como esta me deu mais informações sobre como podemos introduzir algoritmos de forma mais adequada na sociedade. Pode até dar-nos uma ideia de como poderá ser a democracia 2. 0.
Alguns meses depois, depois de ler um artigo no Boston Globe, Arthur Delarue e Sébastien Martin, estudantes de pós-graduação do Centro de Pesquisa Operacional do MIT e membros da equipe que criou o algoritmo do ônibus de Boston, pediram para se encontrar comigo. Eles me disseram em e-mails muito educados que eu não sabia de toda a história.
No final daquele mês, Cade e eu nos encontramos com Arthur, Sebastian e seu orientador, o professor do MIT Dimitris Bertzimas. Uma das primeiras coisas que nos mostraram foi uma foto de pais protestando contra o cronograma desenvolvido pelo algoritmo. Quase todos eles eram brancos. A maioria das famílias do sistema escolar de Boston não é branca. As famílias brancas representam apenas cerca de 15% da população escolar pública da cidade. Obviamente algo estava errado.
Os investigadores do MIT trabalharam com as Escolas Públicas de Boston para ajustar os horários dos sinos, incluindo o desenvolvimento de um algoritmo que o sistema escolar utilizou para compreender e quantificar as compensações políticas associadas aos diferentes horários dos sinos e, em particular, o seu impacto nos horários dos autocarros escolares. O principal objetivo era reduzir custos e criar um cronograma ideal.
