Os pesquisadores acadêmicos não conseguiram nada, criticando a grande plataforma de tecnologia, então decidimos tentar cooperar.
Salve esta história
Salve esta história
Redes sociais, notícias, musicais, comércio e outros sites funcionam com base em sistemas recomendados: algoritmos que personalizam o que cada usuário vê. Esses sistemas são amplamente baseados nas previsões do fato de que cada pessoa clicará, o que ele gostaria, o que ele compartilhará, que ele comprará e assim por diante, que geralmente é abreviado como “envolvimento”. Essas reações podem conter informações úteis sobre o que é importante para nós, mas, como a existência do ClickBeat prova, se pressionarmos, isso não significa que seja bom.
Muitos críticos afirmam que as plataformas não devem tentar maximizar o envolvimento, mas otimiza m-o para obter o valor de longo prazo para os usuários. Alguns dos que trabalham nessas plataformas concordam com isso: Meta e outras plataformas de redes sociais, por exemplo, trabalham há algum tempo para incluir mais revisões diretas nas recomendações.
Se inscrever
Inscrev a-se na Wired e mantenh a-se a par de todas as suas idéias favoritas.
Nos últimos dois anos, estamos cooperando com a Meta Funcionários, bem como pesquisadores da Universidade de Toronto, da Universidade da Califórnia em Berkeley, do Instituto de Tecnologia de Massachusetts, Harvard, Stanford e Kaist, além de representantes de nã o-lucro. e organizações de direitos humanos para conduzir um estudo que contribui para esses esforços. Isso envolve a mudança experimental na classificação da fita do Facebook para usuários que decidiram participar de nosso estudo, a fim de forç á-lo a responder às suas críticas por vários meses.
Veja como nosso estudo será realizado, que começará no final deste ano: dentro de três meses, perguntaremos repetidamente aos participantes sobre sua experiência com fita do Facebook, usando um questionário destinado a avaliar a experiência positiva, incluindo o tempo gasto na rede com com amigos e recebendo boas dicas.(Nossa pesquisa é uma versão modificada da escala de suporte social anteriormente comprovada na Internet). Em seguida, tentaremos simular a conexão entre o que estava na fita do participante – por exemplo, quais fontes e tópicos ele olhou – e suas respostas ao longo do tempo. Usando esse modelo prognóstico, realizaremos novamente um experimento, desta vez tentando escolher conteúdo, que, em nossa opinião, levará aos melhores resultados ao longo do tempo medidos pela repetição de pesquisas.
Nosso objetivo é mostrar que é tecnicamente possível controlar os algoritmos para escolher conteúdo, perguntando aos usuários sobre suas impressões por um longo período de tempo e não confiar principalmente em sua reação imediata na Internet.
Não afirmamos que a Meta ou qualquer outra empresa deve preferir as perguntas que usamos em pesquisas. Existem muitas maneiras de avaliar a influência e o valor das recomendações a longo prazo e, até agora, não há consenso sobre quais indicadores devem ser usados ou como equilibrar as metas concorrentes. Em vez disso, o objetivo dessa cooperação é mostrar como potencialmente qualquer indicador de pesquisa pode ser usado para enviar recomendações de conteúdo para obter resultados selecionados de longo prazo. Isso pode ser aplicado a qualquer sistema de recomendações em qualquer plataforma. Embora o envolvimento sempre seja um sina l-chave, este trabalho estabelecerá o princípio e a técnica de ativar outras informações, incluindo consequências a longo prazo. Se isso funcionar, isso ajudará todo o setor a criar produtos que levarão a uma melhor experiência do usuário.
Esse estudo nunca foi realizado, em parte devido à séria desconfiança entre os pesquisadores que estudam os métodos de melhoria de sistemas recomendados e as plataformas nas quais trabalham. Nossa experiência mostra o quão difícil é organizar esse experimento e a importância de conduz i-lo.
Mais popular
A ciência
Uma bomba demográfica de uma ação lenta está prestes a atingir a indústria de carne bovina
Matt Reynolds
Negócios
Dentro do complexo supe r-secreto Mark Zuckerberg no Havaí
Gatrine Skrimjor
Engrenagem
Primeira olhada em Matic, um aspirador de robô processado
Adrienne co
Negócios
Novas declarações de Elon Mask sobre a morte de um macaco estimulam novos requisitos para a investigação da SEC
Dhruv Mehrotra
O projeto surgiu de conversas informais entre um pesquisador independente e gerente de meta produtos há mais de dois anos. Em seguida, reunimos uma equipe acadêmica, bem como pesquisadores de organizações sem fins lucrativos e grupos de proteção ao consumidor, a fim de ajudar a manter a ênfase nos benefícios do público. Talvez fôssemos ingênuos, mas ficamos surpresos com as recusas de pessoas que, no entanto, concordaram que fizemos perguntas valiosas. Algumas organizações recusaram-se devido ao risco de comunicação ou porque alguns de seus funcionários argumentaram que a cooperação com a Big Tech é, na melhor das hipóteses, a potência de relações públicas, ou mesmo antiética.
Algumas objeções decorrem do fato de a Meta estar investindo dinheiro no projeto. Embora os investigadores externos não sejam remunerados, a Universidade de Toronto contratou a Meta para gerir a parte universitária da colaboração. Este projeto tem custos administrativos e de engenharia significativos, em parte porque decidimos garantir a integridade da pesquisa escrevendo partes-chave do código que o Meta executará externamente.” Este financiamento pode ter trazido mais problemas do que valeu a pena, mas há não há razão para que os pesquisadores tenham que economizar centavos ou gastar o dinheiro dos contribuintes trabalhando com as maiores empresas do mundo para desenvolver tecnologias socialmente benéficas. No futuro, financiadores terceirizados poderiam apoiar as partes acadêmicas e públicas das colaborações de pesquisa na plataforma, pois eles às vezes acontece.
O problema com a desconfiança instintiva nas plataformas não é que as plataformas não resistam às críticas, mas sim que a desconfiança generalizada bloqueia o trabalho mais valioso que pode ser feito para tornar estes sistemas menos prejudiciais, mais úteis e mais abertos. Muitos observadores depositam as suas esperanças na transparência, especialmente na transparência exigida por lei. A recentemente aprovada Lei dos Serviços Digitais da UE exige que as plataformas disponibilizem dados a investigadores qualificados, e uma série de propostas semelhantes foram apresentadas no Congresso dos EUA. No entanto, o nosso trabalho vai necessariamente muito além do “acesso a dados”.
Na nossa opinião, apenas uma experiência envolvendo intervenção em plataforma pode testar a hipótese de que os sistemas de recomendação podem concentrar-se em resultados positivos a longo prazo e desenvolver tecnologia acessível para isso. Além disso, é pouco provável que a lei por si só possa obrigar uma empresa a trabalhar de boa fé num projecto tão complexo como este; O desenvolvimento do experimento principal levou mais de um ano e não teria sido possível sem a experiência dos engenheiros da Meta que trabalham diariamente com a tecnologia da plataforma. Em qualquer caso, as tentativas de aprovar leis americanas que garantam o acesso dos investigadores aos dados não deram em nada até agora.
