A empresa acaba de realizar um enorme programa experimental para tomar decisões sobre o metavselnaya. É assim que ela precisa melhorar esse processo antes de aplic á-lo à IA.
Salve esta história
Salve esta história
No final do mês passado, a Meta sem ruído desnecessário anunciou os resultados de um processo “democrático” deliberado e quase global, destinado a tomar decisões sobre a responsabilidade da Companhia pelo Metavselnaya. Este não foi um evento corporativo comum. Mais de 6. 000 pessoas participaram, selecionadas para a representatividade demográfica em 32 países e 19 idiomas. Os participantes passaram muitas horas em conversas em pequenos grupos on-line e tiveram a oportunidade de ouvir especialistas que não são especialistas no campo da meta-tecnologia, respostas às perguntas discutidas. Oitent a-dois por cento dos participantes disseram que recomendam esse formato como um método de tomar decisões para a empresa no futuro.
Agora, a Meta anunciou publicamente a prontidão para lançar um processo semelhante para a IA generativa, e essa etapa corresponde a um enorme aumento no interesse em inovações democráticas para gerenciar ou liderar os sistemas de IA. Assim, Meta se junta ao Google, DeepMind, Openai, Organizações Antrópicas e outras que começam a estudar abordagens com base nesse tipo de democracia deliberada, pela qual eu e outros estamos falando.(Divulgação da informação: estou entrando no Comitê Consultivo sobre pedidos da concessão do OpenAI “Contribuição Democrática para a IA”). Vendo o processo de meta por dentro, sou inspirado por isso como uma evidência valiosa do conceito de gestão democrática transnacional. Mas, para que esse processo seja realmente democrático, seus participantes precisarão de mais poder e oportunidades, e o processo em si deve ser mais público e transparente.
Opinion Wired
Sobre o site
Aviv Ovadya aconselha organizações e empresas de financiamento sobre a administração da IA e é funcionário do Harvard Center de Berkman-Klyain e Govai.
Pela primeira vez, conheci vários funcionários responsáveis pela criação de met a-comunidades (esses processos começaram a ser chamados), na primavera de 2019 durante uma consulta externa tradicional com a empresa para determinar sua política em relação à “mídia manipulada”. Escrevi e falei sobre riscos potenciais do que agora é chamado de inteligência artificial generativa, e me pediram (junto com outros especialistas) para expressar minha opinião sobre qual meta de política deve se desenvolver para resolver problemas como a desinformação que pode ser agravada por essa tecnologia.
Na mesma época, aprendi sobre discussões representativas – a abordagem da tomada de decisão democrática, que se espalhou como um incêndio florestal: em todo o mundo, são realizadas reuniões cada vez mais visíveis de cidadãos e pesquisas consultivas. A idéia principal é que os governos tragam questões políticas complexas para a determinação pública. Em vez de um referendo ou eleições usando uma loteria, um microambiente representativo do público é selecionado. Este grupo está se reunindo por vários dias ou até semanas (com compensação) para estudar as opiniões de especialistas, partes interessadas e entre si antes de chegar ao conjunto final de recomendações.
As reuniões de representantes deram uma decisão potencial do dilema, que lutei por um longo tempo: como tomar decisões sobre tecnologias que afetam as pessoas nas fronteiras nacionais. Comecei a defender que as empresas testam esses processos para a tomada de decisão sobre as questões mais difíceis. Quando a Meta lançou independentemente um projeto piloto, torne i-me consultor não oficial do Laboratório de Gerenciamento da empresa (que liderou o projeto) e, em seguida, um observador construído durante o desenvolvimento e conduta do processo grandioso do fórum da comunidade em 32 países ( Não recebi remuneração durante esse período).
Primeiro de tudo, o fórum da comunidade foi interessante, pois mostrou que esse tipo de processo é realmente possível, apesar das enormes dificuldades logísticas. A Meta Partners em Stanford gerenciou principalmente o processo, e eu não vi nenhuma evidência de que os funcionários da Meta tentassem impor o resultado. A empresa também cumpriu sua obrigação de que os parceiros de Stanford relatem diretamente os resultados, quaisquer que sejam. Além disso, era óbvio que a empresa pensava bem em como melhor perceber os possíveis resultados do fórum. Como resultado, foram obtidos resultados, incluindo opiniões sobre quais medidas de influência serão apropriadas para os proprietários de espaços de metaverse, onde zombaria e perseguição estão ocorrendo constantemente e quais sistemas de moderação e monitoramento devem ser implementados.
Mais popular
A ciência
Uma bomba demográfica de uma ação lenta está prestes a atingir a indústria de carne bovina
Matt Reynolds
Negócios
Dentro do complexo supe r-secreto Mark Zuckerberg no Havaí
Gatrine Skrimjor
Engrenagem
Primeira olhada em Matic, um aspirador de robô processado
Adrienne co
Negócios
Novas declarações de Elon Mask sobre a morte de um macaco estimulam novos requisitos para a investigação da SEC
Dhruv Mehrotra
Em comparação com a negatividade que domina o discurso político, as discussões francas e bem-intencionadas no Meta Community Forum foram uma lufada de ar fresco. No entanto, este processo não foi isento de muitas desvantagens significativas. Dado que os participantes tinham uma discrição mínima na interação uns com os outros e não tinham qualquer interação direta com os decisores (equipe Meta), o processo muitas vezes assemelhava-se mais a uma experiência de recolha de dados do que a um exercício democrático. Além disso, embora a maioria dos participantes parecesse compreender as questões e tivesse ocorrido alguma discussão significativa, a extensão e a profundidade desta discussão pareciam por vezes insuficientes para abordar as questões levantadas. A Meta também ainda não cumpriu a sua obrigação de explicar quais as ações que irá tomar com base nas suas conclusões.
Quando a Meta empreender um processo semelhante sobre IA generativa, deverá ter como objectivo corrigir as deficiências do seu primeiro Fórum Comunitário e adoptar algumas das recomendações de melhores práticas para a condução de processos semelhantes para os governos. Dado o ritmo rápido do desenvolvimento da IA, é fundamental que os participantes indiquem as condições sob as quais as suas recomendações seriam aplicáveis e as condições sob as quais deixariam de ser aplicáveis.
Alguns poderão argumentar que a melhor abordagem para resolver questões relacionadas com plataformas ou IA é deixá-las para os governos democráticos existentes ou simplesmente descentralizar a tomada de decisões. Mas nem uma nem outra abordagem é suficiente. Governos autoritários e egoístas desencorajam ou usam como arma a regulamentação apropriada. As fronteiras nacionais podem dificultar muito a resolução de problemas que atravessam fronteiras. E a descentralização de código aberto ou baseada em protocolo oferece opções limitadas para resolver problemas como a desinformação e o assédio. Os sistemas baseados em criptomoedas que não utilizam processos como a deliberação representativa enfrentam formas ainda mais extremas de desigualdade, com grandes detentores de tokens exercendo um poder desproporcional. Precisamos de formas para as empresas tomarem decisões informadas e democráticas – pelo menos onde o poder não estatal centralizado possa servir o interesse público.
O que deve ser feito para que tal deliberação representativa alcance verdadeiramente este ideal? Um processo que visa um mandato global pode, contra-intuitivamente, ter menos participantes (digamos 1000 pessoas) em mais países, resultando em mais recursos por pessoa e, portanto, mais tempo para discussões mais profundas. Isto poderia dar aos participantes mais poder para propor diretamente novas ofertas – algo que a aplicação cuidadosa da IA pode tornar possível em grande escala. Finalmente, as discussões devem ser estruturadas de uma forma que proporcione a influência, a transparência e o peso necessários ao processo democrático. Por exemplo, a organização convocatória deve comprometer-se antecipadamente não só a publicar os resultados, mas também a responder-lhes até uma determinada data, e todas as reuniões, exceto as discussões em pequenos grupos, devem ser públicas.
Se quisermos encontrar um caminho seguro entre a Cila da centralização autocrática e a Caríbdis da descentralização indisciplinada, precisamos de continuar a melhorar os nossos processos colectivos de tomada de decisão. Não serão perfeitos à primeira, nem mesmo à segunda – mas se quisermos sobreviver num mundo de IA em rápida aceleração, teremos de experimentar e inovar com a mesma rapidez nas nossas abordagens à governação transnacional.
WIRED Opinion publica artigos de escritores terceirizados que representam uma ampla gama de pontos de vista. Leia outras opiniões aqui. Poste sua opinião em ideas@wired. com.
