d/acc: Revisão de um ano depois

No ano passado, escrevi um artigo sobre o otimismo tecnológico, onde expus o meu entusiasmo geral pela tecnologia e os enormes benefícios que ela pode trazer. Ao mesmo tempo, também expressei uma atitude cautelosa em relação a certos problemas específicos, principalmente sobre a superinteligência artificial e os riscos catastróficos que podem surgir se ela for mal construída, ou o risco de a humanidade perder o poder de forma irreversível.

Um dos pontos centrais do artigo é a defesa de uma filosofia de aceleração defensiva que é descentralizada, democrática e diferenciada. Precisamos acelerar o desenvolvimento tecnológico, mas de forma seletiva, focando nas tecnologias que podem aprimorar nossa capacidade de defesa em vez de prejudicá-la, e nos comprometendo a promover a descentralização do poder, em vez de permitir que o poder fique nas mãos de uma minoria de elites, evitando que essas elites determinem o que é certo e errado em nome de todos. Nosso modelo de defesa deve ser como a democracia da Suíça e a região de Zomia, que historicamente foi quase anárquica, e não como o modelo medieval de senhores e castelos sob o feudalismo.

No último ano, essas ideias e conceitos tiveram um desenvolvimento e amadurecimento significativos. Eu compartilhei essas ideias na plataforma "80.000 horas" e recebi muitas respostas, a maioria positivas, mas, claro, também houve algumas críticas.

Este trabalho está a avançar continuamente e a alcançar resultados práticos: houve progressos na área das vacinas de código aberto verificáveis; a consciência do valor do ar interior saudável está a aprofundar-se; os "notas da comunidade" continuam a desempenhar um papel positivo; os mercados de previsões tiveram um ano de ruptura como ferramentas de informação; as provas de conhecimento zero estão a ser aplicadas na identificação de identidade governamental e nas redes sociais ( e garantiram a segurança das carteiras Ethereum através da abstração de contas ); ferramentas de imagem de código aberto estão a ser aplicadas na medicina e na interface cérebro-máquina, entre outros.

No outono passado, recebemos o nosso primeiro evento importante de d/acc: o "Dia de Descoberta d/acc" realizado na Devcon ( d/aDDy ), que reuniu palestrantes de diversos campos pilares do d/acc (, incluindo biologia, física, redes, defesa da informação e tecnologia neural ), e durou o dia todo. As pessoas que se dedicam a essas tecnologias há muito tempo estão cada vez mais cientes do trabalho umas das outras, e os de fora também estão se dando conta dessa visão mais ampla: os mesmos valores que promovem o desenvolvimento do Ethereum e das criptomoedas podem se expandir para um mundo mais vasto.

O significado e a extensão de d/acc

Imagine o cenário futuro de 2042. Você vê uma notícia nos meios de comunicação que diz que a sua cidade pode enfrentar um novo surto de epidemia. Para esse tipo de notícia, você já está acostumado: as pessoas costumam reagir em excesso a cada mutação de doenças animais, e na grande maioria dos casos, essas mutações acabam não gerando uma crise real. As duas potenciais epidemias anteriores foram detectadas precocemente por meio da monitorização de águas residuais e da análise de fontes abertas nas redes sociais, e foram com sucesso contidas em seu estágio inicial. No entanto, desta vez a situação é diferente, os mercados de previsão mostram que a probabilidade de ocorrer pelo menos 10.000 casos é de até 60%, o que te deixa preocupado.

Apenas ontem, a sequência genética do vírus foi determinada. Uma atualização de software para o seu aerômetro portátil foi lançada imediatamente, permitindo que o dispositivo detecte o novo vírus (, seja através de um teste de respiração ou testando ) após 15 minutos de exposição ao ar interior da sala. Ao mesmo tempo, as instruções e códigos de código aberto para gerar vacinas, que podem ser obtidos usando equipamentos disponíveis em qualquer instalação médica moderna no mundo, devem ser divulgados em algumas semanas. A maioria das pessoas ainda não tomou nenhuma ação, dependendo principalmente de medidas de filtragem de ar e ventilação amplamente adotadas para se proteger.

Devido a problemas de imunidade, você age com mais cautela: o assistente de inteligência artificial local de código aberto que você utiliza, além de realizar tarefas convencionais como navegação, recomendações de restaurantes e atividades, também considera dados de testes de qualidade do ar em tempo real e dados de dióxido de carbono, recomendando-lhe apenas os locais mais seguros. Esses dados são fornecidos por milhares de participantes e dispositivos, utilizando prova de conhecimento zero e técnicas de privacidade diferencial, minimizando o risco de que os dados sejam vazados ou usados indevidamente para outros fins ( Se você estiver interessado em contribuir com dados para esses conjuntos de dados, outros assistentes de inteligência artificial verificarão se essas ferramentas criptográficas são realmente eficazes ).

Dois meses depois, a pandemia desapareceu milagrosamente: parecia que 60% das pessoas seguiam os protocolos básicos de prevenção, ou seja, usavam máscara quando o detector de ar emitia um alerta e mostrava a presença do vírus, e isolavam-se em casa se o teste pessoal desse positivo. Esta medida foi suficiente para reduzir ainda mais a taxa de transmissão, que já tinha diminuído significativamente devido à filtragem passiva do ar, para abaixo de 1. Uma simulação indicou que uma doença que poderia ser cinco vezes mais grave do que a pandemia de Covid-19 de há vinte anos, agora não causou impactos severos.

O evento d/acc realizado pelo Devcon alcançou um resultado extremamente positivo, que é a ideia de d/acc ter conseguido unir pessoas de diferentes áreas e realmente estimular o seu intenso interesse pelo trabalho uns dos outros.

Realizar um evento com "diversidade" não é difícil, mas fazer com que pessoas de diferentes origens e interesses realmente estabeleçam conexões profundas é uma tarefa árdua. Eu ainda me lembro vividamente das experiências de ser forçado a assistir a longas óperas durante o ensino fundamental e médio, e na época eu pessoalmente achava essas óperas entediantes. Eu sabia que "deveria" apreciá-las, porque, se não o fizesse, seria visto como um preguiçoso da ciência da computação sem cultura, mas não consegui me conectar em um nível mais profundo com o conteúdo da ópera. No entanto, a atmosfera do evento d/acc foi completamente diferente: senti que as pessoas realmente gostavam de aprender sobre os vários trabalhos em diferentes áreas.

Se desejamos construir um futuro mais brilhante do que o domínio, a desaceleração e a destruição, é necessário desenvolver essa ampla construção de alianças. O d/acc parece ter alcançado resultados significativos nesse aspecto, e apenas isso já é suficiente para destacar o valor precioso deste conceito.

A ideia central do d/acc é simples e clara: uma aceleração defensiva descentralizada, democrática e diferenciada. Construir tecnologias que podem levar o equilíbrio entre ataque e defesa a inclinar-se para a defesa, sem depender de transferir mais poder para uma autoridade central durante a implementação. Existe uma ligação intrínseca e estreita entre esses dois aspectos: qualquer estrutura política descentralizada, democrática ou livre tende a prosperar quando a defesa é fácil de implementar, enquanto enfrenta desafios severos quando a defesa encontra muitas dificuldades - nessas situações, o resultado mais provável é um período de caos em que todos se confrontam, culminando, por fim, em um estado de equilíbrio dominado pelos mais fortes.

Uma maneira de compreender a importância de tentar implementar simultaneamente a descentralização, a defesa e a aceleração é compará-la com a ideia gerada ao abdicar de qualquer um desses três aspectos.

Aceleração descentralizada, mas ignorando a parte de "defesa diferenciada"

Essencialmente, isso é semelhante a se tornar um aceleracionista eficaz ( e/acc ), mas ao mesmo tempo buscando a descentralização. Há muitas pessoas que adotam essa abordagem, algumas das quais se autodenominam d/acc, mas que descritivamente focam em "ofensiva". Além disso, há muitas outras que demonstram um entusiasmo mais moderado por "inteligência artificial descentralizada" e tópicos semelhantes, mas, na minha opinião, elas carecem de uma atenção clara ao aspecto "defensivo".

Na minha opinião, essa abordagem pode evitar o risco de um grupo específico exercer um domínio tirânico sobre a humanidade global, mas não resolve os potenciais problemas estruturais: em um ambiente favorável ao ataque, sempre existe o risco contínuo de catástrofe, ou alguém pode se posicionar como protetor e ocupar permanentemente uma posição de domínio. No que diz respeito à inteligência artificial, ela também não consegue resolver adequadamente o risco de o poder da humanidade como um todo ser enfraquecido em relação à inteligência artificial.

Defesa diferenciada acelerada, mas ignora "descentralização e democracia"

Para alcançar objetivos de segurança, a aceitação do controle centralizado tem um certo apelo para algumas pessoas, e os leitores sem dúvida já estão familiarizados com muitos exemplos desse tipo e com os problemas que eles trazem. Recentemente, algumas pessoas expressaram preocupação de que o controle centralizado extremo pode ser a única forma de lidar com tecnologias extremas no futuro: por exemplo, imagine um cenário hipotético onde "cada pessoa usa uma 'etiqueta de liberdade' - que é um produto sucessor dos dispositivos de monitoramento vestíveis mais limitados de hoje, semelhante às etiquetas de tornozelo usadas como alternativas à prisão em alguns países... Vídeos e áudios criptografados sendo continuamente carregados e interpretados em tempo real por máquinas". No entanto, o controle centralizado apresenta um problema de grau. Uma forma relativamente moderada de controle centralizado, geralmente ignorada, mas ainda prejudicial, se manifesta no campo da biotecnologia (, como resistência à supervisão pública sobre alimentos e vacinas ), e permitindo que essa resistência não seja desafiada por normas de código fechado.

Os riscos deste método são evidentes, uma vez que o centro em si tende a tornar-se a fonte do risco. Já testemunhámos isso durante a pandemia de COVID-19, onde a pesquisa funcional financiada por vários governos mundiais principais pode ser a origem da pandemia, e a epistemologia centralizada levou a Organização Mundial da Saúde a recusar por anos o reconhecimento de que o vírus COVID-19 se espalha pelo ar, enquanto o distanciamento social obrigatório e a obrigatoriedade de vacinas provocaram uma possível reação política que pode durar décadas. Situações semelhantes provavelmente ocorrerão novamente em qualquer cenário de risco relacionado à inteligência artificial ou outras tecnologias de risco. Em contraste, uma abordagem descentralizada lidará de forma mais eficaz com os riscos provenientes do próprio centro.

Defesa descentralizada, mas exclusão de aceleração

Essencialmente, isso é uma tentativa de desacelerar o progresso tecnológico ou impulsionar a recessão econômica.

Esta estratégia enfrenta duplo desafio. Primeiro, de um modo geral, o crescimento tecnológico e econômico é extremamente benéfico para a humanidade, e qualquer atraso nisso acarretará custos incalculáveis. Em segundo lugar, em um mundo não autoritário, a estagnação é instável: aqueles que "trapaceiam" mais e conseguem encontrar maneiras aparentemente razoáveis de continuar avançando no desenvolvimento terão vantagem. A estratégia do desaceleracionismo pode funcionar em certos contextos específicos até certo ponto: por exemplo, a comida na Europa é mais saudável do que a comida nos Estados Unidos, este é um exemplo; o sucesso alcançado até agora na não proliferação nuclear também é assim. No entanto, essas estratégias não podem funcionar para sempre.

Através do d/acc, estamos comprometidos em alcançar os seguintes objetivos:

• Manter princípios na tendência crescente de tribalização no mundo de hoje, e não apenas construir cegamente várias coisas - pelo contrário, esperamos construir coisas específicas, tornando o mundo mais seguro e melhor.
• Reconhecer que os avanços tecnológicos exponenciais significam que o mundo se tornará extremamente peculiar, e a "pegada" geral da humanidade no universo inevitavelmente aumentará. Nossa capacidade de proteger animais, plantas e populações vulneráveis de danos deve continuar a melhorar, e a única saída é seguir em frente.
• Construir tecnologia que realmente nos proteja, em vez de se basear na suposição de que "pessoas boas ( ou inteligência artificial boa ) controlam tudo". Alcançamos esse objetivo construindo ferramentas que são naturalmente mais eficazes para construir e proteger do que para destruir.

Uma outra perspectiva sobre d/acc é retornar a um quadro do movimento dos Piratas da Europa no final da década de 2000: empoderamento.

O nosso objetivo é construir um mundo que preserve a capacidade de ação humana, realizando a liberdade negativa, ou seja, evitar que outros (, sejam cidadãos comuns, governos ou superinteligências artificiais ), interfiram ativamente na nossa capacidade de moldar o nosso próprio destino, enquanto se realiza a liberdade positiva, ou seja, garantir que temos o conhecimento e os recursos para exercer essa capacidade. Isso ecoa uma tradição de liberalismo clássico que se estende por séculos, que inclui a atenção de Stewart Brand à "aquisição de ferramentas", assim como a ênfase de John Stuart Mill na educação e na liberdade como elementos-chave para o progresso humano.