d/acc: Tinjauan setelah setahun

Tahun lalu, saya menulis sebuah artikel tentang optimisme teknologi, menjelaskan antusiasme saya terhadap teknologi secara keseluruhan, serta manfaat besar yang mungkin dibawanya. Pada saat yang sama, saya juga mengungkapkan sikap hati-hati terhadap beberapa masalah tertentu, terutama mengenai kecerdasan buatan super, serta risiko bencana yang mungkin terjadi jika dibangun dengan cara yang salah, atau risiko kehilangan kekuasaan secara tidak dapat dipulihkan bagi umat manusia.

Salah satu poin inti dari artikel tersebut adalah untuk mempertahankan konsep percepatan defensif yang terdesentralisasi, demokratis, dan berbeda. Kita harus mempercepat perkembangan teknologi, tetapi secara selektif fokus pada teknologi yang dapat meningkatkan kemampuan pertahanan kita, bukan yang merusak, dan berkomitmen untuk mendorong distribusi kekuasaan, bukan membiarkan kekuasaan terpusat pada segelintir elit, menghindari penilaian baik dan buruk oleh elit-elit ini yang mewakili semua orang. Model pertahanan kita seharusnya seperti Swiss yang demokratis, serta daerah Zomia yang hampir tanpa pemerintahan dalam sejarah, dan bukan model feodal abad pertengahan dengan tuan dan kastil.

Dalam setahun terakhir, ide dan pemikiran ini telah berkembang dan matang secara signifikan. Saya telah membagikan pemikiran ini di platform "80,000 Jam", dan menerima banyak respons, sebagian besar positif, tentu saja ada juga beberapa suara kritik.

Pekerjaan ini juga terus maju dan telah mencapai hasil yang nyata: kemajuan telah dicapai di bidang vaksin sumber terbuka yang dapat diverifikasi; pemahaman orang tentang nilai udara dalam ruangan yang sehat semakin mendalam; "Catatan Komunitas" terus berperan aktif; pasar prediksi telah mencapai tahun terobosan sebagai alat informasi; bukti nol pengetahuan telah diterapkan dalam identifikasi pemerintah dan media sosial ( dan memastikan keamanan dompet Ethereum melalui abstraksi akun ); alat pencitraan sumber terbuka telah diterapkan di bidang medis dan antarmuka otak-mesin, dan lain-lain.

Musim gugur tahun lalu, kami menyambut acara d/acc penting pertama: "Hari Penemuan d/acc" yang diadakan di Devcon (d/aDDy), acara ini mengumpulkan pembicara dari berbagai bidang pilar d/acc ( biologi, fisika, jaringan, pertahanan informasi, serta teknologi saraf ), dan berlangsung sepanjang hari. Orang-orang yang telah lama berkomitmen pada teknologi ini semakin memahami pekerjaan satu sama lain, dan orang luar juga semakin menyadari visi yang lebih besar ini: nilai-nilai yang sama yang mendorong perkembangan Ethereum dan cryptocurrency dapat diperluas ke dunia yang lebih luas.

Makna dan Ruang Lingkup d/acc

Bayangkan gambaran masa depan di tahun 2042. Anda melihat dalam laporan media bahwa ada berita bahwa kota Anda mungkin mengalami wabah baru. Untuk berita semacam ini, Anda sudah tidak heran lagi: orang sering bereaksi berlebihan terhadap setiap mutasi penyakit hewan, padahal dalam sebagian besar kasus, mutasi ini pada akhirnya tidak memicu krisis yang nyata. Dua wabah potensial sebelumnya terdeteksi lebih awal melalui pemantauan limbah dan analisis sumber terbuka di media sosial, dan berhasil ditekan sejak awal. Namun, situasinya kali ini berbeda, pasar prediksi menunjukkan probabilitas munculnya setidaknya 10.000 kasus mencapai 60%, yang membuat Anda khawatir.

Hanya kemarin, urutan gen virus tersebut telah ditentukan. Pembaruan perangkat lunak untuk alat penguji udara di saku Anda segera diluncurkan, dengan pembaruan ini, alat penguji dapat mendeteksi virus baru ( baik melalui pengujian pernapasan tunggal, maupun setelah terpapar udara dalam ruangan selama 15 menit untuk mendeteksi ). Sementara itu, instruksi dan kode sumber terbuka untuk menghasilkan vaksin menggunakan perangkat yang dapat diakses di fasilitas medis modern di seluruh dunia diperkirakan akan dirilis dalam beberapa minggu. Sebagian besar orang saat ini belum mengambil tindakan apa pun, mereka terutama mengandalkan langkah-langkah penyaringan udara dan ventilasi yang banyak diterapkan untuk melindungi keselamatan mereka.

Karena Anda memiliki masalah imun, Anda perlu bertindak lebih hati-hati: asisten AI pribadi yang berjalan secara lokal dan bersumber terbuka yang Anda gunakan, selain melakukan tugas-tugas rutin seperti navigasi, rekomendasi restoran, dan aktivitas, juga akan mempertimbangkan data pengujian udara waktu nyata dan data karbon dioksida, sehingga hanya merekomendasikan tempat yang paling aman untuk Anda. Data ini disediakan oleh ribuan peserta dan perangkat, dengan bantuan teknologi bukti nol dan privasi diferensial, meminimalkan risiko data bocor atau disalahgunakan untuk tujuan lain ( Jika Anda berminat untuk menyumbangkan data untuk kumpulan data ini, ada asisten AI pribadi lain yang akan memverifikasi apakah alat enkripsi ini benar-benar efektif ).

Dua bulan kemudian, pandemi secara ajaib menghilang: tampaknya 60% orang mengikuti protokol pencegahan dasar, yaitu mengenakan masker ketika alat penguji udara mengeluarkan alarm dan menunjukkan adanya virus, dan jika hasil tes individu positif, mereka melakukan isolasi mandiri. Langkah ini cukup untuk menurunkan tingkat penularan yang sudah berkurang secara signifikan karena penyaringan udara yang kuat menjadi di bawah 1. Sebuah simulasi menunjukkan bahwa penyakit yang mungkin lima kali lebih parah daripada pandemi COVID-19 dua puluh tahun yang lalu, kini tidak menyebabkan dampak serius.

Acara d/acc yang diadakan oleh Devcon telah mencapai hasil yang sangat positif, yaitu konsep d/acc berhasil menyatukan orang-orang dari berbagai bidang dan secara nyata membangkitkan minat yang kuat terhadap pekerjaan satu sama lain.

Mengadakan acara yang "beragam" bukanlah hal yang sulit, tetapi membuat orang-orang dengan latar belakang dan minat yang berbeda benar-benar menjalin hubungan yang erat adalah hal yang tidak mudah. Saya masih ingat pengalaman di sekolah menengah pertama dan atas di mana saya terpaksa menonton opera yang panjang, dan pada saat itu saya merasa opera tersebut membosankan. Saya sangat menyadari bahwa saya "seharusnya" menghargai mereka, karena jika tidak, saya akan dianggap sebagai kutu buku ilmu komputer yang tidak berbudaya, tetapi saya tidak dapat beresonansi dengan isi opera tersebut pada tingkat yang lebih dalam. Namun, suasana acara d/acc hari itu sangat berbeda: rasanya orang-orang benar-benar senang untuk memahami berbagai pekerjaan di berbagai bidang.

Jika kita ingin membangun masa depan yang lebih cerah daripada kekuasaan, perlambatan, dan kehancuran, kita pasti perlu melakukan pembangunan aliansi yang luas ini. d/acc tampaknya telah mencapai hasil yang signifikan dalam hal ini, dan hanya itu sudah cukup untuk menunjukkan nilai berharga dari ide ini.

Inti dari pemikiran d/acc sangat jelas: desentralisasi, demokratis, dan akselerasi defensif yang berbeda. Membangun teknologi yang dapat mendorong keseimbangan serangan dan pertahanan untuk condong ke pertahanan, dan dalam proses pelaksanaannya tidak bergantung pada penyerahan lebih banyak kekuasaan kepada otoritas pusat. Ada hubungan erat yang inheren antara kedua aspek ini: setiap struktur politik yang desentralisasi, demokratis, atau bebas, cenderung berkembang pesat ketika pertahanan mudah dilaksanakan, sementara ketika pertahanan menghadapi banyak kesulitan, akan menghadapi tantangan berat -- dalam kasus-kasus tersebut, hasil yang lebih mungkin muncul adalah periode kekacauan di mana semua orang saling berlawanan, dan akhirnya mencapai keadaan keseimbangan yang dikuasai oleh yang terkuat.

Salah satu cara untuk memahami pentingnya mencoba untuk secara bersamaan mewujudkan desentralisasi, defensif, dan akselerasi adalah dengan membandingkannya dengan ide yang dihasilkan dari melepaskan salah satu dari ketiga aspek tersebut.

Desentralisasi dipercepat, tetapi mengabaikan bagian "pertahanan diferensiasi"

Pada dasarnya, ini mirip dengan menjadi seorang akselerasionis yang efektif (e/acc), tetapi sekaligus mengejar desentralisasi. Ada banyak orang yang mengambil pendekatan ini, beberapa di antaranya menyebut diri mereka d/acc, tetapi mereka dengan bermanfaat menggambarkan fokus mereka sebagai "agresif". Selain itu, ada banyak orang lain yang menunjukkan antusiasme yang lebih moderat terhadap "kecerdasan buatan desentralisasi" dan topik serupa, tetapi menurut saya, perhatian mereka terhadap aspek "defensif" jelas kurang.

Menurut saya, cara ini mungkin dapat menghindari risiko kelompok tertentu mendiktatori umat manusia secara global, tetapi ia tidak mampu menyelesaikan masalah struktural yang mendasar: dalam lingkungan yang mendukung serangan, selalu ada risiko bencana yang terus-menerus, atau seseorang akan memposisikan dirinya sebagai pelindung dan secara permanen menduduki posisi dominan. Dalam hal kecerdasan buatan, ia juga tidak dapat secara tepat menangani risiko kekuasaan manusia yang melemah dibandingkan dengan kecerdasan buatan.

Percepatan pertahanan yang terdistribusi, tetapi mengabaikan "decentralization dan demokrasi"

Untuk mencapai tujuan keamanan, menerima kontrol terpusat memiliki daya tarik tertentu bagi sebagian orang, dan pembaca tentunya sudah akrab dengan banyak contoh semacam itu, serta kerugian yang ditimbulkannya. Baru-baru ini, beberapa orang khawatir bahwa kontrol terpusat yang ekstrem mungkin menjadi satu-satunya cara untuk menghadapi teknologi ekstrem di masa depan: misalnya, bayangkan skenario hipotetis di mana "setiap orang mengenakan 'label kebebasan' -- yang merupakan produk lanjutan dari perangkat pemantauan yang lebih terbatas saat ini, mirip dengan label pergelangan kaki yang digunakan sebagai alternatif penjara di beberapa negara...... video dan audio terenkripsi diunggah secara terus-menerus, dan diinterpretasikan secara real-time oleh mesin". Namun, ada masalah tingkat dalam kontrol terpusat. Sebuah bentuk kontrol terpusat yang relatif moderat namun sering diabaikan, yang tetap berbahaya, tercermin dalam bidang bioteknologi ( seperti makanan, vaksin ) yang menolak pengawasan publik, serta membiarkan praktik penolakan ini tanpa tantangan oleh norma-norma yang tertutup.

Risiko dari cara ini jelas terlihat, yaitu pusat itu sendiri sering kali menjadi sumber risiko. Kita telah menyaksikan ini selama pandemi COVID-19, di mana penelitian fungsional yang didanai oleh beberapa pemerintah dunia utama mungkin menjadi akar penyebab pandemi, epistemologi terpusat menyebabkan Organisasi Kesehatan Dunia menolak untuk mengakui bahwa virus COVID-19 ditularkan melalui udara selama bertahun-tahun, sementara jarak sosial yang dipaksakan dan mandat vaksin menimbulkan reaksi politik yang mungkin bertahan selama beberapa dekade. Situasi serupa kemungkinan besar akan terjadi lagi dalam konteks risiko yang terkait dengan kecerdasan buatan atau teknologi risiko lainnya. Sebaliknya, cara terdesentralisasi akan lebih efektif dalam menangani risiko yang berasal dari pusat itu sendiri.

Pertahanan terdesentralisasi, tetapi menolak percepatan

Pada dasarnya, ini mencoba memperlambat kemajuan teknologi atau mendorong resesi ekonomi.

Strategi ini menghadapi tantangan ganda. Pertama, secara keseluruhan, pertumbuhan teknologi dan ekonomi sangat bermanfaat bagi umat manusia, dan setiap penundaan terhadapnya akan membawa biaya yang tidak terukur. Kedua, dalam dunia yang tidak otoriter, stagnasi adalah tidak stabil: mereka yang "curang" paling banyak, yang mampu menemukan cara yang tampak masuk akal untuk terus mendorong perkembangan, akan mendapatkan keuntungan. Strategi perlambatan dapat berfungsi sampai batas tertentu dalam beberapa situasi tertentu: misalnya, makanan Eropa lebih sehat dibandingkan makanan Amerika, ini adalah contoh; keberhasilan non-proliferasi nuklir hingga saat ini juga demikian. Namun, strategi ini tidak mungkin selalu berhasil.

Melalui d/acc, kami berkomitmen untuk mencapai tujuan berikut:

• Dalam tren dunia yang semakin tertribalisasi saat ini, mempertahankan prinsip, bukan hanya membangun berbagai hal secara membabi buta--sebaliknya, kami berharap dapat membangun hal-hal tertentu, sehingga dunia menjadi lebih aman dan lebih baik.
• Menyadari kemajuan teknologi yang eksponensial berarti dunia akan menjadi sangat aneh, dan "jejak" keseluruhan umat manusia di alam semesta pasti akan terus meningkat. Kemampuan kita untuk melindungi hewan, tumbuhan, dan kelompok yang rentan dari bahaya harus terus ditingkatkan, dan satu-satunya jalan keluar adalah terus melangkah maju.
• Membangun teknologi yang dapat melindungi kita secara nyata, bukan berdasarkan asumsi "orang baik ( atau kecerdasan buatan baik ) mengendalikan segalanya". Kami mencapai tujuan ini dengan membangun alat yang secara alami lebih efektif untuk membangun dan melindungi daripada untuk menghancurkan.

Memikirkan perspektif lain dari d/acc adalah kembali ke kerangka gerakan Partai Bajak Laut Eropa pada akhir 2000-an: pemberdayaan.

Tujuan kami adalah untuk membangun dunia yang dapat mempertahankan agensi manusia, mencapai kebebasan negatif, yaitu menghindari intervensi aktif terhadap kemampuan kita untuk membentuk nasib kita sendiri, baik dari warga biasa, pemerintah, maupun robot super cerdas (, sekaligus mencapai kebebasan positif, yaitu memastikan bahwa kita memiliki pengetahuan dan sumber daya untuk menjalankan kemampuan ini. Ini sejalan dengan tradisi liberalisme klasik yang telah berlangsung selama berabad-abad, yang mencakup perhatian Stuart Brand terhadap "akses alat", serta penekanan John Stuart Mill pada pendidikan dan kebebasan sebagai elemen kunci kemajuan manusia.