d/acc:一年後的回顧

去年,我寫了一篇關於技術樂觀主義的文章,闡述了我對技術的總體熱忱,以及它可能帶來的巨大益處。同時,我也表達了對某些特定問題的審慎態度,主要是關於超級智能人工智能,以及如果構建不當可能引發的災難性風險,或者導致人類不可逆轉地喪失權力的風險。

那篇文章的一個核心觀點是堅持去中心化、民主且差異化的防御性加速理念。我們要加速技術發展,但要有選擇地聚焦於那些能提升我們防御能力而非破壞能力的技術,並致力於推動權力分散,而非讓權力集中在少數精英手中,避免由這些精英代表所有人去判定是非善惡。我們的防御模式應該像民主的瑞士,以及歷史上準無政府主義的佐米亞地區那樣,而不是中世紀封建主義下領主和城堡的模式。

在過去一年裏,這些理念和想法有了顯著的發展與成熟。我在"80,000小時"平台上分享了這些想法,收到了很多回應,大部分是積極的,當然也有一些批評聲音。

這項工作本身也在持續推進並取得了實際成果:可驗證開源疫苗領域取得了進展;人們對健康室內空氣價值的認知不斷深化;"社區筆記"持續發揮積極作用;預測市場作爲信息工具迎來了突破之年;零知識證明在政府身分識別和社交媒體領域得到應用(並通過帳戶抽象確保了以太坊錢包的安全);開源成像工具在醫學和腦機接口領域獲得應用,等等。

去年秋季,我們迎來了首個重要的d/acc活動:在Devcon舉辦的"d/acc發現日"(d/aDDy),活動匯聚了來自d/acc各個支柱領域(生物、物理、網路、信息防御,以及神經技術)的演講者,持續了整整一天。長期致力於這些技術的人們越來越了解彼此的工作,外部人士也越來越意識到這一更宏大的願景:推動以太坊和加密貨幣發展的相同價值觀可以拓展到更廣闊的世界。

d/acc的內涵與外延

想象一下2042年的未來景象。你在媒體報道中看到一則消息,稱你所在的城市可能爆發新的疫情。對於此類消息,你已經見怪不怪:人們往往會對每一種動物疾病突變反應過度,而絕大多數情況下,這些突變最終都不會引發實際危機。此前的兩次潛在疫情,均通過廢水監測以及對社交媒體的開源分析得以在早期察覺,並成功被遏制在萌芽狀態。然而,此次情況有所不同,預測市場顯示出現至少10,000例病例的概率高達60%,這讓你憂心忡忡。

就在昨天,該病毒的基因序列已被確定。用於你口袋中空氣測試儀的軟件更新隨即推出,借助這一更新,測試儀能夠檢測新病毒(無論是通過一次呼吸檢測,還是在房間內暴露於室內空氣15分鍾後檢測)。與此同時,使用全球任何現代醫療設施都能獲取的設備來生成疫苗的開源指令和代碼,預計將在幾周內發布。大多數人目前尚未採取任何行動,他們主要依賴廣泛採用的空氣過濾和通風措施來保護自身安全。

由於你自身存在免疫問題,所以行事更爲謹慎:你所使用的開源本地運行個人助理人工智能,除了承擔導航、餐廳和活動推薦等常規任務外,還會綜合考慮實時空氣測試數據和二氧化碳數據,從而僅向你推薦最爲安全的場所。這些數據由成千上萬的參與者和設備提供,借助零知識證明和差分隱私技術,最大限度地降低了數據被泄露或濫用於其他目的的風險(如果你有意爲這些數據集貢獻數據,還有其他個人助理人工智能會驗證這些加密工具是否確實有效)。

兩個月後,疫情奇跡般地消散了:似乎60%的人遵循了基本防疫協議,即當空氣測試儀發出警報並顯示存在病毒時便佩戴口罩,若個人檢測結果呈陽性則居家隔離。正是這一舉措,足以將由於被動強力空氣過濾而已經大幅降低的傳播率進一步降至1以下。一場模擬結果顯示可能比二十年前的新冠疫情嚴重五倍的疾病,如今卻未造成嚴重影響。

Devcon舉辦的d/acc活動取得了一項極爲積極的成果,那就是d/acc理念成功地將來自不同領域的人們凝聚在一起,並切實激發了他們對彼此工作的濃厚興趣。

舉辦一場具有"多樣性"的活動並非難事,但要讓不同背景和興趣的人真正建立起緊密的聯繫卻殊爲不易。我至今仍對初中和高中時期被迫觀看冗長歌劇的經歷記憶猶新,當時我個人覺得這些歌劇枯燥乏味。我深知自己"理應"欣賞它們,因爲若不如此,便會被視爲沒有文化的計算機科學懶蟲,但我卻未能在更深層次上與歌劇內容產生共鳴。然而,d/acc日的活動氛圍卻截然不同:感覺人們真心喜愛了解不同領域的各類工作。

倘若我們渴望構建一個比統治、減速和毀滅更爲光明的未來,就必然需要開展這種廣泛的聯盟建設。d/acc在這方面似乎取得了顯著成效,僅此一點便足以彰顯這一理念的寶貴價值。

d/acc的核心思想簡潔明了:去中心化、民主且差異化的防御性加速。構建能夠促使攻防平衡向防御傾斜的技術,並且在實施過程中不依賴於將更多權力交予中央權威機構。這兩個方面之間存在着內在的緊密聯繫:任何一種去中心化、民主或自由的政治結構,在防御易於實施時往往能夠蓬勃發展,而在防御面臨重重困難時則會遭遇嚴峻挑戰--在那些情況下,更有可能出現的結果是一段所有人相互對抗的混亂時期,最終達成由最強者統治的平衡狀態。

理解嘗試同時實現去中心化、防御性和加速性的重要意義的一種方式,是將其與放棄這三個方面中的任意一個所產生的理念進行對比。

去中心化加速,但忽視"差異化防御"部分

從本質上講,這類似於成爲一名有效加速主義者(e/acc),但同時追求去中心化。有許多人採取這種方式,其中一些人自稱d/acc,但他們有益地將自身重點描述爲"進攻"。此外,還有許多其他人對"去中心化人工智能"及類似話題表現出更爲溫和的熱情,但在我看來,他們對"防御"層面的關注明顯不足。

在我看來,這種方式或許能夠避免特定羣體對全球人類實施獨裁統治的風險,但它卻未能解決潛在的結構性問題:在一個有利於進攻的環境中,始終存在着災難降臨的持續風險,或者有人會將自己定位爲保護者,並永久性地佔據統治地位。就人工智能而言,它也無法妥善解決人類整體相對於人工智能被削弱權力的風險。

差異化防御加速,但忽略"去中心化和民主"

爲了實現安全目標而接受集中控制,這對一部分人始終具有一定的吸引力,讀者無疑已經熟知衆多此類事例,以及它們所帶來的弊端。近期,一些人擔憂極端集中控制可能是應對未來極端技術的唯一途徑:例如,設想這樣一個假設情景,"每個人都佩戴一個'自由標籤'--這是當今更爲有限的可穿戴監控設備的後續產品,類似於幾個國家用作監獄替代方案的腳踝標籤......加密的視頻和音頻被持續上傳,並實時由機器進行解讀"。然而,集中控制存在一個程度的問題。一種通常被忽視但仍然有害的相對溫和的集中控制形式,體現在生物技術領域(例如食品、疫苗)對公衆監督的抵制,以及允許這種抵制行爲不受挑戰的閉源規範。

這種方式的風險顯而易見,那就是中心本身往往會成爲風險的源頭。我們在新冠疫情期間便已見證了這一點,由多個主要世界政府資助的功能獲得性研究可能是疫情的根源所在,集中的認識論導致世界衛生組織多年來拒絕承認新冠病毒是通過空氣傳播的,而強制性的社交距離和疫苗強制令則引發了可能持續數十年的政治反彈。類似的情況極有可能在與人工智能或其他風險技術相關的任何風險情境中再次發生。相比之下,去中心化的方式將更有效地應對來自中心自身的風險。

去中心化防御,但排斥加速

從本質上來說,這是試圖減緩技術進步或推動經濟衰退。

這種策略面臨着雙重挑戰。首先,總體而言,技術和經濟增長對人類而言是極爲有益的,任何對其的延遲都會帶來難以估量的代價。其次,在一個非極權主義的世界中,停滯不前是不穩定的:那些"作弊"最多,能夠找到看似合理的方式繼續推進發展的人或羣體將會佔據優勢。減速主義策略在某些特定情境下能夠在一定程度上發揮作用:例如歐洲食物比美國食物更爲健康,這便是一個例證;核不擴散到目前爲止取得的成功也是如此。然而,這些策略不可能永遠奏效。

通過d/acc,我們致力於實現以下目標:

• 在當今世界日益部落化的趨勢下堅守原則,而不僅僅是盲目地構建各種事物--相反,我們期望構建特定的事物,從而使世界變得更加安全、美好。
• 認識到指數級的技術進步意味着世界將變得極爲奇特,並且人類在宇宙中的總體"足跡"必然會不斷增加。我們保護脆弱的動物、植物和人羣免受傷害的能力必須持續提升,而唯一的出路便是勇往直前。
• 構建能夠切實保護我們的技術,而不是基於"好人(或好的人工智能)掌控一切"的假設。我們通過構建在用於構建和保護時自然比用於破壞時更爲有效的工具來達成這一目標。

思考d/acc的另一種視角是回歸到21世紀00年代末歐洲海盜黨運動的一個框架:賦權。

我們的目標是構建一個能夠保留人類能動性的世界,實現消極自由,即避免他人(無論是普通公民、政府,還是超級智能機器人)對我們塑造自身命運的能力進行積極幹預,同時實現積極自由,即確保我們擁有知識和資源去踐行這一能力。這呼應了一個延續數世紀的古典自由主義傳統,其中涵蓋了斯圖爾特·布蘭德對"工具獲取"的關注,以及約翰·斯圖爾特·密爾對教育與自由並列作爲人類進步關鍵要素的強調