d/acc:一年后的回顾

去年,我写了一篇关于技术乐观主义的文章,阐述了我对技术的总体热忱,以及它可能带来的巨大益处。同时,我也表达了对某些特定问题的审慎态度,主要是关于超级智能人工智能,以及如果构建不当可能引发的灾难性风险,或者导致人类不可逆转地丧失权力的风险。

那篇文章的一个核心观点是坚持去中心化、民主且差异化的防御性加速理念。我们要加速技术发展,但要有选择地聚焦于那些能提升我们防御能力而非破坏能力的技术,并致力于推动权力分散,而非让权力集中在少数精英手中,避免由这些精英代表所有人去判定是非善恶。我们的防御模式应该像民主的瑞士,以及历史上准无政府主义的佐米亚地区那样,而不是中世纪封建主义下领主和城堡的模式。

在过去一年里,这些理念和想法有了显著的发展与成熟。我在"80,000小时"平台上分享了这些想法,收到了很多回应,大部分是积极的,当然也有一些批评声音。

这项工作本身也在持续推进并取得了实际成果:可验证开源疫苗领域取得了进展;人们对健康室内空气价值的认知不断深化;"社区笔记"持续发挥积极作用;预测市场作为信息工具迎来了突破之年;零知识证明在政府身份识别和社交媒体领域得到应用(并通过账户抽象确保了以太坊钱包的安全);开源成像工具在医学和脑机接口领域获得应用,等等。

去年秋季,我们迎来了首个重要的d/acc活动:在Devcon举办的"d/acc发现日"(d/aDDy),活动汇聚了来自d/acc各个支柱领域(生物、物理、网络、信息防御,以及神经技术)的演讲者,持续了整整一天。长期致力于这些技术的人们越来越了解彼此的工作,外部人士也越来越意识到这一更宏大的愿景:推动以太坊和加密货币发展的相同价值观可以拓展到更广阔的世界。

d/acc的内涵与外延

想象一下2042年的未来景象。你在媒体报道中看到一则消息,称你所在的城市可能爆发新的疫情。对于此类消息,你已经见怪不怪:人们往往会对每一种动物疾病突变反应过度,而绝大多数情况下,这些突变最终都不会引发实际危机。此前的两次潜在疫情,均通过废水监测以及对社交媒体的开源分析得以在早期察觉,并成功被遏制在萌芽状态。然而,此次情况有所不同,预测市场显示出现至少10,000例病例的概率高达60%,这让你忧心忡忡。

就在昨天,该病毒的基因序列已被确定。用于你口袋中空气测试仪的软件更新随即推出,借助这一更新,测试仪能够检测新病毒(无论是通过一次呼吸检测,还是在房间内暴露于室内空气15分钟后检测)。与此同时,使用全球任何现代医疗设施都能获取的设备来生成疫苗的开源指令和代码,预计将在几周内发布。大多数人目前尚未采取任何行动,他们主要依赖广泛采用的空气过滤和通风措施来保护自身安全。

由于你自身存在免疫问题,所以行事更为谨慎:你所使用的开源本地运行个人助理人工智能,除了承担导航、餐厅和活动推荐等常规任务外,还会综合考虑实时空气测试数据和二氧化碳数据,从而仅向你推荐最为安全的场所。这些数据由成千上万的参与者和设备提供,借助零知识证明和差分隐私技术,最大限度地降低了数据被泄露或滥用于其他目的的风险(如果你有意为这些数据集贡献数据,还有其他个人助理人工智能会验证这些加密工具是否确实有效)。

两个月后,疫情奇迹般地消散了:似乎60%的人遵循了基本防疫协议,即当空气测试仪发出警报并显示存在病毒时便佩戴口罩,若个人检测结果呈阳性则居家隔离。正是这一举措,足以将由于被动强力空气过滤而已经大幅降低的传播率进一步降至1以下。一场模拟结果显示可能比二十年前的新冠疫情严重五倍的疾病,如今却未造成严重影响。

Devcon举办的d/acc活动取得了一项极为积极的成果,那就是d/acc理念成功地将来自不同领域的人们凝聚在一起,并切实激发了他们对彼此工作的浓厚兴趣。

举办一场具有"多样性"的活动并非难事,但要让不同背景和兴趣的人真正建立起紧密的联系却殊为不易。我至今仍对初中和高中时期被迫观看冗长歌剧的经历记忆犹新,当时我个人觉得这些歌剧枯燥乏味。我深知自己"理应"欣赏它们,因为若不如此,便会被视为没有文化的计算机科学懒虫,但我却未能在更深层次上与歌剧内容产生共鸣。然而,d/acc日的活动氛围却截然不同:感觉人们真心喜爱了解不同领域的各类工作。

倘若我们渴望构建一个比统治、减速和毁灭更为光明的未来,就必然需要开展这种广泛的联盟建设。d/acc在这方面似乎取得了显著成效,仅此一点便足以彰显这一理念的宝贵价值。

d/acc的核心思想简洁明了:去中心化、民主且差异化的防御性加速。构建能够促使攻防平衡向防御倾斜的技术,并且在实施过程中不依赖于将更多权力交予中央权威机构。这两个方面之间存在着内在的紧密联系:任何一种去中心化、民主或自由的政治结构,在防御易于实施时往往能够蓬勃发展,而在防御面临重重困难时则会遭遇严峻挑战--在那些情况下,更有可能出现的结果是一段所有人相互对抗的混乱时期,最终达成由最强者统治的平衡状态。

理解尝试同时实现去中心化、防御性和加速性的重要意义的一种方式,是将其与放弃这三个方面中的任意一个所产生的理念进行对比。

去中心化加速,但忽视"差异化防御"部分

从本质上讲,这类似于成为一名有效加速主义者(e/acc),但同时追求去中心化。有许多人采取这种方式,其中一些人自称d/acc,但他们有益地将自身重点描述为"进攻"。此外,还有许多其他人对"去中心化人工智能"及类似话题表现出更为温和的热情,但在我看来,他们对"防御"层面的关注明显不足。

在我看来,这种方式或许能够避免特定群体对全球人类实施独裁统治的风险,但它却未能解决潜在的结构性问题:在一个有利于进攻的环境中,始终存在着灾难降临的持续风险,或者有人会将自己定位为保护者,并永久性地占据统治地位。就人工智能而言,它也无法妥善解决人类整体相对于人工智能被削弱权力的风险。

差异化防御加速,但忽略"去中心化和民主"

为了实现安全目标而接受集中控制,这对一部分人始终具有一定的吸引力,读者无疑已经熟知众多此类事例,以及它们所带来的弊端。近期,一些人担忧极端集中控制可能是应对未来极端技术的唯一途径:例如,设想这样一个假设情景,"每个人都佩戴一个'自由标签'--这是当今更为有限的可穿戴监控设备的后续产品,类似于几个国家用作监狱替代方案的脚踝标签......加密的视频和音频被持续上传,并实时由机器进行解读"。然而,集中控制存在一个程度的问题。一种通常被忽视但仍然有害的相对温和的集中控制形式,体现在生物技术领域(例如食品、疫苗)对公众监督的抵制,以及允许这种抵制行为不受挑战的闭源规范。

这种方式的风险显而易见,那就是中心本身往往会成为风险的源头。我们在新冠疫情期间便已见证了这一点,由多个主要世界政府资助的功能获得性研究可能是疫情的根源所在,集中的认识论导致世界卫生组织多年来拒绝承认新冠病毒是通过空气传播的,而强制性的社交距离和疫苗强制令则引发了可能持续数十年的政治反弹。类似的情况极有可能在与人工智能或其他风险技术相关的任何风险情境中再次发生。相比之下,去中心化的方式将更有效地应对来自中心自身的风险。

去中心化防御,但排斥加速

从本质上来说,这是试图减缓技术进步或推动经济衰退。

这种策略面临着双重挑战。首先,总体而言,技术和经济增长对人类而言是极为有益的,任何对其的延迟都会带来难以估量的代价。其次,在一个非极权主义的世界中,停滞不前是不稳定的:那些"作弊"最多,能够找到看似合理的方式继续推进发展的人或群体将会占据优势。减速主义策略在某些特定情境下能够在一定程度上发挥作用:例如欧洲食物比美国食物更为健康,这便是一个例证;核不扩散到目前为止取得的成功也是如此。然而,这些策略不可能永远奏效。

通过d/acc,我们致力于实现以下目标:

• 在当今世界日益部落化的趋势下坚守原则,而不仅仅是盲目地构建各种事物--相反,我们期望构建特定的事物,从而使世界变得更加安全、美好。
• 认识到指数级的技术进步意味着世界将变得极为奇特,并且人类在宇宙中的总体"足迹"必然会不断增加。我们保护脆弱的动物、植物和人群免受伤害的能力必须持续提升,而唯一的出路便是勇往直前。
• 构建能够切实保护我们的技术,而不是基于"好人(或好的人工智能)掌控一切"的假设。我们通过构建在用于构建和保护时自然比用于破坏时更为有效的工具来达成这一目标。

思考d/acc的另一种视角是回归到21世纪00年代末欧洲海盗党运动的一个框架:赋权。

我们的目标是构建一个能够保留人类能动性的世界,实现消极自由,即避免他人(无论是普通公民、政府,还是超级智能机器人)对我们塑造自身命运的能力进行积极干预,同时实现积极自由,即确保我们拥有知识和资源去践行这一能力。这呼应了一个延续数世纪的古典自由主义传统,其中涵盖了斯图尔特·布兰德对"工具获取"的关注,以及约翰·斯图尔特·密尔对教育与自由并列作为人类进步关键要素的强调