d/acc: Nhìn lại sau một năm

Năm ngoái, tôi đã viết một bài báo về chủ nghĩa lạc quan công nghệ, trình bày niềm đam mê tổng thể của tôi đối với công nghệ, cũng như những lợi ích to lớn mà nó có thể mang lại. Đồng thời, tôi cũng bày tỏ thái độ thận trọng đối với một số vấn đề cụ thể, chủ yếu là về trí tuệ nhân tạo siêu thông minh, cũng như những rủi ro thảm khốc có thể phát sinh nếu được xây dựng không đúng cách, hoặc nguy cơ dẫn đến việc con người mất quyền lực một cách không thể đảo ngược.

Một trong những quan điểm cốt lõi của bài viết là kiên trì với ý tưởng tăng tốc phòng thủ phi tập trung, dân chủ và đa dạng. Chúng ta cần tăng tốc phát triển công nghệ, nhưng phải có sự lựa chọn tập trung vào những công nghệ có thể nâng cao khả năng phòng thủ của chúng ta thay vì khả năng phá hoại, và cam kết thúc đẩy phân quyền, thay vì để quyền lực tập trung trong tay một số ít tinh hoa, tránh để những tinh hoa này đại diện cho tất cả để xác định đúng sai. Mô hình phòng thủ của chúng ta nên giống như một Thụy Sĩ dân chủ, cũng như khu vực Zomia gần như vô chính phủ trong lịch sử, chứ không phải là mô hình lãnh chúa và lâu đài dưới chế độ phong kiến Trung cổ.

Trong năm qua, những ý tưởng và quan niệm này đã có sự phát triển và trưởng thành đáng kể. Tôi đã chia sẻ những ý tưởng này trên nền tảng "80,000 giờ" và nhận được nhiều phản hồi, phần lớn là tích cực, tất nhiên cũng có một số ý kiến chỉ trích.

Công việc này cũng đang tiếp tục được thúc đẩy và đạt được những thành quả thực tế: lĩnh vực vaccine mã nguồn mở có tiến bộ; nhận thức của mọi người về giá trị của không khí trong nhà khỏe mạnh ngày càng sâu sắc; "Nhật ký cộng đồng" tiếp tục phát huy vai trò tích cực; thị trường dự đoán đã có một năm đột phá như một công cụ thông tin; chứng minh không biết được áp dụng trong nhận dạng danh tính của chính phủ và lĩnh vực truyền thông xã hội ( và đảm bảo an toàn cho ví Ethereum thông qua trừu tượng hóa tài khoản ); công cụ hình ảnh mã nguồn mở đã được áp dụng trong lĩnh vực y học và giao diện não - máy tính, v.v.

Vào mùa thu năm ngoái, chúng tôi đã chào đón sự kiện d/acc quan trọng đầu tiên: "Ngày phát hiện d/acc" được tổ chức tại Devcon (d/aDDy), sự kiện quy tụ các diễn giả đến từ các lĩnh vực trụ cột khác nhau của d/acc ( sinh học, vật lý, mạng, phòng thủ thông tin, cũng như công nghệ thần kinh ), kéo dài suốt một ngày. Những người đã dành nhiều năm cho các công nghệ này ngày càng hiểu rõ về công việc của nhau, và những người bên ngoài cũng ngày càng nhận thức rõ hơn về một tầm nhìn lớn hơn: những giá trị thúc đẩy sự phát triển của Ethereum và tiền điện tử có thể mở rộng ra một thế giới rộng lớn hơn.

NỘI HÀM VÀ NGOẠI HÀM CỦA d/acc

Hãy tưởng tượng về hình ảnh tương lai vào năm 2042. Bạn thấy một tin tức trên các phương tiện truyền thông nói rằng thành phố của bạn có thể bùng phát một đại dịch mới. Đối với những tin tức như vậy, bạn đã quen thuộc: mọi người thường phản ứng thái quá với bất kỳ sự đột biến nào của bệnh động vật, và trong phần lớn các trường hợp, những đột biến này cuối cùng đều không gây ra khủng hoảng thực sự. Hai lần dịch bệnh tiềm tàng trước đây đã được phát hiện sớm thông qua việc giám sát nước thải và phân tích nguồn mở trên mạng xã hội, và đã được ngăn chặn thành công ở giai đoạn đầu. Tuy nhiên, tình huống lần này thì khác, thị trường dự đoán cho thấy xác suất xuất hiện ít nhất 10,000 ca bệnh lên đến 60%, điều này khiến bạn lo lắng.

Ngay hôm qua, trình tự gen của virus đã được xác định. Cập nhật phần mềm cho thiết bị kiểm tra không khí trong túi của bạn đã được phát hành ngay lập tức, với bản cập nhật này, thiết bị có thể phát hiện virus mới (, cho dù là qua kiểm tra hô hấp một lần hay trong 15 phút tiếp xúc với không khí trong phòng để phát hiện ). Đồng thời, hướng dẫn và mã nguồn mở để tạo ra vắc-xin bằng thiết bị có sẵn tại bất kỳ cơ sở y tế hiện đại nào trên toàn cầu dự kiến sẽ được phát hành trong vài tuần tới. Hầu hết mọi người hiện vẫn chưa thực hiện hành động nào, họ chủ yếu phụ thuộc vào các biện pháp lọc không khí và thông gió được áp dụng rộng rãi để bảo vệ an toàn cho bản thân.

Do vì bạn có vấn đề về miễn dịch, nên bạn hành động cẩn thận hơn: Trợ lý trí tuệ nhân tạo chạy cục bộ mã nguồn mở mà bạn sử dụng, ngoài việc thực hiện các nhiệm vụ thông thường như điều hướng, gợi ý nhà hàng và hoạt động, còn sẽ xem xét các dữ liệu thử nghiệm không khí thời gian thực và dữ liệu carbon dioxide, từ đó chỉ đề xuất cho bạn những địa điểm an toàn nhất. Những dữ liệu này được cung cấp bởi hàng nghìn người tham gia và thiết bị, nhờ vào công nghệ chứng minh không biết và quyền riêng tư khác biệt, rủi ro bị rò rỉ dữ liệu hoặc bị lạm dụng cho các mục đích khác đã được giảm thiểu tối đa ( Nếu bạn có ý định đóng góp dữ liệu cho những tập dữ liệu này, còn có những trợ lý trí tuệ nhân tạo khác sẽ xác minh xem những công cụ mã hóa này có thực sự hiệu quả hay không ).

Hai tháng sau, dịch bệnh một cách kỳ diệu đã biến mất: dường như 60% người dân đã tuân thủ các quy định phòng chống dịch cơ bản, tức là đeo khẩu trang khi thiết bị kiểm tra không khí phát ra cảnh báo và cho thấy có virus, nếu kết quả xét nghiệm cá nhân dương tính thì cách ly tại nhà. Chính biện pháp này đã đủ để giảm tỷ lệ lây truyền, vốn đã giảm đáng kể do bộ lọc không khí mạnh mẽ, xuống dưới 1. Một mô phỏng cho thấy có thể nghiêm trọng gấp năm lần so với dịch COVID-19 cách đây hai mươi năm, nhưng hiện tại lại không gây ra ảnh hưởng nghiêm trọng.

Sự kiện d/acc do Devcon tổ chức đã đạt được một kết quả vô cùng tích cực, đó là khái niệm d/acc đã thành công trong việc tập hợp những người đến từ các lĩnh vực khác nhau lại với nhau và thực sự kích thích sự quan tâm sâu sắc của họ đối với công việc của nhau.

Việc tổ chức một sự kiện "đa dạng" không phải là điều khó khăn, nhưng để mọi người từ các nền tảng và sở thích khác nhau thực sự thiết lập được mối liên hệ chặt chẽ thì lại là điều không dễ dàng. Tôi vẫn nhớ như in trải nghiệm bị ép phải xem những vở opera dài dòng trong thời trung học, lúc đó tôi cảm thấy những vở opera này thật nhàm chán. Tôi biết mình "nên" đánh giá cao chúng, vì nếu không, tôi sẽ bị coi là một kẻ lười biếng trong lĩnh vực khoa học máy tính không có văn hóa, nhưng tôi đã không thể tạo ra sự đồng cảm sâu sắc hơn với nội dung của opera. Tuy nhiên, bầu không khí của sự kiện d/acc ngày hôm đó lại hoàn toàn khác: cảm giác mọi người thực sự thích thú với việc tìm hiểu về các công việc từ nhiều lĩnh vực khác nhau.

Nếu chúng ta khao khát xây dựng một tương lai tươi sáng hơn so với thống trị, chậm lại và hủy diệt, thì chắc chắn cần phải tiến hành việc xây dựng liên minh rộng rãi này. d/acc dường như đã đạt được những thành công đáng kể trong lĩnh vực này, chỉ riêng điều này cũng đủ để thể hiện giá trị quý giá của ý tưởng này.

Ý tưởng cốt lõi của d/acc rất đơn giản và rõ ràng: sự phòng thủ tăng tốc phân tán, dân chủ và khác biệt. Xây dựng công nghệ có thể khiến sự cân bằng tấn công và phòng thủ nghiêng về phía phòng thủ, và trong quá trình thực hiện không dựa vào việc trao nhiều quyền lực hơn cho các cơ quan quyền lực trung ương. Có một mối liên hệ chặt chẽ nội tại giữa hai khía cạnh này: bất kỳ cấu trúc chính trị nào phân tán, dân chủ hoặc tự do, thường có thể phát triển mạnh mẽ khi việc phòng thủ dễ thực hiện, trong khi khi phòng thủ gặp phải nhiều khó khăn thì sẽ phải đối mặt với những thách thức nghiêm trọng - trong những trường hợp đó, kết quả có khả năng xảy ra hơn là một khoảng thời gian hỗn loạn mà mọi người chống lại nhau, cuối cùng đạt được một trạng thái cân bằng do những người mạnh nhất cai trị.

Một cách để hiểu tầm quan trọng của việc cố gắng hiện thực hóa sự phi tập trung, tính phòng thủ và tính gia tốc đồng thời, là so sánh nó với những ý tưởng phát sinh từ việc từ bỏ bất kỳ một trong ba khía cạnh này.

Tăng tốc phi tập trung, nhưng bỏ qua phần "phòng thủ khác biệt"

Về bản chất, điều này giống như việc trở thành một nhà tăng tốc có hiệu quả (e/acc), nhưng đồng thời theo đuổi sự phi tập trung. Có rất nhiều người theo cách này, trong số đó một số tự xưng là d/acc, nhưng họ hữu ích mô tả trọng tâm của bản thân là "tấn công". Hơn nữa, còn có nhiều người khác thể hiện sự nhiệt tình nhẹ nhàng hơn đối với "trí tuệ nhân tạo phi tập trung" và các chủ đề tương tự, nhưng theo quan điểm của tôi, họ rõ ràng thiếu sự chú ý đến khía cạnh "phòng thủ".

Theo tôi, cách này có thể tránh được rủi ro của một nhóm cụ thể thực hiện độc tài đối với toàn nhân loại, nhưng nó lại không giải quyết được các vấn đề cấu trúc tiềm tàng: trong một môi trường thuận lợi cho tấn công, luôn có rủi ro liên tục về sự xuất hiện của thảm họa, hoặc có người sẽ tự định vị mình là người bảo vệ và chiếm giữ vị trí thống trị vĩnh viễn. Về trí tuệ nhân tạo, nó cũng không thể giải quyết một cách hợp lý rủi ro quyền lực của toàn nhân loại bị suy yếu so với trí tuệ nhân tạo.

Phòng thủ khác biệt được tăng tốc, nhưng bỏ qua "phi tập trung và dân chủ"

Để đạt được mục tiêu an toàn, việc chấp nhận kiểm soát tập trung luôn có một sức hấp dẫn nhất định với một bộ phận người. Độc giả chắc chắn đã quen thuộc với nhiều trường hợp như vậy và những bất lợi mà chúng mang lại. Gần đây, một số người lo ngại rằng kiểm soát tập trung cực đoan có thể là cách duy nhất để đối phó với công nghệ cực đoan trong tương lai: ví dụ, hãy tưởng tượng một tình huống giả định, "mỗi người đều đeo một 'nhãn tự do' -- đây là sản phẩm tiếp theo của các thiết bị giám sát đeo được hiện nay có giới hạn hơn, tương tự như các nhãn chân được một số quốc gia sử dụng như một giải pháp thay thế cho nhà tù... video và âm thanh được mã hóa liên tục được tải lên và được máy móc giải mã theo thời gian thực". Tuy nhiên, kiểm soát tập trung có một vấn đề về mức độ. Một hình thức kiểm soát tập trung tương đối nhẹ nhàng thường bị bỏ qua nhưng vẫn có hại, thể hiện trong lĩnh vực công nghệ sinh học ( chẳng hạn như thực phẩm, vaccine ) sự kháng cự của công chúng đối với sự giám sát, cũng như việc cho phép hành vi kháng cự này không bị thách thức bởi các tiêu chuẩn mã nguồn đóng.

Rủi ro của phương thức này là rõ ràng, đó là trung tâm bản thân thường trở thành nguồn gốc của rủi ro. Chúng ta đã chứng kiến điều này trong thời gian đại dịch Covid-19, khi nghiên cứu chức năng được tài trợ bởi nhiều chính phủ lớn trên thế giới có thể là nguồn gốc của đại dịch, sự nhận thức tập trung đã khiến Tổ chức Y tế Thế giới từ chối công nhận rằng virus Covid-19 lây lan qua không khí trong nhiều năm, trong khi việc giãn cách xã hội bắt buộc và lệnh tiêm phòng bắt buộc đã gây ra phản ứng chính trị có thể kéo dài hàng thập kỷ. Tình huống tương tự rất có khả năng xảy ra một lần nữa trong bất kỳ tình huống rủi ro nào liên quan đến trí tuệ nhân tạo hoặc các công nghệ rủi ro khác. So với điều đó, phương thức phi tập trung sẽ ứng phó hiệu quả hơn với rủi ro đến từ chính trung tâm.

Phòng thủ phi tập trung, nhưng loại trừ tăng tốc

Về bản chất, đây là sự cố gắng làm chậm tiến bộ công nghệ hoặc thúc đẩy suy thoái kinh tế.

Chiến lược này phải đối mặt với hai thách thức. Đầu tiên, nhìn chung, sự phát triển công nghệ và kinh tế là rất có lợi cho nhân loại, bất kỳ sự chậm trễ nào đối với nó đều sẽ gây ra những chi phí khó lường. Thứ hai, trong một thế giới không phải là độc tài, sự trì trệ là không ổn định: những cá nhân hoặc nhóm "gian lận" nhiều nhất, có khả năng tìm ra những cách có vẻ hợp lý để tiếp tục thúc đẩy phát triển sẽ chiếm ưu thế. Chiến lược giảm tốc có thể phát huy tác dụng ở một số tình huống cụ thể: ví dụ, thực phẩm ở Châu Âu là khỏe mạnh hơn thực phẩm ở Mỹ, đây là một ví dụ; thành công của việc không phổ biến vũ khí hạt nhân cho đến nay cũng là như vậy. Tuy nhiên, những chiến lược này sẽ không thể có hiệu lực mãi mãi.

Thông qua d/acc, chúng tôi cam kết đạt được các mục tiêu sau:

• Giữ vững nguyên tắc trong xu hướng bộ lạc hóa ngày càng gia tăng của thế giới ngày nay, chứ không chỉ đơn thuần xây dựng mọi thứ một cách mù quáng - ngược lại, chúng tôi mong muốn xây dựng những điều cụ thể, từ đó làm cho thế giới trở nên an toàn và tốt đẹp hơn.
• Nhận thức rằng sự tiến bộ công nghệ theo cấp số nhân có nghĩa là thế giới sẽ trở nên cực kỳ kỳ lạ, và "dấu chân" tổng thể của con người trong vũ trụ chắc chắn sẽ tiếp tục gia tăng. Năng lực của chúng ta để bảo vệ các loài động vật, thực vật và cộng đồng dễ bị tổn thương khỏi bị tổn hại phải tiếp tục được nâng cao, và con đường duy nhất là tiến về phía trước.
• Xây dựng công nghệ có thể thực sự bảo vệ chúng ta, thay vì dựa trên giả định "người tốt ( hoặc trí tuệ nhân tạo tốt ) kiểm soát mọi thứ". Chúng ta đạt được mục tiêu này bằng cách xây dựng các công cụ mà khi được sử dụng để xây dựng và bảo vệ thì tự nhiên hiệu quả hơn so với khi được sử dụng để phá hủy.

Một cách tiếp cận khác để suy nghĩ về d/acc là quay trở lại khung của phong trào Pirate Party châu Âu vào cuối những năm 2000: trao quyền.

Mục tiêu của chúng tôi là xây dựng một thế giới có thể bảo tồn tính chủ động của con người, đạt được tự do tiêu cực, tức là tránh sự can thiệp tích cực vào khả năng định hình số phận của chúng ta từ người khác (, bao gồm cả công dân bình thường, chính phủ hay siêu trí tuệ nhân tạo ). Đồng thời, chúng tôi cũng muốn đạt được tự do tích cực, tức là đảm bảo rằng chúng ta có đủ kiến thức và tài nguyên để thực hiện khả năng này. Điều này phù hợp với một truyền thống tự do cổ điển kéo dài hàng thế kỷ, bao gồm sự quan tâm của Stewart Brand về "quyền truy cập công cụ" và nhấn mạnh của John Stuart Mill về giáo dục và tự do như những yếu tố quan trọng cho sự tiến bộ của nhân loại.