d/acc: Обзор через год

В прошлом году я написал статью о технологическом оптимизме, в которой изложил свой общий энтузиазм по поводу технологий и огромных преимуществ, которые они могут принести. В то же время я выразил осторожное отношение к некоторым конкретным вопросам, главным образом касающимся суперумного искусственного интеллекта и потенциальных катастрофических рисков, которые могут возникнуть, если его создать неправильно, или рисков, которые могут привести к необратимой утрате власти человечества.

Одной из ключевых идей этой статьи является приверженность к децентрализованной, демократичной и дифференцированной концепции оборонительного ускорения. Мы должны ускорять развитие технологий, но избирательно сосредоточиваться на тех технологиях, которые могут повысить нашу обороноспособность, а не разрушительную мощь, и стремиться к децентрализации власти, а не к ее сосредоточению в руках немногих элит, избегая ситуации, когда эти элиты представляют интересы всех и определяют, что является добром, а что злом. Наша модель обороны должна напоминать демократическую Швейцарию и исторически почти анархистский регион Зомия, а не феодальную модель с лордами и замками средневековья.

За последний год эти идеи и концепции значительно развились и созрели. Я поделился этими мыслями на платформе "80,000 часов" и получил много откликов, большинство из которых были положительными, но, конечно, также были и некоторые критические голоса.

Эта работа сама по себе также продолжается и приносит реальные результаты: достигнут прогресс в области проверяемых открытых вакцин; понимание ценности здорового внутреннего воздуха углубляется; «сообщества заметок» продолжают играть активную роль; предсказательные рынки стали прорывным инструментом информации; нулевое знание применяется в области идентификации личности правительством и в социальных сетях ( и обеспечивает безопасность кошельков Ethereum через абстракцию учетных записей ); инструменты открытой визуализации находят применение в медицине и в области интерфейсов «мозг-компьютер», и так далее.

Прошлой осенью мы провели первое важное мероприятие d/acc: "День открытия d/acc", проведенный на Devcon (d/aDDy). Мероприятие объединило спикеров из различных столпов d/acc, таких как биология, физика, сеть, информационная безопасность и нейротехнологии (, и длилось целый день. Люди, долгое время занимающиеся этими технологиями, все больше знакомятся с работой друг друга, а внешние участники все больше осознают эту более широкую цель: ценности, способствующие развитию Ethereum и криптовалют, могут быть распространены на более широкий мир.

Содержание и охват d/acc

Представьте себе будущее в 2042 году. Вы видите в средствах массовой информации сообщение о том, что в вашем городе может вспыхнуть новая эпидемия. На такие сообщения вы уже не обращаете внимания: люди, как правило, чрезмерно реагируют на каждую мутацию заболеваний животных, и в подавляющем большинстве случаев эти мутации в конечном итоге не приводят к реальным кризисам. Две предыдущие потенциальные эпидемии были раннее обнаружены благодаря мониторингу сточных вод и анализу открытых данных в социальных сетях, и успешно были сдержаны на зародышевом этапе. Однако в этот раз ситуация иная, прогнозные рынки показывают, что вероятность того, что будет зарегистрировано как минимум 10,000 случаев, составляет 60%, что вызывает у вас беспокойство.

Вчера был определён геном вируса. Обновление программного обеспечения для тестера воздуха, который вы можете носить в кармане, было выпущено сразу же, благодаря этому обновлению тестер может обнаруживать новый вирус ) как при проверке с помощью одного вдоха, так и при тестировании через 15 минут после воздействия на воздух в помещении. В то же время ожидается, что открытые инструкции и код для создания вакцины с использованием оборудования, доступного в любых современных медицинских учреждениях по всему миру, будут опубликованы в течение нескольких недель. Большинство людей в настоящее время не предприняли никаких действий, в основном полагаясь на широко принятые меры по очистке воздуха и вентиляции для обеспечения своей безопасности.

Из-за ваших иммунных проблем вы действуете более осторожно: ваш открытый локальный персональный помощник на основе искусственного интеллекта, помимо выполнения обычных задач, таких как навигация, рекомендации ресторанов и мероприятий, также будет учитывать данные о текущем качестве воздуха и углекислом газе, чтобы рекомендовать вам только самые безопасные места. Эти данные предоставляются тысячами участников и устройств, при помощи нулевых знаний и технологий дифференциальной конфиденциальности, что минимизирует риск утечки данных или их неправильного использования в других целях ( Если вы хотите внести данные в эти наборы данных, другие персональные помощники на основе искусственного интеллекта проверят, действительно ли эти криптографические инструменты эффективны ).

Через два месяца пандемия чудесным образом исчезла: похоже, 60% людей следовали основным протоколам профилактики, то есть носили маски, когда датчик качества воздуха подавал сигнал тревоги и показывал наличие вируса, а если результат теста на вирус у человека был положительным, то он оставался дома на самоизоляции. Именно эта мера позволила снизить уровень передачи вируса, который уже значительно снизился благодаря пассивной фильтрации воздуха, еще ниже 1. Болезнь, результаты моделирования которой показывали, что она может быть в пять раз серьезнее пандемии COVID-19 двадцатилетней давности, тем не менее, не оказала серьезного влияния.

Мероприятие d/acc, организованное Devcon, достигло крайне позитивного результата, а именно, концепция d/acc успешно объединила людей из различных областей и действительно вызвала у них живой интерес к работе друг друга.

Провести мероприятие с "разнообразием" не так уж сложно, но установить настоящую связь между людьми с различным фоном и интересами - это действительно нелегко. Я до сих пор помню, как в средней и старшей школе меня заставляли смотреть длинные оперы, которые мне казались скучными и неинтересными. Я прекрасно понимал, что "должен" их ценить, иначе меня сочтут безкультурным ленивым программистом, но я не смог на глубоком уровне сопереживать содержанию оперы. Однако атмосфера мероприятия d/acc была совершенно иной: казалось, что людям действительно нравится узнавать о различных работах в разных областях.

Если мы стремимся построить будущее, более светлое, чем правление, замедление и разрушение, нам необходимо развивать такие широкие альянсы. d/acc, похоже, добилось значительных успехов в этом, и только этого достаточно, чтобы продемонстрировать ценность этой идеи.

Основная идея d/acc проста и понятна: децентрализованная, демократическая и дифференцированная защитная акселерация. Создание технологий, которые могут способствовать смещению баланса сил в сторону защиты, при этом не полагаясь на передачу большей власти центральным властным структурам в процессе реализации. Между этими двумя аспектами существует внутренняя тесная связь: любая децентрализованная, демократическая или свободная политическая структура, когда защита легко реализуема, обычно процветает, в то время как при наличии серьезных трудностей с защитой сталкивается с жесткими вызовами - в таких случаях более вероятным результатом становится период хаоса, когда все противостоят друг другу, в конечном итоге достигая состояния баланса, управляемого сильнейшими.

Один из способов понять важность одновременной реализации децентрализации, защиты и ускорения заключается в сравнении с концепцией, возникающей в результате отказа от любого из этих трех аспектов.

Децентрализация ускоряется, но игнорируется часть "дифференцированной защиты"

По сути, это похоже на то, чтобы стать эффективным аккселерационистом (e/acc), но одновременно стремиться к децентрализации. Много людей выбирают этот путь, некоторые из них называют себя d/acc, но они полезно описывают свой акцент как "агрессивный". Кроме того, есть много других, кто проявляет более умеренный энтузиазм к "децентрализованному искусственному интеллекту" и подобным темам, но, на мой взгляд, их внимание к "защитному" аспекту явно недостаточно.

На мой взгляд, этот подход может помочь избежать риска установления диктатуры над всем человечеством со стороны определенных групп, но он не решает потенциальные структурные проблемы: в среде, благоприятной для атак, всегда существует постоянный риск катастрофы, или кто-то может занять позицию защитника и навсегда занять доминирующее положение. Что касается искусственного интеллекта, он также не может надлежащим образом решить риск ослабления власти человечества по сравнению с искусственным интеллектом.

Дифференцированная защита ускоряется, но игнорирует "децентрализацию и демократию"

Принятие централизованного контроля для достижения целей безопасности всегда привлекало часть людей, и читатели, безусловно, знакомы с многочисленными примерами таких случаев и их недостатками. В последнее время некоторые беспокоятся, что экстремальный централизованный контроль может быть единственным способом справиться с будущими экстремальными технологиями: например, представьте гипотетическую ситуацию, в которой "каждый носит 'ярлык свободы' -- это более ограниченная версия носимых устройств для мониторинга, подобная браслетам на лодыжках, используемым в некоторых странах в качестве альтернативы тюремному заключению... зашифрованное видео и аудио постоянно загружаются и в реальном времени интерпретируются машинами". Однако централизованный контроль имеет проблему степени. Одна форма относительно мягкого централизованного контроля, которая обычно игнорируется, но все еще вредна, проявляется в области биотехнологий (, например, сопротивление общественного контроля в отношении продуктов питания и вакцин ) и допустимость этого сопротивления без оспаривания закрытыми стандартами.

Риски данного подхода очевидны, а именно, что сам центр часто становится источником риска. Мы уже стали свидетелями этого во время пандемии COVID-19, когда функциональные исследования, финансируемые несколькими основными мировыми правительствами, могли быть источником пандемии. Централизованная эпистемология привела к тому, что Всемирная организация здравоохранения на протяжении многих лет отказывалась признавать, что коронавирус передается по воздуху, а обязательное социальное дистанцирование и вакцинация вызвали политическую реакцию, которая может продолжаться десятилетиями. Подобные ситуации с высокой вероятностью могут повториться в любых рисковых сценариях, связанных с искусственным интеллектом или другими рискованными технологиями. В отличие от этого, децентрализованный подход будет более эффективным в управлении рисками, исходящими от самого центра.

Децентрализованная защита, но отвергает ускорение

По сути, это попытка замедлить технологический прогресс или спровоцировать экономический спад.

Эта стратегия сталкивается с двойными вызовами. Во-первых, в целом технологический и экономический рост крайне полезен для человечества, и любое его замедление будет иметь неоценимые последствия. Во-вторых, в мире, который не является тоталитарным, стагнация приводит к нестабильности: те, кто «обманывает» больше всего и может найти, казалось бы, разумные способы продолжить развитие, окажутся в выигрыше. Стратегия замедления может в определенных конкретных ситуациях сработать до определенной степени: например, европейская еда более здорова, чем американская, что является примером; успешное предотвращение распространения ядерного оружия на данный момент также таково. Однако эти стратегии не могут работать вечно.

С помощью d/acc мы стремимся достичь следующих целей:

• Придерживаться принципов в условиях нарастающей племенной тенденции в современном мире, а не слепо строить всевозможные вещи — наоборот, мы ожидаем создавать конкретные вещи, чтобы сделать мир более безопасным и лучшим.
• Понимание экспоненциального прогресса технологий означает, что мир станет чрезвычайно необычным, и общий "след" человечества во вселенной будет неизбежно расти. Наша способность защищать уязвимые животные, растения и людей от вреда должна постоянно улучшаться, и единственный путь вперед — это смело двигаться вперед.
• Создание технологий, которые действительно защищают нас, а не основаны на предположении, что "хорошие люди ( или хороший искусственный интеллект ) контролируют всё". Мы достигаем этой цели, создавая инструменты, которые по своей природе более эффективны при строительстве и защите, чем при разрушении.

Другой взгляд на d/acc заключается в возвращении к рамкам движения пиратов в Европе в конце 2000-х годов: расширение полномочий.

Наша цель - построить мир, который сможет сохранить человеческую инициативу, реализовать негативную свободу, то есть избежать активного вмешательства других (, будь то обычные граждане, государство или сверхинтеллектуальные роботы ), в нашу способность формировать собственную судьбу, одновременно реализуя позитивную свободу, то есть обеспечивая наличие знаний и ресурсов для осуществления этой способности. Это перек呼应вает классическую традицию либерализма, существующую на протяжении нескольких веков, включая внимание Стюарта Бранд к "доступу к инструментам" и акцент Джона Стюарта Милля на образовании и свободе как ключевых элементах человеческого прогресса.