Это вызывает у меня воспоминания о "Не уходи тихо в тот хороший вечер" Дилана Томаса.
"Мягкая сингулярность" — это тихо наступающая рука судьбы, нежная, но неотразимая, как умирающий старик, который может мирно войти в ту "хорошую ночь", тихо приглашая человечество шагнуть в неизвестную бездну.
Человечество, возможно, не будет яростно сопротивляться приливам судьбы, а как старик в сумерках с легким любопытством и покорностью, мягко будет поглощено сингулярностью.
Перед чтением Алтмана, мы должны про себя произнести эту строчку из стихотворения:
Не уходите тихо в ту хорошую ночь; ярость, ярость против угасания света
Вот полный текст блога, на китайском и английском языках:
Нежная Сингулярность Сэм Альтман Сэм Ультрамен Мы уже пересекли горизонт событий; взлет начался. Человечество близко к созданию цифрового сверхинтеллекта, и, по крайней мере, пока это намного менее странно, чем должно быть.
Мы уже пересекли горизонт событий; взлет начался. Человечество скоро создаст цифровой суперинтеллект, и, по крайней мере на данный момент, его форма далеко не так странна, как мы себе представляли.
Роботы еще не ходят по улицам, и большинство из нас не общаются с ИИ целый день. Люди все еще умирают от болезней, мы все еще не можем легко отправиться в космос, и есть много того, что мы не понимаем о вселенной.
Роботы еще не заполнили улицы, и большинство из нас все еще не общаются с искусственным интеллектом целыми днями. Люди по-прежнему умирают от болезней, и мы все еще не можем легко попасть в космос; во вселенной есть множество тайн, которые мы не понимаем.
Тем не менее, в последнее время мы создали системы, которые во многих отношениях умнее людей и способны значительно повысить производительность людей, использующих их. Наименее вероятная часть работы осталась позади; научные открытия, которые привели нас к таким системам, как GPT-4 и O3, были получены с трудом, но они заведут нас очень далеко.
ИИ внесет свой вклад в мир во многих отношениях, но повышение качества жизни от того, что ИИ ускорит научный прогресс и повысит производительность, будет огромным; Будущее может быть намного лучше, чем настоящее. Научный прогресс является самой большой движущей силой общего прогресса; Очень интересно думать о том, сколько еще мы могли бы иметь.
人工智能将从多方面为世界造贡献,但由人工智能推动的更快科学进步和更高生产力所带来的生活质量提升将是巨大的; 未来可能远比现在更加美好。 科学进步是整体进步的最大驱动力; Мысль о том, что я могу иметь больше, очень захватывающая.
В каком-то смысле ChatGPT уже мощнее любого человека, который когда-либо жил. Сотни миллионов людей полагаются на него каждый день и для решения все более важных задач; Небольшая новая возможность может оказать огромное положительное влияние; Небольшое смещение, умноженное на сотни миллионов людей, может привести к большим негативным последствиям.
从某种宏大的意义上说,ChatGPT已经比任何活过的人类都更强大。 每天有数亿人依赖它处理日益重要的任务; 一个微小的新功能可以产生巨大的积极影响; И маленькая неточность, после того как она будет усилена беспорядочными половыми связями, также может вызвать огромную тень.
2025 год стал годом появления агентов, способных выполнять настоящую когнитивную работу; написание компьютерного кода никогда не будет таким, как прежде. В 2026 году, вероятно, появятся системы, способные выявлять новые идеи. В 2027 году могут появиться роботы, способные выполнять задачи в реальном мире.
2025 год станет свидетелем рождения агентов, способных выполнять настоящую когнитивную работу; способ написания компьютерного кода изменится навсегда. В 2026 году могут появиться системы, способные обнаруживать новые идеи. В 2027 году могут появиться роботы, способные выполнять задачи в реальном мире.
Гораздо больше людей смогут создавать программное обеспечение и искусство. Но миру нужно гораздо больше и того, и другого, и эксперты, вероятно, все еще будут намного лучше новичков, пока они принимают новые инструменты. В общем, способность одного человека выполнять гораздо больше в 2030 году, чем в 2020, станет поразительным изменением, и многие люди научатся извлекать из этого выгоду.
Больше людей смогут создавать программное обеспечение и искусство. Но спрос на оба этих направления также значительно возрастет; пока эксперты будут осваивать новые инструменты, они могут по-прежнему значительно превосходить новичков. В целом, объем работы, который человек сможет выполнить в 2030 году, значительно превысит объем работы 2020 года, что станет заметным изменением, и многие найдут способы извлечь из этого выгоду.
В самых важных аспектах 2030-е годы могут не сильно отличаться. Люди по-прежнему будут любить свои семьи, проявлять свою креативность, играть в игры и плавать в озерах.
В самых важных аспектах 2030-е годы, возможно, не будут кардинально отличаться. Люди по-прежнему будут любить своих близких, выражать креативность, играть в игры, плавать в озерах.
Но в некоторых все еще очень важных аспектах 2030-е годы, вероятно, будут дико отличаться от любого времени, которое было ранее. Мы не знаем, насколько далеко мы сможем уйти за пределы человеческого уровня интеллекта, но мы собираемся это узнать.
Но в некоторых все еще очень важных аспектах 2030-е годы могут быть совершенно иными, чем любая эпоха в прошлом. Мы не знаем, насколько далеко мы сможем превзойти человеческий уровень интеллекта, но мы вскоре найдём ответ.
В 2030-х годах интеллект и энергия — идеи и способность реализовывать идеи — станут дико изобильными. Эти два фактора долгое время были основными ограничителями человеческого прогресса; с изобилием интеллекта и энергии ( и хорошим управлением ) мы теоретически можем получить все остальное.
В 2030-х годах ум и энергия — то есть идеи и способность реализовывать идеи — станут чрезвычайно обильными. Эти два фактора долгое время были основными ограничениями человеческого прогресса; с обилием ума и энергии (а также с хорошим управлением) теоретически мы можем иметь всё.
Мы уже живем с невероятным цифровым интеллектом, и после некоторого первоначального шока большинство из нас уже привыкли к нему. Очень быстро мы переходим от удивления тем, что ИИ может создать красиво написанный абзац, к заданию вопросом, когда он может создать красиво написанный роман; или от удивления тем, что он может ставить медицинские диагнозы, спасающие жизнь, до удивления, когда он сможет разработать лекарства; или от удивления, что он может создать маленькую компьютерную программу, до удивления, когда он сможет создать совершенно новую компанию. Вот так и происходит сингулярность: чудеса становятся рутиной, а затем ставки на столе.
Мы уже слышим от ученых, что они в два-три раза продуктивнее, чем были до ИИ. Продвинутый ИИ интересен по многим причинам, но, возможно, ничто не имеет такого значения, как тот факт, что мы можем использовать его для более быстрых исследований ИИ. Возможно, мы сможем открыть новые вычислительные субстраты, лучшие алгоритмы и кто знает, что еще. Если мы сможем провести десятилетние исследования за год или месяц, то темпы прогресса, очевидно, будут совершенно другими.
我们已经听到科学家们说,他们的生产力是使用人工智慧智能之前的两到三倍。 先进的人工智慧智能之所以引人入胜,原因Их много,但或许没有哪一点比我们能用它来Ускорение исследований в области искусственного интеллекта важнее. 我们或许能够发现新的计算基底、更好的算法,以及天知道还有什么。 如果能在一个月或一年内完成十才能完成研究,那么进步的速度显然将截然不同。
С этого момента инструменты, которые мы уже создали, помогут нам найти дальнейшие научные выводы и помогут нам в создании более совершенных систем искусственного интеллекта. Конечно, это не то же самое, что система ИИ, полностью автономно обновляющая собственный код, но тем не менее это личиночный вариант рекурсивного самосовершенствования.
Есть и другие самоусиливающиеся петли. Создание экономической стоимости запустило маховик сложного строительства инфраструктуры для работы этих все более мощных систем искусственного интеллекта. И роботы, которые могут строить других роботов, (and в некотором смысле центры обработки данных, которые могут строить другие datacenters), не так уж и далеки от этого.
Существуют и другие циклы самоукрепления, которые действуют. Создание экономической ценности запустило маховик, который постоянно推动ает строительство инфраструктуры для работы этих все более мощных искусственных интеллектов. А роботы, способные создавать других роботов (в определенном смысле, центры обработки данных, способные строить другие центры обработки данных), также не являются чем-то недостижимым.
Если нам придется сделать первый миллион человекоподобных роботов старомодным способом, то тогда они смогут управлять всей цепочкой поставок — добывать и перерабатывать полезные ископаемые, водить грузовики, управлять заводами и т. д .— Если мы построим больше роботов, которые могут построить больше мощностей по производству чипов, центров обработки данных и т. д., то скорость прогресса, очевидно, будет совершенно иной.
Если нам придется создать первые миллион человекоподобных роботов традиционным способом, но затем они смогут управлять всей цепочкой поставок — добычей и переработкой минералов, вождением грузовиков, управлением заводами и так далее — для создания большего количества роботов, которые в свою очередь смогут строить больше фабрик по производству чипов, дата-центров и прочего, то скорость прогресса явно будет совершенно иной.
По мере автоматизации производства в центрах обработки данных стоимость интеллекта в конечном итоге должна сравняться со стоимостью электроэнергии. (People часто интересуются, сколько энергии потребляет запрос ChatGPT; В среднем запрос потребляет около 0,34 ватт-часа, примерно столько же, сколько духовка израсходует чуть более чем за одну секунду или высокоэффективная лампочка — за пару минут. Он также использует около 0,000085 галлонов воды; примерно одна пятнадцатая чайной ложки.)
随着数据中心生产的自动化,智能的成本最终应会趋近于电力的成本。 (Люди часто задаются вопросом, сколько энергии требуется для поиска в ChatGPT; 平均一次查询大约消耗0.34 Wa时,相当于一个oven一秒多一点的用量,或一个高效灯泡几分钟的用量。 它还消耗大约0.000085加仑水;约equal to 19,茶spoon的15/1。 ）
技术进步的速度将持续加快,而人类适应几乎任何事物的能力也将一如既往。 过程中会有非常艰难的部分,比如整类工作的消失,但另一方面,世界将变得如此富且迅速,以於于我们能够认真考虑以前从未dare to think of the new policy concept。 我们可能不会一蹴而就地采纳新的社会契约,但几十后回望,这些渐进的变化将汇聚成巨大的变革。
Если история чему-то учит, мы найдем новые вещи, которые нужно делать, и новые вещи, которые нужно хотеть, и быстро освоим новые инструменты, (job измениться после того, как промышленная революция станет хорошим недавним example). Ожидания будут расти, но возможности будут расти так же быстро, и мы все получим лучшие вещи. Мы будем строить друг для друга все более и более замечательные вещи. У людей есть важное и любопытное преимущество перед ИИ в долгосрочной перспективе: мы запрограммированы заботиться о других людях и о том, что они думают и делают, и мы не очень заботимся о машинах.
тысяча лет назад 的自给自足的农民看到我们许多人现在的工作,会说我们做的是"假工作",认为我们只是在玩游戏自娱自乐,因为我们有充足的食和难以想象的luxu。 我希望一千后我们看待未来的工作时,也会觉得它们是"非常假工作",但我毫不怀疑,从事这些工作的人会覺得它们无比重要和满足。
Скорость новых чудес, которые будут достигнуты, будет огромной. Сегодня трудно даже представить, что мы обнаружим к 2035 году; Может быть, мы перейдем от решения физики высоких энергий в один год к началу колонизации космоса в следующем году; или от крупного прорыва в материаловедении в одном году до по-настоящему широкополосных интерфейсов мозг-компьютер в следующем году. Многие люди предпочтут прожить свою жизнь примерно таким же образом, но, по крайней мере, некоторые люди, вероятно, решат «подключиться».
Скорость реализации новых чудес будет огромной. Сегодня нам даже трудно представить, какие открытия будут к 2035 году; возможно, мы решим проблемы высоких энергий за год, а затем в следующем году начнем колонизацию космоса; или достигнем значительных успехов в материаловедении за год, а затем в следующем году реализуем настоящие высокоскоростные интерфейсы мозг-машина. Многие будут выбирать жить примерно так же, но, по крайней мере, некоторые могут решить «подключиться».
展望未来,这一切听起来似乎难以理解。 但亲身经历时,可能会覺得shock但尚可应对。 从相对论的视角看,奇点是点滴发生的,Fusion is 缓慢进行的。 我们正攀登在指数级技术进步的漫长arc线上; 前看总是显得陡,后看则显得平,but 它是一条平滑的曲线。 (回想一下2020年,如果有人说2025年将出现接近通用人工智慧智能的东西,听起来会是什么感觉,再对比一下过去5年实际的经历。 ）
Существуют серьезные проблемы, с которыми нужно столкнуться, наряду с огромными преимуществами. Нам действительно нужно решить проблемы безопасности как технически, так и социально, но затем крайне важно широко распределить доступ к суперразуму, учитывая экономические последствия. Лучший путь вперед может быть чем-то вроде:
С огромными преимуществами также возникают серьезные вызовы, с которыми нужно столкнуться. Нам действительно необходимо решить проблемы безопасности как с технической, так и с социальной стороны, но учитывая его экономическое влияние, также крайне важно широко распространить доступ к суперинтеллекту. Оптимальный путь вперед, возможно, будет таким:
Решить проблему согласованности, а это означает, что мы можем надежно гарантировать, что системы ИИ будут обучаться и действовать в соответствии с тем, чего мы коллективно действительно хотим в долгосрочной перспективе (social медиа-ленты являются примером несогласованного ИИ; Алгоритмы, на которых они работают, невероятно помогают вам продолжать прокручивать страницу и четко понимать свои краткосрочные предпочтения, но они делают это, используя что-то в вашем мозгу, что переопределяет ваши долгосрочные preference).
解决对齐问题,意味着我们能够有力地保证人工智能系统学习并按照我们集体的长期真实意愿行事(社交媒体的信息流是未对齐人工智能的一个例子; 驱动它们的算法在让你不停滚动方面表现出色,并能clear understand your 短期preferences,但它们是通过利用你大脑中某种压倒你长期偏好的东西来做到这一点的)。
Затем сосредоточьтесь на том, чтобы сделать сверхинтеллект дешевым, широко доступным и не слишком концентрированным на каком-либо человеке, компании или стране. Общество устойчиво, креативно и быстро адаптируется. Если мы сможем использовать коллективную волю и мудрость людей, то, несмотря на то, что мы совершим много ошибок и некоторые вещи пойдут совсем не так, мы быстро научимся и адаптируемся и сможем этим воспользоваться Технология для получения максимального потенциала роста и минимального падения. Предоставление пользователям большой свободы в широких рамках, которые общество должно решить, кажется очень важным. Чем скорее мир сможет начать разговор о том, что такое эти широкие границы и как мы определяем коллективное согласование, тем лучше.
Мы (вся отрасль, не только OpenAI) создаем мозг для мира. Он будет высоко персонализированным и легким в использовании для каждого; мы будем ограничены хорошими идеями. На протяжении долгого времени технические специалисты стартапов смеялись над так называемыми "гениями идей"; теми, кто имеет идеи, но ищет команду для их реализации. Теперь, на мой взгляд, их время наконец-то наступает.
OpenAI сейчас много чего представляет, но прежде всего мы компания, занимающаяся исследованиями суперинтеллекта. У нас много работы впереди, но большая часть пути теперь освещена, и темные области быстро отступают. Мы чувствуем огромную благодарность за возможность заниматься тем, чем занимаемся.
Сегодня OpenAI выполняет множество функций, но прежде всего, мы являемся исследовательской компанией в области суперумного интеллекта. У нас еще много работы впереди, но большая часть пути уже освещена, а темные участки быстро исчезают. Мы безмерно благодарны за возможность заниматься этой деятельностью.
Интеллект, который слишком дешев, чтобы его измерять, вполне достижим. Это может звучать безумно, но если бы мы сказали вам в 2020 году, что мы будем там, где мы находимся сегодня, это, вероятно, звучало бы более безумно, чем наши текущие прогнозы на 2030 год.
Дешевая до немыслимости интеллектуальная способность уже на расстоянии вытянутой руки. Это может показаться безумным, но если бы мы сказали вам в 2020 году, что достигнем сегодняшнего уровня, это звучало бы более безумно, чем наши нынешние прогнозы на 2030 год.
Пусть мы плавно, экспоненциально и без происшествий пройдем через суперразум.
Желаем, чтобы мы смогли спокойно, экспоненциально и без волнений войти в эпоху суперразумного.
Содержание носит исключительно справочный характер и не является предложением или офертой. Консультации по инвестициям, налогообложению или юридическим вопросам не предоставляются. Более подробную информацию о рисках см. в разделе «Дисклеймер».
Это вызывает у меня воспоминания о "Не уходи тихо в тот хороший вечер" Дилана Томаса.
"Мягкая сингулярность" — это тихо наступающая рука судьбы, нежная, но неотразимая, как умирающий старик, который может мирно войти в ту "хорошую ночь", тихо приглашая человечество шагнуть в неизвестную бездну.
Человечество, возможно, не будет яростно сопротивляться приливам судьбы, а как старик в сумерках с легким любопытством и покорностью, мягко будет поглощено сингулярностью.
Перед чтением Алтмана, мы должны про себя произнести эту строчку из стихотворения:
Не уходите тихо в ту хорошую ночь;
ярость, ярость против угасания света
Вот полный текст блога, на китайском и английском языках:
Нежная Сингулярность
Сэм Альтман
Сэм Ультрамен
Мы уже пересекли горизонт событий; взлет начался. Человечество близко к созданию цифрового сверхинтеллекта, и, по крайней мере, пока это намного менее странно, чем должно быть.
Мы уже пересекли горизонт событий; взлет начался. Человечество скоро создаст цифровой суперинтеллект, и, по крайней мере на данный момент, его форма далеко не так странна, как мы себе представляли.
Роботы еще не ходят по улицам, и большинство из нас не общаются с ИИ целый день. Люди все еще умирают от болезней, мы все еще не можем легко отправиться в космос, и есть много того, что мы не понимаем о вселенной.
Роботы еще не заполнили улицы, и большинство из нас все еще не общаются с искусственным интеллектом целыми днями. Люди по-прежнему умирают от болезней, и мы все еще не можем легко попасть в космос; во вселенной есть множество тайн, которые мы не понимаем.
Тем не менее, в последнее время мы создали системы, которые во многих отношениях умнее людей и способны значительно повысить производительность людей, использующих их. Наименее вероятная часть работы осталась позади; научные открытия, которые привели нас к таким системам, как GPT-4 и O3, были получены с трудом, но они заведут нас очень далеко.
然而,我们最近已经构建出在许多方面比人类更智能的系统,它们能够显有放大使用者的产出。 这项工作中看似最不可能实现的部分已经完成; 那些催生了像GPT-4和o3这样系统的科学洞见来之不易,但它们将引领我们走得非常远。
ИИ внесет свой вклад в мир во многих отношениях, но повышение качества жизни от того, что ИИ ускорит научный прогресс и повысит производительность, будет огромным; Будущее может быть намного лучше, чем настоящее. Научный прогресс является самой большой движущей силой общего прогресса; Очень интересно думать о том, сколько еще мы могли бы иметь.
人工智能将从多方面为世界造贡献,但由人工智能推动的更快科学进步和更高生产力所带来的生活质量提升将是巨大的; 未来可能远比现在更加美好。 科学进步是整体进步的最大驱动力; Мысль о том, что я могу иметь больше, очень захватывающая.
В каком-то смысле ChatGPT уже мощнее любого человека, который когда-либо жил. Сотни миллионов людей полагаются на него каждый день и для решения все более важных задач; Небольшая новая возможность может оказать огромное положительное влияние; Небольшое смещение, умноженное на сотни миллионов людей, может привести к большим негативным последствиям.
从某种宏大的意义上说,ChatGPT已经比任何活过的人类都更强大。 每天有数亿人依赖它处理日益重要的任务; 一个微小的新功能可以产生巨大的积极影响; И маленькая неточность, после того как она будет усилена беспорядочными половыми связями, также может вызвать огромную тень.
2025 год стал годом появления агентов, способных выполнять настоящую когнитивную работу; написание компьютерного кода никогда не будет таким, как прежде. В 2026 году, вероятно, появятся системы, способные выявлять новые идеи. В 2027 году могут появиться роботы, способные выполнять задачи в реальном мире.
2025 год станет свидетелем рождения агентов, способных выполнять настоящую когнитивную работу; способ написания компьютерного кода изменится навсегда. В 2026 году могут появиться системы, способные обнаруживать новые идеи. В 2027 году могут появиться роботы, способные выполнять задачи в реальном мире.
Гораздо больше людей смогут создавать программное обеспечение и искусство. Но миру нужно гораздо больше и того, и другого, и эксперты, вероятно, все еще будут намного лучше новичков, пока они принимают новые инструменты. В общем, способность одного человека выполнять гораздо больше в 2030 году, чем в 2020, станет поразительным изменением, и многие люди научатся извлекать из этого выгоду.
Больше людей смогут создавать программное обеспечение и искусство. Но спрос на оба этих направления также значительно возрастет; пока эксперты будут осваивать новые инструменты, они могут по-прежнему значительно превосходить новичков. В целом, объем работы, который человек сможет выполнить в 2030 году, значительно превысит объем работы 2020 года, что станет заметным изменением, и многие найдут способы извлечь из этого выгоду.
В самых важных аспектах 2030-е годы могут не сильно отличаться. Люди по-прежнему будут любить свои семьи, проявлять свою креативность, играть в игры и плавать в озерах.
В самых важных аспектах 2030-е годы, возможно, не будут кардинально отличаться. Люди по-прежнему будут любить своих близких, выражать креативность, играть в игры, плавать в озерах.
Но в некоторых все еще очень важных аспектах 2030-е годы, вероятно, будут дико отличаться от любого времени, которое было ранее. Мы не знаем, насколько далеко мы сможем уйти за пределы человеческого уровня интеллекта, но мы собираемся это узнать.
Но в некоторых все еще очень важных аспектах 2030-е годы могут быть совершенно иными, чем любая эпоха в прошлом. Мы не знаем, насколько далеко мы сможем превзойти человеческий уровень интеллекта, но мы вскоре найдём ответ.
В 2030-х годах интеллект и энергия — идеи и способность реализовывать идеи — станут дико изобильными. Эти два фактора долгое время были основными ограничителями человеческого прогресса; с изобилием интеллекта и энергии ( и хорошим управлением ) мы теоретически можем получить все остальное.
В 2030-х годах ум и энергия — то есть идеи и способность реализовывать идеи — станут чрезвычайно обильными. Эти два фактора долгое время были основными ограничениями человеческого прогресса; с обилием ума и энергии (а также с хорошим управлением) теоретически мы можем иметь всё.
Мы уже живем с невероятным цифровым интеллектом, и после некоторого первоначального шока большинство из нас уже привыкли к нему. Очень быстро мы переходим от удивления тем, что ИИ может создать красиво написанный абзац, к заданию вопросом, когда он может создать красиво написанный роман; или от удивления тем, что он может ставить медицинские диагнозы, спасающие жизнь, до удивления, когда он сможет разработать лекарства; или от удивления, что он может создать маленькую компьютерную программу, до удивления, когда он сможет создать совершенно новую компанию. Вот так и происходит сингулярность: чудеса становятся рутиной, а затем ставки на столе.
我们已经生活在令人难以置信的数字智能中,在最初的振惊之后,我们大多数人已经习以为常。 我们很快就从惊叹于AI能生成一段文笔优美的段落,转而思考它何时能写出一部文笔优美小说; 从惊叹于它能造猻疗诊断,转而思考它何时能研发出治方法; 从惊叹于它能创建一个小程序,转而思考它何时能创建一家全新的公司。 奇点就是这样发生的:奇迹变为常态,然后成为基本要求。
Мы уже слышим от ученых, что они в два-три раза продуктивнее, чем были до ИИ. Продвинутый ИИ интересен по многим причинам, но, возможно, ничто не имеет такого значения, как тот факт, что мы можем использовать его для более быстрых исследований ИИ. Возможно, мы сможем открыть новые вычислительные субстраты, лучшие алгоритмы и кто знает, что еще. Если мы сможем провести десятилетние исследования за год или месяц, то темпы прогресса, очевидно, будут совершенно другими.
我们已经听到科学家们说,他们的生产力是使用人工智慧智能之前的两到三倍。 先进的人工智慧智能之所以引人入胜,原因Их много,但或许没有哪一点比我们能用它来Ускорение исследований в области искусственного интеллекта важнее. 我们或许能够发现新的计算基底、更好的算法,以及天知道还有什么。 如果能在一个月或一年内完成十才能完成研究,那么进步的速度显然将截然不同。
С этого момента инструменты, которые мы уже создали, помогут нам найти дальнейшие научные выводы и помогут нам в создании более совершенных систем искусственного интеллекта. Конечно, это не то же самое, что система ИИ, полностью автономно обновляющая собственный код, но тем не менее это личиночный вариант рекурсивного самосовершенствования.
从现在开始,我们已经构建的工具将帮助我们发现更深入的科学见解,并协助我们创造更优秀的人工智能系统。 当然,这与一个人工智能系统完全自主地更新自己的代码并非一回事,但这已是递归式自我改进的雏形。
Есть и другие самоусиливающиеся петли. Создание экономической стоимости запустило маховик сложного строительства инфраструктуры для работы этих все более мощных систем искусственного интеллекта. И роботы, которые могут строить других роботов, (and в некотором смысле центры обработки данных, которые могут строить другие datacenters), не так уж и далеки от этого.
Существуют и другие циклы самоукрепления, которые действуют. Создание экономической ценности запустило маховик, который постоянно推动ает строительство инфраструктуры для работы этих все более мощных искусственных интеллектов. А роботы, способные создавать других роботов (в определенном смысле, центры обработки данных, способные строить другие центры обработки данных), также не являются чем-то недостижимым.
Если нам придется сделать первый миллион человекоподобных роботов старомодным способом, то тогда они смогут управлять всей цепочкой поставок — добывать и перерабатывать полезные ископаемые, водить грузовики, управлять заводами и т. д .— Если мы построим больше роботов, которые могут построить больше мощностей по производству чипов, центров обработки данных и т. д., то скорость прогресса, очевидно, будет совершенно иной.
Если нам придется создать первые миллион человекоподобных роботов традиционным способом, но затем они смогут управлять всей цепочкой поставок — добычей и переработкой минералов, вождением грузовиков, управлением заводами и так далее — для создания большего количества роботов, которые в свою очередь смогут строить больше фабрик по производству чипов, дата-центров и прочего, то скорость прогресса явно будет совершенно иной.
По мере автоматизации производства в центрах обработки данных стоимость интеллекта в конечном итоге должна сравняться со стоимостью электроэнергии. (People часто интересуются, сколько энергии потребляет запрос ChatGPT; В среднем запрос потребляет около 0,34 ватт-часа, примерно столько же, сколько духовка израсходует чуть более чем за одну секунду или высокоэффективная лампочка — за пару минут. Он также использует около 0,000085 галлонов воды; примерно одна пятнадцатая чайной ложки.)
随着数据中心生产的自动化,智能的成本最终应会趋近于电力的成本。 (Люди часто задаются вопросом, сколько энергии требуется для поиска в ChatGPT; 平均一次查询大约消耗0.34 Wa时,相当于一个oven一秒多一点的用量,或一个高效灯泡几分钟的用量。 它还消耗大约0.000085加仑水;约equal to 19,茶spoon的15/1。 ）
技术进步的速度将持续加快,而人类适应几乎任何事物的能力也将一如既往。 过程中会有非常艰难的部分,比如整类工作的消失,但另一方面,世界将变得如此富且迅速,以於于我们能够认真考虑以前从未dare to think of the new policy concept。 我们可能不会一蹴而就地采纳新的社会契约,但几十后回望,这些渐进的变化将汇聚成巨大的变革。
Если история чему-то учит, мы найдем новые вещи, которые нужно делать, и новые вещи, которые нужно хотеть, и быстро освоим новые инструменты, (job измениться после того, как промышленная революция станет хорошим недавним example). Ожидания будут расти, но возможности будут расти так же быстро, и мы все получим лучшие вещи. Мы будем строить друг для друга все более и более замечательные вещи. У людей есть важное и любопытное преимущество перед ИИ в долгосрочной перспективе: мы запрограммированы заботиться о других людях и о том, что они думают и делают, и мы не очень заботимся о машинах.
如果历史可为借鉴,我们将找到新事去,产生新需求,并迅速absorbing 新工具(工业revolution后的职业变迁是一个很好的一般的例子)。 期望会提高,但能力也会同样快速了提高,我们都会得到更好的东西。 我们将为彼此创造出越来越beautiful things。 与人工智能相比,人类拥有一种长期、重要且奇特的优势:我们的天性决定了我们在caring 人以及人的所思所为,而对机器则不那么在乎。
тысяча лет назад 的自给自足的农民看到我们许多人现在的工作,会说我们做的是"假工作",认为我们只是在玩游戏自娱自乐,因为我们有充足的食和难以想象的luxu。 我希望一千后我们看待未来的工作时,也会觉得它们是"非常假工作",但我毫不怀疑,从事这些工作的人会覺得它们无比重要和满足。
Скорость новых чудес, которые будут достигнуты, будет огромной. Сегодня трудно даже представить, что мы обнаружим к 2035 году; Может быть, мы перейдем от решения физики высоких энергий в один год к началу колонизации космоса в следующем году; или от крупного прорыва в материаловедении в одном году до по-настоящему широкополосных интерфейсов мозг-компьютер в следующем году. Многие люди предпочтут прожить свою жизнь примерно таким же образом, но, по крайней мере, некоторые люди, вероятно, решат «подключиться».
Скорость реализации новых чудес будет огромной. Сегодня нам даже трудно представить, какие открытия будут к 2035 году; возможно, мы решим проблемы высоких энергий за год, а затем в следующем году начнем колонизацию космоса; или достигнем значительных успехов в материаловедении за год, а затем в следующем году реализуем настоящие высокоскоростные интерфейсы мозг-машина. Многие будут выбирать жить примерно так же, но, по крайней мере, некоторые могут решить «подключиться».
展望未来,这一切听起来似乎难以理解。 但亲身经历时,可能会覺得shock但尚可应对。 从相对论的视角看,奇点是点滴发生的,Fusion is 缓慢进行的。 我们正攀登在指数级技术进步的漫长arc线上; 前看总是显得陡,后看则显得平,but 它是一条平滑的曲线。 (回想一下2020年,如果有人说2025年将出现接近通用人工智慧智能的东西,听起来会是什么感觉,再对比一下过去5年实际的经历。 ）
Существуют серьезные проблемы, с которыми нужно столкнуться, наряду с огромными преимуществами. Нам действительно нужно решить проблемы безопасности как технически, так и социально, но затем крайне важно широко распределить доступ к суперразуму, учитывая экономические последствия. Лучший путь вперед может быть чем-то вроде:
С огромными преимуществами также возникают серьезные вызовы, с которыми нужно столкнуться. Нам действительно необходимо решить проблемы безопасности как с технической, так и с социальной стороны, но учитывая его экономическое влияние, также крайне важно широко распространить доступ к суперинтеллекту. Оптимальный путь вперед, возможно, будет таким:
Решить проблему согласованности, а это означает, что мы можем надежно гарантировать, что системы ИИ будут обучаться и действовать в соответствии с тем, чего мы коллективно действительно хотим в долгосрочной перспективе (social медиа-ленты являются примером несогласованного ИИ; Алгоритмы, на которых они работают, невероятно помогают вам продолжать прокручивать страницу и четко понимать свои краткосрочные предпочтения, но они делают это, используя что-то в вашем мозгу, что переопределяет ваши долгосрочные preference).
解决对齐问题,意味着我们能够有力地保证人工智能系统学习并按照我们集体的长期真实意愿行事(社交媒体的信息流是未对齐人工智能的一个例子; 驱动它们的算法在让你不停滚动方面表现出色,并能clear understand your 短期preferences,但它们是通过利用你大脑中某种压倒你长期偏好的东西来做到这一点的)。
Затем сосредоточьтесь на том, чтобы сделать сверхинтеллект дешевым, широко доступным и не слишком концентрированным на каком-либо человеке, компании или стране. Общество устойчиво, креативно и быстро адаптируется. Если мы сможем использовать коллективную волю и мудрость людей, то, несмотря на то, что мы совершим много ошибок и некоторые вещи пойдут совсем не так, мы быстро научимся и адаптируемся и сможем этим воспользоваться Технология для получения максимального потенциала роста и минимального падения. Предоставление пользователям большой свободы в широких рамках, которые общество должно решить, кажется очень важным. Чем скорее мир сможет начать разговор о том, что такое эти широкие границы и как мы определяем коллективное согласование, тем лучше.
然后,专注于让超级智能变得廉价、普及,并且不过度集中于任何个人、公司或国家。 社会具有韧性、创造力并且适应快速。 如果我们能够驾驭人类的集体意愿和智慧,那么尽管我们会犯很多错误,有些事情会出错,但我们将迅速学习和适应,并能够利用这项技术来获得最大的好处和最小的坏处。 在社会必须决定的广泛boundary 内,给予用户大量的自由似乎非常重要。 世界越早开始就这些广泛boundary 是什么以及我们如何定义集体对齐展开对话,就越好。
Мы (вся отрасль, не только OpenAI) создаем мозг для мира. Он будет высоко персонализированным и легким в использовании для каждого; мы будем ограничены хорошими идеями. На протяжении долгого времени технические специалисты стартапов смеялись над так называемыми "гениями идей"; теми, кто имеет идеи, но ищет команду для их реализации. Теперь, на мой взгляд, их время наконец-то наступает.
OpenAI сейчас много чего представляет, но прежде всего мы компания, занимающаяся исследованиями суперинтеллекта. У нас много работы впереди, но большая часть пути теперь освещена, и темные области быстро отступают. Мы чувствуем огромную благодарность за возможность заниматься тем, чем занимаемся.
Сегодня OpenAI выполняет множество функций, но прежде всего, мы являемся исследовательской компанией в области суперумного интеллекта. У нас еще много работы впереди, но большая часть пути уже освещена, а темные участки быстро исчезают. Мы безмерно благодарны за возможность заниматься этой деятельностью.
Интеллект, который слишком дешев, чтобы его измерять, вполне достижим. Это может звучать безумно, но если бы мы сказали вам в 2020 году, что мы будем там, где мы находимся сегодня, это, вероятно, звучало бы более безумно, чем наши текущие прогнозы на 2030 год.
Дешевая до немыслимости интеллектуальная способность уже на расстоянии вытянутой руки. Это может показаться безумным, но если бы мы сказали вам в 2020 году, что достигнем сегодняшнего уровня, это звучало бы более безумно, чем наши нынешние прогнозы на 2030 год.
Пусть мы плавно, экспоненциально и без происшествий пройдем через суперразум.
Желаем, чтобы мы смогли спокойно, экспоненциально и без волнений войти в эпоху суперразумного.