Це нагадує мені про вірш валлійського поета Ділана Томаса «Не йди м'яко в ту добру ніч» Do not go gentle into that good night
«Дивне полум'я Вень Хе» – це рука життя, яка тихо спускається вниз, і Вень Ру чарівний, так само як і вмираючий старий може спокійно йти «на добраніч», запрошуючи людей ступити в глибини невідомого.
Людство, можливо, не буде з гнівом боротися з潮ом долі, а скоріше, як старий, що в сутінках з легким сумнівом та покорою, м'яко буде поглинуто сингулярністю.
Перед читанням Альтмана, ми повинні мовчки повторити цей рядок з вірша:
Не йди м'яко в ту добру ніч;
лють, лють проти згасання світла
Наступний текст - повний блог, китайсько-англійський переклад:
М'яка сингулярність
Сем Альтман
Сем Ультраман
Ми вже пройшли подію горизонту; відлік часу почався. Людство близьке до створення цифрового суперінтелекту, і принаймні поки що це набагато менш дивно, ніж мало б бути.
Ми вже перетнули горизонти подій; вильот уже розпочався. Людство незабаром створить цифровий суперинтелект, і, принаймні на даний момент, його форма зовсім не така дивна, як ми уявляли.
Роботи ще не ходять вулицями, і більшість із нас не розмовляють зі штучним інтелектом цілий день. Люди все ще помирають від хвороб, ми все ще не можемо легко полетіти в космос, а у Всесвіті є багато такого, чого ми не розуміємо.
机器人尚未遍布街头,我们大多数人也还未整日与人工智能对话。 人们依旧会помер під час хвороби,我们仍然无法轻易地进入太空,Є багато 我们不理解的奥機密。
І все ж, нещодавно ми створили системи, які в багатьох відношеннях розумніші за людей і здатні значно підвищити продуктивність людей, які їх використовують. Найменш ймовірна частина роботи позаду; наукові відкриття, які привели нас до систем, таких як GPT-4 та o3, були важко здобуті, але далеко нас заведуть.
Проте, ми нещодавно створили системи, які в багатьох відношеннях більш розумні, ніж люди, і здатні суттєво збільшити продуктивність користувачів. Той аспект цієї роботи, який здавалося найменш ймовірним для реалізації, вже виконано; наукові відкриття, що стали основою для створення таких систем, як GPT-4 і o3, не були легкими, але вони приведуть нас дуже далеко.
Штучний інтелект сприятиме світу багатьма способами, але вигоди для якості життя від швидшого наукового прогресу та підвищеної продуктивності завдяки ШІ будуть величезними; майбутнє може бути набагато кращим за теперішнє. Науковий прогрес є найбільшим двигуном загального прогресу; це надзвичайно цікаво думати про те, наскільки більше ми могли б мати.
人工智能将从多方面为世界造贡献,但由人工智能推动的更快科学进步和更高生产力所带来的生活质量提升将是巨大的; 未来可能远比现在更加美好。 科学进步是整体进步的最大驱动力; Думати, що я можу мати більше, дуже захоплююче.
В деякому великому сенсі, ChatGPT вже потужніший за будь-яку людину, яка коли-небудь жила. Сотні мільйонів людей покладаються на нього щодня для все більш важливих завдань; невелика нова здатність може створити величезний позитивний вплив; невелике невідповідність, помножене на сотні мільйонів людей, може спричинити велику негативну дію.
从某种宏大的意义上说,ChatGPT已经比任何活过的人类都更强大。 每天有数亿人依赖它处理日益重要的任务; 一个微小的新功能可以产生巨大的积极影响; А невелика неточність, після того, як вона буде посилена розпусними людьми, також може викликати величезну тінь.
2025 року з’явилися агенти, які можуть виконувати справжню когнітивну роботу; написання комп’ютерного коду ніколи не буде таким, як раніше. 2026 року, ймовірно, з’являться системи, які зможуть знаходити нові інсайти. 2027 року можуть з’явитися роботи, які зможуть виконувати завдання у реальному світі.
2025年见证了能够从事真正认知工作的智能体的诞生; 编写计算机代码的方式将从此改变。 2026年可能会出现能够发现新颖见解的系统。 2027年可能会出现能够在现实世界中执行任务的机器人。
Набагато більше людей зможуть створювати програмне забезпечення та мистецтво. Але світ хоче набагато більше і того, і іншого, і експерти, ймовірно, все одно будуть набагато кращими, ніж новачки, якщо вони використовують нові інструменти. Взагалі кажучи, здатність однієї людини зробити набагато більше в 2030 році, ніж вона могла б зробити в 2020 році, стане разючою зміною, і багато людей зрозуміють, як отримати вигоду.
更多的人将能够创造软件和艺术。 但世界对这两者的需求也会大大增加,只要专家们拥抱新工具,他们可能仍然会比新手出色得多。 总的来说,一个人在2030年能完成工作的量远超2020年,这将是一个显座的变化,许多人会找到从中受益的方法。
У найважливіших аспектах 2030-ті можуть не бути кардинально іншими. Люди все ще любитимуть свої родини, виражатимуть свою креативність, гратимуть у ігри та плаватимуть у озерах.
У найважливіших аспектах 2030-ті, можливо, не будуть кардинально відрізнятися. Люди все ще будуть любити своїх близьких, висловлювати креативність, грати в ігри, плавати в озерах.
Але в все ще дуже важливих аспектах 2030-ті роки, швидше за все, будуть сильно відрізнятися від будь-якого часу, який настав раніше. Ми не знаємо, як далеко ми можемо вийти за межі людського інтелекту, але ми скоро дізнаємося.
但在一些仍然非常重要的方面,2030代可能会与以往任何时代都截然不同。 我们不知道我们能超越人类水平的智能多远,但我们即将找到答案。
У 2030-х роках інтелект і енергія – ідеї та здатність втілювати ідеї в життя – стануть надзвичайно багатими. Ці два фактори довгий час були основними обмежувачами людського прогресу; Володіючи багатим розумом і енергією (and хорошим governance), ми теоретично можемо мати що завгодно.
У 2030-х роках інтелекту та енергії – тобто ідей та вміння думати про них – буде вдосталь. 这两者长期以来一直是人类进步的根本限制factor; З великим інтелектом та енергією (і хорошим управлінням) я можу мати все.
Ми вже живемо з неймовірним цифровим інтелектом, і після деякого початкового потрясіння більшість із нас досить звикли до нього. Дуже швидко ми переходимо від захоплення тим, що штучний інтелект може згенерувати красиво написаний абзац, до задавання питанням, коли він може створити красиво написаний роман; або від захоплення тим, що він може ставити медичні діагнози, що рятують життя, до питання про те, коли він зможе розробити ліки; Або від здивування вона може створити невелику комп'ютерну програму до здивування, коли вона зможе створити цілу нову компанію. Сингулярність так і відбувається: чудеса стають рутиною, а потім і ставки за столом.
我们已经生活在令人难以置信的数字智能中,在最初的振惊之后,我们大多数人已经习以为常。 我们很快就从惊叹于AI能生成一段文笔优美的段落,转而思考它何时能写出一部文笔优美小说; 从惊叹于它能造猻疗诊断,转而思考它何时能研发出治方法; 从惊叹于它能创建一个小程序,转而思考它何时能创建一家全新的公司。 奇点就是这样发生的:奇迹变为常态,然后成为基本要求。
Ми вже чуємо від вчених, що вони вдвічі-втричі продуктивніші, ніж були до ШІ. Просунутий штучний інтелект цікавий з багатьох причин, але, мабуть, ніщо не є настільки значущим, як той факт, що ми можемо використовувати його для швидшого дослідження штучного інтелекту. Можливо, ми зможемо відкрити нові обчислювальні підкладки, кращі алгоритми і хто знає, що ще. Якщо ми зможемо провести дослідження протягом десятиліть за рік або місяць, то темпи прогресу, очевидно, будуть зовсім іншими.
我们已经听到科学家们说,他们的生产力是使用人工智慧智能之前的两到三倍。 先进的人工智慧智能之所以引人入胜,原因Є багато,但或许没有哪一点比我们能用它来Прискорення досліджень штучного інтелекту є важливішим。 我们或许能够发现新的计算基底、更好的算法,以及天知道还有什么。 如果能在一个月或一年内完成十才能完成研究,那么进步的速度显然将截然不同。
Відтепер інструменти, які ми вже створили, допоможуть нам знайти нові науковіInsights і сприятимуть створенню кращих систем штучного інтелекту. Звичайно, це не те саме, що система штучного інтелекту, яка повністю автономно оновлює свій код, але все ж це личинкова версія рекурсивного самоудосконалення.
从现在开始,我们已经构建的工具将帮助我们发现更深入的科学见解,并协助我们创造更优秀的人工智能系统。 当然,这与一个人工智能系统完全自主地更新自己的代码并非一回事,但这已是递归式自我改进的雏形。
У хід йдуть і інші самопідсилювальні петлі. Створення економічної цінності запустило маховик складної інфраструктури для роботи цих все більш потужних систем штучного інтелекту. І роботи, які можуть створювати інших роботів (and в якомусь сенсі, дата-центри, які можуть будувати інші datacenters), не так вже й далеко.
Інші цикли самопідсилення також починають діяти. Створення економічної вартості вже запустило ефект маховика, який постійно стимулює інфраструктурне будівництво для роботи цих дедалі потужніших систем штучного інтелекту. А можливість створювати інших роботів (в певному сенсі, центри обробки даних, здатні будувати інші центри обробки даних) також не є недосяжною.
Якщо нам доведеться зробити перший мільйон гуманоїдних роботів старомодним способом, але потім вони зможуть керувати всім ланцюгом постачання — видобутком і очищенням мінералів, водінням вантажівок, управлінням фабриками тощо — для створення нових роботів, які можуть будувати нові заводи з виготовлення чіпів, дата-центри тощо, то темп прогресу, очевидно, буде зовсім іншим.
Якщо ми повинні виготовити перші мільйон андроїдів традиційними методами, але потім вони зможуть керувати всім ланцюгом постачання — видобутком і очищенням корисних копалин, керуванням вантажівками, управлінням фабриками тощо — для виготовлення більшої кількості роботів, які в свою чергу можуть збудувати більше заводів з виробництва чіпів, дата-центрів тощо, то швидкість прогресу, безумовно, буде зовсім іншою.
У міру того, як виробництво центрів обробки даних автоматизується, витрати на розвідку в кінцевому підсумку повинні зрівнятися майже з вартістю електроенергії. (People часто цікавляться, скільки енергії споживає запит ChatGPT; Середній запит використовує близько 0,34 ват-години, приблизно стільки духова шафа використала б трохи більше ніж за одну секунду, або високоефективна лампочка використала б за пару хвилин. Він також використовує близько 0,000085 галонів води; приблизно одна п'ятнадцята чайної ложки.)
随着数据中心生产的自动化,智能的成本最终应会趋近于电力的成本。 (Люди часто задаються питанням, скільки енергії потрібно, щоб виконати пошук у ChatGPT; 平均一次查询大约消耗0.34 Wa时,相当于一个oven一秒多一点的用量,或一个高效灯泡几分钟的用量。 它还消耗大约0.000085加仑水;约дорівнює 19,茶spoon的15/1。 ）
技术进步的速度将持续加快,而人类适应几乎任何事物的能力也将一如既往。 过程中会有非常艰难的部分,比如整类工作的消失,但另一方面,世界将变得如此富且迅速,以於于我们能够认真考虑以前从未сміливо подумати про нову концепцію політики。 我们可能不会一蹴而就地采纳新的社会契约,但几十后回望,这些渐进的变化将汇聚成巨大的变革。
Якщо історія є будь-яким орієнтиром, ми знайдемо нові речі, які треба робити, і нові речі, які треба бажати, і швидко освоїмо нові інструменти ( зміна роботи після промислової революції є хорошим нещодавнім прикладом ). Очікування зростуть, але можливості зростуть так само швидко, і ми всі отримаємо кращі речі. Ми будемо будувати все більш чудові речі один для одного. У людей є важлива і цікава перевага над ШІ в довгостроковій перспективі: ми вроджено прагнемо піклуватися про інших людей і про те, що вони думають і роблять, і нам не дуже цікаво, що роблять машини.
如果历史可为借鉴,我们将找到新事去,产生新需求,并迅速absorbing 新工具(工业revolution后的职业变迁是一个很好的一般的例子)。 期望会提高,但能力也会同样快速了提高,我们都会得到更好的东西。 我们将为彼此创造出越来越Красиві речі。 与人工智能相比,人类拥有一种长期、重要且奇特的优势:我们的天性决定了我们在caring 人以及人的所思所为,而对机器则不那么在乎。
тисячі років тому 的自给自足的农民看到我们许多人现在的工作,会说我们做的是"假工作",认为我们只是在玩游戏自娱自乐,因为我们有充足的食和难以想象的luxu。 我希望一千后我们看待未来的工作时,也会觉得它们是"非常假工作",但我毫不怀疑,从事这些工作的人会覺得它们无比重要和满足。
Швидкість досягнення нових чудес буде величезною. Сьогодні важко навіть уявити, що ми відкриємо для себе до 2035 року; Можливо, ми перейдемо від розв'язання фізики високих енергій в один рік до початку колонізації космосу наступного року; Або від великого прориву в матеріалознавстві одного року до справжніх інтерфейсів мозок-комп'ютер з високою пропускною здатністю в наступному році. Багато людей вирішать жити своїм життям приблизно так само, але принаймні деякі люди, ймовірно, вирішать «підключитися».
新奇迹实现的速度将是巨大的。 Today我们甚至难以想象到2035年会有什么发现; 也许我们会在一年内解决高能物理问题,然后在下年开启太空colony; 或者在年内得重大材料科学 Прорив,然后在下年实现真高band 宽脑机接口。 许多人会选择以大致相同的方式生活,但至少有些人可能会决定"接入"。
展望未来,这一切听起来似乎难以理解。 但亲身经历时,可能会覺得shock但尚可应对。 从相对论的视角看,奇点是点滴发生的,fusion is 缓慢进行的。 我们正攀登在指数级技术进步的漫长arc线上; 前看总是显得陡,后看则显得平,but 它是一条平滑的曲线。 (回想一下2020年,如果有人说2025年将出现接近通用人工智慧智能的东西,听起来会是什么感觉,再对比一下过去5年实际的经历。 ）
Існують серйозні виклики, які потрібно подолати разом з величезними перевагами. Нам дійсно потрібно вирішити питання безпеки, як технічно, так і в суспільстві, але тоді критично важливо широко розподілити доступ до суперінтелекту з огляду на економічні наслідки. Найкращий шлях вперед може бути щось подібне до:
Разом із величезними перевагами існують і серйозні виклики, які потрібно подолати. Нам справді потрібно вирішити проблеми безпеки з технічної та соціальної точки зору, але враховуючи економічний вплив, також надзвичайно важливо широко поширити доступ до суперінтелекту. Найкращий шлях вперед може бути таким:
Вирішити проблему вирівнювання, що означає, що ми можемо надійно гарантувати, що ми отримаємо системи штучного інтелекту для навчання та дій у напрямку того, чого ми колективно дійсно хочемо, у довгостроковій перспективі (social медіа-канали є прикладом неправильного ШІ; Алгоритми, які забезпечують їх, неймовірно змушують вас продовжувати прокручувати сторінку та чітко розуміти свої короткострокові уподобання, але вони роблять це, використовуючи щось у вашому мозку, що перекриває ваш довгостроковий preference).
解决对齐问题,意味着我们能够有力地保证人工智能系统学习并按照我们集体的长期真实意愿行事(社交媒体的信息流是未对齐人工智能的一个例子; 驱动它们的算法在让你不停滚动方面表现出色,并能clear Understand Your 短期preferences,但它们是通过利用你大脑中某种压倒你长期偏好的东西来做到这一点的)。
Потім зосередьтеся на тому, щоб зробити суперінтелект дешевим, широко доступним і не надто концентрованим з будь-якою людиною, компанією чи країною. Суспільство стійке, творче, швидко адаптується. Якщо ми зможемо використовувати колективну волю і мудрість людей, то, хоча ми зробимо багато помилок і деякі речі підуть дійсно не так, ми швидко навчимося і адаптуємося і зможемо використовувати це технології для отримання максимального плюсу та мінімального мінуса. Надання користувачам великої свободи в широких рамках, на які суспільство має вирішувати, здається дуже важливим. Чим швидше світ зможе почати розмову про те, що таке ці широкі межі і як ми визначаємо колективне злагодження, тим краще.
然后,专注于让超级智能变得廉价、普及,并且不过度集中于任何个人、公司或国家。 社会具有韧性、创造力并且适应快速。 如果我们能够驾驭人类的集体意愿和智慧,那么尽管我们会犯很多错误,有些事情会出错,但我们将迅速学习和适应,并能够利用这项技术来获得最大的好处和最小的坏处。 在社会必须决定的广泛boundary 内,给予用户大量的自由似乎非常重要。 世界越早开始就这些广泛boundary 是什么以及我们如何定义集体对齐展开对话,就越好。
Ми (вся індустрія, а не лише OpenAI) будуємо мозок для світу. Він буде надзвичайно персоналізованим і легким у використанні для кожного; ми будемо обмежені хорошими ідеями. Протягом тривалого часу технічні спеціалісти у світі стартапів сміялися з тих "ідея-менів"; тих, хто має ідеї, але шукає команду для їх реалізації. Тепер, на мій погляд, вони незабаром зустрінуть свою весну.
Зараз OpenAI — це багато речей, але перш за все, ми компанія з дослідження суперінтелекту. Попереду у нас багато роботи, але більша частина стежки перед нами зараз освітлена, а темні ділянки швидко відступають. Ми відчуваємо надзвичайну вдячність за те, що можемо робити те, що робимо.
Сьогодні OpenAI – це потужна компанія, але перш за все, я суперрозумна дослідницька компанія. Попереду багато роботи, але дорога попереду в основному освітлена, а темне царство стрімко відступає. 我们为能从事这项事业覺得无比感激。
Інтелект, занадто дешевий для обліку, цілком у нашій досяжності. Це може звучати божевільно, але якщо б ми сказали вам у 2020 році, що будемо там, де ми є сьогодні, це, напевно, звучало б більш божевільно, ніж наші поточні прогнози про 2030 рік.
Доступний розум, який настільки дешевий, що його неможливо виміряти, вже на відстані витягнутої руки. Можливо, це звучить божевільно, але якщо б ми сказали вам у 2020 році, що досягнемо сьогоднішнього рівня, це могло б прозвучати більш божевільно, ніж наші нинішні прогнози на 2030 рік.
Нехай ми плавно, експоненційно та безперешкодно пройдемо через суперінтелект.
Нехай ми зможемо спокійно, експоненціально та без хвилювань перейти до ери суперінтелекту.
![]()
