Me hace pensar en el poema "No entres suavemente en esa buena noche" de Dylan Thomas, el poeta galés.
"El "punto suave", es la mano del destino que llega silenciosamente, suave pero irresistible, así como el anciano moribundo puede caminar suavemente hacia esa "noche buena", invitando en silencio a la humanidad a entrar en el abismo desconocido.
La humanidad puede que no grite en rebelión contra las mareas del destino, sino que, como un anciano en el crepúsculo, lleve una pizca de curiosidad y sumisión, siendo suavemente consumido por el punto singular.
Antes de leer a Altman, deberíamos recitar en silencio esta línea del poema:
No entres suavemente en esa buena noche;
ira, ira contra la muerte de la luz
A continuación se muestra el texto completo del blog, en inglés y chino:
The Gentle Singularity cómplice
Sam Altman
Sam Ultraman
Hemos pasado el horizonte de eventos; el despegue ha comenzado. La humanidad está cerca de construir una superinteligencia digital, y al menos hasta ahora es mucho menos extraño de lo que debería parecer.
Hemos cruzado el horizonte de eventos; el despegue ha comenzado. La humanidad está a punto de construir una superinteligencia digital, y al menos hasta ahora, su forma no es tan extraña como imaginábamos.
Los robots aún no caminan por las calles, ni la mayoría de nosotros hablamos con IA todo el día. La gente sigue muriendo de enfermedades, aún no podemos ir fácilmente al espacio y hay mucho sobre el universo que no entendemos.
Los robots aún no están en todas partes en las calles, y la mayoría de nosotros todavía no pasamos el día conversando con inteligencia artificial. La gente sigue muriendo de enfermedades, todavía no podemos acceder fácilmente al espacio, y hay muchos misterios en el universo que no entendemos.
Y sin embargo, recientemente hemos construido sistemas que son más inteligentes que las personas en muchos aspectos, y son capaces de amplificar significativamente la producción de las personas que los utilizan. La parte menos probable del trabajo ya está detrás de nosotros; las percepciones científicas que nos llevaron a sistemas como GPT-4 y o3 fueron arduamente ganadas, pero nos llevarán muy lejos.
Sin embargo, recientemente hemos construido sistemas que son más inteligentes que los humanos en muchos aspectos, capaces de amplificar significativamente la productividad de los usuarios. La parte que parecía más improbable de lograr en este trabajo ya se ha completado; los conocimientos científicos que dieron lugar a sistemas como GPT-4 y o3 son difíciles de obtener, pero nos llevarán muy lejos.
La IA contribuirá al mundo de muchas maneras, pero las ganancias en la calidad de vida debido a que la IA impulsa un progreso científico más rápido y una mayor productividad serán enormes; el futuro puede ser mucho mejor que el presente. El progreso científico es el mayor impulsor del progreso general; es increíblemente emocionante pensar en cuánto más podríamos tener.
La inteligencia artificial contribuirá al mundo de muchas maneras, pero la mejora en la calidad de vida que traerán los rápidos avances científicos y una mayor productividad impulsados por la inteligencia artificial será enorme; el futuro podría ser mucho mejor que el presente. El progreso científico es el mayor motor del progreso general; imaginar que podemos tener más es algo muy emocionante.
En un gran sentido, ChatGPT ya es más poderoso que cualquier ser humano que haya existido. Cientos de millones de personas confían en ella cada día y para tareas cada vez más importantes; Una pequeña nueva capacidad puede crear un impacto enormemente positivo; Un pequeño desajuste multiplicado por cientos de millones de personas puede causar un gran impacto negativo.
En un sentido grandioso, ChatGPT ya es más poderoso que cualquier ser humano que haya vivido. Cada día, cientos de millones de personas dependen de él para manejar tareas cada vez más importantes; una pequeña nueva función puede generar un enorme impacto positivo; y un pequeño desvío, cuando es amplificado por cientos de millones de personas, también puede causar un enorme impacto negativo.
En 2025 hemos visto la llegada de agentes que pueden hacer un verdadero trabajo cognitivo; Escribir código informático nunca será lo mismo. Es probable que en 2026 lleguen los sistemas que puedan descubrir nuevos conocimientos. 2027 puede ver la llegada de robots que pueden realizar tareas en el mundo real.
El año 2025 será testigo del nacimiento de agentes capaces de realizar trabajos cognitivos reales; la forma de escribir código informático cambiará para siempre. En 2026, podrían aparecer sistemas capaces de descubrir nuevos conocimientos. En 2027, podrían surgir robots capaces de ejecutar tareas en el mundo real.
Mucha más gente será capaz de crear software y arte. Pero el mundo quiere mucho más de ambos, y es probable que los expertos sigan siendo mucho mejores que los novatos, siempre y cuando adopten las nuevas herramientas. En términos generales, la capacidad de una persona de hacer mucho más en 2030 de lo que podría hacer en 2020 será un cambio sorprendente, y muchas personas descubrirán cómo beneficiarse.
Más personas podrán crear software y arte. Pero la demanda mundial de ambos también aumentará considerablemente, siempre que los expertos adopten nuevas herramientas, es posible que aún superen a los principiantes. En general, la cantidad de trabajo que una persona podrá realizar en 2030 superará con creces la de 2020, será un cambio significativo y muchas personas encontrarán formas de beneficiarse de ello.
En los aspectos más importantes, la década de 2030 puede no ser muy diferente. La gente seguirá amando a sus familias, expresando su creatividad, jugando y nadando en lagos.
En los aspectos más importantes, es posible que la década de 2030 no sea radicalmente diferente. La gente seguirá amando a sus familias, expresando creatividad, jugando y nadando en los lagos.
Pero en formas todavía muy importantes, es probable que la década de 2030 sea muy diferente de cualquier momento anterior. No sabemos hasta dónde podemos llegar más allá de la inteligencia humana, pero estamos a punto de descubrirlo.
Pero en algunos aspectos que siguen siendo muy importantes, la década de 2030 podría ser radicalmente diferente de cualquier época anterior. No sabemos hasta dónde podemos superar la inteligencia a nivel humano, pero estamos a punto de encontrar la respuesta.
En la década de 2030, la inteligencia y la energía, las ideas y la capacidad de hacer que las ideas sucedan, se volverán tremendamente abundantes. Estos dos han sido los limitantes fundamentales del progreso humano durante mucho tiempo; Con abundante inteligencia y energía (and buena governance), teóricamente podemos tener cualquier otra cosa.
En la década de 2030, la inteligencia y la energía —es decir, las ideas y la capacidad de realizarlas— se volverán extremadamente abundantes. Ambos han sido durante mucho tiempo factores limitantes fundamentales para el progreso humano; con abundante inteligencia y energía (así como una buena gobernanza), teóricamente podríamos tenerlo todo.
Ya vivimos con una inteligencia digital increíble, y después de un shock inicial, la mayoría de nosotros estamos bastante acostumbrados a ella. Muy rápidamente pasamos de asombrarnos de que la IA pueda generar un párrafo bellamente escrito a preguntarnos cuándo podrá generar una novela bellamente escrita; o de asombrarse de que pueda hacer diagnósticos médicos que salvan vidas a preguntarse cuándo podrá desarrollar las curas; O de asombrarse de que pueda crear un pequeño programa informático a preguntarse cuándo podrá crear una empresa completamente nueva. Así es como funciona la singularidad: las maravillas se convierten en rutina, y luego las apuestas en la mesa.
我们已经生活在令人难以置信的数字智能中,在最初的振惊之后,我们大多数人已经习以为常。 我们很快就从惊叹于AI能生成一段文笔优美的段落,转而思考它何时能写出一部文笔优美小说; 从惊叹于它能造猻疗诊断,转而思考它何时能研发出治方法; 从惊叹于它能创建一个小程序,转而思考它何时能创建一家全新的公司。 奇点就是这样发生的:奇迹变为常态,然后成为基本要求。
Ya hemos oído decir a los científicos que son dos o tres veces más productivos de lo que eran antes de la IA. La IA avanzada es interesante por muchas razones, pero quizás nada sea tan significativo como el hecho de que podamos usarla para hacer investigaciones de IA más rápidas. Es posible que podamos descubrir nuevos sustratos informáticos, mejores algoritmos y quién sabe qué más. Si podemos hacer una década de investigación en un año, o en un mes, entonces la tasa de progreso será obviamente muy diferente.
Hemos escuchado a los científicos decir que su productividad es de dos a tres veces mayor que antes de usar inteligencia artificial. Hay muchas razones por las que la inteligencia artificial avanzada es fascinante, pero quizás ninguna es más importante que la posibilidad de usarla para acelerar la investigación en inteligencia artificial. Podríamos descubrir nuevas bases de cálculo, mejores algoritmos y Dios sabe qué más. Si podemos completar una investigación que normalmente tomaría diez años en un mes o un año, entonces la velocidad del progreso será evidentemente completamente diferente.
A partir de aquí, las herramientas que ya hemos construido nos ayudarán a encontrar más conocimientos científicos y nos ayudarán a crear mejores sistemas de IA. Por supuesto, esto no es lo mismo que un sistema de IA actualizando completamente su propio código de forma autónoma, pero, sin embargo, esta es una versión larval de la auto-mejora recursiva.
A partir de ahora, las herramientas que hemos construido nos ayudarán a descubrir conocimientos científicos más profundos y a asistirnos en la creación de sistemas de inteligencia artificial superiores. Por supuesto, esto no es lo mismo que un sistema de inteligencia artificial que actualiza su propio código de manera completamente autónoma, pero ya es un prototipo de mejora recursiva.
Hay otros bucles de retroalimentación en juego. La creación de valor económico ha iniciado una rueda de inercia de construcción de infraestructura acumulativa para operar estos sistemas de IA cada vez más poderosos. Y los robots que pueden construir otros robots ( y, en cierto sentido, los centros de datos que pueden construir otros centros de datos ) no están tan lejos.
还有其他的自我强化循环正在发挥作用。 经济价值的创造已经启动了一个飞轮效应,不断推动基础设施建设,以运行这些日益强大的人工智慧智能系统。 而能够制造其他机器人机器人(在某种意义上,能够建其他数据中心的数据中心)也并非遥不可和。
Si tenemos que fabricar el primer millón de robots humanoides de la manera tradicional, pero luego pueden operar toda la cadena de suministro—excavando y refinando minerales, conduciendo camiones, gestionando fábricas, etc.—para construir más robots, que pueden construir más instalaciones de fabricación de chips, centros de datos, etc., entonces la tasa de progreso será obviamente bastante diferente.
如果我们必须用传统方式制造出最初的一百万个类人机器人,但之后它们能够运营整个供应链——挖掘和精炼矿物、驾驶卡车、运营工厂等等——来制造更多的机器人,而这些机器人又能建更多的chip片制造厂、数据中心等,那么进步的速度显然将截然不同。
A medida que se automatiza la producción de los centros de datos, el costo de la inteligencia debería converger hasta acercarse al costo de la electricidad. (People a menudo sienten curiosidad por saber cuánta energía utiliza una consulta de ChatGPT; La consulta promedio usa alrededor de 0,34 vatios-hora, aproximadamente lo que usaría un horno en poco más de un segundo, o lo que usaría una bombilla de alta eficiencia en un par de minutos. También utiliza alrededor de 0.000085 galones de agua; aproximadamente una quinceava parte de una cucharadita.)
Con la automatización de la producción en los centros de datos, el costo de la inteligencia debería acercarse al costo de la electricidad. (Las personas a menudo se preguntan cuánta energía consume una consulta de ChatGPT; en promedio, una consulta consume aproximadamente 0.34 vatios-hora, lo que equivale al consumo de un horno durante un segundo y poco, o al consumo de una bombilla eficiente durante unos minutos. También consume alrededor de 0.000085 galones de agua; aproximadamente equivalente a una quinceava parte de una cucharadita.)
技术进步的速度将持续加快,而人类适应几乎任何事物的能力也将一如既往。 过程中会有非常艰难的部分,比如整类工作的消失,但另一方面,世界将变得如此富且迅速,以於于我们能够认真考虑以前从未dare to think of the new policy concept。 我们可能不会一蹴而就地采纳新的社会契约,但几十后回望,这些渐进的变化将汇聚成巨大的变革。
Si la historia es una guía, descubriremos nuevas cosas que hacer y nuevas cosas que desear, y asimilaremos nuevas herramientas rápidamente ( el cambio de trabajo después de la revolución industrial es un buen ejemplo reciente ). Las expectativas aumentarán, pero las capacidades también aumentarán rápidamente, y todos obtendremos cosas mejores. Construiremos cosas cada vez más maravillosas para los demás. Las personas tienen una ventaja importante y curiosa a largo plazo sobre la IA: estamos cableados para preocuparnos por otras personas y lo que piensan y hacen, y no nos preocupamos mucho por las máquinas.
如果历史可为借鉴,我们将找到新事去,产生新需求,并迅速absorbing 新工具(工业revolution后的职业变迁是一个很好的一般的例子)。 期望会提高,但能力也会同样快速了提高,我们都会得到更好的东西。 我们将为彼此创造出越来越beautiful things。 与人工智能相比,人类拥有一种长期、重要且奇特的优势:我们的天性决定了我们在caring 人以及人的所思所为,而对机器则不那么在乎。
hace mil años 的自给自足的农民看到我们许多人现在的工作,会说我们做的是"假工作",认为我们只是在玩游戏自娱自乐,因为我们有充足的食和难以想象的luxu。 我希望一千后我们看待未来的工作时,也会觉得它们是"非常假工作",但我毫不怀疑,从事这些工作的人会覺得它们无比重要和满足。
El ritmo de nuevas maravillas que se lograrán será inmenso. Es difícil incluso imaginar hoy lo que habremos descubierto para 2035; Tal vez pasemos de resolver física de altas energías un año a comenzar la colonización espacial al año siguiente; o de un gran avance en la ciencia de los materiales en un año a verdaderas interfaces cerebro-ordenador de gran ancho de banda al año siguiente. Muchas personas elegirán vivir sus vidas de la misma manera, pero al menos algunas personas probablemente decidirán "conectarse".
La velocidad a la que se lograrán nuevos milagros será enorme. Hoy en día, ni siquiera podemos imaginar qué descubrimientos habrá en 2035; tal vez resolveremos problemas de física de alta energía en un año y luego comencemos la colonización espacial al año siguiente; o lograremos avances significativos en ciencia de materiales en un año y luego implementaremos interfaces cerebro-máquina de alta capacidad realmente en el siguiente. Muchas personas elegirán vivir de manera aproximadamente similar, pero al menos algunas podrían decidir "conectarse".
展望未来,这一切听起来似乎难以理解。 但亲身经历时,可能会覺得shock但尚可应对。 从相对论的视角看,奇点是点滴发生的,fusion is 缓慢进行的。 我们正攀登在指数级技术进步的漫长arc线上; 前看总是显得陡,后看则显得平,but 它是一条平滑的曲线。 (回想一下2020年,如果有人说2025年将出现接近通用人工智慧智能的东西,听起来会是什么感觉,再对比一下过去5年实际的经历。 )
Hay serios desafíos que enfrentar junto con las enormes ventajas. Necesitamos resolver los problemas de seguridad, tanto técnica como socialmente, pero luego es críticamente importante distribuir ampliamente el acceso a la superinteligencia dada las implicaciones económicas. El mejor camino a seguir podría ser algo como:
A medida que hay enormes beneficios, también hay serios desafíos que enfrentar. Realmente necesitamos abordar los problemas de seguridad desde un nivel técnico y social, pero dado su impacto económico, también es crucial la amplia difusión del acceso a la superinteligencia. El mejor camino a seguir podría ser el siguiente:
Resolver el problema de alineación, lo que significa que podemos garantizar de manera sólida que logramos que los sistemas de IA aprendan y actúen hacia lo que realmente queremos colectivamente a largo plazo (social los feeds de medios son un ejemplo de IA desalineada; Los algoritmos que los impulsan son increíbles para hacer que sigas desplazándote y comprendas claramente tus preferencias a corto plazo, pero lo hacen explotando algo en tu cerebro que anula su preference) a largo plazo.
解决对齐问题,意味着我们能够有力地保证人工智能系统学习并按照我们集体的长期真实意愿行事(社交媒体的信息流是未对齐人工智能的一个例子; 驱动它们的算法在让你不停滚动方面表现出色,并能Clearly Understand Your 短期preferences,但它们是通过利用你大脑中某种压倒你长期偏好的东西来做到这一点的)。
A continuación, concéntrese en hacer que la superinteligencia sea barata, esté ampliamente disponible y no se concentre demasiado en ninguna persona, empresa o país. La sociedad es resiliente, creativa y se adapta rápidamente. Si podemos aprovechar la voluntad colectiva y la sabiduría de las personas, entonces, aunque cometeremos muchos errores y algunas cosas saldrán realmente mal, aprenderemos y nos adaptaremos rápidamente y seremos capaces de usar esto tecnología para obtener la máxima ventaja y la mínima desventaja. Dar a los usuarios mucha libertad, dentro de unos límites amplios que la sociedad tiene que decidir, parece muy importante. Cuanto antes el mundo pueda iniciar una conversación sobre cuáles son estos amplios límites y cómo definimos la alineación colectiva, mejor.
然后,专注于让超级智能变得廉价、普及,并且不过度集中于任何个人、公司或国家。 社会具有韧性、创造力并且适应快速。 如果我们能够驾驭人类的集体意愿和智慧,那么尽管我们会犯很多错误,有些事情会出错,但我们将迅速学习和适应,并能够利用这项技术来获得最大的好处和最小的坏处。 在社会必须决定的广泛boundary 内,给予用户大量的自由似乎非常重要。 世界越早开始就这些广泛boundary 是什么以及我们如何定义集体对齐展开对话,就越好。
Estamos (toda la industria, no solo OpenAI) construyendo un cerebro para el mundo. Será altamente personalizado y fácil de usar para todos; estaremos limitados por buenas ideas. Durante mucho tiempo, los técnicos del mundo de las startups se han burlado de aquellos "hombres de ideas"; aquellos que tienen una idea pero buscan un equipo para llevarla a cabo. Ahora, en mi opinión, están a punto de tener su primavera.
OpenAI es muchas cosas ahora, pero antes que nada, somos una empresa de investigación sobre superinteligencia. Tenemos mucho trabajo por delante, pero la mayor parte del camino que tenemos por delante ahora está iluminado, y las áreas oscuras están retrocediendo rápidamente. Nos sentimos extraordinariamente agradecidos de poder hacer lo que hacemos.
Hoy en día, OpenAI tiene múltiples funciones, pero primero y ante todo, somos una empresa de investigación en inteligencia superinteligente. Aún nos queda mucho trabajo por hacer, pero gran parte del camino por delante ya está iluminado, y las áreas oscuras están retrocediendo rápidamente. Nos sentimos inmensamente agradecidos de poder dedicarnos a esta causa.
La inteligencia, demasiado barata para medirla, está al alcance de la mano. Esto puede sonar loco decirlo, pero si te dijimos en 2020 que íbamos a estar donde estamos hoy, probablemente sonó más loco que nuestras predicciones actuales sobre 2030.
La inteligencia tan barata que no se puede medir está al alcance de la mano. Puede sonar loco decir esto, pero si te hubiéramos dicho en 2020 que alcanzaríamos el nivel de hoy, eso podría sonar más loco que nuestras predicciones actuales para 2030.
Que podamos escalar de manera suave, exponencial y sin contratiempos a través de la superinteligencia.
Deseamos avanzar hacia la era de la superinteligencia de manera estable, exponencial y sin altibajos.
![]()