Khiến tôi liên tưởng đến bài thơ "Đừng đi nhẹ nhàng vào đêm tốt lành" của nhà thơ Wales Dylan Thomas.
“Điểm kỳ diệu nhẹ nhàng”, là bàn tay định mệnh đang lặng lẽ hạ xuống, dịu dàng nhưng không thể cưỡng lại, giống như một người già sắp chết có thể nhẹ nhàng bước vào “đêm tốt lành” ấy, mời gọi nhân loại bước vào vực thẳm chưa biết.
Con người có lẽ sẽ không gào thét chống lại thủy triều của số phận, mà như những người già trong ánh chiều tà với một chút tò mò và sự phục tùng, nhẹ nhàng bị điểm kỳ lạ nuốt chửng.
Đọc Altman trước, chúng ta nên lẩm nhẩm câu này trong bài thơ:
Đừng đi nhẹ nhàng vào đêm tối tốt đẹp đó; cơn thịnh nộ, cơn thịnh nộ chống lại ánh sáng đang tắt
Dưới đây là toàn bộ nội dung blog, đối chiếu Trung-Anh:
Điểm đơn lẻ nhẹ nhàng Sam Altman Sam Ultraman Chúng ta đã vượt qua chân trời sự kiện; quá trình khởi động đã bắt đầu. Nhân loại đang gần đạt được trí tuệ siêu việt số, và ít nhất cho đến nay, nó ít kỳ quái hơn so với những gì nó nên có.
Chúng ta đã vượt qua chân trời sự kiện; quá trình khởi động đã bắt đầu. Nhân loại sắp xây dựng trí tuệ siêu việt số, và ít nhất cho đến thời điểm này, hình thức của nó không kỳ quái như chúng ta tưởng tượng.
Robot vẫn chưa đi bộ trên đường phố, và hầu hết chúng ta cũng không nói chuyện với AI suốt cả ngày. Con người vẫn chết vì bệnh tật, chúng ta vẫn không thể dễ dàng đi vào không gian, và còn rất nhiều điều về vũ trụ mà chúng ta không hiểu.
机器人尚未遍布街头,我们大多数人也还未整日与人工智能对话。 人们依旧会chết trong bệnh tật,我们仍然无法轻易地进入太空,There are many 我们不理解的奥機密。
Tuy nhiên, gần đây chúng tôi đã xây dựng các hệ thống thông minh hơn con người theo nhiều cách và có thể khuếch đại đáng kể sản lượng của những người sử dụng chúng. Phần ít có khả năng nhất của công việc đã ở phía sau chúng ta; những hiểu biết khoa học đã đưa chúng ta đến các hệ thống như GPT-4 và o3 là khó giành được, nhưng sẽ đưa chúng ta đi rất xa.
AI sẽ đóng góp cho thế giới theo nhiều cách, nhưng lợi ích về chất lượng cuộc sống từ AI thúc đẩy tiến bộ khoa học nhanh hơn và tăng năng suất sẽ rất lớn; Tương lai có thể tốt hơn rất nhiều so với hiện tại. Tiến bộ khoa học là động lực lớn nhất của tiến bộ tổng thể; Thật thú vị khi nghĩ về việc chúng ta có thể có nhiều hơn nữa.
人工智能将从多方面为世界造贡献,但由人工智能推动的更快科学进步和更高生产力所带来的生活质量提升将是巨大的; 未来可能远比现在更加美好。 科学进步是整体进步的最大驱动力; Nghĩ rằng tôi có thể có nhiều hơn là một điều rất thú vị.
Theo một nghĩa lớn nào đó, ChatGPT đã mạnh hơn bất kỳ con người nào từng sống. Hàng trăm triệu người dựa vào nó mỗi ngày và cho các nhiệm vụ ngày càng quan trọng; một khả năng mới nhỏ có thể tạo ra tác động cực kỳ tích cực; Một sự sai lệch nhỏ nhân lên hàng trăm triệu người có thể gây ra rất nhiều tác động tiêu cực.
从某种宏大的意义上说,ChatGPT已经比任何活过的人类都更强大。 每天有数亿人依赖它处理日益重要的任务; 一个微小的新功能可以产生巨大的积极影响; Và một sự không chính xác nhỏ, sau khi được khuếch đại bởi những người lăng nhăng, cũng có thể gây ra một cái bóng rất lớn.
Năm 2025 đã chứng kiến sự xuất hiện của các tác nhân có thể thực hiện công việc nhận thức thực sự; viết mã máy tính sẽ không bao giờ giống nhau. Năm 2026 có thể sẽ chứng kiến sự xuất hiện của các hệ thống có thể tìm ra những hiểu biết mới lạ. Năm 2027 có thể chứng kiến sự xuất hiện của robot có thể thực hiện các nhiệm vụ trong thế giới thực.
Nhiều người sẽ có thể tạo ra phần mềm và nghệ thuật. Nhưng thế giới muốn nhiều hơn cả hai, và các chuyên gia có lẽ vẫn sẽ tốt hơn nhiều so với người mới, miễn là họ nắm bắt các công cụ mới. Nói chung, khả năng một người hoàn thành nhiều việc hơn vào năm 2030 so với năm 2020 sẽ là một sự thay đổi nổi bật và nhiều người sẽ tìm ra cách hưởng lợi.
Theo những cách quan trọng nhất, những năm 2030 có thể không khác biệt nhiều. Mọi người sẽ vẫn yêu gia đình, thể hiện sự sáng tạo, chơi trò chơi và bơi lội trong hồ.
Về những khía cạnh quan trọng nhất, thập kỷ 2030 có thể sẽ không có sự khác biệt lớn. Mọi người vẫn sẽ yêu thương gia đình, thể hiện sự sáng tạo, chơi game, và bơi lội trong hồ.
Nhưng trong những cách vẫn rất quan trọng, thập niên 2030 có khả năng sẽ khác biệt hoàn toàn so với bất kỳ thời điểm nào trước đó. Chúng ta không biết mình có thể vượt xa trí thông minh ở mức con người đến đâu, nhưng chúng ta sắp tìm ra.
Vào những năm 2030, trí tuệ và năng lượng—những ý tưởng, và khả năng biến ý tưởng thành hiện thực—sẽ trở nên phong phú một cách điên cuồng. Hai yếu tố này từ lâu đã là những giới hạn cơ bản của tiến bộ nhân loại; với trí tuệ và năng lượng phong phú ( và quản trị tốt ), về lý thuyết chúng ta có thể có bất cứ thứ gì khác.
Vào những năm 2030, trí tuệ và năng lượng - tức là ý tưởng cũng như khả năng hiện thực hóa ý tưởng - sẽ trở nên vô cùng dồi dào. Cả hai thứ này từ lâu đã là yếu tố giới hạn cơ bản cho sự tiến bộ của nhân loại; với sự dồi dào của trí tuệ và năng lượng (cùng với sự quản lý tốt), lý thuyết chúng ta có thể có mọi thứ.
Chúng ta đã sống với trí thông minh kỹ thuật số đáng kinh ngạc, và sau một số cú sốc ban đầu, hầu hết chúng ta đã khá quen với nó. Rất nhanh chóng, chúng ta đi từ sự ngạc nhiên rằng AI có thể tạo ra một đoạn văn được viết đẹp đến tự hỏi khi nào nó có thể tạo ra một cuốn tiểu thuyết được viết đẹp; hoặc từ việc ngạc nhiên rằng nó có thể đưa ra các chẩn đoán y tế cứu sống đến tự hỏi khi nào nó có thể phát triển các phương pháp chữa trị; Hoặc từ ngạc nhiên nó có thể tạo ra một chương trình máy tính nhỏ đến tự hỏi khi nào nó có thể tạo ra một công ty hoàn toàn mới. Đây là cách điểm kỳ dị diễn ra: những điều kỳ diệu trở thành thói quen, và sau đó là tiền đặt cược.
Chúng tôi đã nghe từ các nhà khoa học rằng họ sản xuất hiệu quả gấp hai hoặc ba lần so với trước đây nhờ AI. AI tiên tiến thú vị vì nhiều lý do, nhưng có lẽ không có gì quan trọng bằng việc chúng ta có thể sử dụng nó để thực hiện nghiên cứu AI nhanh hơn. Chúng ta có thể khám phá các nền tảng tính toán mới, các thuật toán tốt hơn, và biết đâu còn những điều khác. Nếu chúng ta có thể thực hiện nghiên cứu của một thập kỷ trong một năm, hoặc một tháng, thì rõ ràng tốc độ tiến bộ sẽ khác biệt rất nhiều.
Chúng tôi đã nghe các nhà khoa học nói rằng năng suất của họ gấp hai đến ba lần trước khi sử dụng trí tuệ nhân tạo. Có nhiều lý do khiến trí tuệ nhân tạo tiên tiến trở nên hấp dẫn, nhưng có lẽ không có lý do nào quan trọng hơn việc chúng ta có thể sử dụng nó để tăng tốc nghiên cứu trí tuệ nhân tạo. Chúng ta có thể phát hiện ra nền tảng tính toán mới, thuật toán tốt hơn, và ai biết còn gì khác nữa. Nếu có thể hoàn thành nghiên cứu mất mười năm trong một tháng hoặc một năm, thì tốc độ tiến bộ rõ ràng sẽ khác biệt hoàn toàn.
Từ đây, các công cụ chúng tôi đã xây dựng sẽ giúp chúng tôi tìm thấy những hiểu biết khoa học hơn và hỗ trợ chúng tôi tạo ra các hệ thống AI tốt hơn. Tất nhiên đây không giống như một hệ thống AI hoàn toàn tự động cập nhật mã của chính nó, nhưng tuy nhiên đây là một phiên bản ấu trùng của việc tự cải thiện đệ quy.
Có những vòng lặp tự củng cố khác đang diễn ra. Việc tạo ra giá trị kinh tế đã bắt đầu một bánh đà xây dựng cơ sở hạ tầng tổng hợp để chạy các hệ thống AI ngày càng mạnh mẽ này. Và robot có thể chế tạo các robot khác (and theo một nghĩa nào đó, các trung tâm dữ liệu có thể xây dựng các datacenters) khác không còn xa lắm.
Nếu chúng ta phải tạo ra hàng triệu robot hình người đầu tiên theo cách cũ, nhưng sau đó chúng có thể vận hành toàn bộ chuỗi cung ứng - đào và tinh chế khoáng sản, lái xe tải, vận hành nhà máy, v.v Để xây dựng nhiều robot hơn, có thể xây dựng nhiều cơ sở chế tạo chip, trung tâm dữ liệu, v.v., thì tốc độ tiến độ rõ ràng sẽ khá khác nhau.
Nếu chúng ta phải sản xuất một triệu robot hình người đầu tiên bằng cách truyền thống, nhưng sau đó chúng có thể vận hành toàn bộ chuỗi cung ứng - khai thác và tinh chế khoáng sản, lái xe tải, vận hành nhà máy, v.v. - để sản xuất nhiều robot hơn, và những robot này có thể xây dựng thêm nhiều nhà máy sản xuất chip, trung tâm dữ liệu, v.v., thì tốc độ tiến bộ rõ ràng sẽ hoàn toàn khác biệt.
Khi sản xuất trung tâm dữ liệu được tự động hóa, chi phí thông minh cuối cùng sẽ hội tụ gần với chi phí điện. (People thường tò mò về việc truy vấn ChatGPT sử dụng bao nhiêu năng lượng; Truy vấn trung bình sử dụng khoảng 0,34 watt-giờ, về những gì một lò nướng sẽ sử dụng trong hơn một giây hoặc một bóng đèn hiệu suất cao sẽ sử dụng trong vài phút. Nó cũng sử dụng khoảng 0,000085 gallon nước; khoảng một phần mười lăm thìa cà phê.)
Với sự tự động hóa trong sản xuất trung tâm dữ liệu, chi phí thông minh cuối cùng sẽ gần bằng chi phí điện. (Mọi người thường tò mò một lần truy vấn ChatGPT tiêu tốn bao nhiêu năng lượng; trung bình một truy vấn tiêu tốn khoảng 0.34 watt-giờ, tương đương với mức tiêu thụ của một lò nướng trong một giây hoặc mức tiêu thụ của một bóng đèn hiệu suất cao trong vài phút. Nó cũng tiêu tốn khoảng 0.000085 gallon nước; tương đương với một phần mười lăm của một thìa trà.)
技术进步的速度将持续加快,而人类适应几乎任何事物的能力也将一如既往。 过程中会有非常艰难的部分,比如整类工作的消失,但另一方面,世界将变得如此富且迅速,以於于我们能够认真考虑以前从未dám nghĩ về khái niệm chính sách mới。 我们可能不会一蹴而就地采纳新的社会契约,但几十后回望,这些渐进的变化将汇聚成巨大的变革。
Nếu lịch sử là bất kỳ hướng dẫn nào, chúng ta sẽ tìm ra những điều mới để làm và những điều mới để muốn, đồng thời đồng hóa các công cụ mới nhanh chóng (job thay đổi sau cuộc cách mạng công nghiệp là một gần đây tốt đẹp example). Kỳ vọng sẽ tăng lên, nhưng khả năng sẽ tăng nhanh như nhau và tất cả chúng ta sẽ có được những thứ tốt hơn. Chúng ta sẽ xây dựng những điều tuyệt vời hơn bao giờ hết cho nhau. Con người có một lợi thế quan trọng và tò mò lâu dài so với AI: chúng ta có khả năng quan tâm đến người khác và những gì họ nghĩ và làm, và chúng ta không quan tâm nhiều đến máy móc.
thousand years ago 的自给自足的农民看到我们许多人现在的工作,会说我们做的是"假工作",认为我们只是在玩游戏自娱自乐,因为我们有充足的食和难以想象的luxu。 我希望一千后我们看待未来的工作时,也会觉得它们是"非常假工作",但我毫不怀疑,从事这些工作的人会覺得它们无比重要和满足。
Tốc độ của những kỳ quan mới đạt được sẽ rất lớn. Thật khó để tưởng tượng ngày nay chúng ta sẽ khám phá ra những gì vào năm 2035; có thể chúng ta sẽ đi từ giải vật lý năng lượng cao một năm đến bắt đầu thuộc địa hóa không gian vào năm sau; hoặc từ một bước đột phá lớn về khoa học vật liệu một năm đến giao diện não-máy tính băng thông cao thực sự vào năm sau. Nhiều người sẽ chọn sống cuộc sống của họ theo cách tương tự, nhưng ít nhất một số người có thể sẽ quyết định "cắm vào".
Nhìn về tương lai, tất cả những điều này nghe có vẻ khó hiểu. Nhưng khi trải nghiệm thực tế, có thể sẽ cảm thấy choáng ngợp nhưng vẫn có thể đối phó. Từ góc độ của thuyết tương đối, điểm kỳ dị xảy ra từng chút một, sự hòa nhập diễn ra từ từ. Chúng ta đang leo lên một đường cong dài của sự tiến bộ công nghệ theo cấp số nhân; nhìn về phía trước luôn có vẻ dốc, trong khi nhìn lại thì có vẻ phẳng, nhưng đó là một đường cong mượt mà. (Hãy nhớ lại năm 2020, nếu ai đó nói rằng vào năm 2025 sẽ có một thứ gần giống trí tuệ nhân tạo tổng quát, cảm giác sẽ như thế nào, so sánh với những gì đã trải qua trong 5 năm qua.)
Có những thách thức nghiêm trọng cần phải đối mặt cùng với những lợi ích to lớn. Chúng ta cần phải giải quyết các vấn đề an toàn, cả về mặt kỹ thuật và xã hội, nhưng sau đó việc phân phối quyền truy cập vào siêu trí tuệ một cách rộng rãi là cực kỳ quan trọng do những hệ lụy kinh tế. Con đường tốt nhất phía trước có thể là như sau:
Giải quyết vấn đề liên kết, có nghĩa là chúng ta có thể đảm bảo mạnh mẽ rằng chúng ta có được các hệ thống AI học hỏi và hành động hướng tới những gì chúng ta thực sự muốn trong (social dài hạn nguồn cấp dữ liệu phương tiện là một ví dụ về AI sai lệch; Các thuật toán cung cấp năng lượng cho những điều đó thật đáng kinh ngạc trong việc giúp bạn tiếp tục cuộn và hiểu rõ sở thích ngắn hạn của mình, nhưng chúng làm như vậy bằng cách khai thác thứ gì đó trong não của bạn ghi đè preference) dài hạn của bạn.
解决对齐问题,意味着我们能够有力地保证人工智能系统学习并按照我们集体的长期真实意愿行事(社交媒体的信息流是未对齐人工智能的一个例子; 驱动它们的算法在让你不停滚动方面表现出色,并能hiểu rõ ràng về 短期sở thích của bạn,但它们是通过利用你大脑中某种压倒你长期偏好的东西来做到这一点的)。
Sau đó, tập trung vào việc làm cho siêu trí tuệ trở nên rẻ, phổ biến rộng rãi và không quá tập trung vào bất kỳ cá nhân, công ty hoặc quốc gia nào. Xã hội kiên cường, sáng tạo và thích ứng nhanh chóng. Nếu chúng ta có thể khai thác ý chí tập thể và trí tuệ của mọi người, thì mặc dù chúng ta sẽ mắc nhiều sai lầm và một số điều sẽ thực sự sai lầm, chúng ta sẽ học hỏi và thích nghi nhanh chóng và có thể sử dụng điều này công nghệ để đạt được lợi thế tối đa và nhược điểm tối thiểu. Cho người dùng nhiều tự do, trong giới hạn rộng lớn mà xã hội phải quyết định, dường như rất quan trọng. Thế giới có thể bắt đầu một cuộc trò chuyện về những giới hạn rộng này là gì và cách chúng ta xác định sự liên kết tập thể thì càng tốt.
我们(整个行业,不仅仅是OpenAI)正在为世界构建一个大脑。 它将是高度个性化的,并且对每个人来说都易于使用; 我们将受限于好的想法。 Trong những ngày đầu của triều đại Qiqi, những người kỹ thuật của thế giới doanh nghiệp ban đầu luôn chế giễu những "ông Jizi" đó; 那些有想法却在寻找团队来实现它的人。 Bây giờ trong mắt tôi 来,he 们即将Chào đón mùa xuân của chính bạn。
OpenAI hiện nay là rất nhiều thứ, nhưng trước hết, chúng tôi là một công ty nghiên cứu siêu trí tuệ. Chúng tôi có rất nhiều công việc phía trước, nhưng hầu hết con đường phía trước đã được thắp sáng, và những khu vực tối tăm đang nhanh chóng lùi xa. Chúng tôi cảm thấy vô cùng biết ơn khi được làm những gì chúng tôi làm.
Hiện nay, OpenAI đảm nhiệm nhiều vai trò, nhưng trước hết, chúng tôi là một công ty nghiên cứu siêu thông minh. Chúng tôi còn rất nhiều việc phải làm, nhưng con đường phía trước đã phần lớn được thắp sáng, những vùng tối đang nhanh chóng rút lui. Chúng tôi cảm thấy vô cùng biết ơn vì có thể tham gia vào sự nghiệp này.
Trí thông minh quá rẻ để đo lường là trong tầm tay. Điều này nghe có vẻ điên rồ khi nói, nhưng nếu chúng tôi nói với bạn vào năm 2020 rằng chúng tôi sẽ có được vị trí ngày hôm nay, thì có lẽ nó nghe có vẻ điên rồ hơn so với dự đoán hiện tại của chúng tôi về năm 2030.
Nội dung chỉ mang tính chất tham khảo, không phải là lời chào mời hay đề nghị. Không cung cấp tư vấn về đầu tư, thuế hoặc pháp lý. Xem Tuyên bố miễn trừ trách nhiệm để biết thêm thông tin về rủi ro.
Khiến tôi liên tưởng đến bài thơ "Đừng đi nhẹ nhàng vào đêm tốt lành" của nhà thơ Wales Dylan Thomas.
“Điểm kỳ diệu nhẹ nhàng”, là bàn tay định mệnh đang lặng lẽ hạ xuống, dịu dàng nhưng không thể cưỡng lại, giống như một người già sắp chết có thể nhẹ nhàng bước vào “đêm tốt lành” ấy, mời gọi nhân loại bước vào vực thẳm chưa biết.
Con người có lẽ sẽ không gào thét chống lại thủy triều của số phận, mà như những người già trong ánh chiều tà với một chút tò mò và sự phục tùng, nhẹ nhàng bị điểm kỳ lạ nuốt chửng.
Đọc Altman trước, chúng ta nên lẩm nhẩm câu này trong bài thơ:
Đừng đi nhẹ nhàng vào đêm tối tốt đẹp đó;
cơn thịnh nộ, cơn thịnh nộ chống lại ánh sáng đang tắt
Dưới đây là toàn bộ nội dung blog, đối chiếu Trung-Anh:
Điểm đơn lẻ nhẹ nhàng
Sam Altman
Sam Ultraman
Chúng ta đã vượt qua chân trời sự kiện; quá trình khởi động đã bắt đầu. Nhân loại đang gần đạt được trí tuệ siêu việt số, và ít nhất cho đến nay, nó ít kỳ quái hơn so với những gì nó nên có.
Chúng ta đã vượt qua chân trời sự kiện; quá trình khởi động đã bắt đầu. Nhân loại sắp xây dựng trí tuệ siêu việt số, và ít nhất cho đến thời điểm này, hình thức của nó không kỳ quái như chúng ta tưởng tượng.
Robot vẫn chưa đi bộ trên đường phố, và hầu hết chúng ta cũng không nói chuyện với AI suốt cả ngày. Con người vẫn chết vì bệnh tật, chúng ta vẫn không thể dễ dàng đi vào không gian, và còn rất nhiều điều về vũ trụ mà chúng ta không hiểu.
机器人尚未遍布街头,我们大多数人也还未整日与人工智能对话。 人们依旧会chết trong bệnh tật,我们仍然无法轻易地进入太空,There are many 我们不理解的奥機密。
Tuy nhiên, gần đây chúng tôi đã xây dựng các hệ thống thông minh hơn con người theo nhiều cách và có thể khuếch đại đáng kể sản lượng của những người sử dụng chúng. Phần ít có khả năng nhất của công việc đã ở phía sau chúng ta; những hiểu biết khoa học đã đưa chúng ta đến các hệ thống như GPT-4 và o3 là khó giành được, nhưng sẽ đưa chúng ta đi rất xa.
然而,我们最近已经构建出在许多方面比人类更智能的系统,它们能够显有放大使用者的产出。 这项工作中看似最不可能实现的部分已经完成; 那些催生了像GPT-4和o3这样系统的科学洞见来之不易,但它们将引领我们走得非常远。
AI sẽ đóng góp cho thế giới theo nhiều cách, nhưng lợi ích về chất lượng cuộc sống từ AI thúc đẩy tiến bộ khoa học nhanh hơn và tăng năng suất sẽ rất lớn; Tương lai có thể tốt hơn rất nhiều so với hiện tại. Tiến bộ khoa học là động lực lớn nhất của tiến bộ tổng thể; Thật thú vị khi nghĩ về việc chúng ta có thể có nhiều hơn nữa.
人工智能将从多方面为世界造贡献,但由人工智能推动的更快科学进步和更高生产力所带来的生活质量提升将是巨大的; 未来可能远比现在更加美好。 科学进步是整体进步的最大驱动力; Nghĩ rằng tôi có thể có nhiều hơn là một điều rất thú vị.
Theo một nghĩa lớn nào đó, ChatGPT đã mạnh hơn bất kỳ con người nào từng sống. Hàng trăm triệu người dựa vào nó mỗi ngày và cho các nhiệm vụ ngày càng quan trọng; một khả năng mới nhỏ có thể tạo ra tác động cực kỳ tích cực; Một sự sai lệch nhỏ nhân lên hàng trăm triệu người có thể gây ra rất nhiều tác động tiêu cực.
从某种宏大的意义上说,ChatGPT已经比任何活过的人类都更强大。 每天有数亿人依赖它处理日益重要的任务; 一个微小的新功能可以产生巨大的积极影响; Và một sự không chính xác nhỏ, sau khi được khuếch đại bởi những người lăng nhăng, cũng có thể gây ra một cái bóng rất lớn.
Năm 2025 đã chứng kiến sự xuất hiện của các tác nhân có thể thực hiện công việc nhận thức thực sự; viết mã máy tính sẽ không bao giờ giống nhau. Năm 2026 có thể sẽ chứng kiến sự xuất hiện của các hệ thống có thể tìm ra những hiểu biết mới lạ. Năm 2027 có thể chứng kiến sự xuất hiện của robot có thể thực hiện các nhiệm vụ trong thế giới thực.
2025年见证了能够从事真正认知工作的智能体的诞生; 编写计算机代码的方式将从此改变。 2026年可能会出现能够发现新颖见解的系统。 2027年可能会出现能够在现实世界中执行任务的机器人。
Nhiều người sẽ có thể tạo ra phần mềm và nghệ thuật. Nhưng thế giới muốn nhiều hơn cả hai, và các chuyên gia có lẽ vẫn sẽ tốt hơn nhiều so với người mới, miễn là họ nắm bắt các công cụ mới. Nói chung, khả năng một người hoàn thành nhiều việc hơn vào năm 2030 so với năm 2020 sẽ là một sự thay đổi nổi bật và nhiều người sẽ tìm ra cách hưởng lợi.
更多的人将能够创造软件和艺术。 但世界对这两者的需求也会大大增加,只要专家们拥抱新工具,他们可能仍然会比新手出色得多。 总的来说,一个人在2030年能完成工作的量远超2020年,这将是一个显座的变化,许多人会找到从中受益的方法。
Theo những cách quan trọng nhất, những năm 2030 có thể không khác biệt nhiều. Mọi người sẽ vẫn yêu gia đình, thể hiện sự sáng tạo, chơi trò chơi và bơi lội trong hồ.
Về những khía cạnh quan trọng nhất, thập kỷ 2030 có thể sẽ không có sự khác biệt lớn. Mọi người vẫn sẽ yêu thương gia đình, thể hiện sự sáng tạo, chơi game, và bơi lội trong hồ.
Nhưng trong những cách vẫn rất quan trọng, thập niên 2030 có khả năng sẽ khác biệt hoàn toàn so với bất kỳ thời điểm nào trước đó. Chúng ta không biết mình có thể vượt xa trí thông minh ở mức con người đến đâu, nhưng chúng ta sắp tìm ra.
但在一些仍然非常重要的方面,2030代可能会与以往任何时代都截然不同。 我们不知道我们能超越人类水平的智能多远,但我们即将找到答案。
Vào những năm 2030, trí tuệ và năng lượng—những ý tưởng, và khả năng biến ý tưởng thành hiện thực—sẽ trở nên phong phú một cách điên cuồng. Hai yếu tố này từ lâu đã là những giới hạn cơ bản của tiến bộ nhân loại; với trí tuệ và năng lượng phong phú ( và quản trị tốt ), về lý thuyết chúng ta có thể có bất cứ thứ gì khác.
Vào những năm 2030, trí tuệ và năng lượng - tức là ý tưởng cũng như khả năng hiện thực hóa ý tưởng - sẽ trở nên vô cùng dồi dào. Cả hai thứ này từ lâu đã là yếu tố giới hạn cơ bản cho sự tiến bộ của nhân loại; với sự dồi dào của trí tuệ và năng lượng (cùng với sự quản lý tốt), lý thuyết chúng ta có thể có mọi thứ.
Chúng ta đã sống với trí thông minh kỹ thuật số đáng kinh ngạc, và sau một số cú sốc ban đầu, hầu hết chúng ta đã khá quen với nó. Rất nhanh chóng, chúng ta đi từ sự ngạc nhiên rằng AI có thể tạo ra một đoạn văn được viết đẹp đến tự hỏi khi nào nó có thể tạo ra một cuốn tiểu thuyết được viết đẹp; hoặc từ việc ngạc nhiên rằng nó có thể đưa ra các chẩn đoán y tế cứu sống đến tự hỏi khi nào nó có thể phát triển các phương pháp chữa trị; Hoặc từ ngạc nhiên nó có thể tạo ra một chương trình máy tính nhỏ đến tự hỏi khi nào nó có thể tạo ra một công ty hoàn toàn mới. Đây là cách điểm kỳ dị diễn ra: những điều kỳ diệu trở thành thói quen, và sau đó là tiền đặt cược.
我们已经生活在令人难以置信的数字智能中,在最初的振惊之后,我们大多数人已经习以为常。 我们很快就从惊叹于AI能生成一段文笔优美的段落,转而思考它何时能写出一部文笔优美小说; 从惊叹于它能造猻疗诊断,转而思考它何时能研发出治方法; 从惊叹于它能创建一个小程序,转而思考它何时能创建一家全新的公司。 奇点就是这样发生的:奇迹变为常态,然后成为基本要求。
Chúng tôi đã nghe từ các nhà khoa học rằng họ sản xuất hiệu quả gấp hai hoặc ba lần so với trước đây nhờ AI. AI tiên tiến thú vị vì nhiều lý do, nhưng có lẽ không có gì quan trọng bằng việc chúng ta có thể sử dụng nó để thực hiện nghiên cứu AI nhanh hơn. Chúng ta có thể khám phá các nền tảng tính toán mới, các thuật toán tốt hơn, và biết đâu còn những điều khác. Nếu chúng ta có thể thực hiện nghiên cứu của một thập kỷ trong một năm, hoặc một tháng, thì rõ ràng tốc độ tiến bộ sẽ khác biệt rất nhiều.
Chúng tôi đã nghe các nhà khoa học nói rằng năng suất của họ gấp hai đến ba lần trước khi sử dụng trí tuệ nhân tạo. Có nhiều lý do khiến trí tuệ nhân tạo tiên tiến trở nên hấp dẫn, nhưng có lẽ không có lý do nào quan trọng hơn việc chúng ta có thể sử dụng nó để tăng tốc nghiên cứu trí tuệ nhân tạo. Chúng ta có thể phát hiện ra nền tảng tính toán mới, thuật toán tốt hơn, và ai biết còn gì khác nữa. Nếu có thể hoàn thành nghiên cứu mất mười năm trong một tháng hoặc một năm, thì tốc độ tiến bộ rõ ràng sẽ khác biệt hoàn toàn.
Từ đây, các công cụ chúng tôi đã xây dựng sẽ giúp chúng tôi tìm thấy những hiểu biết khoa học hơn và hỗ trợ chúng tôi tạo ra các hệ thống AI tốt hơn. Tất nhiên đây không giống như một hệ thống AI hoàn toàn tự động cập nhật mã của chính nó, nhưng tuy nhiên đây là một phiên bản ấu trùng của việc tự cải thiện đệ quy.
从现在开始,我们已经构建的工具将帮助我们发现更深入的科学见解,并协助我们创造更优秀的人工智能系统。 当然,这与一个人工智能系统完全自主地更新自己的代码并非一回事,但这已是递归式自我改进的雏形。
Có những vòng lặp tự củng cố khác đang diễn ra. Việc tạo ra giá trị kinh tế đã bắt đầu một bánh đà xây dựng cơ sở hạ tầng tổng hợp để chạy các hệ thống AI ngày càng mạnh mẽ này. Và robot có thể chế tạo các robot khác (and theo một nghĩa nào đó, các trung tâm dữ liệu có thể xây dựng các datacenters) khác không còn xa lắm.
还有其他的自我强化循环正在发挥作用。 经济价值的创造已经启动了一个飞轮效应,不断推动基础设施建设,以运行这些日益强大的人工智慧智能系统。 而能够制造其他机器人机器人(在某种意义上,能够建其他数据中心的数据中心)也并非遥不可和。
Nếu chúng ta phải tạo ra hàng triệu robot hình người đầu tiên theo cách cũ, nhưng sau đó chúng có thể vận hành toàn bộ chuỗi cung ứng - đào và tinh chế khoáng sản, lái xe tải, vận hành nhà máy, v.v Để xây dựng nhiều robot hơn, có thể xây dựng nhiều cơ sở chế tạo chip, trung tâm dữ liệu, v.v., thì tốc độ tiến độ rõ ràng sẽ khá khác nhau.
Nếu chúng ta phải sản xuất một triệu robot hình người đầu tiên bằng cách truyền thống, nhưng sau đó chúng có thể vận hành toàn bộ chuỗi cung ứng - khai thác và tinh chế khoáng sản, lái xe tải, vận hành nhà máy, v.v. - để sản xuất nhiều robot hơn, và những robot này có thể xây dựng thêm nhiều nhà máy sản xuất chip, trung tâm dữ liệu, v.v., thì tốc độ tiến bộ rõ ràng sẽ hoàn toàn khác biệt.
Khi sản xuất trung tâm dữ liệu được tự động hóa, chi phí thông minh cuối cùng sẽ hội tụ gần với chi phí điện. (People thường tò mò về việc truy vấn ChatGPT sử dụng bao nhiêu năng lượng; Truy vấn trung bình sử dụng khoảng 0,34 watt-giờ, về những gì một lò nướng sẽ sử dụng trong hơn một giây hoặc một bóng đèn hiệu suất cao sẽ sử dụng trong vài phút. Nó cũng sử dụng khoảng 0,000085 gallon nước; khoảng một phần mười lăm thìa cà phê.)
Với sự tự động hóa trong sản xuất trung tâm dữ liệu, chi phí thông minh cuối cùng sẽ gần bằng chi phí điện. (Mọi người thường tò mò một lần truy vấn ChatGPT tiêu tốn bao nhiêu năng lượng; trung bình một truy vấn tiêu tốn khoảng 0.34 watt-giờ, tương đương với mức tiêu thụ của một lò nướng trong một giây hoặc mức tiêu thụ của một bóng đèn hiệu suất cao trong vài phút. Nó cũng tiêu tốn khoảng 0.000085 gallon nước; tương đương với một phần mười lăm của một thìa trà.)
技术进步的速度将持续加快,而人类适应几乎任何事物的能力也将一如既往。 过程中会有非常艰难的部分,比如整类工作的消失,但另一方面,世界将变得如此富且迅速,以於于我们能够认真考虑以前从未dám nghĩ về khái niệm chính sách mới。 我们可能不会一蹴而就地采纳新的社会契约,但几十后回望,这些渐进的变化将汇聚成巨大的变革。
Nếu lịch sử là bất kỳ hướng dẫn nào, chúng ta sẽ tìm ra những điều mới để làm và những điều mới để muốn, đồng thời đồng hóa các công cụ mới nhanh chóng (job thay đổi sau cuộc cách mạng công nghiệp là một gần đây tốt đẹp example). Kỳ vọng sẽ tăng lên, nhưng khả năng sẽ tăng nhanh như nhau và tất cả chúng ta sẽ có được những thứ tốt hơn. Chúng ta sẽ xây dựng những điều tuyệt vời hơn bao giờ hết cho nhau. Con người có một lợi thế quan trọng và tò mò lâu dài so với AI: chúng ta có khả năng quan tâm đến người khác và những gì họ nghĩ và làm, và chúng ta không quan tâm nhiều đến máy móc.
如果历史可为借鉴,我们将找到新事去,产生新需求,并迅速absorbing 新工具(工业revolution后的职业变迁是一个很好的一般的例子)。 期望会提高,但能力也会同样快速了提高,我们都会得到更好的东西。 我们将为彼此创造出越来越đẹp things。 与人工智能相比,人类拥有一种长期、重要且奇特的优势:我们的天性决定了我们在caring 人以及人的所思所为,而对机器则不那么在乎。
thousand years ago 的自给自足的农民看到我们许多人现在的工作,会说我们做的是"假工作",认为我们只是在玩游戏自娱自乐,因为我们有充足的食和难以想象的luxu。 我希望一千后我们看待未来的工作时,也会觉得它们是"非常假工作",但我毫不怀疑,从事这些工作的人会覺得它们无比重要和满足。
Tốc độ của những kỳ quan mới đạt được sẽ rất lớn. Thật khó để tưởng tượng ngày nay chúng ta sẽ khám phá ra những gì vào năm 2035; có thể chúng ta sẽ đi từ giải vật lý năng lượng cao một năm đến bắt đầu thuộc địa hóa không gian vào năm sau; hoặc từ một bước đột phá lớn về khoa học vật liệu một năm đến giao diện não-máy tính băng thông cao thực sự vào năm sau. Nhiều người sẽ chọn sống cuộc sống của họ theo cách tương tự, nhưng ít nhất một số người có thể sẽ quyết định "cắm vào".
新奇迹实现的速度将是巨大的。 Today,我们甚至难以想象到2035年会有什么发现; 也许我们会在一年内解决高能物理问题,然后在下年开启太空colony; 或者在年内得重大材料科学breakthrough,然后在下年实现真高band 宽脑机接口。 许多人会选择以大致相同的方式生活,但至少有些人可能会决定"接入"。
Nhìn về tương lai, tất cả những điều này nghe có vẻ khó hiểu. Nhưng khi trải nghiệm thực tế, có thể sẽ cảm thấy choáng ngợp nhưng vẫn có thể đối phó. Từ góc độ của thuyết tương đối, điểm kỳ dị xảy ra từng chút một, sự hòa nhập diễn ra từ từ. Chúng ta đang leo lên một đường cong dài của sự tiến bộ công nghệ theo cấp số nhân; nhìn về phía trước luôn có vẻ dốc, trong khi nhìn lại thì có vẻ phẳng, nhưng đó là một đường cong mượt mà. (Hãy nhớ lại năm 2020, nếu ai đó nói rằng vào năm 2025 sẽ có một thứ gần giống trí tuệ nhân tạo tổng quát, cảm giác sẽ như thế nào, so sánh với những gì đã trải qua trong 5 năm qua.)
Có những thách thức nghiêm trọng cần phải đối mặt cùng với những lợi ích to lớn. Chúng ta cần phải giải quyết các vấn đề an toàn, cả về mặt kỹ thuật và xã hội, nhưng sau đó việc phân phối quyền truy cập vào siêu trí tuệ một cách rộng rãi là cực kỳ quan trọng do những hệ lụy kinh tế. Con đường tốt nhất phía trước có thể là như sau:
伴随着巨大的好处,也严峻的挑战需要面对。 我们确实需要从技术和社会层面解决安全问题,但鉴于其经济影响,广泛地普及超级智能的访问权限也至关重要。 最佳的前进路可能是这样的:
Giải quyết vấn đề liên kết, có nghĩa là chúng ta có thể đảm bảo mạnh mẽ rằng chúng ta có được các hệ thống AI học hỏi và hành động hướng tới những gì chúng ta thực sự muốn trong (social dài hạn nguồn cấp dữ liệu phương tiện là một ví dụ về AI sai lệch; Các thuật toán cung cấp năng lượng cho những điều đó thật đáng kinh ngạc trong việc giúp bạn tiếp tục cuộn và hiểu rõ sở thích ngắn hạn của mình, nhưng chúng làm như vậy bằng cách khai thác thứ gì đó trong não của bạn ghi đè preference) dài hạn của bạn.
解决对齐问题,意味着我们能够有力地保证人工智能系统学习并按照我们集体的长期真实意愿行事(社交媒体的信息流是未对齐人工智能的一个例子; 驱动它们的算法在让你不停滚动方面表现出色,并能hiểu rõ ràng về 短期sở thích của bạn,但它们是通过利用你大脑中某种压倒你长期偏好的东西来做到这一点的)。
Sau đó, tập trung vào việc làm cho siêu trí tuệ trở nên rẻ, phổ biến rộng rãi và không quá tập trung vào bất kỳ cá nhân, công ty hoặc quốc gia nào. Xã hội kiên cường, sáng tạo và thích ứng nhanh chóng. Nếu chúng ta có thể khai thác ý chí tập thể và trí tuệ của mọi người, thì mặc dù chúng ta sẽ mắc nhiều sai lầm và một số điều sẽ thực sự sai lầm, chúng ta sẽ học hỏi và thích nghi nhanh chóng và có thể sử dụng điều này công nghệ để đạt được lợi thế tối đa và nhược điểm tối thiểu. Cho người dùng nhiều tự do, trong giới hạn rộng lớn mà xã hội phải quyết định, dường như rất quan trọng. Thế giới có thể bắt đầu một cuộc trò chuyện về những giới hạn rộng này là gì và cách chúng ta xác định sự liên kết tập thể thì càng tốt.
然后,专注于让超级智能变得廉价、普及,并且不过度集中于任何个人、公司或国家。 社会具有韧性、创造力并且适应快速。 如果我们能够驾驭人类的集体意愿和智慧,那么尽管我们会犯很多错误,有些事情会出错,但我们将迅速学习和适应,并能够利用这项技术来获得最大的好处和最小的坏处。 在社会必须决定的广泛boundary 内,给予用户大量的自由似乎非常重要。 世界越早开始就这些广泛boundary 是什么以及我们如何定义集体对齐展开对话,就越好。
我们(整个行业,不仅仅是OpenAI)正在为世界构建一个大脑。 它将是高度个性化的,并且对每个人来说都易于使用; 我们将受限于好的想法。 Trong những ngày đầu của triều đại Qiqi, những người kỹ thuật của thế giới doanh nghiệp ban đầu luôn chế giễu những "ông Jizi" đó; 那些有想法却在寻找团队来实现它的人。 Bây giờ trong mắt tôi 来,he 们即将Chào đón mùa xuân của chính bạn。
OpenAI hiện nay là rất nhiều thứ, nhưng trước hết, chúng tôi là một công ty nghiên cứu siêu trí tuệ. Chúng tôi có rất nhiều công việc phía trước, nhưng hầu hết con đường phía trước đã được thắp sáng, và những khu vực tối tăm đang nhanh chóng lùi xa. Chúng tôi cảm thấy vô cùng biết ơn khi được làm những gì chúng tôi làm.
Hiện nay, OpenAI đảm nhiệm nhiều vai trò, nhưng trước hết, chúng tôi là một công ty nghiên cứu siêu thông minh. Chúng tôi còn rất nhiều việc phải làm, nhưng con đường phía trước đã phần lớn được thắp sáng, những vùng tối đang nhanh chóng rút lui. Chúng tôi cảm thấy vô cùng biết ơn vì có thể tham gia vào sự nghiệp này.
Trí thông minh quá rẻ để đo lường là trong tầm tay. Điều này nghe có vẻ điên rồ khi nói, nhưng nếu chúng tôi nói với bạn vào năm 2020 rằng chúng tôi sẽ có được vị trí ngày hôm nay, thì có lẽ nó nghe có vẻ điên rồ hơn so với dự đoán hiện tại của chúng tôi về năm 2030.
廉价到无法计量的智能已触手可。 这么说可能听起来很疯狂,但如果我们在2020年告诉你我们将达到今天的水平,那听起来可能比我们现在对2030年的预测更疯狂。
Chúng ta có thể mở rộng một cách suôn sẻ, theo cấp số nhân và không gặp sự cố thông qua siêu trí tuệ.
Mong rằng chúng ta có thể tiến tới kỷ nguyên siêu thông minh một cách ổn định, theo cấp số nhân và không có sóng gió.