Beni Gallerli şair Dylan Thomas'ın "O iyi geceye nazikçe girme" adlı şiirini hatırlatıyor.
"Nazik tekillik", sessizce gelen kaderin eli, yumuşak ama karşı konulamaz, tıpkı ölmekte olan bir yaşlının nazikçe o "iyi geceye" girebileceği gibi, insanları bilinmeyen bir derinliğe adım atmaya davet ediyor.
İnsanlar kaderin gelgitine karşı öfkeyle kükrerler, ancak alacakaranlıkta meraklı ve meraklı bir eli olan yaşlı bir adam gibi, toprak garip alev tarafından yutulur.
Altman'ı okumadan önce, şiirdeki bu dizeyi içten içe tekrar etmeliyiz:
O iyi geceye nazikçe gitme; öfke, ışığın sönmesine karşı öfke
Aşağıda blogun tam metni, Çince ve İngilizce karşılaştırmalı olarak:
Nazik Tekillik Sam Altman Sam Ultraman Olay ufkunu geçtik; kalkış başladı. İnsanlık dijital süper zekâyı inşa etmeye yaklaşıyor ve en azından şimdiye kadar, olması gerektiği kadar tuhaf değil.
Olay ufkunu geçtik; kalkış başladı. İnsanlık dijital süper zekâyı inşa etmek üzere ve en azından bugüne kadar, onun şekli düşündüğümüz kadar garip değil.
Robotlar henüz sokaklarda yürümüyor, çoğumuz gün boyu AI ile konuşmuyoruz. İnsanlar hâlâ hastalıklardan ölüyor, uzaya kolayca gidemiyoruz ve evren hakkında anlamadığımız çok şey var.
Robotlar henüz sokaklarda yaygınlaşmadı, çoğumuz hâlâ gün boyunca yapay zeka ile konuşmuyoruz. İnsanlar hâlâ hastalıklardan ölecek, uzaya kolayca giremiyoruz ve evrende anlamadığımız birçok gizem var.
Yine de, son zamanlarda birçok yönden insanlardan daha akıllı sistemler inşa ettik ve bunları kullanan insanların çıktılarını önemli ölçüde artırabildik. İşin en az olası kısmı geride kaldı; Bizi GPT-4 ve o3 gibi sistemlere götüren bilimsel içgörüler zor kazanıldı, ancak bizi çok ileri götürecek.
Yapay zeka dünyaya birçok yönden katkıda bulunacak, ancak yapay zekanın daha hızlı bilimsel ilerleme ve artan üretkenlik sağlamasından elde edilen yaşam kalitesi kazanımları çok büyük olacak; Gelecek, bugünden çok daha iyi olabilir. Bilimsel ilerleme, genel ilerlemenin en büyük itici gücüdür; Daha ne kadar çok şeye sahip olabileceğimizi düşünmek son derece heyecan verici.
人工智能将从多方面为世界造贡献,但由人工智能推动的更快科学进步和更高生产力所带来的生活质量提升将是巨大的; 未来可能远比现在更加美好。 科学进步是整体进步的最大驱动力; Daha fazlasına sahip olabileceğimi düşünmek çok heyecan verici bir şey.
Bazı büyük anlamda, ChatGPT zaten yaşamış olan herhangi bir insandan daha güçlü. Yüzlerce milyon insan her gün buna güveniyor ve giderek daha önemli görevler için kullanıyor; küçük bir yeni yetenek büyük ölçüde olumlu bir etki yaratabilir; yüzlerce milyon insan tarafından çarpılan küçük bir uyumsuzluk büyük ölçüde olumsuz bir etki yaratabilir.
从某种宏大的意义上说,ChatGPT已经比任何活过的人类都更强大。 每天有数亿人依赖它处理日益重要的任务; 一个微小的新功能可以产生巨大的积极影响; Ve küçük bir yanlışlık, rastgele insanlar tarafından büyütüldükten sonra, büyük bir gölgeye de neden olabilir.
2025, gerçek bilişsel iş yapabilen ajanların ortaya çıktığını gördü; bilgisayar kodu yazmak asla aynı olmayacak. 2026'da muhtemelen yeni içgörüler bulabilen sistemlerin ortaya çıkması bekleniyor. 2027'de gerçek dünyadaki görevleri yerine getirebilen robotların ortaya çıkması muhtemel.
Çok daha fazla insan yazılım ve sanat yaratabilecek. Ancak dünya her ikisinden de çok daha fazlasını istiyor ve uzmanlar, yeni araçları benimsedikleri sürece muhtemelen acemilerden çok daha iyi olacaklar. Genel olarak konuşursak, bir kişinin 2030'da 2020'de yapabileceğinden çok daha fazlasını yapabilmesi çarpıcı bir değişiklik olacak ve birçok insan bundan nasıl yararlanacağını anlayacak.
En önemli yönlerden, 2030'lar çılgınca farklı olmayabilir. İnsanlar ailelerini sevmeye, yaratıcılıklarını ifade etmeye, oyun oynamaya ve göllerde yüzmeye devam edecekler.
En önemli yönlerden biri, 2030'larda belki de köklü bir değişim olmayacak. İnsanlar hâlâ ailelerini sevecek, yaratıcılıklarını ifade edecek, oyun oynayacak ve gölde yüzmeye devam edecekler.
Ancak yine de çok önemli şekillerde, 2030'lar muhtemelen daha önce gelen herhangi bir zamandan çılgınca farklı olacak. İnsan seviyesindeki zekanın ne kadar ötesine geçebileceğimizi bilmiyoruz, ama öğrenmek üzereyiz.
2030'larda zeka ve enerji - fikirler ve fikirleri gerçekleştirme yeteneği - son derece bol hale gelecek. Bu ikisi, uzun zamandır insan ilerlemesinin temel sınırlayıcıları olmuştur; bol miktarda zeka ve enerji ( ve iyi yönetişim ) ile teorik olarak başka her şeye sahip olabiliriz.
2030'lu yıllarda zeka ve enerji - yani fikirler ve bu fikirleri gerçekleştirme yeteneği - son derece bol hale gelecektir. Bu ikisi uzun zamandır insan ilerlemesinin temel sınırlayıcı faktörleri olmuştur; bolca zeka ve enerji (ve iyi bir yönetimle) teorik olarak her şeye sahip olabiliriz.
Artık inanılmaz dijital zeka ile yaşıyoruz ve bazı başlangıç şoklarından sonra, çoğumuz buna oldukça alıştık. Çok hızlı bir şekilde, yapay zekanın güzel bir şekilde yazılmış bir paragraf oluşturmasına hayret etmekten, ne zaman güzel bir roman oluşturabileceğini merak etmeye geçiyoruz; ya da hayat kurtarıcı tıbbi teşhisler koymasına hayret etmekten, ne zaman tedavi yöntemlerini geliştirebileceğini merak etmeye geçiyoruz; ya da küçük bir bilgisayar programı oluşturmasına hayret etmekten, ne zaman tamamen yeni bir şirket oluşturabileceğini merak etmeye geçiyoruz. Tekillik böyle ilerler: hayretler, rutin hale gelir ve sonra da temel gereksinimler haline gelir.
Bilim adamlarından, yapay zeka öncesine göre iki veya üç kat daha üretken olduklarını zaten duyuyoruz. Gelişmiş yapay zeka birçok nedenden dolayı ilgi çekicidir, ancak belki de hiçbir şey onu daha hızlı yapay zeka araştırması yapmak için kullanabileceğimiz gerçeği kadar önemli değildir. Yeni bilgi işlem alt tabakaları, daha iyi algoritmalar ve kim bilir başka neler keşfedebiliriz. Bir yıl veya bir ay içinde on yıllık bir araştırma yapabilirsek, o zaman ilerleme hızı açıkça oldukça farklı olacaktır.
我们已经听到科学家们说,他们的生产力是使用人工智慧智能之前的两到三倍。 先进的人工智慧智能之所以引人入胜,原因Çok var,但或许没有哪一点比我们能用它来Yapay zeka araştırmalarını hızlandırmak daha önemli。 我们或许能够发现新的计算基底、更好的算法,以及天知道还有什么。 如果能在一个月或一年内完成十才能完成研究,那么进步的速度显然将截然不同。
Buradan itibaren, zaten inşa ettiğimiz araçlar bize daha fazla bilimsel içgörüler bulmamıza ve daha iyi AI sistemleri oluşturmamıza yardımcı olacak. Elbette bu, bir AI sisteminin tamamen otonom bir şekilde kendi kodunu güncellemesiyle aynı şey değil, ancak yine de bu, yinelemeli kendini geliştirme için bir larva versiyonudur.
Artık inşa ettiğimiz araçlar, daha derin bilimsel içgörüler keşfetmemize yardımcı olacak ve daha iyi yapay zeka sistemleri yaratmamıza yardımcı olacaktır. Elbette bu, bir yapay zeka sisteminin tamamen bağımsız bir şekilde kendi kodunu güncellemesi ile aynı şey değildir, ancak bu, yinelemeli kendini geliştirme için bir başlangıçtır.
Oyunda kendi kendini güçlendiren başka döngüler de var. Ekonomik değer yaratma, giderek daha güçlü hale gelen bu yapay zeka sistemlerini çalıştırmak için bir bileşik altyapı inşası çarkı başlattı. Ve başka robotlar inşa edebilen robotlar (and bir anlamda, başka datacenters) inşa edebilen veri merkezleri o kadar da uzakta değil.
Eğer ilk milyon insansı robotu eski usul yapmamız gerekiyorsa, ama sonra bunlar tüm tedarik zincirini yönetebiliyorsa—madenleri kazma ve işleme, kamyon sürme, fabrikaları işletme vb.—daha fazla robot yapmak için, bunlar da daha fazla çip üretim tesisleri, veri merkezleri vb. inşa edebiliyorsa, o zaman ilerleme hızı açıkça oldukça farklı olacaktır.
Veri merkezi üretimi otomatik hale geldikçe, istihbarat maliyeti sonunda elektrik maliyetine yakın bir seviyeye yaklaşmalıdır. (People genellikle bir ChatGPT sorgusunun ne kadar enerji kullandığını merak ederler; Ortalama sorgu, bir fırının bir saniyeden biraz fazla bir sürede ne kullanacağı veya yüksek verimli bir ampulün birkaç dakika içinde kullanacağı yaklaşık 0,34 watt-saat kullanır. Ayrıca yaklaşık 0.000085 galon su kullanır; kabaca bir çay kaşığının on beşte biri.)
随着数据中心生产的自动化,智能的成本最终应会趋近于电力的成本。 (İnsanlar genellikle bir ChatGPT araması yapmak için ne kadar enerji gerektiğini merak eder; 平均一次查询大约消耗0.34 Wa时,相当于一个oven一秒多一点的用量,或一个高效灯泡几分钟的用量。 它还消耗大约0.000085加仑水;约equal to 19,茶spoon的15/1。 ）
技术进步的速度将持续加快,而人类适应几乎任何事物的能力也将一如既往。 过程中会有非常艰难的部分,比如整类工作的消失,但另一方面,世界将变得如此富且迅速,以於于我们能够认真考虑以前从未dare to think of the new policy concept。 我们可能不会一蹴而就地采纳新的社会契约,但几十后回望,这些渐进的变化将汇聚成巨大的变革。
Tarih herhangi bir rehber ise, yapılacak yeni şeyleri ve istenecek yeni şeyleri bulacağız ve sanayi devrimi iyi bir son dönem olduktan sonra yeni araçları hızla özümseyeceğiz (job değişimi yapacağız example). Beklentiler artacak, ancak yetenekler de aynı hızla artacak ve hepimiz daha iyi şeyler elde edeceğiz. Birbirimiz için her zamankinden daha harika şeyler inşa edeceğiz. İnsanların yapay zekaya göre uzun vadeli önemli ve ilginç bir avantajı var: diğer insanları ve onların ne düşündüklerini ve yaptıklarını önemsemek için sıkı sıkıya bağlıyız ve makineleri pek umursamıyoruz.
Bin yıl önce kendi kendine yeten bir çiftçi, birçok insanın şu anda yaptığı işleri "sahte işler" olarak nitelendirir ve sadece oyun oynayıp eğlendiğimizi düşünür, çünkü bol miktarda yiyeceğimiz ve hayal edilemeyecek kadar lüks eşyalarımız var. Umarım bin yıl sonra gelecekteki işlere baktığımızda, bunların da "çok sahte işler" olduğunu düşünürüz, ancak bu işleri yapan insanların bunların son derece önemli ve tatmin edici olduğunu hissetmelerinden hiç şüphem yok.
Elde edilen yeni harikaların oranı çok büyük olacak. 2035 yılına kadar ne keşfetmiş olacağımızı bugün hayal etmek bile zor; Belki bir yıl yüksek enerji fiziğini çözmekten gelecek yıl uzay kolonizasyonuna başlamaya geçeceğiz; ya da bir yıl büyük bir malzeme bilimi atılımından bir sonraki yıl gerçek yüksek bant genişliğine sahip beyin-bilgisayar arayüzlerine. Pek çok insan hayatlarını aynı şekilde yaşamayı seçecek, ancak en azından bazı insanlar muhtemelen "fişe takmaya" karar verecek.
展望未来,这一切听起来似乎难以理解。 但亲身经历时,可能会覺得shock但尚可应对。 从相对论的视角看,奇点是点滴发生的,Fusion IS 缓慢进行的。 我们正攀登在指数级技术进步的漫长arc线上; 前看总是显得陡,后看则显得平,but 它是一条平滑的曲线。 (回想一下2020年,如果有人说2025年将出现接近通用人工智慧智能的东西,听起来会是什么感觉,再对比一下过去5年实际的经历。 ）
Büyük avantajların yanı sıra karşılaşılması gereken ciddi zorluklar var. Güvenlik sorunlarını, hem teknik hem de toplumsal olarak, çözmemiz gerekiyor, ancak ekonomik etkileri göz önüne alındığında süper zekaya erişimi yaygın bir şekilde dağıtmak kritik öneme sahip. En iyi yol aşağıdakilerden biri olabilir:
Hizalama sorununu çözün, yani yapay zeka sistemlerinin uzun vadede toplu olarak gerçekten istediğimiz şeyi öğrenmesini ve buna göre hareket etmesini sağladığımızı sağlam bir şekilde garanti edebiliriz (social medya beslemeleri, yanlış hizalanmış yapay zekaya bir örnektir; Bunlara güç veren algoritmalar, kaydırmaya devam etmenizi ve kısa vadeli tercihlerinizi net bir şekilde anlamanızı sağlamada inanılmazdır, ancak bunu beyninizdeki bir şeyi sömürerek yaparlar. uzun vadeli preference) geçersiz kılar.
解决对齐问题,意味着我们能够有力地保证人工智能系统学习并按照我们集体的长期真实意愿行事(社交媒体的信息流是未对齐人工智能的一个例子; 驱动它们的算法在让你不停滚动方面表现出色,并能Clearly understand your 短期preferences,但它们是通过利用你大脑中某种压倒你长期偏好的东西来做到这一点的)。
Ardından, süper zekayı ucuz, yaygın olarak kullanılabilir ve herhangi bir kişi, şirket veya ülke ile fazla konsantre olmayan hale getirmeye odaklanın. Toplum dirençlidir, yaratıcıdır ve hızla uyum sağlar. İnsanların kolektif iradesini ve bilgeliğini kullanabilirsek, o zaman çok fazla hata yapacak olsak ve bazı şeyler gerçekten ters gidecek olsa da, hızlı bir şekilde öğrenecek, adapte olacak ve bunu kullanabileceğiz maksimum avantaj ve minimum dezavantaj elde etmek için teknoloji. Kullanıcılara toplumun karar vermesi gereken geniş sınırlar içinde çok fazla özgürlük vermek çok önemli görünüyor. Dünya, bu geniş sınırların ne olduğu ve kolektif uyumu nasıl tanımladığımız hakkında ne kadar erken bir konuşma başlatabilirse o kadar iyi.
Biz (tüm sektör, sadece OpenAI değil) dünyaya bir beyin inşa ediyoruz. Bu, son derece kişiselleştirilmiş olacak ve herkes için kullanımı kolaydır; iyi fikirlere bağlı kalacağız. Uzun zamandır, girişimci teknisyenler "fikir beyefendileri" ile alay ediyordu; fikirleri olan ama bunu gerçekleştirmek için bir ekip arayan insanlar. Şimdi bana kalırsa, onların baharı geliyor.
OpenAI şimdi birçok şey, ama her şeyden önce, biz bir süper zeka araştırma şirketiyiz. Önümüzde çok iş var, ama önümüzdeki yolun çoğu artık aydınlatıldı ve karanlık alanlar hızla geri çekiliyor. Yaptığımız işi yapabildiğimiz için son derece minnettarız.
Günümüzde OpenAI birden fazla görevi üstleniyor, ancak öncelikle süper zeka araştırma şirketiyiz. Önümüzde hala yapacak çok iş var, ancak yolun büyük bir kısmı aydınlatılmış durumda, karanlık alanlar hızla geri çekiliyor. Bu işe dahil olabildiğimiz için son derece minnettarız.
Metrelemek için çok ucuz olan zeka, erişimimizin çok yakınında. Bunu söylemek çılgınca gelebilir ama eğer size 2020'de bugün bulunduğumuz yerde olacağımızı söyleseydik, muhtemelen 2030 hakkında yaptığımız şu anki tahminlerimizden daha çılgınca gelirdi.
The content is for reference only, not a solicitation or offer. No investment, tax, or legal advice provided. See Disclaimer for more risks disclosure.
Beni Gallerli şair Dylan Thomas'ın "O iyi geceye nazikçe girme" adlı şiirini hatırlatıyor.
"Nazik tekillik", sessizce gelen kaderin eli, yumuşak ama karşı konulamaz, tıpkı ölmekte olan bir yaşlının nazikçe o "iyi geceye" girebileceği gibi, insanları bilinmeyen bir derinliğe adım atmaya davet ediyor.
İnsanlar kaderin gelgitine karşı öfkeyle kükrerler, ancak alacakaranlıkta meraklı ve meraklı bir eli olan yaşlı bir adam gibi, toprak garip alev tarafından yutulur.
Altman'ı okumadan önce, şiirdeki bu dizeyi içten içe tekrar etmeliyiz:
O iyi geceye nazikçe gitme;
öfke, ışığın sönmesine karşı öfke
Aşağıda blogun tam metni, Çince ve İngilizce karşılaştırmalı olarak:
Nazik Tekillik
Sam Altman
Sam Ultraman
Olay ufkunu geçtik; kalkış başladı. İnsanlık dijital süper zekâyı inşa etmeye yaklaşıyor ve en azından şimdiye kadar, olması gerektiği kadar tuhaf değil.
Olay ufkunu geçtik; kalkış başladı. İnsanlık dijital süper zekâyı inşa etmek üzere ve en azından bugüne kadar, onun şekli düşündüğümüz kadar garip değil.
Robotlar henüz sokaklarda yürümüyor, çoğumuz gün boyu AI ile konuşmuyoruz. İnsanlar hâlâ hastalıklardan ölüyor, uzaya kolayca gidemiyoruz ve evren hakkında anlamadığımız çok şey var.
Robotlar henüz sokaklarda yaygınlaşmadı, çoğumuz hâlâ gün boyunca yapay zeka ile konuşmuyoruz. İnsanlar hâlâ hastalıklardan ölecek, uzaya kolayca giremiyoruz ve evrende anlamadığımız birçok gizem var.
Yine de, son zamanlarda birçok yönden insanlardan daha akıllı sistemler inşa ettik ve bunları kullanan insanların çıktılarını önemli ölçüde artırabildik. İşin en az olası kısmı geride kaldı; Bizi GPT-4 ve o3 gibi sistemlere götüren bilimsel içgörüler zor kazanıldı, ancak bizi çok ileri götürecek.
然而,我们最近已经构建出在许多方面比人类更智能的系统,它们能够显有放大使用者的产出。 这项工作中看似最不可能实现的部分已经完成; 那些催生了像GPT-4和o3这样系统的科学洞见来之不易,但它们将引领我们走得非常远。
Yapay zeka dünyaya birçok yönden katkıda bulunacak, ancak yapay zekanın daha hızlı bilimsel ilerleme ve artan üretkenlik sağlamasından elde edilen yaşam kalitesi kazanımları çok büyük olacak; Gelecek, bugünden çok daha iyi olabilir. Bilimsel ilerleme, genel ilerlemenin en büyük itici gücüdür; Daha ne kadar çok şeye sahip olabileceğimizi düşünmek son derece heyecan verici.
人工智能将从多方面为世界造贡献,但由人工智能推动的更快科学进步和更高生产力所带来的生活质量提升将是巨大的; 未来可能远比现在更加美好。 科学进步是整体进步的最大驱动力; Daha fazlasına sahip olabileceğimi düşünmek çok heyecan verici bir şey.
Bazı büyük anlamda, ChatGPT zaten yaşamış olan herhangi bir insandan daha güçlü. Yüzlerce milyon insan her gün buna güveniyor ve giderek daha önemli görevler için kullanıyor; küçük bir yeni yetenek büyük ölçüde olumlu bir etki yaratabilir; yüzlerce milyon insan tarafından çarpılan küçük bir uyumsuzluk büyük ölçüde olumsuz bir etki yaratabilir.
从某种宏大的意义上说,ChatGPT已经比任何活过的人类都更强大。 每天有数亿人依赖它处理日益重要的任务; 一个微小的新功能可以产生巨大的积极影响; Ve küçük bir yanlışlık, rastgele insanlar tarafından büyütüldükten sonra, büyük bir gölgeye de neden olabilir.
2025, gerçek bilişsel iş yapabilen ajanların ortaya çıktığını gördü; bilgisayar kodu yazmak asla aynı olmayacak. 2026'da muhtemelen yeni içgörüler bulabilen sistemlerin ortaya çıkması bekleniyor. 2027'de gerçek dünyadaki görevleri yerine getirebilen robotların ortaya çıkması muhtemel.
2025年见证了能够从事真正认知工作的智能体的诞生; 编写计算机代码的方式将从此改变。 2026年可能会出现能够发现新颖见解的系统。 2027年可能会出现能够在现实世界中执行任务的机器人。
Çok daha fazla insan yazılım ve sanat yaratabilecek. Ancak dünya her ikisinden de çok daha fazlasını istiyor ve uzmanlar, yeni araçları benimsedikleri sürece muhtemelen acemilerden çok daha iyi olacaklar. Genel olarak konuşursak, bir kişinin 2030'da 2020'de yapabileceğinden çok daha fazlasını yapabilmesi çarpıcı bir değişiklik olacak ve birçok insan bundan nasıl yararlanacağını anlayacak.
更多的人将能够创造软件和艺术。 但世界对这两者的需求也会大大增加,只要专家们拥抱新工具,他们可能仍然会比新手出色得多。 总的来说,一个人在2030年能完成工作的量远超2020年,这将是一个显座的变化,许多人会找到从中受益的方法。
En önemli yönlerden, 2030'lar çılgınca farklı olmayabilir. İnsanlar ailelerini sevmeye, yaratıcılıklarını ifade etmeye, oyun oynamaya ve göllerde yüzmeye devam edecekler.
En önemli yönlerden biri, 2030'larda belki de köklü bir değişim olmayacak. İnsanlar hâlâ ailelerini sevecek, yaratıcılıklarını ifade edecek, oyun oynayacak ve gölde yüzmeye devam edecekler.
Ancak yine de çok önemli şekillerde, 2030'lar muhtemelen daha önce gelen herhangi bir zamandan çılgınca farklı olacak. İnsan seviyesindeki zekanın ne kadar ötesine geçebileceğimizi bilmiyoruz, ama öğrenmek üzereyiz.
但在一些仍然非常重要的方面,2030代可能会与以往任何时代都截然不同。 我们不知道我们能超越人类水平的智能多远,但我们即将找到答案。
2030'larda zeka ve enerji - fikirler ve fikirleri gerçekleştirme yeteneği - son derece bol hale gelecek. Bu ikisi, uzun zamandır insan ilerlemesinin temel sınırlayıcıları olmuştur; bol miktarda zeka ve enerji ( ve iyi yönetişim ) ile teorik olarak başka her şeye sahip olabiliriz.
2030'lu yıllarda zeka ve enerji - yani fikirler ve bu fikirleri gerçekleştirme yeteneği - son derece bol hale gelecektir. Bu ikisi uzun zamandır insan ilerlemesinin temel sınırlayıcı faktörleri olmuştur; bolca zeka ve enerji (ve iyi bir yönetimle) teorik olarak her şeye sahip olabiliriz.
Artık inanılmaz dijital zeka ile yaşıyoruz ve bazı başlangıç şoklarından sonra, çoğumuz buna oldukça alıştık. Çok hızlı bir şekilde, yapay zekanın güzel bir şekilde yazılmış bir paragraf oluşturmasına hayret etmekten, ne zaman güzel bir roman oluşturabileceğini merak etmeye geçiyoruz; ya da hayat kurtarıcı tıbbi teşhisler koymasına hayret etmekten, ne zaman tedavi yöntemlerini geliştirebileceğini merak etmeye geçiyoruz; ya da küçük bir bilgisayar programı oluşturmasına hayret etmekten, ne zaman tamamen yeni bir şirket oluşturabileceğini merak etmeye geçiyoruz. Tekillik böyle ilerler: hayretler, rutin hale gelir ve sonra da temel gereksinimler haline gelir.
我们已经生活在令人难以置信的数字智能中,在最初的振惊之后,我们大多数人已经习以为常。 我们很快就从惊叹于AI能生成一段文笔优美的段落,转而思考它何时能写出一部文笔优美小说; 从惊叹于它能造猻疗诊断,转而思考它何时能研发出治方法; 从惊叹于它能创建一个小程序,转而思考它何时能创建一家全新的公司。 奇点就是这样发生的:奇迹变为常态,然后成为基本要求。
Bilim adamlarından, yapay zeka öncesine göre iki veya üç kat daha üretken olduklarını zaten duyuyoruz. Gelişmiş yapay zeka birçok nedenden dolayı ilgi çekicidir, ancak belki de hiçbir şey onu daha hızlı yapay zeka araştırması yapmak için kullanabileceğimiz gerçeği kadar önemli değildir. Yeni bilgi işlem alt tabakaları, daha iyi algoritmalar ve kim bilir başka neler keşfedebiliriz. Bir yıl veya bir ay içinde on yıllık bir araştırma yapabilirsek, o zaman ilerleme hızı açıkça oldukça farklı olacaktır.
我们已经听到科学家们说,他们的生产力是使用人工智慧智能之前的两到三倍。 先进的人工智慧智能之所以引人入胜,原因Çok var,但或许没有哪一点比我们能用它来Yapay zeka araştırmalarını hızlandırmak daha önemli。 我们或许能够发现新的计算基底、更好的算法,以及天知道还有什么。 如果能在一个月或一年内完成十才能完成研究,那么进步的速度显然将截然不同。
Buradan itibaren, zaten inşa ettiğimiz araçlar bize daha fazla bilimsel içgörüler bulmamıza ve daha iyi AI sistemleri oluşturmamıza yardımcı olacak. Elbette bu, bir AI sisteminin tamamen otonom bir şekilde kendi kodunu güncellemesiyle aynı şey değil, ancak yine de bu, yinelemeli kendini geliştirme için bir larva versiyonudur.
Artık inşa ettiğimiz araçlar, daha derin bilimsel içgörüler keşfetmemize yardımcı olacak ve daha iyi yapay zeka sistemleri yaratmamıza yardımcı olacaktır. Elbette bu, bir yapay zeka sisteminin tamamen bağımsız bir şekilde kendi kodunu güncellemesi ile aynı şey değildir, ancak bu, yinelemeli kendini geliştirme için bir başlangıçtır.
Oyunda kendi kendini güçlendiren başka döngüler de var. Ekonomik değer yaratma, giderek daha güçlü hale gelen bu yapay zeka sistemlerini çalıştırmak için bir bileşik altyapı inşası çarkı başlattı. Ve başka robotlar inşa edebilen robotlar (and bir anlamda, başka datacenters) inşa edebilen veri merkezleri o kadar da uzakta değil.
还有其他的自我强化循环正在发挥作用。 经济价值的创造已经启动了一个飞轮效应,不断推动基础设施建设,以运行这些日益强大的人工智慧智能系统。 而能够制造其他机器人机器人(在某种意义上,能够建其他数据中心的数据中心)也并非遥不可和。
Eğer ilk milyon insansı robotu eski usul yapmamız gerekiyorsa, ama sonra bunlar tüm tedarik zincirini yönetebiliyorsa—madenleri kazma ve işleme, kamyon sürme, fabrikaları işletme vb.—daha fazla robot yapmak için, bunlar da daha fazla çip üretim tesisleri, veri merkezleri vb. inşa edebiliyorsa, o zaman ilerleme hızı açıkça oldukça farklı olacaktır.
如果我们必须用传统方式制造出最初的一百万个类人机器人,但之后它们能够运营整个供应链——挖掘和精炼矿物、驾驶卡车、运营工厂等等——来制造更多的机器人,而这些机器人又能建更多的chip片制造厂、数据中心等,那么进步的速度显然将截然不同。
Veri merkezi üretimi otomatik hale geldikçe, istihbarat maliyeti sonunda elektrik maliyetine yakın bir seviyeye yaklaşmalıdır. (People genellikle bir ChatGPT sorgusunun ne kadar enerji kullandığını merak ederler; Ortalama sorgu, bir fırının bir saniyeden biraz fazla bir sürede ne kullanacağı veya yüksek verimli bir ampulün birkaç dakika içinde kullanacağı yaklaşık 0,34 watt-saat kullanır. Ayrıca yaklaşık 0.000085 galon su kullanır; kabaca bir çay kaşığının on beşte biri.)
随着数据中心生产的自动化,智能的成本最终应会趋近于电力的成本。 (İnsanlar genellikle bir ChatGPT araması yapmak için ne kadar enerji gerektiğini merak eder; 平均一次查询大约消耗0.34 Wa时,相当于一个oven一秒多一点的用量,或一个高效灯泡几分钟的用量。 它还消耗大约0.000085加仑水;约equal to 19,茶spoon的15/1。 ）
技术进步的速度将持续加快,而人类适应几乎任何事物的能力也将一如既往。 过程中会有非常艰难的部分,比如整类工作的消失,但另一方面,世界将变得如此富且迅速,以於于我们能够认真考虑以前从未dare to think of the new policy concept。 我们可能不会一蹴而就地采纳新的社会契约,但几十后回望,这些渐进的变化将汇聚成巨大的变革。
Tarih herhangi bir rehber ise, yapılacak yeni şeyleri ve istenecek yeni şeyleri bulacağız ve sanayi devrimi iyi bir son dönem olduktan sonra yeni araçları hızla özümseyeceğiz (job değişimi yapacağız example). Beklentiler artacak, ancak yetenekler de aynı hızla artacak ve hepimiz daha iyi şeyler elde edeceğiz. Birbirimiz için her zamankinden daha harika şeyler inşa edeceğiz. İnsanların yapay zekaya göre uzun vadeli önemli ve ilginç bir avantajı var: diğer insanları ve onların ne düşündüklerini ve yaptıklarını önemsemek için sıkı sıkıya bağlıyız ve makineleri pek umursamıyoruz.
如果历史可为借鉴,我们将找到新事去,产生新需求,并迅速emici 新工具(工业revolution后的职业变迁是一个很好的一般的例子)。 期望会提高,但能力也会同样快速了提高,我们都会得到更好的东西。 我们将为彼此创造出越来越güzel şeyler。 与人工智能相比,人类拥有一种长期、重要且奇特的优势:我们的天性决定了我们在caring 人以及人的所思所为,而对机器则不那么在乎。
Bin yıl önce kendi kendine yeten bir çiftçi, birçok insanın şu anda yaptığı işleri "sahte işler" olarak nitelendirir ve sadece oyun oynayıp eğlendiğimizi düşünür, çünkü bol miktarda yiyeceğimiz ve hayal edilemeyecek kadar lüks eşyalarımız var. Umarım bin yıl sonra gelecekteki işlere baktığımızda, bunların da "çok sahte işler" olduğunu düşünürüz, ancak bu işleri yapan insanların bunların son derece önemli ve tatmin edici olduğunu hissetmelerinden hiç şüphem yok.
Elde edilen yeni harikaların oranı çok büyük olacak. 2035 yılına kadar ne keşfetmiş olacağımızı bugün hayal etmek bile zor; Belki bir yıl yüksek enerji fiziğini çözmekten gelecek yıl uzay kolonizasyonuna başlamaya geçeceğiz; ya da bir yıl büyük bir malzeme bilimi atılımından bir sonraki yıl gerçek yüksek bant genişliğine sahip beyin-bilgisayar arayüzlerine. Pek çok insan hayatlarını aynı şekilde yaşamayı seçecek, ancak en azından bazı insanlar muhtemelen "fişe takmaya" karar verecek.
新奇迹实现的速度将是巨大的。 Today我们甚至难以想象到2035年会有什么发现; 也许我们会在一年内解决高能物理问题,然后在下年开启太空colony; 或者在年内得重大材料科学breakthrough,然后在下年实现真高band 宽脑机接口。 许多人会选择以大致相同的方式生活,但至少有些人可能会决定"接入"。
展望未来,这一切听起来似乎难以理解。 但亲身经历时,可能会覺得shock但尚可应对。 从相对论的视角看,奇点是点滴发生的,Fusion IS 缓慢进行的。 我们正攀登在指数级技术进步的漫长arc线上; 前看总是显得陡,后看则显得平,but 它是一条平滑的曲线。 (回想一下2020年,如果有人说2025年将出现接近通用人工智慧智能的东西,听起来会是什么感觉,再对比一下过去5年实际的经历。 ）
Büyük avantajların yanı sıra karşılaşılması gereken ciddi zorluklar var. Güvenlik sorunlarını, hem teknik hem de toplumsal olarak, çözmemiz gerekiyor, ancak ekonomik etkileri göz önüne alındığında süper zekaya erişimi yaygın bir şekilde dağıtmak kritik öneme sahip. En iyi yol aşağıdakilerden biri olabilir:
伴随着巨大的好处,也严峻的挑战需要面对。 我们确实需要从技术和社会层面解决安全问题,但鉴于其经济影响,广泛地普及超级智能的访问权限也至关重要。 最佳的前进路可能是这样的:
Hizalama sorununu çözün, yani yapay zeka sistemlerinin uzun vadede toplu olarak gerçekten istediğimiz şeyi öğrenmesini ve buna göre hareket etmesini sağladığımızı sağlam bir şekilde garanti edebiliriz (social medya beslemeleri, yanlış hizalanmış yapay zekaya bir örnektir; Bunlara güç veren algoritmalar, kaydırmaya devam etmenizi ve kısa vadeli tercihlerinizi net bir şekilde anlamanızı sağlamada inanılmazdır, ancak bunu beyninizdeki bir şeyi sömürerek yaparlar. uzun vadeli preference) geçersiz kılar.
解决对齐问题,意味着我们能够有力地保证人工智能系统学习并按照我们集体的长期真实意愿行事(社交媒体的信息流是未对齐人工智能的一个例子; 驱动它们的算法在让你不停滚动方面表现出色,并能Clearly understand your 短期preferences,但它们是通过利用你大脑中某种压倒你长期偏好的东西来做到这一点的)。
Ardından, süper zekayı ucuz, yaygın olarak kullanılabilir ve herhangi bir kişi, şirket veya ülke ile fazla konsantre olmayan hale getirmeye odaklanın. Toplum dirençlidir, yaratıcıdır ve hızla uyum sağlar. İnsanların kolektif iradesini ve bilgeliğini kullanabilirsek, o zaman çok fazla hata yapacak olsak ve bazı şeyler gerçekten ters gidecek olsa da, hızlı bir şekilde öğrenecek, adapte olacak ve bunu kullanabileceğiz maksimum avantaj ve minimum dezavantaj elde etmek için teknoloji. Kullanıcılara toplumun karar vermesi gereken geniş sınırlar içinde çok fazla özgürlük vermek çok önemli görünüyor. Dünya, bu geniş sınırların ne olduğu ve kolektif uyumu nasıl tanımladığımız hakkında ne kadar erken bir konuşma başlatabilirse o kadar iyi.
然后,专注于让超级智能变得廉价、普及,并且不过度集中于任何个人、公司或国家。 社会具有韧性、创造力并且适应快速。 如果我们能够驾驭人类的集体意愿和智慧,那么尽管我们会犯很多错误,有些事情会出错,但我们将迅速学习和适应,并能够利用这项技术来获得最大的好处和最小的坏处。 在社会必须决定的广泛boundary 内,给予用户大量的自由似乎非常重要。 世界越早开始就这些广泛boundary 是什么以及我们如何定义集体对齐展开对话,就越好。
Biz (tüm sektör, sadece OpenAI değil) dünyaya bir beyin inşa ediyoruz. Bu, son derece kişiselleştirilmiş olacak ve herkes için kullanımı kolaydır; iyi fikirlere bağlı kalacağız. Uzun zamandır, girişimci teknisyenler "fikir beyefendileri" ile alay ediyordu; fikirleri olan ama bunu gerçekleştirmek için bir ekip arayan insanlar. Şimdi bana kalırsa, onların baharı geliyor.
OpenAI şimdi birçok şey, ama her şeyden önce, biz bir süper zeka araştırma şirketiyiz. Önümüzde çok iş var, ama önümüzdeki yolun çoğu artık aydınlatıldı ve karanlık alanlar hızla geri çekiliyor. Yaptığımız işi yapabildiğimiz için son derece minnettarız.
Günümüzde OpenAI birden fazla görevi üstleniyor, ancak öncelikle süper zeka araştırma şirketiyiz. Önümüzde hala yapacak çok iş var, ancak yolun büyük bir kısmı aydınlatılmış durumda, karanlık alanlar hızla geri çekiliyor. Bu işe dahil olabildiğimiz için son derece minnettarız.
Metrelemek için çok ucuz olan zeka, erişimimizin çok yakınında. Bunu söylemek çılgınca gelebilir ama eğer size 2020'de bugün bulunduğumuz yerde olacağımızı söyleseydik, muhtemelen 2030 hakkında yaptığımız şu anki tahminlerimizden daha çılgınca gelirdi.
廉价到无法计量的智能已触手可。 这么说可能听起来很疯狂,但如果我们在2020年告诉你我们将达到今天的水平,那听起来可能比我们现在对2030年的预测更疯狂。
Süper zeka aracılığıyla sorunsuz, üssel ve olaylı bir şekilde ölçeklenmeyi umalım.
Umarım süper zeka çağına sorunsuz, üstel ve sakin bir şekilde ilerleyebiliriz.