Cela me rappelle le poème "Ne rentrez pas doucement dans cette bonne nuit" de Dylan Thomas, poète gallois.
"Singularité douce", est la main du destin qui arrive silencieusement, douce mais irrésistible, tout comme un vieil homme mourant peut doucement entrer dans cette "bonne nuit", invitant calmement l'humanité à plonger dans l'inconnu.
L'humanité ne criera peut-être pas en résistance aux marées du destin, mais plutôt comme un vieil homme dans le crépuscule, avec une certaine curiosité et soumission, englouti doucement par le point de singularité.
Avant de lire Altman, nous devrions murmurer cette phrase du poème :
N'entrez pas doucement dans cette bonne nuit ; rage, rage contre l'extinction de la lumière
Voici le texte complet du blog, en chinois et en anglais :
La Singularité Douce Sam Altman Sam Ultraman Nous avons dépassé l'horizon des événements ; le décollage a commencé. L'humanité est proche de construire une superintelligence numérique, et jusqu'à présent, c'est beaucoup moins étrange que cela ne devrait l'être.
Nous avons déjà dépassé l'horizon des événements ; le décollage a déjà commencé. L'humanité est sur le point de construire une super-intelligence numérique, et pour l'instant, sa forme n'est pas aussi étrange que nous l'imaginions.
Les robots ne marchent pas encore dans les rues, et la plupart d'entre nous ne parlent pas à l'IA toute la journée. Les gens meurent encore de maladies, nous ne pouvons toujours pas aller facilement dans l'espace, et il y a beaucoup de choses sur l'univers que nous ne comprenons pas.
Les robots ne sont pas encore omniprésents dans les rues, et la plupart d'entre nous n'ont pas encore de conversations quotidiennes avec l'intelligence artificielle. Les gens continueront à mourir de maladies, nous ne pouvons toujours pas accéder facilement à l'espace, et il y a encore de nombreux mystères dans l'univers que nous ne comprenons pas.
Et pourtant, nous avons récemment construit des systèmes qui sont plus intelligents que les gens à bien des égards et qui sont capables d'amplifier considérablement la production des personnes qui les utilisent. La partie la moins probable du travail est derrière nous ; les découvertes scientifiques qui nous ont permis d'arriver à des systèmes comme GPT-4 et o3 ont été durement acquises, mais nous mèneront très loin.
Cependant, nous avons récemment construit des systèmes qui sont plus intelligents que les humains à bien des égards, capables d'amplifier de manière significative la production des utilisateurs. La partie qui semblait la moins réalisable de ce travail a déjà été accomplie ; les idées scientifiques qui ont donné naissance à des systèmes comme GPT-4 et o3 sont difficiles à obtenir, mais elles nous mèneront très loin.
L'IA contribuera au monde de nombreuses manières, mais les gains en qualité de vie grâce à l'IA qui stimule des progrès scientifiques plus rapides et une productivité accrue seront énormes ; l'avenir peut être beaucoup meilleur que le présent. Le progrès scientifique est le principal moteur du progrès global ; il est extrêmement excitant de penser à combien nous pourrions avoir en plus.
人工智能将从多方面为世界造贡献,但由人工智能推动的更快科学进步和更高生产力所带来的生活质量提升将是巨大的; 未来可能远比现在更加美好。 科学进步是整体进步的最大驱动力; Penser que je peux avoir plus est une chose très excitante.
Dans un sens large, ChatGPT est déjà plus puissant que n’importe quel humain qui ait jamais vécu. Des centaines de millions de personnes s’y fient chaque jour et pour des tâches de plus en plus importantes ; Une petite capacité nouvelle peut avoir un impact extrêmement positif ; Un petit désalignement multiplié par des centaines de millions de personnes peut avoir un impact négatif considérable.
从某种宏大的意义上说,ChatGPT已经比任何活过的人类都更强大。 每天有数亿人依赖它处理日益重要的任务; 一个微小的新功能可以产生巨大的积极影响; Et une petite imprécision, après avoir été amplifiée par les gens de mœurs, peut également provoquer une énorme ombre.
2025 a vu l'arrivée d'agents capables de réaliser un véritable travail cognitif ; écrire du code informatique ne sera jamais plus pareil. 2026 verra probablement l'arrivée de systèmes capables de trouver des idées nouvelles. 2027 pourrait voir l'arrivée de robots capables d'effectuer des tâches dans le monde réel.
L'année 2025 a vu la naissance d'agents capables de réaliser un véritable travail cognitif ; la manière d'écrire du code informatique en sera à jamais changée. En 2026, des systèmes capables de découvrir de nouvelles perspectives pourraient apparaître. En 2027, des robots capables d'exécuter des tâches dans le monde réel pourraient faire leur apparition.
Beaucoup plus de gens seront en mesure de créer des logiciels et de l’art. Mais le monde veut beaucoup plus des deux, et les experts seront probablement encore bien meilleurs que les novices, tant qu’ils adopteront les nouveaux outils. D’une manière générale, la capacité d’une personne à en faire beaucoup plus en 2030 qu’elle ne le pourrait en 2020 sera un changement frappant, et beaucoup de gens découvriront comment en bénéficier.
De nombreuses manières, les années 2030 ne seront peut-être pas radicalement différentes. Les gens aimeront toujours leur famille, exprimeront leur créativité, joueront à des jeux et nageront dans des lacs.
Dans les aspects les plus importants, les années 2030 ne seront peut-être pas fondamentalement différentes. Les gens continueront d'aimer leur famille, d'exprimer leur créativité, de jouer à des jeux et de nager dans des lacs.
Mais d'une manière encore très importante, les années 2030 seront probablement très différentes de tout ce qui a précédé. Nous ne savons pas jusqu'où nous pouvons aller au-delà de l'intelligence humaine, mais nous sommes sur le point de le découvrir.
Mais dans certains aspects qui restent très importants, les années 2030 pourraient être radicalement différentes de toutes les époques précédentes. Nous ne savons pas jusqu'où nous pouvons dépasser l'intelligence humaine, mais nous allons bientôt trouver la réponse.
Dans les années 2030, l'intelligence et l'énergie—idées, et la capacité à réaliser des idées—deviendront incroyablement abondantes. Ces deux éléments ont longtemps été les limites fondamentales du progrès humain ; avec une intelligence et une énergie abondantes ( et une bonne gouvernance ), nous pouvons théoriquement avoir tout le reste.
Dans les années 2030, l'intelligence et l'énergie — c'est-à-dire les idées et la capacité à réaliser ces idées — deviendront extrêmement abondantes. Ces deux éléments ont longtemps été des facteurs limitants fondamentaux du progrès humain ; avec une abondance d'intelligence et d'énergie (ainsi qu'une bonne gouvernance), nous pourrions théoriquement avoir tout.
Nous vivons déjà avec une intelligence numérique incroyable, et après un choc initial, la plupart d’entre nous y sont assez habitués. Très rapidement, nous passons de l’étonnement que l’IA puisse générer un paragraphe magnifiquement écrit à la question de savoir quand elle peut générer un roman magnifiquement écrit ; ou de l’étonnement qu’il peut poser des diagnostics médicaux qui sauvent des vies à la question de savoir quand il peut développer des remèdes ; Ou de l’étonnement qu’il peut créer un petit programme informatique à se demander quand il peut créer une toute nouvelle entreprise. C’est ainsi que se passe la singularité : les merveilles deviennent routinières, puis les enjeux de table.
Les scientifiques nous disent déjà qu’ils sont deux ou trois fois plus productifs qu’ils ne l’étaient avant l’IA. L’IA avancée est intéressante pour de nombreuses raisons, mais peut-être que rien n’est aussi important que le fait que nous pouvons l’utiliser pour faire des recherches plus rapides sur l’IA. Nous pourrons peut-être découvrir de nouveaux substrats informatiques, de meilleurs algorithmes et qui sait quoi d’autre. Si nous pouvons faire une décennie de recherche en un an ou un mois, alors le rythme des progrès sera évidemment très différent.
我们已经听到科学家们说,他们的生产力是使用人工智慧智能之前的两到三倍。 先进的人工智慧智能之所以引人入胜,原因Il y en a beaucoup,但或许没有哪一点比我们能用它来Accélérer la recherche sur l’intelligence artificielle est plus important。 我们或许能够发现新的计算基底、更好的算法,以及天知道还有什么。 如果能在一个月或一年内完成十才能完成研究,那么进步的速度显然将截然不同。
À partir de maintenant, les outils que nous avons déjà construits nous aideront à trouver d’autres connaissances scientifiques et à créer de meilleurs systèmes d’IA. Bien sûr, ce n’est pas la même chose qu’un système d’IA qui met à jour son propre code de manière complètement autonome, mais il s’agit néanmoins d’une version larvaire de l’auto-amélioration récursive.
Il y a d’autres boucles auto-renforcées en jeu. La création de valeur économique a enclenché la construction d’infrastructures pour faire fonctionner ces systèmes d’IA de plus en plus puissants. Et les robots qui peuvent construire d’autres robots (and dans un certain sens, les centres de données qui peuvent construire d’autres datacenters) ne sont pas si loin.
D'autres boucles de renforcement de soi sont également en cours. La création de valeur économique a déclenché un effet de volant, poussant continuellement la construction d'infrastructures pour faire fonctionner ces systèmes d'intelligence artificielle de plus en plus puissants. Et des robots capables de fabriquer d'autres robots (dans un certain sens, des centres de données capables de construire d'autres centres de données) ne sont pas non plus hors de portée.
Si nous devons fabriquer le premier million de robots humanoïdes à l’ancienne, alors ils peuvent faire fonctionner toute la chaîne d’approvisionnement – creuser et affiner les minéraux, conduire des camions, faire fonctionner des usines, etc Pour construire plus de robots, qui peuvent construire plus d’installations de fabrication de puces, de centres de données, etc., alors le taux de progrès sera évidemment très différent.
Alors que la production des centres de données devient automatisée, le coût de l'intelligence devrait finalement converger vers le coût de l'électricité. (Les gens se demandent souvent combien d'énergie une requête ChatGPT utilise ; la requête moyenne utilise environ 0,34 watt-heure, soit ce qu'un four utiliserait en un peu plus d'une seconde, ou ce qu'une ampoule à haute efficacité utiliserait en quelques minutes. Elle utilise également environ 0,000085 gallons d'eau ; à peu près un quinzième d'une cuillère à café.)
Avec l'automatisation de la production des centres de données, le coût de l'intelligence devrait finalement se rapprocher du coût de l'électricité. (Les gens se demandent souvent combien d'énergie consomme une requête ChatGPT ; en moyenne, une requête consomme environ 0,34 watt-heure, ce qui équivaut à un peu plus d'une seconde d'utilisation d'un four ou à quelques minutes d'utilisation d'une ampoule à haute efficacité. Elle consomme également environ 0,000085 gallon d'eau, ce qui équivaut à un quinzième d'une cuillère à café.)
技术进步的速度将持续加快,而人类适应几乎任何事物的能力也将一如既往。 过程中会有非常艰难的部分,比如整类工作的消失,但另一方面,世界将变得如此富且迅速,以於于我们能够认真考虑以前从未osez penser au nouveau concept de politique。 我们可能不会一蹴而就地采纳新的社会契约,但几十后回望,这些渐进的变化将汇聚成巨大的变革。
Si l'histoire est un guide, nous trouverons de nouvelles choses à faire et de nouvelles choses à désirer, et nous assimilerons rapidement de nouveaux outils ( le changement d'emploi après la révolution industrielle est un bon exemple récent ). Les attentes augmenteront, mais les capacités augmenteront tout aussi rapidement, et nous obtiendrons tous de meilleures choses. Nous construirons des choses de plus en plus merveilleuses les uns pour les autres. Les gens ont un avantage important et curieux à long terme sur l'IA : nous sommes câblés pour nous soucier des autres et de ce qu'ils pensent et font, et nous ne nous soucions pas beaucoup des machines.
il y a mille ans 的自给自足的农民看到我们许多人现在的工作,会说我们做的是"假工作 »,认为我们只是在玩游戏自娱自乐,因为我们有充足的食和难以想象的luxu。 我希望一千后我们看待未来的工作时,也会觉得它们是"非常假工作",但我毫不怀疑,从事这些工作的人会覺得它们无比重要和满足。
Le taux de nouvelles merveilles réalisées sera immense. Il est même difficile d’imaginer aujourd’hui ce que nous aurons découvert d’ici 2035 ; Peut-être passerons-nous de la résolution de la physique des hautes énergies une année au début de la colonisation spatiale l’année suivante ; ou d’une percée majeure en science des matériaux une année à de véritables interfaces cerveau-ordinateur à large bande passante l’année suivante. Beaucoup de gens choisiront de vivre leur vie à peu près de la même manière, mais au moins certaines personnes décideront probablement de « se brancher ».
Il y a de sérieux défis à relever, ainsi que d'énormes avantages. Nous devons résoudre les problèmes de sécurité, tant sur le plan technique que sociétal, mais il est ensuite crucial de distribuer largement l'accès à la superintelligence compte tenu des implications économiques. Le meilleur chemin à suivre pourrait être quelque chose comme :
Avec d'énormes avantages, il y a aussi des défis sévères à relever. Nous devons effectivement résoudre les problèmes de sécurité sur le plan technique et social, mais étant donné leur impact économique, il est également crucial de promouvoir largement l'accès à l'intelligence super intelligente. Le meilleur chemin à suivre pourrait être le suivant :
Résoudre le problème d'alignement, ce qui signifie que nous pouvons garantir de manière robuste que nous faisons en sorte que les systèmes d'IA apprennent et agissent en fonction de ce que nous voulons réellement collectivement à long terme (les flux de médias sociaux sont un exemple d'IA mal alignée ; les algorithmes qui les alimentent sont incroyables pour vous inciter à continuer de faire défiler et comprennent clairement vos préférences à court terme, mais ils le font en exploitant quelque chose dans votre cerveau qui remplace votre préférence à long terme).
Résoudre le problème d'alignement signifie que nous pouvons garantir de manière puissante que les systèmes d'intelligence artificielle apprennent et agissent selon notre volonté collective à long terme (le fil d'actualité des réseaux sociaux est un exemple d'intelligence artificielle non alignée ; les algorithmes qui les animent excellent à vous faire défiler sans cesse et comprennent clairement vos préférences à court terme, mais ils y parviennent en exploitant quelque chose dans votre cerveau qui écrase vos préférences à long terme).
Ensuite, concentrez-vous sur la fabrication d’une superintelligence bon marché, largement disponible et pas trop concentrée sur une personne, une entreprise ou un pays. La société est résiliente, créative et s’adapte rapidement. Si nous pouvons exploiter la volonté et la sagesse collectives des gens, alors, même si nous ferons beaucoup d’erreurs et que certaines choses tourneront vraiment mal, nous apprendrons et nous nous adapterons rapidement et serons capables de l’utiliser technologie pour obtenir un maximum d’avantages et un minimum d’inconvénients. Donner aux utilisateurs beaucoup de liberté, dans les limites larges que la société doit décider, semble très important. Plus tôt le monde pourra entamer une conversation sur ce que sont ces grandes limites et sur la façon dont nous définissons l’alignement collectif, mieux ce sera.
Nous (toute l'industrie, pas seulement OpenAI) construisons un cerveau pour le monde. Il sera hautement personnalisé et facile à utiliser pour chacun ; nous serons limités par de bonnes idées. Pendant longtemps, les techniciens du monde des startups ont moqué ceux que l'on appelle les "hommes d'idées" ; ceux qui ont des idées mais qui cherchent une équipe pour les réaliser. Maintenant, à mon avis, ils s'apprêtent à connaître leur printemps.
OpenAI, c’est beaucoup de choses maintenant, mais avant toute chose, nous sommes une société de recherche sur la superintelligence. Nous avons beaucoup de travail devant nous, mais la majeure partie du chemin devant nous est maintenant éclairée et les zones sombres s’éloignent rapidement. Nous nous sentons extraordinairement reconnaissants de pouvoir faire ce que nous faisons.
Aujourd'hui, OpenAI occupe plusieurs fonctions, mais d'abord, nous sommes une entreprise de recherche en super-intelligence. Il reste encore beaucoup de travail à faire devant nous, mais la plupart du chemin est déjà éclairé, et les zones sombres reculent rapidement. Nous sommes extrêmement reconnaissants de pouvoir nous engager dans cette entreprise.
L'intelligence trop bon marché pour être mesurée est à notre portée. Cela peut sembler fou à dire, mais si nous vous avions dit en 2020 que nous serions là où nous en sommes aujourd'hui, cela semblait probablement plus fou que nos prédictions actuelles pour 2030.
L'intelligence à un prix si bas qu'elle est inimaginable est à portée de main. Cela peut sembler fou, mais si nous vous avions dit en 2020 que nous atteindrions le niveau d'aujourd'hui, cela aurait pu paraître plus fou que nos prévisions pour 2030.
Puisse-nous évoluer en douceur, de manière exponentielle et sans heurts à travers la superintelligence.
Puissions-nous avancer vers l'ère de l'intelligence super intelligente de manière stable, exponentielle et sans vagues.
Le contenu est fourni à titre de référence uniquement, il ne s'agit pas d'une sollicitation ou d'une offre. Aucun conseil en investissement, fiscalité ou juridique n'est fourni. Consultez l'Avertissement pour plus de détails sur les risques.
Cela me rappelle le poème "Ne rentrez pas doucement dans cette bonne nuit" de Dylan Thomas, poète gallois.
"Singularité douce", est la main du destin qui arrive silencieusement, douce mais irrésistible, tout comme un vieil homme mourant peut doucement entrer dans cette "bonne nuit", invitant calmement l'humanité à plonger dans l'inconnu.
L'humanité ne criera peut-être pas en résistance aux marées du destin, mais plutôt comme un vieil homme dans le crépuscule, avec une certaine curiosité et soumission, englouti doucement par le point de singularité.
Avant de lire Altman, nous devrions murmurer cette phrase du poème :
N'entrez pas doucement dans cette bonne nuit ;
rage, rage contre l'extinction de la lumière
Voici le texte complet du blog, en chinois et en anglais :
La Singularité Douce
Sam Altman
Sam Ultraman
Nous avons dépassé l'horizon des événements ; le décollage a commencé. L'humanité est proche de construire une superintelligence numérique, et jusqu'à présent, c'est beaucoup moins étrange que cela ne devrait l'être.
Nous avons déjà dépassé l'horizon des événements ; le décollage a déjà commencé. L'humanité est sur le point de construire une super-intelligence numérique, et pour l'instant, sa forme n'est pas aussi étrange que nous l'imaginions.
Les robots ne marchent pas encore dans les rues, et la plupart d'entre nous ne parlent pas à l'IA toute la journée. Les gens meurent encore de maladies, nous ne pouvons toujours pas aller facilement dans l'espace, et il y a beaucoup de choses sur l'univers que nous ne comprenons pas.
Les robots ne sont pas encore omniprésents dans les rues, et la plupart d'entre nous n'ont pas encore de conversations quotidiennes avec l'intelligence artificielle. Les gens continueront à mourir de maladies, nous ne pouvons toujours pas accéder facilement à l'espace, et il y a encore de nombreux mystères dans l'univers que nous ne comprenons pas.
Et pourtant, nous avons récemment construit des systèmes qui sont plus intelligents que les gens à bien des égards et qui sont capables d'amplifier considérablement la production des personnes qui les utilisent. La partie la moins probable du travail est derrière nous ; les découvertes scientifiques qui nous ont permis d'arriver à des systèmes comme GPT-4 et o3 ont été durement acquises, mais nous mèneront très loin.
Cependant, nous avons récemment construit des systèmes qui sont plus intelligents que les humains à bien des égards, capables d'amplifier de manière significative la production des utilisateurs. La partie qui semblait la moins réalisable de ce travail a déjà été accomplie ; les idées scientifiques qui ont donné naissance à des systèmes comme GPT-4 et o3 sont difficiles à obtenir, mais elles nous mèneront très loin.
L'IA contribuera au monde de nombreuses manières, mais les gains en qualité de vie grâce à l'IA qui stimule des progrès scientifiques plus rapides et une productivité accrue seront énormes ; l'avenir peut être beaucoup meilleur que le présent. Le progrès scientifique est le principal moteur du progrès global ; il est extrêmement excitant de penser à combien nous pourrions avoir en plus.
人工智能将从多方面为世界造贡献,但由人工智能推动的更快科学进步和更高生产力所带来的生活质量提升将是巨大的; 未来可能远比现在更加美好。 科学进步是整体进步的最大驱动力; Penser que je peux avoir plus est une chose très excitante.
Dans un sens large, ChatGPT est déjà plus puissant que n’importe quel humain qui ait jamais vécu. Des centaines de millions de personnes s’y fient chaque jour et pour des tâches de plus en plus importantes ; Une petite capacité nouvelle peut avoir un impact extrêmement positif ; Un petit désalignement multiplié par des centaines de millions de personnes peut avoir un impact négatif considérable.
从某种宏大的意义上说,ChatGPT已经比任何活过的人类都更强大。 每天有数亿人依赖它处理日益重要的任务; 一个微小的新功能可以产生巨大的积极影响; Et une petite imprécision, après avoir été amplifiée par les gens de mœurs, peut également provoquer une énorme ombre.
2025 a vu l'arrivée d'agents capables de réaliser un véritable travail cognitif ; écrire du code informatique ne sera jamais plus pareil. 2026 verra probablement l'arrivée de systèmes capables de trouver des idées nouvelles. 2027 pourrait voir l'arrivée de robots capables d'effectuer des tâches dans le monde réel.
L'année 2025 a vu la naissance d'agents capables de réaliser un véritable travail cognitif ; la manière d'écrire du code informatique en sera à jamais changée. En 2026, des systèmes capables de découvrir de nouvelles perspectives pourraient apparaître. En 2027, des robots capables d'exécuter des tâches dans le monde réel pourraient faire leur apparition.
Beaucoup plus de gens seront en mesure de créer des logiciels et de l’art. Mais le monde veut beaucoup plus des deux, et les experts seront probablement encore bien meilleurs que les novices, tant qu’ils adopteront les nouveaux outils. D’une manière générale, la capacité d’une personne à en faire beaucoup plus en 2030 qu’elle ne le pourrait en 2020 sera un changement frappant, et beaucoup de gens découvriront comment en bénéficier.
更多的人将能够创造软件和艺术。 但世界对这两者的需求也会大大增加,只要专家们拥抱新工具,他们可能仍然会比新手出色得多。 总的来说,一个人在2030年能完成工作的量远超2020年,这将是一个显座的变化,许多人会找到从中受益的方法。
De nombreuses manières, les années 2030 ne seront peut-être pas radicalement différentes. Les gens aimeront toujours leur famille, exprimeront leur créativité, joueront à des jeux et nageront dans des lacs.
Dans les aspects les plus importants, les années 2030 ne seront peut-être pas fondamentalement différentes. Les gens continueront d'aimer leur famille, d'exprimer leur créativité, de jouer à des jeux et de nager dans des lacs.
Mais d'une manière encore très importante, les années 2030 seront probablement très différentes de tout ce qui a précédé. Nous ne savons pas jusqu'où nous pouvons aller au-delà de l'intelligence humaine, mais nous sommes sur le point de le découvrir.
Mais dans certains aspects qui restent très importants, les années 2030 pourraient être radicalement différentes de toutes les époques précédentes. Nous ne savons pas jusqu'où nous pouvons dépasser l'intelligence humaine, mais nous allons bientôt trouver la réponse.
Dans les années 2030, l'intelligence et l'énergie—idées, et la capacité à réaliser des idées—deviendront incroyablement abondantes. Ces deux éléments ont longtemps été les limites fondamentales du progrès humain ; avec une intelligence et une énergie abondantes ( et une bonne gouvernance ), nous pouvons théoriquement avoir tout le reste.
Dans les années 2030, l'intelligence et l'énergie — c'est-à-dire les idées et la capacité à réaliser ces idées — deviendront extrêmement abondantes. Ces deux éléments ont longtemps été des facteurs limitants fondamentaux du progrès humain ; avec une abondance d'intelligence et d'énergie (ainsi qu'une bonne gouvernance), nous pourrions théoriquement avoir tout.
Nous vivons déjà avec une intelligence numérique incroyable, et après un choc initial, la plupart d’entre nous y sont assez habitués. Très rapidement, nous passons de l’étonnement que l’IA puisse générer un paragraphe magnifiquement écrit à la question de savoir quand elle peut générer un roman magnifiquement écrit ; ou de l’étonnement qu’il peut poser des diagnostics médicaux qui sauvent des vies à la question de savoir quand il peut développer des remèdes ; Ou de l’étonnement qu’il peut créer un petit programme informatique à se demander quand il peut créer une toute nouvelle entreprise. C’est ainsi que se passe la singularité : les merveilles deviennent routinières, puis les enjeux de table.
我们已经生活在令人难以置信的数字智能中,在最初的振惊之后,我们大多数人已经习以为常。 我们很快就从惊叹于AI能生成一段文笔优美的段落,转而思考它何时能写出一部文笔优美小说; 从惊叹于它能造猻疗诊断,转而思考它何时能研发出治方法; 从惊叹于它能创建一个小程序,转而思考它何时能创建一家全新的公司。 奇点就是这样发生的:奇迹变为常态,然后成为基本要求。
Les scientifiques nous disent déjà qu’ils sont deux ou trois fois plus productifs qu’ils ne l’étaient avant l’IA. L’IA avancée est intéressante pour de nombreuses raisons, mais peut-être que rien n’est aussi important que le fait que nous pouvons l’utiliser pour faire des recherches plus rapides sur l’IA. Nous pourrons peut-être découvrir de nouveaux substrats informatiques, de meilleurs algorithmes et qui sait quoi d’autre. Si nous pouvons faire une décennie de recherche en un an ou un mois, alors le rythme des progrès sera évidemment très différent.
我们已经听到科学家们说,他们的生产力是使用人工智慧智能之前的两到三倍。 先进的人工智慧智能之所以引人入胜,原因Il y en a beaucoup,但或许没有哪一点比我们能用它来Accélérer la recherche sur l’intelligence artificielle est plus important。 我们或许能够发现新的计算基底、更好的算法,以及天知道还有什么。 如果能在一个月或一年内完成十才能完成研究,那么进步的速度显然将截然不同。
À partir de maintenant, les outils que nous avons déjà construits nous aideront à trouver d’autres connaissances scientifiques et à créer de meilleurs systèmes d’IA. Bien sûr, ce n’est pas la même chose qu’un système d’IA qui met à jour son propre code de manière complètement autonome, mais il s’agit néanmoins d’une version larvaire de l’auto-amélioration récursive.
从现在开始,我们已经构建的工具将帮助我们发现更深入的科学见解,并协助我们创造更优秀的人工智能系统。 当然,这与一个人工智能系统完全自主地更新自己的代码并非一回事,但这已是递归式自我改进的雏形。
Il y a d’autres boucles auto-renforcées en jeu. La création de valeur économique a enclenché la construction d’infrastructures pour faire fonctionner ces systèmes d’IA de plus en plus puissants. Et les robots qui peuvent construire d’autres robots (and dans un certain sens, les centres de données qui peuvent construire d’autres datacenters) ne sont pas si loin.
D'autres boucles de renforcement de soi sont également en cours. La création de valeur économique a déclenché un effet de volant, poussant continuellement la construction d'infrastructures pour faire fonctionner ces systèmes d'intelligence artificielle de plus en plus puissants. Et des robots capables de fabriquer d'autres robots (dans un certain sens, des centres de données capables de construire d'autres centres de données) ne sont pas non plus hors de portée.
Si nous devons fabriquer le premier million de robots humanoïdes à l’ancienne, alors ils peuvent faire fonctionner toute la chaîne d’approvisionnement – creuser et affiner les minéraux, conduire des camions, faire fonctionner des usines, etc Pour construire plus de robots, qui peuvent construire plus d’installations de fabrication de puces, de centres de données, etc., alors le taux de progrès sera évidemment très différent.
如果我们必须用传统方式制造出最初的一百万个类人机器人,但之后它们能够运营整个供应链——挖掘和精炼矿物、驾驶卡车、运营工厂等等——来制造更多的机器人,而这些机器人又能建更多的chip片制造厂、数据中心等,那么进步的速度显然将截然不同。
Alors que la production des centres de données devient automatisée, le coût de l'intelligence devrait finalement converger vers le coût de l'électricité. (Les gens se demandent souvent combien d'énergie une requête ChatGPT utilise ; la requête moyenne utilise environ 0,34 watt-heure, soit ce qu'un four utiliserait en un peu plus d'une seconde, ou ce qu'une ampoule à haute efficacité utiliserait en quelques minutes. Elle utilise également environ 0,000085 gallons d'eau ; à peu près un quinzième d'une cuillère à café.)
Avec l'automatisation de la production des centres de données, le coût de l'intelligence devrait finalement se rapprocher du coût de l'électricité. (Les gens se demandent souvent combien d'énergie consomme une requête ChatGPT ; en moyenne, une requête consomme environ 0,34 watt-heure, ce qui équivaut à un peu plus d'une seconde d'utilisation d'un four ou à quelques minutes d'utilisation d'une ampoule à haute efficacité. Elle consomme également environ 0,000085 gallon d'eau, ce qui équivaut à un quinzième d'une cuillère à café.)
技术进步的速度将持续加快,而人类适应几乎任何事物的能力也将一如既往。 过程中会有非常艰难的部分,比如整类工作的消失,但另一方面,世界将变得如此富且迅速,以於于我们能够认真考虑以前从未osez penser au nouveau concept de politique。 我们可能不会一蹴而就地采纳新的社会契约,但几十后回望,这些渐进的变化将汇聚成巨大的变革。
Si l'histoire est un guide, nous trouverons de nouvelles choses à faire et de nouvelles choses à désirer, et nous assimilerons rapidement de nouveaux outils ( le changement d'emploi après la révolution industrielle est un bon exemple récent ). Les attentes augmenteront, mais les capacités augmenteront tout aussi rapidement, et nous obtiendrons tous de meilleures choses. Nous construirons des choses de plus en plus merveilleuses les uns pour les autres. Les gens ont un avantage important et curieux à long terme sur l'IA : nous sommes câblés pour nous soucier des autres et de ce qu'ils pensent et font, et nous ne nous soucions pas beaucoup des machines.
如果历史可为借鉴,我们将找到新事去,产生新需求,并迅速absorbant 新工具(工业revolution后的职业变迁是一个很好的一般的例子)。 期望会提高,但能力也会同样快速了提高,我们都会得到更好的东西。 我们将为彼此创造出越来越beautiful things。 与人工智能相比,人类拥有一种长期、重要且奇特的优势 :我们的天性决定了我们在caring 人以及人的所思所为,而对机器则不那么在乎。
il y a mille ans 的自给自足的农民看到我们许多人现在的工作,会说我们做的是"假工作 »,认为我们只是在玩游戏自娱自乐,因为我们有充足的食和难以想象的luxu。 我希望一千后我们看待未来的工作时,也会觉得它们是"非常假工作",但我毫不怀疑,从事这些工作的人会覺得它们无比重要和满足。
Le taux de nouvelles merveilles réalisées sera immense. Il est même difficile d’imaginer aujourd’hui ce que nous aurons découvert d’ici 2035 ; Peut-être passerons-nous de la résolution de la physique des hautes énergies une année au début de la colonisation spatiale l’année suivante ; ou d’une percée majeure en science des matériaux une année à de véritables interfaces cerveau-ordinateur à large bande passante l’année suivante. Beaucoup de gens choisiront de vivre leur vie à peu près de la même manière, mais au moins certaines personnes décideront probablement de « se brancher ».
新奇迹实现的速度将是巨大的。 Aujourd’hui我们甚至难以想象到2035年会有什么发现 ; 也许我们会在一年内解决高能物理问题,然后在下年开启太空colony ; 或者在年内得重大材料科学breakthrough,然后在下年实现真高band 宽脑机接口。 许多人会选择以大致相同的方式生活,但至少有些人可能会决定"接入"。
展望未来,这一切听起来似乎难以理解。 但亲身经历时,可能会覺得shock但尚可应对。 从相对论的视角看,奇点是点滴发生的,fusion is 缓慢进行的。 我们正攀登在指数级技术进步的漫长arc线上 ; 前看总是显得陡,后看则显得平,but 它是一条平滑的曲线。 (回想一下2020年,如果有人说2025年将出现接近通用人工智慧智能的东西,听起来会是什么感觉,再对比一下过去5年实际的经历。 ）
Il y a de sérieux défis à relever, ainsi que d'énormes avantages. Nous devons résoudre les problèmes de sécurité, tant sur le plan technique que sociétal, mais il est ensuite crucial de distribuer largement l'accès à la superintelligence compte tenu des implications économiques. Le meilleur chemin à suivre pourrait être quelque chose comme :
Avec d'énormes avantages, il y a aussi des défis sévères à relever. Nous devons effectivement résoudre les problèmes de sécurité sur le plan technique et social, mais étant donné leur impact économique, il est également crucial de promouvoir largement l'accès à l'intelligence super intelligente. Le meilleur chemin à suivre pourrait être le suivant :
Résoudre le problème d'alignement, ce qui signifie que nous pouvons garantir de manière robuste que nous faisons en sorte que les systèmes d'IA apprennent et agissent en fonction de ce que nous voulons réellement collectivement à long terme (les flux de médias sociaux sont un exemple d'IA mal alignée ; les algorithmes qui les alimentent sont incroyables pour vous inciter à continuer de faire défiler et comprennent clairement vos préférences à court terme, mais ils le font en exploitant quelque chose dans votre cerveau qui remplace votre préférence à long terme).
Résoudre le problème d'alignement signifie que nous pouvons garantir de manière puissante que les systèmes d'intelligence artificielle apprennent et agissent selon notre volonté collective à long terme (le fil d'actualité des réseaux sociaux est un exemple d'intelligence artificielle non alignée ; les algorithmes qui les animent excellent à vous faire défiler sans cesse et comprennent clairement vos préférences à court terme, mais ils y parviennent en exploitant quelque chose dans votre cerveau qui écrase vos préférences à long terme).
Ensuite, concentrez-vous sur la fabrication d’une superintelligence bon marché, largement disponible et pas trop concentrée sur une personne, une entreprise ou un pays. La société est résiliente, créative et s’adapte rapidement. Si nous pouvons exploiter la volonté et la sagesse collectives des gens, alors, même si nous ferons beaucoup d’erreurs et que certaines choses tourneront vraiment mal, nous apprendrons et nous nous adapterons rapidement et serons capables de l’utiliser technologie pour obtenir un maximum d’avantages et un minimum d’inconvénients. Donner aux utilisateurs beaucoup de liberté, dans les limites larges que la société doit décider, semble très important. Plus tôt le monde pourra entamer une conversation sur ce que sont ces grandes limites et sur la façon dont nous définissons l’alignement collectif, mieux ce sera.
然后,专注于让超级智能变得廉价、普及,并且不过度集中于任何个人、公司或国家。 社会具有韧性、创造力并且适应快速。 如果我们能够驾驭人类的集体意愿和智慧,那么尽管我们会犯很多错误,有些事情会出错,但我们将迅速学习和适应,并能够利用这项技术来获得最大的好处和最小的坏处。 在社会必须决定的广泛boundary 内,给予用户大量的自由似乎非常重要。 世界越早开始就这些广泛boundary 是什么以及我们如何定义集体对齐展开对话,就越好。
Nous (toute l'industrie, pas seulement OpenAI) construisons un cerveau pour le monde. Il sera hautement personnalisé et facile à utiliser pour chacun ; nous serons limités par de bonnes idées. Pendant longtemps, les techniciens du monde des startups ont moqué ceux que l'on appelle les "hommes d'idées" ; ceux qui ont des idées mais qui cherchent une équipe pour les réaliser. Maintenant, à mon avis, ils s'apprêtent à connaître leur printemps.
OpenAI, c’est beaucoup de choses maintenant, mais avant toute chose, nous sommes une société de recherche sur la superintelligence. Nous avons beaucoup de travail devant nous, mais la majeure partie du chemin devant nous est maintenant éclairée et les zones sombres s’éloignent rapidement. Nous nous sentons extraordinairement reconnaissants de pouvoir faire ce que nous faisons.
Aujourd'hui, OpenAI occupe plusieurs fonctions, mais d'abord, nous sommes une entreprise de recherche en super-intelligence. Il reste encore beaucoup de travail à faire devant nous, mais la plupart du chemin est déjà éclairé, et les zones sombres reculent rapidement. Nous sommes extrêmement reconnaissants de pouvoir nous engager dans cette entreprise.
L'intelligence trop bon marché pour être mesurée est à notre portée. Cela peut sembler fou à dire, mais si nous vous avions dit en 2020 que nous serions là où nous en sommes aujourd'hui, cela semblait probablement plus fou que nos prédictions actuelles pour 2030.
L'intelligence à un prix si bas qu'elle est inimaginable est à portée de main. Cela peut sembler fou, mais si nous vous avions dit en 2020 que nous atteindrions le niveau d'aujourd'hui, cela aurait pu paraître plus fou que nos prévisions pour 2030.
Puisse-nous évoluer en douceur, de manière exponentielle et sans heurts à travers la superintelligence.
Puissions-nous avancer vers l'ère de l'intelligence super intelligente de manière stable, exponentielle et sans vagues.