Deixa-me lembrar do poema "Não entres docemente naquela boa noite" do poeta galês Dylan Thomas.
"Singularidade suave" é a mão do destino que chega silenciosamente, suave, mas irresistível, assim como um velho moribundo pode entrar suavemente na "boa noite" que o aguarda, convidando a humanidade a adentrar o abismo desconhecido.
A humanidade talvez não grite em resistência às marés do destino, mas, como um velho ao crepúsculo, com uma pitada de curiosidade e conformidade, será suavemente consumida pelo ponto de singularidade.
Antes de ler Altman, devemos recitar em silêncio esta linha do poema:
Não vá suavemente naquela boa noite; ira, ira contra a morte da luz
Segue o texto completo do blog, com tradução em chinês e inglês:
The Gentle Singularity cúmplice da singularidade Sam Altman Sam Ultraman Já ultrapassámos o horizonte de eventos; a descolagem começou. A humanidade está perto de construir uma superinteligência digital, e até agora é muito menos estranha do que parece.
Já cruzamos o horizonte de eventos; a decolagem já começou. A humanidade está prestes a construir uma superinteligência digital, e pelo menos até agora, a sua forma está longe de ser tão estranha quanto imaginávamos.
Os robôs ainda não estão a andar nas ruas, nem a maioria de nós está a conversar com IA o dia todo. As pessoas ainda morrem de doenças, ainda não conseguimos ir facilmente ao espaço, e há muito sobre o universo que não entendemos.
Os robôs ainda não estão espalhados pelas ruas, e a maioria de nós ainda não passa o dia todo conversando com a inteligência artificial. As pessoas ainda morrem de doenças, ainda não conseguimos entrar facilmente no espaço, e há muitos mistérios no universo que ainda não compreendemos.
E, no entanto, recentemente construímos sistemas que são mais inteligentes do que as pessoas em muitos aspectos e que conseguem amplificar significativamente a produção das pessoas que os utilizam. A parte menos provável do trabalho está atrás de nós; as percepções científicas que nos levaram a sistemas como o GPT-4 e o o3 foram duramente conquistadas, mas nos levarão muito longe.
No entanto, recentemente construímos sistemas que são mais inteligentes do que os humanos em muitos aspectos, capazes de amplificar significativamente a produção dos usuários. A parte que parecia mais impossível de realizar neste trabalho já foi concluída; as percepções científicas que geraram sistemas como o GPT-4 e o o3 não foram fáceis de alcançar, mas elas nos levarão muito longe.
A IA contribuirá para o mundo de muitas formas, mas os ganhos para a qualidade de vida da IA que impulsionam o progresso científico mais rápido e o aumento da produtividade serão enormes; O futuro pode ser muito melhor do que o presente. O progresso científico é o principal motor do progresso global; É extremamente emocionante pensar em quanto mais poderíamos ter.
A inteligência artificial contribuirá para o mundo de várias maneiras, mas a melhoria na qualidade de vida trazida pelo avanço científico mais rápido e pela maior produtividade impulsionada pela inteligência artificial será enorme; o futuro pode ser muito melhor do que agora. O avanço científico é o maior motor do progresso global; imaginar que podemos ter mais é algo muito emocionante.
De certa forma, o ChatGPT já é mais poderoso do que qualquer humano que já viveu. Centenas de milhões de pessoas dependem dele todos os dias e para tarefas cada vez mais importantes; uma pequena nova capacidade pode criar um impacto extremamente positivo; um pequeno desalinhamento multiplicado por centenas de milhões de pessoas pode causar um grande impacto negativo.
De certa forma grandiosa, o ChatGPT já é mais poderoso do que qualquer ser humano que já viveu. Centenas de milhões de pessoas dependem dele diariamente para lidar com tarefas cada vez mais importantes; uma nova funcionalidade pequena pode ter um enorme impacto positivo; e um pequeno erro, quando amplificado por centenas de milhões de pessoas, também pode causar um enorme impacto negativo.
2025 assistiu à chegada de agentes que podem realizar trabalho cognitivo real; escrever código de computador nunca mais será o mesmo. 2026 provavelmente verá a chegada de sistemas que podem descobrir novas percepções. 2027 pode ver a chegada de robôs que podem realizar tarefas no mundo real.
Muito mais pessoas poderão criar software e arte. Mas o mundo quer muito mais de ambos, e os especialistas provavelmente ainda serão muito melhores do que os novatos, desde que adotem as novas ferramentas. De modo geral, a capacidade de uma pessoa fazer muito mais em 2030 do que poderia em 2020 será uma mudança marcante, e muitos descobrirão como se beneficiar disso.
De muitas maneiras importantes, a década de 2030 pode não ser tão diferente. As pessoas continuarão a amar suas famílias, expressar sua criatividade, jogar e nadar em lagos.
Em termos mais importantes, a década de 2030 pode não ter diferenças radicais. As pessoas ainda amarão suas famílias, expressarão criatividade, jogarão jogos e nadarão em lagos.
Mas, de maneiras ainda muito importantes, a década de 2030 provavelmente será incrivelmente diferente de qualquer época anterior. Não sabemos até onde podemos ir além da inteligência humana, mas estamos prestes a descobrir.
Mas em alguns aspectos que ainda são muito importantes, a década de 2030 pode ser radicalmente diferente de qualquer época anterior. Não sabemos até onde podemos ultrapassar a inteligência humana, mas estamos prestes a encontrar a resposta.
Na década de 2030, a inteligência e a energia – ideias e a capacidade de fazer as ideias acontecerem – vão se tornar extremamente abundantes. Estes dois têm sido os limitadores fundamentais do progresso humano há muito tempo; Com inteligência e energia abundantes (and boas governance), teoricamente podemos ter qualquer outra coisa.
Na década de 2030, a inteligência e a energia – ou seja, as ideias e a capacidade de pensar sobre elas – serão abundantes. 这两者长期以来一直是人类进步的根本限制factor; Com muita inteligência e energia (e boa governança), posso ter tudo.
Já vivemos com uma inteligência digital incrível, e depois de algum choque inicial, a maioria de nós está bastante acostumada com isso. Muito rapidamente, passamos de espantados que a IA pode gerar um parágrafo lindamente escrito para nos perguntarmos quando ela pode gerar um romance lindamente escrito; ou de se espantar com o facto de poder fazer diagnósticos médicos que salvam vidas e de se perguntar quando pode desenvolver as curas; ou de se surpreender pode criar um pequeno programa de computador para se perguntar quando pode criar uma empresa totalmente nova. É assim que vai a singularidade: as maravilhas tornam-se rotina, e depois as apostas de mesa.
Já ouvimos de cientistas que eles são duas ou três vezes mais produtivos do que eram antes da IA. A IA avançada é interessante por muitas razões, mas talvez nada seja tão significativo quanto o fato de que podemos usá-la para fazer pesquisas em IA mais rapidamente. Podemos ser capazes de descobrir novos substratos computacionais, melhores algoritmos, e quem sabe o que mais. Se conseguirmos fazer uma década de pesquisa em um ano, ou em um mês, então a taxa de progresso será obviamente bastante diferente.
我们已经听到科学家们说,他们的生产力是使用人工智慧智能之前的两到三倍。 先进的人工智慧智能之所以引人入胜,原因There are many,但或许没有哪一点比我们能用它来Acelerar a pesquisa em inteligência artificial é mais importante。 我们或许能够发现新的计算基底、更好的算法,以及天知道还有什么。 如果能在一个月或一年内完成十才能完成研究,那么进步的速度显然将截然不同。
A partir daqui, as ferramentas que já construímos nos ajudarão a encontrar mais insights científicos e nos auxiliarão na criação de melhores sistemas de IA. Claro que isso não é a mesma coisa que um sistema de IA atualizar seu próprio código de forma totalmente autônoma, mas, mesmo assim, esta é uma versão larval de autoaperfeiçoamento recursivo.
A partir de agora, as ferramentas que construímos nos ajudarão a descobrir insights científicos mais profundos e a criar sistemas de inteligência artificial mais avançados. Claro, isto não é a mesma coisa que um sistema de inteligência artificial atualizar o seu próprio código de forma totalmente autónoma, mas já é uma forma de autoaperfeiçoamento recursivo.
Há outros loops auto-reforçadores em jogo. A criação de valor econômico deu início a um volante de construção de infraestrutura composta para executar esses sistemas de IA cada vez mais poderosos. E os robôs que podem construir outros robôs (and de alguma forma, os datacenters que podem construir outros datacenters) não estão tão longe.
Há outros ciclos de auto-reforço em ação. A criação de valor econômico já iniciou um efeito de roda-viva, impulsionando continuamente a construção de infraestrutura para operar esses sistemas de inteligência artificial cada vez mais poderosos. E robôs que podem fabricar outros robôs (de certa forma, data centers que podem construir outros data centers) também não estão fora de alcance.
Se tivermos que fazer o primeiro milhão de robôs humanoides da maneira antiga, mas depois eles puderem operar toda a cadeia de suprimentos—cavando e refinando minerais, dirigindo caminhões, administrando fábricas, etc.—para construir mais robôs, que podem construir mais instalações de fabricação de chips, centros de dados, etc., então a taxa de progresso será obviamente bastante diferente.
À medida que a produção do datacenter é automatizada, o custo da inteligência deve eventualmente convergir para perto do custo da eletricidade. (People muitas vezes estão curiosos sobre quanta energia uma consulta ChatGPT usa; A consulta média usa cerca de 0,34 watt-hora, sobre o que um forno usaria em pouco mais de um segundo, ou uma lâmpada de alta eficiência usaria em alguns minutos. Ele também usa cerca de 0,000085 galões de água; aproximadamente um décimo quinto de uma colher de chá.)
Com a automação da produção dos centros de dados, o custo da inteligência deve eventualmente se aproximar do custo da eletricidade. (As pessoas costumam se perguntar quanto de energia consome uma consulta do ChatGPT; uma consulta média consome cerca de 0,34 watt-hora, o que equivale a um pouco mais do que um segundo de uso de um forno ou alguns minutos de uso de uma lâmpada eficiente. Ela também consome cerca de 0,000085 galões de água; aproximadamente equivalente a um décimo quinto de uma colher de chá.)
技术进步的速度将持续加快,而人类适应几乎任何事物的能力也将一如既往。 过程中会有非常艰难的部分,比如整类工作的消失,但另一方面,世界将变得如此富且迅速,以於于我们能够认真考虑以前从未dare pensar no novo conceito de política。 我们可能不会一蹴而就地采纳新的社会契约,但几十后回望,这些渐进的变化将汇聚成巨大的变革。
Se a história é um guia, vamos descobrir coisas novas para fazer e coisas novas para querer, e assimilar novas ferramentas rapidamente (job mudar depois que a revolução industrial é um bom recente example). As expectativas vão subir, mas as capacidades vão subir igualmente depressa, e todos nós vamos ter coisas melhores. Vamos construir coisas cada vez mais maravilhosas uns para os outros. As pessoas têm uma vantagem importante e curiosa a longo prazo sobre a IA: estamos programados para nos preocuparmos com as outras pessoas e com o que elas pensam e fazem, e não nos importamos muito com as máquinas.
mil anos atrás 的自给自足的农民看到我们许多人现在的工作,会说我们做的是"假工作",认为我们只是在玩游戏自娱自乐,因为我们有充足的食和难以想象的luxu。 我希望一千后我们看待未来的工作时,也会觉得它们是"非常假工作",但我毫不怀疑,从事这些工作的人会覺得它们无比重要和满足。
A taxa de novas maravilhas a serem alcançadas será imensa. É difícil até mesmo imaginar hoje o que teremos descoberto até 2035; talvez passemos de resolver física de alta energia um ano para começar a colonização do espaço no ano seguinte; ou de um grande avanço em ciência dos materiais um ano para verdadeiras interfaces cérebro-computador de alta largura de banda no ano seguinte. Muitas pessoas escolherão viver suas vidas de maneira muito semelhante, mas pelo menos algumas pessoas provavelmente decidirão "conectar-se".
A velocidade com que novos milagres serão realizados será enorme. Hoje, é difícil até imaginarmos quais descobertas teremos em 2035; talvez consigamos resolver problemas de física de alta energia em um ano e, no ano seguinte, iniciar a colonização do espaço; ou talvez façamos grandes avanços em ciência dos materiais em um ano e, no ano seguinte, realizemos interfaces cérebro-máquina de alta largura de banda. Muitas pessoas escolherão viver de maneira aproximadamente igual, mas pelo menos algumas poderão decidir "conectar-se".
展望未来,这一切听起来似乎难以理解。 但亲身经历时,可能会覺得shock但尚可应对。 从相对论的视角看,奇点是点滴发生的,fusion is 缓慢进行的。 我们正攀登在指数级技术进步的漫长arc线上; 前看总是显得陡,后看则显得平,but 它是一条平滑的曲线。 (回想一下2020年,如果有人说2025年将出现接近通用人工智慧智能的东西,听起来会是什么感觉,再对比一下过去5年实际的经历。 ）
Há sérios desafios a enfrentar, juntamente com as enormes vantagens. Precisamos resolver as questões de segurança, técnica e socialmente, mas então é extremamente importante distribuir amplamente o acesso à superinteligência, dadas as implicações econômicas. O melhor caminho a seguir pode ser algo como:
Com grandes benefícios, também há desafios severos a enfrentar. Precisamos realmente abordar as questões de segurança do ponto de vista tecnológico e social, mas, dado o seu impacto econômico, é igualmente crucial a ampla disseminação do acesso à superinteligência. O melhor caminho a seguir pode ser o seguinte:
Resolver o problema de alinhamento, significando que podemos garantir de forma robusta que conseguimos que os sistemas de IA aprendam e ajam em direção ao que realmente queremos coletivamente a longo prazo ( as feeds de redes sociais são um exemplo de IA desalinhada; os algoritmos que as impulsionam são incríveis em fazer você continuar a rolar e entender claramente suas preferências de curto prazo, mas fazem isso explorando algo no seu cérebro que anula sua preferência de longo prazo ).
Resolver problemas de alinhamento significa que podemos garantir de forma eficaz que os sistemas de inteligência artificial aprendam e ajam de acordo com a nossa vontade coletiva de longo prazo (o feed de informações das redes sociais é um exemplo de inteligência artificial não alinhada; os algoritmos que os impulsionam são excelentes em mantê-lo a rolar continuamente e conseguem entender claramente suas preferências de curto prazo, mas fazem isso aproveitando algo em seu cérebro que sobrepõe suas preferências de longo prazo).
Em seguida, concentre-se em tornar a superinteligência barata, amplamente disponível e não muito concentrada com qualquer pessoa, empresa ou país. A sociedade é resiliente, criativa e adapta-se rapidamente. Se pudermos aproveitar a vontade coletiva e a sabedoria das pessoas, então, embora cometemos muitos erros e algumas coisas vão dar muito errado, aprenderemos e nos adaptaremos rapidamente e seremos capazes de usar isso tecnologia para obter o máximo de vantagem e o mínimo de desvantagem. Dar aos utilizadores muita liberdade, dentro de limites amplos que a sociedade tem de decidir, parece muito importante. Quanto mais cedo o mundo puder iniciar uma conversa sobre quais são esses limites amplos e como definimos o alinhamento coletivo, melhor.
Estamos (todo o setor, não apenas a OpenAI) a construir um cérebro para o mundo. Será altamente personalizado e fácil de usar para todos; seremos limitados por boas ideias. Durante muito tempo, os técnicos do setor de startups zombaram dos "senhores das ideias"; aqueles que têm ideias mas estão à procura de uma equipa para as concretizar. Agora, na minha opinião, eles estão à beira de ver a sua primavera.
A OpenAI é muitas coisas agora, mas antes de qualquer outra coisa, somos uma empresa de pesquisa em superinteligência. Temos muito trabalho pela frente, mas a maior parte do caminho à nossa frente agora está iluminada, e as áreas escuras estão recuando rapidamente. Sentimos-nos extraordinariamente gratos por poder fazer o que fazemos.
Hoje em dia, a OpenAI desempenha várias funções, mas acima de tudo, somos uma empresa de pesquisa em inteligência superinteligente. Temos muito trabalho pela frente, mas a maior parte do caminho à nossa frente já está iluminado, e as áreas escuras estão rapidamente a recuar. Sentimo-nos imensamente gratos por poder trabalhar nesta causa.
Inteligência tão barata que não pode ser medida está bem ao nosso alcance. Isto pode parecer loucura dizer, mas se tivéssemos dito em 2020 que estaríamos onde estamos hoje, provavelmente soaria mais louco do que as nossas atuais previsões sobre 2030.
Inteligência tão barata que não pode ser medida está ao alcance das mãos. Pode parecer loucura dizer isso, mas se em 2020 lhe dissessemos que alcançaríamos o nível de hoje, isso poderia soar mais louco do que as nossas previsões para 2030.
Que possamos escalar de forma suave, exponencial e sem incidentes através da superinteligência.
Que possamos avançar de forma estável, exponencial e tranquila em direção à era da superinteligência.
O conteúdo serve apenas de referência e não constitui uma solicitação ou oferta. Não é prestado qualquer aconselhamento em matéria de investimento, fiscal ou jurídica. Consulte a Declaração de exoneração de responsabilidade para obter mais informações sobre os riscos.
Deixa-me lembrar do poema "Não entres docemente naquela boa noite" do poeta galês Dylan Thomas.
"Singularidade suave" é a mão do destino que chega silenciosamente, suave, mas irresistível, assim como um velho moribundo pode entrar suavemente na "boa noite" que o aguarda, convidando a humanidade a adentrar o abismo desconhecido.
A humanidade talvez não grite em resistência às marés do destino, mas, como um velho ao crepúsculo, com uma pitada de curiosidade e conformidade, será suavemente consumida pelo ponto de singularidade.
Antes de ler Altman, devemos recitar em silêncio esta linha do poema:
Não vá suavemente naquela boa noite;
ira, ira contra a morte da luz
Segue o texto completo do blog, com tradução em chinês e inglês:
The Gentle Singularity cúmplice da singularidade
Sam Altman
Sam Ultraman
Já ultrapassámos o horizonte de eventos; a descolagem começou. A humanidade está perto de construir uma superinteligência digital, e até agora é muito menos estranha do que parece.
Já cruzamos o horizonte de eventos; a decolagem já começou. A humanidade está prestes a construir uma superinteligência digital, e pelo menos até agora, a sua forma está longe de ser tão estranha quanto imaginávamos.
Os robôs ainda não estão a andar nas ruas, nem a maioria de nós está a conversar com IA o dia todo. As pessoas ainda morrem de doenças, ainda não conseguimos ir facilmente ao espaço, e há muito sobre o universo que não entendemos.
Os robôs ainda não estão espalhados pelas ruas, e a maioria de nós ainda não passa o dia todo conversando com a inteligência artificial. As pessoas ainda morrem de doenças, ainda não conseguimos entrar facilmente no espaço, e há muitos mistérios no universo que ainda não compreendemos.
E, no entanto, recentemente construímos sistemas que são mais inteligentes do que as pessoas em muitos aspectos e que conseguem amplificar significativamente a produção das pessoas que os utilizam. A parte menos provável do trabalho está atrás de nós; as percepções científicas que nos levaram a sistemas como o GPT-4 e o o3 foram duramente conquistadas, mas nos levarão muito longe.
No entanto, recentemente construímos sistemas que são mais inteligentes do que os humanos em muitos aspectos, capazes de amplificar significativamente a produção dos usuários. A parte que parecia mais impossível de realizar neste trabalho já foi concluída; as percepções científicas que geraram sistemas como o GPT-4 e o o3 não foram fáceis de alcançar, mas elas nos levarão muito longe.
A IA contribuirá para o mundo de muitas formas, mas os ganhos para a qualidade de vida da IA que impulsionam o progresso científico mais rápido e o aumento da produtividade serão enormes; O futuro pode ser muito melhor do que o presente. O progresso científico é o principal motor do progresso global; É extremamente emocionante pensar em quanto mais poderíamos ter.
A inteligência artificial contribuirá para o mundo de várias maneiras, mas a melhoria na qualidade de vida trazida pelo avanço científico mais rápido e pela maior produtividade impulsionada pela inteligência artificial será enorme; o futuro pode ser muito melhor do que agora. O avanço científico é o maior motor do progresso global; imaginar que podemos ter mais é algo muito emocionante.
De certa forma, o ChatGPT já é mais poderoso do que qualquer humano que já viveu. Centenas de milhões de pessoas dependem dele todos os dias e para tarefas cada vez mais importantes; uma pequena nova capacidade pode criar um impacto extremamente positivo; um pequeno desalinhamento multiplicado por centenas de milhões de pessoas pode causar um grande impacto negativo.
De certa forma grandiosa, o ChatGPT já é mais poderoso do que qualquer ser humano que já viveu. Centenas de milhões de pessoas dependem dele diariamente para lidar com tarefas cada vez mais importantes; uma nova funcionalidade pequena pode ter um enorme impacto positivo; e um pequeno erro, quando amplificado por centenas de milhões de pessoas, também pode causar um enorme impacto negativo.
2025 assistiu à chegada de agentes que podem realizar trabalho cognitivo real; escrever código de computador nunca mais será o mesmo. 2026 provavelmente verá a chegada de sistemas que podem descobrir novas percepções. 2027 pode ver a chegada de robôs que podem realizar tarefas no mundo real.
2025年见证了能够从事真正认知工作的智能体的诞生; 编写计算机代码的方式将从此改变。 2026年可能会出现能够发现新颖见解的系统。 2027年可能会出现能够在现实世界中执行任务的机器人。
Muito mais pessoas poderão criar software e arte. Mas o mundo quer muito mais de ambos, e os especialistas provavelmente ainda serão muito melhores do que os novatos, desde que adotem as novas ferramentas. De modo geral, a capacidade de uma pessoa fazer muito mais em 2030 do que poderia em 2020 será uma mudança marcante, e muitos descobrirão como se beneficiar disso.
更多的人将能够创造软件和艺术。 但世界对这两者的需求也会大大增加,只要专家们拥抱新工具,他们可能仍然会比新手出色得多。 总的来说,一个人在2030年能完成工作的量远超2020年,这将是一个显座的变化,许多人会找到从中受益的方法。
De muitas maneiras importantes, a década de 2030 pode não ser tão diferente. As pessoas continuarão a amar suas famílias, expressar sua criatividade, jogar e nadar em lagos.
Em termos mais importantes, a década de 2030 pode não ter diferenças radicais. As pessoas ainda amarão suas famílias, expressarão criatividade, jogarão jogos e nadarão em lagos.
Mas, de maneiras ainda muito importantes, a década de 2030 provavelmente será incrivelmente diferente de qualquer época anterior. Não sabemos até onde podemos ir além da inteligência humana, mas estamos prestes a descobrir.
Mas em alguns aspectos que ainda são muito importantes, a década de 2030 pode ser radicalmente diferente de qualquer época anterior. Não sabemos até onde podemos ultrapassar a inteligência humana, mas estamos prestes a encontrar a resposta.
Na década de 2030, a inteligência e a energia – ideias e a capacidade de fazer as ideias acontecerem – vão se tornar extremamente abundantes. Estes dois têm sido os limitadores fundamentais do progresso humano há muito tempo; Com inteligência e energia abundantes (and boas governance), teoricamente podemos ter qualquer outra coisa.
Na década de 2030, a inteligência e a energia – ou seja, as ideias e a capacidade de pensar sobre elas – serão abundantes. 这两者长期以来一直是人类进步的根本限制factor; Com muita inteligência e energia (e boa governança), posso ter tudo.
Já vivemos com uma inteligência digital incrível, e depois de algum choque inicial, a maioria de nós está bastante acostumada com isso. Muito rapidamente, passamos de espantados que a IA pode gerar um parágrafo lindamente escrito para nos perguntarmos quando ela pode gerar um romance lindamente escrito; ou de se espantar com o facto de poder fazer diagnósticos médicos que salvam vidas e de se perguntar quando pode desenvolver as curas; ou de se surpreender pode criar um pequeno programa de computador para se perguntar quando pode criar uma empresa totalmente nova. É assim que vai a singularidade: as maravilhas tornam-se rotina, e depois as apostas de mesa.
我们已经生活在令人难以置信的数字智能中,在最初的振惊之后,我们大多数人已经习以为常。 我们很快就从惊叹于AI能生成一段文笔优美的段落,转而思考它何时能写出一部文笔优美小说; 从惊叹于它能造猻疗诊断,转而思考它何时能研发出治方法; 从惊叹于它能创建一个小程序,转而思考它何时能创建一家全新的公司。 奇点就是这样发生的:奇迹变为常态,然后成为基本要求。
Já ouvimos de cientistas que eles são duas ou três vezes mais produtivos do que eram antes da IA. A IA avançada é interessante por muitas razões, mas talvez nada seja tão significativo quanto o fato de que podemos usá-la para fazer pesquisas em IA mais rapidamente. Podemos ser capazes de descobrir novos substratos computacionais, melhores algoritmos, e quem sabe o que mais. Se conseguirmos fazer uma década de pesquisa em um ano, ou em um mês, então a taxa de progresso será obviamente bastante diferente.
我们已经听到科学家们说,他们的生产力是使用人工智慧智能之前的两到三倍。 先进的人工智慧智能之所以引人入胜,原因There are many,但或许没有哪一点比我们能用它来Acelerar a pesquisa em inteligência artificial é mais importante。 我们或许能够发现新的计算基底、更好的算法,以及天知道还有什么。 如果能在一个月或一年内完成十才能完成研究,那么进步的速度显然将截然不同。
A partir daqui, as ferramentas que já construímos nos ajudarão a encontrar mais insights científicos e nos auxiliarão na criação de melhores sistemas de IA. Claro que isso não é a mesma coisa que um sistema de IA atualizar seu próprio código de forma totalmente autônoma, mas, mesmo assim, esta é uma versão larval de autoaperfeiçoamento recursivo.
A partir de agora, as ferramentas que construímos nos ajudarão a descobrir insights científicos mais profundos e a criar sistemas de inteligência artificial mais avançados. Claro, isto não é a mesma coisa que um sistema de inteligência artificial atualizar o seu próprio código de forma totalmente autónoma, mas já é uma forma de autoaperfeiçoamento recursivo.
Há outros loops auto-reforçadores em jogo. A criação de valor econômico deu início a um volante de construção de infraestrutura composta para executar esses sistemas de IA cada vez mais poderosos. E os robôs que podem construir outros robôs (and de alguma forma, os datacenters que podem construir outros datacenters) não estão tão longe.
Há outros ciclos de auto-reforço em ação. A criação de valor econômico já iniciou um efeito de roda-viva, impulsionando continuamente a construção de infraestrutura para operar esses sistemas de inteligência artificial cada vez mais poderosos. E robôs que podem fabricar outros robôs (de certa forma, data centers que podem construir outros data centers) também não estão fora de alcance.
Se tivermos que fazer o primeiro milhão de robôs humanoides da maneira antiga, mas depois eles puderem operar toda a cadeia de suprimentos—cavando e refinando minerais, dirigindo caminhões, administrando fábricas, etc.—para construir mais robôs, que podem construir mais instalações de fabricação de chips, centros de dados, etc., então a taxa de progresso será obviamente bastante diferente.
如果我们必须用传统方式制造出最初的一百万个类人机器人,但之后它们能够运营整个供应链——挖掘和精炼矿物、驾驶卡车、运营工厂等等——来制造更多的机器人,而这些机器人又能建更多的chip片制造厂、数据中心等,那么进步的速度显然将截然不同。
À medida que a produção do datacenter é automatizada, o custo da inteligência deve eventualmente convergir para perto do custo da eletricidade. (People muitas vezes estão curiosos sobre quanta energia uma consulta ChatGPT usa; A consulta média usa cerca de 0,34 watt-hora, sobre o que um forno usaria em pouco mais de um segundo, ou uma lâmpada de alta eficiência usaria em alguns minutos. Ele também usa cerca de 0,000085 galões de água; aproximadamente um décimo quinto de uma colher de chá.)
Com a automação da produção dos centros de dados, o custo da inteligência deve eventualmente se aproximar do custo da eletricidade. (As pessoas costumam se perguntar quanto de energia consome uma consulta do ChatGPT; uma consulta média consome cerca de 0,34 watt-hora, o que equivale a um pouco mais do que um segundo de uso de um forno ou alguns minutos de uso de uma lâmpada eficiente. Ela também consome cerca de 0,000085 galões de água; aproximadamente equivalente a um décimo quinto de uma colher de chá.)
技术进步的速度将持续加快,而人类适应几乎任何事物的能力也将一如既往。 过程中会有非常艰难的部分,比如整类工作的消失,但另一方面,世界将变得如此富且迅速,以於于我们能够认真考虑以前从未dare pensar no novo conceito de política。 我们可能不会一蹴而就地采纳新的社会契约,但几十后回望,这些渐进的变化将汇聚成巨大的变革。
Se a história é um guia, vamos descobrir coisas novas para fazer e coisas novas para querer, e assimilar novas ferramentas rapidamente (job mudar depois que a revolução industrial é um bom recente example). As expectativas vão subir, mas as capacidades vão subir igualmente depressa, e todos nós vamos ter coisas melhores. Vamos construir coisas cada vez mais maravilhosas uns para os outros. As pessoas têm uma vantagem importante e curiosa a longo prazo sobre a IA: estamos programados para nos preocuparmos com as outras pessoas e com o que elas pensam e fazem, e não nos importamos muito com as máquinas.
如果历史可为借鉴,我们将找到新事去,产生新需求,并迅速absorbing 新工具(工业revolution后的职业变迁是一个很好的一般的例子)。 期望会提高,但能力也会同样快速了提高,我们都会得到更好的东西。 我们将为彼此创造出越来越beautiful things。 与人工智能相比,人类拥有一种长期、重要且奇特的优势:我们的天性决定了我们在caring 人以及人的所思所为,而对机器则不那么在乎。
mil anos atrás 的自给自足的农民看到我们许多人现在的工作,会说我们做的是"假工作",认为我们只是在玩游戏自娱自乐,因为我们有充足的食和难以想象的luxu。 我希望一千后我们看待未来的工作时,也会觉得它们是"非常假工作",但我毫不怀疑,从事这些工作的人会覺得它们无比重要和满足。
A taxa de novas maravilhas a serem alcançadas será imensa. É difícil até mesmo imaginar hoje o que teremos descoberto até 2035; talvez passemos de resolver física de alta energia um ano para começar a colonização do espaço no ano seguinte; ou de um grande avanço em ciência dos materiais um ano para verdadeiras interfaces cérebro-computador de alta largura de banda no ano seguinte. Muitas pessoas escolherão viver suas vidas de maneira muito semelhante, mas pelo menos algumas pessoas provavelmente decidirão "conectar-se".
A velocidade com que novos milagres serão realizados será enorme. Hoje, é difícil até imaginarmos quais descobertas teremos em 2035; talvez consigamos resolver problemas de física de alta energia em um ano e, no ano seguinte, iniciar a colonização do espaço; ou talvez façamos grandes avanços em ciência dos materiais em um ano e, no ano seguinte, realizemos interfaces cérebro-máquina de alta largura de banda. Muitas pessoas escolherão viver de maneira aproximadamente igual, mas pelo menos algumas poderão decidir "conectar-se".
展望未来,这一切听起来似乎难以理解。 但亲身经历时,可能会覺得shock但尚可应对。 从相对论的视角看,奇点是点滴发生的,fusion is 缓慢进行的。 我们正攀登在指数级技术进步的漫长arc线上; 前看总是显得陡,后看则显得平,but 它是一条平滑的曲线。 (回想一下2020年,如果有人说2025年将出现接近通用人工智慧智能的东西,听起来会是什么感觉,再对比一下过去5年实际的经历。 ）
Há sérios desafios a enfrentar, juntamente com as enormes vantagens. Precisamos resolver as questões de segurança, técnica e socialmente, mas então é extremamente importante distribuir amplamente o acesso à superinteligência, dadas as implicações econômicas. O melhor caminho a seguir pode ser algo como:
Com grandes benefícios, também há desafios severos a enfrentar. Precisamos realmente abordar as questões de segurança do ponto de vista tecnológico e social, mas, dado o seu impacto econômico, é igualmente crucial a ampla disseminação do acesso à superinteligência. O melhor caminho a seguir pode ser o seguinte:
Resolver o problema de alinhamento, significando que podemos garantir de forma robusta que conseguimos que os sistemas de IA aprendam e ajam em direção ao que realmente queremos coletivamente a longo prazo ( as feeds de redes sociais são um exemplo de IA desalinhada; os algoritmos que as impulsionam são incríveis em fazer você continuar a rolar e entender claramente suas preferências de curto prazo, mas fazem isso explorando algo no seu cérebro que anula sua preferência de longo prazo ).
Resolver problemas de alinhamento significa que podemos garantir de forma eficaz que os sistemas de inteligência artificial aprendam e ajam de acordo com a nossa vontade coletiva de longo prazo (o feed de informações das redes sociais é um exemplo de inteligência artificial não alinhada; os algoritmos que os impulsionam são excelentes em mantê-lo a rolar continuamente e conseguem entender claramente suas preferências de curto prazo, mas fazem isso aproveitando algo em seu cérebro que sobrepõe suas preferências de longo prazo).
Em seguida, concentre-se em tornar a superinteligência barata, amplamente disponível e não muito concentrada com qualquer pessoa, empresa ou país. A sociedade é resiliente, criativa e adapta-se rapidamente. Se pudermos aproveitar a vontade coletiva e a sabedoria das pessoas, então, embora cometemos muitos erros e algumas coisas vão dar muito errado, aprenderemos e nos adaptaremos rapidamente e seremos capazes de usar isso tecnologia para obter o máximo de vantagem e o mínimo de desvantagem. Dar aos utilizadores muita liberdade, dentro de limites amplos que a sociedade tem de decidir, parece muito importante. Quanto mais cedo o mundo puder iniciar uma conversa sobre quais são esses limites amplos e como definimos o alinhamento coletivo, melhor.
然后,专注于让超级智能变得廉价、普及,并且不过度集中于任何个人、公司或国家。 社会具有韧性、创造力并且适应快速。 如果我们能够驾驭人类的集体意愿和智慧,那么尽管我们会犯很多错误,有些事情会出错,但我们将迅速学习和适应,并能够利用这项技术来获得最大的好处和最小的坏处。 在社会必须决定的广泛boundary 内,给予用户大量的自由似乎非常重要。 世界越早开始就这些广泛boundary 是什么以及我们如何定义集体对齐展开对话,就越好。
Estamos (todo o setor, não apenas a OpenAI) a construir um cérebro para o mundo. Será altamente personalizado e fácil de usar para todos; seremos limitados por boas ideias. Durante muito tempo, os técnicos do setor de startups zombaram dos "senhores das ideias"; aqueles que têm ideias mas estão à procura de uma equipa para as concretizar. Agora, na minha opinião, eles estão à beira de ver a sua primavera.
A OpenAI é muitas coisas agora, mas antes de qualquer outra coisa, somos uma empresa de pesquisa em superinteligência. Temos muito trabalho pela frente, mas a maior parte do caminho à nossa frente agora está iluminada, e as áreas escuras estão recuando rapidamente. Sentimos-nos extraordinariamente gratos por poder fazer o que fazemos.
Hoje em dia, a OpenAI desempenha várias funções, mas acima de tudo, somos uma empresa de pesquisa em inteligência superinteligente. Temos muito trabalho pela frente, mas a maior parte do caminho à nossa frente já está iluminado, e as áreas escuras estão rapidamente a recuar. Sentimo-nos imensamente gratos por poder trabalhar nesta causa.
Inteligência tão barata que não pode ser medida está bem ao nosso alcance. Isto pode parecer loucura dizer, mas se tivéssemos dito em 2020 que estaríamos onde estamos hoje, provavelmente soaria mais louco do que as nossas atuais previsões sobre 2030.
Inteligência tão barata que não pode ser medida está ao alcance das mãos. Pode parecer loucura dizer isso, mas se em 2020 lhe dissessemos que alcançaríamos o nível de hoje, isso poderia soar mais louco do que as nossas previsões para 2030.
Que possamos escalar de forma suave, exponencial e sem incidentes através da superinteligência.
Que possamos avançar de forma estável, exponencial e tranquila em direção à era da superinteligência.