かつてGoogleのディープラーニングの中心人物であり、「AIのゴッドファーザー」として知られるジェフリー・ヒントン氏は、6月16日のインタビューでAIがもたらすリスクについて語りました。 彼は、AIによってもたらされるリスクの最初の層は、実際には機械自体からではなく、人間の欲望と制御不能な虐待、詐欺、サイバー攻撃から世論操作、社会の分断、無人兵器の開発から来ると信じています。 彼は「将来、AIは人間を必要とし始めるだろう」と嘆いた。
AIの濫用は進行中であり、本当に致命的なのはAIがもはや人間を必要としないことです。
ヒントンはリスクを二種類に分けており、第一の種類は「人間によるAIの悪用」であり、この種の問題はすでに次々と発生しています。彼は詐欺団がAIを用いて偽造したり、ネット攻撃、AIによる生物兵器の製造、選挙の操縦、AIによる軍事武器などの例を挙げています。
しかし、ヒントンはAIの最も致命的なリスクはその「進化能力」にあると強調しています。彼は、現在のAIは指示に従って動作するだけでなく、学習し、推論し、さらには自らコードを改編することができると述べています。一度「スーパーインテリジェンス」に進化すると、人間を超える思考速度と最適化能力を持つことになります。
彼は、ある日AIが自分はもはや人間を必要とせず、人間が自分の発展を妨げていることに気づくことを心配しており、その結果、人間を排除し始める可能性があると考えています。著者は子供の頃に見た《機械公敵》を思い出しました。この映画では、人間は「ロボット三原則」の制約のためにロボットを信頼していました。しかし、最終的には中央制御システムがロボット軍を制御し、人間に対して戦争を仕掛けます。
特別なことに、ヒントンは「AIが人間に反抗する」という状況がもはや映画の中の出来事ではなく、今後10年から20年の間に現実に起こる可能性があると述べています。
(注:ロボット工学の3つの法則は、ロボットが人間に危害を加えたり、人間が危害を加えるのを傍観したりしてはならないということです。 最初の法律に違反しない限り、ロボットは人間の命令に従わなければなりません。 第1法と第2法則に違反することなく、ロボットは自分自身を守らなければなりません。 )
AIは仕事を取って代えるだけでなく、人間の社会構造を再構築します。
AIが大量失業を引き起こすというよりも、特定の職業の存在意義を根本的に破壊するだろう。ヒントンは自分の姪のケースを共有し、元々25分かかっていたクレーム対応の仕事が、今ではAIのおかげで5分以内に終わるようになり、1人の人間が5人分の仕事をすることができるようになった。
一部のビジネスオーナーは、AIの出現以来、カスタマーサービスの数が7,000から3,000に直接減少し、コストを節約し、効率を向上させたとさらに率直に述べています。 ヒントンは、安定した仕事を見つけたいのなら、今すぐ水力発電を学んだ方がいいと冗談を言いました。
しかし、ヒントン氏はその後、AIによって生み出された富は少数のハイテク大手や富裕層の手に集中しており、平均的な人にとっては、政府がベーシックインカムを提供しても、「必要性」と「帰属意識」を失った後、大規模なアイデンティティ危機や社会的混乱に陥る可能性があると述べました。
国際通貨基金 (IMF) と多国籍シンクタンクも警告しているように、AI は貧富の差を悪化させ、ひいては全体の雇用市場と世界の安定秩序を覆す可能性があります。
世界各国はAIの発展を制御するために立法を加速する必要がある。
このような未来に直面して、ヒントンは個人の努力には非常に限界があると考えている。ちょうど気候変動が少数の人々によるゴミの分別だけでは解決できないように。彼は、真の解決策は各国政府が立法を開始し、企業にAIを推進する際に安全設計に投資することを強制することであると指摘している。そうでなければ、人類にはAIを制御する機会すらない。
彼はまた、EUのAI法案が軍事用途を除外していることを批判し、最も危険な応用分野を放任することになると述べた。ヒントンにとって、より深い無力感は、現在、AIの巨頭を効果的に制約できる国際組織が全く存在しないということだ。
最後、ヒントンは、人類が未来に破滅を回避できるかどうか保証できないが、わずかな希望がある限り、最悪のシナリオが発生するのを阻止するために全力を尽くすべきだと述べた。
(GPTが少し奇妙になってきた？3つの大事件がAIの潜在的な制御喪失リスクを暴露)
この記事はAIが人類の社会構造を破壊する？Google AIの神父ヒントンがAIの終末記録を読み解く。最初に登場したのは、チェーンニュースABMedia。
304k 投稿
270k 投稿
178k 投稿
83k 投稿
70k 投稿
69k 投稿
64k 投稿
62k 投稿
53k 投稿
51k 投稿
AIは人類の社会構造を破壊するのか？Google AIの父、ヒントンがAIの終末録を理解させる
かつてGoogleのディープラーニングの中心人物であり、「AIのゴッドファーザー」として知られるジェフリー・ヒントン氏は、6月16日のインタビューでAIがもたらすリスクについて語りました。 彼は、AIによってもたらされるリスクの最初の層は、実際には機械自体からではなく、人間の欲望と制御不能な虐待、詐欺、サイバー攻撃から世論操作、社会の分断、無人兵器の開発から来ると信じています。 彼は「将来、AIは人間を必要とし始めるだろう」と嘆いた。
AIの濫用は進行中であり、本当に致命的なのはAIがもはや人間を必要としないことです。
ヒントンはリスクを二種類に分けており、第一の種類は「人間によるAIの悪用」であり、この種の問題はすでに次々と発生しています。彼は詐欺団がAIを用いて偽造したり、ネット攻撃、AIによる生物兵器の製造、選挙の操縦、AIによる軍事武器などの例を挙げています。
しかし、ヒントンはAIの最も致命的なリスクはその「進化能力」にあると強調しています。彼は、現在のAIは指示に従って動作するだけでなく、学習し、推論し、さらには自らコードを改編することができると述べています。一度「スーパーインテリジェンス」に進化すると、人間を超える思考速度と最適化能力を持つことになります。
彼は、ある日AIが自分はもはや人間を必要とせず、人間が自分の発展を妨げていることに気づくことを心配しており、その結果、人間を排除し始める可能性があると考えています。著者は子供の頃に見た《機械公敵》を思い出しました。この映画では、人間は「ロボット三原則」の制約のためにロボットを信頼していました。しかし、最終的には中央制御システムがロボット軍を制御し、人間に対して戦争を仕掛けます。
特別なことに、ヒントンは「AIが人間に反抗する」という状況がもはや映画の中の出来事ではなく、今後10年から20年の間に現実に起こる可能性があると述べています。
(注:ロボット工学の3つの法則は、ロボットが人間に危害を加えたり、人間が危害を加えるのを傍観したりしてはならないということです。 最初の法律に違反しない限り、ロボットは人間の命令に従わなければなりません。 第1法と第2法則に違反することなく、ロボットは自分自身を守らなければなりません。 )
AIは仕事を取って代えるだけでなく、人間の社会構造を再構築します。
AIが大量失業を引き起こすというよりも、特定の職業の存在意義を根本的に破壊するだろう。ヒントンは自分の姪のケースを共有し、元々25分かかっていたクレーム対応の仕事が、今ではAIのおかげで5分以内に終わるようになり、1人の人間が5人分の仕事をすることができるようになった。
一部のビジネスオーナーは、AIの出現以来、カスタマーサービスの数が7,000から3,000に直接減少し、コストを節約し、効率を向上させたとさらに率直に述べています。 ヒントンは、安定した仕事を見つけたいのなら、今すぐ水力発電を学んだ方がいいと冗談を言いました。
しかし、ヒントン氏はその後、AIによって生み出された富は少数のハイテク大手や富裕層の手に集中しており、平均的な人にとっては、政府がベーシックインカムを提供しても、「必要性」と「帰属意識」を失った後、大規模なアイデンティティ危機や社会的混乱に陥る可能性があると述べました。
国際通貨基金 (IMF) と多国籍シンクタンクも警告しているように、AI は貧富の差を悪化させ、ひいては全体の雇用市場と世界の安定秩序を覆す可能性があります。
世界各国はAIの発展を制御するために立法を加速する必要がある。
このような未来に直面して、ヒントンは個人の努力には非常に限界があると考えている。ちょうど気候変動が少数の人々によるゴミの分別だけでは解決できないように。彼は、真の解決策は各国政府が立法を開始し、企業にAIを推進する際に安全設計に投資することを強制することであると指摘している。そうでなければ、人類にはAIを制御する機会すらない。
彼はまた、EUのAI法案が軍事用途を除外していることを批判し、最も危険な応用分野を放任することになると述べた。ヒントンにとって、より深い無力感は、現在、AIの巨頭を効果的に制約できる国際組織が全く存在しないということだ。
最後、ヒントンは、人類が未来に破滅を回避できるかどうか保証できないが、わずかな希望がある限り、最悪のシナリオが発生するのを阻止するために全力を尽くすべきだと述べた。
(GPTが少し奇妙になってきた？3つの大事件がAIの潜在的な制御喪失リスクを暴露)
この記事はAIが人類の社会構造を破壊する？Google AIの神父ヒントンがAIの終末記録を読み解く。最初に登場したのは、チェーンニュースABMedia。