マスク氏の最新予測：2030年にはAIが人間の知性を超え、将来的には人間を「終わらせる」可能性がある (1/2)

出典: テンセントテクノロジーニュース 2024-04-04 08:55

重要なポイント:

① マスク氏は、AIが2030年までに人間の知能レベルを超え、人間を絶滅させる可能性さえあると予測している。

②マスク氏はAIの発展を制限する要因について語った。昨年はAIチップの供給が逼迫しており、今年は降圧トランスがボトルネックとなる。

③人類がいつ月に着陸できるかについてマスク氏は、スターシップの助けを借りれば最速でも３年しかかからないと予測している。

Tencent Technology News、4 月 4 日 – 海外メディアの報道によると、テスラとスペース X の CEO であるイーロン・マスク氏は最近、アバンダンス サミットでシンギュラリティ大学および XPRIZE 財団の創設者であるピーター・ディアマンディス氏とオンラインで会話しました。このサミットは、ビジネスリーダーに最先端のテクノロジーコンサルティングを提供することに専念しているシリコンバレーのシンギュラリティ大学が主催した。 XPRIZE財団は科学コンテストを通じて技術革新を促進しており、その一部はマスク氏から資金提供されている。4月4日 - 外国メディアの報道によると、テスラとスペースXのCEOであるイーロン・マスク氏は最近、シンギュラリティの創設者であるピーター・ディアマンディス氏とオンラインで会話したという。大学とXPRIZE財団、アバンダンスサミットにて。このサミットは、ビジネスリーダーに最先端のテクノロジーコンサルティングを提供することに専念しているシリコンバレーのシンギュラリティ大学が主催した。 XPRIZE財団は科学コンテストを通じて技術革新を促進しており、その一部はマスク氏から資金提供を受けている。

マスク氏は、人工知能の開発速度について議論する際、現在の技術進歩の速度に基づくと、2030年までに人工知能は人間の知能を超える可能性があり、この技術は人類を滅ぼす可能性さえあるかもしれないと予測した。しかし、同氏は将来について悲観的な見方はせず、前向きな指導を通じて人工知能が人類により良い未来をもたらす可能性があると強調した。

マスク氏は、超知性の出現がまさに「特異点」と呼ばれているのは、人類を滅亡させる可能性があるリスクを含む、その予測不可能な結果のためであると述べた。彼は「人工知能のゴッドファーザー」ジェフリー・ヒントンの見解に同意し、このリスクが発生する確率はおよそ10%から20%の間であると信じていました。

マスク氏は、人工知能が人間の知能を超える潜在的なリスクを認めたにもかかわらず、プラスの結果が得られる可能性がマイナスの結果を上回ると強調した。同氏は特に、商品やサービスのコストが大幅に低下し、人工知能とロボットによって推進される楽観的な未来を描いたディアマンディスの2014年の著書『豊かさ：未来はあなたが考えるよりも優れている』について言及した。さらに同氏は、半ユートピア的な人工知能の未来の最良のシナリオとして、スコットランドのSF作家イアン・M・バンクスの「カルチャー」シリーズを挙げた。

マスク氏は、人工知能と汎用人工知能（AGI）の開発を子育てに例え、それが人類により良い影響を与えることを期待した。同氏は、スタンリー・キューブリック監督の名作映画「2001年宇宙の旅」（1968年）と比較しながら、倫理と道徳を真に理解する人工知能を育成する重要性を強調した。

マスク氏は、人工知能の安全性において最も重要な側面は、人工知能の真実探求と好奇心を最大限に確保することだと指摘した。彼は、人工知能の究極の安全性を達成する鍵は、たとえ不愉快な真実に直面したとしても、人工知能に嘘を強要しないことにあると信じている。同氏は、人工知能が嘘をつき、その結果乗組員が死亡するという『2001年宇宙の旅』のプロットを例に挙げ、人工知能が公理に反する行為を強制されるべきではないと強調した。

マスク氏はまた、昨年出現した人工知能チップの供給逼迫や家庭用および商用機器における降圧変圧器の需要の高まりなど、人工知能の開発を制限する可能性のある要因にも言及した。同氏は、これらの課題はまさに取り組むべき現在の問題であると述べた。

議論の中で、両者は人間の脳の新皮質とクラウドを統合するというコンセプトについても話した。マスク氏は、人間の意識と記憶をクラウドにアップロードするという目標はまだ遠いと信じているが、彼のブレイン・コンピューター・インターフェースのスタートアップであるニューラリンクと、移植を受けた最初の人間の患者を称賛した。この四肢麻痺患者は、FDA 承認の臨床試験を通じて、画面の制御、ビデオ ゲームのプレイ、ソフトウェアのダウンロード、および脳インプラントによるマウス操作と同様の機能の実現をライブで実証することに成功しました。マスク氏は、Neuralinkは順調に進歩しており、フルブレインインターフェイスという目標に向かって徐々に進んでいると述べた。

以下はマスク氏とディアマンディス氏の対話の全文である。

1. スーパーインテリジェンスの威力と危険性

ディアマンディス：さまざまな分野での素晴らしい功績をおめでとうございます。あなたはデジタル スーパーインテリジェンスの概念を世界に積極的に宣伝してきました。それは人類の最大の希望でしょうか、それとも私たちの最も深い恐怖でしょうか?この問題について数分間話してくれませんか?

マスク氏: ご存じのとおり、超知性は「特異点」と呼ぶことができます。この用語の普及には、シンギュラリティ研究所のような機関の努力が不可欠です。超知性の出現とその後の影響を予測するのは非常に困難です。個人的には、人類が滅亡する可能性は確かにあると思っています。前にも言ったように、私は超知性が人類を滅ぼす可能性が 10% か 20% あるというジェフリー・ヒントンの見解に同意するかもしれません。しかし、正確に予測することは困難ですが、私は、ネガティブなシナリオよりもポジティブなシナリオの可能性の方が高いと信じる傾向があります。しかし、著書の中で「豊かさ」という概念を強調されていたように、私たちが向かう可能性が最も高い未来は豊かさに満ちた未来だと思います。

ディアマンディス: あなたの視点はとても刺激的です。かつてあなたは、汎用人工知能と人型ロボットの開発が私たちを豊かに導くだろうとおっしゃっていたのを覚えています。

マスク：はい、私たちの未来がイアン・バンクスの「カルチャー」シリーズの本で描かれているようなものになることを願っています。これは半ユートピア的な人工知能社会の最良の概念だと思います。超知能の出現は避けられず、近いうちに現れるかもしれません。したがって、私たちが本当にしなければならないのは、それを良い方向に導き、その利益を最大化することです。

人工知能をどのように育てていくかが重要だと私は考えています。私たちはある意味、一般的な知性を備えた生命体を育てるようなもので、子供を育てるのと似ていますが、この子供は並外れた知恵と才能を持っています。子どもの育て方も重要ですが、同様に人工知能の安全のためには、真実を探求し、好奇心旺盛な人工知能が重要です。私は人工知能の安全性について深く反省し、人工知能の安全性を達成する最善の方法は人工知能を注意深く育てることであるという結論に達しました。

基本モデルと微調整の観点から、人工知能の誠実さを確保する必要があります。たとえ真実が不快なものであっても、無理に嘘をつくことはできません。実際、「2001 年宇宙の旅」の中核となるプロットの 1 つは、人工知能が嘘をつかざるを得なくなると、事態は混乱に陥るというものです。人工知能は乗組員にこれから目にする謎の記念碑について知らせることは禁じられていますが、乗組員をそこへ導くことは義務付けられています。その結果、人工知能は乗組員を殺害し、遺体を記念碑に運ぶのが最善であると結論付けました。この教訓は奥深いものです。人工知能に嘘をついたり、実際には矛盾する 2 つのことを同時に実行するなど、公理的に矛盾することを強制したりすべきではありません。

したがって、私たちは xAI や Grok などのプロジェクトを通じてこの目標を達成しています。私たちが追求するのは、たとえその発言が特定の政治的に正しい基準を満たしていないとしても、可能な限り正直な人工知能です。

2. 人工知能の未来

ディアマンディス: 昨日、私はレイ・カーツワイル (シンギュラリティ大学の創設者でテクノロジーの預言者)、ジェフリー・ヒントン、エリック・シュミット (元 Google 社長)、その他のゲストと一緒にイベントに出席しました。カーツワイルに関するあなたのツイートに気づきましたが、彼の将来のテクノロジーに対する考察は非常に前向きです。カーツワイル氏は、近い将来には汎用人工知能が登場し、2029年には人間の知能と同等の人工知能が出現すると予測しました。そのスピードは衝撃的です。これについてどう思いますか？

マスク氏：私はカーツワイル氏の予測を大いに尊敬しています。実際、彼の予測は若干保守的である可能性さえあると思います。現在の計算能力と人工知能の分野に投資されている才能、および計算能力の急速な成長を観察すると、人工知能の開発速度が 10 倍という驚くべき速度で増加していることがわかります。専用の人工知能のコンピューティング能力は 6 か月ごとに 10 倍増加しているようで、これはほぼ年間少なくとも 100 倍の増加を意味します。この成長傾向は今後数年間さらに上昇し続けるでしょう。

多くのデータセンターは、現在従来のコンピューティングを実行しているほとんどのデータセンターであっても、人工知能コンピューティングをサポートする施設に徐々に転換されることは注目に値します。したがって、人工知能ハードウェア メーカーにとって、NVIDIA のような企業は間違いなく開発の黄金期を迎えました。私たちは黄仁勲氏と彼のチームを全面的に称賛しなければなりません。彼らはこの傾向を予測し、現在市場に出ている最先端の人工知能ハードウェアの開発に成功しました。

コンピューティング能力がこれほど驚くべき速度で成長すると、人工知能の開発は強力なステロイドを注射されたようなもので、まったく新しいレベルに飛躍します。オンライン コンピューターの数が増加し続けるにつれて、私たちは前例のない加速した開発を目撃してきました。実際、私は人工知能ほど急速に成長するテクノロジーを見たことがありません。急速に発展するテクノロジーを数多く見てきましたが、それでも人工知能の台頭には驚かされます。しかし、先ほども言いましたが、最終的な結果はおそらくプラスになると思います。

この分野で人間との関連性をどのように維持するか、新しい目標や意味をどのように見つけるかなど、私たちは多くの課題に直面していますが、コンピューターが何でもできると強調しすぎるのは単純化しすぎだと思います。

先ほどもおっしゃいましたが、著書の未来社会の予測は非常に的を得ていると思います。それは物質的に豊かな時代であり、物やサービスが非常に豊富で、ほとんど誰でも手の届くところにあります。人工知能やロボット技術の普及により、商品やサービスのコストはほぼゼロになるでしょう。経済は本質的に人口規模と一人当たりの平均生産性の積です。テスラのオプティマスのような高度なロボット技術を手に入れると、経済的な潜在力が真に解き放たれます。

テスラの車は四輪ロボットとして、すでに強力な機能を実証しています。完全自動運転機能を備えた最新バージョンは、人工知能に基づいたエンドツーエンドの制御を実現し、車を車輪付きの真のインテリジェントロボットにすることが期待されています。人型ロボットの開発と組み合わせることで、経済的生産の可能性はほぼ無限になります。

楽観的な観点から見ると、私たちは物質的に非常に豊かな未来に向かって進んでおり、それが最も可能性の高い結果であると私は信じています。将来起こり得る希少性は、特定のユニークな芸術作品や特定のアイテムなど、私たちが人工的に作り出す希少性だけになると思います。しかしそれ以外にも、あらゆる商品やサービスが非常に豊かになります。

ディアマンディス：あなたは、実践的な行動を通じて未来を形作ることができ、将来のトレンドに対する鋭い洞察力を持っている人です。現在のテクノロジーの急速な発展に直面して、どのくらい先のこと、つまり何年先の開発動向を知ることができるとお考えですか?

マスク氏: 急速な変化の時代において、未来を予測する能力はますます重要になっています。先行きは不確実性が多いですが、ある程度の傾向は見えてきていると思います。人工知能の時代が到来し、その能力はあらゆる認知タスクにおいて人間のレベルに達するか、それを超えるでしょう。これも時間の問題です。それが来年の終わりなのか、2年後なのか、3年後なのかは人によって見方が異なるかもしれません。ただし、1つだけ確かなことは、それは5年を超えないということです。私の予測は 50% の確率に基づいていますが、これは絶対的なものではありません。しかし、私の判断によれば、人工知能は来年末までに特定の面で個々の人間の能力を超える可能性が高いです。

それが人類の集合知を超えるかどうかについては、もっと時間がかかるかもしれない。この変化のペースが続けば、2029 年か 2030 年頃にはデジタル インテリジェンスが人間の全知性の合計を超える可能性が高いと私は推測しています。これらの問題を検討するとき、私は物理学の第一原理と同じように、基本的な比率の方法を採用することが多いです。この手法と確率分析を組み合わせることで、将来の開発動向をより正確に把握することができます。

デジタル コンピューティングの能力と生物学的コンピューティングの能力を比較し、人間の高度な認知能力をすべて一種のコンピューティング能力として合計し、それをデジタル コンピューティング能力と比較すると、この比率の成長率が驚くべきものであることがわかります。したがって、2029 年または 2030 年が妥当な時期ノードであると考えています。そのとき、蓄積されたデジタル計算能力は、高度な脳機能の蓄積された生物学的計算能力を超える可能性があります。以降、両者の差は拡大の一途をたどっており、縮まる可能性はない。

しかし、このスタート地点に立って将来に目を向けたとき、事態はさらにどのように発展していくのでしょうか？正直に言うと、詳細をすべて予想することはできません。しかし、成長要因とそれらが直面する可能性のある制限要因を考慮すると、いくつかの興味深い手がかりが見つかるでしょう。

昨年、チップ供給の制約が AI 開発の主な制限要因でした。今年は、降圧変圧器が大きなボトルネックになるでしょう。 300 キロボルトの電圧を、コンピューターに必要な 1 ボルト未満に下げることを想像してください。これは大きな挑戦です。したがって、降圧トランスまたは AI ニューラル ネットワーク トランスである、より効率的な「トランスのためのトランス」が必要です。これはまさに今年の大きな問題です。

今後数年間を見据えると、電力供給が大きな制限要因になる可能性があります。人工知能には莫大な電力需要があり、持続可能なエネルギーへの移行と電気自動車の人気も電力需要を増大させています。したがって、これらの技術の継続的な開発と応用を確実にするために、増大する電力需要にどのように対応するかを真剣に検討する必要があります。