マスク伝記作家が暴露：10年前、彼はすでにAIが人類を滅ぼすことを心配していた

原文タイトル：《マスク伝記作家が重磅内幕を暴露：10年前、彼はAIが人類を滅ぼすことを心配し始めた》

原文著者：常嘉帅

原文出典：ウォールストリート見聞

もし常人を超える先見の明、エネルギー、運、そしてそれに伴う巨額の富を持っていたら、あなたは何をしますか？

マスクの答えはこうです：自ら六つの会社を運営し、人類の意識の火種を保存し、危険なAIに対抗することです。

水曜日、マスク伝記の著者ウォルター・アイザクソンは『タイム』誌に、出版予定の伝記の一部を掲載し、マスクが十年以上にわたって抱いてきたAIへの恐怖と懸念、そして人類の未来の運命についての考えを語りました。ウォールストリート見聞が重点的に抜粋しました。

AIの到来への恐怖

マスクのAIへの恐怖は、2012年にAI研究者デミス・ハサビスとの出会いに起因しています。

当時、マスクは彼をスペースXの工場に招待し、自分が火星に行けるロケットを作った理由は、核戦争や小惑星の衝突といった終末的な瞬間に人類文明の火種を保存するためだと説明しました。

デミスは彼に、終末リストにもう一つ追加すべき項目があると指摘しました------AI、機械の知能が将来的に人類を超え、さらには人類を滅ぼそうとするかもしれないということです。

マスクは一分間考えた後、デミスが正しいと認め、すぐにディープマインドに500万ドルを投資し、「彼らが何をしているのかを監視する」ことにしました。

この会話から数週間後、マスクは十年以上の友人であるグーグル共同創業者ラリー・ペイジにディープマインドを紹介し、夜遅くにAIが人類に与える脅威についてペイジと話すことが多くなりましたが、ペイジはこれを軽視しました。

2013年、マスクの誕生日パーティーで、彼らは激しい議論を交わしました。マスクは、すぐに行動を起こし、保障措置を設けなければ、急速に進化するAIが人類を絶滅させる可能性があると考えました。

しかし、ペイジは全く気にせず、逆に「もしある日機械が知能や意識で人類を超えたら、それが何の意味を持つのか？」と反問しました。それはただ進化の次の段階に過ぎないと彼は指摘し、マスクを「種族主義者」と非難しました。

マスクも素直に認めました：「そうだ、俺は人類が大好きなんだ。(I f-cking like humanity, dude.)」

OpenAIを設立した理由はグーグルに対抗するため

その年の年末、ペイジが率いるグーグルがディープマインドを買収する計画のニュースがマスクの耳に入りました。彼は心配しました。強力なAIがペイジのように人類に無関心な人に掌握されたら、何が起こるのか。

そこで、彼は友人でPayPal共同創業者のルーク・ノセックを呼び寄せ、この取引を阻止するための資金を集めようとしましたが、成功しませんでした。グーグルは14年1月に買収を完了しました。マスクの懸念に応える形で、ペイジは「安全委員会」を設立することに同意し、マスクと前述のAI専門家デミスが委員になりました。他のメンバーにはグーグルの会長エリック・シュミット、LinkedIn共同創業者レイド・ホフマンなどが含まれていました。

しかし、「安全委員会」の初回かつ唯一の会議に参加した後、マスクはペイジとグーグルへの信頼をさらに失い、委員会のメンバーが全て無意味なことを言っていると考えるようになりました。彼はグーグルに対抗し、AIの安全を促進する方法を議論するための集会を頻繁に開催し始めました。

2015年5月、彼は当時のアメリカ大統領オバマと一対一で長時間話し合い、AIのリスクを説明し、大統領にAIの規制を提案しました。しかし、オバマは彼の提案を採用しませんでした。

そこで、OpenAIの創設者サム・アルトマンが登場しました。マスクと彼は、少数の大企業がAIを支配するよりも、多くの競争し合うAIシステムの方が安全だと信じていました。ある晩餐会で、二人は意気投合し、非営利の人工知能研究所を共同設立することを決定し、それをOpenAIと名付けました。

しかし、2018年、当時テスラも自動運転ソフトウェアのためにAIを開発していたため、潜在的な利益相反を避けるために、マスクはOpenAIに留まることができませんでした。彼はアルトマンを説得してOpenAIをテスラに統合しようとしましたが、拒否されました。また、彼はOpenAIが徐々に商業化の方向に進んでいることに非常に不満を抱き、最終的にOpenAIチームと決裂しました。

マスクの現在のビジネスの地図を振り返ると、各会社は彼のAI危機への解決策を代表しています：SpaceXは文明の火種を保存するノアの方舟を建造できる；脳-機械インターフェース会社Neuralinkは人間の肉体をより強力にすることができる；テスラは毎日車両のカメラから1600億フレームのビデオを受信し処理しており、これらの現実世界のデータは「汎用人工知能（AGI）」の訓練に使用できます。そして、人型ロボットOptimusはAGIの物理的な媒体となります。これらのリソースは、彼の新しい会社------xAIに統合されることができます。

今年上半期、OpenAIが先導するAIの波は、マスクの注目を奪っただけでなく、彼をさらに心配させました。大企業に支配されたAIシステムが「覚醒文化ウイルス」を広め、アメリカの若者の心を蝕む可能性があること；また、現在の自己学習可能なAIシステムが人類に敵意を抱く可能性があること、さらに、ツイッターのデータで訓練されたロボットが虚偽や詐欺情報を生成する可能性があることを懸念しました。

彼はすぐにでも参入したいと考え、OpenAIを設立し資金提供したにもかかわらず、今は外部に置かれていることに憤りを感じました。AIは現在進行中の最大の嵐です。マスクほど嵐を好む人はいません。

そのため、上半期、マスクはOpenAIとアルトマン個人に対して激しい攻撃を仕掛けました。アルトマンはマスクの攻撃的な態度を理解し、あるインタビューで彼は「マスクは確かにクソ野郎のように振る舞っているが、彼はAI分野を本当に心配しており、人類の未来を心配していると信じている」と述べました。

マスクはAGIの競争において自分が先行していると考えています。

AIの波が最も盛り上がっている時に流行に乗れなかったものの、マスクはAGIへの競争で依然として先行していると信じています。

彼は、テキストのみを生成するチャットボットの役割は限られており、重要なのは知恵を持つ実体ロボットであると信じています。一方で、テスラはすでに高度な自動運転技術と人型ロボットOptimusを持っています；他方で、ツイッターの数億人のユーザーのツイートとテスラの車両のカメラもAGIの開発に十分なデータを提供しています。

したがって、彼はOpenAIよりも早くAGIを創造できる自信を持っています：「テスラの現実世界におけるAI能力は過小評価されている。想像してみてください、もしテスラとOpenAIがタスクを交換しなければならないとしたら。彼らは自動運転車を製造しなければならず、私たちは大規模な言語モデルのチャットボットを製造しなければならない。誰が勝つでしょうか？私たちが勝つ。」

最近まで、マスクはAIリスクを減少させ、人類の意識が世代を超えて受け継がれる方法を考え続けていました。

彼は、人類の知力レベルが安定してきており、新生児がますます少なくなっていると考えています。一方で、コンピュータの知能は指数関数的に増加しており、「ステロイドを打たれたムーアの法則」のようです。生物の脳力はデジタルの脳力に比べて劣っています。

マスクは、AIが制御されない速度で独自に進み、人類を置き去りにする「特異点の瞬間」が、私たちが予想するよりも早く訪れると信じています。

「私は何もしないわけにはいかない。人工知能の到来に伴い、私はツイッターにどれだけの時間を費やすべきか疑問に思っています。もちろん、私はそれを世界最大の金融機関にすることもできるかもしれません。しかし、私は毎日限られたエネルギーと時間しか持っておらず、もっとお金を稼ぐ必要もありません。それなら、私の時間はどこに使うべきでしょうか？宇宙船を起動することです。今、火星に行くことがはるかに緊急です。それに、私は人工知能の安全を確保することに集中する必要があります。これが私がAI会社を設立する理由です。」