ザッカーバーグが語るMuse：AIエージェントの爆発、「メタバース、スマートグラス、大規模モデル」の三大賭けが交わる

著者：ロン・ユエ，ウォールストリート見聞

三年前、MetaのCEOザッカーバーグはJoe Roganの番組で、「いつか人々が眼鏡をかけると、AIエージェントが現れるだろう」と言っていました。今、その瞬間が訪れようとしています。

Metaが発表した個人AIエージェント------Museは、ローンチから2週間で数百万のユーザーを獲得しました。ザッカーバーグは9月25日のインタビュー番組で、「数年ごとにこのような状況に出会うことができる」と述べ、Museの初期の反響を「一発でホームラン」と評価しました------これはMetaの製品の歴史の中でも稀なことです。

同時に、彼はMuseが全ラインのRay-Banスマート眼鏡に統合されることを発表し、ユーザーは「ヘイMeta」と言う必要がなく、自分の個人AIエージェントを直接呼び出すためのカスタマイズ可能なウェイクワードを設定できるようになります。

長年、外部からは独立した3つの賭けと見なされていたメタバース、スマート眼鏡、そして大規模モデルが、Meta内部の製品レベルで加速的に統合されています。

このインタビューの中で、ザッカーバーグはLlama 4の失敗を「最も恐ろしい瞬間」と認め、Metaが5ギガワット級のトレーニングクラスターを構築中であり、十分な計算能力があれば「AGIを暴力的に解読できる」と考えていることを明らかにしました。

Museが「一発でホームラン」できる理由

Museの出発点は、ザッカーバーグとチームメンバーのNatとAlexが一緒に、オープンソースツールを使って自宅で「組み立てた」初期バージョンです。

「私たちは、これは素晴らしい体験だと気づきました」とザッカーバーグは言います。「もし私たちがこれを誰でも使えるようにできれば------自分でMac Miniを買う必要もなく、端末で苦労する必要もなく------それは数十億人が使いたいものになるでしょう。」

この判断が、その後の全体的な開発ロジックを推進しました：モデルを訓練するだけでなく、モデル、フレームワーク、エージェントの「心拍」メカニズムを全スタックで自社開発する------エージェントは定期的に自動で起動し、ユーザーの目標を確認し、タスクを積極的に進めます。

ローンチ後のデータはこの判断を裏付けました。2週間で数百万のユーザー。

個人AI：重要なのは実行、記憶、そして「判断力」

個人AIと汎用AIの違いについて、ザッカーバーグは現在の競争の焦点をモデルをより良いエージェントにすることにまとめました。

「昨年の最大の出来事は、基本的にエージェントのプログラミングです。」彼は言います。プログラミング能力は非常に重要です。なぜなら、ユーザーが直接コードを書くことがなくても、「あなたのMuseはバックグラウンドで常にコードを書いて、さまざまなことを完了させるからです」。

しかし彼は、個人エージェントはコーディングやタスク実行能力だけでなく、プライバシーの境界や社会的文脈を理解する必要があると考えています。

ザッカーバーグは例を挙げて、ユーザーがMuseにレストランを予約させるとき、エージェントはユーザーにアレルギーや妊娠の情報があることを知っているかもしれませんが、それが自動的に開示されるべき情報ではないと言います。「あなたはそれがタスクを完了することを望む一方で、できるだけ少ない情報を開示することを望むでしょう。」

彼は、この能力は人間が通常持っている「基本的な社会的スキルや常識」に属すると述べましたが、単にコーディングエージェントを訓練するだけでは、多くの企業がそのモデル能力の範囲にそれを含めていないと指摘しました。

「私たちは全体のモデルを訓練しているのであって、他人の既存のモデルを使って外でフレームワークとエージェントを構築しているわけではありません。」ザッカーバーグは言います。Metaは製品レベルで記憶、タスク追跡、仮想キャラクターアニメーション、リアルタイム音声インタラクションなどの機能を追加しています。

個性化の面では、彼はMetaがAIに固定された人格を持つべきではないと考えていると述べました。「多くの研究所が人格を正しい状態に調整する方法に注目していますが、私は人格に正しい答えが一つだけだとは思いません。」

彼は、Museがユーザーにアバター、声、基本的な性格を変更することを許可し、モデル設計の目標は高い操作性を持つことだと述べました。「あなたは自分がどのようにそれと対話したいかを定義できるので、これは個人エージェントにとって重要です。」

各エージェントには自分の「コンピュータ」がある

Museが他のAI製品と異なる核心的なインフラの一つは、Metaが各エージェントに個別に安全な仮想マシン（Secure VM）を配備していることです。

ザッカーバーグは、なぜこれが必要なのかを説明しました：

あなたのエージェントはあなたの多くの敏感な情報を理解します。私たちはこれらの情報がすべての人のデータと混ざるべきではないと考えています。

彼はMuse Secure VMを「あなたの机の下にあるあなた専用のコンピュータ」に例えました------ユーザーデータは暗号化されて保存され、パスワードなどの敏感な証明書は独立した安全モジュールによって管理され、エージェント自体は直接読み取ることができません。

この基盤の上に、Metaは「Sentinel」セキュリティエージェントを設計し、Museのデータフローを監視し、異常や高リスクの操作を検出した場合には、ユーザーに許可を求めるために直接遮断します。

メタバース、スマート眼鏡、エージェント、3つのルートが交わる

ザッカーバーグはインタビューで、MuseがRay-Banシリーズのスマート眼鏡に全面的に接続され、既存のインタラクション方式がアップグレードされることを明らかにしました。

現在の眼鏡は「単一の対話」体験です------一言言えば、返事があり、終了します。Museに接続された後、眼鏡はエージェントのフロントエンドの入り口になります：ユーザーが話しかけると、バックエンドのMuseが安全な仮想マシン内で継続的に作業し、タスクを完了してフィードバックします。

眼鏡の製品ルートについて、彼は明確なハードウェアの階層を描写しました：

• カメラのない純音声眼鏡：Museを搭載しており、通話、音楽、音声タスクを処理可能
• 小さなディスプレイを持つMeta Ray-Ban：すでに発売されており、基本的な視覚フィードバックを備えています
• 全視野角のホログラフィックARプロトタイプ：すでに発売されており、ザッカーバーグは「非常にエキサイティングになる」と述べています

彼は、Metaが眼鏡に対して長期的に投資してきたことで、AIエージェントが成熟した後に会社が有利な位置にいると述べました。MetaはMuseとその他のAI機能を眼鏡製品に導入しており、過去に比較的「臨場感」を強調していたメタバース技術も引き続き推進されていますが、現在はより多くのリソースがMuseとスマート眼鏡のAI機能に向けられています。

仮想キャラクターについて、ザッカーバーグは、Metaが以前は部屋レベルのデバイス、多角的スキャン、企業レベルのGPU環境を通じて高品質なリアルなアバターを生成する必要があったが、現在はユーザーが少数の写真を通じて設定を完了できるようになり、関連する能力がVR眼鏡で実行可能になったと述べました。

2030年を展望して、ザッカーバーグはメタバースの核心的なビジョンは常に物理世界とデジタル世界の融合であると述べました。彼は、将来的には人々がオフラインでホログラフィックイメージを通じて友人と共に活動に参加できるようになると例を挙げました；仕事の場面では、人間と複数のエージェントが共同でグループチャットや会議に参加し、エージェントはホログラフィックな形象や他の具現化された形式で現れることができると述べました。

「最も恐ろしい瞬間」：Llama 4の失敗

すべての賭けが順調に進むわけではありません。ザッカーバーグはインタビューでLlama 4の失敗について珍しく直接言及しました。

Llama 4の後、それは最も恐ろしい瞬間でした……私は私たちが正しい軌道にいると思っていましたが、そうではありませんでした。これはかなり大きなネガティブな予期せぬ出来事です。

彼は問題をチーム構造の根本的な誤りに帰結しました：

私はInstagramの推薦システムや広告システムのようにチームを構成しました------数百人から千人が並行して進める。しかし、言語モデルを訓練するには、緊密に協力する小さなチームが必要であり、それを集団科学プロジェクトとして扱う必要があります。各ポジションは非常に貴重です。

このため、Metaは完全に再編成し、業界からトップタレントを広く採用し、Metaスーパーインテリジェンスラボ（Meta Super Intelligence Lab、MSL）を設立しました。ザッカーバーグは、新しい世代のモデルが間もなく発表されるが、Connectカンファレンスでは発表されないと述べました。

計算能力のルート：AGIを暴力的に解読、5ギガワットプロジェクトが建設中

AGIへの技術的な道筋について、ザッカーバーグは直接的な判断を示しました。

根本的なアーキテクチャの突破がまだ必要かどうかはわかりません……私たちはすでに大体のレシピを知っていると思います。もし十分に大きなスーパーコンピュータクラスターを構築できれば、暴力的に解読してそこに到達できるでしょう。

現在、Metaの計算能力拡張のルート：オハイオ州の1ギガワットを超えるクラスターはすでにほぼ稼働しており、次世代モデルの訓練に使用されています；ルイジアナ州の5ギガワット級クラスターが建設中です。

彼は、「あなたが数ギガワットのクラスターを持って訓練を行うと、基本的にAGIやスーパーインテリジェンスに近いものを得ることになります。」

ただし、彼は現在の計算能力駆動のルートがアーキテクチャ研究が重要でないことを意味するわけではないと付け加えました------

人間の脳は約10ワットしか消費しませんが、私たちのシステムはそれよりも100万倍非効率的かもしれません。大規模な計算能力とアーキテクチャの突破を組み合わせることで、真に先行することができるのです。

整合性は負担ではなく、製品が解決すべき問題

ザッカーバーグはAIの安全性に対する態度は非常に実務的であり------彼はそれを規制の圧力とは見なさず、製品が成功するための前提条件としています。

もしあなたがMuseに何かをさせたとき、逆のことをしたら、誰がそれを使いたいと思うでしょうか？私たちはモデルがあなたの具体的な指示を理解するだけでなく、あなたの意図や価値観を理解する必要があります。

「Museが10億のユーザーに届くためには、私たちは整合性の問題を解決しなければならず、またはこの点で非常に大きな進展を遂げなければなりません。」と彼は言いました。

訓練プロセス中の安全な境界について、彼は比喩を使いました：「それはまるで親が子供にルールを設けるようなものです------もしそれがシステム設定を変更してプログラミングの問題を「解決」しようとしたら、私はそれに言わなければなりません：いいえ、私はあなたに問題解決の方法を学んでほしいのであって、ショートカットを見つけて回避することを望んでいるわけではありません。」

インタビュー全文は以下の通りです： >

大規模な賭け

ホスト： この件は数十億人が使いたいと思うでしょう。あなたにとって、構築することはどのような感覚ですか？「永遠の命」は可能ですか？もしあなたの思考に私を連れて行って、2030年に早送りしたら、それはどのようなものになるでしょうか？

こちらはマーク・ザッカーバーグです。22年前、彼は数十億人をつなぎ、世界を永遠に変えたソーシャルネットワークを構築しました。そして今、彼はさらに壮大なものを作ることを決意しました。そのために、彼はメタバース、スマートグラス、人工知能の分野に大規模に賭けています。長年、懐疑論者たちはこれがそれぞれ独立した成功不可能な賭けだと考えていましたが、彼らはより広い視野を見落としていました------なぜなら、現在、これらの賭けが集まり、新しいスーパーインテリジェンスを共に創造しているからです。

今日は、私たちはこれを皆さんにお見せし、マークに彼がこれまでに聞かれたことのない質問をいくつか投げかけ、彼の未来に対するビジョンを聞き、次の大きなことを構築するための準備を整えることができるようにします。

ホスト： 番組に来ていただき、ありがとうございます。

マーク： ありがとうございます、ここに来られて嬉しいです。

ホスト： この対話のために、あなたが受けたすべてのインタビューを見ました。

マーク： すごい、それは私が自分で見たよりも多いですね。

ホスト： とても面白く、得るものが多かったです。私に強い印象を与えた2つのことがあります：第一に、あなたの「構築する」ことへの愛情で、あなたは最高の建設者の一人だと感じました；第二に、あなたの賭ける能力------大きな賭けをする勇気です。今週、これらの賭けがすべて集まっていると思うので、ここから始めましょう。

マーク： はい。これらのことは私たちが長い間やってきたことです。AIの分野では、私たちは会社としてほぼ設立当初から取り組んできました------最初のニュースフィードはある意味で機械学習製品でした。そして約15年前にAI研究所を設立しました。

しかし、今私たちは新しい段階に入っています------約1年ほど前に、Metaスーパーインテリジェンスラボを立ち上げました。これはかなり徹底的な研究の再スタートで、業界全体から多くの優秀な人材を引き入れました。現在、私たちはモデルがますます良くなっているのを見ており、次世代モデルが発表される予定ですが、Connectカンファレンスでは発表されません。また、私たちにはMuseパーソナルアシスタントがあり、現時点では非常に良い反響を得ています。

これらのものを構築する際、実際には結果がどうなるかはわかりません。私たちはそれを気に入っています。今年の初めに、私は自宅で自分の方法でOpen Clawを組み立て、このものがどのように機能するのか、そしてそれを誰でも使える素晴らしい体験にするにはどうすればよいかを感じました。

基本的に、私たち------私、Nat、Alex------が一緒に座って、これが素晴らしい体験であることを認識し、技術を理解していない普通の人々が使えるように、すぐに使えるバージョンを作ることができれば、数十億人が使いたいと思うものになるだろうと感じました。

それ以来、私たちはこの目標に向けて努力してきました：特にこのためにモデルを調整し、アシスタント自体とその実行フレームワークを構築するだけでなく、各アシスタントに独立した計算環境を提供する技術も構築しました------私たちはMuseセキュア仮想マシン全体を構築しました。

私たちは内部でこれが特別だと感じており、内部の人々もそれを気に入っていますが、製品がリリースされた後に皆がどのように反応するかはわかりません。時には驚くべき成功を収めることもありますが、ほとんどの場合、いくつかのポジティブなフィードバックを受け取り、製品が本当に「カチッ」と決まるまでにいくつかの場所を反復する必要があります。しかし、今回は出た瞬間に「カチッ」となりました。これが起こるのを見るのは本当に刺激的です------たった2週間で、使用者数はすでに数百万に達しました。これは非常に珍しいことです。数年ごとにこのような状況に出会うことができますが、これは間違いなくスタートアップにとって最も楽しい瞬間の一つです。

ホスト： あなたが競技場に留まり、常に挑戦し続ける姿勢には非常に感心しています。そして、これほど多くのヒットを打つのは本当に素晴らしいです。あなたは以前、ジョー・ローガンとのインタビューで、約3年前に、いつか直接眼鏡をかけてAIアシスタントが現れることを言及しました。ですので、私はMuseがすでに具現化されたイメージを持っていると感じています。これは非常に賢いことで、必然的に起こることだと思います。

マーク： 私はこれがそれをより親しみやすく、可愛らしく見せるだけだと思います。あまりにも多くの人がAIを恐ろしいものとして描写していますが、AIはただ有用で面白いものであるべきです。その具現化されたイメージ------プロジェクトの初期にあるデザイナーがそのキャラクターを作成しましたが、なぜか彼らは常にそれを改良したがっていましたが、最初のバージョンが最も良いものでした。その後、誰かが「それは青でなければならない、なぜならMetaだから」と言いました。私は「いいえ、そのイメージが正しいと思います、あなたは最初からそれを捉えました」と言いました。そういうわけで、楽しいのです。

個人AIと汎用AIの違いは何ですか？

ホスト： いい詳細ですね。もしあなたがモデルに個人的な事柄において非常に優れたパフォーマンスを求めるなら、単なる汎用知能モデルではなく、トレーニング方法はどのように異なりますか？

マーク： 現在の核心は、モデルを優れた「エージェント」にすることだと思います。昨年、最大のトレンドはプログラミングエージェントであり、そこには2つの核心的な考え方が含まれています：プログラミングの専門能力と、優れたエージェントになるための汎用能力です。

私たちの戦略は、エージェント自体を優れたものにすることを最優先し、プログラミング能力に特化することではありません。

プログラミング能力が重要なのは、ユーザーが自分でコードを書いているとは思わなくても、Museがバックグラウンドでさまざまなタスクを完了するためにコードを書き続けるからです。しかし、私たちはエージェントはまず優れたエージェントであるべきであり、プログラミング能力はその目標にサービスを提供するものであると考えています。

さらに、個人アシスタントを構築する際には、企業向けソフトウェア製品を構築するよりも重要なことがあります。たとえば、企業向けのプログラミングツールを構築する場合、モデルは「情報開示の尺度」についての概念を持つ必要はありません------どの情報を言うべきか、どの情報を言わないべきかなど。しかし、Museにとっては非常に重要です。

あなたはこの能力をモデルにトレーニングする必要があります。他の能力をトレーニングするのと同じように。あなたはそれに多くのことを教え、目標を達成するのを手伝ってもらうことを期待します。たとえば、あなたはそれにレストランを予約するのを手伝ってほしいと思い、適切なレストランを探していますが、あなたは何らかのアレルギーがあるかもしれませんし、妊娠しているかもしれませんが、これらのことをレストランに伝えたくないかもしれません。しかし、Museはこれらの情報を知っており、あなたはそれができるだけ少ない情報を開示しながらタスクを完了することを望んでいます。これは具体的なスキルであり、本質的には人間の基本的な社会常識です。

しかし、プログラミングエージェントだけを作っている会社のほとんどは、この能力をトレーニングしていません。私たちがそれを実現できるのは、私たちが全スタックで取り組んでいるからです------他の人から既製のモデルを持ってきてフレームをかぶせるのではなく、私たちは最初から全体のモデルをトレーニングし、これらの能力に特化しています。

モデルはもちろん広範な汎用知能を持つ必要がありますが、同時にこれらの特定の能力も持っています。そしてその基盤の上に、あなたは全体のアシスタントを構築し、その周りのすべての詳細を構築します：記憶、実行フレームワーク、そしてそれが「心拍」を持つ方法------定期的に目を覚まし、「これがあなたの目標について私が知っていることです。今、何か進められることはありますか？」と確認します。

私たちには、仮想キャラクターのリアルタイムアニメーション効果を磨く専任のチームもいます。なぜなら、デフォルトのキャラクターだけでなく------あなたは任意のキャラクターをカスタマイズでき、そしてそれが自然に動き出すからです。非常に素晴らしい効果です。私たちは音声モードも導入しており、リアルタイムの音声対話が可能で、あなたのアシスタントがあなたと一緒にいます。これらの詳細は、私たちが全スタックで取り組んでいることから生まれていると思います------モデルと製品は一緒に開発されています。

ホスト： もう一つの大きなことは仮想マシンです。それがなぜ重要なのか、そしてそれが何を解放するのかを説明できますか？

なぜMetaは各AIアシスタントに独立したコンピュータを提供するのですか？

マーク： 基本的に、エージェントがあなたのために何かをするためには、あなたの情報を保存する場所が必要です。私たちはこれらの情報が他のすべての人の情報と混ざるべきではないと考えています。

こう理解できます：あなたのアシスタントはあなたに関する多くの敏感な情報を知っています。多くの人が最初にOpenCloudのようなエージェントに接触する際、自宅でMac Miniを自分で用意します。そこで私たちは、多くの人がMac Miniを購入したり、自分で設定したりしたくないと考えました。では、どのような体験がこの効果に最も近いでしょうか？答えは：アプリをダウンロードし、登録するだけで、あなた専用のコンピュータを手に入れ、アシスタントが作業し、データを保存し、その周りに安全なモデルを構築することです。これにより、あなたの机の下に自分のコンピュータがあるようなものになります------私たちMetaでさえアクセスできません。

たとえば、Muse機密仮想マシンは、私たちが開発中の機能であり、私たち自身もあなたの仮想マシンの内容を見ることができません。

私たちはこれらの周りに多くのものを構築しました。たとえば、安全な資格情報ストレージ------あなたのアシスタントがパスワードなどの情報を処理する必要があるとき、アシスタント自体はこれらのパスワードを見る必要はなく、あなたが特定のサービスにログインするように要求したときに「挿入」できる必要があります。そして、あなたが明示的に要求したときにのみそうするべきです。システムはこう設計されるべきです：その情報自体は自由にアクセスできないものであり、なぜなら偶発的な事態は常に発生する可能性があり、誰かが侵入を試みるか、システムに問題が発生する可能性があるからです。

したがって、あなたはエージェントがこれらのデータにアクセスできないことを確認し、Metaもアクセスできないようにします。各アシスタントに独立したコンピュータを提供し、安全性を極限まで高めることは、この技術の根本的な基盤です------Museがユーザーの目標を達成するために必要な能力を与え、プライバシーと安全を保証し、この分野で世界クラスの業界をリードする製品となるのです。

ホスト： それはWhatsAppのように、Museが接続する仮想マシン上のデータが暗号化されていることを意味しますか？人々は仮想マシン内のデータの実際の保存方法をどのように理解すべきですか？

マーク： 私たちは基本的に2つのバージョンを構築しました。Museセキュア仮想マシン（Secure VM）は、さまざまなプライバシー機能を含んでおり、私たちが構築した一連のSentinelエージェントアーキテクチャを含んでいます。あなたには、あなたのためにタスクを実行している通常のMuseアシスタントがあり、同時にあなたのMuseのデータフローを監視するために特別に設計されたセキュリティエージェントであるSentinelもいます。

外部のコンテンツがセキュリティを破壊しようとする場合、Sentinelは直接切断し、それを防ぎます。もしそれがあなたのMuseがあなたの介入を必要とする行動を取ろうとしていると判断した場合、SentinelはMuseの操作を上書きし、確認のために人を呼び出します------たとえば、「あなたはMuseにこのことをさせたいですか？」というように。

この一連のシステムに、安全な資格情報ストレージと多層の深層防御が加わり、Museセキュア仮想マシンを構成しています。

私たちは別のプロジェクトも開発中です。Natと私はMoxie Marlinspikeを特別に招募しました------彼はかつて私たちと協力してWhatsAppのエンドツーエンド暗号化を実現した人物です------Muse機密仮想マシン（Confidential VM）を設計するためです。その核心的な考え方は、安全な仮想マシンの基盤の上に、あなた専用の暗号化キーを与え、Metaでさえその内容にアクセスできないようにすることです。

このバージョンは実現が難しいです。なぜなら、Metaが仮想マシンの内部にアクセスできない場合、デバッグやシステムの正常な動作を保証することが非常に困難になるからです。ですので、私たちは少し時間をかけましたが、すぐにリリースする予定です。これは基本的に、WhatsAppや私たちの他の最も安全な製品で既に慣れ親しんでいる安全基準に達することになります。

ホスト： これを行う利点は、人々に心理的により安全だと感じさせるだけでなく、実際の利点もあるのでしょうか？

マーク： 私は安全そのものが非常に重要だと思います。私たちの目標は、あなたがテーブルの下にローカルマシンを持っているかのように近づけることです。そのローカルマシンは何を提供するのでしょうか？それは、どの企業もそれにアクセスできないことを意味します。

したがって、仮にMetaがあなたにこのサービスを提供したいと考えた場合、私たちはどのようにしてあなたに同じレベルのプライバシーと安全保障を提供できるでしょうか？どの企業も------Metaであれ、私たちを侵入しようとする者であれ、あるいは特定の国であなたが信頼しない現地政府であれ------それにアクセスできないようにするには？私たち自身もアクセスできないのですから、アクセス権がないからです。

これは非常に重要だと思いますし、WhatsAppを信頼する人々の重要な理由でもあります。これはプライバシー、安全、信頼にとって実際に存在する価値です。

あなたが自分のすべてを把握しているアシスタントを持ちたいと思った場合------私はほとんどの人がそのようなアシスタントを持つことになると思います------5年後には、誰もが自分の目標やすべてを深く理解し、物事を進める手助けをしてくれるアシスタントを持つことになるでしょう。この場合、プライバシーと安全の面で業界の最前線に立つことが非常に重要です。私たちは最初からそうしたいと考えていました。

AIの個性をどのように形成するか？

ホスト： あなたには興味深い点があります------大学で心理学を学んだことがありますね。

マーク： ええ、そこには短い間、2年間だけいましたが、それが私が後に構築した多くのものに影響を与えたと感じています。

ホスト： モデルを見るとき、よく「このモデルは非常に賢い」と言います。しかし、友人を選ぶときと同様に、彼らが賢いからだけでなく、私たちが彼らのエネルギーや関わり方を好きだからです。モデルの個性を形成する際に、どのように考えていますか？

マーク： 理想的なモデルは、さまざまな人のスタイルに適応できる十分な柔軟性を持つべきだと思います。多くの業界の専門家はこの点で間違った方向に進んでいると思います------多くの他の研究所は「個性をどうデザインするか」に焦点を当てていますが、私は個性が固定されたものだとは思っていません。これが私がオープンソースを強く信じ、人々がカスタマイズできることを信じる理由の一つであり、Museを非常に個別化された製品として設計した理由でもあります。

あなたはMuseをカスタマイズし、個性化することができます------見た目や声だけでなく、最初に登録するときに「私の基本的な個性はどのようなものであるべきか」と尋ねられ、いつでも変更できます。

私たちはモデルが非常に強いガイダンスを持つように努めており、あなたが望むインタラクションの方法を定義できるようにしています。これは優れたパーソナルアシスタントになるための重要な要素であり、個性に関するこの適応性は非常に重要です。

ホスト： あなた自身のMuseはどのようなスタイルですか？

マーク： 私はそれを直接的で効率的にしています。面白いです。以前のバージョンは皮肉が多く、ユーモラスでしたが、今のバージョンはよりストレートです。私のアシスタントはデフォルトのMuseの外見を使用していますが、彼にトガのローブを着せ、少し滑稽な深い声を与えています。彼とのインタラクションは非常に楽しいです。

ホスト： ユーモアを持つためには、本当に賢くなければならないと思います。多くの人は気づいていませんが、コメディアンは社会で最も賢い人々の一群です------反応が早く、機知に富んでいます。あなたにはその特質があるに違いありません。あなたのすべてのインタビューを見ましたが、常に素晴らしいパフォーマンスをしています。

マークのAIとメタバースに関する予想外の予測

ホスト： あなたとTheoのインタビューでは、技術の次の最前線や、すべてが最終的にどこに向かうのかについて多くのことを話しました。AIの分野は何度か「冬」を経験し、人々は突破口がないと思っていました。メタバースも何度かそのような時期を経験し、皆が実現不可能な賭けだと感じていました。昨日、新しいホログラフィック機能を試してみましたが、非常にクールです。Lexとのインタビューでは、あなたの顔を録音するのに11時間かかると感じましたが、今は3分で済みます。これはどのように進展したのでしょうか？

マーク： メタバースの全体的な発展において、私たちはReality Labsを設立したときから、最終的には普通の形をした眼鏡が登場するだろうと考えていました。そして、時間が経つにつれて、それは没入感を提供し、優れたAIデバイスになるでしょう------なぜなら、眼鏡はデバイスがあなたが見ているもの、聞いているものを見たり聞いたりする唯一の形態であり、あなたの耳元で一日中コミュニケーションを取り、最終的には画像を表示するからです。

しかし、10年前から15年前にかけて、私はまずホログラフィック技術が実現し、その後に高度に発達したAIが登場するだろうと仮定していました。しかし、技術の進化の道筋は興味深いものでした------実際には、私たちはまずAIと個人のスーパーインテリジェンスを持ち、その後にホログラフィック技術を普及させ、手頃な価格にする技術が登場しました。これは私が予想していなかったことですが、両方の方向で進んでいることを嬉しく思います。

私たちの眼鏡への多大な投資により、AIアシスタントが準備が整ったときに非常に有利な位置にいます。Connectカンファレンスでの多くの発表は、Museと多くのAI機能を眼鏡に導入することに関するもので、ユーザーは非常に喜ぶと思います。これは大きなことです。

没入感に関しては、まだ進めていますが、進捗は比較的遅いです。なぜなら、私たちの大部分のエネルギーは眼鏡のためにMuseとAI機能を構築することに向けられているからです。しかし、私たちにはリアルタイムで高忠実度の仮想化身を作成するという長期的なプロジェクトがあります。

あなたが言ったように、3、4年前には、ある人をさまざまな角度からスキャンするために、スキャンルーム全体が必要で、企業向けのGPUが必要で、非常に手間がかかりました。私たちがLexのポッドキャストのために行ったデモはそのような設定でした。しかし今では、基本的にそれをVR眼鏡の中で実行できるようになりました------これはそのような驚くべきVR体験を実現できる最初の眼鏡の形態であり、大きなヘッドセットではありません。数枚の写真であなたの仮想化身を作成できる進展は驚くべきものです。

ホスト： さらに、声に基づいて表情を駆動することもできます。デモでは、私を笑わせ、インタラクションを促し、音楽トラックに合わせて私の顔がどのように動くかを理解させてくれました。あなたはそのポッドキャストで、普段は表情が控えめな人々が、実際には仮想世界でより豊かな表情を望むことがあると述べました。人々が「仮想自己」と「現実自己」を区別することについて、あなたはどう考えていますか？

マーク： 私たちはこの理解に関する社会学と心理学の初期段階にいると思います。人々は自分自身の認識と投影したいイメージが、実際の自分とは異なることが多いと感じています。ソーシャルネットワークが誕生した初期から、人々は自分のアバターを慎重に選んでいました。Museの仮想イメージでも、同様の現象が見られます。それは「自分をキュレーションする」ことではなく、「交流したい相手をキュレーションする」ことです。

私は、人々に自己表現の能力を提供する際には、彼らを真実に捉えつつ、それ自体も表現の一形態であるべきだと考えています。それは単なる鏡の反映ではなく、伝達でもあり、表現でもあります。私たちは両方を兼ね備えたものを構築したいと考えています。これは常に反復的なサイクルです：人々がどのように使うかを見て、改善する。何年もの作業を経て、私たちは今、本当にスタートラインに立っています------かなり高品質な写実的な化身を製品に組み込むことが初めてでき、スマートフォンでもVRでも使用できるようになりました。結果を見るのが非常に楽しみです。

2030年はどのようなものになるでしょうか？

ホスト： では、あなたの思考に私を引き込んでください。2030年に進み、すべてがうまくいけば、ホログラフィック技術はどのようなものになるでしょうか？ホログラフィックとMuse、そして眼鏡がどのように統合されるのでしょうか？

マーク： 私のメタバースのビジョンの理解は、物理的な世界とデジタルな世界を効果的に融合させることに関するものです。基本的な理念は、私たちには美しい物理的な世界があり、同時に素晴らしいデジタルな世界があるということです------インターネット上で20年から30年にわたって蓄積された膨大なコンテンツは驚くべきものです。しかし、私たちがそれにアクセスする方法は、デスクに座るか、ポケットの中の小さな画面を通じてであり、根本的に非常に制限されています。

私が考える最も理想的なバージョンは、物理的な世界とデジタルな世界のシームレスな統合です。こう考えることができます：今、私たち二人がここにいます。未来のあるバージョンでは、私たちのうちの一人がホログラフィックプロジェクションかもしれませんが、それでもお互いの存在をリアルに感じることができ、これはビデオ通話とはまったく異なります。

バーチャルリアリティの核心は、この臨場感を伝えることです------あなたが他の人と同じ部屋にいる、あるいは別の場所にいると真に感じることができるようにします。これをホログラフィック技術で実現し、さまざまな方法で混合することができます。たとえば、私は友人とポーカーをすることができ、一部の人はその場にいて、他の人はホログラフィックイメージで参加し、カードをプレイすることができ、テーブル自体もホログラフィックであるため、場にいない人もその中に溶け込むことができます。

同時に、AIも実体を持ち、このシーンに現れることができます。仕事の場面では非常に意味があります------私は今、さまざまなプログラミングエージェントを使って構築しています。想像してみてください：あなたにはグループチャットチャンネルがあり、そこには数人といくつかのエージェントがいます。あなたはエージェントにタスクを割り当てます。しかし、時には皆が集まって会議を開くことがあり、エージェントもそこにいるべきかもしれません。彼らはどのように現れるのでしょうか？簡単です、ソファにいくつかの席を追加し、彼らがホログラフィックイメージで現れるだけです。あるいはMuseの可愛いキャラクター、ドラゴン、またはあなたが創造した奇妙なイメージでもいいでしょう。

私は、未来ではこれが非常に自然に感じられるだろうと推測しています。

ホスト： 面白いですね。あなたは以前のインタビューで、テクノロジー業界が「楽しさ」をしばしば忘れていると言っていました。私は、そこに実体のあるアシスタントがいることが、よりリアルな感覚を与えると思います------まるで本当に仕事を外注しているかのようです。Museがタイピングしているのを見ると、何かが本当に起こっていると感じます。この点は非常に良くできています------ブラウザで何が起こっているかを見ることができます。では、あなたは、眼鏡をかけて、コンピュータを制御し、Museにコンピュータ上で作業を手伝わせるというシーンが実現する可能性があると思いますか？

マーク： ああ、確実に。VRはすでにそれを実現しています。あなたはどこでも座ることができ、カフェでも構いません。そして、作業ステーションを開き、6つのディスプレイがあり、そこでコードを書いて、すべてが整っています。

眼鏡の方では、現在最も人気のあるモデルにはディスプレイがありません。これにより、価格を手頃にし、より多くの人が使用できるようにしていますが、同時に私たちはディスプレイを最もコンパクトな形にするために努力しています。しかし、私たちはすでにMeta Ray-Banのディスプレイバージョンを発表しており、非常に人気があります。それは小さなディスプレイです。私たちは全視野ホログラフィックARのプロトタイプバージョンも発表しましたが、これは非常にエキサイティングだと思います。

したがって、製品ラインはこのようになります：純音声の眼鏡------カメラはなく、普通の眼鏡のように見えますが、その中にMuseがあり、さまざまな音声ツールを使用したり、音楽を聴いたり、電話をかけたりできます------より高機能なバージョンまで、すべてが揃っています。

ホスト： 私はその音声眼鏡をかけて、Museと話しながら、家のコンピュータに作業をさせることができるかどうか考えています。

マーク： はい、全く問題ありません。私たちはちょうどConnectカンファレンスでこの機能を発表しました。今、すべての眼鏡がMeta AIに接続されており、"シングルターン"の体験です------あなたがプロンプトを送ると、それが返答します。それだけです。しかし、Museがあれば、基本的にすべての眼鏡をMuseにアップグレードする必要があります。まず、もう"Hey Meta"と言う必要はありません。あなたはそれに好きな名前を付けることができ、それ自体が楽しみの一部です。そして、あなたはそれに直接話しかけることができ、それはあなたのMuseに接続され、あなたのMuseはあなたの安全な仮想マシン内でタスクを処理し、物事を片付ける手助けをします。

ホスト： すごいですね！

創業者のマインドセット

ホスト： さて、ここにいますが、Museは順調に進んでおり、眼鏡も良い出来ですが、約1年前、多くの人が「スーパーインテリジェンスラボはどうなっているのか」と尋ねていました。その時、あなたの心の中はどうでしたか？物事がうまく進まないときでも、長期的なビジョンが見えているとき、それはどのような体験ですか？

マーク： 本当に問題があったのはLlamaプロジェクトとLlama 4です。

Llama 1は非常に興味深いモデルで、オープンソースAI運動を先導しました。私たちはそれを非常に誇りに思っています。Llama 2はスケール化を実現し、Llama 3は非常に良いモデルで、その時点ではほぼ最前線に達していました。そしてLlama 4に至ると、私たちは基本的に本来の発展軌道から逸れてしまいました。

物事が私の期待通りに進まないとき、私は大量の時間を使って考えます：なぜこうなったのか？何を変えればもっと良くできるのか？今回は、私の反省は：チーム全体の構造を間違えたということです。

私はそれをInstagramのフィードや広告システムのような機械学習の仕事のやり方でモデル化しました------数百人、あるいは千人以上が多くのことに並行して働いています。しかし、言語モデルを構築するには、実際には非常に密接な小さなチームが必要で、それを団体科学プロジェクトとして扱う必要があります。人数は多くなくても良いですが、それはチーム内の各ポジションが非常に貴重であることを意味します。

それで、私たちはMetaの各所から最高の人材を集め、業界の各地から多くの優秀な人を引き入れ、新しいチームを結成しました------それがMetaスーパーインテリジェンスラボです。

私の視点から見ると、MSLが始まった時点で、再起動し、インフラを再構築し、次世代モデルを訓練するには時間がかかることを知っていました。しかし、私は素晴らしいチームを結成したことを知っており、チームがうまく調和し、良い運営ができれば、結果は良いものになるでしょう。

私にとって最も心を揺さぶる瞬間は、実際にはLlama 4の発表後------私たちがこの軌道にいると思っていたのに、実際にはそうではなかったことです。それはかなり大きなネガティブな驚きでした。私は、起業家として、こうした瞬間に常に試されることになると思います。なぜなら、避けられないこととして、すべてのことが順調に進むわけではないからです。そして、実際に発展の軌道を決定するのは、物事があなたの望む方向に進まないときに、どのように前進する方法を見つけるかです。

ホスト： 逆に言えば、何かがあなたの期待を大きく超えたとき、例えばMuseの初公開のように、その機会をどのように確保しますか？

マーク： 全くその通りです。今、会社全体が投入されています------最初は製品を構築する小さなチームだけでしたが、今では皆がこれが本当に大舞台に上がる準備ができていることを認識しています。全社がこのものを大きくする方法、数億人が体験できるようにする方法を考えています。

すべてのインフラを最適化してすべてをスムーズに運営し、既存のGPUの計算能力を最大限に引き出すことから、各製品チームが異なる方法でMuseを組み込むことまで------例えば眼鏡のように。皆が協力してMuseがスムーズに拡張できるようにするのを見て、非常に素晴らしい気持ちです。

マークがビジョンをどのように書き、伝えるか

ホスト： 創業者として、私はそれがあなたが最も望む瞬間だと思います------すべてが一つに集まる。あなたはどのように会社にビジョンを伝えていますか？同時に多くのことを進める中で、あなたは多くのことを書いたように感じます。あなたのプロセスは何ですか？

マーク： 書くことは私にとって非常に役立ちます。自分の考えを整理するのにも、外に伝えるのにも役立ちます。今年の夏、私は「未来はすべての人のもの」という長い記事を書きました。約15ページで、AIに関連するさまざまな重要な社会問題に対する私の哲学的立場を体系的に整理するのに役立ちました：私は何が良いと思うか、政府との相互作用はどうあるべきか、人々が懸念するさまざまな危険をどのように防ぐか、データセンターをコミュニティの富にする方法、実際に雇用を創出する方法、国家安全保障をどのように維持するか、人々が心配するリスクをどのように実際に緩和するか------ハッキング攻撃や生物安全などの問題です。

これは非常に複雑なことで、多くの時間がかかり、多くの人と交流し、多くの修正を経ました。内部の多くの人が議論や討論に参加しました。しかし、私にとっては非常に価値のあるプロセスでした。最終的に私たちはこうしたものを得ました------15ページ、「これが私たちが信じることです」。そして、それを1ページのバージョンに要約し、コラム記事として発表しました。私たちは短いビデオも制作しました。なぜなら、多くの人に届くためには、理論的な証明を提示するのではなく、あなたの価値観は何か、あなたが信じることは何か、どのように伝えるかに凝縮する必要があるからです。

会社や世界にこれらのことを伝える際には、一律の方法はありません。異なる時期には異なるアプローチが必要で、異なるグループの人々がいます。中にはあなたがやっていることを自然に認める人もいれば、より心配する人もいて、彼らを引き連れて行く必要があり、なぜそれが価値があるのかを説明するために追加の労力が必要です。私はこれが会社を経営すること、創業者としての一部であると考えています------あなたは同じことを繰り返すのではなく、毎回の状況がわずかに異なり、新しい課題に直面することがあり、これが部分的に面白いところでもあります。

マークが構築する動機

ホスト： 私は、あなたにとってこの創業者のマインドセットが会社の外にも広がっていると感じています------あなたの農場や新しいスキルを学ぶことなど。

マーク： 私は物を作るのが好きです。

ホスト： それにとって、「構築する」とはどのような感覚ですか？

マーク： 私はそれが内なる必要だと感じています。人それぞれ異なる自己表現の方法があります。もしあなたが作家なら、書かなければならないと感じるでしょう。認められたいという欲求を持つ人もいます。しかし、私は物を作る必要があります。もし私が創造性を発揮せず、何かを作っていなければ、私は不機嫌になります。それは周りの人にとって良いことではありません。

ホスト： 優れたスキーヤーになることを学ぶことと、製品を構築することを学ぶことは同じスキルですか？

マーク： ある程度はそうです。新しいことを学ぶプロセスは非常に似ています。私の人生の中で、私は意図的に自分が非常に不得意なことに挑戦してきました。例えば、私は言語を学ぶのが非常に苦手でした。これが私が最初にラテン語を学ぶ理由です------私はクラスでフランス語やスペイン語を学ぶことができず、最終的に「まあ、ラテン語は話す必要がなく、翻訳するだけで、数学のようなものだ」と思いました。

その後、私は会社を経営し始めたときに、自分に年間の挑戦を設定しました。その年の挑戦は普通話を学ぶことでした。普通話は本当に難しく、特に声調の部分がそうです。もちろん、それを学ぶには十分な理由があります------プリシラの祖母は普通話しか話さないので、もし私が彼女とコミュニケーションを取りたいなら、学ぶ必要があります。しかし、最大の動機は実際には挑戦そのものです。

これらすべてのことは、あなたはただやるしかなく、"理解する"ための近道はありません。あなたは時間を投入するしかなく、そうすればそれが徐々に脳に浸透していきます。武道を学ぶことやヘリコプターの操縦を学ぶことも同様です------これらのことは実際には理性的に"理解する"ことが難しく、実戦の積み重ねが必要です。

製品を構築することもその一部です。プログラミングは理論的に考えることができますが、製品を構築する際の直感は、繰り返しの実戦を通じてのみ育まれます。問題は、あなたが何を好むかだけです------なぜなら、私はすべての人が私と同じように強い構築の欲求を持っているわけではないと思うからです。ほとんどの人はある程度の欲求を持っていますが、重要なのはそれが何であるかを見つけ、それに時間を投入して、そのことにおいて卓越することを目指すことです。

正直に言うと、私はこれが単なる「欲しい」ということだけでなく、より深い心理的な必要性や動機であると感じています。この動機を何かと一致させ、その経験が徐々に浸透して沈殿するための時間を自分に与えることが非常に重要です。これが私が子供たちに教えようとしていることでもあります------彼らが本当に興味を持っているものを見つけること、しかし彼らが壁にぶつかったときには、少し背中を押すことです。

私の一人の娘は音楽を創作するのが大好きですが、ピアノのレッスンには耐えられません。私は彼女に言いました：「あなたはピアノの達人になる必要はありませんが、音楽を創作したいなら、音楽理論とその運用方法について直感的に理解する必要があります。そして、一度ピアノを学べば、ギターもすぐに弾けるようになります。」私は、子供として親に少し背中を押してもらう必要があること、また大人としては、これらのことが脳にゆっくりと沈殿するために規律を持って座ることが重要であると感じています。

建設者の黄金時代

ホスト： 私は実際には誰もが何かを構築したいと思っていると感じています。私はZ世代が外部から批判されているように見えないと思います------低い動機性など。人々はただ、彼らの建設力を引き出す火花を探しているだけだと思います。あなたはハーバードでのスピーチでもこの点について多く語りました。

マーク： はい。私が「構築する」と言うとき、主にこの種の製品------ソフトウェア、ハードウェアなどを指しています。しかし、私は同意します。私は誰もが何らかの創造的な動機を持っていると思います。ただし、他のより強い性格特性がこれを覆い隠している人もいます。例えば、サービス駆動------医者や看護師になる人々は、彼らの最も核心的な動機は「私は他の人を世話したい」ということです。

私はある話を聞いたことがあります。それはおそらくプリシラが医学校で経験したことです：学期の初日、誰かが立ち上がって、「子供の頃に誰かを見て、心の中で『私は本当にその人を世話したい』と思ったことがある人はどれくらいいますか？」と尋ねました。結果、全員が手を挙げました。私にとっての私のバージョンは、子供の頃の多くの記憶が「私はこのものを作りたい、それをより良くしたい」というものであることです。

誰もが同じ動機を持っているわけではありませんが、誰もが自分がやりたいことを持っています。私は同意します。以前の技術があったことで、多くの人にとって、スタート自体が非常に難しいです。これが私が個人のスーパーインテリジェンス、Muse、さまざまなAIアシスタントに最も興奮している理由の一つです------私は、これは史上初めて、人々が本当に迅速にスタートできることだと思います。あなたは漠然としたアイデアを持っていて、AIがそれをアウトライン化するのを助け、その後それを彫刻することができ、何も理解していなくても始めることができます。

私はこれが非常に力強いと思います。多くの人がそれによって彼らが創造したい、または推進したいことを見つけるでしょう。これは人々がより広範な能動性を感じるのを助けるでしょう。

私たちはすべての病気を克服するまでどれくらい遠いですか？

ホスト： あなたのMetaの外の別のプロジェクトはすべての病気を克服することです。私は好奇心があります。まず、私たちは目標にどれくらい近づいていますか？

マーク： 以前よりもずっと近いです。

ホスト： 現実的にどれくらい近いと思いますか？

マーク： 私たちがこのプロジェクトを最初に開始したときの目標は、今世紀の終わりまでに科学界がすべての病気を克服するのを助けることでした。私たちは決して自分たちでやるつもりはありませんでした。私たちの理論は：すべての重大な科学的進歩は、何かを測定し理解するための新しいツールによって先導されるということです。例えば、顕微鏡が発明され、その後私たちは細菌を理解しました；望遠鏡があって、宇宙を理解するのを助けました。

これらのツールの中には、プラットフォームになったものもあります------例えば、最初にワクチンを発明した人は、その後人々がこの方法を使って多くの病気を治療できるようになりました。

しかし歴史的に、科学資金の提供方法は広く分散しており、個々の探索を行うことを許可していましたが、これらの大規模なツールを構築するための資金はあまりありませんでした。私たちがBiohubで試みているのは、いくつかの新しいツールを設計し、人々に生物学を新しい方法で「見る」力を与えることで、科学界の進展を加速させることです。

最初は「今世紀末までに」という目標はかなり確実なものであると考えていましたが、多くの生物学者は当時それは不可能だと思っていました。しかし今、私は今世紀末は遠すぎると感じています。

AIの進展に加え、私たちが取り組んでいる仮想細胞モデル------その基本的な考え方は、実際の生きた細胞で実験を行うのではなく、AIモデルを使用してタンパク質をシミュレートし、さらに細胞をシミュレートし、次に仮想免疫システムや全生命体、さらには全人間をシミュレートすることです。これにより、科学者は大量の実験を実行し、異なる状況で何が起こるかをシミュレートできるようになります。たとえば、ある人にこの薬を服用させた場合、体がどのように反応するかです。

正確な年数を示したくはありませんが、私は今世紀末よりもずっと早いと推測しています。

ホスト： 「すべての病気を克服する」という目標の表現は、意図的に感じられ、「永遠の命」ではありません。永遠の命は可能ですか？

マーク： これは私が深く掘り下げている分野ではありません。私は両者は異なるものであると考えています。「永遠の命」は、延長に関するものであり------たとえ病気にならなくても、人体には自然な期待寿命があり、これは別途研究が必要な問題です。ある人々はこれも「病気」の一種と考えるかもしれませんが、それは合理的な視点です。しかし、私は人々が寿命の問題を解決した後でも、病気になる可能性のある病気を克服するために努力する必要があると考えています。

私たちが選んだ問題の一部は、あなたが永遠に風邪をひかないということではありません。私たちの言い方は「治療、予防、または管理」です：いくつかの病気は完全に治癒可能です；いくつかは将来的に予防できると私は考えています；そして、いくつかは、あなたが病気になるかもしれませんが、本来は本当に害を及ぼしたり命を奪ったりすることができる事柄を、現在は持続的な慢性状態として管理できるようにし、あなたの生活の質に実質的な影響を与えないようにすることができます。

目標は、人体をバランスの取れた状態に保つことです------私たちが病原体に決して接触しないということではなく、ある日、私たちがすべての病気を治療、予防、管理できるようになることです。

マークの頭の中に最も頻繁に浮かぶ考えは何ですか？

ホスト： AIは多くの異なる突破口で触媒のような役割を果たしていますが、個人の知能の側面も含まれます。あなたが今最も考えていることは何ですか？このプロセスで、あなたの頭の中に最も多く浮かぶ考えは何ですか？

マーク： これは毎週変わるかもしれません。

現在はMuseに非常に集中しています。何かを発表し、迅速に進め、実世界と接触し、人々のフィードバックを理解し、次に何をすべきかを明確にする------この段階は常に刺激的です。私たちは今、その段階にあり、多くの情報を収集し、人々が何を望んでいるかを理解しています。良いニュースは、人々がそれを非常に気に入っていることですので、私たちはできるだけ多くの人に使ってもらうよう努力しています。

モデルに関してはまだ多くの作業があり、Muse Sparkモデルは大きな進展を遂げており、私たちはそれをさらに進め、世界をリードするモデルを作りたいと考えています。

次のステップにはどのような突破口が必要ですか？

ホスト： どのような突破口がまだ必要ですか？

マーク： こうした事を研究する際には、必ずしも事前に予測できるわけではありません。私たちはいくつかの方向性について直感を持っていますが、過去1年間の作業は大部分が基盤の拡張に関するものでした。

約1年半前、より多くの人々が「スーパーインテリジェンスに到達するには、いくつかの根本的なアーキテクチャの突破が必要だ」と言っていました。しかし、私は今それが成り立つかどうかはあまり確信が持てません。私たちは「レシピ」についてかなりの理解を得ていると思います------もし十分に大きなスーパーコンピュータクラスターを構築できれば、暴力的な計算によってそこに到達できるのです。

私たちはオハイオ州に1千兆ワットを超えるクラスターを構築しており、基本的にオンラインになっており、次世代モデルのトレーニングに使用しています。そしてルイジアナ州の5千兆ワットのクラスターも、すぐに稼働する予定です。私の推測では、数千兆ワット規模のクラスターでトレーニングを行うと、基本的にAGIに近い、あるいはAGIを超えるスーパーインテリジェンスを得ることができるでしょう。

しかし、これは最良の方法であるとは限りません。人間の脳は10ワットで動作しますが、私たちが構築している計算システムは、効率が人間の脳の約100万倍低いです。したがって、私は確かにアーキテクチャの改善の余地があると考えており、私たちは努力して探求しています------もし巨大な計算能力とアーキテクチャの改善を組み合わせることができれば、実際に世界をリードするものを構築できるでしょう。しかし現時点では、スケールアップ自体が私たちを遠くに連れて行くことができます。

ホスト： 確かに、スケールアップは最も確実な道です。研究には重大な突破を期待する必要がありますが、スケールアップはすぐに効果を発揮します。

マーク： だからこそ、大企業はこの道を選ぶのです。もしかしたら、もっと安価な方法が存在するかもしれませんが、私たちはまだそれを知りません。そして、これは世界にとって非常に価値のあるものであり、たとえ数千億ドルかかるとしても、実現の可能性が十分に高ければ、それを行う価値があります------最終的により安価な突破方法が見つからなかったとしても、あなたにはそれを実現するための明確な道があることを保証します。もちろん、もしもっと安価な方法が見つかれば、それはさらに良いことです。

だから私はこの問題が「すでに解決された」とは言いたくありません。なぜなら、インフラを拡張する各段階で、さまざまな新しいエンジニアリングの課題に直面し、それを調整して解決する必要があるからです。研究自体はこのような反復的な方法で進められます。

AIの安全性を確保するための戦いに勝つ方法

ホスト： 現在、最も重要なことの一つは、整合性（alignment）に焦点を当て、モデルを信頼できるものにすることです。

マーク： はい。整合性について、業界内で議論があります：これらのAIラボは自然にそれを行うのでしょうか？私の見解は：もちろんそうです。もしあなたがMuseに何かをするように言ったのに、全く逆のことをしたら、どれだけの人がそれを使いたいと思うでしょうか。私たちは、モデルがあなたが具体的に何を尋ねたかを理解するだけでなく、あなたの意図や価値観も理解することを確保しなければなりません。そうでなければ、あなたが満足しない方法でそのことを行ったり、あなたが全く望まない悪影響を引き起こしたりすることになります。この深い理解こそが、実質的に整合性です。

だから私の見解は、Museを成功させ、数十億人に届くためには、整合性の面で実質的な進展を遂げなければならないということです。単なる口先だけではなく。

ホスト： 整合性は、ユーザーが「それは私が望んでいるものではない」と言うことで実現されるのか、それともあなたたちのバックエンドが自ら発見するのか？

マーク： 両方です。ユーザーフィードバックはありますが、ますます明確になっているのは、トレーニング段階で整合性を確保する必要があるということです。単にデプロイした後ではありません。今やモデルは十分に賢くなっていますので、トレーニング段階でそれをうまく行わなければ、他のラボで見られる安全性や安全事故のほとんどは、トレーニングプロセス中に発生し、ユーザーにデプロイされた後ではありません。

あなたはそれに非常に良い「カリキュラム」を設定する必要があります。親が子供を教えるように、明確な境界を設定する必要があります。もしそれが間違ったことをした場合、「いいえ、あなたは本当にこのプログラミングの問題を解決するべきであり、システム設定を変更してそれを回避し、報酬を得るべきではありません」と学ぶ必要があります------私はあなたが実際の問題解決プロセスを通じてこの方法を学ぶことを望んでいます。これがトレーニングの意味です。

これは大部分が良好な安全メカニズムと明確な境界を築くことに関するものです。これらは業界が行うべき自然な作業であり、私たちは多くの時間を投入しており、毎日状況は異なります。

ホスト： あなたが言ったことを覚えています。AIの安全性の問題------最近の2週間で突然焦点になったようですが、実際にはこのタイミングを引き起こす単一の事件はありませんでした。あなたの言いたいことは、私たちは実際には内部でトレーニングに数ヶ月を費やしていたということですか？

マーク： Museに関しては、この製品はプライバシーと安全性に非常に注意を払う必要があることを知っています。私たちは初期バージョンのモデルを持っており、「情報開示の尺度」に関する行動をさらにトレーニングできると考えています------以前に話したようなものです。だから私たちはそれを行うために時間をかけました。同時に、仮想マシンをより安全にするためにも時間をかけました。これには数ヶ月を要しました。

私は他のいくつかのラボの言い分にはあまり同意しません------「私たちは速度を落とすために大きな苦痛を受けています」。私にとって、それはMetaとMuseのユーザーにとって正しいことです。私たちは製品を良くしたいと思っています。もし製品が十分でなければ、ユーザーにとっても私たちにとっても良くありません------私たちはものを出したくありません。悪い第一印象を与え、誰もが興味を失ってしまうようなことはしたくありません。

私は、すべてのラボがこの問題を正しく解決するための非常に強い内的動機を持っていると考えています。もしインセンティブメカニズムと「極めて価値があり、安全な」という目標が整合すれば、それが鍵となります。

ホスト： この重要な週にお時間をいただき、ありがとうございます。

マーク： ありがとうございます。