ザッカーバーグが長文を発表し、MetaのAIロードマップを定義：個人のスーパーインテリジェンスを目指す

文｜晓静，腾讯科技

アメリカ現地時間8月10日、マーク・ザッカーバーグは長文『未来はすべての人に属する：積極的AIへの未来の道』を発表しました。

表面上は、これはスーパーインテリジェンス、安全性、オープンソース、インフラに関する政策宣言のように見えますが、実際にはこの万字の長文の背後には、Metaが未来に目指す「個人のスーパーインテリジェンス」というより重要な主題があります。

ザッカーバーグはこの概念に非常に明確な前提を設定しました：スーパーインテリジェンスは最終的に少数の企業、政府、または研究所にのみ掌握されるべきではなく、より多くの普通の人々に分配されるべきです。

過去2年間、AI業界ではスーパーインテリジェンスについての議論が行われてきましたが、焦点は主にモデルがどれだけ強くなれるか、または人間を超える能力を持つシステムが制御を失うことをどう避けるかにありました。ザッカーバーグは、たとえスーパーインテリジェンスが安全であっても、その能力が最終的にごく少数の機関にのみ掌握されるなら、新たな権力の不均衡が生じる可能性があると提起しました。

したがって、彼が提示した解決策は非常に「Meta」的です。

彼は、未来のAI発展の核心原則は3つの側面であるべきだと提案しました：個人の権限を繁栄の源と見なすこと、革新をスーパーインテリジェンスの主要な目的とすること、そして権力の抑制を通じて安全を確保することです。

彼の構想では、未来には誰もが身近に長期的に存在するスーパーインテリジェンスを持つことになります。それはあなたの働き方、健康状態、家庭の計画、長期目標を理解し、あなたのために研究を行い、コードを書き、製品を設計し、タスクを計画し、さらには過去には企業が必要だったことを一人で完遂する手助けをします。

これが、ザッカーバーグが同じ記事の中で、いくつかの一見関連性のない話題を一緒に取り上げた理由を説明しています：オープンソースモデル、AI雇用、安全なガバナンス、データセンターの構築、さらにはアメリカのエネルギーとインフラ能力。

これらは実際には同じ問題を指し示しています：もし個人のスーパーインテリジェンスが本当に次世代の計算プラットフォームになるなら、誰がそれを制御し、誰がその背後にある計算コストを負担し、誰がそれが何をできるかを決定するのでしょうか？

ザッカーバーグの答えは、明らかにMetaの過去20年間の製品哲学を反映しています。

Facebookはかつて、コンテンツの生産と伝播の能力をすべてのユーザーに与え、InstagramとWhatsAppはこの接続を拡大し続けました。AI時代において、Metaは同様の権限の分散を再現したいと考えています------大規模な機関に属する知能の能力を、普通の人々の基本的なツールに変えることです。

AIの安全性の問題に関しても、ザッカーバーグはシリコンバレーの主流の議論とは異なる視点を示しました。

彼は、未来において本当に警戒すべきリスクの一つは、スーパーインテリジェンスの能力が過度に集中することだと考えています。この論理に沿って、オープンモデルはMetaとOpenAI、Anthropicとの競争における技術的選択肢にとどまらなくなります。

それは、ザッカーバーグがスーパーインテリジェンス社会がどのように機能するかの一部となり始めています。そして、より現実的な側面は、Metaもこの物語の新しい商業的入り口を探しているということです。

もしAIが未来においてチャットボックスからユーザーの個人インテリジェントエージェントへと進化するなら、真に重要な入り口はもはやウェブページでもなく、単なるスマホアプリでもなく、ユーザーを継続的に理解し、いつでも行動を起こすことができるAIシステムになるかもしれません。Metaはソーシャル関係、コンテンツ、通信製品、スマートグラスを所有しており、これらの資産は初めて「個人のスーパーインテリジェンス」を中心に一つの線に繋がる機会を得ました。

ザッカーバーグのこの記事は、「Metaが最強のモデルを作れるかどうか」というよりも大きな問題を構築しようとしています。

01 「スーパーインテリジェンスの制御」から「スーパーインテリジェンスの分配」へ

ザッカーバーグは記事の中で根本的な問題を提起しました：未来において誰がスーパーインテリジェンスを所有するのでしょうか？もしスーパーインテリジェンスが少数の企業、政府、または研究所に集中するなら、社会は新たな権力の不均衡を生じるのでしょうか？

近年、AI安全分野の重要な議論の一つは、未来のスーパーインテリジェンスシステムが人間の価値観に合致するようにする方法、いわゆる「整合性問題」です。多くの研究者は、AIの能力が人間を超えるレベルに達し、その目標が人間の利益と一致しない場合、制御不能なリスクをもたらす可能性があることを懸念しています。

図：ザッカーバーグがMeta AIのビジョンを説明するために発表した

しかし、ザッカーバーグは、単に技術的手段に依存して「すべての人の利益に完全に合致する」スーパーインテリジェンスを創造することには論理的な問題があると考えています。

その理由は、人間社会には統一された価値体系が存在しないからです。異なる個人、文化、グループは、より良い生活とは何かについて異なる判断を持っています。少数の機関によって設計され、制御されるスーパーインテリジェンスは、必然的に特定のグループに偏った価値選択を行い、すべての人の利益を代表することはできません。

したがって、彼は別の考え方を提案しました：集中化された、絶対的に正しいスーパーインテリジェンスを創造しようとするのではなく、より多くの人々が自分のスーパーインテリジェンスを持つことを可能にし、個人、企業、機関間の競争を通じて新しい権力のバランスを形成するべきだと。

ザッカーバーグは「スーパーインテリジェンス弁護士」を例に挙げてこの点を説明しました。

もし世界に一人だけがスーパーインテリジェンス弁護士を持っているなら、その人は法体系の中で巨大な非対称的な優位性を得ることになります。しかし、もしすべての人が同様の能力を持っているなら、法律資源の分布はより公平になり、普通の人々と大規模な機関との間の情報の差も縮小されます。

同様に、もし唯一の組織がスーパーインテリジェンスのネットワークセキュリティ能力を持っているなら、それは最大の安全リスクとなる可能性があります。しかし、防御者も強力なAIツールを持っていれば、全体のデジタルシステムの安全レベルは逆に向上するでしょう。

ザッカーバーグの枠組みでは、AIの安全性は能力の制限だけに依存するべきではなく、スーパーインテリジェンスが制御不能な権力集中を形成することを避けることがより重要です。

02 未来のAIで最も重要な製品形態

この理念に基づき、Metaは「個人のスーパーインテリジェンス」路線を推進しています。

ザッカーバーグは、未来のAIで最も重要な製品形態は、質問に答えるチャットボットから、ユーザーを長期的に理解し、目標を達成する手助けをする個人のインテリジェントエージェントへと進化するだろうと考えています。

このインテリジェントエージェントは、ユーザーの日常生活の中でのスマートアシスタントとなり、個人の好み、目標、長期的なニーズを理解し、健康、仕事、家庭管理、財務計画、学習成長を最適化する手助けをし続けます。

現在のほとんどのAIツールとは異なり、未来の個人インテリジェントエージェントの核心的価値は情報を提供することから、ユーザーの代わりに行動を起こすことへと拡大します。例えば、ユーザーが情報を整理したり、アイデアを提案したり、タスクを計画したり、ユーザーの健康データに基づいて生活のアドバイスを提供したり、家庭の活動の計画を手伝ったりすることができます。

ザッカーバーグはプライバシーの重要性を特に強調しています。もし個人のスーパーインテリジェンスが本当に生活に入り込むなら、それはユーザーから大量のプライベート情報の許可を得る必要があります。Metaは、未来の個人インテリジェントエージェントが「完全プライベートモード」を提供することを提案しており、このモードではMetaでさえユーザーの情報を確認したり、他者にアクセスを許可したりすることができません。

これもまた、Metaが構築しようとしている新しい人間と機械の関係です：AIは企業が所有するツールから、個人が所有する能力に変わります。

雇用と自動化に関する議論の中で、ザッカーバーグは従来の懸念とは異なる見解を示しました。彼は、スーパーインテリジェンスの最も重要な貢献は単に人間の仕事を置き換えることではなく、人間が過去には達成できなかった新しいものを創造する手助けをすることだと考えています。

歴史的に見て、重大な技術革命は常に失業に対する懸念を引き起こしてきました。産業革命からインターネット時代にかけて、人々は機械が大量の職を奪うことを心配してきました。しかし最終的に、技術は生産性を向上させるだけでなく、新しい産業や職業を創出しました。ザッカーバーグは、AI時代も同様の法則に従うと考えています。

未来において、真に重要な変化は、機械がより多くの繰り返しのタスクを引き受けることではなく、普通の人々が過去には大企業や専門機関だけが持っていた能力を得ることです。

一人の人間がAIを利用して製品設計、ソフトウェア開発、市場調査、さらには起業運営を行うことができ、大規模なチームを組織する必要がなくなるでしょう。これは企業の組織方法を変えることになります。

未来の企業は規模が小さくなるかもしれませんが、個人の生産性はより強力になります。過去にはコストが高すぎたり、技術のハードルが高すぎたりして実現できなかったアイデアが、AIツールの普及によって実現可能になるでしょう。ザッカーバーグは、スーパーインテリジェンスは最終的には革新の基盤インフラとなるべきであり、単なる自動化の機械ではないと考えています。

03 オープンソースでエコシステムを交換する、MetaのAI競争戦略

個人のスーパーインテリジェンスに加えて、オープンソースもザッカーバーグのこの記事の重要なテーマです。

Metaは長年にわたりオープンソースモデルの路線を支持しており、この選択は一部の競合他社が閉鎖的な重みモデルを強調することとは明らかに異なります。ザッカーバーグは、オープンソースは革新を促進し、安全性を向上させることができると考えています。

図：Meta AI部門の責任者汪滔が、同社がオープンウェイトバージョンのMuse Spark 1.2を発表することを発表

彼の論理は、より多くの研究者、開発者、企業がモデルにアクセスできることは、より多くの人々が脆弱性を発見し、システムを改善し、技術の迅速な反復を促進することを意味します。逆に、スーパーインテリジェンスが長期間少数の機関に掌握されている場合、社会は十分な抑制力を欠くことになります。

グローバルな競争の観点から、ザッカーバーグは、アメリカが現在チップ設計などの分野で優位性を持っているが、エネルギー、データセンター、インフラの構築速度においては課題に直面していると考えています。未来のAI競争は、アルゴリズムの競争だけでなく、エネルギーと計算能力の競争でもあります。

彼は特に、アメリカはインフラの構築速度を向上させる必要があり、同時にオープンエコシステムの優位性を維持する必要があると強調しました。

モデルのトレーニングにおけるデータ使用やモデルの蒸留問題について、ザッカーバーグは、アメリカは過度に制限することによって自らの競争力を弱めるべきではないと提案しました。彼の見解は、AIの発展は本質的に人間の知識の蓄積に基づいており、モデル間の相互学習は技術進歩の重要な方法であるということです。もしアメリカが過度に自らのオープンエコシステムを制限すれば、逆に他国に機会を与えることになるかもしれません。

安全性の問題に関して、ザッカーバーグはAIがもたらすリスクを否定していません。彼はネットワークセキュリティ、生物リスク、政府権力の拡大などの問題について重点的に議論しました。

彼の核心的な見解は、AIリスクに直面する際、社会は防御能力を強化すべきであり、単に技術能力を制限するべきではないということです。

例えば、ネットワークセキュリティの分野では、もし攻撃者だけが先進的なAIツールを持っているなら、リスクは確かに上昇します。しかし、企業、政府、個人がすべてAIを使用して防御能力を向上させることができれば、全体のシステムの安全レベルも同時に向上します。

生物および化学リスクについて、ザッカーバーグは、政策の重点は危険物質の生産と流通を制限することに置くべきであり、科学知識の発展を阻止することではないと考えています。

AIが薬物開発や生命科学研究を加速させるにつれて、規制体系も同時にアップグレードする必要があります。さもなければ、従来の承認プロセスが革新のボトルネックになる可能性があります。

04 データセンターの「コミュニティアカウント」

AI競争はインフラの時代に突入しています。

大量のデータセンター、エネルギー供給、計算リソースがスーパーインテリジェンスの発展の基盤となりますが、その一方で、アメリカ社会では大規模なデータセンターの建設に伴うエネルギー消費、水資源への圧力、環境影響についての議論が増えています。

ザッカーバーグは今回、AIインフラの構築はコミュニティと利益を共有する必要があると特に強調しました。Metaは「コミュニティ契約」の理念を提案し、データセンターの所在地がより多くの雇用機会、教育投資、公共サービスの支援を受けられることを望んでいます。

彼は、データセンターは単に資源を消費する施設として見なされるべきではなく、過去の鉄道、電力、インターネットインフラのように、地域経済の発展を促進する長期的な資産となるべきだと考えています。

図：Metaがアメリカルイジアナ州リッチランド郡に建設中のデータセンタープロジェクト

これもまた、Metaがその大規模なAI投資に対する外部からの疑問に応える重要な部分です。

未来のAI競争には巨額の資本投入が必要ですが、これらの投入が社会に認められるかどうかが、テクノロジー企業が解決しなければならない問題となります。

企業ガバナンスの観点から、ザッカーバーグは、スーパーインテリジェンスの発展は単一のリーダーの判断に依存すべきではないと提案しました。彼は、CEO個人がスーパーインテリジェンスの展開における最終的な意思決定者となることは最も理想的な方法ではないと認めています。したがって、Metaは新しいガバナンスメカニズムを構築し、独立した取締役会がモデルのリリースに関する安全基準の策定に参加し、重要なモデルのリリースを審査することを目指しています。

この取り決めは、長年にわたる大規模テクノロジー企業のAI権力集中に対する外部からの懸念に応えるものです。

同時に、ザッカーバーグはAIが自主的に改善能力を持つようになった場合の極端なリスクについても議論しました。

もしAIシステムが自らの能力を継続的に向上させることができるなら、計算リソースが決定的な要因となる可能性があります。持続的な自己最適化能力を持つシステムは、理論的には他のシステムとの間のギャップを急速に拡大する可能性があります。

したがって、彼は、未来においてAIの再帰的自己改善に部分的に計算能力を投入する必要があるとしても、大部分の知能能力は依然として人間によって支配され、人間の目標を実現するために使用されるべきだと考えています。

05 最後に：次世代計算プラットフォームの入り口を争う

この記事をMetaの過去1年の動きに戻して見ると、ザッカーバーグが語っているのはAIの安全性のように見えますが、彼が本当に関心を持っているのは明らかにMetaの未来です。

個人のスーパーインテリジェンス、オープンモデル、スマートグラス、大規模な計算能力の投入、これらは以前は比較的分散しているように見えた配置が、彼によって同じ物語に組み込まれています：AIの次の段階の競争は、誰が最強のモデルを持っているかから、誰が人間とAIの間の最も長期的で高頻度の入り口を掌握できるかへと進化するでしょう。

これはMetaが本当に得意とする戦争です。

過去20年間、FacebookからInstagram、WhatsAppに至るまで、Metaの最も核心的な資産は常に人と人をつなぐ入り口でした。しかし、モバイルインターネット時代には、彼らは常にAppleとGoogleが制御するオペレーティングシステムに制約されてきました。AIはザッカーバーグに計算プラットフォームを再定義する機会を与えました：もし未来においてすべての人が自分を持続的に理解し、さまざまなサービスを呼び出し、自分の代わりに行動できるインテリジェントエージェントを持つなら、そのインテリジェントエージェント自体が新しいオペレーティングシステムとなる可能性があります。

スマートグラスの意義もこのために変わります。それはもはや単なるハードウェアの新しいカテゴリではなく、個人のAIが現実世界の情報を取得し、ユーザーと継続的に対話する端末となる可能性があります。オープンモデルも単なる技術コミュニティの戦略ではなく、Metaの技術スタックのカバレッジをできるだけ広げることを目指しています。

しかし、ここには引き続き問い直すべき矛盾があります。

ザッカーバーグは「スーパーインテリジェンスはすべての人に属する」ということでAI権力集中の懸念に応えたいと考えていますが、実際に個人のAI能力の境界を決定するのは、モデル、計算能力、端末、配信チャネル、そして最も重要な個人データです。スーパーインテリジェンスはすべての人に分配されることができますが、それを支えるインフラは天然的に非常に強い規模の経済を持っています。

言い換えれば、AI能力が個人化されるほど、その背後のプラットフォームは逆に集中する可能性があります。

したがって、Metaのこの路線が最終的に成立するかどうかは、単に彼らが十分に強いモデルを作れるかどうかだけではありません。より注目すべきは、彼らが初めてAppleとGoogleを回避し、自ら制御する計算の入り口を確立できるかどうか、そしてAIがどのアプリよりもユーザーをより深く理解し始めたとき、誰が本当にそのAIを所有し、誰がその結果生じるデータと関係を本当に所有するのかということです。