BTC $61,923.74 -3.31%
ETH $1,755.88 -3.35%
BNB $563.09 -2.75%
XRP $1.06 -3.48%
SOL $74.67 -3.48%
TRX $0.3256 -1.65%
DOGE $0.0709 -3.18%
ADA $0.1567 -4.38%
BCH $235.53 -3.60%
LINK $7.81 -2.72%
HYPE $63.41 -6.56%
AAVE $93.77 -4.46%
SUI $0.7163 -3.01%
XLM $0.1807 -4.10%
ZEC $510.08 -6.36%
BTC $61,923.74 -3.31%
ETH $1,755.88 -3.35%
BNB $563.09 -2.75%
XRP $1.06 -3.48%
SOL $74.67 -3.48%
TRX $0.3256 -1.65%
DOGE $0.0709 -3.18%
ADA $0.1567 -4.38%
BCH $235.53 -3.60%
LINK $7.81 -2.72%
HYPE $63.41 -6.56%
AAVE $93.77 -4.46%
SUI $0.7163 -3.01%
XLM $0.1807 -4.10%
ZEC $510.08 -6.36%

AIの十字路:なぜウォール街はChatGPTやClaudeに「ノー」と言っているのか?

核心的な視点
Summary: ある会社 alpha が存在する分野では、専門家が調整したオープンモデルが精度とコストの両方で最前線を打ち負かしており、プライバシー環境下でそれを構築するインフラが、まさにノードごとに到来しています。
IOSGベンチャーズ
2026-07-13 22:47:22
コレクション
ある会社 alpha が存在する分野では、専門家が調整したオープンモデルが精度とコストの両方で最前線を打ち負かしており、プライバシー環境下でそれを構築するインフラが、まさにノードごとに到来しています。

著者:Jeff @IOSG

なぜプライベートAIが必要なのか

7月1日、PalantirのCEOアレックス・カープがCNBCで「精神崩壊」と称される20分間のインタビューを行った。カープによれば、企業は最前線の研究所にトークンプレミアムを支払い、自社のIPがモデル業者に流出するのを見ているという。彼はこの漏洩をアルファの移転と呼び、移転はアーキテクチャ層で起こっていると述べた:クローズドソースモデルへのリクエストは、すべて平文の形でサービスプロバイダーのサーバーに到達する。番組が放送される数日前、PalantirはNVIDIAとの提携を発表し、顧客が制御する環境でオープンなNemotronモデルを実行し、9項目のAI主権宣言を添付した。CNBCの番組放送後、PLTRは8%急騰した。 AIの十字路:なぜウォール街はChatGPTやClaudeに「ノー」と言っているのか? 過去20年間、企業はプロトコルレベルの信頼に基づいてクラウドソフトウェアを採用してきたが、これは機能していた。各SaaSプロバイダーは企業データのスライスしか見ておらず、大多数は顧客データをコア製品にフィードバックする動機もなかった。Salesforceは販売チャネルを、Workdayは人事を、Jiraは開発の反復を、AWSはストレージと計算の基盤を提供している。しかし、今日のAIワークフローは、すべての資産を一度にアップロードし、各部門をつなぐ構造化されたコンテキストを求めて生産性を最大化しようとしている。善意を脇に置くと、上流のサービスプロバイダーは今やこれらのデータを使って新機能を作ることができ、サーバーの中でほこりをかぶらせることはない。

誰も減速していない。Anthropicの年次収益は5月に470億ドルに達し、2025年末の90億ドルから大幅に跳躍した。OpenAIは2月に9億の週次アクティブユーザーを突破した。両社は今年の春に新たな資金調達を完了し、評価額は1兆ドルに迫り、より高い評価でIPOすることが予想されている。長年のプライバシーとIPに関する告発は、両社の勢いを少しも損なうことはなかった。

一部の企業はすでに行動を起こしている。2023年2月、ChatGPTがリリースされてから3ヶ月も経たないうちに、ウォール街の主要銀行はその使用を制限した。2023年5月、三星のエンジニアがチップのソースコードをChatGPTに漏洩させた後、同社は全ネットワークで生成AIを禁止した。これに対抗して、OpenAIは同年8月にChatGPT Enterpriseを立ち上げ、商業データを使用しないことを約束し、ゼロデータ保持(zero-data-retention, ZDR)プロトコルを追加した。後者はその後、企業の調達における標準要件となった。

しかし、契約は会社のアカウントをロックするだけだった。IBMは、2025年までにシャドーAI(従業員が個人アカウントを通じて会社のデータを未承認のAIツールに供給すること)が5分の1のデータ漏洩事件に関与することを発見し、重度のシャドーAIの使用は漏洩コストを平均67万ドル増加させることがわかった。安全トレーニング会社Anagramの2025年の調査では、4人の従業員がタスクを迅速に完了するためにAI使用ポリシーを違反する意向があると述べた。

企業は少なくともお金を使って出口を買うことができる。ZDR契約、トレーニングしないサービスプラン、政府やPalantirの顧客であれば主権のデプロイも可能だ。しかし、私たちのような普通のユーザーにとって、プライバシーAIが重要かどうかは今でも議論の余地があり、裁判所の召喚状が届くまでその重要性は明らかではなかった。

2025年5月の裁判所命令は、OpenAIにユーザーが削除した消費者向けチャットを保持するよう強制し、11月には裁判官がその中の2000万件を『ニューヨークタイムズ』の弁護士に証拠開示資料として移交するよう命じた。次は刑事事件:パリセーズ大火放火事件の被告のChatGPT記録が証拠として提出され、フロリダの二遺体事件の宣誓供述書には、容疑者が遺体を処理する方法についての質問が引用された。サム・アルトマンも2025年7月のインタビューで、ChatGPTの対話は法的特権の保護を受けないことを認め、訴訟においてOpenAIは「ユーザーのチャット記録を提出するよう求められる可能性がある」と述べた。

重要なのは、犯罪者だけがプライベートな対話を必要とするわけではない。人々とAIの対話が記録され、召喚可能であることは、多くのユーザーが存在を知らない監視の側面である。コルモゴロフ法則が2025年10月に1000人のアメリカのAIユーザーを調査したところ、50%の人がこれらの対話が召喚される可能性があることを知らず、同時に3分の2の人がこれらのチャットは弁護士や医師と同等の保護を受けるべきだと考えていることがわかった。

自己ホスティングまたは検証可能な環境で動作するオープンソースモデルは急速に追いついているが、最も強力なグループは依然として一般的な能力において最前線のクローズドソースモデルに約4ヶ月遅れている。これにより、トークンマキシングを行う企業や個人は分岐点に立たされている。プライバシーのために数ヶ月のモデル品質を犠牲にするか、Anthropicのサーバーに機密資料を引き続きアップロードするか、競争相手が生産性の優位性を獲得するためにそうしているからだ。 AIの十字路:なぜウォール街はChatGPTやClaudeに「ノー」と言っているのか? 現在、市場には完璧な解決策は存在せず、報告書は各方面のギャップを縮小する試みを整理し、証明可能なプライバシーの下での最前線の知能が企業や一般ユーザーの手に届くまでの距離を観測している。

現在のプライバシーの実現方法

プライバシーAIは単一のプロジェクトではないが、現在市場に存在するすべてのメカニズムは同じイベントを処理している:プロンプトがあなたのデバイスを離れ、ネットワークを通過し、モデルを実行するマシンに到達し、再び返信が返される。このメカニズム間の違いは、平文がこのパスのどこに存在するか、誰がそれを読むことができるか、そして返信のプライバシーを検証するために何を使用するかにある。 プロトコルレベルのプライバシー このレベルでは、あなた以外にもあなたの平文プロンプトを読む人がいる。次に何が起こるかは、約束の一言に依存する。 AIの十字路:なぜウォール街はChatGPTやClaudeに「ノー」と言っているのか?

  • 契約式ゼロ保持は企業向けのソリューションである。サービスプロバイダーはあなたが誰であるかを知り、あなたのプロンプトを処理し、保持しないことを約束し、実行は契約と評判に依存する。

  • 匿名プロキシはあなたが誰であるかを消去するが、あなたが何を言ったかは暗号化しない。下流のサービスプロバイダーは依然として自社のポリシーに従って平文を処理する。各社の条項は異なり、例えばDuck.ai(DuckDuckGoのチャットボット製品)のようなプロキシはモデル業者と削除契約を結ぶが、Veniceはユーザーにサービスプロバイダーがすべてを保存することを前提とさせるが、両者とも検証する手段がない。

マシンとマシンの間の各セグメントはTLS上で実行され、これはパイプラインを暗号化するだけで、受け取る側はすべての情報を読むことができる。中継は通常、Oblivious HTTP(RFC 9458)を使用してこの知情権を分割し、原理は友人にメモを渡すのに似ている。友人は誰が渡したかを知っているが、内容は読めない。受取人は内容を読めるが、誰が書いたかはわからない。OHTTPは2024年1月からIETF標準となり、現在多くの企業がCloudflareやFastlyから借りたOHTTP中継上で生産トラフィックを実行している。

これがクローズドソースモデルにアクセスすることで得られるプライバシーの上限である。理由は算数の問題である。現在のフラッグシップトレーニングのコストは10億ドル規模であり、これらの研究所の評価額は近く1兆ドルで、モデルの重みの独占に賭けている。モデル能力の差がどれだけ持続するかがプレミアムを支えるので、研究所は重みファイルを国家機密のように守っている。

Metaはこの実験を受動的に行ったことがある。2023年2月に発表されたLLaMAは当初研究者にのみ公開されていたが、1週間も経たないうちに重みが種子形式で4chanに漏洩した。さらに1週間後、llama.cppは最小の7BモデルをMacBook上でローカルに実行できるようにし、3日後にはスタンフォードが同じモデルで600ドル未満でチャットアシスタントAlpacaを微調整した。この漏洩によりLlamaの運用コストは電気代にまで押し下げられ、ファイルを手に入れた人は誰でも自宅で実行できるようになった。2023年7月、Metaは正式に7億の月間アクティブユーザーを除外条項としてLlama 2をオープンソース化した。重みが流出し、プレミアムも流出した。

最前線の研究所は理論的にはクローズドソースモデルの推論に対してattestation(リモート証明)を行うことができるが、attestationはどのコードがプロンプトを読んだかを証明することしかできず、そのコードがそれを使って何をしたかを証明することはできない。サーバーがデータを保持しているかどうかを確認するには、サービスコードを監査し、それをハードウェアが報告するハッシュに再構築する必要がある。しかし、一度サービスコードを提出すれば、研究所は利益率を支えるバッチ処理やキャッシュのテクニックを手放すことになり、これらのテクニックは将来のすべてのモデルに移行することになる。AppleやMetaがiPhoneやWhatsAppの背後にあるサービススタックのリモート証明を行えるのは、彼らの利益がデバイスや広告にあるからであり、公開されたサービスコードはほとんどコストがかからない。

これがフラッグシップモデルの重みとサービスコードが外部の運営者の手に渡らない理由である。外部の運営者がいなければ、第三者のattestationは存在せず、attestationがなければ、検証可能なプライバシーはオープンソースモデルの上にしか存在しない。 構造レベルのプライバシー このカテゴリの各メカニズムは、ハードウェア、暗号学、または物理に基づく証明を信頼の約束に置き換えているが、それぞれプライバシーのアップグレードに異なるコストを支払う必要があり、最も重要なのは、これらはオープンソースモデルでしか実行できないことだ。 AIの十字路:なぜウォール街はChatGPTやClaudeに「ノー」と言っているのか?

  • TEE(信頼実行環境)機密計算は推論をハードウェアのエンクレーブ(チップ上の、機械の運営者さえ開けられない密封室)内で実行し、チップはどのモデル、どのコードが実行されたかを明記したattestationを署名する。

  • プロンプトは終点でのみ封印される。代理を介して中継されるパス上には平文を読むことができる役割が残っており、代理が中継内容を記録または漏洩するのを防ぐのは、プロトコルだけである。

  • E2EE(エンドツーエンド暗号化)は可読の中継を封じ込める。ユーザーのデバイスはエンクレーブの鍵を使用してプロンプトを暗号化し、中間の各ホップが持つのはエンクレーブのみが解読できる密封された封筒である。

  • 信頼はクライアントにかかる。プロンプトを暗号化し、attestationを検証するコードも同様にこの保証を撤回する能力を持つ。したがって、検証可能なE2EEは、証明されたエンクレーブと、オープンで再現可能なクライアントコードの両方を必要とする。

  • TEEのシンプルさに比べ、E2EEのコストはエンジニアリングの負担であり、これが機能統合を遅らせる。E2EEは代理を盲目的な使者に変え、平文を読むことができる機能はすべてクライアントの鍵を中心に再構築する必要があるか、またはエンクレーブ内部でのみ再構築する必要がある。

  • FHE(完全同型暗号、及びMPC変種)は信頼された当事者を完全に排除する。サーバーは自分が決して開けられないロックボックス内で暗号文に対して計算を行い、鍵はあなたの手の中にある。MPC(多者安全計算)はプロンプトを秘密の部分に分割して複数の当事者に配布し、すべての参加者が共謀しない限り、効果は同等である。

  • コストは速度である。FHEは本質的に加算と乗算しか行えないため、トランスフォーマーの運転に必要な非線形ステップは高額なコストで再構築されなければならない。暗号文上の推論コストは平文の1万から10万倍であり、小モデル上の各トークンは数秒から数分かかるが、暗号化しない場合はミリ秒で済む。

  • 暗号化計算用にカスタマイズされたチップはギャップを縮小することが期待されているが、最初のプロトタイプは2026年初頭にデモが完成する予定で、商用バージョンはさらに数年待たなければならない。

  • ローカル推論はこのパスを直接削除する。モデルはあなた自身のハードウェア上で実行され、中継もサーバーもサービスプロバイダーもなく、検証の必要もない。

  • 明らかなコストはコストとモデル能力である。gpt-oss-120bはArtificial Analysis指数でGLM-5.2の約半分のスコアを持っているが、サイズは65GBで、市場に出ている2つのフラッグシップゲームグラフィックカードのメモリ合計を超えている。一方、全精度のGLM-5.2は8カードのデータセンターノードでしか実行できず、GPUだけで30万ドル以上かかる。 しかし、これらの構造的制約を超えて、エンクレーブ内での推論コストは圧縮されている。単一カード推論では、エンクレーブクラウドサービスプロバイダーPhalaのベンチマークテストによれば、エンクレーブモードのH100のスループット損失は平均7%未満であり、大モデルではほぼゼロである。主なコストはデータをチップに移動することであり、内部で計算することではない。マルチカード推論では、NVIDIAの次世代GPU Blackwellはチップ間のトラフィックの直接暗号化をサポートしており、古いH100は同じ効果を得るために7分の1の帯域幅でCPUホストに回り込む必要がある。NVIDIA自身のBlackwell上のベンチマークテストでは、397Bモデルのエンクレーブモードでのスループット損失は8%未満である。これらの進展により、プライバシー推論自体の性能損失はもはや決定的な制約ではなくなった。

実際、エンクレーブ自体は運営者に追加の運用コストをほとんど増加させない。2023年以降のすべてのH100はエンクレーブモードを自動的に搭載しており、追加コストは暗号化によるスループット損失であり、追加のチップではない。現在、Azure上の機密H100 SKUのレンタル価格は1時間あたり8.90ドルで、エンクレーブを開かない場合は6.98ドルであり、従来のクラウド施設で27%の価格上昇に相当する。一方、Phalaのようなエンクレーブを専門に提供する運営者では、機密モードのH100が1時間あたり3.80ドルからレンタルされており、Lambdaの通常のSXMカードの3.99ドルから4.29ドルの価格帯を下回っている。ホスティングAPIソリューションでは、NEAR AIのattestationを伴うエンドポイントが、gpt-oss-120bの入力に0.15ドル、出力に0.55ドルを提供し、平文ルート上のAmazon Bedrock、Together、Groqと同等である。たとえマルチチップ並列が必要なモデルであっても、NEAR AIはGLM 5.2での価格設定がFireworksと全く同じであり、より大きなKimi K2.6では入力が15%安く、出力が4%安い。

これらの新しいプライバシー推論サービスプロバイダーが利益を焼きながらシェアを奪おうとしているかもしれない(この言葉は市場で成長を望む企業すべてに当てはまる)が、構造的な流れは、プライバシーのコストが消費者と運営者の両方において低下していることである。

オープンソースモデルはどう勝つのか?

性能コストが圧縮されているにもかかわらず、最前線のモデルとSOTAオープンソースモデルの間には依然として目に見えるギャップがあり、生産性の最大化を追求する主体は最前列に留まるために、最前線の研究所が自分のIPを盗まないことを信頼しなければならない。

ギャップは依然として存在するが、Bridgewater傘下のAIA LabsとThinking Machinesは6月30日に一つのケーススタディを示した:専門家によってラベル付けされた微調整を行ったオープンモデルが、精度とコストの両方で最前線のモデルを打ち負かした。

研究では、チームはTinker(Thinking Machinesのホスティング微調整APIサービス)上でQwen3-235Bを微調整した。彼らはまず供給者からラベル付けされたデータを購入し、このデータで第一ラウンドをトレーニングし、次に分岐サンプルを会社の投資者に再ラベル付けさせた。トレーニングは強化学習(GRPO)で行われ、さらに3つの修正が加えられた:ラウンドロビンバッチ処理(各タスクが順番にバッチを出す)、CISPO損失(単一の回答がモデルをどれだけ引き上げられるかの上限を制限する)、オンポリシーディスティレーション(現在の最適チェックポイントを固定し、モデルがより弱いコピーを学ばないようにする)。

タスクはすべて投資者の日常のワークフローから取られた:あるニュースがC-suiteレベルの投資専門家にとって重要か、中央銀行の文書が将来の金利変動の方向を示唆しているか、文書やメールのテンプレートの出発点はどこか。スコアは独立したテストセットから得られ、最前線のモデルは単純なプロンプトで平均約50%のスコアを得て、専門家のプロンプトを加えても78.2%にしか達せず、投資者が設定した80%の閾値を下回った。一方、微調整されたQwenは84.7%を獲得し、原文の基準によれば、これは最前線の最適解よりも29.8%少ないミスを犯し、推論コストは13.8倍低かった。 AIの十字路:なぜウォール街はChatGPTやClaudeに「ノー」と言っているのか? https://thinkingmachines.ai/news/learning-to-replicate-expert-judgment-in-financial-tasks/ このケーススタディは、オープンソースモデルが精度とコストの両方で勝利できることを証明したが、トレーニングプロセスは依然としてプライベートではない。プロセスで使用された専門家のラベル付けはBridgewaterのプライベートデータであり、Tinkerを経由する第三者サービスはZDRプロトコルと同じ信頼レベルにある。ファンドは計算能力も借りており、トレーニング全体は彼らが制御したことのないマシン上で実行された。このレシピを欲しがりながら信頼仮定を背負いたくない買い手にとって、今日の選択肢は非常に限られている。裸のGPUクラスターを借りると、トレーニングプロセスはクラウド運営者に読まれる可能性がある。クラスターを購入すればデータホスティングの問題は解決されるが、コストは急上昇する。

attestationを伴うルートがようやく登場した。3月、Workshop LabsとTinfoilはSiloを発表した。これはTinfoilエンクレーブ内で動作する、単一の8カードノード上の後トレーニングスタックであり、鍵は顧客が掌握する。記事によれば、エンクレーブコストは2時間のトレーニングで11分の追加時間がかかり、このスタックは基盤の重みを凍結し、その上で小型アダプターをトレーニングすることで、1兆パラメータモデル(Kimi K2 Thinking)を収容できる。難点は、強化学習が各コンポーネント間でデータを移動させる必要があり、データの移動がまさにエンクレーブコストの所在であることだ。

Siloが発表されてから1ヶ月も経たないうちに、Workshop LabsはThinking Machinesに買収され、エンクレーブ内で次のBridgewater式RLループに必要な部品はすべて同じ会社の傘下に入った。

ハーネス層のプライバシー

すべてのプライベート推論メカニズムの外にもう一つの問題が横たわっている。これらのメカニズムはそれぞれプロンプトからモデルへのパスを管理しているが、エージェントが外部ツールを呼び出すたびに、推論層が根本的に触れられないパスが開かれる。最近のハーネスエンジニアリングの潮流はこの問題を倍増させ、モデルの周囲に接続された各ツール、メモリ、データソースは、平文で自分のワークフローのスライスを読み取る目的地となる。カレンダーサーバーはスケジュールを読み取り、データベースサーバーはクエリを読み取る。完全にローカルなエージェントがトレーニングセット以外の何かを望む場合、検索語を平文で検索エンジンに渡す必要があり、サーバーは平文を読み取れないため、質問に答えることができない。

主流の解決策は依然としてプロトコルレベルに依存している。RunlayerやMintMCPのような企業は、中央ゲートウェイを使用してすべてのツールトラフィックを管理し、リクエストが出る前に個人情報(PII)を隠す。ゲートウェイは同時にどのサーバーがトラフィックを受け取ることができるかを決定し、未審査のものを門の外にブロックし、各呼び出しの目的地と内容を記録して証拠として保管する。これらの管理が独立した監査(SOC 2)を掲げていても、ツールサーバーは平文のクエリを読む必要があり、回答するためにはそれを読み取らなければならない。副本を残すかどうかは自社の保持条項に依存し、ハーネス内の各ツールに乗じている。また、ゲートウェイ自体もパス上に余分な信頼の読み取り方であり、検証ではない。

構造レベルのソリューションは中間のその層に到達した。例えば、PhalaはMCPサーバーを直接TEEにホスティングし、ディレクトリはウォレット、コード実行、データソースをカバーし、ユーザーはattestationを持ってプライバシー声明を検証できるが、運営者を信頼する必要はない。しかし、TEEがホスティングするツールは最終的にクエリを平文でサービスプロバイダーに渡さなければならず、エンクレーブが封じ込めるのは使者だけであり、目的地ではない。 AIの十字路:なぜウォール街はChatGPTやClaudeに「ノー」と言っているのか? ごく少数の目的地は、読まずに答えることを学んだが、これは構造化クエリに限られる。AppleはiPhoneにプライベート情報検索を提供し、着信番号が迷惑電話リストと照合される際に番号を公開する必要がない。MicrosoftはEdgeブラウザでパスワードに同じソリューションを使用した。MongoDBのQueryable Encryptionは、クライアントがフィールドを離れる前に暗号化し、サーバーは暗号文だけで等価および範囲マッチングを完了できる。

しかし、オープンな検索に関しては、今日の最良の答えは信頼にとどまっており、検証可能な暗号検索はまだ実験室を出ていない。Braveは自社の400億ページのインデックス(Googleではなく)でゼロデータ保持を約束しているが、依然としてプロトコルレベルにとどまっている。Exaは神経インデックスを構築し、ユーザーのキーワードを埋め込み、意味に基づいて結果をソートするが、この埋め込みステップは依然としてExaのサーバー上で平文から計算される。MITの2023年のTiptoe論文は3.6億のウェブページでソートを完了し、クエリを公開せずに済んだが、各検索で大量のサーバー計算力を消費し、ソートの質は暗号化されていない検索と差があった。Appleの2024年のWally論文は、実際のクエリを一連の囮の中に隠すことで、通信コストを最大31倍低下させたが、この数学は数百万の同時クエリがなければ安くならず、この規模は今日のどのプライベート検索システムも持っていない。

暗号検索は可能だが、性能と価格は商業的に実行可能なレベルには達していない。

展望

プライベートAIの需要は増加している。Venice AIは最近350万の登録ユーザーと毎月1.3兆トークンのスループットを突破し、その後10億ドルのシリーズA資金調達を完了した。Protonはその直接の競争相手であり、チャット製品Lumoはローンチから1年以内にユーザー数が1000万を超えた。インフラ面では、Phalaは現在OpenRouter上で日平均20億から30億トークンを処理している。Duck.aiはgpt-oss-120bとGemmaをTinfoilのエンクレーブにルーティングし、ユーザーに代理を超えた検証可能なプライバシーを提供している。これは自己ホスティングを考慮に入れていないが、自己ホスティングはプライベート推論の最大のチャネルである可能性が高い。結局、モデルは自分のハードウェア上で実行され、使用の痕跡を残さない。

しかし、主流のAIの大潮流の中で、プライバシーAIはごく一部に過ぎず、このギャップは最前線の研究所が意図的にこの需要を満たすときにのみ縮まる。5月、Googleは全製品で320兆トークンを処理し、これに基づくと、Veniceの1ヶ月のスループットはGoogleの18分に相当する。昨年11月、GoogleはPrivate AI Compute(PAC)を立ち上げ、一部のGemini駆動の機能を会社自身から隔離された密封TPUエンクレーブで実行し、設計はNCCグループによって独立監査された。しかし問題は、PACは個別の推奨や録音要約などの少数のPixel機能にしか適用されず、数億人が使用するGeminiアプリには適用されない。Googleが設計を監査機関に委ねることができるのは、これらの機能がデバイスや広告から収益を上げており、トークンを販売することに依存していないからである。

現在のホスティングソリューションも完璧ではない。最高のプライバシーを得るためにE2EEを使用するユーザーは、新機能がサービスプロバイダーに読まれない場所で再構築されるのを待たなければならない。プライベートハーネスはサービス層で依然としてプロトコルに依存している。合理的な価格の後トレーニングで、最良の微調整結果を得るには依然として第三者の供給者を信頼しなければならない。自己ホスティングはすべてのサービスプロバイダーを一度に排除するが、最強のオープンソースモデルをローカルで実行するためにかかるコストは、それを挿入する建物よりも高くなる可能性がある。

欠陥は欠陥だが、プライベートAIはすでに現実的で手頃な選択肢となっており、残されたギャップも縮小している。一般消費者にとって、LumoやVeniceでは、ログなしの約束の下でオープンモデルのプライベートチャットが無料で利用でき、VeniceやTinfoilの18ドルから20ドルのサブスクリプションは同じチャットをエンクレーブに封じ込め、ChatGPTのサブスクリプションと同じくらいの価格である。企業のワークフローにおいて、attestationを伴うエンドポイントは、現在の平文ルートよりも安価である。NEARのE2EE APIのようなエンドポイントは、暗号化されたコンテキストをエンクレーブに持ち込むことができ、メモリ、ファイルアップロード、カスタム指示は今日E2EEの上で動作できる。attestationを伴う後トレーニングについては、NVIDIAが近日中に発表するVera Rubin NVL72が、機密計算をBlackwellの8カードノードから72カードラックに拡張し、最前線のRLループをIPを公開せずにより実行可能にする。

しかし、重要な価値の捕獲は、これらの価格圧縮のレベルの外にある。プライバシーはすでに存在する場所ではほぼ無料だが、主流のエージェントワークフローをカバーしていない。エンクレーブをレンタルまたは販売する運営者が握っているのは、標準チップ上のスイッチであり、城壁ではなく、プロトコルレベルのゲートウェイは従来のミドルウェアと競争している。防御可能な陣地は、この報告書でまだ解決されていないその半分である:エンクレーブ内のトレーニングループ、エンドツーエンドで封じ込められたツール呼び出し、見えないエントリの検索インデックス。これらのうちの一つを最初に実現した者が、価格戦争では商品化できないものを販売することになる。プライバシーAIを追求する資本は、買うべきはギャップであり、そのスイッチではない。

したがって、信頼か検証か?実行重視、エージェント重視のタスクに対しては、信頼を選ぶべきである。なぜなら、各ツール呼び出しは元々平文をエンクレーブが封じ込められない目的地に渡しているからである。そして、最前線のモデルはこの種のループでその価格に見合うものである。企業を競合と区別する高次の思考に関しては、検証を選ぶべきである。戦略、計画、そして長年の専門的経験から抽出された判断は、まさに議論の中にあるそのアルファである。前進する道は、企業が自ら制御する境界内で、これらの独自の洞察を用いてオープンソースモデルを微調整することである。企業のアルファが存在する領域で、専門家によって調整されたオープンモデルは、精度とコストの両方で最前線を打ち負かしており、それをプライバシー環境下で構築するためのインフラが、徐々にノードごとに到来している。

Join ChainCatcher Official
Telegram Feed: @chaincatcher
X (Twitter): @ChainCatcher_
warnning リスク警告
app_icon
ChainCatcher Building the Web3 world with innovations.