io.netの実際のGPU数は謎？分散型AIプロトコルにはどのような問題があるのか？

著者：@rargulati，MartinShkreli

編纂：白話ブロックチェーン

@ ionet は Solana 上に構築された分散型計算ネットワークで、Dep in と AI セクターに属し、Mult1 C0 in Capital と Moonhill Capital から資金調達を受けており、調達金額は公開されていません。

io . net は Solana に基づく GPU 上での機械学習トレーニングのための分散型クラウドプラットフォームで、瞬時に、許可なしで世界中の GPU と CPU ネットワークにアクセスできます。プラットフォームは 25000 のノードを持ち、革新的な技術を使用して GPU クラウドクラスターを統合し、大規模な AI スタートアップに最大 90% の計算コストを節約しています。

現在、Solana 上に構築されており、現在比較的ホットな Depin と AI セクターに属しています。今日は X 上で二人がその GPU と存在する問題について分析したものを見てみましょう：

@ ionet はいくつの GPU （Graphics Processing Unit、グラフィック処理ユニット）はグラフィック処理に使用されるチップですか？

X 上で @ MartinShkreli は四つの答えを分析しました：

1）7648（デプロイ時に試したとき）

2）11107（彼らのリソースマネージャーから手動で計算）

3）69415（説明できない数字、不変？）

4）564306（ここには何のサポート、透明性、または実質的な情報もありません。CoreWeave や AWS でさえこれほど多くはありません）

実際の答えは 320 であると考えています。

なぜ 320 なのか？

リソースマネージャーページを一緒に見てみましょう。すべての GPU は「無料」ですが、あなたはそれをレンタルすることができません。もしそれらが無料なら、なぜレンタルできないのでしょうか？人々は報酬を得たいと思っていますよね？

実際にレンタルできるのは 320 個だけです。

もしそれらをレンタルできないなら、それらは実際には存在しません。たとえレンタルできたとしても、それは増加します…

@ rargulati は、Martin がこの件について疑問を呈したことは完全に正しいと述べています。分散型人工知能プロトコルには以下の問題があります：

1）高度に分散された汎用ハードウェアアーキテクチャ上で有用なオンライントレーニングを行うためのコスト効果が高く、時間的に有効な方法がありません。これは、私が現在知らない重大なブレークスルーを必要とします。これが、FANG が暗号通貨のすべての流動性よりも多くの資金を高価なハードウェア、ネットワーク接続、データセンターの維持などに費やす理由です。

2）汎用ハードウェア上での推論は良いアプリケーションケースのように聞こえますが、ハードウェアとソフトウェアの進展が非常に速いため、汎用の分散型アプローチはほとんどの重要なユースケースでうまく機能しません。最新の OpenAI の遅延と Groq の成長を参照できます。

3）正しくルーティングされたリクエストからの推論は、リクエストと密接に共存する GPU クラスターを利用し、分散型暗号通貨を利用して資金コストを抑え、AWS と競争し、愛好者の参加を促すことです。良いアイデアのように聞こえますが、供給者が多いため、GPU スポット市場の流動性が分散しており、実際のビジネスを運営する人々に提供するための十分な供給を統合する人はいません。

4）ソフトウェアルーティングアルゴリズムは非常に優れている必要があります。さもなければ、消費者オペレーターの汎用ハードウェアには多くの問題が発生します。ネットワークのブレークスルーや混雑制御を忘れてください。誰かがゲームをしたり、WebGL を使用するコンテンツを利用したりすることを決定した場合、特定のオペレーターのサービスが中断される可能性があります。予測不可能な供給側はオペレーションに困難をもたらし、需要側のリクエスターに不確実性をもたらします。

これらはすべて厄介な問題であり、解決には長い時間がかかります。すべての入札は単なる冗談に過ぎません。