trainium

財聯社 10 月 20 日訊、アマゾンは現地時間19日にオープンソースツールTorchNeuronを発表し、開発者がNVIDIAのチップから自社開発のチップに移行する際のハードルを下げ、NVIDIAがCUDAに基づいて構築したソフトウェアの壁に挑戦することを目的としています。報道によると、このツールを使用すると、PyTorchで書かれたAIコードを再記述することなく、アマゾンの自社開発AIチップ上で実行できるようになります。PyTorchはMetaが主導して維持管理しており、多くのAI開発者が使用するオープンソースフレームワークとして説明されています。アマゾンのチップ設計部門Annapurna Labsは、TorchNeuronを利用することで、開発者は1つの設定を変更するだけで、同じコードを自社開発のTrainiumチップ上で実行できると紹介しています。アマゾンは現地時間19日にこのツールの発表を行い、20日にカリフォルニア州サンノゼで開催されるPyTorch大会で無料オープンソース形式で公開する予定です。Annapurna Labsのソフトウェア副社長Colin Braceはインタビューで、TorchNeuronの導入は開発者がアマゾンの自社開発チップを試すための手順を減らすためであり、顧客の既存の作業方法に基づいていると述べました。彼はすでに30社以上の初期顧客が利用しており、ロボット、ワールドモデル、音声AIなどの分野をカバーしていると明かし、アマゾンのチップに切り替えることでコストを削減できると述べました。

アマゾンウェブサービス (AWS) の上級副社長は、次世代の Trainium AI チップが「非常に明確な差別化の利点」を持つと述べました。

アマゾンが新世代AIチップTrainium 3を発表アマゾンは新世代AIチップTrainium 3を発表しました。トレーニング速度は前世代の4倍で、Nvidiaの市場シェアを狙っています。このチップはAWSを通じてサービスを提供し、大規模モデルのトレーニングを支援します。同時に、Core ScientificやIRENなどの複数のビットコインマイニング企業がデータセンターをAIインフラに転換し、マイクロソフトやグーグルなどと数十億ドルの協力契約を結んでいます。AIインフラへの投資熱が高まる中、アナリストは需要が鈍化した場合、関連企業が8000億ドルの資金不足に直面する可能性があると警告しています。