BTC $63,991.37 -1.34%
ETH $1,790.86 -1.54%
BNB $587.80 -0.84%
XRP $0.9797 +0.98%
SOL $74.11 +0.57%
TRX $0.3096 +1.38%
DOGE $0.0590 -0.59%
ADA $0.1524 -1.40%
BCH $207.22 -1.95%
LINK $9.11 -1.93%
HYPE $68.59 -1.68%
AAVE $110.76 -2.95%
SUI $0.7213 -1.94%
XLM $0.1398 -0.70%
ZEC $929.75 -1.80%
AAPL $350.97 -0.32%
AMZN $259.08 -0.06%
GOOGL $282.83 -0.26%
MSFT $505.67 -2.08%
META $618.33 -0.85%
NVDA $160.01 +1.10%
TSLA $382.60 +0.30%
SNDK $814.68 -1.16%
INTC $55.39 +0.38%
SPCX $142.25 +2.51%
MU $725.52 -0.94%
AMD $511.50 -0.66%
BTC $63,991.37 -1.34%
ETH $1,790.86 -1.54%
BNB $587.80 -0.84%
XRP $0.9797 +0.98%
SOL $74.11 +0.57%
TRX $0.3096 +1.38%
DOGE $0.0590 -0.59%
ADA $0.1524 -1.40%
BCH $207.22 -1.95%
LINK $9.11 -1.93%
HYPE $68.59 -1.68%
AAVE $110.76 -2.95%
SUI $0.7213 -1.94%
XLM $0.1398 -0.70%
ZEC $929.75 -1.80%
AAPL $350.97 -0.32%
AMZN $259.08 -0.06%
GOOGL $282.83 -0.26%
MSFT $505.67 -2.08%
META $618.33 -0.85%
NVDA $160.01 +1.10%
TSLA $382.60 +0.30%
SNDK $814.68 -1.16%
INTC $55.39 +0.38%
SPCX $142.25 +2.51%
MU $725.52 -0.94%
AMD $511.50 -0.66%

tilelang

Все
Статьи
Новости

first_img DeepSeek открытые компоненты Ascend, охватывающие библиотеки компиляции, вычислений и связи

Компания искусственного интеллекта DeepSeek официально открывает исходный код инфраструктурных компонентов для платформы вычислений Huawei Ascend, включая инструменты компиляции высокоуровневого языка TileLang, библиотеки вычислений и библиотеки распределенной связи, которые соответствуют ранее выпущенным компонентам с открытым исходным кодом для платформы NVIDIA. TileLang предназначен для предоставления универсального, более простого в программировании высокоуровневого языка, который может достигать предельной производительности аппаратного обеспечения, что по сравнению с CUDA повышает эффективность разработки и упрощает логику, а его модель программирования также может использовать особенности чипа.Маршрут TileLang сначала был проверен на платформе NVIDIA и уже реализовал большинство операторов в обучении моделей серии DeepSeek V4. Открытая версия для Ascend оборачивает низкоуровневые инструкции Ascend C, предоставляя способ программирования на высокоуровневом языке без потери производительности аппаратного обеспечения. В настоящее время каждый оператор TileLang, используемый в обучении DeepSeek, имеет соответствующую высокопроизводительную реализацию на Ascend.Также открыты компоненты, такие как DeepGEMM, DeepEP, TileKernels, FlashMLA и DeepSelect, которые используются для общих матричных вычислений, масштабной межустройственной связи, обычных векторных вычислений и доступа к памяти, разреженного внимания с длинным контекстом и фильтрации данных. DeepSeek утверждает, что в нескольких ключевых тестах связанные вычисления и производительность связи уже близки к аппаратному пределу; в процессе разработки команда Huawei оказала поддержку, и обе стороны совместно продвигают решение с 128 картами на базе Ascend 950, а также провели глубокую оптимизацию вычислений и связи.
app_icon
ChainCatcher Building the Web3 world with innovations.