Шэнтэнг

DeepSeek объявила о полном открытии своего внутреннего фреймворка вывода DeepInfer и одновременно открыла компоненты кодирования и декодирования токенов производственного уровня deepseek-recipe. DeepInfer интегрирует высокопроизводительные операторы и глубоко оптимизированный движок вывода, поддерживает распределенный вывод, декодирование предположений, SWA Bounded Replay и структурированный вывод, совместим с платформами NVIDIA и Huawei Ascend.DeepSeek заявила, что на основе DeepInfer реализовала высокопроизводительную, низкозадерживающую службу массового вывода DeepSeek V4.1 Flash, в будущем код вывода и оптимизация для новых моделей также будут постоянно обновляться. deepseek-recipe полностью согласован с логикой обработки официального API DeepSeek, с целью обеспечить сообществу опыт, аналогичный официальному развертыванию. Открытый репозиторий и технический отчет были одновременно опубликованы.

Компания искусственного интеллекта DeepSeek официально открывает исходный код инфраструктурных компонентов для платформы вычислений Huawei Ascend, включая инструменты компиляции высокоуровневого языка TileLang, библиотеки вычислений и библиотеки распределенной связи, которые соответствуют ранее выпущенным компонентам с открытым исходным кодом для платформы NVIDIA. TileLang предназначен для предоставления универсального, более простого в программировании высокоуровневого языка, который может достигать предельной производительности аппаратного обеспечения, что по сравнению с CUDA повышает эффективность разработки и упрощает логику, а его модель программирования также может использовать особенности чипа.Маршрут TileLang сначала был проверен на платформе NVIDIA и уже реализовал большинство операторов в обучении моделей серии DeepSeek V4. Открытая версия для Ascend оборачивает низкоуровневые инструкции Ascend C, предоставляя способ программирования на высокоуровневом языке без потери производительности аппаратного обеспечения. В настоящее время каждый оператор TileLang, используемый в обучении DeepSeek, имеет соответствующую высокопроизводительную реализацию на Ascend.Также открыты компоненты, такие как DeepGEMM, DeepEP, TileKernels, FlashMLA и DeepSelect, которые используются для общих матричных вычислений, масштабной межустройственной связи, обычных векторных вычислений и доступа к памяти, разреженного внимания с длинным контекстом и фильтрации данных. DeepSeek утверждает, что в нескольких ключевых тестах связанные вычисления и производительность связи уже близки к аппаратному пределу; в процессе разработки команда Huawei оказала поддержку, и обе стороны совместно продвигают решение с 128 картами на базе Ascend 950, а также провели глубокую оптимизацию вычислений и связи.

Согласно эксклюзивному отчету агентства Reuters от 10 сентября, китайские производители AI-чипов значительно повысили цены из-за нехватки высокоскоростной памяти. Huawei повысила цену на ускоритель Ascend 950DT до более чем 250 000 юаней, что на 20% до 50% выше по сравнению с ценой два месяца назад. Cambricon также увеличила ориентировочную цену на свой планируемый чип 690 на 20% до 30%, аналогичные повышения цен наблюдаются у Muxi и Tianxu Zhixin.В отчете говорится, что причиной являются экспортные ограничения США и рост затрат из-за поставок высокоскоростной памяти на сером рынке. Цены на более ранние продукты Huawei, такие как Ascend 950PR и 910C, также выросли примерно на 30%. Указанные повышения цен увеличили стоимость строительства AI-вычислительных мощностей в Китае. Компании, такие как Huawei и Cambricon, не прокомментировали ситуацию.

Исследовательская организация Delphi Digital опубликовала статью, в которой говорится, что аппаратные ограничения заставляют китайские лаборатории переходить на более дешевые модели и более эффективные технологические стеки. Экспортные ограничения затрудняют получение передовых чипов, внутренние ускорители могут обрабатывать вывод, но передовое обучение по-прежнему трудно реализовать. Китайские лаборатории внедряют инновации в системной эффективности, архитектуре моделей, обучающих данных и усиленном обучении, DeepSeek нашел способ избежать простоя GPU при перемещении данных, ByteDance и Moonshot выпустят аналогичные версии в течение нескольких месяцев.Обучение в архитектуре переходит на более дешевые цифровые форматы, адаптированные для отечественных чипов, разреженные архитектуры уменьшают количество операций на каждый токен, механизм внимания был переработан трижды для контроля затрат на память в длинном контексте. В области данных улучшение плотности предсказаний и более эффективные оптимизаторы повышают обучающий сигнал на каждый токен. В усиленном обучении GRPO от DeepSeek стал стандартным рецептом, ByteDance, Alibaba и MiniMax в течение года представят свои преемственные решения. Китайские модели теперь являются самыми дешевыми среди передовых соседних систем.На OpenRouter доля потребления токенов китайскими моделями увеличилась с менее чем 1,2% в конце 2024 года до большинства в 2026 году. Китайский рынок ИИ с 2024 по начало 2026 года переживает ценовую войну, несколько лабораторий имеют подразумеваемые коэффициенты доходности около 47-117 раз, в то время как у Anthropic и OpenAI около 15-21 раз. Чипы Huawei Ascend в настоящее время могут использоваться для вывода, DeepSeek, как сообщается, пытался обучить R2 на Ascend, но после возникновения технических проблем вернулся к NVIDIA. Поставка внутренних ускорителей по-прежнему ниже ожидаемого спроса.