Компания Zhipu за несколько миллиардов юаней приобрела компанию AI Infra Zhongke Jiahe, полностью восполнив недостатки в инженерии гетерогенной вычислительной мощности на базовом уровне

Сообщение от ChainCatcher, согласно отчету "AI Технологический обзор", китайская компания в области больших моделей Zhipu инвестировала несколько миллиардов юаней в приобретение компании по программному обеспечению для гетерогенной вычислительной инфраструктуры Zhongke Jiahe. Этот шаг направлен на полное устранение недостатков Zhipu в области базовой инженерии больших моделей и возможностей компилятора, чтобы справиться с структурной нехваткой вычислительных ресурсов и проблемами высокой параллельной обработки, вызванными резким увеличением числа пользователей.

Технология Zhongke Jiahe основана на лаборатории компиляции Института вычислительных технологий Китайской академии наук и была основана доктором Цуй Хуэйминем. Основная команда глубоко участвовала в разработке компиляторов для нескольких отечественных чипов, таких как Longxin, Shenwei, Cambrian и Huawei Ascend. Основное преимущество Zhongke Jiahe заключается в технологии виртуального набора инструкций, которая позволяет объединять экосистему чипов разных брендов и моделей через промежуточное программное обеспечение, собирая разрозненные отечественные чипы в единую сверхмасштабируемую кластерную систему, что значительно повышает общую эффективность использования вычислительных ресурсов; их движок вывода SigInfer, по официальным данным, может снизить задержку вывода больших моделей до 74 раз.

В последнее время бизнес Coding Agent, принадлежащий Zhipu, переживает взрывной рост. В первой неделе запуска на агрегаторе новая большая модель GLM-5.2 показала увеличение среднего количества вызовов токенов на 27 раз, что привело к выявлению системных инженерных узких мест в их инфраструктуре вывода в условиях высокой параллельной обработки и длинного контекста. После того как Zhipu была внесена в список американских юридических лиц, компания активно продвигает замену на отечественные решения и уже завершила адаптацию вывода для восьми отечественных вычислительных платформ, включая Huawei Ascend, PingTouGe и Moore Threads. Приобретение Zhongke Jiahe не только напрямую улучшит стоимость вывода на единицу токена и качество вывода Zhipu, но и предоставит основную поддержку технологии компилятора для ранее анонсированного плана по разработке собственных настраиваемых AI чипов для вывода.