DeepSeek 오픈 소스 승천 기본 구성 요소, 컴파일, 계산 및 통신 라이브러리 포함

인공지능 회사 DeepSeek가 화웨이의 승천 계산 플랫폼을 위한 인프라 구성 요소를 공식 오픈소스화했습니다. 여기에는 TileLang 고급 언어 컴파일 도구, 계산 라이브러리 및 분산 통신 라이브러리가 포함되며, 이전에 엔비디아 플랫폼을 위한 오픈소스 구성 요소와 일대일로 대응합니다. TileLang은 범용적이고 프로그래밍이 더 간단하며 하드웨어 성능 한계에 도달할 수 있는 고급 언어를 제공하는 것을 목표로 하며, CUDA에 비해 개발 효율성을 높이고 논리를 단순화할 수 있습니다. 또한, 그 프로그래밍 모델은 칩 특성을 활용할 수 있습니다.

TileLang 경로는 먼저 엔비디아 플랫폼에서 검증되었으며, 이미 DeepSeek V4 시리즈 모델 훈련에서 대부분의 연산자의 구현을 지원하고 있습니다. 이번에 오픈소스화된 승천 버전은 승천 Ascend C 저수준 명령어를 캡슐화하여 하드웨어 성능을 손상시키지 않으면서 고급 언어 프로그래밍 방식을 제공합니다. 현재 DeepSeek 훈련에서 사용되는 모든 TileLang 연산자는 승천에서 고성능 구현이 존재합니다.

동시에 오픈소스화된 구성 요소에는 DeepGEMM, DeepEP, TileKernels, FlashMLA 및 DeepSelect가 포함되어 있으며, 각각 범용 행렬 연산, 대규모 장치 간 통신, 일반 벡터 계산 및 메모리 접근, 긴 컨텍스트 희소 주의 및 데이터 필터링에 사용됩니다. DeepSeek는 여러 주요 테스트에서 관련 계산 및 통신 성능이 하드웨어 한계에 근접했다고 주장하며, 연구 개발 과정에서 화웨이 팀의 지원을 받았고, 양측은 승천 950 기반의 128 카드 초 노드 솔루션을 추진하며 계산 및 통신을 깊이 최적화했습니다.