DeepSeek 오픈 소스 승천 기본 구성 요소, 컴파일, 계산 및 통신 라이브러리 포함
인공지능 회사 DeepSeek가 화웨이의 승천 계산 플랫폼을 위한 인프라 구성 요소를 공식 오픈소스화했습니다. 여기에는 TileLang 고급 언어 컴파일 도구, 계산 라이브러리 및 분산 통신 라이브러리가 포함되며, 이전에 엔비디아 플랫폼을 위한 오픈소스 구성 요소와 일대일로 대응합니다. TileLang은 범용적이고 프로그래밍이 더 간단하며 하드웨어 성능 한계에 도달할 수 있는 고급 언어를 제공하는 것을 목표로 하며, CUDA에 비해 개발 효율성을 높이고 논리를 단순화할 수 있습니다. 또한, 그 프로그래밍 모델은 칩 특성을 활용할 수 있습니다.TileLang 경로는 먼저 엔비디아 플랫폼에서 검증되었으며, 이미 DeepSeek V4 시리즈 모델 훈련에서 대부분의 연산자의 구현을 지원하고 있습니다. 이번에 오픈소스화된 승천 버전은 승천 Ascend C 저수준 명령어를 캡슐화하여 하드웨어 성능을 손상시키지 않으면서 고급 언어 프로그래밍 방식을 제공합니다. 현재 DeepSeek 훈련에서 사용되는 모든 TileLang 연산자는 승천에서 고성능 구현이 존재합니다.동시에 오픈소스화된 구성 요소에는 DeepGEMM, DeepEP, TileKernels, FlashMLA 및 DeepSelect가 포함되어 있으며, 각각 범용 행렬 연산, 대규모 장치 간 통신, 일반 벡터 계산 및 메모리 접근, 긴 컨텍스트 희소 주의 및 데이터 필터링에 사용됩니다. DeepSeek는 여러 주요 테스트에서 관련 계산 및 통신 성능이 하드웨어 한계에 근접했다고 주장하며, 연구 개발 과정에서 화웨이 팀의 지원을 받았고, 양측은 승천 950 기반의 128 카드 초 노드 솔루션을 추진하며 계산 및 통신을 깊이 최적화했습니다.
