DeepSeek 전면 오픈 소스 추론 프레임워크 DeepInfer 화웨이 승등 호환

DeepSeek는 내부 추론 프레임워크 DeepInfer를 전면 오픈소스화하고, 생산 수준의 토큰 인코딩 및 디코딩 컴포넌트 deepseek-recipe를 동시 오픈소스화한다고 발표했습니다. DeepInfer는 고성능 연산자와 깊이 최적화된 추론 엔진을 통합하여 분산 추론, 추측 디코딩, SWA Bounded Replay 및 구조화된 출력을 지원하며, 엔비디아 및 화웨이 승천 플랫폼과 호환됩니다.

DeepSeek는 DeepInfer를 기반으로 DeepSeek V4.1 Flash의 고처리량, 저지연 대규모 추론 서비스를 구현했으며, 향후 새로운 모델의 추론 코드 및 최적화도 지속적으로 업데이트될 것이라고 밝혔습니다. deepseek-recipe는 DeepSeek 공식 API 처리 논리와 완벽하게 일치하여 커뮤니티가 공식 배포와 동일한 경험을 보장받을 수 있도록 하는 것을 목표로 하고 있습니다. 오픈소스 저장소 및 기술 보고서가 동시 발표되었습니다.