Kimi B 단장: AI 산업에는 거품이 있지만 기본 면은 탄탄하며, API 가격 인상은 컴퓨팅 파워 부족에서 비롯된다

21财经 보도에 따르면, 월의 어두운 면(Moonshot AI) Kimi B 단 책임자 황진신은 최근 커뮤니케이션 회의에서 현재 AI 산업에 실제로 거품이 존재하지만, 기본적인 면은 매우 탄탄하다고 밝혔다. 기업 측에서는 투자 수익률(ROI)을 명확히 계산할 수 있으며, AI가 생산성 향상에 실질적인 본질적 변화를 가져왔다고 전했다.

최근 모델 제조업체들이 일반적으로 가격을 인상하는 현상에 대해 황진신은 핵심 원인이 전 세계적인 계산력 비용 상승과 칩 생산 능력이 Token 수요의 폭발적인 증가를 충족하지 못하기 때문이라고 지적했다. 그는 모델의 성능 가격비를 평가할 때 입력과 출력의 단가만을 보지 말고 Cache(캐시) 적중률에 주목해야 한다고 강조했다. Kimi의 원본 Cache 적중률은 90% 이상에 달해 실제 계산 비용을 크게 줄였다.

또한, 황진신은 Kimi가 Scaling Law를 지속하기 위해 기본 구조 혁신에 도전할 것이라고 밝혔다. 그가 선도적으로 대규모 검증한 Muon 최적화기는 현재 업계의 여러 주요 대형 모델에서 널리 채택되고 있다. 기업 AI의 "마지막 1킬로미터"에 대해 그는 모델의 기본 능력이 지속적으로 강화됨에 따라 응용 계층의 기술 패러다임도 계속 단순화될 것이라고 생각한다고 말했다.