엔비디아와 마이크로소프트가 이미 움직였다: 4일 동안 238개의 별을 가진 DeepSeek-Bot, 30배의 토큰 청구서를 발생시켰다

서론: 10월 7일에 출시된 DeepSeek-Bot은 여러 AI 봇이 그룹 채팅에서 협력할 수 있도록 하는 작은 플러그인에 불과하며, 4일 만에 238개의 별을 받았습니다. 이 자체로는 깊이 있는 내용을 담기에는 부족하지만, 다른 한 가지 이유로 주목할 만합니다: 그것은 AI 하드웨어 가격을 재편하는 추세를 포착했습니다. 다중 에이전트 협력이 토큰 소비에서 수량급 변화를 일으키고, 이러한 변화의 비용은 결국 CPU와 메모리에 부담을 주게 됩니다. 본문은 이 작은 플러그인에서 출발하여 토큰 배수, CPU 격차, 메모리 교체 및 두 대기업의 행동을 연결하여 설명합니다.

1. 30배는 선형 배수가 아니라, 비용이 예산 가능에서 예산 불가능으로 변하는 것

먼저 규모를 살펴보겠습니다. Anthropic의 엔지니어링 데이터에 따르면, 단일 에이전트가 전형적인 작업을 수행할 때의 토큰 소비는 일반 대화의 약 4배에 달하며, 다중 에이전트 협력 시스템은 15배에 이릅니다. 학계에서 제시한 수치는 더욱 극단적입니다: 위의 공동 논문에 따르면, 에이전틱 프로그래밍 작업에서 에이전트가 수행하는 토큰 소비는 표준 대화의 약 1000배에 달하며, 외부 시스템을 조작하는 간단한 도구도 5배에서 30배 사이입니다.

같은 논문에서 간과하기 쉬운 발견도 있습니다: 동일한 에이전트를 실행하고 동일한 작업을 수행할 때, 토큰 청구서의 변동 폭은 30배에 이를 수 있습니다. 즉, 동일한 사용자가 동일한 버튼을 클릭하더라도, 그 뒤의 모델 호출 횟수는 30배 차이가 날 수 있으며, 매번 호출 시 누적된 대화 기록을 다시 전송해야 합니다. Gartner는 2026년 3월 보고서에서 절충 추정치를 제시했습니다: 에이전틱 워크플로우의 각 작업에서 소비되는 토큰은 표준 챗봇의 5배에서 30배에 달하며, 한 번의 사용자 요청이 10회에서 20회의 순차 모델 호출을 유발할 수 있습니다.

골드만삭스 연구부의 5월 예측은 더욱 공격적입니다: 2030년까지 토큰 소비량이 24배 증가할 것이며, 월 사용량은 약 12경에 이를 것입니다. 토큰 단가의 하락은 이 추세를 뒤바꾸지 못했습니다. Gartner는 2030년까지 추론 비용이 2025년보다 90% 이상 하락할 것으로 예상하지만, 사용량 증가 속도는 가격 하락 폭을 훨씬 초과합니다. 단일 호출은 점점 더 저렴해지고, 호출 횟수는 점점 더 많아지며, 매번 더 커지면서 총 지출은 사용량 폭발로 인해 증가합니다.

종합 호출 데이터와 하드웨어 수치를 고려할 때, 토큰 경제의 주요 모순은 단가에서 호출 횟수와 단일 소비의 곱으로 이동했습니다. 이는 하드웨어에 대한 의미는 GPU 활용률의 병목이 더 이상 단일 전방 계산 속도가 아니라 메모리 대역폭과 스케줄링에 있다는 것입니다. 이것이 바로 CPU와 메모리가 다시 가격 책정의 시야에 들어온 이유입니다.

2. CPU가 조연에서 주연으로 돌아오다

다중 에이전트 시스템에서 작업 스케줄링, 도구 호출, 논리 판단, 컨텍스트 관리 등은 모두 CPU가 잘하는 일입니다. 상하이 증권보의 연구 보고서에 따르면, 에이전트 부하 중 단순 편성 단계의 소요 시간은 총 지연의 50%에서 90%를 차지할 수 있습니다; CPU 성능이 부족할 경우, 아무리 강력한 GPU라도 스케줄링 대기 때문에 유휴 상태가 됩니다.

수요는 가격과 납기에서 나타나고 있습니다. 공개된 보도에 따르면, 인텔은 일부 서버 CPU 가격을 인상한다고 확인했으며, 고급 제온은 전체적으로 7%에서 12% 상승했습니다. 소비자용 CPU는 올해 세 차례 가격 조정을 겪었으며, Plus 시리즈의 누적 상승폭은 30%에 가까워졌습니다; AMD는 하반기에 중고급 서버 CPU 가격을 4%에서 7% 인상할 것으로 예상하고 있습니다; 서버 CPU의 납기 주기는 일반적으로 1주에서 2주에서 8주에서 12주로 연장되었으며, 일부 경우에는 6개월에 달합니다.

규모 추정치는 두 곳에서 나옵니다. Arm의 측정에 따르면, 전통적인 AI 데이터 센터는 매 기가와트의 전력당 약 3000만 개의 CPU 코어가 필요하며, 에이전트 시대에는 1억 2000만 개로 증가하여 3배가 됩니다; 모건 스탠리의 프레임워크에 따르면, 2030년까지 에이전틱 AI는 325억에서 600억 달러의 CPU 증가 시장을 가져올 것이며, 1000억 달러 이상의 서버 CPU 총 시장에서 약 60%를 차지할 것입니다. AMD는 1분기 재무 보고서 전화 회의에서 일관된 방향을 제시했습니다: AI 인프라에서 CPU와 GPU의 비율이 1:4에서 1:8에서 1:1로 가까워지고 있으며, 에이전트 밀집 배치 시나리오에서 CPU 구성 수가 GPU를 초과할 가능성이 있습니다.

더 나아가 살펴보면: CPU의 탄력성은 비율 변화에서 오며, 총량 증가가 아닙니다. 서버 CPU 시장 자체의 성장 속도는 안정적이며, 변화는 각 GPU 옆에 서 있는 CPU의 수에 있습니다. 비율이 1:8에서 1:1로 변화하는 것은 동일한 GPU 지출이 수배의 CPU 지출에 해당함을 의미하며, 이는 CPU가 AI 하드웨어 내러티브에서 독립적인 증가 논리를 처음으로 갖게 되는 것입니다. 이 판단의 전제는 에이전트 부하가 현재 경로에 따라 실제로 증가한다는 것입니다. 만약 편성 단계가 소프트웨어 최적화로 인해 명확히 압축된다면, 비율 곡선은 완만해질 것입니다.

3. 메모리: 부족의 근원은 생산 능력 교체에 있으며, 수요 변동이 아니다

다중 에이전트 시스템은 장기 기억에 의존하여 선호도, 역사 및 작업 진행 상황을 기억하고, 다양한 시점에서 호출합니다. 기술적으로, 내부 추론의 매번은 GPU 메모리에서 계속 증가하는 KV 캐시를 읽어야 하며, 추론은 메모리 대역폭 집약적인 작업입니다. 소액 투자자가 익숙한 표현으로 말하자면: GPU의 계산 속도가 빠르냐 느리냐는 점점 더 메모리가 얼마나 빠르게 공급되느냐에 달려 있습니다.

마이크론의 고위 경영진은 공개 석상에서 이 문제를 매우 직설적으로 언급했습니다. 부사장 수미트 사다나는 KeyBanc 기술 포럼에서 에이전틱 AI 작업 부하의 토큰 소비가 유사한 채팅 작업의 5배에서 30배에 이를 수 있으며, 깊은 추론은 더 높다고 밝혔습니다; CEO 상제 메흐로트라는 CNBC 인터뷰에서 훈련 시대는 이미 지나갔고, 추론 시대가 이제 시작되었으며, 에이전트 AI는 아직 진정한 대규모 배치가 이루어지지 않았다고 말했습니다.

마이크론의 보고서는 이 추세를 검증하고 있습니다. FY26Q3 수익은 414.56억 달러로, 전년 대비 345.7% 증가했으며, 데이터 센터 사업 수익은 115.2억 달러로, 전년 동기에는 15.3억 달러에 불과했습니다; FY26Q4 수익은 542.29억 달러로 더욱 증가했습니다(회사 재무 보고서, 재무 데이터 인터페이스 검증). 사다나는 포럼에서 두 가지를 추가했습니다: 2027년의 공급 수요 비율이 2026년보다 더 긴밀해질 것이며, DRAM 고객은 "높은 가격을 제시해도 원하는 것의 절반 이상을 얻지 못한다"고 밝혔습니다; 제품 측면에서 HBM4 36GB 12-high는 테스트 조건에서 LLM 추론 처리량을 2.6배 향상시킬 수 있습니다.

더 중요한 세부 사항은 교체 비율입니다: 100비트 HBM을 생산할 때마다 약 300비트 DDR 생산이 감소하며, HBM4E의 추진으로 인해 이 비율은 4:1에 가까워질 수 있습니다. 이는 메모리 부족의 구조적 근원이 수요 측이 아니라 생산 능력의 물리적 교체에 있다는 것을 의미합니다. HBM이 AI를 위해 생산을 확대하는 한, DDR의 부족은 수요로 인해 해소되기 어렵습니다. 이 공급 수요 논리의 검증 포인트는 마이크론 등 제조업체가 후속으로 발표할 생산 능력 및 가격 지침에 있습니다.

4. 소프트웨어의 공포와 하드웨어의 증가, 동일한 제품 출시에서 비롯됨

2026년 1월 중순, Anthropic은 Claude Cowork를 발표하고, 1월 30일 법무, 재무, 판매 등 기능을 위한 산업 플러그인을 출시했습니다. 이후 Claude Opus 4.6은 대규모 작업을 하위 작업으로 나누어 서로 다른 에이전트에게 병렬로 완료하도록 했습니다. 시장의 반응은 두 가지로 나뉘었습니다. 소프트웨어 측면에서, 공개된 보도 및 Wedbush 연구 보고서에 따르면, 그 주의 매도는 소프트웨어 주식 시장 가치를 8000억 달러에서 1조 달러 사이에서 지웠습니다(다양한 통계가 포함하는 주식 범위가 다름), FactSet은 하루에 10% 하락했으며, Wedbush는 이를 "소프트웨어 대재앙"이라고 불렀습니다. 우려의 핵심은: 에이전트가 계약 검토 및 재무 분석을 자율적으로 수행할 수 있게 되면, 인원 수에 따라 요금을 부과하는 SaaS 모델이 침식될 것이라는 것입니다.

하드웨어 측면에서는 같은 시기에 반대의 수치를 제시했습니다. 모건 스탠리는 AI가 생성형에서 에이전트로 전환됨에 따라 투자 범위가 GPU에서 CPU 및 메모리로 확대될 것이라고 지적했습니다; 반도체는 S&P 500에서의 비중이 20%를 초과했습니다. 동일한 동전의 양면은: 에이전트의 대체 능력이 강해질수록, 기본 계산 능력, CPU 및 메모리의 소비가 증가한다는 것입니다. 소프트웨어의 점유율 불안과 하드웨어의 수요 증가가 동일한 제품 주기에 의해 주도되며, 이를 두 개의 이야기로 나누어 가격을 책정하는 것은 현재 AI 분야에서 가장 큰 가격 차이 중 하나일 수 있습니다.

5. 마이크로소프트와 엔비디아는 무엇을 하고 있는가

현지 시간 10월 7일, 마이크로소프트는 샌프란시스코에서 엔비디아와 협력하여 Surface Laptop Ultra를 발표했습니다: NVIDIA RTX Spark 플랫폼, Blackwell RTX GPU는 최대 6144개의 코어를 갖추고, Grace CPU는 최대 20코어, 통합 메모리는 최대 128GB로, 로컬에서 1200억 개 이상의 매개변수를 가진 모델을 실행할 수 있으며, 가격은 2599달러부터 시작하여 10월 16일에 배송됩니다. 황인준이 현장에 참석했으며, 그의 원래 발언은 널리 인용되었습니다: "40년 동안, 당신은 애플리케이션을 시작하고 클릭하고 타이핑했습니다; 이제 당신은 질문을 하고, 컴퓨터가 당신을 대신해 일을 합니다."

하드웨어보다 더 중요한 것은 운영 체제의 변화입니다. 마이크로소프트 공식 블로그에 따르면, Windows는 "혼합 지능"을 중심으로 재설계되었습니다: 라이센스를 받은 후, Copilot은 로컬 파일을 읽고, 정리하고, 문제를 해결하며, 작업 흐름을 실행할 수 있습니다; 보안 측면에서는 시스템 수준의 컨테이너를 통해 에이전트가 접근할 수 있는 파일 및 네트워크 범위를 제한합니다; 작업에 따라 로컬 모델과 클라우드 모델 간에 스케줄링합니다. 엔비디아는 9월 28일 Open Agent Safety Platform을 발표하여 에이전트의 테스트에서 배포까지의 안전성을 보장했습니다; 황인준은 동시에 Blackwell과 Vera Rubin 시스템의 주문 금액이 1조 달러에 달하며, 2027년까지 커버된다고 밝혔습니다(회사 기준).

두 가지 행동의 논리는 일관됩니다: 마이크로소프트는 운영 체제 수준에서 에이전트 시대의 진입점을 재구성하고, 엔비디아는 칩 및 플랫폼 수준에서 에이전트의 대규모 배치를 위한 준비를 하고 있습니다. 그들이 다중 에이전트 협력의 도래를 예상하기보다는, 이미 이를 위한 기반을 구축하고 있다고 보는 것이 더 정확합니다. 일부 추론을 로컬 장치에 배치하는 것은 본질적으로 에이전트의 계산 능소비가 너무 크다는 것을 인정하는 것이며, 계층적으로 처리해야 하며, 에이전트를 실행하는 각 PC는 새로운 상주 계산 능력 노드가 됩니다.

6. 토큰 청구서: 인원 수에 따라 요금에서 소비에 따라 요금으로 전환

Gartner의 2026년 기업 조사에서는 주목할 만한 수치를 제시했습니다: 기술 리더의 거의 4분의 1이 매달 각 개발자에게 200에서 500달러의 AI 코딩 토큰을 지불하고 있으며, 약 6%는 2000달러를 초과합니다; 이 기관은 AI 코딩 토큰 비용이 2028년까지 개발자의 평균 급여를 초과할 것으로 예측하고 있습니다. 이는 청구 방식의 전환을 예고합니다: 챗봇 시대는 좌석 수에 따라 예산을 세웠지만, 에이전트 시대는 실행 횟수에 따라 예산을 세울 수밖에 없으며, 실행 횟수는 모델 자체도 정확히 예측할 수 없습니다. 위의 공동 논문에서는 모델이 자신이 소비할 토큰 수를 지속적으로 과소평가할 것이라고 명확히 지적했습니다.

처음에 언급한 238개의 별을 받은 작은 플러그인으로 돌아가 보겠습니다. Main Bot은 기본적으로 독점적으로 응답하고, 필요에 따라 다른 봇을 호출하며, 개발자가 실제로 하는 것은 가장 기본적인 토큰 예산 관리입니다. 이 미시적 행동이 기업 수준의 배치로 확대되면, CPU, 메모리 및 네트워크에 대한 강력한 수요는 더욱 강해질 것입니다.

마지막 글

DeepSeek-Bot의 238개의 별은 중요하지 않으며, 중요한 것은 그것이 보여주는 비용 구조입니다: 다중 에이전트가 협력할 때마다 Token 청구서가 한 단계씩 올라가며, 변화의 폭은 모델 자신도 예측할 수 없습니다. 이 구조는 산업 체인을 따라 하류로 압축되며, 먼저 CPU의 비율 변화와 납기를 압축하고, 다음으로 메모리의 생산 능력 교체를 압축하며, 마지막으로 운영 체제 수준의 재구성을 압축합니다. 이 체인을 보면, 계산 능력 소비의 구조는 GPU 단극에서 CPU, 메모리, GPU 협동으로 이동하고 있을 가능성이 있으며, 하드웨어 측의 수요 증가는 상대적으로 더 확인 가능하고, 소프트웨어 측의 충격은 대리 대체의 리듬에 따라 달라집니다; 두 가지 실마리는 동일한 제품 주기에 의해 주도됩니다. 이 이전이 시장에 얼마나 반영되었는지는 아직 관찰이 필요합니다.

면책 조항: 본 문서의 내용은 일반 정보 및 시장 논평을 위한 것이며, 문서에 언급된 시점까지의 공개 자료를 기반으로 정리되었습니다. 관련 시장 데이터, 예상 및 확률은 시장 상황에 따라 변동할 수 있습니다. 문서에서 인용된 제3자 기관, 분석가 또는 기타 인사의 견해 및 투자 전략은 특정 시점에서 관련 제3자의 견해를 나타내며, BIT의 견해나 추천을 나타내지 않습니다. 본 문서는 투자 조언, 투자 연구, 제안, 모집 또는 어떤 증권, 투자 제품 또는 거래 전략에 대한 추천을 구성하지 않으며, 어떤 투자 결정의 근거로 삼아서는 안 됩니다. 금융 시장에는 위험이 존재하며, 증권 가격 및 시장 성과는 변동할 수 있으며, 과거 성과 및 과거 시장 동향은 미래 결과를 나타내거나 보장하지 않습니다. 투자자는 자신의 상황에 따라 관련 위험을 독립적으로 평가해야 하며, 필요 시 전문적인 의견을 구해야 합니다. BIT의 홍콩 주식 거래 서비스는 홍콩 거주자 또는 기타 제한된 사법 관할권의 사용자에게 제공되지 않습니다.