GPT-6 이후, 연산력이 폭증하는 이야기가 또 통할 수 있을까?

9월 3일 GPT-6 Astra 발표 이후, 반도체 및 메모리 주식이 먼저 반등했습니다. 9월 4일, SOXX는 하루 동안 3.5% 상승했으며, Micron은 6.1%, SanDisk는 11.9% 상승했습니다. 9월 7일, 한국 KOSPI는 4.61% 상승했으며, 삼성전자 주가는 5.7%, SK hynix는 약 8% 상승했습니다.
그 이전에, 시장은 AI 자본 지출 과열과 컴퓨팅 수요 정점에 대한 우려로 인해 관련 섹터가 상당한 시간 동안 진동했습니다. MarketWatch는 이번 상승을 Astra가 "메모리 칩 거래를 다시 점화했다"고 직접 묘사했습니다.

《The Nvidia Way》의 저자이자 전 Barron's 기술 기자인 Tae Kim은 더 급진적인 설명을 제시했습니다: AI는 지난 4년 동안의 네 번째 지수적 컴퓨팅 수요 증가를 맞이하고 있을 수 있습니다.

첫 세 번의 수요는 각각 챗봇, 추론, 코딩 에이전트에서 발생했으며, 네 번째 수요는 Astra가 이번에 중점적으로 보여준 컴퓨터 사용일 가능성이 있습니다. Kim의 논리는 다음과 같습니다: 챗봇은 수억 명이 추론 컴퓨팅을 소비하게 만들었고, 추론은 매번 답변을 위해 더 많은 계산이 필요하게 만들었으며, 코딩 에이전트는 모델이 "한 번 답변하기"에서 수십 분 또는 수시간 동안 지속적으로 작업하는 것으로 변화시켰습니다. 이제 컴퓨터 사용은 지속적으로 작동하는 에이전트를 프로그래머에서 Excel, Blender, CAD, Power BI 및 브라우저의 일반 지식 작업자로 확장합니다.

Kim은 Nvidia와 반도체 투자에 오랫동안 주목해왔으며, 그가 창립한 뉴스레터 Key Context는 기술 투자 판단을 핵심으로 하고 있으며, 최근 기사도 AI 인프라에 대해 긍정적인 경향을 보이고 있습니다.

따라서 "네 번째 지수적 성장"은 먼저 AI 컴퓨팅 강세론자가 제시한 투자 가설이며, 이미 검증된 산업 규칙이 아닙니다. 그러나 그것이 나타나는 시점은 매우 미묘합니다.

Astra 발표 전, 에이전트 패러다임은 "능력 한계"에 대한 의심을 겪었습니다: 짧은 작업은 점점 강해지고 있지만, 긴 과정, 다단계 및 실제 소프트웨어 환경에 들어가면 신뢰성이 여전히 명백히 감소하여, 앞서 언급한 컴퓨팅 수요 정점에 대한 의문으로 이어졌습니다. 에이전트의 능력 한계가 열리지 않으면, 컴퓨팅 수요가 계속 증가하는 이야기는 성립하지 않습니다.

Astra가 정말로 이 한계를 뚫을 수 있을까요?

매 1인간 근무일은 이미 3.1개의 에이전트 근무일에 해당합니다

AI 컴퓨팅의 첫 세 번의 "지수적 성장"은 지난 몇 년 동안 AI가 사용 패러다임을 한 번 바꿀 때마다, 한 사용자가 소비할 수 있는 계산량이 명백히 한 단계 상승했음을 의미합니다.

ChatGPT는 추론이 처음으로 대중 시장에 진입하게 했습니다; 추론 모델은 하나의 질문을 위해 더 긴 시간 동안 내부 계산을 하기를 원하게 되었습니다; 코딩 에이전트에 이르러서는 간단한 명령 뒤에 코드 읽기, 수정, 테스트, 오류 검사 및 다시 수정하는 연속 루프가 발생할 수 있습니다.

동시에, 에이전트는 "한 사람이 하루에 8시간만 일할 수 있다"는 물리적 한계를 넘어섰습니다.

OpenAI는 9월 6일 내부 데이터를 공개했습니다. 올해 8월 중순까지, 회사 연구원 중 사용량이 50분위에 해당하는 사람은 매일 Coding Agent에 해당하는 추론량이 공개 API 가격으로 환산해 600달러를 초과했습니다; 사용량이 90분위에 해당하는 연구원은 매일 7000달러를 초과했습니다. Business Insider에 따르면 OpenAI 데이터에 기반하여, 7월 중위값은 약 162달러에 불과했으며, 한 달 이상 동안 거의 3.7배 증가했습니다. 그림: 8월 중순까지 OpenAI 연구 부서의 매 1인간 근무일은 이미 3.1개의 에이전트 근무일에 해당하며; 중위 연구원이 매일 사용하는 에이전트 추론량은 API 가격으로 환산해 600달러를 초과합니다.

이는 내부 사용량을 API 가격으로 환산한 것으로, "단일 사용자 추론 강도"에 더 가까운 의미를 가집니다.

6월 이전, OpenAI 연구 부서의 모든 에이전트의 실행 시간 합계는 연구원 자신의 근무 시간을 초과하지 않았습니다; 8월 중순에 이르러, 매 1인간 근무일은 이미 3.1개의 에이전트 근무일에 해당합니다. 점점 더 많은 연구원들이 동시에 여러 에이전트를 실행하고 있습니다.

이는 에이전트 패러다임 이후, 한 사용자 뒤에 여러 개의 병렬 작업이 가능한 "디지털 프로세스"가 나타나기 시작했음을 의미하며, 더 이상 "사람의 입력 속도"라는 물리적 한계에 얽매이지 않습니다. 이제 한 사람이 세 개 또는 네 개의 에이전트를 지속적으로 작업하게 할 수 있으며, 심지어 에이전트가 다시 서브 에이전트를 생성하게 할 수 있습니다.

컴퓨팅 수요의 측정 단위도 따라서 한 사용자가 동시에 얼마나 많은 에이전트를 실행하고 있으며, 이 에이전트들이 매일 얼마나 많은 시간을 작업하는가로 바뀔 수 있습니다.

컴퓨터 사용이 작업 공간을 확장했습니다

코딩 에이전트는 빠르게 성장하고 있지만, 여전히 명백한 경계가 있습니다. 여러 에이전트 작업을 수행하는 대부분은 여전히 프로그래머 집단이며, 프로그래머는 전 세계 지식 노동자의 일부에 불과합니다.

컴퓨터 사용은 공간을 더 넓혔습니다. Astra 발표 이후, Kim은 스스로 테스트를 진행했습니다. 그는 이전에 Blender를 사용할 줄 몰랐고, Astra에게 Mac에서 우주 왕복선을 연구하고 Blender를 열어 3D 모델링을 완료하도록 했습니다. 약 10분 후, 회전하여 볼 수 있는 모델이 만들어졌습니다.

일반적인 대화는 대략 "입력---추론---출력"입니다; 코딩 에이전트는 "코드 읽기---추론---수정---테스트---다시 추론"으로 변했습니다; 컴퓨터 사용은 "화면 보기---인터페이스 이해---작업 결정---실행---결과 대기---다시 관찰---검증---오류 수정"으로 더욱 발전했습니다.

한 인간이 10분에 완료한 작업은 AI가 수십 번의 시각적 이해, 추론 및 도구 호출을 경험할 수 있습니다.

이 능력이 브라우저와 코드 편집기를 넘어 Excel, Salesforce, SAP, Power BI, Photoshop, CAD 및 다양한 기업 내부 시스템으로 들어가면, 잠재적 사용자는 거의 모든 컴퓨터 앞에서 일하는 지식 노동자로 확대됩니다.

이것이 Kim이 말하는 "네 번째 수요"의 핵심입니다:

코딩 에이전트는 프로그래머의 컴퓨터 시간을 빼앗고, 컴퓨터 사용은 모든 화이트칼라의 컴퓨터 시간을 빼앗으려 합니다.

하지만 현재로서는 이것이 여전히 가능성에 불과합니다.

OpenAI는 Astra 발표 이후의 컴퓨터 사용 작업량을 공개하지 않았으며, 단일 사용자의 매일 토큰, GPU 활용률 또는 추론 처리량의 일일 곡선도 공개하지 않았습니다. 따라서 "Astra가 네 번째 컴퓨팅 성장을 가져왔다"는 것을 확실히 증명할 수는 없습니다.

컴퓨팅 수요가 정말로 긴축되기 시작했나요?

Astra 발표 이후, 텐센트 기술은 일부 개발자 커뮤니티에서 정량화하기 어려운, 그러나 주목할 만한 피드백이 나타났음을 주목했습니다: 서로 다른 지역과 계정의 사용 경험이 차이를 보이기 시작한 것 같습니다.

일부 아시아 태평양 개발자들은 최근 ChatGPT와 Codex의 응답이 느려지고 복잡한 작업의 안정성이 미국 계정처럼 좋지 않다고 보고했습니다. 커뮤니티는 이러한 경험을 직접적으로 "지능 저하"라고 부르는 경향이 있습니다.

적어도 그 중 일부는 완전히 주관적인 감정이 아닙니다.

9월 4일, OpenAI 공식 상태 페이지는 아시아 태평양 지역 서비스에서 성능 저하가 발생했다고 별도로 보고했으며, ChatGPT, Work, Codex Cloud 등 여러 제품에 영향을 미쳤습니다. 4일 후, OpenAI는 Nvidia 지원 데이터 센터 운영업체 Firmus와 다년 계약을 체결하고 말레이시아의 두 데이터 센터에서 전용 컴퓨팅 능력을 확보할 것이라고 발표했습니다.

마찬가지로, 현재 OpenAI가 Astra의 부하 증가로 인해 아시아 태평양 사용자에게 모델 추론 예산을 줄이거나 더 약한 모델로 전환했다는 증거는 없습니다.

소위 "아시아 태평양 지능 저하"는 적어도 세 가지 다른 요인이 혼합되어 있을 수 있습니다: 지역 인프라 및 라우팅 문제, 계정 수준의 위험 관리 및 속도 제한, 그리고 피크 시간 동적 자원 조정. 이들은 사용자 측에서 더 느리거나 실패하기 쉬우며, 도구 호출이 중단되거나 복잡한 작업의 최종 답변이 악화되는 형태로 나타날 수 있습니다.

그러나 이러한 피드백은 여전히 AI 컴퓨팅 압력을 관찰하는 또 다른 방법을 제공합니다.

모델이 점점 더 지속적으로 계산을 소비할 수 있게 되면서, 공급이 긴축되는 것은 먼저 서로 다른 지역, 서로 다른 계정 간의 지연, 실패율 및 서비스 품질의 변동으로 나타날 수 있습니다.

문제는, 이 판단이 현재 가장 중요한 데이터 세트가 부족하다는 것입니다:

동일한 모델, 동일한 패키지, 동일한 작업에서 서로 다른 지역의 첫 번째 토큰 지연, 총 추론 시간, 도구 성공률 및 최종 작업 완료율에 안정적인 차이가 있는지 여부입니다.

이 데이터를 확보하기 전까지는 "지능 저하"는 단서일 뿐, 컴퓨팅 긴축의 증거가 될 수 없습니다.

그림: 9월 8일, 한 사용자가 GPT-6 Astra의 "용량이 가득 찼다"는 알림을 공유하며 자신의 4개 계정이 정상적으로 사용되지 못한다고 언급했습니다. 시스템은 다른 모델로 전환할 것을 제안했습니다. Tibo는 "우리는 다시 돌아왔다"며 "모델이 가득 찼다"는 것을 AI 수요가 다시 상승하는 신호로 보았습니다.

자본 시장이 다시 베팅을 시작했습니다

비록 Astra 발표 이후의 실제 컴퓨팅 사용 곡선이 공개되지 않았지만, 자본 시장은 "AI 수요가 아직 정점에 도달하지 않았다"는 이야기를 미리 거래하고 있습니다.

MarketWatch에 따르면, Astra 발표 이후 iShares 반도체 ETF는 한때 약 3.5% 상승했으며, 삼성, SK hynix, Kioxia 등 메모리 관련 회사들은 더 강한 성과를 보였습니다. 외신은 이번 상승을 Astra가 "메모리 칩 거래를 다시 점화했다"고 직접 묘사했습니다.

주목할 점은 이번 상승에서 가장 두드러진 것은 Nvidia가 아니라 메모리라는 것입니다.

컴퓨터 사용이 정말로 지속적으로 작동하는 에이전트 작업 부하가 된다면, 필요한 것은 단순히 GPU 계산만이 아닙니다. 더 긴 컨텍스트, KV 캐시, 동시 에이전트, 가상 머신, 브라우저 및 소프트웨어 환경 등이 HBM, DRAM, CPU, 네트워크 및 저장 수요를 계속해서 증가시킬 수 있습니다.

따라서 최근 자본 시장에서 거래되는 것은 단순히 "GPT-6가 더 강력해졌다"는 것이 아니라, 주요 논리는 여전히 더 똑똑한 모델이 사용자가 더 많은 계산을 구매하도록 만들 수 있을까입니다.

이것이 이번 AI 인프라 이야기와 전통 소프트웨어의 가장 큰 차이점입니다.

전통 소프트웨어가 최적화될수록, 동일한 사용자가 필요로 하는 서버 자원은 줄어들 수 있습니다.

생성적 AI는 반대로 "제번스 역설"이 발생할 수 있습니다: 모델 효율성이 높아지고 작업 성공률이 높아질수록, 사람들은 더 많은, 더 긴, 더 복잡한 작업을 AI에게 맡기고, 결국 총 컴퓨팅 소비가 계속 증가하게 됩니다.

하지만 경계해야 할 점은, 자본 시장 역시 자신의 "엉덩이"가 있다는 것입니다.

AI 기반 시설은 이전에 이미 한 차례 큰 상승과 조정을 겪었고, 반도체 주식은 올해 자본 지출 과열과 클라우드 업체의 자유 현금 흐름 감소로 인해 명확한 후퇴를 경험했습니다. 따라서 Astra가 가져온 며칠간의 반등은 투자자들이 다시 베팅을 시작했다는 것만을 의미하며, 네 번째 라운드의 컴퓨팅 수요가 실제로 발생했다는 것을 증명하기에는 부족합니다.

경제적 계산

김의 판단이 결국 성립하려면, 세 가지 더 현실적인 문제에 달려 있습니다.

첫 번째는 여전히 신뢰성입니다.

실제 기업 작업은 한 번의 데모가 아닙니다. 하나의 에이전트가 ERP, 재무 모델 또는 엔지니어링 소프트웨어를 몇 시간 동안 연속으로 운영할 수 있는지, 그리고 중간에 팝업, 권한 변경 및 데이터 업데이트가 발생했을 때 여전히 정확성을 유지할 수 있는지는 완전히 다른 문제입니다.

두 번째는 비용입니다.

미래의 컴퓨터 사용이 1시간 인간 컴퓨터 앞의 동등한 작업을 완료 하는데 얼마나 비용이 들까요?

AI가 10달러로 한 직원의 50달러 작업을 완료한다면, 수요는 쉽게 폭발할 수 있습니다; 만약 100달러가 필요하다면, 시장 공간은 완전히 달라집니다.

OpenAI 내부의 600달러/일 데이터는 에이전트가 거대한 수요를 창출할 수 있음을 보여줄 뿐만 아니라, 오늘날 이러한 작업 방식이 여전히 매우 비쌀 수 있음을 간접적으로 설명합니다.

세 번째 문제: 컴퓨터 사용이 결국 자신의 일부 수요를 없앨까요?

현재 모델은 화면을 보고 버튼을 찾아야 하는데, 이는 기존 소프트웨어가 사람을 위해 설계되었기 때문입니다. 만약 Salesforce, Microsoft, Adobe 또는 기업 내부 시스템이 직접 API, MCP 및 에이전트 인터페이스를 개방하기 시작한다면, 많은 작업은 더 이상 마우스와 키보드를 시뮬레이션할 필요가 없습니다.

결국 더 가능성이 높은 형태는 컴퓨터 사용과 도구 사용의 융합입니다: 구조화된 인터페이스가 있는 곳에서는 직접 호출하고, 인터페이스가 없거나 개조하기 어려운 구형 시스템과 열린 웹 페이지는 계속해서 시각적 조작에 의존합니다.

따라서 컴퓨터 사용이 실제로 열어주는 시장은 "AI가 영원히 사람처럼 컴퓨터를 클릭하게 하는 것"이 아닐 수도 있으며, 오히려 "내 인간 주인이 나에게 당신의 소프트웨어를 클릭하도록 허가했으므로 당신은 간섭할 수 없다"는 방식으로 에이전트가 기존의 응용 생태계를 강하게 돌파하게 만드는 것입니다. 에이전트는 이전에 자동화가 커버하지 못했던 마지막 대규모 작업 환경에 들어갈 수 있게 됩니다.

이것이 김이 말하는 "네 번째 라운드 지수 성장"이 실제로 검증할 가치가 있는 부분이며, "컴퓨터 사용이 입구 역할을 할 것인지, 아니면 또 한 번의 패러다임 변화가 될 것인지"입니다.

GPT-6 이후, 한때 에이전트가 벽에 부딪혀 점점 더 설명하기 어려워진 컴퓨팅 이야기, 다시 설명할 수 있게 되었나요?

자본 시장은 다시 베팅을 시작했습니다.

생성적 AI 폭발 이후, 시장은 "컴퓨팅 성장"의 공매도를 지속적으로 반박하고 있으며, 이번에는 다를까요?