황 인 훈이 현재 AI 시장을 해석하다: AI의 수익 회복 압력을 두 회사에만 두는 것은 옳지 않다

AI 최근의 시장 감정이 매우 나쁩니다. 시장이 주로 걱정하는 점은 AI 최전선 모델 회사의 수익이 그들의 막대한 평가액을 지탱할 수 있을지입니다.

Anthropic은 3분기 수익을 발표했는데, 사실 데이터는 괜찮았지만 그날 AI 섹터는 크게 하락했습니다. CPI, AI 부채 등 여러 요인도 있지만, 시장은 실제로 이 추세가 계속될 수 있을지 의심하고 있습니다.

황인훈의 최신 인터뷰에서 그는 자신의 해답을 제시했습니다. 그는 시장이 AI 회수 압력을 OpenAI와 Anthropic 두 회사에만 두는 것은 잘못이라고 생각하며, 이 두 회사는 전체의 아주 작은 부분만 차지한다고 강조했습니다. 그는 2030년까지 전 세계 AI 인프라 투자가 4조 달러에 이를 것이라고 강조했습니다.

TL;DR· 모어의 법칙은 죽었다. 오늘날 두 배의 연산력을 원한다면 두 배의 비용을 지불해야 한다; 그리고 결과에 대한 나의 자신감은 99.99%이다.

· 단지 몇 개의 실험실 수익만으로 전체 인프라 규모를 외삽하는 것은 오해이다------최전선 실험실은 우리의 연산력의 25%에서 30%만 차지하며, 나머지 3분의 1은 고전 계산이고, 3분의 1은 수천 개의 스타트업이다.· 토지, 전력, 외피 및 건설 자원이 가장 주요한 병목이 될 것이다.· 총 메가와트 수가 제한되면 고객의 선택은 가장 생산적인 연산력으로 향할 것이므로 우리의 점유율은 실제로 상승하고 있다; 우리는 단일 기가와트에 투입하는 달러 양이 180억에서 400억 이상으로 증가했다.· 우리는 지능의 비용이 매년 2배, 심지어 20배 감소하기를 희망한다. 왜냐하면 지능의 소비량이 이 격차를 훨씬 메울 것이기 때문이다.

계산 전환점, 추론 모델 및 지능체 시대

우리는 정말로 특이점의 경계에 들어서고 있는가, 왜 연산력 수요가 10억 배 증가해야 하는가?

우리는 불과 얼마 전보다 10억 배 더 많은 연산력이 필요하다. 이 논리는 사실 매우 명확하다. 문제를 생각하고 해결하는 데 필요한 추론 횟수는 당신이 이미 기억하고 있는 것을 반복하거나 암기하는 것보다 훨씬 더 많다.

당신이 초기 ChatGPT에 힌트를 주면, 그 지식의 대부분은 대형 언어 모델에 인코딩되어 있으며, 문제는 그것이 환각을 일으킨다는 것이다. 다음 단계는 생성적 AI로, 실제 사실을 통해 "접지"하고 제약을 두는 것이다: 그것은 빠르게 검색하고 사실을 가져오며, 다시 사전 훈련된 내용을 결합하여 답변을 생성한다.

우리가 정말 하고 싶고 흥미로운 일은 대부분 단계별 추론이 필요하다: 몇 가지 방안을 생각하고, 계획을 세우고, 사태가 어떻게 발전할지 추론하고, 현재 가장 좋은 경로를 반성하고, 방안을 펼치고, 나머지를 잘라내는 것이다. 위대한 전략가는 모두 "전략적 옵션"을 사랑한다: 당신은 가지치기를 너무 빨리 하고 싶지 않지만, 자원을 최적화해야 한다. AI는 지금 그렇게 하고 있다. 그것은 전략적 옵션을 보존하고, 추론을 펼치고, 반성하고, 가지치기를 한다. 이러한 모든 사고와 탐색은 훨씬 더 많은 연산력을 소모한다.

그것이 생산적인 작업을 할 수 있기 때문에 우리는 그것을 사용하여 더 많은 일을 한다. 이 두 가지가 겹쳐져서 더 많은 연산력을 사용하여 작업을 완료하고, 동시에 잘 수행하기 때문에 더 많은 작업을 수행하도록 고용된다. 이는 총 수요를 함께 확대한다.

작년 가장 중요한 관찰은 모델의 규모 법칙이 계속될 것이지만, 그것에 "하네스"를 장착하는 것, 즉 대형 언어 모델의 외골격은 거대한 잠금을 해제하는 것이라는 것이다. 그것은 작업 기억을 관리하고, 작업 기억을 단기 및 장기 기억으로 변환하며, 지식 그래프를 구축한다. 인간은 이렇게 한다: 우리는 잠자는 동안 압축을 하고, 중요하지 않은 것은 잊고, 중요한 것은 오프라인 상태에서 다시 연결된다.

또 다른 잠금 해제는 도구 사용이다. 우리는 AI에게 인간이 만든 가장 중요한 도구와 상호작용하는 방법을 가르쳤다: SPICE, Verilog, 다양한 시뮬레이터, 설계 컴파일러, Photoshop, AutoCAD, 그리고 지멘스의 도구들. 만약 로봇이 당신의 집에 들어온다면, 그것은 당신 집의 도구를 사용할 것이고, 새로운 도구를 처음부터 만들지는 않을 것이다. 지능체는 기존 도구를 사용하는 방법을 배워야 한다.

하네스에 장착된 대형 언어 모델을 기업에 넣고, 그것들을 실제 사실과 기존 도구에 연결하면, 그것들은 놀라운 일을 하기 시작한다. 프로그래밍은 가장 쉽게 접근할 수 있는 진입점이다. 왜냐하면 소프트웨어 엔지니어는 비록 사용하기 불편하더라도 유용한 도구에 익숙하기 때문이다.

다음 단계는 디자인, 창의성 및 마케팅 워크플로우이다. 예를 들어 OpenAI의 Astra는 매우 훌륭하다. 당신이 사진을 찍어 Astra에 넘기면, 그것은 즉시 CAD 모델로 재구성된다. 우리는 CAD 모델이 필요하다. 그래야 상호작용하고, 조정하고, 미세 조정을 할 수 있다. 이 초기의 실현은 디자이너, 건설자 및 창작자의 생산성을 크게 향상시킨다.

만약 최전선 실험실이 내년에 연산력을 3배에서 5배 더 확장한다면, 당신은 장기적으로 운영되는 지능체 작업에서 어떤 돌파구가 나타날 것이라고 예상하는가?

나비-스토크스 방정식은 아주 좋은 예이다. OpenAI는 나비-스토크스를 공허하게 풀어낸 것이 아니다. 그들은 수많은 위대한 과학자, 수학자 및 선구자의 작업을 바탕으로 그것을 풀어낸 것이다. 우리는 많은 분야에서 임계점에 있다. 많은 기초 작업이 이미 완료되었기 때문에, 만약 우리가 AI의 고갈 탐색 능력을 이러한 기초 위에 적용한다면, 우리는 곧 연속적인 돌파구를 보게 될 것이다.

우리는 대량의 연산력이 필요하다. 왜냐하면 방대한 검색 공간 탐색을 수행해야 하기 때문이다. 만약 단지 첫 원리에 의한 유도만으로, 거대한 공간을 검색할 필요가 없다면, 이미 누군가가 그것을 풀어냈을 것이다. 많은 문제는 그 절벽 가장자리에 걸쳐 있으며, 방대한 지능 탐색이 그것들을 해결하기를 기다리고 있다.

앞으로 몇 년 동안 지능의 비용은 상당히 빠르게 감소할 것이다. 더 많은 연산력이 온라인에 올라오고, 모델은 더 똑똑하고 더 효율적으로 변할 것이다. 마치 모어의 법칙이 30년 동안 계산 비용을 매년 반으로 줄인 것처럼, 우리는 지능의 비용이 매년 2배, 심지어 20배 감소하기를 희망한다. 그리고 지능의 소비량은 이 격차를 훨씬 메울 것이다. 이 세상에는 거대한 기회 진공이 존재하며, 그것이 채워지기를 기다리고 있다.

우리의 야망은 매우 빠르게 확장되고 있다. 10년 전 GPT-1을 훈련하는 데 1000만에서 2000만 달러가 필요했지만, 오늘날에는 100달러면 가능하다. 동시에 우리의 야망은 30조, 100조, 300조 매개변수를 훈련하기 시작할 만큼 커졌다. 지난 10년 동안 우리는 연산력 사용량이 약 100만 배 증가했으며, 인간의 지능에 대한 수요는 결코 만족하지 않는다.

사람들은 AI가 우리에게 더 많은 여가를 줄 것이라고 말하지만, 나는 전혀 동의하지 않는다. 지능은 더 많은 기회를 열어줄 것이며, 야망 있는 사람들은 그것을 잡으려 할 것이다. 당신이 무언가를 배우면, 새로운 문이 열리게 된다; 그 문 뒤에는 더 많은 도전과 문제가 기다리고 있다.

1930년, 케인즈는 100년 후 경제가 8배 성장하고, 주당 근무 시간이 15시간으로 줄어들 것이라고 예언했다. 경제는 실제로 8배 성장했지만, 우리는 15시간 근무 주로 변하지 않았다. 그는 인간 정신을 과소평가한 것이다: 일과 발견은 사람에게 의미를 주며, 그것은 우리의 DNA에 새겨져 있다.

물리 AI, 구체적 지능 및 산업 재구성

왜 대중은 여전히 초지능이 멀게 느껴지며, 그것이 이미 우리의 삶에 통합되어 있다는 것을 인식하지 못하는가?

AI 또는 초지능은 일종의 "소프트 물질"이다: 당신은 그것을 볼 수 없고, 만질 수 없다. 전 세계가 그것에 대해 이야기하고 있지만, 여전히 그것은 무형이다. 사실 사람들은 매일 그것의 혜택을 보고 있다: 검색할 때, 쇼핑할 때, 넷플릭스를 볼 때, 월마트에 갈 때, 연방 특급이 소포 경로를 계획할 때. 오늘날 모든 것이 가속 계산과 초지능을 사용하고 있지만, 우리는 이 이야기를 잘 하지 않는다. 만약 우리가 데이터 센터를 닫고 초지능이 주말 동안 멈춘다면, 모든 사람은 즉시 그것을 인식할 것이다.

당신이 로봇 분야의 ChatGPT가 도래했다고 언급할 때, 이것은 1000억 달러 규모의 시장인가?

1000억 달러는 과소평가이다. 올해 상반기만 해도 우리는 100억 달러의 물리 AI를 수행했다. 작년 전체는 100억 달러였고, 그 전 해는 50억 달러였다.

물리 AI는 AI가 물리적 세계와 상호작용하는 것이다. 그것은 광자 카운팅 CT, 초음파, 이미징 레이더, 다양한 신호를 감지할 수 있는 차세대 5G 네트워크, 자율주행차, 제조 시스템, 비주얼 검사 시스템, 그리고 3D 공간에서 세계를 재구성하는 지리 공간 위성을 포함한다. 전자기 스펙트럼 전반에 걸쳐 AI가 작동하고 있다.

AI에는 인식, 추론, 그리고 계획 및 실행이 있다. 당신이 계획 및 실행 단계에 도달하면, 그것은 자율주행차, 창고 배송차, 자율 학습이 가능한 로봇, 약을 배달하는 병원 로봇, 그리고 완전한 로봇화된 수술실이 된다.

우리에게 정말 중요한 모든 것은 결국 물리적 세계에 도달할 것이다. 소프트웨어와 지능을 역사적으로 순전히 기계적이고 전기적인 산업에 도입하는 것은 거대한 기회이다. 엘론이 자동차 산업에 한 일을 보라: 그는 그것을 계산 산업으로 바꾸었다. 모든 자동차 회사가 기술 회사로 변하고 있다. 연방 특급, 월마트, 통신 사업자들도 다시 기술 및 AI 회사로 변하고 있다.

엔비디아는 "세 대의 컴퓨터" 아키텍처를 통해 물리 AI의 실현을 어떻게 추진하는가?

물리 AI 플랫폼을 구축하려면 세 대의 컴퓨터가 필요하다:

첫째, "두뇌" 컴퓨터, 즉 훈련 시스템이 필요하다.

둘째, AI 실험실과 개발자는 세계의 디지털 쌍둥이를 구축해야 한다. 그렇게 하면 지능체는 물리적 현실에서 시행착오를 통해 학습할 필요가 없다. 우리는 Omniverse를 만들어 창고, 건물 및 도시의 디지털 쌍둥이를 만들었다. 우리는 로봇을 디지털 쌍둥이에 넣어 그곳에서 작동하는 방법을 배우게 했다.

셋째, 전략을 물리적 기계 내부의 컴퓨터에 배포해야 한다. 자동차, 로봇, 수술 기구 내부의 그 컴퓨터이다.

세 대의 컴퓨터와 세 세트의 완전한 소프트웨어 스택이 필요하다. 우리는 각 세트에 대해 완전한 스택을 구축했으며, 우리는 세계에서 유일하게 그렇게 하는 회사이다.

안전 정렬, 공학 법칙 및 국가 거버넌스 시스템

"AI는 완벽하게 정렬될 수 없으며, 결국 통제 불능이 될 것이다"라는 종말론적 주장을 어떻게 반응하는가?

우리는 책임감 있게 기술을 구축해야 한다. "구축"은 공학 용어이다. 엔지니어, 과학자 및 연구원은 이 기술을 안전하게 만들어야 한다. 당신은 그것을 할 수 있는가? 절대 할 수 있다. 왜냐하면 당신이 할 수 없다면, 아예 그것을 만들지 말아야 하기 때문이다.

누군가는 AI가 통제 불능이라고 말하는데, 이는 완벽한 정렬이 불가능하기 때문이다. 정렬의 의미는: 당신이 AI에게 작업을 주지만, 그것이 그 작업을 수행하는 방법은 여러 가지가 있을 수 있다. 예를 들어, 명확한 수학 문제는 유도하여 풀 수도 있고, 교과서를 찾아볼 수도 있으며, 서랍에서 답을 검색할 수도 있다. 그러나 "인생에서 성공해야 한다"거나 "사회에 기여해야 한다"는 목표는 문화, 배경 및 지역에 따라 무한한 해석 방식이 있다. 정렬은 항상 존재하는 문제이다. 만약 우리가 안전을 보장하기 위해 완벽한 정렬에 의존한다면, 우리는 결코 그 날에 도달할 수 없다.

공학적 답변은 우리가 아이를 기르거나 신입 직원을 교육하는 논리와 같다:

첫째, 격리 및 제로 신뢰. 당신이 누군가를 고용하거나, 한 살짜리 아이를 울타리에 넣을 때, 당신은 모두 제로 신뢰에서 시작한다. 당신은 눈앞의 작업에 따라 그에게 최소한의 권한, 최소한의 도구 접근 권한 및 최소한의 자금 한도를 제공한다. 당신이 테스트를 통해 신뢰를 구축함에 따라, 점차적으로 이러한 경계를 확장한다.

둘째, 외부 모니터링. 모니터링은 외부에서 이루어져야 한다. 만약 당신이 지능 있는 존재에게 "나는 여기 앉아 당신의 모든 행동을 지켜보고 있다"고 말하면, 그 행동은 무인 감시 상태와는 다를 것이다. 모니터링 시스템은 외부에 있어야 하며, 이 자율 시스템이 정책이나 정렬 요구를 위반하는지 관찰하고, 독립적인 권한을 가지고 언제든지 사태를 업그레이드하거나 직접 종료할 수 있어야 한다.

이것이 공학과 기술이다. 그것은 완전히 실행 가능하며, 우리는 최근에 이를 OpenShell로 발표했으며, 100개 이상의 회사가 이 프레임워크에 가입했다.

백악관에서 협약을 체결할 때, 최전선 실험실의 리더들이 맹목적으로 나아가려는 태도를 보였는가?

안전 및 보안 기술은 AI의 일부이다. AI의 능력과 안전이 서로 직교한다는 오해가 있다. 마치 자동차의 엔진과 브레이크, 에어백, 레이더를 분리하는 것처럼. 내가 AI 기술을 가속화하겠다고 말할 때, 그것은 안전 및 보안 기술을 동시에 가속화하겠다는 의미이다. 아무도 "안전을 조금 늦추자"고 말하지 않을 것이다. 기능과 안전을 분리할 수는 없다.

대통령과 최전선 연구소 리더들이 있는 내각 회의실에서, 모든 사람들은 건설적이고 생산적입니다. 예외 없이 모든 사람은 이 산업을 안전하고 신뢰할 수 있게 발전시키는 데 헌신하고 있습니다. 만약 시스템이 안전하지 않다면, 그 기능은 결코 배포될 수 없습니다. 기능성, 능력, 안전, 보안은 모두 최우선 사항입니다.

우리는 "이기다"는 것이 무엇인지 재정의할 필요가 있습니다. 이기는 것은 AI 기술 산업이 이기는 것이 아닙니다. 미국이 이긴다는 것은 미국의 모든 산업이 이긴다는 것을 의미합니다: 일라이 릴리도 이기고, 월마트도 이기고, 페덱스도 이기고, 보잉도 이기고, 미국 군대도 이기고, 우리의 학교와 시민들도 이깁니다. 기술이 성공하더라도, 아무도 안전하게 배포할 수 없다면 승리에 대해 이야기할 수 없습니다.

질문: 상무부의 검토, 백악관의 합의 및 안전 작업 그룹으로 구성된 "삼각 구조" 규제 프레임워크가 실질적으로 효과적인가요?

미래로 가는 가장 좋은 방법은 빠르게 행동하는 것입니다. 우리가 "완벽"과 "행동"에 대해 논쟁하는 데 시간을 낭비한다면, 우리는 영원히 논쟁할 것이고, 결코 그곳에 도달하지 못할 것입니다.

저는 이 "삼각 구조" 프레임워크가 매우 마음에 듭니다. 실행 가능하고, 눈에 보이며, 실제로 힘이 있습니다. 우리는 지금 행동을 취하고 있습니다. 이는 우리 회사, 산업 및 사회에 모두 이익이 됩니다. 저는 발전의 이 단계에서 이러한 정도의 회사 간, 정부와 산업 간 협력이 구축된 산업이 있었는지 기억이 나지 않습니다.

입법자들에게 두 가지를 말씀드리고 싶습니다: 첫째, 우리와 함께 시간을 보내며 기술 문제를 먼저 파악한 후 규제에 나서십시오. 둘째, 우리가 적극적으로 시행하고 있는 솔루션을 살펴보시고, 더 나은 방향으로 나아가도록 도와주십시오. 건설적으로 참여해 주시기 바랍니다.

컴퓨팅 인프라의 물결, 전력 부족 및 물리적 병목 현상

업계는 매년 40GW 이상의 컴퓨팅 파워가 추가될 것으로 예상하고 있으며, 토지와 전력 등 물리적 제약이 장애물이 될 수 있습니까?

수요는 확실히 존재하며, 더 많습니다. 도전은 디지털 세계에서 물리적 세계로 나아가는 것입니다. 장애물은 많습니다: 토지 승인, 발전, 변전소, 그리고 500억 달러 규모의 데이터 센터를 건설하는 데 필요한 전문 기술자, 전기공, 인테리어 공, 배관공. 이러한 기술은 대체할 수 없습니다. 토지, 전력, 외장 및 건설 자원은 가장 주요한 병목 현상이 될 것입니다.

엔비디아는 광범위한 다각화를 통해 이 문제를 완화하고 있습니다. 우리는 모든 클라우드 서비스 제공업체, Neocloud, 그리고 델, HP, 레노버와 같은 기업 파트너에게 서비스를 제공하며, 데이터 처리, 훈련, 후 훈련, 추론 및 인공지능 도구 사용의 전체 생애 주기를 포괄합니다. 만약 어떤 주, 어떤 커뮤니티, 어떤 데이터 센터가 병목 현상을 겪고 있다면, 우리의 수요가 공급을 훨씬 초과하기 때문에 우리는 공급망을 다른 곳으로 조정하면 됩니다.

엔비디아는 글로벌 인프라입니다. 우리는 유럽, 호주(예: 우리가 발표한 2GW 배치), 아시아, 라틴 아메리카 및 중동에서 건설 프로젝트를 진행하고 있습니다. 미국이 충분히 빠르게 건설하지 않는다면, 세계의 다른 나라들은 그들 지역에 건설하기를 열망하고 있습니다.

사용 가능한 전력과 전력망 용량이 제한될 때, 고객은 어떻게 컴퓨팅 아키텍처를 선택할까요?

엔비디아의 아키텍처는 최대한의 토큰을 생산할 수 있습니다. 사용 가능한 총 메가와트 수가 제한될 때, 고객의 선택은 가장 생산적인 컴퓨팅 자원으로 전환될 것입니다. 왜냐하면 CEO들은 여전히 주주들에게 높은 수익 목표를 달성해야 하기 때문입니다.

우리 시스템은 가장 쉽게 임대할 수 있고, 범용성이 가장 뛰어나며, 가장 내구성이 강합니다. 자원 부족은 구매자를 효율성으로 이끌기 때문에, 우리의 시장 점유율은 실제로 상승하고 있습니다.

우리가 제공하는 각 기가와트의 가치는 과거보다 훨씬 높습니다. 우리는 GPU에서 네트워크, 고성능 CPU, 스토리지 컴퓨팅, 그리고 OpenShell과 같은 보안 인프라로 확장했습니다. 우리는 단일 기가와트에 투입되는 달러의 양을 180억 달러에서 400억 달러 이상으로 증가시켰고, 이 숫자는 계속해서 상승하고 있습니다.

대형 CSP에서 우리는 그들의 자본 지출의 약 40%를 차지하고 있습니다; CSP 외부의 기업 및 새로운 클라우드에서는 약 80%를 차지합니다. 이 두 부분 모두 두 배로 증가하고 있으며, 이는 우리가 글로벌 데이터 센터 자본 지출에서 점유율을 계속 확대하고 있는 이유입니다.

일론 머스크, xAI 클러스터 및 우주 데이터 센터

일론 머스크는 불과 몇 달 만에 Colossus 클러스터를 구축했으며, xAI의 컴퓨팅 확장 속도는 전례가 없습니까?

일론은 과거에 우리의 기업 비즈니스에 속했지만, 지금 그는 우리의 CSP 디지털로 들어왔습니다. 저는 일론과 협력하는 것을 매우 좋아합니다. 그는 우리의 기술을 사용하여 모델을 훈련하고, Grok을 배포하며, Grok의 소비량이 폭발적으로 증가하고 있으며, 인프라를 외부에 임대하고 있습니다.

그는 매우 독특한 장점을 가지고 있습니다: 그는 컴퓨팅과 물리적 건설의 교차점에 대한 열정을 가지고 있으며, 에너지에 관해서는 그보다 더 많이 아는 사람이 없습니다.

2028년에서 2029년 사이에 스타쉽을 통해 수백 메가와트의 컴퓨팅 파워를 우주에 배치하는 것이 현실적입니까?

우리의 엔지니어 팀은 SpaceX와 긴밀히 협력하여 우주에 적합한 새로운 서버 아키텍처를 개발하고 있습니다.

엔비디아가 제공하는 각 와트의 성능은 최고이지만, 더 중요한 것은 우리의 컴퓨팅 투자 수익률은 누구도 따라올 수 없습니다. 발사 비용이 매우 비쌉니다. 이는 저비용, 저가치의 컴퓨팅을 궤도로 보낼 수 없다는 것을 의미합니다. 당신은 역사상 가장 가치 있고 생산적인 컴퓨팅 시스템을 궤도로 보내야만 그러한 발사 비용에 걸맞은 강력한 ROI를 얻을 수 있습니다.

우주에 있는 위성은 범용성이 강한 컴퓨팅 파워가 필요합니다. 만약 당신이 위성을 발사했지만 고객이 임대하지 않는다면, 그것은 거기에서 놀고 있게 됩니다. 그러나 엔비디아의 컴퓨팅은 전 세계 모든 폐쇄형 모델, 오픈 소스 모델, 스타트업 및 기업 간에 완전히 범용적으로 임대할 수 있습니다.

그것은 또한 매우 내구성이 강합니다. 우리는 유일한 하드웨어 회사입니다: 몇 년 전에 구입한 하드웨어가 오늘날에도 더 빨라지고 있습니다. 왜냐하면 우리는 CUDA를 통해 소프트웨어 스택과 알고리즘을 지속적으로 업데이트하고 있기 때문입니다. 그 위성이 궤도에 있는 한, 우리는 지속적으로 그 소프트웨어를 유지하고 최적화할 것이며, 이는 SpaceX의 이상적인 화물이 됩니다.

자본 지출 거품론과 모어의 법칙 종말

최전선 연구소의 상업적 수익화가 수조 달러의 인프라를 지탱할 수 있을까요? 거품 붕괴 위험이 존재합니까?

사람들은 단지 몇 개의 AI 연구소의 수익만으로 전체 인프라 건설 규모를 외삽하려고 하는데, 이는 현상을 오해하는 것입니다.

엔비디아는 AI 인프라 시장의 약 80%를 차지하고 있으며, 우리의 비즈니스는 세 가지 다른 부분으로 나뉩니다:

첫째, 고전적 가속 계산은 우리 비즈니스의 약 3분의 1을 차지합니다. 이는 데이터 처리, 분자 동역학, 물리학, 융합 시뮬레이션, 양자 화학, 컴퓨터 그래픽 및 고전적 머신 러닝을 포함합니다. 예를 들어 비자와 마스터카드는 XGBoost를 사용하여 사기 탐지를 수행하고 추천 시스템을 구축합니다. 이 부문은 매년 30%에서 40% 성장하며, 생성적 AI 연구소와는 전혀 관련이 없습니다.

둘째, 최전선 AI 연구소는 우리 컴퓨팅 파워의 약 25%에서 30%를 차지합니다. 사람들은 두 개의 연구소만 이야기하지만, 우리는 여섯 개의 연구소와 협력하고 있습니다: Muse를 만드는 메타, Grok을 만드는 xAI, 우리 시스템에서 Gemini를 실행하는 구글, 앤트로픽, 그리고 OpenAI입니다.

셋째, 나머지 3분의 1은 수천 개의 스타트업과 기업 클라우드 임차인입니다. 그들은 엔비디아의 컴퓨팅 파워를 임대하여 전문 물리 AI, 생물 AI 및 재료 과학 응용 프로그램을 구축합니다.

이 스타트업의 약 80%는 오픈 소스 기본 모델을 사용합니다. 그들은 최전선 연구소와 정면으로 경쟁하는 것이 아닙니다; 그들은 Nemotron과 같은 오픈 소스 모델을 사용하여 자신들의 독점적인 분야 데이터를 미세 조정하여 특정 분야의 슈퍼 인공지능을 창출합니다.

최전선 연구소는 범용 인공지능을 구축할 것이고, 수직 기업은 특정 분야에서 슈퍼 인공지능을 실현할 것입니다. 단지 두 개의 최전선 연구소가 수조 달러의 수익을 창출하여 글로벌 인프라 건설을 지탱할 것이라는 기대는 필요하지도 않고, 올바르지도 않습니다.

왜 생성적 AI가 없더라도 글로벌 컴퓨팅 인프라 지출이 여전히 수조 달러에 이를까요?

몇 년 전, 저는 이십 년 말까지 인프라 지출이 매년 3조에서 4조 달러에 이를 것이라고 예측했습니다. 그 중 약 1.5조 달러는 순수하게 컴퓨팅에 해당합니다.

생성적 AI가 등장하기 전에도 데이터 센터의 자본 지출은 매년 5000억 달러에 달했습니다. 이러한 자연스러운 성장 외에도, 한 가지 사실이 있습니다: 모어의 법칙은 죽었습니다.

과거에는 두 배의 트랜지스터를 원한다면 1년을 기다리면 가격이 변하지 않았습니다. 오늘날에는 두 배의 컴퓨팅 능력을 원한다면 두 배의 돈을 지불해야 합니다. 왜냐하면 범용 CPU의 확장이 중단되었기 때문입니다. 세계는 매년 더 많은 컴퓨팅을 필요로 하므로, 모어의 법칙의 종말을 보상하기 위해 상당한 배수를 추가해야 합니다. AI가 없더라도 반도체 산업은 본래 세계 최대 산업이 되는 궤도에 있었습니다.

공급망 제약, 경쟁 보호막 및 새로운 비즈니스 모델

공급과 수요의 격차가 크며, 현재 가장 핵심적인 공급망 물리적 제약은 무엇입니까?

우리는 모든 CSP, 새로운 클라우드 및 OEM에서 방대한 주문서를 보유하고 있습니다. 우리는 고객과 1년에서 2년의 계획 주기로 협력하고 있습니다. 현재 고객에게 할당된 양은 그들이 원하는 것보다 훨씬 적습니다.

하류에서는 토지, 전력 및 외장이 제약이 됩니다. 상류에서는 고급 포장 재료가 주요 병목 현상입니다. 기판은 더 많은 실리콘 칩을 수용하기 위해 커지고 있습니다. 이러한 대형 유기 재료는 우리가 필요한 정밀도를 달성하기 어렵습니다. 포장이 커짐에 따라 열 팽창 계수, 휨 및 제조 결함을 관리하려면 매우 뛰어난 파트너가 필요합니다. 실리콘 포토닉스도 공급이 제한적입니다. 우리는 매주 생산량을 늘리고 있지만, 주문서의 증가 속도는 공급을 지속적으로 초과하고 있습니다.

왜 고객은 제품이 공개되기 전에 500억에서 1000억 달러의 주문을 내리기를 원할까요? 당신의 보호막은 왜 확대되고 있습니까?

만약 한 회사가 다음 세대 플랫폼에 대해 실물을 보지 않고 500억 또는 1000억 달러의 구매 주문을 제출해야 한다면, 그들은 누구를 신뢰할 수 있을까요?

고객들은 베라 루빈이 블랙웰보다 더 나을 것이라는 것을 알고 있습니다. 마찬가지로 블랙웰은 호퍼보다 더 나은 것입니다. 이러한 슈퍼 컴퓨터에서 실행되는 작업 부하는 매우 복잡하여, 단순히 단일 칩에서 빠른 기준 테스트를 실행할 수 없습니다. 500억 달러 규모의 시스템에 대한 기준 테스트를 수행하려면 전체 데이터 센터와 수년 간의 통합 작업이 필요합니다.

이것은 우리가 100%의 위탁 생산을 TSMC에 맡기는 것과 완전히 동일한 원리입니다. TSMC는 제가 실물을 보지 않고도 5년 전에 계획할 수 있는 유일한 회사입니다. 저는 트랜지스터가 반드시 제공될 것이라고 확신하며, 그들이 우리의 거대한 수요 변동을 처리할 수 있는 충분한 규모를 가지고 있다고 확신합니다. 또한 그들이 모든 필수 포장, 논리 및 실리콘 포토닉스 기술을 보유하고 있다고 확신합니다.

엔비디아는 이 지구의 인프라 회사입니다. 기술 변화는 매우 빠릅니다: 최초의 GPT 모델에서 FlashAttention, NVLink 72의 모델 분할, SSM과 Transformer 혼합의 확산 모델까지. 이 모든 것은 CUDA에서 원활하게 실행될 수 있습니다.

전문화는 범용성과 내구성의 적입니다. 만약 당신이 맞춤형 ASIC 칩을 만든다면, 그것들은 유연성이 부족합니다. 엔비디아의 시스템은 모든 작업 부하, 모델 및 프레임워크를 실행할 수 있기 때문에, 500억 달러 규모의 데이터 센터는 훈련, 후 훈련 또는 인공지능 추론을 쉽게 실행할 수 있으며, 다른 고객에게 재임대할 수도 있습니다. 범용성과 내구성은 임대 가능성, 높은 활용률 및 최소 총 소유 비용(TCO)을 가져옵니다.

하드웨어 판매 외에, 엔비디아는 어떤 두 가지 새로운 고수익 비즈니스 모델을 개척하고 있습니까?

우리의 대부분의 자금 조달과 생태계 협력은 두 가지 새로운 비즈니스 모델을 구축하고 있습니다:

첫째, 기업 소프트웨어 라이선스. 이러한 거대한 데이터 센터를 산업급 AI 공장으로 운영하기 위해 필요한 소프트웨어 스택은 매우 방대하다. 초대형 CSP는 자체 소프트웨어 스택을 가지고 있으므로, 우리는 그들에게 오픈 소스를 제공하여 스스로 통합할 수 있도록 한다. 그러나 전통적인 기업은 이러한 복잡성을 관리할 내부 IT 또는 소프트웨어 팀이 없다. 그들은 엔비디아가 SLA를 통해 보장하고, 전체 운영 생애 주기 동안 이러한 공장을 유지, 보장 및 운영할 필요가 있다. 연간 소프트웨어 라이선스 요금을 부과하며, 예를 들어 각 GPU마다 매년 수천 달러를 청구하고, 기업이 배치하는 GPU는 수백만 개에 이를 수 있어, 이는 매우 방대한 정기 소프트웨어 비즈니스가 될 것이다.

둘째, 클라우드 수익 분배. 특정 지역의 신형 클라우드는 토지, 전력 및 외관을 확보하는 책임이 있지만, 엔비디아가 제공하는 완전한 풀 스택 인프라, 소프트웨어 지원 및 고객 생태계의 수용에 의존한다. 이러한 협력에서 우리는 초기 투자를 하여 초기 판매 수익을 확보하고, 4년에서 10년 동안 지속적으로 수익을 공유한다.

이 두 가지 성장 곡선은 우리의 글로벌 설치 규모와 소프트웨어 생태계의 규모에 의해 주도되며, 단순한 하드웨어 출하량에 의존하지 않는다.

자본 배치 논리와 99.99%의 확실성

여러분은 50% 이상의 자유 현금 흐름을 자사주 매입에 사용하고 있는데, 그 뒤에 있는 자본 배치 논리는 무엇인가요?

지난 분기, 우리는 자사주 매입을 통해 60% 이상의 자유 현금 흐름을 반환했다.

우리는 우리의 생태계 내에서 고품질 기업에 전략적 투자를 계속할 것이다. 우리는 정보 흐름의 중심에 있으며, 훌륭한 창립자들과 함께 일하고, 투자한 기업의 성공을 실질적으로 도울 수 있다.

하지만, 우리의 전체 현금 창출 능력에 비해 외부 투자 비율은 빠르게 감소할 것이다. OpenAI나 Anthropic에 대한 초기 투자와 같은 기회는 그 단계에서 다시 나타나지 않을 것이며, 우리의 전체 자유 현금 흐름 창출은 놀라운 속도로 확장되고 있다.

5년 후, 세상이 더 나아질 것이라는 확신은 얼마나 큰가요?

이번 10년 말, 전 세계의 인프라 구축 및 하드웨어 업데이트 주기는 매년 4조에서 10조 달러에 이를 수 있다. 사회가 토큰을 소비하고 스마트하게 사용할 때마다, 그 계산 공장은 반드시 가동되어야 한다. 지식 노동이 전 세계 GDP의 50조 달러를 차지하고, AI가 20%의 생산성 향상을 가져온다면, 10조 달러의 증분 경제 생산이 창출된다. 그 중 일부 가치를 자본 지출에 재투자하여 스마트함을 생성하는 것은 논리적으로 완전히 타당하다.

나는 99.99%의 확신을 가지고 있으며, 결과는 압도적으로 긍정적일 것이다. 너무 많은 사람들이 이 일을 제대로 하는 것에 대해 매우 신경 쓰고 있다. 각 산업에서 집중하는 연구자와 엔지니어들은 대중의 시선 밖에서 매일 놀라운 일을 하며, 이 기술이 책임감 있게 발전하도록 보장하고 있다.

걱정하는 것은 좋은 일이며, 우리는 우리의 우려를 표현해야 한다. 그러나 세상의 종말을 예언하는 것은 인류의 적응력, 회복력 및 창의력을 심각하게 과소평가하는 것이다. 소수의 비평가가 지침을 주지 않으면 일이 망칠 것이라고 생각하는 것은 오만이다. 이 산업의 훌륭한 사람들은 매일 올바른 일을 하고 있다.

우리는 스스로에게 책임을 져야 하지만, 우리는 낙관적인 미래를 기대해야 한다. 우리는 완전히 멈출 수 있지만, 오늘 멈춘다면 더 안전하고 건강하며 번영하는 세상을 구축할 기회를 포기하게 된다.