황 인 훈이 AI 위험론에 대해 다시 언급하다: 많은 예측은 지어낸 것이며, 중국은 글로벌 오픈 소스의 중요한 힘이 될 것이다

핵심 관점

텐센트 테크놀로지

2026-09-15 22:47:26

AI 발전에 결국 어떤 안전 경계가 필요한가?

저자：리하이룬

편집：서청양

미국 현지 시간 9월 14일, 유명 기술 팟캐스트 All-In Podcast가 주최한 오프라인 행사 All-In Summit 2026에서, 엔비디아 CEO 황인훈과 네 명의 진행자가 AI 안전, AI 종말론, 재귀적 자기 개선, 오픈 소스 모델 및 AGI 등 주제에 대해 논의했습니다.

네 명의 진행자는 All-In Podcast의 공동 창립자이며, 각각 엔젤 투자자 제이슨 카라카니스, 전 페이스북 임원 차마스 팔리하피티아, "페이팔 갱" 핵심 멤버 데이비드 색스, 그리고 농업 생명공학 회사 오할로 제네틱스와 투자 회사 더 프로덕션 보드 CEO 데이비드 프리드버그입니다.

이번 인터뷰는 AI 발전에 필요한 안전 경계에 대한 핵심 문제를 탐구했습니다. 최근 앤트로픽 CEO 다리오 아모데이의 AI 안전에 대한 논의와 최전선 연구소의 "감속" 요구에 대해 황인훈은 안전과 혁신은 모순되지 않는다고 주장하며, 이미 발생한 안전 사건은 공학 문제로서 근본 원인 분석을 통해 기술, 프로세스 및 테스트로 제어해야 한다고 말했습니다.

최근 몇 년간 빈번하게 등장한 AI "종말 예측"에 대해 황인훈은 "방사선 의사가 AI에 의해 대체될 것, 90%의 코드가 단기간 내 AI에 의해 생성될 것, 50%의 초급 직종이 사라질 것" 등 이전에 입증된 바 없는 판단을 열거했습니다. 그는 이러한 예측은 충분한 과학적 근거가 부족하며, 사회적 공포를 조장하는 데 사용되어서는 안 된다고 생각합니다.

재귀적 자기 개선(RSI)에 대해 황인훈은, 이른바 RSI는 갑자기 나타난 신비로운 기술이 아니라 맥락, 강화 학습, 합성 데이터, LoRA 등 기존 기술의 조합이라고 말했습니다.

오픈 소스와 클로즈드 소스 모델 간의 논쟁에 대해 그는 두 가지 모두 필수적이라고 명확히 하며, 중국이 많은 엔지니어와 과학, 수학 인재를 보유하고 있어 미래에 글로벌 오픈 소스 생태계의 중요한 기여자가 될 가능성이 있다고 언급했습니다.

이후 주제는 "AGI와 슈퍼 지능"으로 전환되었습니다. 황인훈이 AGI의 기준이 인간 지능 수준에 도달하는 것이라면 이 단계가 이미 도래했는지에 대한 질문에 그는 간단히 "지금 이미 도달했다"고 대답했습니다.

다음은 황인훈의 최신 인터뷰 실록으로, 원래 의미를 변경하지 않고 간결하게 정리했습니다:

01 AI 안전은 혁신과 대립할 수 없다

질문: 최근 AI 안전에 대한 논의가 점점 많아지고 있습니다. 다리오 아모데이가 AI 안전에 대한 글을 발표했고, 앤트로픽 전 연구원 제이콥 콕슨도 관련 문제로 퇴사했습니다. 이 사건에 대해 어떻게 생각하십니까?

황인훈: 안전 문제는 물론 진지하게 다뤄야 하지만, 안전과 리더십은 충돌하지 않습니다. 우리는 미국이 계속해서 선두를 유지하면서 안전을 잘 관리할 수 있도록 빠르게 혁신하고 실행할 수 있습니다. 이 두 가지를 상호 배타적인 선택으로 보는 것은 본질적으로 잘못된 것입니다.

콕슨이 이러한 문제를 제기하는 데는 용기가 필요합니다. 신고자로서 그가 이 일을 하는 데는 문제가 없지만, 그가 미래에 대해 내린 과학적 판단은 충분한 과학적 근거가 부족하다고 생각합니다. 왜냐하면 이러한 예측은 진정한 과학 연구에 기반하지 않기 때문입니다.

현재 많은 최전선 연구소가 연구형 조직에서 공학형 조직으로 전환하고 있으며, 연구와 공학 자체가 다릅니다. 이 전환 과정에서 제어 또는 관리 문제에 발생한다면 그것은 또 다른 문제입니다. 콕슨이 정확히 무엇을 보았는지는 저도 모르겠습니다.

질문: 지난 몇 년간 AI 산업에서 "AI가 인류를 멸망시킬 수 있다, 많은 일자리가 사라질 수 있다"는 매우 비관적인 예측이 많았습니다. 이 주장에 대해 어떻게 생각하십니까?**

황인훈: 저는 이러한 문제에 "인류 멸망 확률"이나 "문명 파괴 확률"이라는 이름을 쉽게 붙여서는 안 된다고 생각합니다. 왜냐하면 그 중 많은 것들이 사실상 만들어진 것이기 때문입니다. 누군가를 연구자, 과학자라고 부르고 매우 놀라운 예측을 제시하면 대중에게 공포를 불러일으키기 쉽습니다. 저는 이것이 무책임하다고 생각합니다.

우리는 과거에 이러한 예측을 많이 보았습니다. 누군가는 5년 내에 방사선 의사가 AI에 의해 완전히 대체될 것이라고 예측했으며, 미래에는 방사선 의사가 전혀 필요하지 않을 것이라고 했습니다. 그러나 현실은 전 세계에서 더 많은 방사선 의사가 필요하다는 것입니다. AI는 실제로 의료 영상 분석에 사용되고 있지만, 이는 "방사선 의사가 사라질 것"과는 완전히 다른 문제입니다.

또한 누군가는 "앞으로 6~12개월 내에 90%의 코드가 AI에 의해 생성될 것이고, 50%의 초급 직종이 6~9개월 내에 사라질 것"이라고 예측했습니다. 실제로 이러한 예측은 발생하지 않았습니다. 이전에는 "GPT-2, Llama 3는 위험해서 출시할 수 없다"는 말도 있었고, 심지어 "절반의 화이트칼라 직업이 내년에 사라질 것"이라는 예측도 있었습니다.

저는 이러한 예측이 기록되어야 한다고 생각합니다. 몇 년 후에 돌아보면 어떤 예측이 맞았고, 어떤 것이 단순히 공포를 조장했는지 알 수 있을 것입니다.

질문: 그래서 AI 안전 문제는 공학 문제로 다뤄야 한다고 생각하십니까?**

황인훈: 안전 사건이 발생하면, 우리는 먼저 공학적 근본 원인 분석을 통해 무엇이 발생했는지, 어떤 문제가 있었는지, 앞으로 유사한 사건이 발생하지 않도록 어떤 조치를 취할 수 있는지를 파악해야 합니다. 그런 다음 이러한 조치를 제도, 프로세스 및 기술 제어로 전환해야 합니다.

저는 이러한 회사들이 이미 이러한 작업을 수행하고 있다고 믿습니다. 더 나은 샌드박스, 더 엄격한 운영 환경, 더 완벽한 모니터링 및 지속적인 모니터링 시스템을 포함하여 말입니다. 저는 이러한 문제들이 제어되고 예방될 수 있다고 믿고 있습니다.

만약 한 공학 회사가 정말로 무슨 일이 일어났는지 모르고, 어떻게 제어해야 할지 모른다면, 엔지니어를 파견하여 도와줄 수 있습니다. 하지만 저는 일이 그렇게까지 발전할 것이라고 생각하지 않습니다. 이러한 연구소에는 매우 뛰어난 사람들이 있으며, 그들은 관련 문제를 분석하고 적절한 조치를 취했을 것이라고 믿습니다.

질문: AI 안전 문제에 대한 규제가 필요하다면, 규제는 어디서 시작해야 합니까?**

황인훈: 규제는 실제로 존재하는 문제를 해결해야 합니다. 현재 가장 주목해야 할 문제는 대부분 최전선 AI 연구소에서 발생하고 있습니다. 왜냐하면 그들은 가장 많은 계산 자원을 보유하고 있으며, 가장 최전선 문제를 다루고 있기 때문입니다. 고등학생이나 일반 스타트업은 이러한 문제를 발생시킬 만큼 충분한 계산 능력을 갖추기 어렵습니다.

이러한 연구소는 연구에서 공학 단계로 전환하고 있으며, 동시에 회사, 문화, 기술 및 제품을 구축하고 있습니다. 이 과정은 쉽지 않습니다. 따라서 그들이 어떻게 더 완벽한 공학 시스템을 구축하여 기술 개발 및 테스트 과정이 충분한 안전성을 갖추도록 하는지에 주목해야 합니다.

질문: 제3자 평가 기관이 필요합니까?**

황인훈: 저는 여러 평가 및 감사 기관이 있을 수 있다고 생각합니다. 그들은 모든 것을 알 필요는 없지만 어떤 문제를 제기해야 하는지는 알아야 합니다. 이는 금융 감사와 유사합니다. 만약 하나의 평가 기관만 있다면, 영향을 받을 수 있습니다. 그러나 여러 평가 기관이 있다면 서로 견제할 수 있습니다.

02 "재귀적 자기 개선"은 그렇게 신비롭지 않다

질문: 지금 사람들은 재귀적 자기 개선, 즉 AI가 스스로 데이터를 생성하고 스스로 훈련하여 지속적으로 가속화하는 것에 대해 점점 더 많이 논의하고 있습니다. 이 문제에 대해 어떻게 생각하십니까?**

황인훈: 저는 "재귀적 자기 개선"이 최근에 비교적 유행하는 새로운 레이블이라고 생각하지만, 그 뒤에는 실제로 이미 존재하는 많은 기술들이 조합되어 있습니다. 여기에는 맥락, 기술, 반성, 강화 학습, 합성 데이터 생성 및 LoRA 등이 포함됩니다.

이러한 방법들은 AI가 작업을 수행하면서 경험을 축적하고 지속적으로 개선할 수 있게 합니다. 예를 들어 합성 데이터와 강화 학습을 통해 전체 기본 모델을 다시 훈련하지 않고도 모델 능력을 향상시킬 수 있으며, 이후 축적된 경험은 다시 기본 모델 훈련에 사용될 수 있습니다. 저는 현재 거의 모든 회사가 이러한 기술 중 일부를 사용하고 있다고 생각합니다.

"재귀적 자기 개선"이라는 이름은 시스템이 완전히 통제 불가능해질 것처럼 들리지만, 실제로 제품이 출시되기 전에 여전히 평가, 재테스트 및 회귀 테스트가 필요합니다. 이는 가장 기본적인 공학적 제어입니다.

이러한 최전선 연구소는 연구형 조직에서 공학형 조직으로 전환하고 있으며, 저는 그들이 미래에 이러한 시스템을 제어, 검증 및 평가하기 위한 더 나은 방법, 지식, 실천, 도구 및 기술을 갖게 될 것이라고 믿습니다. 재귀적 자기 개선은 내부에서 발생할 수 있지만, 검증된 제품은 여전히 안전한 방식으로 외부에 출시될 수 있습니다.

질문: 오픈 소스와 클로즈드 소스 모델 간의 관계에 대해 어떻게 생각하십니까?**

황인훈: 세계는 오픈 소스 모델과 클로즈드 소스 모델 모두 필요합니다. 저도 클로즈드 소스의 최전선 모델을 사용합니다. 이들은 병에 담긴 물과 같아서, 물 자체는 무료지만 다양한 형태의 제품이 서로 다른 요구를 충족할 수 있습니다.

오픈 소스 모델은 주권, 프라이버시 및 기업의 고유 기술에 매우 중요합니다. 지난 6개월 동안 약 4000억 달러의 벤처 자본이 AI 원주율 회사에 들어왔으며, 그 중 약 80%의 회사가 오픈 소스 모델을 사용하고 있습니다. 오픈 소스 모델이 없다면 많은 스타트업이 자신의 목표를 달성할 수 없었을 것입니다. 왜냐하면 그들이 하고자 하는 일은 최전선 연구소와 다르기 때문입니다.

미국의 진정한 강점은 다양한 혁신 형태를 보유하고 있다는 것입니다. AI 경쟁에서 이기려면 오픈 소스 모델이 발전해야 합니다.

AI 경쟁에서 이긴다는 것은 단지 몇몇 미국 회사가 이기는 것이 아니라, 미국의 회사, 산업, 연구자, 교사, 학생 및 기업가 모두가 이 기술로부터 기회를 얻는 것입니다. 어떤 사람들은 클로즈드 소스 모델을 사용하고, 많은 사람들은 오픈 소스 모델을 사용하며, 두 가지 모두 필요합니다.

질문: 중국이 글로벌 오픈 소스 생태계의 중요한 기여자가 될 것이라고 생각하십니까?**

황인훈: 저는 중국이 글로벌 오픈 소스 생태계에서 상당한 기여를 할 것이라고 생각합니다. 중국에는 많은 엔지니어가 있으며, 과학과 수학을 배우는 학생도 많습니다. 칭화대와 같은 대학은 매년 많은 우수 인재를 양성합니다.

예를 들어 리눅스, 쿠버네티스(오픈 소스 컨테이너 클러스터 관리 시스템) 및 많은 소프트웨어 프로젝트에 중국 엔지니어들이 참여하고 있습니다. 오픈 소스의 특징 중 하나는 한 번 다운로드하면 그것이 당신의 것이 되며, 계속 수정하고 최적화하여 자신의 것으로 만들 수 있다는 것입니다.

AI 경쟁은 결국 누가 이 기술을 가장 잘 활용할 수 있는가에 관한 것입니다. 과거의 산업 혁명에서 많은 중요한 발명품이 유럽에서 나왔지만, 미국은 이후 이러한 기술을 잘 활용했습니다. 저는 다음 산업 혁명도 그렇게 발전하기를 희망합니다.

저는 중국이 이 문제에 대해 더 실용적인 논의를 하고 있으며, 종말이나 문명 파괴에 대한 논의보다는 경제 발전과 사회 진보에 더 많은 관심을 기울이고 있다고 생각합니다. 만약 이러한 종말 예측이 정말로 성립한다면, 우리는 물론 그것에 대해 논의하고 해결해야 하지만, 공포를 조장할 필요는 없습니다. 우리의 일은 그것을 실현하는 것입니다.

질문: 만약 AI가 결국 대량의 프로그래밍 작업을 자동으로 완료한다면, 엔지니어는 무엇을 해야 합니까?**

황인훈: 공학 작업은 여전히 존재할 것입니다. 제 세대의 엔지니어는 소프트웨어가 보편화되기 전에는 많은 시간을 코드 작성에 할애하지 않았습니다. 현재 소프트웨어 엔지니어는 많은 시간을 코드 작성에 할애하고 있으며, 미래에 그 중 상당 부분이 자동화된다면 인간은 여전히 공학 작업을 수행할 것입니다. 제 습관 중 하나는 제가 가장 좋아하는 키는 백스페이스 키라는 것입니다. 왜냐하면 최고의 소프트웨어는 종종 더 적은 코드로 이루어져 있기 때문입니다.

03 엔비디아가 AI 산업 체인에 깊이 들어가는 이유

질문: 미국 정부가 처음 강조한 것은 고용, 재산업화, 에너지 및 공급망입니다. 지금 이러한 일들이 실제로 일어나고 있습니다. 엔비디아는 전체 AI 산업에서 중요한 자본 제공자가 되었는데, 자원을 어디에 투입해야 할지 어떻게 판단하십니까?

황 인훈: AI는 새로운 산업 혁명입니다. 이 산업에는 모델, 칩, 애플리케이션, 데이터 센터, 건축, 전력 및 발전 시설 등 많은 부분이 있습니다. 저는 전체 생태계를 살펴보며 그 안의 병목 현상을 찾고 있습니다.

만약 아주 좋은 회사가 어떤 단계에서 제한을 받는다면, 저는 그 문제에 주목할 것입니다. 공급망일 수도 있고, 토지, 전력 또는 공장일 수도 있습니다. 엔비디아의 규모는 이미 충분히 크기 때문에 우리는 공급망을 고려할 때 많은 해를 앞서 생각해야 합니다. 코닝, 루멘텀, TSMC 및 메모리 공급업체 등은 우리가 장기적으로 주목해야 할 기업들입니다.

질문: 어떤 사람들은 AI 산업의 대부분의 이익이 결국 애플리케이션 계층으로 이동할 것이라고 생각합니다. 엔비디아는 왜 모델, 허깅 페이스 등 더 상위 분야에 진출해야 합니까?

황 인훈: 엔비디아는 거의 모든 모델을 실행할 수 있습니다. 약 1년 반 전, 사람들은 주로 OpenAI의 모델에 대해 논의했지만, 지금은 메타의 뮤즈, 그록, 제미니, 앤트로픽 및 많은 다른 모델들이 있습니다. 많은 최전선 AI 실험실이 엔비디아의 플랫폼 위에 구축되고 있습니다.

우리의 전략은 모든 사람이 성공할 수 있도록 돕는 것이지, 다른 사람의 비즈니스를 빼앗는 것이 아닙니다. 우리는 가능한 한 기술 스택의 더 낮은 위치에 머물고, 필요한 경우에만 위로 올라갑니다. CUDA는 많은 프레임워크를 지원하고, 메가트론과 메가트론 코어는 대규모 훈련을 지원합니다. 우리는 필요한 기술을 발명하고, 전체 생태계가 발전하도록 하며, 더 많은 회사가 참여하도록 합니다.

질문: 왜 지금 지역 클라우드 서비스 제공업체가 점점 더 중요해지고 있습니까?

황 인훈: 지역 클라우드 서비스 제공업체는 종종 대형 초대형 클라우드 공급업체보다 더 유연합니다. 왜냐하면 그들은 현지에서 토지, 전력 및 공장을 찾을 수 있고, 현지의 수요를 더 잘 이해하기 때문입니다.

미래에는 분산된 기업 네트워크가 형성될 것이며, 점점 더 많은 국가가 AI를 전략 산업으로 간주할 것입니다. 우리는 이미 일부 지역에서 AI 컴퓨팅 인프라를 증가시키기 시작한 것을 보았습니다.

질문: 엔비디아는 지금 자사의 오픈 소스 모델을 개발하고 있으며, 자율주행 및 생명과학 분야를 포함하고 있습니다. 왜 이러한 일을 하십니까?

황 인훈: 고객의 필요 때문입니다. 우리는 최선을 다할 수 있는 능력이 있기 때문에 그렇게 합니다. 예를 들어, 알파마요는 우리가 만든 자율주행 모델입니다. 이는 추론이 가능한 자율주행 시스템입니다. 과거 자율주행은 수십억 시간의 도로 데이터를 필요로 했지만, 추론 능력은 시스템이 유사한 상황에 대해 생각할 수 있게 하여 대량의 실제 도로 데이터에 대한 의존도를 줄입니다.

미래의 자율주행은 승용차뿐만 아니라 농업 장비, 트럭, 화물차 및 많은 다른 이동 장비를 포함할 것입니다. 많은 회사가 완전한 기술 스택을 갖추고 있지 않기 때문에 엔비디아는 완전한 기술 스택을 제공할 수 있으며, 고객은 자신의 필요에 따라 마지막 1킬로미터 조정을 할 수 있습니다.

생명과학 분야도 마찬가지입니다. 우리는 ESM2, ESMFold, OpenFold, AlphaFold 2 및 몇 가지 등변 모델과 프로틴 콤플렉스(전 원자 단백질 결합체 생성 AI 프레임워크) 등을 개발했습니다. 이는 제약 회사가 실제로 필요로 하는 기술입니다. 제 출발점은 항상 누군가가 이 기술을 필요로 한다는 것이었고, 그래서 우리는 그것을 개발합니다.