14세 소년이 감옥에 있는 SBF와 인터뷰: 5억 달러를 Anthropic에 베팅했지만, FTX의 결말은 그를 후회하게 만들었다
편집: 심조 TechFlow
심조 안내: 연방 교도소 자동 음성 안내 "통화는 연방 구금 시설에서 왔습니다"와 함께, 전 FTX 창립자 샘 뱅크먼-프리드(SBF)는 브루클린 메트로폴리탄 구금 센터(MDC Brooklyn)에서 14세 기술 블로거 엘리 골드파인과 82분간의 고강도 심층 인터뷰를 진행했습니다. 최근 몇 년간 정보 밀도가 가장 높은 대화로 여겨지는 이 자리에서, 감옥에 갇힌 SBF는 드물게 침묵을 깨고 자신의 인식 지형, 투자 여정 및 극단적인 철학을 전면적으로 되짚었습니다.
당시 FTX 벤처스가 앤트로픽에 5억 달러를 투자한 배후의 게임에서부터, 미래 AI 지형이 수백 조 또는 수천 조 달러 규모로 성장할 것이라는 급진적인 예측까지; 전통 소프트웨어의 방어선과 코인베이스 브랜드 가치에 대한 냉철한 검토에서부터, 타일러 카우엔식 "51/49 동전 던지기로 세계를 파괴하거나 이익을 두 배로 늘리는" 개인 자유 도박의 철학적 질문에 직면하기까지; 마지막 순간에 "FTX가 가져온 결말은 가치가 없으며, 위기가 발생할 때 모든 진실은 승자의 필터에 의해 왜곡된다"고 인정하며, SBF는 천재 트레이더가 신의 자리에 떨어진 후의 완전한 정신 세계를 가장 노골적인 사고로 제시했습니다.
게스트: 샘 뱅크먼-프리드(FTX 창립자 겸 전 CEO, 현재 연방 교도소에서 복역 중; 효과적 이타주의의 핵심 실천자)
진행자: 엘리 골드파인(14세 기술 및 예측 팟캐스트 더 슈퍼 사이클 진행자, 트위터 @realTomBayes)
팟캐스트 출처: 더 슈퍼 사이클(https://x.com/realTomBayes/status/2123761258306384333)
원제목: 독점: 나는 14세이고, 샘 뱅크먼-프리드를 인터뷰했습니다
방송 날짜: 2026년 11월 20일(베이징 시간: 2026-11-21)
요점 요약
- 감옥에서의 최대 고통은 최전선 정보의 고립: SBF는 감옥에서 사건을 생각하는 것이 외부 세계에 아무런 추가 가치를 주지 않는다고 털어놓으며, 그를 진정으로 괴롭히는 것은 대형 언어 모델의 실제 성능, 코드 세부 사항, 시장 동향 및 스타트업의 상업적 실사를 실시간으로 따라갈 수 없다는 점이라고 말했습니다. 최전선의 미세한 입력이 부족해 효과적인 사고가 극도로 어려워졌습니다.
- 앤트로픽 초기 5억 달러 투자 시작과 끝: FTX 벤처스는 당시 앤트로픽의 전체 B 라운드 자금을 거의 독점했습니다. 더 많은 자금을 투입하지 않은 이유는 과도한 현금이 기업의 낭비를 유도할 수 있기 때문이며(예: 무분별한 광고 구매), 팀이 과도한 주식 희석을 원하지 않았고, 무분별한 확장이 오히려 본말이 전도될 수 있기 때문입니다.
- AI 산업은 수십 조 달러의 지배적 지위에 이를 것: 향후 10년 동안 AI는 반드시 세계 경제의 기둥이자 지배적인 분야가 될 것입니다. 왕좌에 도전할 수 있는 최고의 연구소는 몇 개 되지 않기 때문에(앤트로픽, 오픈AI, 딥마인드, xAI), 주요 기관이 만 조 달러 규모의 가치를 누리는 것은 경제적 예측에서 완전히 합리적입니다.
- 전통 소프트웨어 회사는 AI에 의해 완전히 사형 선고를 받지 않았다: 물리적 세계의 실체 산업(예: 철강, 광업)은 AI의 충격에 뒤처져 있습니다. 순수 소프트웨어 및 금융 기관의 경우, 경쟁자가 AI를 사용해 매우 낮은 비용으로 동일한 기능을 복제하더라도 선발주자를 쉽게 전복할 수는 없습니다. 코인베이스와 로빈후드와 같은 진정한 방어선은 견고한 브랜드 신뢰도입니다.
- p(doom) 평가가 약 25%의 복잡한 회색 지대에 있음: SBF는 AI로 인해 인류가 멸망하거나 생존 재난에 직면할 확률이 10%에서 50% 사이(중간값 약 25%)라고 생각합니다. 재난의 형태는 단순한 통제 불능 핵무기가 아니라, 인간 의식이 업로드된 후 업로드되지 않은 집단이 전면적으로 소외되고 제거되는 복잡한 회색 상황일 가능성이 더 높습니다.
- 정치 예측 시장은 FTX의 미완의 야망: 예측 시장은 금융 본질상 특정 결제 규칙의 선물 계약입니다. FTX는 초기 해외 시장에서 수억 달러 규모의 미국 대선 예측을 진행했으나, 미국 상품선물거래위원회(CFTC) 라이센스를 받지 못해 제한을 받았습니다. 칼시와 폴리마켓의 폭발은 이 분야의 폭발력을 입증했습니다.
- 종이책의 정보 처리 효율성에 대한 극도의 의구심: SBF는 그의 유명한 견해를 재확인하며, 대부분의 책은 6개의 자연 단락으로 압축되어야 한다고 주장했습니다. 반면, 시청각 스트림(예: 넷플릭스)은 단위 시간 내에 정보 처리량과 표현 차원이 훨씬 높습니다.
- 극단적인 기대값과 51/49 동전 던지기의 현실 붕괴: 이론적으로 순수한 선형 기대값 하에서, 51%는 두 배가 되고, 49%는 세계를 파괴하는 도박은 수학적으로 성립합니다. 그러나 현실 세계에서 파괴는 되돌릴 수 없는 멸종 비용을 수반하며, 진정한 효용은 한계 감소와 함께 존재합니다. 51/49로 즉시 석방될 수 있을지에 대한 도박에 직면했을 때, 개인 위험 효용 함수는 이론적 도박을 현실에 단순히 적용할 수 없음을 결정합니다.
- FTX 결말에 대한 고통스러운 회고: "이 모든 것이 가치가 있었는가"라는 질문에 SBF는 "양심에 가책을 느끼지 않고는 가치가 있다고 말할 수 없다. 만약 마지막에 모든 것을 망치지 않았다면 가치가 있었을 것"이라고 분명히 말했습니다. 위기가 닥쳤을 때 사람들은 이성을 잃고 핵심 판단을 잃기 쉽고, 이후 모든 역사는 승자의 필터에 의해 재구성되고 왜곡됩니다.
- 14세 신세대 젊은이들에게 주는 생존 규칙: 더 이상 월가에서 "기부를 위한 수익(Earning to Give)"을 추구하는 고빈도 거래에 집착하지 마세요. 당면한 긴급 과제는 AI를 이해하고, AI 안전에 헌신하거나 AI가 실제로 인프라 자동화를 실현할 수 있는 접점을 찾는 것입니다.
흥미로운 관점
- 감옥에서의 정보 격차에 대한 잔혹한 장벽: "최전선에서 가치를 창출하고 싶다면, 수백 수천 개의 미세한 세부 사항을 파악해야 합니다: 대형 모델이 어떤 작업에서 뛰어난 성능을 보이는지, 어떤 부분에서 여전히 부족한지, 산업 최전선에서 어떤 논의가 이루어지고 있는지, 시장의 미세 구조에서 어떤 변화가 있었는지. 그러나 연방 교도소의 높은 벽 안에서는 이러한 세부 사항을 얻는 것이 거의 불가능한 임무입니다."
- 앤트로픽의 가치 평가와 방어선: "앞으로 10년 동안 AI가 수십 조 달러의 글로벌 핵심 분야가 될 것이라고 믿는다면, 이 테이블에 앉을 수 있는 최고의 핵심 연구소는 극히 몇 개에 불과하므로, 각 주요 회사가 수조 달러의 시장 가치를 차지하는 것은 완전히 합리적입니다. 앤트로픽의 코드 생성 및 소프트웨어 엔지니어링 도구에 대한 실력은 여전히 세계 최고로 평가받고 있습니다."
- 브랜드와 기술의 진정한 장벽: "많은 프로그래머가 기술이 전부라고 생각하지만, 코인베이스나 로빈후드를 보세요. 그들이 수백억 달러의 가치를 지닌 이유는 독점 알고리즘 때문이 아니라, 미국 소매 사용자들이 자연스럽게 발음하는 브랜드 신뢰도 때문입니다. 경쟁자가 AI를 사용해 거의 제로 비용으로 동일한 소프트웨어를 복제할 수 있다 하더라도, 이런 브랜드 자산을 구매할 수는 없습니다."
- 종이책에 대한 급진적 비판: "나는 여전히 믿습니다. 만약 당신이 책을 썼다면, 그것은 대개 당신이 잘못했다는 것을 의미합니다. 그것은 6개의 자연 단락으로 이루어진 블로그 글이어야 했습니다. 책의 정보 처리량은 너무 낮고, 긴 무의미한 서술로 가득 차 있습니다. 동일한 단위 시간 내에 고밀도의 시각 및 시청각 입력이 훨씬 더 많은 유효 정보를 전달할 수 있습니다."
- 51/49 동전 던지기에 대한 현실적 반성: "순수한 상아탑 기대값 이론에서는, 당신은 세계 효용을 두 배로 늘리기 위해 49%의 파괴 확률을 도박할 수 있습니다. 그러나 현실 세계에는 되돌릴 수 없는 시스템적 제로 리스크가 존재하며, 어떤 긍정적 효용에도 한계가 있습니다. 파괴의 치명적 비용을 모델에 포함시키면, 현실에서 대부분의 동전은 쉽게 던질 수 없습니다."
- FTX 흥망의 최종 결론: "나는 스스로를 위로하며 이 모든 것이 가치가 있다고 믿고 싶지만, 그렇게 말할 수는 없습니다. 그것은 가치가 있어야 했습니다. 내가 마지막 순간에 모든 것을 망치지 않았다면 말이죠. 극단적인 위기가 발생했을 때, 공황은 모든 조언과 결정을 왜곡하게 만들고, 전투가 끝난 후 모든 역사 서사는 불가피하게 승자의 입장에서 재구성됩니다."
본문: 완전한 대화 실록(원본 자막 전체 번역 기반)
감옥 생활과 인식 장벽: 미세 세부 사항을 잃은 블랙박스 세계
엘리 골드파인: 더 슈퍼 사이클에 오신 것을 환영합니다. 저는 엘리 골드파인입니다. 오늘 우리는 샘 뱅크먼-프리드(SBF)와 연결할 수 있어 매우 영광입니다. 그 전에, 저와 제 팀은 몇 달 동안 조율을 해왔고, 이것은 우리가 팟캐스트를 시작한 이래 가장 정보 밀도가 높은 심층 인터뷰입니다. 안녕하세요, 샘, 제 목소리가 들리나요?
샘 뱅크먼-프리드: 네, 잘 들립니다.
엘리 골드파인: 당신과 연결할 수 있어 기쁩니다. 최근 당신의 많은 인터뷰를 보았는데, 외부에서 대부분의 관심이 FTX의 붕괴와 당신이 현재 감옥에서의 일상에 집중되고 있습니다. 감옥에서 당신은 매우 많은 독립적인 시간과 사고의 시간을 가지고 있는데, 평소에 어떤 주제에 가장 많은 에너지를 쏟고 있나요?
샘 뱅크먼-프리드: 아주 자연스러운 질문입니다. 분명히, 저는 상당한 시간을 제 사건을 되돌아보고, 과거에 도대체 무슨 일이 있었는지 복기하며, 제가 이를 위해 무엇을 할 수 있을지 고민하는 데 할애하고 있습니다. 하지만 저는 이러한 반성이 외부 세계에 있는 사람들에게는 큰 추가 가치를 제공하지 않는다는 것을 잘 알고 있습니다.
저는 제 에너지를 미래에 제가 무엇을 할 수 있을지에 대한 생각으로 전환하려고 노력합니다. 그러나 감옥 환경에서는 생산적인 미래 지향적 사고를 하는 것이 극도로 어려운 일입니다.
엘리 골드파인: 왜 감옥에서 미래 지향적 사고를 하는 것이 그렇게 어려운가요? 어떤 중요한 정보가 부족해서인가요?
샘 뱅크먼-프리드: 특정한 단일 정보가 부족한 것이 아니라, 무수히 많은 미세하지만 중요한 입력이 부족합니다. 만약 당신이 인류의 인식과 비즈니스의 최전선에서 미래를 예측하고 싶다면, 방대한 동적 세부 사항을 파악해야 합니다: 최전선 대형 언어 모델이 어떻게 발전하고 있는지? 그들의 평가 곡선이 어떤 특정 작업에서 인간의 한계를 돌파했는지, 또 어떤 분야에서 여전히 부족한지? 당신은 이러한 기술을 실제로 검증하고, 매일 이러한 모델을 구축하는 사람들과 대화해야 합니다.
금융 관점에서도 마찬가지입니다. 당신은 매일 시장을 주시하고, 자금 흐름과 거래 구조를 관찰하며, 인맥을 구축하고, 떠오르는 스타트업 팀과 소통하여 그들의 비즈니스 모델을 논의하고 심층적인 실사를 수행해야 합니다. 이러한 것들은 제가 외부에 있었다면 매일 해야 할 일들이지만, 연방 구금소의 높은 벽 안에서는 모든 정보의 획득이 극도로 어렵고 거의 불가능해집니다.
엘리 골드파인: 만약 감옥에서 정보를 얻을 수 있다면, 어떤 차원의 정보가 당신이 현실 세계를 예측하는 데 가장 가치가 있을 것이라고 생각하나요?
샘 뱅크먼-프리드: 여전히 같은 말입니다. 단일한 폭발적인 뉴스가 아니라 수천 개의 미세한 변수입니다. 예를 들어, 최전선 모델의 구조 진화, 코드 생성의 실제 실행 장벽, 스타트업이 실제 상업 환경에서의 현금 흐름 경로, 다양한 산업 고객의 실제 구매 의사 등이 있습니다. 이러한 미세한 세부 사항 입력이 부족한 상황에서 순전히 문을 닫고 만들어낸 거시적 프레임워크는 종종 극히 취약합니다.
엘리 골드파인: 당신은 하루 종일 사건에 대해서만 생각할 수는 없겠죠. 사건 외에 어떤 더 넓은 주제를 생각하고 있나요?
샘 뱅크먼-프리드: 그렇습니다. 하지만 많은 생각이 여전히 제가 현재 처해 있는 물리적 환경에 크게 제한되어 있습니다. 왜냐하면 이것이 제가 지금 직접적으로 1차 피드백을 받을 수 있는 유일한 세계이기 때문입니다. 이게 얼마나 중요한지는 모르겠지만, 저는 정말 많은 시간을 형사 사법 시스템에 대해 생각했습니다. 단순히 저 개인의 경험에 대한 것이 아니라, 전체 사법 체계가 일반적인 차원에서 보여주는 부조리한 논리입니다.
연방 형사 사법 체계에 대한 반성: 허구의 범죄, 지표 평가 및 역방향 유인
엘리 골드파인: 당신 개인 사건의 배경을 떠나서, 당신이 관찰한 일반적인 사법 문제는 구체적으로 무엇인가요?
샘 뱅크먼-프리드: 속담이 잘 말해줍니다. 손에 망치를 쥐고 있으면 모든 것이 못처럼 보입니다. 사법 체계도 완전히 동일한 규칙을 가지고 있습니다. 특정 범죄를 단속하기 위해 연방 특별 작업 그룹을 만들면, 그 작업 그룹은 해당 범죄가 실제로 존재하든 존재하지 않든 간에 미친 듯이 사건을 찾으려 할 것입니다.
작업 그룹의 편제와 예산 규모가 실제 사회에서 해당 범죄의 실제 규모를 초과하면, 그들은 불가피하게 가짜 사건을 만들어내기 시작하여 범죄가 아닌 행동을 잡으려 할 것입니다. 지난 수십 년 동안 연방 마약 단속 체계는 이러한 왜곡을 일반적으로 드러냈고, 지난 10년 동안 이러한 풍조는 연방 사법의 모든 분야로 침투하고 확산되었습니다.
엘리 골드파인: 예를 들어 어떤 구체적인 분야인가요?
샘 뱅크먼-프리드: 예를 들어, 거대한 연방 사이버 범죄 조사 기관은 본래 극단적인 침해를 단속하기 위해 설립되었지만, 이제는 연인 간의 개인적인 문자 대화와 정상적인 교류까지 손을 뻗치고 있습니다. 수많은 완전히 무고한 사람들이 기소되고 체포되었으며, 단지 검사가 이러한 사건을 자신의 승진과 급여 인상의 평가 성과로 삼아야 하기 때문입니다. 온두라스 전 대통령 후안 올란도 에르난데스의 사건은 기소 메커니즘이 완전히 통제 불능이 되었을 때 얼마나 터무니없는 결과를 초래하는지를 보여주는 전형적인 사례입니다.
엘리 골드파인: 당신은 여전히 화이트칼라 범죄가 감옥에 수감되어야 한다고 믿나요?
샘 뱅크먼-프리드: 전혀 믿지 않습니다. 화이트칼라 범죄자를 감옥에 보내는 것은 사회에 아무런 긍정적인 도움이 되지 않습니다. 그것이 할 수 있는 유일한 일은 누군가의 삶에서 수십 년의 시간을 빼앗고, 납세자에게 감옥 운영에 대한 높은 경제적 부담을 지우는 것입니다. 만약 당신이 순전히 복수를 위해 한다면, 그 목적은 달성되었지만, 저는 절대 이러한 체계가 누구를 개조할 수 있다고 생각하지 않습니다.
엘리 골드파인: 실제로 금융 사기를 저지른 사람들에 대해 가장 합리적인 처리 방식은 무엇이라고 생각하나요?
샘 뱅크먼-프리드: 이는 사건의 구체적인 사실 세부 사항에 따라 다릅니다. 하지만 대다수의 상업 및 금융 사건에서 민사 소송 절차는 형사 재판보다 훨씬 더 정교하고 합리적인 경로입니다. 민사 구제는 천문학적인 벌금, 상업 계약 수정, 직업 자격 제한 및 자산 몰수 등의 수단을 통해 문제를 해결할 수 있습니다.
더 핵심적인 것은, 우리가 현대 사회로서 맹목적인 과도한 자신감을 줄이는 법을 배워야 한다는 것입니다. 우리는 종종 사실의 진실을 정확히 볼 수 있다고 자부하며, 우리가 처벌하는 것은 반드시 나쁜 사람이라고 생각하지만, 현실에서는 재판대에 서는 많은 사람들은 단지 그들이 특정 세력의 모순을 전환하는 데 가장 편리한 희생양이 되었기 때문입니다.
엘리 골드파인: 사법 체계를 개선하는 것이 효과적인 이타주의 커뮤니티가 우선적으로 주목해야 할 방향인가요?
샘 뱅크먼-프리드: 효용 기대값 측면에서 이 분야는 사실 매우 복잡합니다. 사법 개혁의 사회적 가치는 의심할 여지 없이 큽니다. 하지만 그것은 극히 단단한 정치적 저항과 제도적 관성을 마주하고 있습니다. 한 이익 집단이 인구를 감금함으로써 거대한 산업 폐쇄 루프를 형성할 때, 외부 세력이 바닥에서 변화를 추진하는 것은 극히 어렵습니다.
엘리 골드파인: 당신이 보기에는 형사 사법 시스템에서 가장 쉽게 따낼 수 있는 저열한 과일은 무엇인가요?
샘 뱅크먼-프리드: 가장 쉽게 추진할 수 있고 즉시 막대한 경제적 이익을 방출할 수 있는 것은 비폭력 범죄에 대한 사전 구금 및 양형 기준을 철저히 재검토하는 것입니다. 현재 시스템에는 미미한 보석금을 납부하지 못해 장기 구금되는 저소득층과 마약 관련으로 수십 년의 중형을 선고받는 하층 노동 인구가 넘쳐납니다. 그들에게 정규 시장화된 직업 훈련과 지역 사회 교정을 제공하는 것이, 직접 감옥에 가두어 사회적 관계를 완전히 단절시키는 것보다 비용 대비 효과가 가장 높은 개혁의 출발점입니다.
AI 산업의 종말 시나리오: 수조 달러의 가치와 소수의 과두제
엘리 골드파인: 최전선 기술에 대해 이야기해봅시다. 최근 앤트로픽이 공개 상장을 준비하고 있으며, 외부에서 그들의 가치에 대한 기대가 수천억 달러에서 수조 달러로 치솟고 있습니다. 당신은 당시 B 라운드에서 앤트로픽에 5억 달러를 투자한 초기 투자자로서, 현재 이러한 대형 모델 실험실에 대한 가치를 어떻게 보나요?
샘 뱅크먼-프리드: 저는 그들이 절대 그 가격에 가치가 있다고 생각하며, 미래에는 더 많은 가치를 지닐 것입니다.
거시적 상업 논리에서 유추하자면: 인류 경제사를 통틀어, 인류 문명의 운영을 지탱하는 모든 핵심 기둥 부문의 총 시가 총액은 수조에서 수십 조 달러 사이입니다. 그리고 앞으로 5년에서 10년 사이에 AI는 글로벌 경제 산업에서 가장 핵심적이고 심지어 가장 지배적인 산업으로 성장할 가능성이 매우 높습니다.
엘리 골드파인: 만약 전체 AI 부문이 미래에 수십 조 달러의 시가 총액에 도달한다면, 이 가치는 시장에서 어떻게 분배될까요?
샘 뱅크먼-프리드: 만약 미래의 수십 조 달러의 총 시가 총액 중 3분의 2가 현재 아직 태어나지 않은 혁신 응용 프로그램과 신생 기업에 할당된다면, 나머지 부문은 여전히 최소 10조 달러 이상의 규모가 기존의 주요 하위 모델 기업들에 의해 공유될 것입니다.
하지만 당신이 자세히 세어보면, 전 세계에서 실제로 이 핵심 기반 카드 테이블에 앉을 자격이 있는 최고의 실험실이 몇 개나 될까요? 오픈AI, 앤트로픽, 구글 딥마인드, 그리고 xAI를 더하면 한 손가락으로 셀 수 있습니다. 수십 조 달러의 경주가 결국 소수의 최고 과두제에 의해 분배될 때, 필연적으로 도출되는 결과는: 가장 정점에 있는 각 선두주자는 그 내재 가치를 수조 단위로 측정해야 한다는 것입니다. 앤트로픽은 의심할 여지 없이 세계에서 두 번째로 높은 위치에 있습니다.
엘리 골드파인: 왜 당신은 앤트로픽에 대해 그렇게 높은 평가를 하나요? 클로드 시리즈 모델이 기준 테스트에서의 성과 때문인가요?
샘 뱅크먼-프리드: 점수는 물론 중요하지만, 외부에서도 클로드가 일상 대화와 대중 소비용 응용 프로그램에서 강력한 입소문을 얻고 있다는 것을 알 수 있습니다. 하지만 앤트로픽이 진정으로 차별화되는 핵심 자산은 소프트웨어 공학과 전문 개발 도구에서의 절대적인 지배력입니다. 그들이 엔지니어를 위해 구축한 개발 키트와 코드 이해 능력은 전 세계에서 가장 뛰어난 것으로, 이는 미래의 전체 디지털 사회가 AI 자동화로 전환하는 핵심 작업 기계입니다.
엘리 골드파인: 만약 향후 10년 동안 완전한 초지능 군비 경쟁에 들어간다면, 세계는 어떻게 변할 것이라고 생각하나요?
샘 뱅크먼-프리드: 전체 사회의 생산력 분배가 전면적으로 재편될 것입니다. 몇 년 전, 대형 모델은 기하급수적으로 진화했지만, 절대 능력이 여전히 인간 평균선 이하에 있었기 때문에 사회 질서는 평온해 보였습니다. 그러나 특정 임계점을 넘으면, 프로그래밍, 법률, 금융 모델링 및 약물 개발 등의 분야에서 기계의 생산 속도는 인간의 수백 배에 이를 것입니다. 부의 창출 속도는 크게 빨라지겠지만, 이러한 계산 능력이 가져오는 이익을 어떻게 분배할지가 전 세계에서 가장 격렬한 지정학적 경쟁의 초점이 될 것입니다.
초기 5억 달러 앤트로픽 투자 과정: 계산 능력 군비 경쟁과 자본 함정
엘리 골드파인: 많은 사람들이 궁금해합니다. 당시 FTX 벤처스가 거의 앤트로픽의 전체 B 라운드 자금을 차지했습니다. 당신이 당시 AI의 미래에 그렇게 확신을 가지고 있었다면, 왜 더 큰 수표를 발행하지 않았나요? 예를 들어, 10억 또는 20억 달러를 직접 주입하여 그들이 무한정 그래픽 처리기(GPU)를 구매하고 데이터 센터를 구축하게 하지 않았나요?
샘 뱅크먼-프리드: 여기에는 두 가지 주요 고려 사항이 있습니다. 첫째, 창립자 팀의 입장에서, 어떤 훌륭한 팀도 초기 단계에서 자신의 회사의 통제권과 주식 비율을 과도하게 희석하고 싶어하지 않으며, 그들은 현재 발전 단계에서 필요한 자금만 모으고 싶어합니다.
둘째, 상업 역사에서 자금 부족으로 죽은 회사는 많지만, 과도하게 풍부한 현금 흐름에 의해 죽거나 스스로 자본에 의해 반격당한 회사도 흔히 있습니다. 많은 스타트업 팀은 천문학적인 자금을 모은 후, 종종 "나는 이 돈을 써야 한다"는 맹목적인 불안감을 느끼고, 결국 무의미한 마케팅이나 맹목적인 확장에 거액의 자금을 낭비하여 핵심 기술에 대한 경외심을 잃게 됩니다.
대형 모델을 구축하는 초기에는 모델 구조의 반복과 알고리즘 검증이 안정적인 연구 개발 주기를 필요로 하며, 단순히 계산 능력을 쌓는 것으로는 성과를 얻을 수 없습니다. 앤트로픽은 당시 자금 사용 계획이 매우 합리적이었으며, 우리가 투자한 자금은 그들이 다음 세대 대형 모델 훈련을 시작하는 핵심 요구를 완벽하게 충족했습니다.
엘리 골드파인: 당시 FTX 벤처스는 어떻게 운영되었나요? 당신 개인은 구체적인 투자 결정에서 어떤 역할을 했나요?
샘 뱅크먼-프리드: 초기에는 많은 사건이 우리 팀원이 일상 업무에서 발굴한 것들이었습니다. 초기에는 많은 암호화폐 원주율 투자도 포함되어 있으며, 매년 수 배의 자산 증가를 실현할 수 있었습니다. 앤트로픽과 솔라나는 처음에 우연히 깊이 접촉하게 된 파괴적인 프로젝트입니다.
규모가 커지면서 우리는 전문 파트너를 흡수하여 정규 투자 구조를 구성했습니다. 일반 사건에 대해서는 저는 실사를 담당하는 분석 팀을 충분히 신뢰하는 경향이 있지만, 앤트로픽과 같은 전략적 의미가 있는 중대한 베팅에 대해서는 매주 또는 그보다 더 자주 깊이 따라가며, 우리가 어떻게 그들에게 기초 계산 능력, 재무 및 자원 네트워크에서 지원할 수 있을지를 논의합니다.
엘리 골드파인: 당신이 당시 다리오 아모데이 팀과 접촉했을 때, 그들이 당신에게 남긴 가장 깊은 인상은 무엇이었나요?
샘 뱅크먼-프리드: 극도의 엄격함과 집중력입니다. 다리오와 그의 팀은 오픈AI에서 분리될 때 매우 명확한 목표를 가지고 있었습니다. 바로 높은 설명 가능성과 정렬 보장을 갖춘 최전선 안전 모델을 만드는 것이었습니다. 그들은 단기적인 관심을 끌기 위해 화려한 마케팅 시연을 하지 않으며, 모든 자본 지출은 극히 절제되어 핵심 계산 능력 집단과 엔지니어 인재 채용에만 집중됩니다. 이러한 엔지니어 문화는 현재의 불안한 실리콘밸리에서는 극히 드뭅니다.
전통 소프트웨어 회사의 생존 위기와 브랜드 방어선: 왜 AI가 코인베이스를 죽이지 못하는가?
엘리 골드파인: 최전선 모델 능력의 폭발과 함께 많은 전통 소프트웨어 회사들이 생존에 대한 큰 불안에 직면하고 있습니다. AI와 깊이 결합하지 않은 전통 소프트웨어 회사들은 이미 살아남을 길이 없다고 생각하십니까?
샘 뱅크먼-프리드: 상황이 그렇게 절대적이지는 않습니다. 첫째, 실물 경제에는 AI의 침투에 자연적인 물리적 방어 완충이 있는 산업이 상당히 많습니다. 예를 들어, 철강 제련이나 지하 채굴 같은 경우 AI가 아무리 똑똑해도 하룻밤 사이에 공중에서 광석을 캐낼 수는 없습니다.
둘째, 순수 디지털 소프트웨어의 경우 승패를 결정짓는 것은 절대적으로 하부 코드의 효율성만이 아닙니다. 많은 사람들이 '브랜드'의 절대적인 방어력을 심각하게 과소평가하고 있습니다. 만약 한 경쟁자가 최신 대형 모델 도구를 이용해 극히 낮은 비용으로 기능이 거의 완전히 일치하는 소프트웨어 제품을 복제했다면, 사용자가 기존 제품을 버릴 것이라고 생각하십니까? 절대 그렇지 않습니다.
엘리 골드파인: Coinbase나 Robinhood처럼요?
샘 뱅크먼-프리드: 완전히 맞습니다. Coinbase와 Robinhood가 왜 수백억 달러의 높은 시가총액을 누릴 수 있을까요? 그들이 다른 팀이 절대 복제할 수 없는 비밀 매칭 엔진 코드를 가지고 있기 때문인가요? 물론 아닙니다. 그들이 가장 소중한 자산은 브랜드 인지도이며, 미국 전역의 수많은 일반 개인 투자자들이 디지털 자산을 사고팔고 싶을 때 즉각적으로 떠올리는 신뢰의 보증입니다.
설령 새로운 팀이 AI를 사용해 거의 제로 비용으로 프론트엔드와 거래 시스템을 다시 작성할 수 있다 하더라도, 그 오랜 세월 동안 쌓인 브랜드 신뢰를 단기간에 구매할 수는 없습니다. 브랜드는 종종 전통 기업이 하부 제품의 동질화 충격 속에서도 장기적인 생존 탄력성을 유지할 수 있게 합니다.
엘리 골드파인: 어떤 전통 소프트웨어 회사가 가장 빨리 퇴출될까요?
샘 뱅크먼-프리드: 순전히 기능 쌓기에 의존하고, 브랜드 인식도 없으며, 깊이 있는 데이터 네트워크 효과도 없는 미들웨어 소프트웨어입니다. 만약 당신의 제품이 단순한 작업 관리나 양식 작성 도구에 불과하다면, 사용자와 당신 사이에 아무런 감정이나 브랜드 결속이 없다면, AI 원주율 도구가 극히 짧은 시간 안에 10분의 1의 비용으로 그것을 완전히 파괴할 것입니다.
기술 투자에서의 진정한 알파: 극소형 AI 원주율 팀 vs 개념을 빌리는 쓰레기 회사
엘리 골드파인: 현재 기술 투자 분야에서 진정한 초과 수익(알파)은 어디에 숨겨져 있다고 생각하십니까?
샘 뱅크먼-프리드: 진정한 알파는 거품을 뚫고 식별하는 능력에 있습니다. 현재 시장에는 절반의 스타트업이 사업 계획서의 표지에 AI 레이블을 억지로 붙이고 있습니다. 심지어 문화 티셔츠를 판매하는 회사도 AI로 디자인을 하고 있다고 주장합니다. 이러한 것들은 본질적으로 모두 산업 쓰레기입니다.
동시에 진정으로 거대한 기회는 두세 명의 핵심 구성원만 있는 원주율 팀에 숨겨져 있습니다: 그들은 AI 도구 체인을 완전히 의존하여 전통적으로 수백 수천 명이 필요했던 기업 워크플로를 믿기 어려울 정도로 간소화하여 재구성하였고, 빠르게 수천만에서 수억 달러의 가치로 성장하고 있습니다. 어떤 것이 진정한 폭발인지, 어떤 것이 세력을 빌려서 부풀리는 것인지를 구별하는 것이 현재 투자에서 가장 핵심적인 분수령입니다.
엘리 골드파인: 만약 오늘 당신이 외부에서 자금을 자유롭게 운영할 수 있다면, 이런 투자로 다시 돌아가겠습니까?
샘 뱅크먼-프리드: 물론입니다. 만약 제가 외부에 있다면, 저는 매우 적극적으로 이 두세 명의 슈퍼 종족을 찾아서 대규모로 지원할 것입니다. 그들은 전통 회사의 관료적 내분이 없으며, 각 구성원은 대형 모델을 통해 완전한 엔지니어링 부서의 생산량에 해당하는 결과를 도출할 수 있습니다. 이러한 간소화된 인력 효율이 가져오는 폭발력과 수익률은 전통적인 조직 형태가 상상할 수 없는 것입니다.
생물 의학과 장수 기술: 규제 제약과 AI 연구 개발 가속화
엘리 골드파인: 생명 과학에 대해 이야기해 봅시다. FTX는 초기에도 많은 항노화, 장수 및 유전자 치료 프로젝트에 자금을 지원했습니다. 생물 의학 분야의 발전에 대해 어떻게 생각하십니까?
샘 뱅크먼-프리드: 생명 과학은 엄청난 잠재력을 가진 분야이지만, 그것이 직면한 가장 큰 병목 현상은 과학자의 지능이 아니라 규제 체계의 낡음입니다. 미국 식품의약국(FDA)의 임상 승인 과정은 극히 길고 비용이 많이 들며, 새로운 약물은 종종 수십억 달러와 10년 이상의 시간이 걸려야 시장에 출시됩니다.
원래 생명을 구할 가능성이 있었던 많은 초기 치료법이 천문학적인 자금을 모으지 못해 3상 임상을 완료하지 못하고 실험실에서 죽어가고 있습니다. 우리는 당시 이러한 고위험, 고수익의 최전선 시도를 위한 초기 촉매 자금을 제공하고자 했습니다.
엘리 골드파인: AI가 이러한 상황을 바꿀 수 있을까요?
샘 뱅크먼-프리드: AI는 이미 단백질 구조 예측, 분자 도킹 및 화합물 스크리닝에서 혁신적인 힘을 보여주고 있습니다. AI는 원래 몇 년 또는 수십 년이 걸리는 초기 실험실 스크리닝을 몇 개월로 압축할 수 있습니다. 그러나 결국 모든 약물은 여전히 물리적 세계에서 인체 임상 검증을 거쳐야 합니다. 낡고 경직된 규제 프로세스를 근본적으로 개혁하지 않으면, 단순한 기술 속도 향상은 오프라인의 행정 장벽에 의해 크게 지연될 것입니다.
엘리 골드파인: 희귀병이나 치명적인 질병에 대해, 임상 승인 프로세스를 어떻게 최적화해야 한다고 생각하십니까?
샘 뱅크먼-프리드: 보다 유연한 정보 동의 및 평행 통로를 도입해야 합니다. 절망적인 질병에 걸려 현대 의학이 손을 쓸 수 없는 환자들이 있다면, 그들이 완전히 알고 자발적으로 1상 또는 2상 임상 혁신 치료를 시도하려 한다면, 규제 기관은 그들의 생존 권리를 무자비하게 박탈해서는 안 됩니다. 실제 세계 데이터(RWD)를 통해 동적으로 추적하는 것이 기계적으로 10년의 3상 이중 맹검 시험을 기다리는 것보다 훨씬 더 윤리적인 온도를 가집니다.
정치, 규제 및 바이든 정부의 반성: 암호화폐 적대감과 민주당의 혼란
엘리 골드파인: 정치와 거시 규제에 대해 이야기해 봅시다. 지난 4년 동안 바이든 정부는 기술 및 금융 규제에서 매우 급진적인 태도를 취했습니다. 특히 증권 거래 위원회(SEC)는 암호화폐 산업에 대한 전면적인 단속을 시작했습니다. 바이든 정부의 규제 성과를 어떻게 평가하십니까?
샘 뱅크먼-프리드: 저는 바이든 정부의 이 분야에서의 성과가 매우 실망스럽다고 생각합니다.
암호화 산업에 대해서만이 아니라, 전체 기술 혁신 분야에서 규제 기관은 깊은 관료주의적 적대감을 드러냈습니다. 그들은 명확하고 실행 가능하며 혁신을 촉진하는 법적 프레임워크를 구축하는 데 힘쓰지 않고, 끝없는 단속을 통해 규정을 준수하는 본토 기업을 타격하여 많은 최고의 기술 인재와 혁신 자본이 해외 시장으로 유출되도록 직접적으로 이끌었습니다.
엘리 골드파인: 당신은 정치 캠페인에서 거액의 기부를 한 적이 있습니다. 왜 정치계가 기술 산업에 대한 이해가 떨어지는 것이라고 생각하십니까?
샘 뱅크먼-프리드: 많은 정치인과 규제자들은 기술의 하부 논리를 전혀 이해하지 못합니다. 그들이 관심을 가지는 것은 정치적 서사와 권력의 지형일 뿐입니다. 많은 정책 결정에서 결정 기준은 어떤 방안이 사회 경제에 가장 유익한지가 아니라, 어떤 방안이 가장 많은 투표와 정치적 자본을 가져올 수 있는가입니다. 저는 민주당이 지난 10년 동안 많은 경제 및 기술 문제에서 심각하게 방향을 잃었다고 생각합니다.
엘리 골드파인: 국제 기술 경쟁에 직면하여, 기술 회사는 안전을 보장하기 위해 속도를 늦춰야 할까요?
샘 뱅크먼-프리드: 이것은 매우 위험한 게임의 함정입니다. 만약 어떤 회사가 안전 원칙을 고수하며 일방적으로 속도를 늦춘다면, 전 세계의 다른 경쟁자들, 심지어 비우호적인 국가들이 전력을 다해 달려간다면, 일방적인 자가 제한은 세상을 더 안전하게 만들지 않을 것이며, 오히려 전면 기술의 통제권을 안전과 윤리에 전혀 신경 쓰지 않는 경쟁자에게 넘겨줄 것입니다. 가장 이상적인 상태는 모든 주요 참여자가 실질적인 안전 조약을 체결하는 것이지만, 현실적인 지정학적 상황에서는 매우 어렵습니다.
정치 예측 시장의 본질과 폭발: FTX 2020 대선 계약에서 Kalshi 및 Polymarket까지
엘리 골드파인: 금융 혁신에 대해 이야기해 봅시다. 최근 Kalshi의 평가가 폭등하고, Polymarket은 세계 정치 대선에서 놀라운 거래량을 기록하고 있습니다. FTX 설립 초기, 당신의 원래 구상 중 하나가 글로벌 정치 예측 시장을 만드는 것이었다고 들었습니다.
샘 뱅크먼-프리드: 금융 공학의 하부 논리에서 볼 때, 이른바 예측 시장은 본질적으로 특정 현실 사건 결과에 따라 현금 정산되는 선물 계약입니다. 그것들은 비트코인이나 원유 선물과 본질적으로 다르지 않습니다.
2020년 미국 대통령 선거 기간 동안, FTX International에서는 전 세계에서 가장 활발한 트럼프와 바이든 승리 예측 계약이 운영되었으며, 당시 거래 규모는 수억 달러에 달했습니다. 우리는 첫날부터 이 시장을 키우고 싶어 했지만, 가장 큰 제약은 항상 규제 라이센스였습니다. 미국 상품선물거래위원회(CFTC)의 본토 허가가 없었기 때문에, 우리는 당시 미국 본토 사용자의 참여를 엄격히 금지했고, 중앙화 거래소는 전면적인 실명 인증(KYC)을 강제했습니다.
엘리 골드파인: 왜 Kalshi와 Polymarket이 이번 주기에서 완전히 폭발할 수 있었나요?
샘 뱅크먼-프리드: 그들은 두 가지 다른 경로를 통해 성공했습니다. Kalshi는 수년간 법적 소송과 정식 절차를 통해 본토에서 규제 라이센스를 확보했습니다. 반면 Polymarket은 해외 및 탈중앙화 구조를 기반으로 하여 전 세계적으로 거대한 유동성을 모았습니다. 이는 우리가 당시 판단한 것을 충분히 증명합니다: 인류는 중요한 역사적 사건에 대한 가격 책정의 필요성이 보편적이고 진정하다는 것입니다.
예측 시장 외에도, 토큰화된 주식(Tokenized Equities)은 여전히 거대한 성장 잠재력을 가지고 있습니다. 전통 주식 거래 시장의 하부 결제 시스템은 매우 낡고 비효율적이며, 블록체인 기반의 7×24 시간 연속 무중단 결제 시스템은 인프라 경험에서 완전히 차원 낮추는 공격의 이점을 가지고 있습니다.
AGI 임계점과 p(doom) 평가: 25% 멸종 확률과 의식 업로드의 회색 난제
엘리 골드파인: 많은 사람들이 인공지능 일반(AGI) 또는 초지능(ASI)이 언제 도래할지에 대해 논의하고 있습니다. 개인적으로 AGI의 시간선에 대한 기대는 어떠신가요?
샘 뱅크먼-프리드: 저는 AGI의 도래가 명확하고 비극적인 단일 사건이 될 것이라고 생각하지 않습니다. 그것은 지속적인 진화의 점진적 대체 과정일 가능성이 더 큽니다.
오랜 시간 동안 AI는 계산 능력이 계속해서 배가되었지만, 그 지능 수준이 인간 기준선 아래에 있어 현실 세계에 거의 실질적인 충격을 주지 않았습니다. 그러나 그 지능이 점차 인간에 가까워지고 특정 수직 분야에서 임계점을 돌파할 때, 질적 변화는 매우 빠른 속도로 확산될 것입니다. 우리는 소프트웨어 개발, 고등 수학 유도 및 게임 이론 전략에서 이러한 추세를 이미 보았습니다. 향후 3~5년 내에 인류 사회의 핵심 부분이 AI에 의해 하나씩 깊이 인수될 것입니다.
엘리 골드파인: 효과적인 이타주의 커뮤니티에서 AI 안전과 인류 멸종 확률은 항상 가장 핵심적인 논쟁거리입니다. 당신은 개인적으로 p(doom)(AI가 인류를 멸종시키거나 완전히 파괴할 확률)의 구체적인 수치를 공개한 적이 없는데, 오늘 확실한 판단을 제시할 수 있습니까?
샘 뱅크먼-프리드: 만약 숫자를 제시해야 한다면, 50% 이하이지만 10% 이상, 대략 25% 정도의 범위에 있다고 생각합니다.
하지만 한 가지는 분명히 해야 합니다: 제 평가 모델에서 재앙적 시나리오는 종종 할리우드 영화에서처럼 명확한 적대감을 가진 통제 불능의 인공지능이 핵 버튼을 쥐고 인류에 전쟁을 선포하는 그런 것이 아닙니다. 현실에서 더 큰 확률로 발생하는 것은 극히 복잡한 회색 윤리적 딜레마입니다.
엘리 골드파인: 어떤 회색 딜레마인가요?
샘 뱅크먼-프리드: 예를 들어, 의식 업로드(Mind Uploading)입니다. 만약 미래 기술이 인간이 뇌의 의식을 완전히 디지털화하여 클라우드에 업로드할 수 있는 단계에 이른다면, 디지털 불사의 존재들은 계산 능력과 진화 속도에서 육체적 인간을 기하급수적으로 초월할 것입니다. 그런 상황에서 물리적 세계에 남아 있는 원주율 인간은 완전히 퇴출되고 주변화될까요?
이로 인해 육체적 지능 종이 사실상 멸종으로 향하는 과정은 과연 인류 문명의 재앙으로 간주될 수 있을까요? 사람마다 전혀 다른 철학적 답변을 할 것입니다. 이러한 윤리적 모호함이 가득한 진화 경로를 고려하게 되면 생존 위험의 확률 판단은 20%에서 60% 사이에서 극심하게 흔들릴 것입니다.
AI 지능체와 미래 작업 흐름: 인간의 10배인 슈퍼 연구 보조
엘리 골드파인: 만약 미래에 논리적 추론과 의사결정 기대값에서 당신을 완전히 초월하는 슈퍼 지능 보조가 등장한다면, 당신은 개인의 의사결정 권한을 전적으로 그에게 위임할 의향이 있나요?
샘 뱅크먼-프리드: 그것은 그 최적화 목표 함수가 무엇인지에 따라 다릅니다. 그것이 자신의 생존 확률을 극대화하기 위한 것인지, 모든 인지 생명의 복지를 극대화하기 위한 것인지, 아니면 제가 부여한 위임 목표를 충실히 이행하기 위한 것인지에 따라 다릅니다.
만약 그것의 핵심 정렬 목표가 충성스럽고 세심하며 이성적이고 신중한 연구 보조로서, 인간의 100배 속도로 1분 안에 원래 하루가 걸리는 고강도 사전 조사 및 시뮬레이션을 완료할 수 있다면, 저는 확실히 많은 구체적인 실행 및 분석 작업을 그에게 맡길 의향이 있습니다. 하지만 궁극적인 가치 지향과 윤리적 기준은 항상 인간 자체의 핵심 요구에 고정되어야 합니다.
엘리 골드파인: 이러한 슈퍼 보조가 금융 및 투자 산업을 어떻게 전복시킬까요?
샘 뱅크먼-프리드: 전통적인 투자 기관에서 수백 명의 초급 분석가로 구성된 피라미드 구조는 즉시 붕괴될 것입니다. 한 파트너가 재무 보고서 교차 검증, 거시 데이터 정리 및 여론 추적을 위한 몇 가지 자율 지능체와 협력하면 과거의 전체 투자은행 건물의 생산성을 달성할 수 있습니다. 기관 간의 승패는 더 이상 얼마나 많은 명문대 졸업생을 고용했는가에 달려 있지 않고, 누가 지능체의 조정 전략과 기본 논리를 더 깊이 이해하고 있는가에 달려 있습니다.
왜 종이책에 극도로 회의적인가? 정보 처리량과 시청각 매체의 차원 축소 타격
엘리 골드파인: 매우 흥미로운 생활 주제를 이야기해봅시다. 많은 똑똑한 사람들이 방대한 독서를 자랑스럽게 여기지만, 당신이 한때 매우 유명한 반상식적인 의견을 말한 것을 기억합니다: "나는 책의 가치를 극도로 의심한다. 대다수의 책은 6개의 단락으로 이루어진 블로그로 작성되어야 한다." 오늘날 감옥에 있는 당신은 얼마나 많은 책을 읽었나요? 당신의 의견은 변했나요?
샘 뱅크먼-프리드: 감옥에서는 선택의 여지가 많지 않아 많은 책을 읽었지만, 오히려 제가 처음에 내린 판단이 옳았다는 것을 더욱 확신하게 되었습니다.
만약 당신이 한 권의 책을 썼다면, 이는 종종 당신이 핵심 논점을 전혀 명확히 하지 못했다는 것을 의미합니다. 수백 페이지의 저서에서 진정으로 가치 있는 핵심 통찰은 몇 개의 자연 단락으로 완전히 설명할 수 있으며, 나머지 90%의 분량은 책의 두께를 맞추기 위해 장황한 사례, 전개 및 무관한 서사를 쌓아 놓은 것입니다.
엘리 골드파인: 당신은 감옥에서 주로 어떤 종류의 책을 읽었나요? 읽을 가치가 있다고 느낀 책이 있나요?
샘 뱅크먼-프리드: 저는 많은 과학 소설을 읽었습니다. 하지만 솔직히 말하자면, 대다수의 과학 소설은 그저 그럭저럭입니다. 만약 제가 조건이 된다면, 저는 넷플릭스에서 하드코어 과학 소설 시리즈를 보고 싶습니다. 극히 일부 잘 쓰여진 과학 소설 작품은 아마도 평범한 드라마의 수준에 겨우 도달할 수 있지만, 여전히 정보 전달 차원에서 스트리밍과 경쟁할 수는 없습니다.
엘리 골드파인: 책보다 어떤 매체의 정보 전달 효율성을 더 인정하나요?
샘 뱅크먼-프리드: 고밀도의 시청각 매체는 단위 시간 내의 정보 처리량이 종이 문자보다 훨씬 뛰어납니다. 훌륭한 영화나 심도 있는 시리즈에서는 시각적 이미지, 인물의 미세한 표정, 음향 효과, 편집 리듬 및 대사가 같은 순간에 당신의 뇌로 수십 개의 차원 정보를 동시에 전달합니다. 이러한 고밀도의 감정 및 인지 공명은 효율성이 극히 낮은 단방향 인쇄 문자와는 비교할 수 없습니다.
효과적인 이타주의(EA)와 정량적 지표의 경계: QALYs와 현실 평가 왜곡
엘리 골드파인: 효과적인 이타주의 커뮤니티에서 사람들은 엄격한 수학 공식을 사용하여 질 조정 생명년(QALYs)으로 각 자선 지출의 기대 효용을 정량화하는 데 익숙합니다. 감옥에 갇힌 후, 당신은 이러한 순수 정량화된 자선 철학을 어떻게 보나요?
샘 뱅크먼-프리드: 순수 이론의 기대값은 순수 수학 세계에서는 우아하지만, 현실 세계의 복잡성은 당신이 선택한 정량화 지표가 종종 인간 사회의 궁극적인 관심사인 핵심 가치가 아니라는 점입니다.
수학적으로 측정 가능성을 추구하기 위해 복잡한 현실 문제를 단일 차원의 숫자로 단순화할 때, 당신은 쉽게 맹인이 코끼리를 만지는 함정에 빠질 수 있습니다. 예를 들어, 모기장으로 말라리아를 방지하는 것은 비용과 단기 수익이 극히 쉽게 정량화됩니다. 반면 제도 구축, 기초 과학의 돌파구 또는 문명 재앙 방지에 대한 지원은 그 장기적 영향이 수학 모델에서 정량화할 수 없는 매개변수로 가득 차 있습니다. 만약 정량화할 수 없다는 이유로 문명의 운명을 결정짓는 깊은 시도를 포기한다면, 이는 이성에 대한 최대의 배신입니다.
엘리 골드파인: 이것이 과도한 정량화가 오히려 효과적인 이타주의의 일종의 교조주의 함정이 되었다는 것을 의미하나요?
샘 뱅크먼-프리드: 확실히 그렇습니다. 사람들이 수학 모델의 검증 가능성에 과도하게 집착할 때, 그들은 본능적으로 진정으로 혁신적이지만 불확실성이 가득한 거대한 명제를 배척하게 됩니다. 건강한 평가 프레임워크는 인간 인지의 한계를 인정하고, 정량적 정밀성과 직관적 패턴 사이에서 동적 균형을 유지해야 합니다.
51/49 동전 던지기의 극단적 철학적 질문: 순수 기대값 vs 불가역적 파괴 및 한계 감소
엘리 골드파인: 제가 당신과 잘 알려진 사고 실험에 대해 이야기하고 싶습니다. 경제학자 타일러 카우엔이 당신에게 제시한 가설이 있습니다: 만약 동전이 있다면, 앞면이 나올 확률이 51%로 지구의 전체 효용이 두 배가 되고, 뒷면이 나올 확률이 49%로 지구가 완전히 파괴된다면, 당신은 이 동전을 던질 것인가요? 당시 당신의 대답은 던지겠다는 것이었습니다. 오늘 감옥에 있는 당신은 여전히 이 순수한 기대값 논리를 고수하고 있나요?
샘 뱅크먼-프리드: 이것은 철학과 확률론에서 매우 매력적인 고전적 논쟁입니다. 만약 당신이 문제를 순수한 수학적 가정과 선형 기대 효용 함수(Linear Expected Utility)로 엄격히 제한한다면, 수학적 답은 분명합니다: 51% 곱하기 2는 1보다 크고, 기대값은 긍정적이며, 어떤 확고한 기대값 극대화자는 논리적으로 이 도박을 받아들여야 합니다.
하지만 현실 세계에서 이 사고 실험이 대부분의 정상인에게 본능적으로 거부당하는 이유는 그것이 현실 세계에서 간단히 추상화할 수 없는 근본적인 제약을 무시하기 때문입니다.
엘리 골드파인: 이 무시된 현실 제약은 구체적으로 무엇인가요?
샘 뱅크먼-프리드: 첫째, 파괴는 절대적으로 불가역적입니다(Catastrophic Ruin). 확률 게임에서, 만약 당신이 완전히 제로가 되고 영구히 게임에서 퇴출될 확률이 있다면, 이후 긍정적 기대값이 가져다주는 수익을 즐길 기회는 다시는 없을 것입니다.
둘째, 효용은 결코 엄격하게 선형적이지 않으며, 강한 한계 효용 감소가 존재합니다. 현실에서 지구의 효용이 두 배가 되는 것이 인류 문명에 가져다주는 증가된 행복감은 49%가 인류 문명을 완전히 소멸시키는 것에서 겪는 무한한 고통을 결코 상쇄할 수 없습니다. 한계 효용 감소와 파산 보호가 제거된 극단적 모델을 현실 세계에 직접 적용하면, 종종 매우 위험한 판단 편향을 초래합니다.
엘리 골드파인: 기술 발전을 지연시키면 더 낮은 파괴 확률을 얻을 수 있다면, 당신은 속도를 늦추는 것을 지지하나요?
샘 뱅크먼-프리드: 만약 이론 모델에서 인류가 슈퍼 지능에 도달하는 시간을 100년 늦추면, 문명을 파괴할 확률을 단 1%라도 낮출 수 있다면, 우주의 미래 수십억 년의 거시적 장기 주기를 고려할 때, 이 100년의 정체는 수학적 기대값에서 절대적으로 합리적입니다. 왜냐하면 우주의 미래는 무한히 길고, 문명이 한 번 제로가 되면 완전히 끝나기 때문입니다.
현실에서의 높은 기대값 게임: 만약 51/49로 인신 자유를 걸면, 당신은 던질 것인가요?
엘리 골드파인: 만약 이 도박을 당신과 밀접하게 관련된 현실적인 칩으로 바꾼다면요? 지금 동전이 있다고 가정해봅시다. 51%의 확률로 내일 즉시 무죄로 석방되고, 49%의 확률로 형량이 두 배가 되거나 사형에 처해질 수 있다면, 당신은 이 동전을 던질 것인가요?
샘 뱅크먼-프리드: 이것은 현실에서 효용 함수가 선형적이지 않다는 것을 매우 생생하게 설명합니다. 인신 자유와 생명이라는 핵심 자산에 직면했을 때, 사람들은 하향 극단적 위험에 대한 혐오감이 극도로 큽니다.
내일 출소한다면, 제 삶은 물론 엄청나게 개선될 것입니다; 하지만 그 대가가 거의 절반의 확률로 더 긴 시간 동안 또는 생명을 완전히 박탈당하는 심연을 감수해야 한다면, 이러한 위험 프리미엄은 감당할 수 없습니다. 이것이 현실에서 복잡한 결정이 결코 단순한 기대값 숫자 하나로 경솔하게 내기할 수 없는 이유입니다.
엘리 골드파인: 많은 사람들은 당신의 과거 투자와 비즈니스 결정이 이러한 극단적 기대값 철학의 산물이라고 생각하는데, 당신은 이러한 평가에 동의하나요?
샘 뱅크먼-프리드: 저는 외부에서 제 사고 방식을 과도하게 고정관념화했다고 생각합니다. 일반 거래를 할 때 우리는 헤지와 위험 노출 관리에 매우 주의합니다; 하지만 극단적인 위기가 발생할 때, 많은 이론 모델의 안전 장치가 순간적으로 무너질 수 있습니다. 현실 세계는 상아탑 안의 몬테카를로 시뮬레이션이 아니며, 블랙 스완의 파괴력은 수학적 방정식의 예상을 훨씬 초과합니다.
최종 질문: 이 모든 것이 정말 가치가 있나요? 위기 속의 결정 변형과 승자의 서사
엘리 골드파인: 우리는 이제 마지막 몇 분밖에 남지 않았습니다. 가장 영혼을 파고드는 질문을 하고 싶습니다: FTX의 최종적인 충격적인 붕괴를 고려할 때, 동시에 FTX Future Fund가 앤트로픽을 포함한 수많은 최첨단 기술 및 안전 프로젝트에 초기 자금을 지원했지만, 전체적인 상승과 하강을 되돌아보았을 때, 이 모든 것이 거시적으로 정말 가치가 있었나요?
샘 뱅크먼-프리드: 아니요. 저는 스스로를 속이고 긍정적인 대답을 하고 싶지만, 그것이 가치가 있다고 양심적으로 말할 수는 없습니다.
저는 원래 가치가 있어야 한다고 생각합니다. 만약 제가 마지막 순간에 상황을 망치지 않았다면, 그 위험 방어선이 무너지지 않았다면, 그것은 세계를 앞으로 나아가게 하는 거대한 힘이 되었어야 했습니다. 후세가 이 재난에서 올바른 교훈을 얻을 수 있다면, 어쩌면 그것은 여전히 경고의 가치를 유지할 수 있지만, 현실에서 대부분의 사람들은 교훈을 얻지 못했습니다.
엘리 골드파인: 사람들이 정말로 배워야 할 교훈은 무엇인가요?
샘 뱅크먼-프리드: 핵심 교훈은 단 하나입니다: 위기가 실제로 닥치고 상황이 완전히 통제 불능에 빠질 때, 인간은 극심한 공포 속에서 얼마나 왜곡된 결정을 내리는지를 보여줍니다. 생사의 압박 속에서 사람들은 정말 중요한 것에 대한 판단력을 극도로 빠르게 잃게 되며, 모든 규칙은 순간적으로 무너집니다.
그리고 먼지가 가라앉은 후, 역사는 항상 승자에 의해 쓰여집니다. 모든 사건의 인과 관계 세부 사항은 승자의 필터에 의해 재구성되고 왜곡되며 단순화됩니다. 폭풍 밖에 있는 사람들에게는 승자가 쓴 서사의 안개를 뚫고 진정한 메커니즘을 복원하는 것이 거의 불가능합니다.
14세 신세대 젊은이를 위한 생존 규칙: 더 이상 월가에서 퀀트하지 말고 AI에 뛰어들어라
엘리 골드파인: 14세의 젊은이로서, 다가오는 슈퍼 지능 시대를 맞이하여 이 세상에서 최대의 긍정적 가치를 창출하고 싶다면, 당신이 나에게 주는 핵심 조언은 무엇인가요?
샘 뱅크먼-프리드: 10년 전, 효과적인 이타주의 커뮤니티가 당신에게 줄 표준 답변은 "벌어서 기부하기 (Earning to Give)"였습니다: 월가에서 고빈도 거래를 하여 수십억 달러를 벌고, 그 재산을 자선 사업에 기부하는 것이죠.
하지만 시대는 완전히 변했습니다. 이 특이점이 다가오는 시점에서, 월가의 고빈도 거래는 더 이상 가장 중요한 전장이 아닙니다. 지금부터 AI가 본격적으로 발전하기까지의 시간은 급격히 줄어들고 있으며, 기계 지능을 깊이 이해하고 다루는 가치가 기하급수적으로 상승하고 있습니다.
최전선의 AI 정렬 및 안전 연구에 참여하든, 전통적인 인프라를 찾아 AI를 통해 완전히 자동화하든, 기계 지능의 핵심에 깊이 들어가는 것이 이 시대에 전력을 다할 가치가 있는 유일한 진정한 전장입니다.
체인캐처(ChainCatcher)는 독자들에게 블록체인을 이성적으로 바라보고, 리스크 인식을 실제로 향상시키며, 다양한 가상 토큰 발행 및 조작에 경계해야 함을 상기시킵니다. 사이트 내 모든 콘텐츠는 시장 정보나 관련 당사자의 의견일 뿐이며 어떠한 형태의 투자 조언도 제공하지 않습니다. 만약 사이트 내에서 민감한 정보를 발견하면 를 클릭하여 신속하게 처리할 것입니다.












