다리오 아모데이 모건 스탠리 CEO와의 대화: 앤트로픽의 경쟁 우위, 컴퓨팅 파워 문제 및 미래에 대한 베팅
초대 손님: 다리오 아모데이, 앤트로픽 공동 창립자 겸 CEO
진행자: 제이미 다이먼, JP모건 회장 겸 CEO
편집: 자환, 체인캐처
앤트로픽이 상장 준비를 하면서 CEO 다리오 아모데이와 JP모건 CEO 제이미 다이먼이 공개 대화를 나누었다.
다이먼은 앤트로픽이 약 9천억 달러의 컴퓨팅 파워, 임대 및 데이터 센터 등의 장기 약속을 공개했다고 언급하며, 회사가 어떻게 장기적으로 충분한 컴퓨팅 파워를 확보하면서 비용을 통제할 것인지 질문했다.
아모데이는 컴퓨팅 파워를 앤트로픽이 직면한 "가장 깊은 상업적 문제"라고 언급했다: 회사는 1~2년 전에 컴퓨팅 파워를 구매해야 하지만, 기술 발전이 언제 수익으로 전환될지 판단하기 어렵다. 너무 많이 사면 재정적 압박을 받을 수 있고, 너무 적게 사면 고객의 요구를 충족하지 못할 뿐만 아니라 차세대 모델의 개발에도 영향을 미친다.
컴퓨팅 파워와 상장 외에도 두 사람은 앤트로픽의 기업 문화, 클로드의 상업적 응용, 인공지능 안전, AI 모델의 가격 경쟁, 그리고 AI가 의학과 과학 연구를 촉진할 수 있는지에 대해 이야기했다.
핵심 요점:
컴퓨팅 파워는 가장 큰 상업적 문제이다. 아모데이는 앤트로픽의 수익이 2024년과 2025년에 각각 약 10배 증가할 것이라고 밝혔지만, 회사는 여전히 다음 해의 수요를 예측하기 어렵고, 컴퓨팅 파워는 1~2년 전에 구매해야 한다고 말했다.
앤트로픽은 보수적인 컴퓨팅 파워 구매를 선호한다. 회사는 미리 낮은 비용으로 일부 컴퓨팅 파워를 확보하고, 비즈니스 성장률이 예상보다 높아지면 가격이 더 높은 현물 시장에서 보충할 것이다. 그는 이 전략을 보험 구매에 비유했다.
상장의 중요한 이유는 현금 보유를 늘리기 위해서이다. 아모데이는 현금이 충분할수록 회사가 다양한 컴퓨팅 파워 수요 시나리오에서 완충 공간이 커지고, 생물학, 로봇 공학 및 사이버 보안 분야의 기회를 포착할 수 있는 능력이 커진다고 생각한다.
AI 경쟁은 단순히 챗봇에 그치지 않는다. 아모데이는 최전선 모델의 능력 돌파가 새로운 시장을 창출할 수 있다고 믿는다. 챗봇과 프로그래밍 이후, 과학 발견, 생명 과학, 로봇 공학 및 사이버 보안이 더 큰 시장이 될 수 있다.
인공지능의 실제 적용에 있어 핵심 제약은 안전이다. 그는 앤트로픽이 기업 고객에게 서비스를 선택한 이유 중 하나는 기업이 신뢰, 장기 관계 및 평판을 중시하기 때문이며, 이는 회사의 상업적 유인과 안전 목표를 더 쉽게 일치시킨다고 말했다.
사이버 보안의 병목 현상은 취약점 발견에서 취약점 수정으로 전환되고 있다. 아모데이는 고객과 앤트로픽이 각각 수십만 개의 취약점을 발견했지만, 수정 속도가 발견 속도를 따라가지 못한다고 말했다. 향후 6~12개월 동안 방어적 인공지능 집단의 응용이 증가할 가능성이 있다.
앤트로픽은 회사의 5%의 지분을 공익 기금에 할당할 계획이다. 아모데이는 AI로 인해 새롭게 생성된 부가 소수의 회사에 집중되는 것에 대해 우려하며, 기금이 노동력 전환 및 생물 안전과 같은 문제에 주목할 수 있다고 생각하지만, 구체적인 방향은 아직 연구 중이라고 밝혔다.
인재와 문화는 앤트로픽의 경쟁 우위
제이미 다이먼: 당신은 오픈AI에서 일했으며, 이 분야의 초기 참여자입니다. 현재 전 세계에는 많은 회사가 AI를 하고 있는데, 앤트로픽은 다른 회사와 어떻게 차별화를 이루고 있습니까?
다리오 아모데이: 저는 이 분야의 여러 주요 회사에서 일했으며, 왜 어떤 프로젝트는 성공하고 어떤 프로젝트는 실패했는지에 대해 항상 고민해왔습니다. 여러 해가 지난 후, 제가 내린 결론은 인재와 문화가 가장 중요하다는 것입니다.
인재와 문화가 기술을 창출하고, 기술이 제품을 만들며, 제품이 시장 확장, 판매 및 회사의 다른 비즈니스를 촉진합니다. 대중이 한 회사를 어떻게 보는지도 기술을 창출한 사람들과 그들의 초기 의도와 관련이 있습니다.
앤트로픽을 설립할 때, 저와 다른 여섯 명의 공동 창립자는 첫날부터 인재와 문화를 중요한 위치에 두기로 결정했습니다. 모든 후보자는 문화 면접을 받아야 합니다. 기술 능력이 뛰어나지만 회사 문화에 맞지 않는 사람은 반드시 거부할 것입니다.
우리는 팀 내에서 다른 사람을 존중하지 않거나, 주목받기만 원하거나, 다른 사람과 협력할 수 없는 사람이 나타나는 것을 원하지 않으며, 직원들이 공공의 이익을 인정하기를 바랍니다. 단기적으로 이러한 기준을 고수하는 것은 때때로 채용을 어렵게 만들지만, 장기적으로는 모든 사람이 같은 편에 서게 합니다.
회사의 어려움은 종종 뛰어난 인재가 부족한 것이 아니라, 뛰어난 인재가 함께 일하지 않는 데 있습니다. 서로 다른 팀 간의 갈등은 결국 내부에서 에너지를 소모하게 만듭니다.
앤트로픽에서는 중요한 목표가 생기면, 모델 훈련, 안전 목표 달성, 제품 개발 또는 정책 작업을 추진하는 등 전체 회사가 이 목표를 중심으로 협력할 수 있습니다.
우리는 직원 유지 상황에서도 결과를 보았습니다. 앤트로픽에 합류한 다른 회사의 직원 수가 앤트로픽을 떠난 사람보다 많으며, 일곱 명의 공동 창립자는 현재까지 모두 회사에 남아 있습니다. 가장 먼저 합류한 100명의 직원 중 4분의 3 이상이 여전히 여기 있습니다. 누군가 떠나더라도 자주 돌아옵니다. 한 번은 두 명의 중요한 제품 직원이 퇴사한 지 2주도 안 되어 돌아와서 그들이 이전에 자신이 가진 것을 인식하지 못했다고 말했습니다.
저는 약 40%에서 50%의 시간을 인재와 문화에 할애합니다. 매 2주마다 전사적으로 Dario Vision Quest라는 내부 행사에 참석합니다. 저는 직원들에게 회사에서 무슨 일이 일어나고 있는지 솔직하게 말하며, 문제를 숨기지 않고, 가능한 한 공식적인 언어를 사용하지 않으며, 다른 관리자들도 그렇게 하도록 격려합니다.
경영진은 직원들을 신뢰할 수 있고, 직원들도 경영진이 솔직하게 소통할 것이라고 믿습니다. 이러한 신뢰는 큰 가치를 지닙니다.
클로드는 어떤 산업에 진입하고 있습니까?
제이미 다이먼: JP모건은 앤트로픽의 대형 고객 중 하나입니다. 클로드는 우리에게 큰 변화를 가져왔으며, 현재 25만 명의 직원이 매주 다양한 방식으로 여러 번 사용하고 있습니다. 다른 포춘 100대 기업은 클로드를 어떻게 사용하고 있습니까?
다리오 아모데이: 클로드는 다양한 산업에 적용되고 있습니다. 이 기술의 가장 놀라운 특징 중 하나는 범용성입니다. 이를 인지 또는 지능에 대한 "무어의 법칙"으로 이해할 수 있습니다.
고객과의 소통을 통해 저는 이전에 잘 알지 못했던 많은 산업에 접하게 되었고, 클로드가 이러한 산업에서 어떤 역할을 할 수 있는지 보았습니다.
가장 빠르게 채택된 분야는 프로그래밍입니다. 저와 대부분의 공동 창립자는 과거에 많은 코드를 작성했으며, 지금 모델이 수행할 수 있는 작업을 보면서 여전히 놀랍습니다. 거의 모든 포춘 100대 기업은 많은 프로그래밍 수요를 가지고 있으므로, 프로그래밍은 일반적으로 그들이 클로드를 가장 먼저 사용하는 분야입니다.
그 후, 응용 범위는 더 넓은 지식 작업으로 확장되었습니다. 금융 서비스 분야에서 클로드는 간단한 문서 작업을 처리할 수 있으며, 더 복잡한 전략 작업을 지원할 수 있습니다. 보험 및 법률 분야에서는 계약 초안 작성 및 계약 내 문제 발견에 활용됩니다.
생명 과학은 제가 특히 주목하는 분야로, 응용에는 임상 연구 보고서 작성, 기초 연구 지원, 단백질 결합 예측, 제조 효율성 향상, 기초 생물학 연구 지원 등이 포함됩니다.
전자 상거래 분야에서는 일부 회사가 클로드를 소비자 직접 서비스용 인공지능으로 배치하고 있습니다. 제조업에서도 마찬가지로, 점점 더 많은 기업이 클로드를 사용하여 효율성을 높이고 있으며, 응용 범위는 반도체 제조 및 물리적 건설 등을 포함합니다.
인공지능이 기업에 진입하기 위해서는 먼저 안전 문제를 해결해야 한다
제이미 다이먼: 당신은 인공지능에 대해 언급했습니다. 규제를 받는 기업의 경우, 인공지능이 민감한 정보에 접근하도록 허용하기 전에 어떤 준비가 필요합니까?
다리오 아모데이: 가장 중요한 것은 안전입니다. 인공지능의 능력이 빠르게 향상되고 있습니다. 생명 과학 연구를 수행하거나 복잡한 소프트웨어 아키텍처를 작성할 수 있는지 여부는 유일한 문제는 아닙니다; 진정으로 기술 개발, 내부 배치 및 고객 사용을 제한하는 것은 이러한 능력을 안전하게 사용하는 방법입니다.
우리는 인공지능이 통제력을 잃는 것을 원하지 않습니다. 따라서 앤트로픽은 모델 훈련 단계부터 적절한 안전 및 정렬 메커니즘을 구축하기 위해 많은 자원을 투자했습니다.
우리는 규모가 큰 정렬 팀을 보유하고 있으며, 이러한 문제에 대해 항상 경계를 유지하고 있습니다. 몇 개월마다 우리는 안전, 보안 및 정렬 작업을 재검토하고 투자를 늘립니다.
앤트로픽은 처음부터 기업 고객에 집중했습니다. 우리는 기업이 소비자보다 안전 문제를 더 중시한다는 것을 알고 있으며, 기업 비즈니스는 우리의 안전 목표와 협력 관계에 있습니다.
우리는 안전을 중시하는데, 이는 우리가 이 기술을 올바른 방식으로 개발해야 한다고 믿기 때문입니다. 동시에 우리는 어떤 상업 모델이 우리가 안전을 추구할 수 있는 더 강한 동기를 제공할 수 있을지 고민하고 있습니다. 그 답은 기업 비즈니스입니다: 기업은 신뢰, 장기 협력 및 자신의 평판을 중시하며, 모델이 심각한 피해를 주는 것을 원하지 않습니다.
이로 인해 우리의 상업적 유인은 우리가 달성하고자 하는 사회적 목표와 더욱 일치하게 됩니다.
제이미 다이먼: 우리는 인공지능의 권한을 실제로 통제할 수 있을까요? 예를 들어, 민감한 시스템에 접근하도록 허용하면서 A, B, C, D 작업만 수행하도록 보장할 수 있을까요?
다리오 아모데이: 이는 자율주행 기술의 발전과 비슷합니다.
자율주행은 잠재적인 가치가 크며, 궁극적으로 인간 운전보다 훨씬 더 안전할 수 있습니다. 그러나 먼저 기술이 충분히 신뢰할 수 있는 수준에 도달해야 하며, 올바른 보호 메커니즘을 구축하고 시스템을 올바른 방식으로 설계해야 합니다.
우리는 100% 보장을 제공할 수 없습니다. 자율주행 자동차가 얼마나 많은 사람들이 사용하든 사고가 절대 발생하지 않는다고 말할 수는 없습니다. 그러나 우리는 시스템이 인간의 조작보다 훨씬 더 안전하도록 노력할 수 있으며, 수배, 수백 배 또는 그 이상의 안전 수준에 도달할 수 있습니다.
9000억 달러 약속 뒤에: 컴퓨팅 파워는 너무 많이 사도, 너무 적게 사도 문제
제이미 다이먼: 앤트로픽은 약 9000억 달러의 장기 약속을 공개했으며, 이는 컴퓨팅 파워, 임대 및 데이터 센터와 관련이 있습니다. 저는 또한 약 80%의 컴퓨팅 파워가 새로운 모델 훈련에 사용되고, 고객이 주로 사용하는 것은 약 20%의 추론 서비스라는 이야기를 들었습니다.
여러분은 어떻게 미래에 필요한 컴퓨팅 파워를 확보하면서 비용 효율성을 유지할 것인가요?
다리오 아모데이: 컴퓨팅 파워는 앤트로픽이 직면한 가장 깊은 상업적 문제입니다.
이 분야의 기술 발전은 매우 빠르지만, 우리는 기술 발전이 어떤 속도로 상업적 가치로 전환될지 알지 못하므로 큰 불확실성이 존재합니다.
2024년과 2025년에 앤트로픽의 수익은 매년 약 10배 증가했습니다. 그러나 매년 우리는 스스로에게 묻습니다: 내년에는 무슨 일이 일어날까요? 우리는 모릅니다. 회사 규모가 커짐에 따라 관련 금액도 점점 커집니다.
동시에 컴퓨팅 파워는 1~2년 전에 구매해야 합니다. 얼마나 구매할지는 회사가 감당할 수 있는 비용에 따라 달라집니다.
너무 많이 사면 회사가 과중한 재정적 압박을 받을 수 있고; 너무 적게 사면 고객에게 충분한 추론 서비스를 제공할 수 없습니다. 더 중요한 것은, 컴퓨팅 파워 부족이 연구 개발에 영향을 미치며, 연구 개발은 우리가 6개월 또는 1년 후에 어떤 모델을 출시할 수 있는지를 결정하고, 회사의 미래 수익 창출 능력을 결정합니다.
우리는 주로 두 가지 측면에서 완충 공간을 확대합니다.
첫 번째는 총 마진입니다. 총 마진이 높을수록 컴퓨팅 파워를 많이 사거나 적게 살 때 조정할 수 있는 공간이 커집니다. 간단히 말해, 이는 컴퓨팅 파워 비용과 회사가 컴퓨팅 파워를 활용하여 창출하는 수익 간의 차이를 반영합니다. 상장 문서에 따르면, 우리의 총 마진은 업계 다른 회사들과 비교할 때 상당히 좋습니다.
두 번째는 자산 부채표상의 현금입니다. 우리는 현재 많은 현금을 보유하고 있으며, 현금 보유를 계속 늘리기를 희망합니다.
하지만 이러한 완충이 있더라도 회사의 장기 약속은 여전히 큽니다. 이러한 약속은 여러 해에 걸쳐 있으며, 수익도 빠르게 증가하고 있지만, 금액은 여전히 적지 않습니다.
따라서 우리가 채택한 전략은 상대적으로 보수적으로 컴퓨팅 파워를 구매하는 것입니다: 미리 낮은 비용으로 일부 컴퓨팅 파워를 구매합니다. 만약 비즈니스 성과가 예상보다 낮다면, 우리는 비용을 통제할 수 있습니다; 만약 성과가 예상보다 훨씬 좋다면, 우리는 현물 시장에서 추가 컴퓨팅 파워를 구매할 수 있습니다.
현물 컴퓨팅 파워는 더 비싸지만, 우리는 비즈니스 성과가 특별히 좋을 경우에만 구매할 것입니다. 이는 보험을 구매하는 것과 비슷합니다: 다양한 상황에서 보장을 받을 수 있도록 추가적인 유연성을 위해 비용을 지불해야 합니다.
우리는 이 전략이 회사가 필요할 때 계속 연구 개발에 투자하고 성장 기회를 잡을 수 있게 해주며, 비즈니스 성과가 예상보다 낮을 때 보호를 제공할 수 있다고 믿습니다.
저렴한 모델이 점점 많아지고, AI는 상품이 될까요?
제이미 다이먼: 점점 더 많은 기업들이 토큰을 구매하고 있습니다. 모두가 곧 많은 작업이 비싼 모델이 필요하지 않다는 것을 깨닫게 될 것입니다. 더 저렴한 모델과 토큰으로도 완료할 수 있습니다. 이 부분의 서비스는 점차 표준화된 상품으로 변할 수 있습니다. 이 판단에 문제가 있을까요?
다리오 아모데이: 첫째, 최전선 모델의 능력 경계가 확장될 때마다 새로운 시장이 창출될 수 있습니다.
사람들이 익숙한 시장 발전 경로는: 초기에는 많은 스타트업이 존재하고, 고객은 높은 가격을 지불할 의향이 있습니다; 시장이 성숙해짐에 따라 제품은 점차 상품화되고, 사람들은 성벽과 더 저렴한 대체품에 대해 논의하기 시작합니다.
AI의 특정 응용 프로그램에서 이러한 상황이 실제로 발생할 수 있습니다. 챗봇이 그 예입니다. 그러나 AI는 단지 하나의 응용 프로그램, 하나의 시장이 아닙니다. 지능 능력이 지속적으로 향상됨에 따라 새로운 시장이 계속해서 등장할 것입니다.
2023년, 모두가 챗봇에 주목하고 있습니다. 앤트로픽은 당시 모델의 능력을 보고 프로그래밍이 더 큰 시장이 될 것이라고 생각했습니다. 모델은 이미 프로그래밍 작업을 처리할 만큼 충분히 똑똑해졌습니다.
따라서 우리는 챗봇 시장을 차지하거나 챗봇 주위에 성벽을 세우는 대신 능력의 최전선에 주목하고 있습니다.
현재 AI 프로그래밍은 점차 성숙해지고 있지만, 여전히 갈 길이 멉니다. 포춘 500대 기업의 침투율을 보면 여전히 많은 작업이 남아 있음을 알 수 있습니다.
동시에, 저는 시장의 관심이 새로운 분야로 전환될 것이라고 생각합니다. 이러한 분야는 프로그래밍보다 더 클 수 있으며, 프로그래밍 시장이 챗봇 시장보다 더 큰 것과 같습니다. 과학 발견, 생명 과학, 물리학, 재료, 로봇 공학 및 사이버 보안이 이러한 분야에 해당합니다. 이들은 일반 프로그래밍보다 더 복잡한 도전에 직면해 있으므로 우리는 계속해서 능력의 최전선에 주목할 것입니다.
둘째, 최전선 모델이 필요하지 않은 작업에서도 우리는 대형 모델을 활용하여 더 작고 효율적인 모델을 훈련할 수 있습니다.
우리는 컴퓨팅 파워 사용 효율성을 높여 대형 모델을 더 효율적으로 만들고, 이러한 기술을 소형 모델에도 적용할 수 있습니다. 예를 들어, Haiku 5.5의 가격은 입력 토큰 100만 개당 0.10 달러, 출력 토큰 100만 개당 0.50 달러입니다. 우리는 저비용 모델을 제작할 수 있으며, 효율성 면에서 다른 공급업체와 경쟁할 수 있습니다.
AI가 의학과 과학의 돌파구를 이끌 수 있을까요?
제이미 다이먼: AI가 인류가 암과 기타 질병을 치료하는 데 도움을 줄 수 있을까요, 아니면 핵융합, 양자 기술 등과 같은 중대한 돌파구를 이끌 수 있을까요?
다리오 아모데이: 우리는 다양한 분야에서 유사한 기술 발전 과정을 반복해서 보고 있습니다. 수학을 예로 들면, 2023년 모델은 고등학교 수학 문제조차 잘 해결하지 못했습니다. 사람들은 일반적으로 챗봇이 소통에 능숙하지만 수학과 논리에는 능숙하지 않다고 생각했습니다.
2024년에는 모델이 고등학교 수학 문제를 잘 해결할 수 있게 되었습니다. 2025년에는 이전에 해결되지 않았던 수학 문제를 해결하기 시작했습니다. 처음에는 한두 가지 사례만 있었고, 사람들은 이러한 문제가 훈련 데이터에 있을 수도 있고 모델이 단순히 운이 좋았다고 말했습니다.
그러나 이후 모델이 해결하는 문제의 수가 점점 늘어나고, 더 중요하고 어려운 문제도 포함되기 시작했습니다.
현재 우리는 생물학 및 로봇 공학과 같은 새로운 분야에서 유사한 과정의 초기 징후를 보고 있습니다. 전문가들은 종종 매우 회의적이며, 특히 제약 산업에서 그렇습니다. 그들은 과거에 산업 문제를 해결하려는 많은 기술을 보았고, 이러한 문제가 얼마나 어려운지 알고 있습니다.
생명 과학 분야에서 사람들은 병목 현상이 임상 시험, 제조 또는 미국 식품의약국의 승인이라고 말합니다. 그러나 우리는 AI가 이러한 단계의 문제를 점차 해결하는 데 도움을 주고 있음을 보고 있습니다. 저는 향후 몇 년 동안 이러한 변화가 더욱 뚜렷해질 것이라고 생각합니다.
우리는 결과를 미리 확정할 수 없습니다. 특정 분야에서는 회의론자가 맞을 수도 있습니다. 그러나 저는 AI가 생물학에서 중대한 발전을 이끌 잠재력이 매우 크다고 생각합니다.
취약점을 발견한 후, 더 어려운 것은 수정하는 것입니다
제이미 다이먼: Mythos와 인공지능이 등장하기 전, 사이버 보안은 모건 스탠리가 직면한 최대 위험 중 하나였습니다. 우리는 수천 명이 사이버 보안 작업을 하고 있으며, 발견된 취약점을 수정하기 위해 더 많은 인력이 필요할 수 있습니다.
현재 지속적으로 운영되는 인공지능이 기업의 다양한 보안 경계를 공격할 수 있습니다. 기업, 공급업체 및 전체 산업은 이를 위해 어떻게 준비해야 할까요?
일부 주요 산업은 거의 충분한 방어 능력이 없으며, 우리는 그들이 따라잡을 수 있도록 도와야 합니다.
다리오 아모데이: 첫째, 취약점을 발견하는 것은 첫 번째 단계일 뿐입니다.
Mythos가 출시된 후, 우리는 취약점을 찾기 위해 많은 작업을 투입했습니다. 고객은 수십만 개의 취약점을 발견했으며, 우리도 수십만 개를 발견했습니다. 다음 병목 현상은 이러한 취약점을 어떻게 수정할 것인가가 되었습니다.
수정하는 것은 발견하는 것보다 더 어렵습니다. 우리는 많은 취약점을 찾았지만, 고객과 우리 자신 모두 이를 충분히 빠르게 수정할 수 없습니다. 따라서 Claude는 점차 취약점을 수정하는 능력을 향상시키고 있으며, 우리는 더 많은 관련 서비스를 제공하기 시작했습니다.
세 번째 단계는 처음부터 더 안전한 코드를 작성하는 것입니다. Claude의 프로그래밍 능력이 향상됨에 따라, 우리는 그것을 더 안전한 코드를 작성하는 데 더 능숙하게 훈련하고 있습니다.
네 번째 단계는 실시간 방어입니다. 사이버 공격은 몇 시간, 몇 분 또는 몇 초 내에 발생할 수 있습니다. 방어적인 인공지능 집단을 배치하여 기업 서버와 시스템을 지속적으로 순찰하고 실시간으로 공격을 저지할 수 있다면 매우 가치가 있을 것입니다.
이러한 방식은 현재 대규모로 보급되지 않았지만, 저는 향후 6개월에서 12개월 내에 점점 더 많은 응용 프로그램이 등장할 것이라고 생각합니다. 공격자도 인공지능 집단을 사용할 것이므로 방어자도 마찬가지로 인공지능 집단이 필요합니다.
왜 지금 상장하기로 선택했나요?
제이미 다이먼: 앤트로픽이 곧 상장합니다. 왜 지금인가요? 상장에는 장단점이 있으며, 당신은 그것이 회사를 더 좋게 만들 것이라고 생각하나요, 아니면 관리가 더 어려워질 것이라고 생각하나요?
다리오 아모데이: 상장에는 몇 가지 이유가 있으며, 가장 중요한 것은 컴퓨팅 파워 투자입니다.
생물학, 로봇 공학, 사이버 보안 및 더 넓은 지식 작업 분야에는 막대한 경제적 기회가 있습니다. 우리는 이러한 기회를 잡기 위해 충분한 자원을 투자하고 싶습니다.
현금이 많을수록 회사는 낮은 컴퓨팅 파워 수요와 높은 컴퓨팅 파워 수요 사이의 완충 공간이 더 커집니다. 이것이 상장의 중요한 이유입니다.
어떤 달, 어떤 날, 또는 어떤 시장 환경에서 상장할지는 특별히 고민하지 않았습니다.
상장 절차를 시작하기 전에, 저는 이런 일을 경험한 적이 없습니다. 앤트로픽은 약 6년의 시간을 들여 이제 막 시작한 회사에서 오늘날까지 성장했습니다. 저는 많은 사람들에게 조언을 구했으며, 그 중 가장 공감한 조언은: 회사의 가치보다 한 달러라도 더 높게 평가되지 않도록 하라는 것입니다.
이는 앤트로픽의 원칙 중 하나와 매우 가깝습니다: 약속은 적게 하고, 실천은 많이 하라.
우리는 일반적으로 모델이 완성되지 않았을 때 그 모델이 어떤 능력을 가질 것인지 미리 이야기하지 않습니다. 우리는 먼저 모델을 만들고, 그것이 충분히 좋다는 것을 확인한 후에 발표합니다. 안전 시스템도 마찬가지입니다. 저는 상장도 같은 원칙을 따르기를 바랍니다.
5%의 지분을 공익 기금으로 설정하고, AI 부의 집중에 대한 우려
제이미 다이먼: 앤트로픽은 공익 기금을 설립한다고 발표했습니다. 많은 사람들이 왜 그렇게 하는지 잘 모를 수 있습니다. 기금에 대한 당신들의 구상은 무엇인가요?
다리오 아모데이: 우리는 회사의 5% 지분을 공익 기금으로 할당하기로 결정했습니다.
그 외에도 공동 창립자는 개인 재산의 80%를 기부하겠다고 약속했습니다. 회사 설립 초기부터 우리는 직원 기부 매칭 프로그램을 운영하고 있습니다: 직원이 일정 비율의 주식을 자선 단체에 기부하거나 공익 용도로 남겨두면, 회사는 추가 주식을 매칭하여 제공합니다.
이러한 몇 가지 조치 뒤에는 공통된 생각이 있습니다: AI는 매우 강력한 기술입니다. 그것은 이미 앤트로픽과 전체 산업에 막대한 경제적 가치를 창출했으며, 우리는 미래의 기회가 더 클 것이라고 희망하지만, 확신할 수는 없습니다.
저는 AI가 인류가 암과 알츠하이머병을 치료하는 데 도움을 주고, 더 저렴하고 풍부한 에너지, 더 나은 재료를 제공하여 더 많은 사람들이 더 풍요로운 물질적 삶을 누릴 수 있기를 바랍니다.
하지만 우리는 또한 대량의 새로운 부가 동일한 기술에서 발생하고 소수의 회사에 집중된다면, 사회가 동시에 고속 성장과 부의 집중을 경험할 수 있다는 점을 우려합니다.
우리는 부의 집중 문제를 가능한 한 완화하고 싶으며, 공익 기금은 그 일환입니다.
기금의 구체적인 방향은 여전히 연구 중입니다. 우리는 지금 당장 해결해야 할 문제 목록을 발표할 것이 아니라, 어떤 문제가 가장 투자할 가치가 있는지 먼저 파악하고 싶습니다.
가능한 방향은 AI가 초래하는 노동력 전환에 사회가 원활하게 대응하도록 돕는 것과 생물 안전입니다. AI는 생물학에 큰 발전을 가져올 수 있지만, 네트워크 기술 및 기타 기술과 마찬가지로 남용될 가능성도 있습니다. 우리는 남용을 방지하고 효과적인 방어 메커니즘을 구축해야 합니다.
15년 후, 질병이 역사 속으로 사라지기를 바라며, AI의 통제를 피해야 합니다
제이미 다이먼: 마지막 질문입니다. 만약 15년 후 오늘을 돌아본다면, 당신이 가장 바라는 일이 무엇이며, 가장 바라지 않는 일이 무엇인가요? 오늘 우리가 이야기하지 않은 것 중에서 여러분이 모두에게 전하고 싶은 것이 있나요?
다리오 아모데이: 가장 중요한 것은 이 기술이 올바른 방식으로 개발되도록 하는 것입니다.
저는 생물 공격이나 사이버 공격에 사용되거나 경제적 충격을 초래하며, 인간이 인공지능을 통제하지 못하게 되는 것과 같은 많은 기술적 위험에 대해 이야기했습니다. 이러한 위험은 매우 심각하며, 마케팅 용어가 아닙니다. 앤트로픽은 설립 초기부터 이러한 문제를 진지하게 다루었고, 이를 해결하기 위해 자원을 투자했습니다.
우리는 전체 산업이 위험에 대응하는 방법의 모범을 제시하고 싶습니다. 그러나 앤트로픽 내부에서만 잘하는 것으로는 충분하지 않으며, AI 산업의 다른 회사, 고객 및 공급업체도 책임감 있게 행동하기를 바랍니다.
둘째, 우리는 AI의 긍정적인 가치를 실현해야 합니다.
생물학 및 의학 분야에서 우리는 이 기술의 잠재력을 막 시작으로 보고 있습니다. 제약 회사, 초기 생명공학 기업 및 학계에서는 여전히 많은 회의적인 목소리가 있습니다. 우리는 결과를 미리 알 수 없으며, 회의론자가 맞을 수도 있지만, 저는 결국 그들의 우려가 현실이 되지 않기를 바랍니다.
언젠가 심장병, 알츠하이머병 및 암이 오늘날의 흑사병과 천연두처럼 과거의 질병이 되기를 바랍니다.
이것은 다소 이상적이거나 심지어 미친 것처럼 들릴 수 있지만, 저는 이것이 가능하다고 믿습니다. 저는 그것이 5년, 10년 또는 15년이 걸릴지 모르지만, 우리는 이 목표를 조기에 실현하기 위해 최선을 다할 것입니다.











