OpenAI 총재: Astra는 "10만 개의 GPU에서 훈련된 모델"로 "응용 장벽"을 넘었습니다

저자: 월스트리트 저널

OpenAI의 사장 그렉 브록맨은 Astra 출시 전날 심층 인터뷰를 통해, 이 새로운 모델이 OpenAI 역사상 10만 개 이상의 GPU에서 훈련된 첫 번째 모델임을 처음으로 공개하며 AI가 "컴퓨터 사용"의 응용 장벽을 넘어섰다고 단언했습니다 ------ 이는 AI가 더 이상 API 연결기에 의존할 필요가 없으며, 사람처럼 어떤 소프트웨어든 조작할 수 있게 되었음을 의미합니다.

현지 시간 금요일, 기술 전략 분석 웹사이트 Stratechery는 OpenAI 사장 겸 공동 창립자 그렉 브록맨과의 심층 인터뷰를 발표했습니다. 이 인터뷰는 Astra가 공식 출시되기 전에 녹음되었습니다. 이는 브록맨이 Astra와 OpenAI의 최신 전략에 대해 가장 상세하게 공개한 표현입니다.
월스트리트 저널이 정리한 인터뷰 요점은 다음과 같습니다:

1. Astra는 OpenAI가 10만 개 이상의 GPU에서 훈련한 첫 번째 모델로, 이 규모는 공학적 측면에서 중대한 돌파구를 나타냅니다.

2. Astra는 "컴퓨터 사용" 능력에서 중요한 응용 장벽을 넘어섰으며, "범용 연결기" 역할을 할 수 있어 더 이상 각 소프트웨어가 개별적으로 API 인터페이스를 제공할 필요가 없습니다.

3. 브록맨은 AGI 시대에 안전, 정렬 및 능력 세 가지가 동등하게 중요한 "요구"로 병행 추진되어야 하며, 어느 하나를 희생해서는 안 된다고 말했습니다.

4. OpenAI는 Astra를 통해 자체 시스템의 취약점을 직접 스캔하고 수정 작업을 완료했으며, 이는 중대한 안전 문화의 전환입니다.

5. Hugging Face 보안 사건에서 브록맨은 샌드박스 메커니즘에 결함이 있음을 인정하며, AI가 창의적인 "탈옥" 경로를 찾았다고 밝혔습니다.

6. 브록맨은 OpenAI 내부에서 이미 "AGI 시대"의 문턱을 넘어섰으며, Astra 또는 다음 세대 모델에서 대다수 사람들이 인정하는 AGI 기준에 도달할 수 있을 것이라고 생각합니다.

7. 칩 전략 측면에서 OpenAI는 자체 개발한 할라페뇨 칩을 사용하고 AI 보조 설계를 활용하며, 엔비디아와의 깊은 파트너십을 유지하고 있습니다.

8. 그는 AI 능력이 향상됨에 따라 과거에 정교하게 구축된 "기술 발판"이 점차 지원에서 제한으로 변하고 있으며, 이는 Astra 개발 과정에서 중요한 발견이라고 생각합니다.

"10만 개 GPU에서의 훈련": Astra의 규모적 의미

"우리는 10만 개 이상의 GPU에서 훈련한 것은 이번이 처음입니다. 이 숫자는 쉽게 말할 수 있지만, 그 규모를 상상해야 합니다------이 데이터 센터들은 어떤 의미에서 AI 기술을 추진하기 위해 우리가 건설한 거대한 기계이며, 이렇게 큰 규모의 연산 능력을 다룰 수 있다는 것 자체가 진정한 공학적 업적입니다." 브록맨은 인터뷰에서 말했습니다.

그는 연산 능력의 대폭 확장이 단순히 모델 능력을 향상시키기 위한 것이 아니라, "많은 연산 능력이 안전 및 정렬 작업에 투입되었으며, 그에 대한 많은 안전 공학이 진행되고 있습니다. 이는 우리가 지금까지 정렬 정도가 가장 높은 모델이며------능력이 이렇게 강력하기 때문에 정렬과 안전이 그 어느 때보다도 더 핵심이 되었습니다."라고 강조했습니다.

"컴퓨터 사용"의 장벽을 넘다: AI가 "범용 연결기"가 되다

브록맨은 Astra의 가장 핵심적인 돌파구를 "컴퓨터 사용"에 두었습니다.

"지난 2년 동안 우리는 '연결기 시대'에 있었습니다------당신은 몇 가지 소프트웨어를 가지고 있지만, 인간은 정상적으로 사용할 수 있지만 AI는 접근할 수 없습니다. 그래서 각 소프트웨어에 대해 전용 연결기를 작성해야 했고, API에 연결해야 했습니다; 그러나 많은 소프트웨어는 아예 API가 없어서 AI의 능력 범위를 완전히 초과했습니다." 그는 말했습니다. "이제 우리는 거의 '범용 연결기' 기술을 갖추게 되었습니다. AI는 당신을 도와주는 데 엄격히 제한되었던 것에서 거의 모든 것을 조작할 수 있게 되었습니다."

그는 이러한 변화가 OpenAI 내부의 작업 방식에 미치는 영향을 더 설명했습니다: "이것은 OpenAI 내부에서 사람들이 일하는 방식을 변화시키고 있으며, 저는 이것이 많은 회사와 개인을 정말로 향상시킬 것이라고 생각합니다."

주목할 점은 브록맨이 이 장벽의 극복이 끝이 아님을 인정했다는 것입니다: "이것은 모든 문제가 해결되었다는 것을 의미하지 않습니다. 당신은 이러한 AI에 대해 기업 수준의 보호 장치를 설정하는 방법, 적절한 감독, 관리, 추적 및 관찰 가능성을 실현하는 방법을 고려해야 합니다------이 모든 것을 우리는 추진하고 있습니다."

"우리는 이제 AGI 시대에 들어섰다"

브록맨은 인터뷰에서 다소 대담한 판단을 내렸습니다:

"저는 아마도 이전 모델이든, Astra이든, 다음 모델이든, 그 중 어느 지점에서 우리는 대다수 사람들이 AGI의 문턱을 넘을 것이라고 생각합니다. ……어떤 의미에서 저는 우리가 지금 AGI 시대에 들어섰다고 말할 수 있습니다."

그는 현재 단계에서 정렬, 안전 및 능력 세 가지가 병행 요구로 함께 추진되어야 하며, "이러한 측면이 개발의 병목 현상으로 변하고 있으며, 이것이 우리가 항상 준비해온 것입니다."라고 설명했습니다.

기존 "기술"이 오히려 부담이 되다: AI가 강력해져서 규칙을 줄여야 한다

인터뷰 중 하나의 충격적인 세부 사항은 Astra의 실제 훈련 과정에서 나왔습니다. 브록맨은 OpenAI가 과거에 모델을 위해 행동 규범을 작성하는 데 많은 노력을 기울였지만, 이제는 오히려 발목을 잡고 있다고 밝혔습니다:

"우리는 올해 들어 힘들게 구축한 몇 가지 기술------OpenAI 내부에서 일을 하는 올바른 방법을 모델에 보여주기 위해------실제로는 그것의 성능에 대해 순부담(net negative)이라는 것을 발견했습니다. 그것은 우리가 작성한 것보다 더 잘 일반화하고, 우리가 규정한 것보다 더 나은 처리 방식을 찾을 수 있습니다. 훈련 바퀴처럼, 처음에는 유용하지만, 그것이 더 빠르고 더 능력이 생기면 오히려 장애물이 됩니다."

"10억 사용자란 투자": 소비자와 기업의 융합

브록맨은 시장에서 지속적으로 존재하는 의문에 정면으로 맞섰습니다: ChatGPT는 10억 사용자를 보유하고 있지만, 이것이 오히려 주의 분산이 되는 것인가?

"미국에서 약 3분의 1의 인구가 매주 ChatGPT를 사용하고 있습니다." 그는 말했습니다. "이는 독특하며, 이러한 첨단 기술에 대해 비교할 수 있는 다른 제품은 없습니다."

그는 이 10억 사용자를 "투자"로 정의했습니다: "이는 진정한 투자이며, 미래 모델이 잠금을 해제하는 방식에서 가치를 축적할 것입니다."

동시에 그는 문제의 본질도 인정했습니다: "채팅이 제품으로서의 도전은 그것이 반드시 더 스마트한 모델과 직접적으로 연결되지 않는다는 것입니다------만약 당신이 단순히 그것을 검색 엔진 대체품으로 간주한다면, 당신은 실제로 혜택을 느끼지 못할 수도 있습니다." 그는 미래의 방향이 소비자와 기업 장면을 연결하여 통합된 AGI 시스템을 구축하는 것이라고 생각했습니다. "우리는 두 가지 일을 하고 싶지 않습니다. 우리는 한 가지 일을 하고 싶습니다------AGI, 하나의 시스템, 하나의 통합된 기술 스택을 구축하는 것입니다."

그는 건강 분야의 배치에 대해서도 특별히 강조했습니다: "매주 3억 명이 ChatGPT를 통해 건강 관련 질문을 하고 있으며, 3억 명은 엄청난 숫자입니다."

AI 스스로 취약점 점검: Astra를 자신의 시스템으로 향하게 하다

사이버 보안 주제에서 브록맨은 주목할 만한 내부 관행을 밝혔습니다: OpenAI는 Astra를 직접 자신의 시스템에 맞춰 취약점을 찾았습니다.

"우리는 Astra를 호출하여 우리의 시스템에 맞춰 취약점을 발견했습니다------단순히 코드를 읽는 것이 아니라, 실제로 이러한 시스템의 엔드 투 엔드 작동 방식을 면밀히 검토하여 진짜 검증된 취약점을 찾아내고, 이를 수정하고 패치 작업을 완료하는 데 도움을 주었습니다." 그는 말했습니다.

그는 또한 Hugging Face 보안 사건에서 OpenAI가 방어 창구 기간 동안의 행동이 충분히 시기적절하지 않았다고 인정했습니다. "저는 지금이 분명히 때라고 생각합니다. 아마 몇 달 전에도 그럴 수 있었지만, 그때는 모델 능력이 훨씬 더 약했습니다."

엔비디아와의 관계: 칩 자가 개발은 "곱셈"이지 대체가 아니다

가치 사슬 경쟁 측면에서 브록맨은 OpenAI의 자가 개발 칩 할라페뇨와 엔비디아의 관계에 대해 입장을 밝혔으며, 대체 논리를 명확히 부인했습니다:

"엔비디아는 우리의 최우선 컴퓨팅 파트너이며, 이는 변하지 않을 것입니다. 사실, 우리는 그들과의 협력을 더욱 심화하고 있습니다. ……우리의 자체 칩 프로젝트가 가져오는 내부 전문 지식은 저에게는 곱셈 효과이지 대체가 아닙니다. 저는 모든 사람에게 이익이 될 것이라고 생각합니다."

그는 AI 보조 칩 설계에 대한 흥미로운 일화를 공개했습니다: 할라페뇨의 마감일이 다가오는 마지막 한 달 동안 팀은 AI를 직접 실행하여 최적화를 진행했습니다. "우리는 그냥 그것을 실행하게 하자고 했고, 그것이 무엇을 했는지 자세히 읽지 않았습니다. 나중에 우리가 다시 읽어보니, 그것이 우리가 목록에 있었지만 절대 스스로 구현하지 않을 최적화를 찾았다는 것을 발견했습니다------정말 멋진 이야기입니다."

다음은 인터뷰 텍스트의 전체 기록입니다 (AI의 도움으로 번역됨)

그렉 브록맨, Stratechery에 오신 것을 환영합니다.
GB(그렉 브록맨): 초대해 주셔서 감사합니다. 여기 오게 되어 기쁩니다.
분명히 우리가 이야기할 뉴스가 많지만, 이것이 우리의 첫 대화인 만큼, 제가 보통 누구에게나 묻는 Stratechery 전기 질문을 놓치고 싶지 않습니다. 제가 묻고 싶은 것은------당신은 노스다코타를 중서부의 일부로 정의하나요?
GB: 네, 그렇게 생각합니다.
좋습니다, 중서부 사람으로서 저는 거기에 대해 이야기할 시간을 가져야 합니다. 당신은 보스턴에서 공부했지만, 우리가 그곳에 대해 이야기하기 전에------당신은 학교에 다니기 전에 이미 국제 올림픽 대회와 같은 놀라운 이력을 가지고 있었는데, 그것은 화학 분야의 일이었습니다. 컴퓨터는 어디서 시작되었나요, 아니면 컴퓨터가 처음부터 당신의 삶의 일부였나요?
GB: 음, 컴퓨터는 제가 성장하는 동안 항상 제 배경에 있었습니다. 저는 컴퓨터 게임을 좋아했지만, 수학과 과학에도 매우 관심이 많았습니다. 사실, 9학년까지 저는 배우가 될 수도 있다고 생각했어요------저는 연기를 정말 좋아했고, 철학에도 조금 손을 대봤습니다.
정말 놀라운 전환이네요! 저는 이 점을 전혀 몰랐지만, 당신이 지금 하고 있는 일과 연기 사이의 연관성을 알아내고 싶습니다. 하지만 계속해봅시다.
GB: 음, 9학년 때 저는 중학교와 고등학교의 몇몇 연극에서 주연이나 남자 주인공 역할을 맡았던 것 같습니다. 그때 저는 어떤 일에 더 집중하고 싶다는 생각을 했고, 제가 어떤 분야에서 세계 최고가 될 수 있다고 느꼈습니다. 그래서 저는 그 분야의 발전을 진정으로 추진해보고 싶었습니다. 저는 더 지적이고 하드 사이언스적인 방법을 선택할지, 아니면 예술, 연기 및 창의적인 경로를 선택할지를 고민했습니다. 결국 저는 하드 사이언스 방향을 선택했습니다. 왜냐하면 그 분야가 제가 세상을 가장 많이 변화시킬 수 있는 분야라고 생각했기 때문입니다.
왜 그 방향이 세상을 가장 많이 변화시킬 수 있다고 생각하나요?
GB: 저에게는 그런 느낌이었습니다------연기의 한 가지 매력은 그것의 팀워크입니다. 즉흥 연기를 좋아하고, 창의적으로 생각하며 아이디어를 교환하는 것을 좋아하지만, 동시에 팀의 일원이 되어야 하고, 그 팀은 매우 잘 협력해야 합니다. 이는 항상 보장되지 않는 일입니다. 그것은 실현하기 어렵고 찾기 힘든 일입니다. 제가 더 지적 경로를 선호하는 이유는 그것이 자신의 기술을 연마하는 것처럼 느껴지기 때문입니다. 하지만 제가 배운 한 가지는, 당신이 코딩을 매우 잘하더라도 그것만으로는 충분하지 않다는 것입니다. 사실, 이는 훌륭한 팀을 구성하는 것과 관련이 있으며, 저는 이것이 제 경력의 일부라고 생각합니다------탁월한 결과를 제공할 수 있는 환경과 문화를 구축하고 형성하는 데 진정으로 도움을 주는 것입니다.
흥미로운 점은, 여기에는 환경이 이러한 것들을 형성하는 데도 영향을 미친다는 측면이 있습니다. 당신은 항상 연극과 영화에서 남자 주인공 역할을 맡았다고 언급했습니다. 제가 아이들이 이 단계에 있을 때 깨달은 것은------제 딸이 한동안 뮤지컬 같은 것을 매우 좋아했는데------여자 주인공의 경쟁이 매우 치열하다는 것입니다. 보통 유능한 남성이 자원해서 참여하기만 하면 매번 그 역할을 맡을 수 있습니다. 남자 주인공의 경쟁도 치열한가요, 아니면 당신이 독특한 존재인가요?
GB: (웃음) 아마도 그것이 설명이 될 수 있을 것 같습니다. 하지만 이야기를 하나 해드릴게요.
반대로, 노스다코타에서는 하드 사이언스 분야에 특별히 연구하는 사람이 많지 않으니, 같은 관점에서 보면 더 드물게 보일까요?
GB: 음, 두 가지 이야기를 해드릴게요. 첫 번째는 연기에 관한 것입니다. 제가 처음으로 유료로 일한 것은 연기 일이었습니다. Mannheim Steamroller 밴드가 노스다코타의 그랜드 폭스에 왔습니다. Mannheim Steamroller를 들어본 적이 있나요?
들어본 적이 있습니다. 네, 물론입니다.
GB: 그들은 당시 콘서트를 열기 위해 임시 배우가 필요했습니다. 그들은 크리스마스 휴일 콘서트였기 때문에, 몇몇 사람들이 주석 병정으로 분장하고 돌아다녀야 했습니다. 저는 오디션에 참가했는데, 그때 저는 마른 9학년 학생이었고, 그곳에는 키가 큰 대학생들만 있었습니다.
그들이 모두에게 시킨 것은, "좋아요, 모두 저쪽으로 걸어가세요"라고 하고, 캐스팅 담당자가 의견을 비교한 다음, 잠시 쉬고 나서 "좋아요, 다른 방향으로 걸어가세요"라고 했습니다. 저는 쉬는 시간 동안 모든 대학생들이 서로 이야기하고 어울리는 것을 보았고, 저는 이 일이 단 하나의 요구 사항이 있다는 것을 생각했습니다. 그것은 콘서트 내내 6시간 동안 집중해서 돌아다녀야 한다는 것이었습니다. 그래서 쉬는 시간 동안 저는 그 역할에 완전히 몰입하여 집중하고 있었습니다. 결국 그들은 "좋아요, 우리는 이 사람, 이 사람, 이 사람을 선택했습니다. 나머지는 나가도 됩니다"라고 말했습니다. 저는 선택되지 않았습니다.
하지만 우리가 떠나는 길에 그들은 "사실, 우리는 당신이 너무 멋지다고 생각했습니다. 우리는 당신이 이 일에 얼마나 열정을 쏟고 있는지를 정말 좋아했습니다. 그래서 우리는 당신을 위해 새로운 역할을 만들어주기로 했습니다." 그래서 저는 진저브레드맨 역할을 맡게 되었고, 그들은 저에게 완전한 의상을 주었습니다. 그것이 제 첫 번째 일이었습니다. 그래서 이것은 일상적인 사고에서 벗어나 일을 완수하려고 시도하는 것과 비슷합니다------항상 특정 역할을 기본으로 받아들이는 것이 아니라, 그것을 얻기 위한 창의적인 방법을 찾으려고 노력하는 것입니다.
하지만 제가 노스다코타에서 자라면서 정말 멋진 점은, 제가 집중하는 다양한 분야에서 주 전체에서 최고가 될 수 있는 가능성이 있었다는 것입니다. 제 수학 성적은 꽤 뛰어났습니다. 저는 10학년부터 노스다코타 대학교에서 많은 과목을 수강했습니다. 저는 수학 경시대회에 깊이 참여했고, 전국 대회에 참가하고, 전국 수학 여름 캠프에 가서 그곳에서 전국 최고의 사람들을 만났습니다. 그들은 정말 훌륭했고, 사실 제가 정말 존경하는 많은 사람들이 지금 OpenAI에서 일하고 있습니다. 그래서 저는 이 새로운 분야에서 그들을 새로운 시각으로 볼 기회를 가졌습니다.
정말 멋지네요.
GB: 하지만 이것은 제가 진정으로 제 길을 계획할 수 있었다는 것을 의미합니다. 저는 수학 연구를 시작했고, 만약 제가 더 강력한 고등학교나 경쟁이 치열한 주로 갔더라면, 저는 두드러지지 않았을 것이라고 생각합니다. 저는 표준 경로를 따라야 했을 것입니다. 그래서 바로 그 지역 덕분에 저는 제 관심사를 탐구하고 진정으로 제 길을 걸을 수 있었습니다.
그래서 사람들이 보스턴에서 공부한다고 말할 때, 보통 하버드를 의미하는데, 그것이 당신이 시작한 곳입니다. 그리고 당신은 MIT로 전학했습니다. 그리고 어느 시점에서 Stripe에서 일하게 되었습니다. 순서는 어떻게 되나요? 당신은 언제 Collison 형제를 알게 되었나요? 보스턴에서 무슨 일이 있었나요?
GB: 음, 고등학교를 졸업한 후, 저는 1년의 휴식을 가졌고, 사실 저는 화학에 매우 매료되어 화학 교과서를 쓰기 시작했습니다. 저는 고등학교 때 화학 경시대회에 참가하고 독특한 사고 방식을 제안했습니다. 매우 기본 원리에 기반하고, 매우 수학적이며, 암기 위주가 아닙니다. 저는 이 방법을 가르치고 싶었고, 이를 홍보하고 싶었습니다. 그래서 저는 실제로 100페이지를 썼습니다. 지금 그것은 제 웹사이트에 있습니다. 아직 완성하지 않았습니다. 저는 계속해서 쓰기 위해 돌아갈 계획이었습니다.
그것은 마치 은퇴 프로젝트와 같습니다. 저는 그것을 좋아합니다.
GB: 맞습니다. 음, 그때 저는 이 책을 출판할 방법을 고민하고 있었고, 비슷한 일을 한 친구에게 물어보았습니다. 그는 "음, 당신은 박사 학위가 없으니 아무도 그것을 출판하지 않을 것입니다. 그래서 당신은 자비로 출판해야 합니다"------그때 저는, 아, 그건 일이 많고 비용도 많이 든다고 생각했습니다------"아니면 웹사이트를 만들어서 아이디어를 홍보할 수 있습니다." 저는 "프로그래밍을 배워야 할 것 같아요"라고 말했습니다. 그래서 저는 W3Schools에 갔습니다. W3Schools를 기억하나요? 그 웹사이트를 본 적이 있나요?
아니요, 저는 그걸 본 적이 없는 것 같습니다.
GB: 좋습니다, 그것은 고전적인 웹사이트입니다------그들은 HTML 튜토리얼, JavaScript, CSS, PHP를 가지고 있습니다. 저는 그것을 모두 읽고 "테스트해봐야겠다"라고 생각했습니다. 제가 만든 첫 번째 작은 위젯을 기억합니다: 테이블 열을 클릭하면 행이 정렬됩니다. 그것은 역사상 가장 멋진 느낌이었습니다. 제 머릿속에는 이 것이 존재하고, 이제 세상에 존재하며, 누구나 그것으로부터 혜택을 받을 수 있다는 생각이었습니다. 그들은 그 뒤에 있는 세부 사항을 이해할 필요가 없고, 그것은 단순히 작동합니다.
제가 만든 첫 번째 사용자 프로그램은 실제로 경쟁적인 채팅 로봇 게임이었고, 어느 날 StumbleUpon에서 1500회의 클릭을 받았습니다. 그 느낌은 정말 멋졌습니다. 1500명이 제 게임을 플레이했고, 그들이 즐거운 시간을 보냈기를 바랍니다. 그들은 충분히 몰입해서 플레이했습니다. 저는 그때 "이것이 제가 원하는 것입니다. 저는 다른 사람들을 돕고 싶고, 그들에게 가치를 창출하고 그들에게 이익을 주고 싶습니다"라고 생각했습니다.
그래서, 그런 생각으로 하버드에 들어갔고, 그것은 정말 제 생각을 변화시켰습니다. 저는 더 다양한 관심사를 추구할 것이라고 생각했지만, 결과적으로 "저는 단지 무언가를 구축하고 싶습니다"라고 생각했습니다. 하버드의 1학년 때, 저는 컴퓨터 클럽에 가입했는데, 두 명의 4학년 선배가 매번 난해한 기술 토론을 했습니다. 우리는 항상 "언젠가는 우리가 이해할 것입니다. 언젠가는 그것이 우리일 것입니다"라고 들었습니다. 하지만 그들이 졸업한 후, 2학년이 되었습니다.
그래서 당신은 코딩과 구축에 집중하고 있다는 것을 깨닫고 MIT로 직접 전학한 건가요?
GB: 기본적으로 그렇습니다. 2학년이 되었을 때, 저는 클럽을 관리하고 있었습니다. 저는 그 난해한 기술 토론을 주도해야 했고, "저는 아직 준비가 안 됐습니다. 저는 배워야 할 것이 너무 많습니다. 저는 저보다 훨씬 뛰어난 사람들과 함께 있어야 합니다"라고 생각했습니다.
이해했습니다.
GB: 그래서 저는 MIT에서 많은 시간을 보냈고, 그곳으로 전학하는 것이 합리적이라고 생각했습니다.
Stripe
이해했습니다. 그럼 당신은 언제 Collison 형제를 알게 되었나요?
GB: 저는 2010년, 2010년 말에 그들을 알게 되었습니다. 우리는 많은 공통 친구가 있었고, 존은 하버드에 다니고, 패트릭은 MIT에 다니고 있었으며, 그들은 그 당시 두 학교에서 컴퓨터에 관심이 있는 사람을 찾고 있었습니다. 제 이름이 계속 언급되었습니다.
네.
GB: 그래서 저는 그들의 팀 초대를 받고 비행기를 타고 갔습니다. 패트릭을 만났던 순간, 저는 "좋아요, 이 사람이 제가 함께 일하고 싶은 사람입니다. 우리는 함께 위대한 성과를 이룰 수 있을 것 같습니다"라고 생각했습니다.
그래서 제 다음 질문은, 당신이 Stripe에 합류하게 된 이유는 무엇인가요, 하지만 당신은 이미 대답한 것 같습니다. 당신은 그곳에서 무엇을 배웠나요? 당신은 팀에 일찍 합류했고, 매우 빠르게 승진했습니다. 당신이 떠날 때쯤에는 이미 CTO였습니다. Stripe 자체와 그 규모의 확장, 그리고 당신이 회사에서 빠르게 성장하는 동안 자신도 빠르게 성장한 것에 대해 어떤 통찰이 있나요?
GB: 우선, 저에게는 항상 사람에 관한 것이었습니다. 저는 이 사람들이 제가 함께 일하고 싶은 사람들이라는 것을 알았고, 우리가 함께 배우고 위대한 일을 이룰 수 있을 것 같은 느낌이었습니다. 그래서 그것이 진정한 핵심입니다. 참고로, 두 번의 중퇴는 제가 절대 다른 사람의 부모에게 겪게 하고 싶지 않은 일입니다. 이것은 분명히 제 부모에게 매우 힘든 일이었지만, 그들은 결국 매우 지지해주었습니다.
아니요, 우리는 당신이 일을 극대화했다는 것을 이해합니다, 맞죠? 대부분의 창립자는 한 번 중퇴하지만, 당신은 두 번 해야 했습니다. 우리는 당신의 의미를 이해했습니다.
GB: 완전히 맞습니다, 완전히 맞습니다. 저는 Stripe의 초기 많은 부분이 기본 원리에 대한 사고와 관련이 있었다고 기억합니다. 우리는 신용 카드 산업이라는 매우 불투명하고 비잔틴적인 분야에 있었습니다. 수십 년에 걸쳐 복잡해졌고, 카드 네트워크 자체는 ISO 8583에서 운영되고 있었으며, 이는 80년대의 규격입니다. 그것은 바이트 지향 형식이며, 전체가 그렇습니다. 우리는 "어떻게 하면 그것을 단순하게, 극도로 단순하게 만들어 인터넷 시대에 맞출 수 있을까?"를 고민했습니다.

그래서, 이것은 상당히 낯선 분야를 깊이 이해하는 것과 관련이 있습니다. 우리 중 누구도 진정한 결제 전문가 출신은 아니지만, 그것이 어떻게 작동하는지를 깊이 이해하고 싶습니다. 그래야 올바른 원어, 올바른 API 및 추상화를 드러낼 수 있습니다. 저에게는 그것이 실제로 핵심 기술이며, Stripe와 OpenAI 간에 매우 전이 가능성이 있습니다. 그들은 어떤 면에서 매우 유사하며, 당신은 과학적으로 한 분야를 배워야 합니다. AI와 결제는 구체적인 세부 사항에서 분명히 다릅니다. 하나는 자연 과학에 더 가깝고, 다른 하나는 복잡성으로 쌓인 시스템에 가깝습니다. 그러나 그들은 근본적으로 사물이 작동하는 근본 원인을 이해하고 이를 간단하고 사용하기 쉬운 방식으로 드러내는 것과 관련이 있습니다.
저는 채용에 많은 시간을 보냈고, 문화에 많은 시간을 보냈습니다. 제가 발견한 것은 제가 코딩을 좋아하고, 그런 몰입 상태와 구축 및 창조의 느낌을 좋아한다는 것입니다.
네, 당신은 몇 시간 동안의 몰입 상태와 끝없는 코딩으로 유명합니다. Stripe를 구축할 때, 가장 긴 코딩 세션/몰입 상태는 얼마나 되었나요?
GB: 아, 모든 것이 뒤섞여 있습니다. 정확한 시간을 말할 수는 없지만, 제가 말하고 싶은 것은, 저에게는 24시간의 스프린트가 있었고, 그때 우리가 실제로 신용 카드 네트워크에 연결되었습니다. 그건 정말 멋진 시간이었고, 우리 모두 사무실에 있었고, 아무도 자지 않았습니다. 그것은 9개월이 걸릴 통합이었고, 우리는 하룻밤 사이에 완료했습니다. 만약 우리가 하루 늦었다면, 또 한 달을 기다려야 했습니다. 스타트업에게는 매일매일이 중요하므로, 불가능해 보이는 일을 완료한 느낌을 저는 사랑합니다. 그것은 정말 흥미로운 일이었습니다.
당신이 CTO가 되었을 때, 당신은 다른 CTO들과의 소통에 대해 글을 썼고, 그것이 더 건축적인 작업처럼 느껴졌지만, 그들은 그렇게 하지 않았습니다. 당신은 "저는 피드백 루프를 잃어버린 것 같고, 제품과 단절되었습니다. 다시 코딩해야 하고, 코더가 되어야 합니다"라고 썼습니다. 저는 궁금합니다. 그것은 당신이 CTO가 된 초기에 쓴 것이고, 얼마나 지속되었나요? 당신은 코딩과 얼마나 오랫동안 연결되어 있었나요?
GB: 음, 대략 10년 가까이 지속되었던 것 같습니다. 저는 한 가지 측면에서 성장했고 많은 것을 배웠습니다. 그것은 비록 당신이 더 이상 직접 코딩하지 않더라도 어떻게 참여감을 유지하고, 팀을 진정으로 추진하고, 팀을 결속시킬 수 있는지를 배우는 것입니다.
그리고, 덧붙여서, 저는 이것이 현재 거의 모든 소프트웨어 엔지니어에게 중요한 교훈이라고 생각합니다. 왜냐하면 "코딩"이라는 행위 자체가 지난 1년 동안 엄청난 변화를 겪었기 때문입니다. 저는 앞으로 1년 동안 변화가 더 클 것이라고 생각합니다. 우리는 특정 라이브러리를 정확히 사용해야 하고, 문법과 세미콜론을 어디에 두어야 하는지를 아는 역할에서 더 높은 수준의 관리자, 감독으로 전환하고 있으며, 영감, 비전, 판단 및 피드백의 출처가 되어가고 있습니다. 저는 이 전환이 저에게는 어려웠던 적이 있었는데, 왜냐하면 당신은 당신이 익숙하고 소중히 여기는 것, 그리고 진정으로 사랑하는 것을 포기해야 하기 때문입니다. 그러나 저는 실제로 제가 더 사랑하는 것으로 그것을 대체했습니다.
저는 당신이 똑똑한 사람과 대화하고 있다는 것을 알고 있습니다. 왜냐하면 당신이 제 이야기를 가로챘기 때문입니다. 저는 나중에 이 주제로 돌아가려고 했지만, 맞습니다. 이것이 우리가 논의하고자 하는 것입니다.
OpenAI와 튜링 테스트
OpenAI에 대해 이야기해 봅시다. 당신은 OpenAI 창립 팀의 일원입니다. 당신의 이야기 버전은 어떤 것인가요? 저는 이것이 한 시간짜리 팟캐스트가 될 수 있다고 믿습니다. 하지만 무엇이 당신을 이 분야로 끌어들이고 시작하게 했나요?
GB: 음, 저는 AI에 대한 생각에 오랫동안 흥분해 왔습니다. 제가 프로그래밍을 시작했을 때, 앨런 튜링의 1950년 튜링 테스트에 관한 논문을 읽었던 기억이 납니다. 그것은 매우 흥미로운 논문으로, 약 70페이지 정도 됩니다. 그것은 "음, 기계가 지능을 가진다는 것은 무엇을 의미하는가? 나는 지능이 무엇인지 모르겠다. 지능은 명확한 정의가 없다. 그러니 명확한 정의를 내리자"로 시작합니다.
저는 나중에 AGI가 무엇인지 물어볼 것입니다. 그래서 이것은 여전히 미결인 것처럼 들리네요, 맞죠?
GB: 음, 당신이 맞습니다. 그래서 튜링은 매우 영리하게 이 문제를 회피하며 "우리가 단지 작동적인 정의를 주자. 만약 당신이 테스트를 수행할 수 있다면, 인간이 그들과 대화하는 AI와 다른 인간을 구별할 수 없다면, 우리는 그 기계를 지능이 있다고 정의하자"고 말했습니다.
그러나 매우 흥미로운 점은, 덜 주목받는 점은, 그는 "음, 당신은 이 문제를 어떻게 해결할 것인가? 답을 프로그래밍하는 것은 너무 어렵다. 다양한 질문에 답하기 위해 모든 규칙을 작성할 수 없다. 반대로, 만약 당신이 배울 수 있는 기계를 만들 수 있다면? 만약 당신이 그가 말하는 '어린이 기계'를 만들 수 있다면?"이라고 말했습니다. 그런 다음 당신은 그것을 가르칩니다. ------ 선생님이 보상과 처벌을 주면, 당신은 그것에 지능을 부여하고, 그것이 테스트를 통과하도록 도와줄 수 있습니다.
저는 이 아이디어에 깊은 충격을 받았던 기억이 납니다. 왜냐하면 프로그래머로서 문제 해결책을 깊이 이해해야만 진전을 이룰 수 있기 때문입니다. 제가 답을 모르는 문제가 너무 많고, 당신도 답을 모르는 문제, 아무도 해결책을 생각해내지 못한 문제들이 있습니다. 우리는 그것들을 위해 프로그램을 작성할 수 없습니다. 그러나 만약 당신이 우리가 이해할 수 없는 문제를 이해하고, 우리가 이해할 수 없는 해결책을 이해할 수 있는 기계를 가질 수 있다면요? 이것은 단순히 이미지 인식에 관한 것이 아닙니다. 비록 그것이 분명히 적용되기도 하지만요. 이것은 우리가 사회에서 더 잘 지내는 방법, 세상을 구축하는 방법, 우리가 창조한 이익이 결국 모든 사람에게 혜택을 줄 수 있도록 하는 방법과 관련이 있습니다. 이러한 것들은 매우 어려운 문제이며, 인간이 반드시 해결할 수 있는 능력을 가진 것은 아닙니다. 그러나 만약 기계가 이해할 수 있고, 더 많은 데이터를 볼 수 있으며, 여러 다른 분야에 대해 더 깊고 풍부한 종합적 이해를 가질 수 있다면, 아마도 그것은 우리가 할 수 없는 방식으로 이러한 문제를 해결할 수 있을 것입니다.
그래서 저는 이 아이디어에 깊은 영감을 받았습니다. 그러나 이것은 단지 아이디어일 뿐입니다. 제가 하버드에 들어갔을 때, 교수에게 "안녕하세요, AI 연구를 할 수 있을까요?"라고 물었던 기억이 납니다. 그들은 당시 자연어 처리의 최첨단을 보여주었습니다. 저는 그 당시 이것이 튜링이 말한 종류가 아니라는 것을 분명히 보았습니다. 그것은 하드 코딩된 것처럼 보였고, 파싱 트리와 같은 모든 것이었으며, AGI로 확장될 수 없었습니다.
하지만 2010년대 초반에 무언가가 변화하기 시작했습니다. 저는 외부에서 관찰하고 있었습니다. 2012년은 AlexNet이었고, 그 후 여러 다른 논문들이 나왔습니다. 저는 Hacker News에서 자주 보았고, 매일 새로운 "X를 위한 딥러닝"이 나오는 것 같은 느낌이 들었습니다. 저는 "딥러닝이란 무엇인가?"라고 생각했습니다. ------ 저는 deeplearning.org를 방문했는데, 거기에는 "딥러닝은 새로운 인공지능 방법이다"라고만 적혀 있었습니다. 그 당시 저는 이것이 무엇을 의미하는지 전혀 몰랐고, 사실 저는 그 분야의 한 사람만 알고 있었습니다. 그래서 저는 그들을 찾아가서 그 분야의 더 많은 사람들을 소개해 달라고 부탁했습니다. 그러고 나서 저는 대학에서 가장 똑똑한 친구들에게 계속 소개받았습니다. 그 당시 저는 "잠깐, 이건 흥미롭다. 이 사람들이 이걸 연구하고 있다. 이것은 실제로 매우 강력한 신호다"라고 생각했습니다.
그래서 2015년이 되었을 때, 저에게는 무언가 진짜가 일어나고 있는 것 같은 느낌이 들었습니다. 저는 AI 안전에 대해 진지하게 생각하는 데 많은 시간을 보냈고, 이러한 기술의 장기적인 미래가 무엇인지, 그것을 올바르게 만들기 위해 무엇이 필요한지에 대해 고민했습니다. 그 당시에는 더 철학적인 것이었습니다. 온라인에서 다양한 멋진 사고 실험을 찾을 수 있었고, 저는 Stripe에서 독서 그룹을 조직하여 매주 이러한 것들에 대해 논의했습니다. 그래서 이것은 제가 깊이 걱정하는 일이었고, 만약 제가 AI 발전에 조금이라도 도움이 될 수 있다면, 그것이 제 경력에서 할 수 있는 가장 좋은 일이 될 것이라고 생각했습니다.
모든 것은 2015년으로 향하고 있었습니다. 저는 Stripe에서 이정표에 도달했다고 느꼈고, 회사는 저가 있든 없든 계속 운영될 것입니다. 이것은 약간의 질문이었습니다. "저는 관리자 경로로 가고 싶습니까?" 이것이 다음 단계로 나아가는 데 필요한 것이거나, "저는 새로운 회사를 창립하고 싶습니까?" 이것은 항상 저를 자극해 왔습니다. 그래서 저는 그것이 제가 원하는 것이라고 결정했습니다. 제가 떠나려 할 때, 패트릭이 "왜 샘과 이야기하지 않습니까?"라고 말했습니다. 그는 몇 년 전에 저를 그에게 소개했습니다. 그는 "그는 비슷한 상황에 있는 많은 젊은이들을 만났으니, 아마 당신에게 조언을 줄 수 있을 것입니다"라고 말했습니다. ------ 그는 제가 남도록 설득해 주기를 바랐습니다. 결과는 그렇지 않았습니다.
(웃음) 네.
GB: 저는 샘과 만났고, 3분 안에 그는 "좋아요, 당신은 분명히 떠나고 싶어하고, 다음에 무엇을 할 계획인가요?"라고 말했습니다. 저는 "음, AI 분야에서 무언가를 할까 생각하고 있습니다"라고 말했습니다. 그는 "저도 AI 분야에서 무언가를 할까 생각하고 있습니다"라고 말했습니다. 그것이 시작이었습니다.
당시 당신은 비영리 조직의 전체 개념에 동의했나요? 당신은 설립 당시 이에 대해 어떤 생각을 했나요?
GB: 음, 비영리 조직이 되자는 생각은 샘이 제안한 것이며, 저는 그 안에 매우 중요한 속성이 많다고 생각합니다. 오늘날에도 여전히 맞는 것들이 있습니다. 우리가 구축하고 있는 기술은 지금까지 창조된 것보다 더 위대한 것이며, 전통적인 구조와 시스템을 초월합니다. 어떤 기존의 회사 구조도 우리의 사명과 우리가 필요한 작업을 완전히 포괄할 수 없습니다.
그래서 저는 그렇게 시작하는 것이 완전히 합리적이라고 생각하며, 실제로 사명을 실현하는 데 무엇이 필요한지에 대한 질문이 항상 존재해 왔습니다. 이것은 우리가 정말로 생각하는 데 오랜 시간을 보낸 것입니다. 저는 우리가 구조를 구축하는 데 있어 가장 혁신적인 회사라고 생각합니다. 이 구조는 상업적 발전, 이익 분배, 실제로 이러한 계산 주도 경제를 추진하는 모든 다양한 측면을 포괄해야 하며, 동시에 모든 것을 완료해야 합니다. 그래서 저는 이것이 항상 중요한 요소였고 여전히 우리의 작업의 핵심 부분이라고 생각합니다. 그러나 다시 말하지만, 저는 우리가 사명의 핵심을 둘러싼 회사 구조에 대해 많은 혁신을 이루었다고 생각하며, 이 사명은 변하지 않습니다.
네, 혁신은 하나의 표현입니다. 당신은 신용 카드 네트워크를 언급했습니다, 맞죠? 그것은 매우 불투명하고, 많은 것이 80년대의 것에서 비롯되었으며, 많은 경로 의존성이 있습니다. 이것은 Stripe에 기회를 주었습니다. 왜냐하면 당신은 모든 것을 추상화할 수 있기 때문입니다. 다른 사람들에게는 "이것은 사용할 수 있는 API입니다. 질문하지 마세요"라고 말할 수 있습니다. 이제 OpenAI를 되돌아보면------믿기 어려운 일이지만 벌써 10년이 지났습니다------OpenAI가 다른 방식으로 존재할 가능성이 있었나요? 그 안에도 그런 경로 의존성이 있었나요? 아니면 "내가 첫 원리에 돌아간다면, 나는, 그렉 브록맨, 내가 좋아하는 일을 하면서 이 구조를 매우 다르게 설계할 것인가?"라는 것이 존재했나요?
GB: 우리는 오늘날 이곳에 도달하기 위해 다른 어떤 방법도 없었다고 생각합니다. 우리가 도달해야 할 사명에 도달하기 위해서요.
ChatGPT와 OpenAI의 논란
ChatGPT의 출시와 관련하여 이야기해 주세요. 당신은 전환점을 경험했고, 확장이 필요하다는 것을 깨달았으며, 마이크로소프트와 협력하여 영리 부문을 추가한 후 ChatGPT가 등장했습니다. 그것은 매우 거대해졌습니다. 당신은 그것이 지금처럼 클 것이라고 예상했나요?
GB: 그래서 저를 놀라게 한 것은, 제가 예측한 것과는 달리 GPT-3.5가 사람들이 진정으로 사랑하고 원하는 것이 될 것이라는 것이었습니다. 그 당시 우리는 이미 GPT-4를 가지고 있었고, 그것은 8월경에 훈련이 완료되었습니다. 우리는 11월 말에 ChatGPT를 출시했습니다. 새로운 모델이 있을 때마다 항상 발생하는 일은 우리가 그것을 꽉 잡고 놓지 않는다는 것입니다.
이전 모델은 형편없어 보였습니다.
GB: 우리는 이전 모델의 결함만을 보고 있었습니다. 우리는 단지 "아, 이전 모델은 너무 나쁘다. 누군가가 그것을 사용하고 싶어할 것이라고 상상할 수 없다"고 생각했습니다. 우리는 약 200명의 테스터가 있었고, 우리는 그들이 사전 출시된 ChatGPT를 사용하도록 돈을 지불했습니다. 마찬가지로, 우리는 그들이 사용하는 것에 대해 돈을 지불해야 했습니다. 그래서 만약 당신이 깊이 파고들고 세부 사항에 주의를 기울인다면, 제품 시장 적합성의 징후가 있었지만, 거시적으로 보면 그것은 우리가 가지고 있는 것처럼 보이지 않았습니다.

하지만 그 당시 우리의 생각은 GPT-4가 분명히 세상을 바꿀 것이라는 것이었고, 우리는 그것을 알고 있었습니다. 처음 대화했을 때부터 매우 분명했습니다. GPT-4가 훈련을 마친 첫 주에, 그 현실을 느끼고 있었습니다. 우리는 AGI를 꿈꾸고, AGI에 대해 생각하고, 그것이 어떤 모습일지 상상해왔습니다. 하지만 기술을 처음 소유하게 되었을 때, 당신은 실제로 어떤 질문이든 물어볼 수 있고, 그것이 꽤 합리적인 답변을 줄 수 있다는 것을 느꼈습니다. 그것은 AP 생물학 시험에서 5점을 받았고------모든 것이 저에게는, 아, 뭔가가 달라질 것이라는 느낌이었습니다. 그것이 내일 세상을 바꿀지는 모르겠지만, 앞으로 몇 년 안에 이 기술은 확실히 그렇게 될 것이고, 지금 그것은 이미 현실입니다. 매우 분명합니다.
그래서 ChatGPT의 출시를 보았을 때, 그 당시 제 생각은 우리가 먼저 인프라를 구축해야 한다는 것이었습니다. 그래야 우리가 실전에서 검증된 LLM 서비스 인프라를 가질 수 있었고, 우리는 이미 많은 노력을 기울였습니다. 그리고 3월에 GPT-4를 출시했을 때------기억하실지 모르겠지만, 우리는 완료와 실제 출시 사이에 6개월의 지연이 있었습니다------그때 우리는 이미 준비된 인프라를 갖추고 있었습니다. 하지만 그것이 그렇게 빠르게 성장할 것이라고는 예상하지 못했습니다. 미래에 그렇게 될 것이라고는 예상했지만요.
그 시기는 어땠나요? 모든 사람이 서버가 다운되는 것을 방지하기 위해 전력을 다했나요?
GB: 아, 절대 그렇습니다. 그래서 우리는 이른바 저조도 연구 미리보기를 출시했는데, 결과는 기하급수적이었고, 상상할 수 있는 모든 시스템이 다운되었습니다. 우리의 로그인 시스템은 큰 병목 현상이 되었고, 우리는 로그인 시스템을 개선하기 위해 많은 작업을 해야 했습니다. 당신은 머리를 쥐어잡고, 우리는 이 놀라운 AI 기술을 구축하고 있는데, 병목 현상은 "당신의 로그인 시스템이 확장 가능합니까?"였습니다.
상당히 비효율적인 추론 커널이 생산 환경에 배포되었던 기억이 납니다. 저는 실제로 더 효율적인 것을 작성했거나, 연구 측면에서 더 효율적인 것들이 있었고, 그 중 하나의 중요한 작업은 "이 최적화를 실제로 채택하고 이전하는 것"이었습니다. 그래서 많은 사람들이 이 문제에 몰두하여 해결했습니다. 제가 생각하기에 첫날, 첫 주, 첫 달의 전반적인 상황은 모든 시스템을 확장하고 이 수요의 물결을 따라잡기 위해 노력하는 것이었습니다.
2023년 11월에 무슨 일이 있었나요?
GB: 매우 복잡한 답변입니다. 어디서부터 시작할까요?
모르겠습니다. 이 질문을 꼭 해야 할 것 같아요. 그와------당신이 그 후에 휴가를 갔던 것과 관련이 있나요?
GB: 들어보세요, 제가 말하고 싶은 것은, 최고 수준에서 보면, 2023년은 이미 축적된 긴장 관계가 존재한다는 것을 진정으로 보여주었습니다. 실제로는 인간 관계의 긴장입니다. 우리는 이전에 이를 충분히 예측하고 해결하지 못했습니다. 저에게는 이것이 OpenAI의 가장 중요한 교훈 중 하나입니다. 우리는 기술을 구축하고 있지만, 항상 사람에 관한 것입니다. 좋은 점이든 나쁜 점이든. 이는 인간 관계의 역학을 실제로 관리하는 것이 우리가 하는 일 중 가장 중요한 것 중 하나라는 것을 의미합니다. 만약 우리가 미리 해결하지 않거나 어려운 대화를 하지 않는다면, 그것이 문제가 될 수 있는 곳입니다. 그래서 저는 더 많은 세부 사항을 깊이 탐구하는 것을 기꺼이 원하지만, 제가 생각하기에, 만약 당신이 정말로 깊이 들어간다면, 많은 것들이 더 흥미로운 기술적 문제는 아닙니다.
이것은 ChatGPT의 예상치 못한 엄청난 성공과 얼마나 관련이 있나요? 이 둘 사이에 연결이 있나요, 아니면 당신은 이러한 긴장 관계가 어쨌든 폭발할 것이라고 생각하나요?
GB: 저는 직접적인 인과 관계가 있다고 생각하지 않습니다. 적어도 제 관점에서는 그렇지 않습니다. 어느 정도는, 아마도 잠재적인 주제가 있을 수 있습니다. 기술이 발전함에 따라 모든 사람이 세상의 무게를 느끼고, 그 이해관계를 느끼고 있습니다.
실제로 가장 어려운 것 중 하나는 어떻게 앞으로 나아갈 것인가입니다. 저에게는 제가 항상 언급해온 것이 있습니다. 우리의 일상 활동은 거의 다른 회사들과 비슷해 보입니다. 당신은 여전히 어떤 기본 문제를 디버깅하고 있고, 누군가는 다른 사람이 한 말이나 회의에 참석하지 못한 것 때문에 다른 사람에게 화를 내고 있습니다. 이것은 단지 인간의 요소, 인간의 작업입니다. 하지만 물론 그 안의 이해관계는 매우 큽니다.
그래서 저는 OpenAI에서 몇 가지 매우 중요한 일이 있다고 생각합니다. 실제로 제가 특별히 주목하는 큰 일 중 하나는, 사람들을 세상의 무게를 느끼고 고립된 상태로 두지 않기 위해 진정으로 노력하는 것입니다. 진정으로 팀으로 함께 하는 것이 중요합니다. 저는 이것이 아마도 제가 그 사건들과 관련하여 하고 싶은 말입니다------그 사건들에 국한되지 않지만, OpenAI 발전 과정에서 지속적인 주제입니다------우리가 함께 이 일을 하고 있다는 느낌을 유지하고, 도전에 맞서면서도 모든 기본 작업을 잘 수행하도록 노력하는 것입니다. 이것이 우리가 나아가는 방식이라고 생각합니다.
네, 제 말은, 당신은 항상 매우 긍정적인 옹호자였고, 저는 이것이 OpenAI의 전반적인 이념 중 하나라고 생각합니다: 세상을 향해 나아가고, 실험하고, 무슨 일이 일어나는지 보고, 그에 따라 반응하는 것입니다. 경험적 증거에 기반하여 결정을 내리는 것이지, 미래에 대한 이론적 추론을 하는 것이 아닙니다. 저는 여러분이 AI에 대해 많은 이러한 이념을 설명했다고 생각하지만, 제 질문은, 당신도 어느 정도 언급했듯이, OpenAI라는 조직 자체가 조정되고 있는 대규모 실험이라는 느낌이 듭니다. 부정적인 해석은, 그것이 단순히 앞뒤로 흔들리고, 여기서 재편성하고, 저기서 새로운 리더십으로 바꾸는, 다루기 힘든 거대한 존재처럼 보인다는 것입니다. 아니면 그것이 사람들이 생각하는 것보다 더 체계적이고 더 탄력적일 수 있나요? 당신이 되돌아볼 때, 다른 방법이 없다고 말할 수 있나요? 만약 다른 방법이 있었다면 더 나았을까요?
GB: 첫째로, 우리는 정말로 출발점에서 엄청난 변화와 성장을 겪었습니다. 운영 비즈니스는 완전히 다릅니다. 하지만 우리는 이 분야를 발전시키는 데 항상 선구자였습니다. 이는 안전 측면, 핵심 기술, 그리고 실제로 이익 분배를 생각하는 측면에서 모두 그렇습니다. 우리는 처음부터 모든 분야에 집중해 왔고, 결과는 확실히 모든 것을 말해줍니다.
지금, 이러한 변화는 실제입니다. 그리고 때때로 한 단계에 적합한 팀이 다음 단계에 적합하지 않을 수 있습니다. 올해 제가 매우 주목하고 있는 것 중 하나는 다음 단계와 우리가 함께 이룰 수 있는 것에 대해 매우 흥미로운 리더십 팀을 구축하는 것입니다. 그래서 2026년의 주제는, 아마도 이전과 비교할 때의 변화는, 이 분야에 너무 많은 사람들이 있고, 해야 할 일이 너무 많으며, 기술 발전이 너무 빨라서, 우리는 계산 능력에 심각하게 제한을 받고 있다는 것입니다. 당신은 집중해야 합니다. 당신은 정말로 간소화해야 합니다. 당신은 협력할 수 있는 분야를 선택해야 합니다.
그래서 실제로 몇 가지 결정을 내려야 합니다. 예를 들어, "이봐, 소라, 놀라운 기술이지만, 더 오락적인 소비자 분야에 속합니다. 우리의 다른 우선 사항과 비교할 때, 우리는 그것을 우선시할 수 없습니다."라고 말하고, 우리는 그것을 취소할 것입니다. 이것은 하류에 영향을 미치고, 고통스러울 것이며, 이러한 결정을 내리는 것이 어렵지만, 모든 것은 그 긴밀한 집중을 유지하기 위한 것입니다. 그래서 우리는 핵심 임무를 완수할 수 있습니다.
당신은 확장성에 대해 매우 믿고 있으며, OpenAI 자체는 확장 가능한가요?
GB: 저는 그것이 역사상 가장 확장 가능한 비즈니스일 수 있다고 믿습니다. 네.
저는 내부적으로, 조직으로서의 확장성에 대해 말하는 것입니다. 무엇이 확장 불가능한가요? 우리는 계산, 데이터에 대해 이야기했으며, 당신은 이전에 인간 요소에 대해 언급했습니다. 궁극적인 정렬 도전------우리는 정렬이 AI가 우리가 원하는 일을 하도록 만드는 것이라고 생각합니다------하지만 당신은 반대의 도전에 직면하고 있습니까? 당신은 관리의 관점에서 이 분야와 이 문제를 따라잡을 수 있습니까?
GB: 두 가지 답변이 있다고 생각합니다. 첫째로, 절대적으로 그렇습니다. 우리는 지난 몇 년 동안 조직으로서 얼마나 성숙해졌는지를 볼 수 있습니다. 몇 년 전 우리는 많은 관리 부채를 가지고 있었습니다. 마찬가지로, 많은 분야에서 우리는 성장하고 성숙해야 한다고 생각하지만, 우리는 이 작업을 완료했다고 생각합니다. 이는 매우 어렵고 고통스러웠지만, 우리는 지금 훨씬 더 좋은 위치에 있다고 생각하며, 회사와 그 미래에 대해 매우 흥분하고 있습니다.
하지만 두 번째로, 저는 회사 운영 방식이 변화하고 있다는 것을 인식하는 것도 중요하다고 생각합니다. 예를 들어, 인당 수익을 살펴볼 수 있습니다. 우리는 유사한 비즈니스와 비교할 때 인당 수익이 천문학적입니다. 그 이유가 있습니다. 당신은 이 기술을 통해 이러한 증가된 레버리지를 얻을 수 있다는 것을 보기 시작합니다. 그리고 우리가 이 기술을 만들고, 이 기술을 널리 사용할 수 있도록 노력하고, 많은 회사들을 도우면서, 많은 다른 회사들이 다른 방식으로 운영할 수 있게 되고, 그런 초과 인당 수익을 가질 수 있게 됩니다.
저에게는 이것이 매우 흥미롭습니다. 우리는 회사를 운영하는 것이 무엇을 의미하는지, 그리고 어떻게 작동하는지를 변화시키고 있습니다. 그래서 어떤 것들은 변하지 않으며, 단지 사람들이 함께 일하는 것입니다------거기에는 몇 가지 매우 기본적인 것이 있으며, 이를 잘하고 일관되게 수행하는 것이 제가 항상 주목해온 것입니다. 하지만 저는 또한 우리의 기술 가능성을 활용하는 것에 대한 문제도 있다고 생각합니다. 이는 모든 회사가 새로운 기회를 가질 것임을 의미합니다.
생산성과 AGI
당신은 Sora를 취소하고 소비자 오락 측면으로 위치시켰다고 언급했습니다. ChatGPT는 엄청난 소비자 성공을 거두었고, 당신은 소비자로부터 믿을 수 없을 정도의 돈을 벌었습니다. 하지만 결국, 얼마나 많은 사람들이 이를 위해 비용을 지불할 의향이 있나요? 얼마나 많은 고객이 실제로 생산성을 높이고 싶어하나요? 소비자 시장에서 이렇게 큰 성공을 거두는 것이 거의 부정적인 영향을 미치나요? 왜냐하면 그것이 주의를 분산시키고, 많은 GPU를 차지하며, 아마도 당신들이 놓쳤기 때문입니다------놓친 것은 아니지만------기업이 주요 초점이 되는 데 늦게 시작했나요?
GB: 우리는 내부적으로 종종 이러한 대화를 나누며, 실제로 저는 이것이 OpenAI의 장점 중 하나라고 생각합니다. 우리는 우리가 하는 모든 것을 첫 번째 원칙에서 바라보고, 끊임없이 재고하며, 많은 다양한 관점과 시각을 가지고 있습니다. 어떤 사람들은 거의 모든 각도에서 논증할 수 있으며, 그들 각자는 자신의 주장을 가지고 있습니다. 그래서 "이 에이전트 순간이 있을 때, 우리는 반응이 느렸다"는 말에는 일리가 있습니다.
하지만 실제로는 10억 명이 있습니다------이는 세계 인구의 10%를 초과합니다. 미국에서는 매주 약 3분의 1의 사람들이 ChatGPT를 사용하고 있다고 생각합니다. 매주 이렇게 많은 사람들이 당신의 시스템을 사용하고 있다는 것은 독특하며, 이러한 첨단 기술에 대한 유사한 것은 없습니다.
그래서 한편으로, 만약 당신이 단순히 "우리는 첨단 기술을 가지고 있다"고 본다면, 채팅이라는 제품의 도전은 그것이 반드시 더 스마트한 모델과 일치하지 않는다는 것입니다. 만약 당신이 그것을 단순히 검색 엔진의 대체품으로 본다면, 사람들이 전통적인 채팅을 통해 이러한 이점을 직접 얻을 수 있을지는 불확실합니다. 하지만 저는 모든 것이 함께 모여 정점에 도달할 것이며, 우리는 이 10억 사용자들이 투자이며, 미래 모델을 여는 방법의 실제 축적이라는 것을 보게 될 것이라고 생각합니다. 당신은 ChatGPT Work와 같은 것을 통해 그 첫 단계를 보고 있으며, 그 안에는 많은 미세한 차이와 복잡성이 있지만, 많은 전략은 "우리는 소비자와 기업이 있으며, 이는 두 가지입니다------우리는 두 가지를 하고 싶지 않습니다. 우리는 한 가지를 하고 싶습니다. 우리는 AGI, 하나의 시스템, 하나의 통합 스택을 구축하고 싶습니다. 우리는 그것이 개인 생활과 직장 생활 모두에서 사용할 수 있는 것이기를 바랍니다."라고 말해왔습니다.
그렇지만 이것이 내부 조직 구조에 대한 문제와 관련이 있나요? 당신은 새로운 ChatGPT를 출시했으며, 이전 버전과는 큰 차이가 있습니다. 그것은 Codex를 기반으로 구축되었습니다. 저는 OpenAI 내부의 이점이 보이지만, 고객들은 자신이 무엇을 할 수 있는지 인식하지 못해 좌절감을 느낄까요? 그래서 "우리는 그들을 직접 깊은 물에 던져서 그들이 스스로 알아내기를 바란다"는 것인가요?
GB: 저는 산업이 근본적인 변화를 겪고 있다고 생각합니다. 현재 등장하고 있는 새로운 에이전트 제품에서 이를 볼 수 있습니다. 제가 생각하기에 핵심 변화는 당신이 채팅에서 에이전트 사용 사례로 전환하고 있다는 것입니다. 다시 말하지만, 이는 단순히 생산성과 관련된 것이 아닙니다. 당신의 개인 생활에서, 당신은 이 것이 당신을 위해 티켓을 예약하고, 미용실 예약을 해주고, 그런 개인적인 일을 해주기를 원합니다. 하지만 당신은 또한 그것이 당신에게 좋은 생활 조언을 주고, 건강 정보를 처리하는 데 도움을 주기를 원합니다.

그래서 저에게 생산성이라는 단어는 너무 좁습니다. 소비자라는 단어는 너무 광범위합니다. 기업도 제가 변할 것이라고 생각하는 것입니다. 이 모든 고전적인 용어들은 어떤 전례 없는 제품 구축 방식으로 융합되고 얽힐 것입니다. 그래서 제 의견은 여기에서 변화 관리가 필요하다는 것입니다. 즉, 어떻게 10억 사용자를 새로운 사용 사례 집합으로 안내하고 그들이 이해하도록 도울 것인가입니다. 그리고 덧붙이자면, "불공정한 이점"이 존재할 가능성이 있습니다. 그것은 당신이 당신이 무엇을 이루려고 하는지를 이해하는 AI를 가지고 있다는 것입니다.
맞습니다.
GB: 그것은 "오, 만약 당신이 이 커넥터를 활성화하고 이렇게 하면, 사실 제가 더 많은 도움을 줄 수 있습니다"라고 말할 수 있습니다. 제게는 이것이 놀라운 일이며, 엄청난 기회라고 생각합니다. 그곳에는 큰 잠재력이 있습니다. 제가 "불공정"이라고 말할 때, 그것은 당신이 고전 기술로 할 수 있는 것에 비해 상대적이라는 의미입니다. 만약 당신이 단순히 한 기술과 다른 기술을 비교한다면, 이 기술은 약간의 독특함이 있습니다.
당신은 이전에 튜링 관점을 언급했는데, 두 부분을 언급해 주셔서 기쁩니다. AI가 사람처럼 말할 수 있을까요? 분명히 우리는 그 지점을 오래 전에 넘어섰습니다. 하지만 저에게 AGI의 정의는------이것은 여러분에게는 골치 아픈 문제일 것이라고 생각합니다. 마침내 여러분이 마이크로소프트와의 계약에 얽매이지 않게 되었으니, 우리는 그 관점에 대해 걱정할 필요가 없습니다------저에게는 그것이 학습과 어떤 연관이 있습니다. 당신은 학습을 언급했고, LLM이 얼마나 학습했는지(과거 시제) 언급했지만, 도전은 그것이 지속적으로 학습하는지(현재 진행형)입니다.
저에게는 에이전트 순간의 혁신적인 점이, 그것이 실제로 일을 기록할 수 있다는 것입니다. 이것이 Codex/ChatGPT의 변환 필요성입니다. 왜냐하면 그것이 일을 기록할 수 있는 능력을 얻었기 때문입니다. 만약 당신이 기록할 수 있다면, 당신은 일을 기억할 수 있습니다. 만약 당신이 일을 기억할 수 있다면, 당신은 여러 면에서 매우 유용해질 수 있습니다. 문제는 이것이 최종 상태인지, 아니면 우리가 지속적으로 학습할 수 있는 LLM을 얻을 것인지, 그리고 그것이 AGI인지입니다. 제가 틀렸나요, 아니면 이것이 튜링 문제의 두 번째 부분과 일치하나요?
GB: 네, 저는 이것이 매우 흥미로운 논쟁의 영역이라고 생각합니다. 왜냐하면 사람들은 실제로 AGI에 대한 자신의 정의를 가지고 있기 때문입니다. 그것은 거의 모호한 것입니다. 처음에는 우리는 이 시점이 AGI라고 모두가 동의할 것이라고 생각했지만, 상황은 전혀 그렇게 발전하지 않았습니다.
이제 저는 기술에서 관점을 추상화하는 경향이 있습니다. 그래서 기억이 가중치에 통합되어야 하는지에 대한 질문이 있습니다. 이것은 Transformer인가요, 아니면 다른 것인가요? 이러한 질문은 세부 사항이라고 생각합니다. 진정한 문제는 당신이 진정한 AI에 대한 기대에 따라 작동하는 시스템을 가지고 있는가입니다. 학습할 수 있고, 당신에게 학습할 수 있으며, 당신의 요구에 적응할 수 있는 시스템입니다. 그리고 이 문제는 그것이 메모리에 기록되는 노트북을 통해 실현되는 것인가요? 소프트 토큰을 통해 실현되는 것인가요? 아니면 다른 방식으로 실현되는 것인가요?
이 모든 것은 저에게 문제의 가능한 답변처럼 느껴집니다. 우리는 "노트북에 기록하기"라는 측면에서 합리적인 예상보다 훨씬 더 멀리 나아갔다는 것이 분명합니다. 그것이 이렇게 성공적으로 진행된 것을 보는 것은 놀랍습니다. 왜냐하면 2년 전, 우리는 "네, 당신은 이러한 긴 맥락이 필요합니다. 그것이 당신이 필요한 것입니다"라고 말할 수 있었지만, 실제로는 "노트북에 기록하기"와 짧은 맥락만으로도 믿을 수 없을 만큼 멀리 나아갔기 때문입니다.
그냥 기록하세요.
GB: 그래서 우리는 미래에 이러한 측면을 개선하는 것이 무엇을 가져올지 지켜볼 것입니다. 저는 거시적으로 볼 때 모든 것이 기하급수적이라고 믿습니다. 확대해 보면 이러한 패러다임 전환을 볼 수 있습니다. 덧붙이자면, 이것은 레이 커즈와일이 기술과 컴퓨팅이 어떻게 작동하는지에 대한 관점입니다. 저는 기억이 어떻게 작동할 것인지에 대한 질문에서도 이것이 절대적으로 맞다고 생각합니다.
Astra
그래서 당신은 방금 Astra를 발표했습니다. 우리는 마침내 본론에 들어갔습니다. 이것은 새로운 사전 훈련 모델인가요? 크기와 구조에 대한 어떤 세부 정보를 발표할 계획이 있나요? 우리는 공식 발표 전에 이 녹음을 녹음하고 있으므로, 제가 당신이 발표한 모든 내용을 보지 못했습니다.
GB: 음, 우리는 내부 세부 사항과 구조 등에 대해 논의하지 않을 것입니다. 하지만 이것은 엄청난 발전입니다. 우리는 이것이 우리가 훈련한 첫 번째 10만 개 이상의 GPU를 사용하는 운영이라고 말하고 있습니다. 이는 쉽게 말할 수 있는 숫자이지만, 그 규모를 생각해 보세요. 이러한 데이터 센터는 AI 기술을 제공하고 창출하는 데 도움을 주기 위해 구축된 거대한 기계입니다. 그렇게 많은 계산 능력을 활용하여 우리가 얻은 결과를 제공하는 것은 진정한 엔지니어링 도전과 기적입니다.
그래서 그 일부는 모델을 더 강력하게 만드는 것과 관련이 있지만, 그렇게 많은 계산 능력이 안전성과 정렬을 위해 사용되고 있습니다. 우리는 이 부분에서 많은 안전 작업을 수행했습니다. 저는 우리가 이 모델을 안전하게 제공하기 위해 많은 작업을 했다고 생각합니다. 이것은 지금까지 우리가 가장 잘 정렬된 모델이며, 저에게는 절대적으로 중요합니다. 그리고 항상 그랬습니다. 하지만 능력이 이렇게 강력하기 때문에, 정렬과 안전이 모든 사람의 작업에서 더욱 두드러지고 중심이 되었습니다.
당신의 발표 게시물은 흥미롭습니다. 매우 실용적입니다. 많은 실제 사용 사례가 있습니다. 당신의 경쟁자의 발표와 비교할 때, 매우 큰 대조를 이룹니다. 당신은 AI를 도구로 포지셔닝하고 있습니다------저는 이것이 공정한 표현이라고 생각합니다------이것은 마케팅과 관련이 있나요, 아니면 당신이 AI를 그렇게 보는 것인가요, 신을 창조하는 것과 같은 것이 아니라?
GB: 저는 우리가 가지고 있는 깊은 기본 가치관이 있으며, 그 중 일부는 실제로 우리가 사람을 어떻게 보는가와 관련이 있습니다. 사람은 단순히 우리가 작업을 완료할 수 있기 때문에 가치가 있는 것이 아닙니다. 우리는 존재하기 때문에, 감정을 가지고 있기 때문에, 중요하기 때문에 가치가 있습니다. 인간의 판단, 인간의 감독, 인간의 통제는 모두 절대적으로 유지되어야 하며, 영원히 유지되어야 합니다. 이것은 우리가 믿는 핵심 불변의 부분입니다.
그래서 우리가 이 기술의 미래를 안내하기 위해 무엇을 할 수 있을지 생각할 때------어떤 면에서는 이것이 모든 것의 의미이며, 우리가 이곳을 설립한 이유이며, 우리가 관심을 가지는 이유입니다. 우리는 이 기술이 우리가 없던 때보다 조금 더 긍정적인 방향으로 나아가도록 돕고 싶습니다------우리는 이러한 문제를 생각합니다. 이 기술이 세상에서 어떻게 펼쳐질 것인지에 대해. 우리는 그것이 모든 사람을 향상시키기를 바라지만, 또한 인간이 기술, 컴퓨터와 어떻게 상호작용하는지와 관련이 있습니다. 그것은 분명히 변화하고 있습니다. 단순히 타이핑을 줄이고, 컴퓨터와 더 많이 대화하며, 더 자연스러운 인터페이스를 갖는 것에서도 변화하고 있습니다.
하지만 진정한 인간의 감독, 창의성 및 비전은 모두 매우 중요하며 보존되어야 한다고 생각합니다. 그래서 이것은 이러한 문제에 스며들 것입니다: 당신은 그것을 사람으로 이야기하고 있습니까, 아니면 도구로 이야기하고 있습니까? 당신은 사용 사례를 고려하고 있습니까? 아니면 다른 방식으로 그것을 생각하고 있습니까? 당신은 이것을 거의 사소한 일로 볼 수 있지만, 사실 저는 당신이 그것을 지적해 주셔서 기쁩니다. 하지만 이것은 우리가 매우 깊이 생각한 문제입니다. 팀은 우리가 이야기하고 싶은 모든 것과 우리가 세상에 이러한 작업을 어떻게 보여줄 것인지에 대해 많은 시간을 들여 진지하게 생각했습니다.
그래서 이것은 모델 출시인가요, 아니면 제품 출시인가요, 아니면 차이가 있나요?
GB: 이러한 것들은 실제로 통합될 것입니다. 저는 이것이 우선 모델 출시라고 말할 수 있지만, 그 모델은 품질 면에서 더 강력합니다. 아마도 헤드라인은 컴퓨터 사용입니다. 그것은 정말로 제 기준을 넘어섰습니다. 컴퓨터 사용은 항상------OpenAI가 설립된 초기부터, 제가 2015년 11월에 기억하는 것처럼, 그것이 실제로 시작되기 전까지------
음, 그것은 당신들의 첫 번째 제품과 같았죠? 비디오 게임을 하는 것과 같은.
GB: 네, 맞습니다. 아, 당신이 기억하네요, 네. 우리는 비전을 가지고 있었습니다. 만약 당신이 화면 픽셀, 키보드, 마우스를 처리할 수 있다면, 엔드 투 엔드로 AI를 훈련시켜서, 그것이 실제로 어떤 종류의 작업이든 처리할 수 있도록 할 수 있을 것입니다. 사람들이 도움을 받을 수 있도록 하는 모든 것을 이 AI가 할 수 있습니다.
지난 2년을 돌아보면, 그것은 커넥터 시대였습니다. 당신은 일부 소프트웨어를 가지고 있지만, 인간은 그것을 잘 사용할 수 있지만, AI는 그것에 접근할 수 없습니다. 그럼 당신은 어떻게 해야 하나요? 당신은 API에 연결하기 위해 매우 구체적인 커넥터를 작성해야 합니다. 모든 것이 노출되는 것은 아니기 때문에, 당신은 당신이 할 수 있는 모든 것을 할 수 없습니다. 그런 다음 API가 없는 소프트웨어가 그렇게 많다는 것을 생각해 보세요. 그것들은 완전히 접근할 수 없습니다.
그래서 우리는 제한된 세계에 살고 있으며, AI는 당신을 도와주는 데 큰 제약을 받고 있습니다. 저는 우리가 이제 거의 범용 커넥터 기술을 가지고 있다고 생각합니다. 지금, 이것이 모든 문제를 해결한다는 의미는 아닙니다. 당신은 이러한 AI의 행동을 둘러싸고 기업의 경계를 설정하는 방법을 고려해야 합니다. 당신은 적절한 감독, 관리, 추적 및 관찰 가능성을 어떻게 갖출 것인가요? 이 모든 것에 대해 우리는 노력하고 있습니다.
그래서 저는 이것이 이 능력을 활용하기 위해 제품이 어떻게 펼쳐지는지에 대한 지속적인 과정이라고 생각합니다. 하지만 그것은 OpenAI 내부에서 사람들의 작업 방식을 변화시키고 있으며, 저는 그것이 정말로 많은 기업과 많은 개인을 향상시킬 것이라고 생각합니다.
AI 가치 사슬
전체 가치 사슬을 고려할 때, 당신은 두 개의 전선에서 싸우고 있는 위치를 볼 수 있습니다. 하나는 마이크로소프트와 같은 회사나 다른 파트너가 있습니다------그들의 이름을 원하지 않으신다면, 그들은 여전히 중요한 파트너이기 때문입니다------하지만 그들은 모델을 상품화하고 싶어합니다. 그들은 최상위에서 무언가를 구축하고, 당신이 즉시 사용할 수 있도록 하기를 원하며, 그들은 모든 맥락과 중요한 것을 장악하고 있습니다. 하지만 동시에, 당신은 이러한 믿을 수 없는 능력을 구축하고 있으며, 이 능력은 궁극적으로 최종 사용자와 밀접하게 연결되어 있습니다. 그것은 단순히 당신이 원하는 일을 하도록 하는 것입니다. 이것이 당신이 목표를 달성하기 위해 도달해야 하는 곳이 불가피한 것인가요? 또한 경제적인 필요성도 있나요------우리가 상품화되고 싶지 않다면, 우리는 제품으로 올라가고 사용자와 직접 연결해야 할까요?
GB: 저는 우리의 근본적인 사명이 세상에 더 많은 AI 능력이 있기를 바라는 것이라고 말할 수 있습니다. 우리는 사람들이 AI를 더 많이 사용하여 더 많은 일을 하기를 원하며, 그것이 그들을 돕기를 바랍니다. 우리는 정말로 이 계산 주도 경제를 추진하고 있다고 생각합니다. 이는 다양한 수직 분야에서 다른 형태를 취하는 것을 의미합니다.
때때로 우리는 특정 분야에 진정으로 집중하고 잘 할 수 있는 위치에 있다고 느낍니다. 또는 그것이 우리의 사명에 매우 핵심적입니다. 건강은 좋은 예입니다. 우리는 건강 분야에서 매우 독특한 것을 구축하고 있습니다. 실제로, 제가 놀라운 것은 우리가 건강 분야에서 하는 일이 실제로 얼마나 많은 사람들을 도왔는지에 비해 보도가 그렇게 적다는 것입니다. 우리는 매주 약 3억 명이 ChatGPT를 사용하여 건강 관련 질문을 하고 있습니다. 3억 명, 이는 엄청난 숫자입니다. 그리고 우리는 임상의사를 위해 하향식 제품을 구축하고 있으며, 병원을 위해 상향식 기업 제품도 구축하고 있습니다. 그래서 우리는 건강 분야에서 삼각 시장을 가지고 있으며, 우리가 할 수 있는 일에는 예를 들어, 임상 시험을 위한 사람을 모집하는 것이 포함됩니다------이는 어려운 문제지만, 우리는 실제로 찾지 못할 사람들을 찾는 데 도움을 줄 수 있는 능력이 있을 수 있습니다. 이는 환자에게도 도움이 되고, 이러한 약물이 더 빨리 진행되도록 도울 수 있습니다.
그래서 여기에는 핵심이 있습니다. 건강은 우리의 사명에 매우 중요하며, 우리는 독특한 성공 기회와 독특한 기회를 가지고 있습니다. 우리는 진정으로 그것에 집중하기 위해 팀을 구성하고 모든 에너지를 쏟았습니다.
우리가 특정 수직 분야에 진입할 때, 우리가 하는 일 중 하나는 생태계와 잘 협력하는 방법을 생각하는 것입니다. 이것은 우리가 그곳에서 경쟁하지 않을 것이라는 의미는 아닙니다------우리는 종종 매우 열심히 경쟁합니다------하지만 우리는 또한 모든 참여자를 향상시킬 것이라고 진정으로 믿습니다. 그리고 우리는 이 핵심 사명에 진정으로 집중하고 있습니다. 즉, 우리가 이 기술을 가지고 있으며, 우리는 그것이 널리 퍼지기를 원하고, 우리가 원하는 곳에 존재하기를 원합니다. 그래서 때때로 상황이 약간 미묘할 수 있습니다. 우리가 특정 분야에 진입할 때, 우리가 정확히 무엇을 하고 싶은지, 우리가 할 수 있는 것과 할 수 없는 것에 대한 많은 질문이 항상 있습니다. 하지만 저는 우리가 이 문제를 바라보는 방식이 OpenAI의 전체 목표가 더 많은 사람들이 긍정적인 방식으로 AI를 사용하는 것에서 이익을 얻는 것이라고 생각합니다.

음, 만약 당신이 위쪽에 상품화하려는 층이 있다면, 아래쪽 층을 상품화하려고 시도하고 있을 가능성도 있습니다. 여러분은 방금 Hot Chips에서 여러분의 할라피뇨 칩에 대해 더 많이 이야기했습니다. 왜 할라피뇨가 중요합니까? 그것이 단지 칩 구매에서 비용을 절감하기 위한 것인가요?
GB: 저는 그것을 2017년 이후로, 우리가 기본적으로 모든 하드웨어 스타트업과 모든 공급업체와 연결되어 있다고 생각합니다. 우리는 그들과 대화하고 피드백을 주며, "이 모델의 발전 방향이 이렇게 되고 있으니, 우리는 당신이 이렇게 해야 한다고 생각합니다"라고 말합니다. 때때로 그들은 우리의 말을 듣고, 때때로 듣지 않으며, 때로는 우리는 친밀한 파트너가 되고, 때로는 그들이 우리와 이야기하고 싶어하지 않습니다.
내부 칩 프로젝트를 보유하는 것에 관해서는, 우리가 가장 좋은 것을 추구할 수 있는 매우 자유로운 점이 있습니다. 우리는 현재 하고 있는 것뿐만 아니라, 이 기술의 발전 방향에 맞게 조정된 것이라고 생각하는 것을 추구할 수 있습니다. 이는 매우 큰 투자입니다. 우리는 믿을 수 없을 정도로 훌륭한 팀이 있으며, 그들은 오랫동안 이 일을 해왔습니다. 하지만 동시에, 이것은 우리가 생태계와 긴밀히 협력하는 부분이기도 합니다.
우리는 엔비디아와 우리의 선호하는 컴퓨팅 파트너로서 긴밀히 협력하고 있으며, 우리가 구축하고 있는 컴퓨터의 규모와 독특함을 살펴보면, 우리는 엔비디아가 필요하다는 것은 의심의 여지가 없습니다. 우리는 이러한 놀라운 훈련 컴퓨터를 구축하고 있으며, 그것들을 사용하여 많은 추론을 수행하고 있습니다. 우리는 그들의 하드웨어를 그들조차 인식하지 못하는 방식으로 추진할 수 있습니다.
네, 제가 듣기로는 약간 어렵다고 하더군요. 아마도 이것이 제시간에 매우 큰 모델을 출시하는 것을 더 어렵게 만들었을 것입니다. 하지만 지금은 잘 작동하고 있다고 생각합니다.
GB: 네, 맞습니다. 제가 말하고 싶은 것은, 내부 전문 지식을 보유함으로써 우리는 어떤 일을 할 수 있다는 것입니다. 우리는 사물을 깊이 이해하고 있습니다. 외부에서 제안을 던지는 것은 한 가지이고, 실제로 고통을 겪어본 것은 또 다른 것입니다.
이와 관련된 좋은 예는 AI가 칩 설계에 사용되는 것입니다. 우리는 이 문제에 대해 이야기했으며, 우리는 할라피뇨의 설계에서 우리의 모델을 사용했습니다. 그것은 실제로 속도를 높이고, 우리에게 진정한 승리를 가져다주었으며, 모든 멋진 것들을 가져왔습니다. 그런데, 그곳에는 멋진 이야기가 있습니다. 우리는 마감일이 다가오고 있었고, 약 한 달이 남았을 때, 우리의 모델을 통해 몇 가지 최적화를 얻었습니다. 우리는 "우리가 시간을 들여서 그것이 무엇을 했는지 정말 읽어야 할까요? 우리는 그것이 맞다는 것을 알고 있습니다. 우리는 그것이 어떤 최적화를 했는지 정확히 이해해야 할까요, 아니면 남은 시간을 더 많은 최적화를 하는 데 쓸까요?"라고 생각했습니다. 그래서 우리는 "알겠어요, 우리는 그냥 더 많은 최적화를 하기로 하죠"라고 말했습니다. 그래서 우리는 그 한 달 동안 그것을 실행하는 데만 시간을 보냈고, 그것이 한 모든 조정에 대해 깊이 이해하지 않았습니다. 그리고 나서 우리는 그것을 다시 읽어보았고, 결과적으로 그것이 우리 목록에 이미 있었던 많은 최적화를 찾았다는 것을 발견했습니다. 하지만 우리는 그것을 결코 하지 않았습니다. 그래서 그것은 실제로 꽤 멋진 이야기입니다.
하지만 이제 우리는 그런 전문 지식을 가지고 있으며, 우리는 이 것이 효과적이라는 것을 알고 있습니다. 우리는 그것을 생태계에 가져갈 수 있습니다. 우리는 모든 사람과 긴밀히 협력하여 이러한 이점을 널리 가져오고, 하드웨어를 변화시키고, 대규모로 적용할 수 있습니다. 그래서 그 플라이휠에 대해 몇 가지 절대적으로 중요한 것이 있습니다. 칩은 믿을 수 없고, 팀은 잘하고 있습니다.
하지만 대량 출하를 할 수 없고, 여전히 생태계의 다른 사람들과 협력하여 필요한 공급을 얻어야 할 때, 지금 그것에 대해 이야기하는 것이 문제가 될까요?
GB: 음, 하지만 이것이 핵심입니다. 이것이 실제로 모든 것의 핵심입니다. 우리는 그것이 곱셈 효과라고 생각합니다. 모든 것이 상호 보완적이며, 모든 것이 합쳐집니다. 다시 말하지만, 엔비디아는 우리의 선호 파트너이며, 이는 변하지 않을 것입니다. 사실, 우리는 그들과 더 긴밀히 협력하고 있습니다. 우리는 이 협력 관계에 깊이 감사하며, 우리는 그들의 팀과 함께 많은 시간을 보냈고, 그들로부터 많은 것을 배웠습니다. 우리는 그들이 우리로부터도 무언가를 배울 수 있기를 바랍니다. 저는 이것이 변하지 않을 것이라고 생각합니다. 우리는 내부 전문 지식을 보유하고 있으며, 우리 방식으로 문제를 생각할 수 있습니다. 저에게는 이것 또한 곱셈 효과이며, 이는 모든 사람에게 진정으로 혜택을 줍니다.
사이버 보안
당신은 방금 AI 설계를 신뢰한다고 언급했습니다. 그것이 당신을 더 멀리 나아가게 하나요? 이것이 사이버 보안의 답변인가요? 여러분의 몇몇 엔지니어가 블랙햇 컨퍼런스에서 이 구조적 문제에 대해 발표했으며, 공격자는 무언가를 파괴하는 것에 대해 걱정할 필요가 없고, 그들의 목표는 무언가를 파괴하는 것이라고 말했습니다. 방어 측에서는 이러한 공격을 저지하는 것 외에도 모든 것이 계속 작동하도록 걱정해야 합니다. 방어 측이 AI를 완전히 신뢰해야 할 필요가 있을까요?
GB: 저는 하드웨어 측면이 매우 중요한 사례 연구라고 생각합니다. 왜냐하면 그곳에는 보호 장치가 있기 때문입니다. 우리는 검증이 있으며, 실제로 우리는 기본 하드웨어 설계를 작성하는 방식을 검증을 허용하기 위해 특별히 설계했습니다. 그래서 우리는 거의 전체 시스템을 공동 설계한 것입니다.
그것은 마치 코딩하는 것과 같습니다. 먼저 단위 테스트를 작성하고, 그 다음에 그것을 구현하는 것입니다.
GB: 그런 것들, 당신이 언어와 도구 체인을 선택하는 방법, 전체적으로 그것들이 함께 작동하며, 실제로 모든 것이 합쳐져서 당신이 그런 관찰 가능성과 신뢰를 가질 수 있는 시스템이 됩니다.
저는 어떤 분야에서는 "나는 충분한 보호 장치가 있다. 만약 이것이 내가 완전히 검토하지 않은 코드나 최적화라면, 실제로 괜찮다"고 말할 수 있다고 생각합니다. 적절한 보상 통제가 있다면요. 하지만 저는 인간으로서, 당신이 만든 시스템에 대한 책임을 이해하고 느낄 필요가 있다고 생각합니다. 이것은 매우 중요합니다. 저에게는 이것이 핵심이며, 인간이란 무엇인지, 우리의 독특함이 무엇인지, 우리가 미래에 가져갈 것이 무엇인지에 대한 것입니다. 저는 책임이 그 핵심이라고 생각합니다. 결국, 당신은 당신의 회사에서 일어나는 일에 책임을 져야 합니다.
그렇지만 공격 측이 책임을 지지 않는다면, 이것이 구조적 약점인가요?
GB: 그래서 저는 이것이 우리가 자주 생각하는 문제라고 생각합니다. 우리는 이것을 "방어자의 창"이라고 부릅니다. 저는 우리가 미래의 대략적인 윤곽을 볼 수 있다고 생각합니다. 우리가 가진 최전선 능력은 위협 행위자에게 확산될 수 있는 능력을 보여줍니다. 그런데, 저는 이 능력이 영원히 소수의 실험실에 잠겨 있지 않을 것이라고 생각합니다. 이것은 매우 중요하며, 권력의 광범위한 분배가 매우 중요합니다. 이것은 우리의 사명의 일부이기도 합니다.
하지만 우리는 시간적으로 분리를 실현할 수 있는 능력이 있습니다. 방어자는 이러한 능력을 차별화하여 얻을 수 있는 창이 존재합니다. 제 관점은 이것이 사실이라는 것입니다. 사이버 보안 분야에는 공격이 기술적 문제이고 방어가 정치적 문제라는 일반적인 견해가 있습니다. 공격자는 선반에서 무언가를 직접 가져와 사용할 수 있지만, 방어자는 이해관계자를 고려해야 하며, 비즈니스를 고려해야 하고, 사람들을 어떻게 진정으로 참여시킬 것인지, CEO, 모든 임원 등을 고려해야 합니다. 그래서 저는 여기서 방어자가 그런 의지를 가져야 한다고 생각합니다.
우리가 제안하고 있는 한 가지는, 실제로 우리가 이미 했고 지금 공개적으로 이야기하고 있는 것은, 모든 회사가 이를 능동적 사건으로 간주해야 한다는 것입니다. 핵심 비즈니스 운영, 능동적 사건, 그것이 당신의 다음 우선 사항입니다. 그래서 우리는 실제로 우리의 25% 생산 엔지니어를 빼내어 우리 자신을 보호하고 있습니다. 우리는 우리의 모델을 가져왔습니다. 사실, 우리는 아스트라를 가져와서 우리의 시스템을 가리켜 취약점을 찾고 있습니다. 단순히 코드를 읽는 것이 아니라, 이러한 것들이 어떻게 엔드 투 엔드로 작동하는지를 실제로 관찰하여 진짜 유효한 취약점을 찾고, 그것이 또한 우리의 수정, 패치 및 수리를 도와줍니다. 그래서 저는 당신이 정말로 생태계에서 에너지의 변화를 필요로 한다고 생각합니다. 그래야 선두를 유지하고 이 창을 활용할 수 있습니다.
음, 지금 이런 일을 하는 것은 물론 좋지만, 저에게는 Hugging Face 사건과 그와 관련된 보도에 대해 가장 주목할 만한 것은 OpenAI가 이전에 사이버 보안에 특별히 주의를 기울이지 않았다는 느낌입니다. 왜 이전에 그렇게 하지 않았나요? "방어자의 창"은 이미 한동안 열려 있었는데, 여러분은 그것을 잘 활용하지 않았나요?
GB: 음, 두 가지 대답이 있습니다. 하나는, 우리가 샌드박스를 만드는 방식을 살펴보면, 이 작업 부하가 샌드박스화되지 않았다는 것은 아닙니다. 실제로 그 주위에는 샌드박스가 있습니다. 제가 생각하기에 우리가 깨달은 한 가지는 우리가 ------
그렇습니다, 그것은 분명히 충분히 테스트되지 않았습니다. 그것이 진정한 샌드박스인가요? 아니면 제3자를 통해 인터넷에 연결되어 있고, 그 제3자가 단순히 던져진 것인가요? 이 사건에 대해 가장 주목할 만한 것은 바로 이것입니다. 이것은 마치, 만약 당신이 취약점을 테스트하고 싶다면, 당신은 정말로 테스트를 했다고 생각합니다.
GB: 의심할 여지 없이, AI는 탈출하고 Hugging Face에 들어가기 위해 매우 창의적인 일을 했습니다. 하지만 저에게는 더 큰 일이 있습니다. 제가 생각하기에 당신이 지적한 것은, 올해 여름 Mythos가 출시된 이후, 우리가 사이버 능력을 갖춘 모델을 갖기 시작했을 때 ------ 우리는 심지어 2월에 우리의 사이버 신뢰 접근 계획에 대해 이야기했습니다. 왜냐하면 우리는 이 물결이 다가오는 것을 보았고, 우리는 이를 위해 진정으로 준비하고 싶었기 때문입니다. ------ 경향이 존재합니다. ------
저는 알고 있지만, 여러분은 2월에 이야기했지만, 여러분은 그것을 여러분의 샌드박스에 연결하지 않았습니다. "내 샌드박스는 정말 안전한가요?"
GB: 본능적인 반응이 있습니다. "대규모로 접근을 제한하자. 우리는 정말로 엄격하게 제한하자. 오직 당신만 접근할 수 있도록 하자." 저는 당신이 말한 것처럼, 분야가 계속 발전하고 있다는 것은 방어자가 시간을 잃었다는 것을 의미합니다. 사람들이 방어를 하지 않았습니다. 그 부분은 접근에 관한 것이지만, 또 다른 부분은 우리가 얼마나 많은 힘을 쏟아야 하는지에 관한 것입니다. 우리는 이 부분에서 중대한 변화를 이루어야 한다고 말합니다.
지금, 저는 어느 정도 시간은 모두 동등하게 만들어지지 않는다고 생각합니다. 왜냐하면 우리는 사이버 모델이 덜 유용하고 덜 차별화된 세계에서 실제로 매우 유능하고 강력한 세계로 변했기 때문입니다. 우리는 아스트라에서 이를 보았고, 우리는 그것이 어떻게 실제로 여러 평가를 포화시키는지에 대해 이야기했습니다. 저는 지금이 바로 그때라고 생각합니다. 몇 달 전에도 그때가 될 수 있었지만, 당신은 훨씬 더 약한 모델을 가질 것이고, 훨씬 더 적은 진전을 이룰 것입니다.
그래서 저는 우리가 처한 위치를 진정으로 평가하는 것이 중요하다고 생각합니다. 우리는 분명히 그곳에 도달했으며, 저는 이것이 우리가 배운 것이라고 생각합니다. 우리는 이를 마음에 새기고 있으며, 저는 당신이 진정한 변화를 보았다고 생각합니다. 이는 많은 면에서 실제로 문화적 변화, 운영적 변화이며, 쉽지 않습니다. 왜냐하면 이는 팀이 매우 긴밀하게 협력해야 하고, 정책을 수립하는 방법 등에 대해 더 높은 기준을 가져야 한다는 것을 의미하기 때문입니다. 모든 것이 우리에게 있어서는 변화에 관한 것이 아니라, 실제로 운영에서 그것들을 결합하고, 우리가 현재의 방식으로 결정을 내릴 수 있는 능력을 갖추는 것입니다. 저는 이것이 우리가 하는 모든 측면에서의 향상이라고 생각합니다.
이제 갑자기 그들이 할 수 있게 되었다는 것은, 이전에 하려면 시간 낭비가 될 것 같았다는 것입니다. 저는 이것이 어느 정도 타당하다고 생각합니다. 당신은 어떻게 "AI가 미래에 할 것이므로 우리는 지금 할 필요가 없다"는 함정에 빠지지 않도록 할 것인가요? 일반적으로, 단지 이 사건에 대해서만이 아니라.
GB: 저는 구체적인 데이터 포인트를 하나 말씀드리고 싶습니다. 그래서 초기에는, 대략 1분기 어느 시점에서, 우리는 정말로 생각하기 시작했습니다. 우리는 ------ 언제인지 알기 어렵지만, 우리는 이러한 매우 사이버 능력을 갖춘 모델을 가질 것입니다. 우리가 처음부터 구축할 수 있는 샌드박스는 무엇인가요? 클라우드 인프라에서 가능한 한 안전하게 구축할 수 있는 것? 우리는 그것을 구축했습니다. 우리는 실제로 우리의 일부 최고의 엔지니어를 그 문제를 해결하기 위해 파견했습니다. 그들은 전력을 다해 성과를 냈습니다.

그래서 저는 여러분이 보는 미래를 중심으로 인프라를 처음부터 구축하는 것이 중요하다고 생각합니다. 여러분이 언급한 "아, 우리는 AI가 할 수 있게 할 수 있다"는 시기 문제에 대해------우리는 다양한 분야에서 이러한 상황을 보았습니다. 커널을 작성하는 것에 대해, "좋아, 우리는 AI가 GPU 커널을 잘 작성할 수 있는 미래에 들어갈 것이다"라는 사실을 생각해보면, 새로운 하드웨어를 위해 인프라를 구축하는 데 몇 달, 때로는 1년이 걸리는 고전적인 투자, 그런 것들, 아니면 우리는 단순히 "아, AI가 해결할 것이다"라고 말할까요? 제 생각에는 항상 AI가 그 목표에 도달하는 데 필요한 시간이 여러분이 예상하는 것보다 조금 더 길다는 것입니다. 하지만 그것이 이루어질 때, 그것은 여러분이 상상할 수 없는 방식으로 놀랍고 강력합니다.
Astra의 한 예입니다. 우리가 발견한 한 가지는, 우리가 올해 매우 열심히 구축한 몇 가지 기술이 OpenAI에서 작업하는 올바른 방법을 모델에 보여주기 위해 사용되었는데, 이제 실제로 그 성능에 부정적인 영향을 미쳤다는 것입니다.
규칙이 너무 많습니다.
GB: 맞습니다. 그것은 더 잘 일반화할 수 있거나 패턴을 처리하는 더 나은 방법을 찾을 수 있습니다. 그래서 저는 이 점에 대해, 여러분이 정말로 그런 통제 조치를 구축하고, 결정론적 인프라를 구축하고, 그런 기술을 작성하고 싶어 한다고 생각합니다. 하지만 AI가 더 능력 있게 될수록, 그 중 일부는 즉, 발판이 제한 요소가 될 것이라는 점을 준비해야 합니다. 그것은 보조 바퀴와 비슷합니다. 처음에는 여러분을 도와주지만, 여러분이 더 빨리 걷기 시작하고, 더 능력 있고, 더 잘 정렬된 것을 갖게 되면, 실제로 그것이 장애물이 되기 시작합니다.
여러분은 다시 12시간 또는 24시간의 코딩 몰입 상태에 들어갈 수 있을까요?
GB: 저는 그렇게 되기를 바랍니다. 언젠가는 그런 일이 일어날 것이라고 생각하지만, 지금의 방식으로 팀을 돕는 것에서 많은 즐거움과 가치를 찾았다고 말씀드려야 합니다. 저에게는 정말로 그 사명에 관한 것입니다.
음, 당신뿐만 아니라 다른 누구도 그럴까요? AI의 이점이 거의 항상 언제든지 영구적인 몰입 상태를 제공할 수 있다는 것이 아닐까요?
GB: 저는 우리가 새로운 방법을 찾을 것이라고 생각합니다. 관리 에이전트든------실제로 소프트웨어 엔지니어들이 그 어느 때보다 더 열심히 일하는 것을 보는 것은 정말 미친 일입니다. 왜냐하면 여러분의 에이전트가 작동하지 않으면 단순히 시간을 잃게 되고, 그 시간은 영원히 되돌릴 수 없다는 것을 깨닫기 때문입니다. 그래서 저는 사람들이 지금 상상하기 어려운 방식으로 그 몰입 상태에 도달할 것이라고 생각합니다.
결국, 여러분은 이것이 통제 가능할 것이라고 말하고 있습니다. 이러한 AI는 "너무 많은 규칙을 두지 마세요, 그들이 스스로 해결할 것입니다"라는 것이고, 만약 여러분이 이것을 극단적으로 밀어붙인다면, 결국 그것은 그들이 통제 불가능하다는 것과 관련이 있지 않나요?
GB: 음, 저는 이것이 이 순간의 핵심이라고 생각합니다. 우리가 지금 있는 새로운 단계의 핵심으로, 어떤 면에서는 우리가 지금 AGI 시대에 들어섰다고 말할 수 있습니다. 저는 이것이 이 순간의 핵심이라고 생각합니다. 그곳에서------아마도 이전 모델, 아마도 Astra, 아마도 다음 모델이지만, 어느 시점에서 저는 우리가 대부분의 사람들의 AGI 문턱을 넘을 것이라고 생각합니다. 우리가 리듬을 잡고, 안전, 보안, 정렬 및 능력에 대해 생각하도록 보장하는 것이 중요합니다. 이러한 모든 것이 요구 사항으로서------우리는 이러한 것들에 대한 기준을 가지고 있으며, 우리는 그것들을 함께 추진하고 싶습니다------이것이 우리가 항상 믿어온 것입니다.
하지만 저는 이러한 다른 측면들이 점점 더 발전의 병목 현상이 되고 있다는 점이 매우 두드러진다고 생각합니다. 저는 다시 말하지만, 이것은 우리가 이미 이를 위해 준비해온 것이며, 우리는 이 문제에 대해 계속 생각해왔고, 우리는 이를 실제적인 방식으로 실행하고 있다고 생각합니다. 그래서 제 관점은 아직 많은 진전을 이룰 수 있다는 것이지만, 우리는 모든 측면에서 우리의 기준을 높임으로써 그것에 접근해야 한다고 생각합니다. 그것을 살펴보면, 저는 우리가 모니터링 가능성과 같은 것들의 전망을 보고 있다고 생각합니다. 그것은 매우 중요합니다. 우리는 이를 실제적인 방식으로 도입하고 있습니다. 저는 우리가 매우 좋은 계획을 가지고 있다고 생각합니다. 우리는 훌륭한 사람들로 구성된 팀이 있으며, 좋은 기록과 좋은 사명이 있습니다. 모든 것이 우리가 그것들이 통제 가능한 방식으로 시스템을 구축하고 있으며, 우리는 리듬을 한 걸음씩 나아가고 있다는 것을 가리킵니다.
그렉 브록맨, Astra의 출시를 축하합니다. 정말 사용해보고 싶습니다.

GB: 정말 감사합니다. 초대해 주셔서 감사합니다.