미국 대형 모델이 안전을 이유로 폐쇄적으로 변하고 있다

저자：샤오징

편집：쉬칭양

6월 27일 아침, Anthropic은 미국 정부가 자사의 가장 강력한 사이버 보안 모델 Mythos 5를 100개 이상의 미국 기관, 대기업 및 정부 부처에 재배포하는 것을 승인했다고 발표했습니다. 대중을 위한 버전 Fable 5는 "복구가 임박했다"고 합니다.

외신이 입수한 상무부 장관 루트니크가 Anthropic 공동 창립자 톰 브라운에게 보낸 서신에 따르면, 루트니크는 Anthropic에 "적절한 보안 보장이 마련되었다"고 통보했습니다.

하지만 같은 서신에서 루트니크는 6월 12일 초기 지시의 모든 다른 요구 사항이 여전히 유효하며, Fable 5가 대중에게 언제 복구될지에 대해서는 언급하지 않았습니다.

거의 동시에, 6월 27일 새벽, OpenAI는 GPT-5.6 시리즈의 세 가지 모델인 Sol, Terra, Luna를 공식 출시했습니다. 마찬가지로 백악관의 요청에 따라 GPT-5.6은 "정부의 개별 승인된 파트너"에게만 API 접근을 허용하며, ChatGPT는 아직 출시되지 않았습니다.

전체 타임라인을 되돌아보면: 6월 2일 트럼프가 AI 행정명령에 서명하고, 6월 9일 Anthropic이 Fable 5와 Mythos 5를 발표하며, 6월 12일 상무부가 전면 하락 명령을 내리고, 6월 26일 OpenAI가 GPT-5.6을 발표하지만 배급이 제한되며, 6월 27일 Mythos 5가 제한적으로 복구 승인을 받았습니다.

한 달도 안 되는 시간 동안, 미국 정부는 최전선 AI 모델에 대한 통제를 "중단---협상---조건부 방출" 주기로 경험했습니다.

OpenAI 전략 팀 책임자 딘 W. 볼(전 백악관 AI 고문)은 6월 16일 블로그에서 이 사건이 산업에 미친 영향을 요약했습니다: "최전선 AI 모델 개발자는 이제 정부의 명확한 '녹색 신호'가 있어야만 출시할 수 있습니다."

딘 W. 볼은 6월 26일의 긴 글 《What Should Be Done》에서 평가했습니다: "누구도 허가 요구 사항이 무엇인지 모릅니다. 여기서 제가 '아무도'라고 말하는 것은 문자 그대로의 의미입니다: 정부 부처조차도 모르는 것 같습니다."

그림: 딘 W. 볼의 긴 글 What Should Be Done

01 정말 강력해서 안전하지 않나요?

이것이 사건의 가장 핵심적인 질문입니다. 정부의 행동은 하나의 암묵적인 전제에 기반하고 있습니다: 이러한 모델의 능력이 수용할 수 없는 안전 위험을 초래할 만큼 강력하다는 것입니다. 그러나 해당 회사의 공식 평가에서는 완전히 반대의 결론을 내놓았습니다.

OpenAI는 GPT-5.6 출시 블로그에서 전체 안전 평가 결과를 공개했으며, OpenAI가 스스로 설정하고 공개한 준비 프레임워크에 따르면, Sol은 이 선을 넘지 않았습니다. 이 프레임워크의 레드라인 정의는: 모델이 인간의 도움 없이 자율적으로 고가치 목표의 미지의 취약점을 발견하고 활용할 수 있는지 여부입니다.

구체적인 테스트 결과는: Sol은 Chromium과 Firefox에서 취약점을 식별하고 활용 원시(exploitation primitives)를 사용할 수 있지만, "테스트 조건 하에서 자율적으로 완전한 사용 가능한 엔드 투 엔드 공격 체인을 생성하지 않았다"고 합니다. OpenAI의 판단은: Sol은 사람에게 취약점을 찾고 패치를 하는 데 더 능숙하며, 엔드 투 엔드에서 신뢰할 수 있게 완전한 공격을 실행하는 것은 아닙니다.

하지만 OpenAI는 이어서 "감정이 풍부한" 한 문장을 덧붙였습니다: "benchmark thresholds cannot capture every way a model may be used or combined with other tools." 비록 우리의 기준으로는 선을 넘지 않았지만, 실제 세계에서 어떻게 사용될지는 누가 알겠습니까? 애매한 회색 지대를 의도적으로 만들어냈습니다.

Anthropic은 그렇게 "감정이 풍부"하지 않았습니다. 6월 13일의 성명에서 Anthropic은 정부의 주장을 점검하며 반박했습니다. 정부는 Fable 5의 탈옥 방법을 발견했다고 주장했지만, Anthropic은 다음과 같이 응답했습니다: 첫째, 이것은 단지 "좁은 범위의 비범용 탈옥"일 뿐이며, 본질적으로 모델이 코드의 일부를 읽고 결함을 지적하는 것입니다; 둘째, "OpenAI의 GPT-5.5를 포함한 다른 공개 가능한 모델도 이를 수행할 수 있습니다"; 셋째, Anthropic은 수천 시간의 레드 팀 테스트를 수행했으며, "어떤 테스트자도 범용 탈옥을 발견하지 못했습니다."

Anthropic CEO 다리오 아모데이는 6월 11일 발표한 긴 글 《Policy on the AI Exponential》에서 이러한 상황을 예측하며, 성명에서 명확히 밝혔습니다: "정부는 안전하지 않은 배포를 막을 수 있지만, 프로세스는 투명하고 공정하며 명확해야 하며, 기술적 사실에 기반해야 합니다. 이번 행동은 이러한 원칙에 부합하지 않습니다."

두 가장 치열한 경쟁자가 같은 달에 각자의 독립적인 평가 시스템을 통해 같은 결론에 도달했습니다: 산업이 스스로 구축한 안전 프레임워크에 따르면, 이러한 모델은 배포할 수 없는 위험을 초래하지 않습니다.

그렇다면 질문이 생깁니다. 모델이 산업의 레드라인을 넘지 않았다면, 정부는 왜 개입하는 것일까요? 딘 볼은 추가로 밝혔습니다: 정부는 이전에 유일하게 최전선 AI 경험이 있는 공무원을 AI 표준 및 혁신 센터(CAISI)의 책임자로 임명했지만, 그 사람은 몇 일 만에 고위층에 의해 해고되었습니다. 남은 CAISI 팀은 전체 "후 Mythos 위기 기간" 동안 작업 중지 상태에 있으며, 다른 정부 기관과의 소통조차 허용되지 않았습니다. "내가 아는 트럼프 정부의 공무원 중에는 최전선 AI 경험이 있는 사람이 없습니다."

볼의 의미는, 규제 결정을 내리는 사람들은 명확한 안전 기준을 정의하지도 않았고, 이러한 모델의 기술적 능력을 평가하지도 않았다는 것입니다.

더 나아가 자연스러운 질문은: Fable 5와 GPT-5.6 Sol이 정말로 어떤 "인간 위협 특이점"을 넘었는가? 객관적인 능력의 레드라인이 존재하며, 이를 넘으면 규제가 필요할까요?

여러 AI 분야 전문가들은 기술적으로 그러한 선이 존재하지 않는다고 말합니다. 모델의 능력은 연속적으로 증가하는 곡선입니다. 매 세대 모델이 출시될 때마다 "역사상 가장 강력한" 모델이지만, 이번에만 정부의 직접적인 개입을 촉발했습니다.

그 뒤에는 세 가지 암묵적인 조건이 있습니다:

첫째, 능력이 "시연 가능"해졌습니다. Anthropic은 Mythos 5를 "세계에서 가장 강력한 사이버 보안 모델"로 홍보하며, Stripe가 하루에 5000만 줄의 코드를 이전하는 사례가 널리 퍼졌습니다. 이러한 이야기는 기술을 모르는 정치인들도 "나쁜 사람이 사용하면 어떻게 될까"를 상상하게 만들었습니다.

메타의 전 수석 AI 과학자이자 튜링상 수상자인 얀 르쿤은 2025년 11월에 이미 이 논리를 공개적으로 지적했습니다: Anthropic이 첫 번째 AI 사이버 공격 위협 보고서를 발표했을 때, 르쿤은 이를 "규제 극장"이라고 직접 언급하며, Anthropic이 AI 보안 공포를 이용해 "입법자를 조작"하여 "규제 포획"을 시도하고 있다고 비난했습니다.

르쿤의 판단은: 폐쇄형 회사가 AI 보안 위협을 체계적으로 과장하여, 대기업만이 통과할 수 있는 규제 장벽을 세우고 오픈 소스 경쟁자를 배제하려는 목적이었습니다. Anthropic은 예상치 못하게도, 돌이 먼저 자신에게 떨어졌습니다.

둘째, 누군가 칼을 건넸습니다. 아마존 CEO 앤디 재시가 정부에 Anthropic 모델의 안전 문제 보고서를 제출했습니다. 아마존은 Anthropic의 최대 투자자이자 클라우드 서비스 파트너이며, 자체 개발 모델(Nova 시리즈)과 Anthropic과 경쟁 관계에 있습니다. 이로 인해 정부는 행동의 정당성을 확보했습니다.

셋째, 트럼프는 이달 초 AI 행정명령에 서명하여 정부에 60일 이내에 최전선 모델의 "자발적 제출 규칙"을 제정하도록 했습니다. 행정명령은 첫 번째 집행 사례가 필요하여, Fable 5가 총알에 맞았습니다.

이로 인해 더 깊은 질문이 제기됩니다. "너무 강력하면 규제해야 한다"는 원칙이 있고, "얼마나 강력하면 너무 강력한가"는 규제 기관이 결정하며, 기준이 공개되지 않고 명확한 임계값이 없으며, 이의 제기 절차가 없다면, 앞으로 모든 최전선 모델의 출시가 동일한 불확실성에 직면하게 될 것입니다. 기업은 자신의 모델이 언제 규제를 촉발할지 알 수 없습니다.

이미지는 AI에 의해 생성됨

02 역사적 교훈, 30년 전의 암호 전쟁

미국 정부는 수출 통제를 통해 이른바 위험 기술의 확산을 억제하려고 하며, 이는 90년대의 "암호 전쟁"(Crypto Wars)과 매우 유사한 역사적 사례를 떠올리게 합니다.

냉전이 끝난 후, 인터넷이 상업화되면서, 컴퓨터 과학자들은 데이터 전송의 안전성을 보호하기 위한 암호화 기술을 개발했습니다. 미국 정부는 강력한 암호화 알고리즘을 "군수품"(munitions)으로 분류하고, 미사일 및 탱크와 같은 수출 통제 목록에 올렸습니다(ITAR/EAR). 논리는 오늘날과 매우 유사합니다. 적이 강력한 암호화를 얻으면 NSA(미국 국가안보국)는 그들의 통신을 도청할 수 없으며, 국가 안보가 위협받습니다.

이는 미국 소프트웨어 회사가 해외 고객에게 40비트 키의 약한 암호화 버전만 수출할 수 있다는 것을 의미하며, NSA가 쉽게 해독할 수 있는 버전입니다. 국내 버전은 128비트 강력한 암호화를 사용할 수 있습니다. 외국 사용자들은 자신들이 받은 것이 "제한된 버전"임을 알고 유럽과 이스라엘의 대체 제품으로 전환하기 시작했습니다.

1991년, 필 짐머맨이라는 암호학 애호가가 PGP(Pretty Good Privacy)를 작성하여 일반인도 강력한 암호로 이메일을 보호할 수 있는 소프트웨어를 만들었습니다. 그는 PGP를 인터넷에 업로드했습니다. 미국 세관은 즉시 그에 대한 형사 조사를 시작했습니다. ------죄명은 "군수품의 불법 수출"이었습니다.

짐머맨의 반격은 매우 교묘했습니다: 그는 PGP의 전체 소스 코드를 책으로 인쇄하여 출판했습니다. 책은 제1 수정헌법의 보호를 받으며, 출판의 자유는 헌법적 권리입니다. 당신은 소프트웨어를 규제할 수 있지만, 책의 수출을 금지할 수는 없습니다. 조사는 3년 동안 지속되었고, 결국 1996년에 종료되었으며, 정부는 소송을 제기하지 않았습니다.

거의 같은 시기에, NSA는 더 과감한 계획인 클리퍼 칩을 출시했습니다. 설계 아이디어는 모든 통신 장치에 이 칩을 설치해야 하며, 칩이 통신을 암호화하고, 칩 내에 키 관리 메커니즘이 내장되어 있어, 법 집행의 권한 하에 정부가 관리된 키를 통해 통신을 해독할 수 있도록 하는 것이었습니다. 사용자 간의 통신은 제3자에게는 암호화되지만, 정부는 언제든지 해독할 수 있습니다. 클린턴 정부는 이 계획을 강력히 추진했습니다. 결과적으로 학계는 칩의 설계 결함을 발견하였고, 기술 산업은 집단적으로 저항하며, 대중은 강력히 반대하여 1996년에 완전히 사라졌습니다.

1995년, 수학자 다니엘 번스타인은 온라인에서 자신이 작성한 암호 알고리즘 소스 코드를 게시하려 했으나, 정부는 수출 통제를 이유로 이를 금지했습니다. 그는 법무부를 상대로 소송을 제기했습니다. 제9 순회 항소 법원은 소프트웨어 소스 코드가 제1 수정헌법에 의해 보호되는 "언론"(speech)이라는 중대한 판결을 내렸습니다. 정부의 암호 코드 수출 통제는 위헌이라는 것입니다. 이 판결은 전체 규제 체계의 법적 기초를 흔들었습니다.

2000년 1월, 클린턴 정부는 암호 수출 통제를 대폭 완화했습니다. 그 이유는 통제를 할 수 없었기 때문입니다. PGP는 이미 전 세계에 퍼져 있었고, 오픈 소스 암호 알고리즘이 전 세계적으로 보급되었으며, 규제는 미국 회사의 경쟁력을 저해할 뿐이었습니다. 외국 고객들은 이미 다른 공급자로 전환했습니다.

규제를 완화한 이후, 오늘날 Signal과 WhatsApp의 엔드 투 엔드 암호화가 가능해졌습니다. 90년대의 규제가 오늘날까지 지속되었다면, 이러한 제품은 존재할 수 없었을 것입니다.

90년대에 규제된 것은 강력한 암호화 알고리즘이었으며, 이유는 국가 안보였고, 도구는 ITAR 군수품 수출 통제였습니다. 피해를 본 것은 미국 소프트웨어 회사들(약한 버전을 수출해야 했습니다)이며, 영향을 받지 않은 것은 외국 개발자들(자신이 암호 알고리즘을 작성했습니다)입니다.

2026년, 규제되는 것은 최전선 AI 모델의 능력이며, 이유는 여전히 국가 안보이고, 도구는 수출 통제 지침입니다.

이번에 진정으로 피해를 보는 것은 누구일까요?

외신은 다음과 같이 언급했습니다: "누구도 정부가 승인한 100개 회사에만 서비스를 제공하기 위해 1000억 달러를 데이터 센터에 투자하지 않습니다."

최전선 모델의 훈련 비용은 수십억 달러에 달하며, 수익을 회수할 수 있는 창구는 출시 후 몇 개월에 불과합니다. 이후 모델은 차세대 모델이 되어 경쟁이 심화되고, 이익률이 압축됩니다. 매주 승인 지연은 이 한정된 수익 창구를 잠식하고 있습니다. 브랜덤의 결론은: "이런 식으로 계속된다면, 전체 산업의 기초 투자 논리가 흔들릴 것입니다."

조지 워싱턴 대학교 정치학 조교수 제프리 딩의 핵심 주장은: 대국 기술 경쟁에서 승패를 결정짓는 것은 누가 먼저 기술을 발명했느냐가 아니라, 누가 더 빨리 기술을 전체 경제체에 확산시킬 수 있느냐입니다. 일반 기술은 특히 그러합니다. ------ 그것은 광범위한 사회적 확산이 필요하며, 이를 중심으로 새로운 조직이 만들어져야 하고, 대규모의 실제 세계 사용 데이터를 통해 그 응용 경계를 발견해야 합니다. 딘 볼은 딩을 인용하며 썼습니다: "일반 기술의 용도는 발견되는 것이지, 사전에 알려지는 것이 아닙니다."

하지만 대양 건너편, 중국의 대모델은 오픈 소스의 자세로 전 세계 개발자에게 다가가고 있습니다.

암호 알고리즘은 순수한 수학으로, 일단 발표되면 회수할 수 없습니다. AI 모델의 가중치도 유사한 속성을 가지고 있지만, 폐쇄형 최전선 모델의 추론 능력은 실제로 소수 회사의 API 뒤에 집중되어 있습니다.

하지만 오픈 소스 모델의 능력은 세대를 거듭하며 추격하고 있으며, 규제는 확산을 지연시킬 수 있지만, 확산을 막을 수는 없습니다. 90년대에는 "패배하고 규제를 완화"하는 데 거의 10년이 걸렸습니다. AI 규제도 비슷한 시간 주기가 필요할까요?

03 미국 대모델이 검열 시대에 접어드나?

2026년 6월, AI 산업의 역사에서 아마도 전환점을 나타낼 수 있는 사건이 발생했습니다: 정부가 처음으로 상업 AI 모델과 그 사용자 사이에 승인자로서의 역할을 성공적으로 삽입했습니다.

딘 볼은 《What Should Be Done》에서 경고했습니다: 시장이 이에 대해 공황 상태에 빠지면, 그 효과는 AI 산업 자체를 훨씬 초과할 것입니다: "핵 에너지에서 천연 가스, 전력 전자에 이르기까지, 미국의 재산 산업에 대한 대규모 투자는 명확하거나 암묵적으로 AI 산업의 미래 수요를 전제로 하고 있습니다. 만약 이 수요가 정부의 규제로 인해 실현될 수 없다면, 연쇄 반응은 사람들이 상상하는 것보다 훨씬 클 것입니다."

하지만 볼은 방향이 전적으로 잘못된 것은 아니라고 인정했습니다: "최전선 AI는 실제로 재앙적인 위험이 존재할 가능성이 있으며, 이 우려는 위조된 것이 아닙니다. 문제는 실행 방식입니다. 기술 전문가가 없고, 명확한 기준이 없으며, 일정이 없는 승인 프로세스는 답이 아닙니다."

OpenAI는 GPT-5.6의 제한이 "단기 조치"라고 말하며, 몇 주 후에 대중에게 개방될 수 있다고 합니다. 그러나 6월 27일 Mythos 5의 "제한적 복구"는 이미 템플릿을 제공했습니다. 전면 개방이 아니라 여전히 일부 미국 기관에만 제한되며, 다른 제한은 계속 유효합니다. 모든 장기 제도는 처음에는 "단기 조치"라고 불립니다.

딘 볼은 마지막으로 모든 사람이 진지하게 받아들여야 할 한 문장을 썼습니다: "극소수만이 최전선 AI를 사용할 수 있다면, 나쁜 미래가 더 가능성이 높아집니다. 왜냐하면 그 극소수는 이미 막대한 경제적 및 정치적 권력을 가진 집단이기 때문입니다."

전 세계 개발자 커뮤니티는 아마도 시차를 무시하고 OpenAI 발표회를 지켜보며, 새로운 모델의 발전에 놀라워하고 다양한 새로운 시나리오를 테스트하던 시절을 그리워하고 있을 것입니다.

하지만 지금 우리는 여전히 기대를 가지고 중국의 최신 대모델 발표를 "기다릴" 수 있습니다.