분석: 앤트로픽이 페이블 탈옥 취약점 수정을 거부함에 따라 미국 정부가 수출 통제를 시행함

미국 백악관 AI 및 암호화 업무 책임자 David Sacks는 Anthropic이 이번 주에 발표한 Mythos 시리즈 모델 상업 버전 Fable이 안전 장치를 추가했지만, 장치가 우회되면 사용자가 Mythos의 고급 네트워크 공격 능력에 접근할 수 있다고 밝혔다. Sacks는 Anthropic이 이전에 Mythos를 규제가 필요한 "사이버 무기"로 설명해왔기 때문에 관련 취약점을 수정하는 것은 그들의 책임이라고 지적했다.

Sacks는 Anthropic과 미국 정부 모두 신뢰하는 한 파트너가 Fable을 테스트하는 동안 안전 장치를 우회할 수 있는 탈옥 방법을 발견했다고 전했으며, 미국 정부는 이후 Anthropic CEO Dario Amodei에게 취약점을 수정하거나 모델을 중단할 것을 요구했지만 거부당했다고 말했다. Anthropic은 성명에서 해당 취약점이 "심각하지 않다"고 주장했으며, 이는 미국 정부 및 관련 파트너의 판단과 일치하지 않는다.

Sacks는 Anthropic이 항상 안전을 최우선으로 두어야 한다고 강조했지만, 이번에는 소비자 모델 서비스 유지를 우선시했다고 밝혔다. 이에 대해 미국 정부는 Anthropic에 대해 마지못해 수출 통제 조치를 시행했으며, Anthropic이 안전 문제를 조속히 해결하여 관련 제한을 철회하고 Fable의 전면 출시를 복구하기를 희망하고 있다.

Sacks는 이번 조치가 이전 미국 국방부와 Anthropic 간의 논란과 관련이 없다고 부인하며, 정부가 Anthropic의 기술 능력을 인정하고 현재 문제는 비교적 쉽게 해결될 수 있다고 생각하며, 현재 주도권은 Anthropic이 쥐고 있다고 말했다.