앤트로픽 모델 안전 논란이 격화되며, 아마존이 "배후 조종자"로 지목되어 규제 개입이 촉발되었다

월스트리트 저널에 따르면, 미국 정부의 Anthropic 모델 Fable 5 / Mythos 5에 대한 수출 통제 및 접근 제한은 아마존의 사이버 보안 연구와 AWS CEO Andy Jassy의 백악관과의 소통에서 부분적으로 기인한 것으로 보인다.

아마존이 제출한 연구에 따르면, 일련의 프롬프트 테스트를 통해 연구자들은 Fable 5가 사이버 공격에 사용될 수 있는 민감한 정보를 출력하도록 유도할 수 있었으며, 이로 인해 보안 우려가 제기되었다. 이후 Andy Jassy는 관련 발견을 미국 정부에 보고하여 백악관이 외국 사용자의 해당 모델 접근을 금지하는 등 추가 제한 조치를 취하도록 촉구했다.

동시에 전 미국 상무부 관료인 Kate Koren은 백악관의 Anthropic에 대한 기존 정책 입장이 이번 결정 판단에 영향을 미쳤을 가능성이 있다고 밝혔다. Anthropic은 AI 안전 경계 문제에 대해 백악관과 이견이 있으며, 대규모 감시 또는 치명적인 자율 무기 시스템에 모델을 사용하는 것을 거부하고 있다. 양측은 올해 초 한때 협력을 완화하고 확대했지만, 이번 사건은 양측 간의 긴장을 다시 악화시킬 수 있다.