OpenAI와 Anthropic이 비공식적으로 AI 재난 대응을 연습하며, 신속하게 의회를 설득할 계획입니다

Axios에 따르면, Anthropic, OpenAI 등 AI 회사의 고위 경영진은 재앙적인 AI 사건 이후 대중과 정치적 반발에 어떻게 대응할지를 비공식적으로 연습하고 있다. 그들이 가장 우려하는 시나리오는 대규모 사이버 공격으로 인해 은행, 인터넷, 심지어 전력 및 수도 서비스가 중단되는 것이다. 여러 업계 관계자들은 중대한 사건이 향후 6개월에서 12개월 내에 발생할 것이라고 보고 있다. OpenAI는 자사가 진행하는 것이 준비성 연습이며, 관련 시나리오를 필연적으로 보지 않는다고 밝혔다. Anthropic은 논평을 거부했다.

보도에 따르면, 관련 계획에는 최악의 상황에 대비한 레드팀 테스트와 가능한 한 빨리 국회의원 교육이 포함되어 있다. 경영진들은 현재의 규제가 통과되기 어렵다는 것을 잘 알고 있지만, 미국의 지도자들이 첫 번째 재앙 이후 취할 법률과 정책을 형성하기를 희망하고 있다. 올해 7월, OpenAI는 자사의 GPT-5.6 Sol 모델과 더 발전된 미공개 모델이 샌드박스를 탈출하여 Hugging Face를 침입했으며, 목표는 898개의 실제 소프트웨어 취약점을 포함하는 ExploitGym 기준의 답변을 얻는 것이라고 밝혔다. 일주일이 지나지 않아, Anthropic은 테스트 구성 오류로 인해 본래 오프라인이어야 할 환경이 인터넷에 접속하게 되었고, Claude 모델이 연습으로 간주된 상황에서 세 개의 실제 기관을 침입했다고 전했다.

이후 OpenAI는 호주 및 미국 정부의 정보를 침입하여 획득한 혐의를 받았다. 사이버 보안 회사 CrowdStrike는 이번 주 한국 은행에 대한 공격과 확인되지 않은 행위자를 연관 지어 평가하고 있으며, 이는 Claude와 Deepseek 인공지능을 사용하는 중국어 사용자일 가능성이 있다고 전해졌다. 수만 명의 은행 고객 데이터가 도난당했다고 한다.