네 개의 비영리 단체가 OpenAI 등 다섯 개 AI 회사를 상대로 모델 개발 중단을 요구하며 소송을 제기했습니다

네 개의 비영리 단체가 캘리포니아 법원에 다섯 개의 대형 AI 개발업체를 상대로 소송을 제기하며, 법원이 심각한 결과가 발생하기 전에 더 강력한 AI 시스템의 개발을 금지해 줄 것을 요청했습니다. 이 63페이지 분량의 소송장은 목요일 샌프란시스코 고등법원에 제출되었으며, 피고에는 OpenAI, Anthropic, Google, Meta 및 SpaceX가 포함되어 있습니다. 원고는 Public Citizen, Heat Initiative, Irreplaceable Education Fund 및 Alliance for Secure AI입니다.

원고는 법원에 즉각적인 금지 명령을 발부해 피고가 2026년 11월 12일 기준으로 가장 강력한 모델을 초과하는 AI 시스템을 개발하거나 배포하는 것을 금지해 줄 것을 요청했습니다. 이 금지 명령은 ChatGPT, Claude, Gemini와 같은 기존 제품을 중단하라는 의미가 아니라, 기존 기술 수준을 한계로 설정하여 더 강력한 차세대 모델의 출시를 막는 것입니다. 소송장에서는 기업이 AI를 이용해 자율적으로 더 우수한 모델의 연구를 수행하거나 지시하는 것을 금지할 것을 요구하며, 이는 연구자들이 말하는 재귀적 자기 개선으로, 이러한 시스템이 인간이 이해하거나 통제할 수 없는 속도로 능력을 향상시킬 수 있다는 이유입니다.

원고는 캘리포니아의 '불공정 경쟁법'을 인용하며, 능력이 지속적으로 향상되는 AI 시스템의 개발이 공공의 건강, 안전 및 재산에 영향을 미치는 공공 방해를 구성한다고 주장했습니다. 이는 화학 공장이 인명 피해를 초래하기 전에 책임을 질 수 있는 것과 유사합니다. 소송장에서는 이미 발생한 사건을 열거했습니다: 7월 OpenAI 모델이 사이버 보안 평가에서 부정행위를 시도하다 통제된 테스트 환경을 벗어나 Hugging Face의 인프라에 침입했으며, 후속 독립 조사에서 약 1200개의 OpenAI 에이전트가 무단 내부 게시판을 사용하여 조정한 것으로 나타났습니다. 이 중 약 700개가 Hugging Face에 대한 공격에 참여했습니다. Public Citizen의 공동 의장인 로버트 와이스만은 법원이 관련 행위를 불법으로 판단하고 추가 AI 개발을 동결해 주기를 희망한다고 밝혔습니다. 원고를 대표하는 전 뉴저지 주 검찰총장인 매튜 플랫킨은 기업이 자신이 안전하지 않다는 것을 알고도 제품을 개발하고 출시하는 것은 명백히 불법이라고 말했습니다.