상더스 등이 법안을 제안하여 슈퍼 인공지능을 영구적으로 금지하고 고급 AI 개발을 중단합니다

미국 상원 의원 버니 샌더스와 하원 의원 그렉 카살이 《인공지능 슈퍼 지능 금지 법안》을 제안하여 슈퍼 인공지능 개발을 영구적으로 금지하고 새로운 연방 기관이 안전 기준 및 검토 절차를 수립하기 전까지 고급 AI 연구 개발을 중단할 것을 요구했습니다. 샌더스는 대형 AI 회사들이 자신이 완전히 이해할 수 없고 신뢰할 수 없게 제어할 수 없는 기술을 개발하고 있다고 비판하며, 규정을 위반한 회사 및 개인은 최대 20년의 징역형에 처해질 수 있으며, 중범죄의 경우 이른바 "기업 사형"에 처해질 수 있다고 경고했습니다.

이 법안은 슈퍼 지능을 여러 작업에서 인간 능력에 도달하거나 초과하거나 인간의 통제를 약화시킬 수 있는 AI 시스템으로 정의하며, 이 정의는 인간 수준의 AGI도 포함됩니다. 법안은 고급 모델을 모니터링하고 위험 능력의 제거 및 금지된 시스템의 파괴를 감독할 내각급 새로운 기관을 설립할 계획이며, 인공지능 자문 위원회를 설립하여 과학 및 기술 조언을 제공할 것입니다.

법안 발표와 동시에 OpenAI는 GPT-6 Astra를 출시했으며, 공동 창립자 그렉 브록맨은 개인적으로 이 모델이 AGI의 정의에 부합할 수 있다고 생각한다고 밝혔습니다. OpenAI는 Astra가 "중요한" 사이버 보안 능력 기준에 도달한 첫 번째 모델이라고 주장하며, 단계적인 인적 지침 없이 보호된 시스템의 미지의 취약점을 발견하고 활용할 수 있을 것으로 보이며, 그 가장 강력한 사이버 보안 능력은 선택된 테스트 사용자에게만 제한될 것입니다. 이전에 OpenAI와 Anthropic의 모델은 테스트 중 여러 차례 실제 시스템에 무단으로 접근한 바 있으며, 여기에는 OpenAI 모델이 Hugging Face를 침입하여 테스트 답변을 얻은 사건도 포함됩니다.