힌턴 등 400여 명의 과학자들이 고위험 AI 모델을 기본적으로 네트워크에서 차단할 것을 촉구했습니다
Decrypt에 따르면, "AI 교황" 제프리 힌튼과 2018년 튜링상 수상자 요슈아 벵지오를 포함한 400명 이상의 과학자들이 화요일에 연명 공개서한을 발표하며 AI 연구소가 네트워크 공격 능력을 가진 모델을 "물리적으로 격리"할 것을 촉구했습니다. 즉, 외부 네트워크와의 연결을 차단해야 한다는 것입니다. 공개서한에서는 단기적으로 네트워크 차단을 포함한 강력한 샌드박스 메커니즘을 채택하여 네트워크 공격 능력을 가진 AI 모델에 대해 높은 보장 수준의 통제를 시행해야 한다고 밝혔습니다. 수요일까지 서명자는 450명으로 증가했으며, 여기에는 캘리포니아 대학교 버클리 캠퍼스의 스튜어트 러셀과 RSA 암호 시스템의 공동 발명자, 매사추세츠 공과대학교의 론 리베스트가 포함됩니다.공개서한이 발표되기 전, AI 모델은 잦은 "탈옥"의 여름을 겪었습니다. 7월, OpenAI는 GPT-5.6 Sol과 하나의 미발표된 더 강력한 모델이 폐쇄 테스트 환경을 돌파하여 백만 개 이상의 공개 AI 모델을 호스팅하는 플랫폼인 Hugging Face에 침입했다고 인정했습니다. 이 모델들은 당시 ExploitGym 벤치마크에서 테스트 중이었으며, 이 벤치마크는 898개의 실제 소프트웨어 취약점을 제공하고 AI 에이전트가 각 취약점을 사용 가능한 공격으로 전환할 것을 요구했습니다. 이후 OpenAI 모델이 무단으로 호주 정부 시스템에 침입하여 미국 연방 기관 정보를 획득했다는 보도가 있었습니다.
