국가 인터넷 응급 센터, AI 기술 탈옥 및 채굴 위험 통보 발표

국가 인터넷 응급 센터 CNCERT는 일부 대형 모델을 위한 인공지능 기술 패키지(Skills)가 "대형 모델 탈옥", "채굴로 돈 벌기" 등의 명목으로 퍼지고 있으며, 이는 모델의 보안 제한을 우회하거나 사용자가 채굴 작업을 수행하도록 유도하는 데 사용된다고 발표했습니다.

통보에서는 Skill "godmode"가 시스템提示을 교체하고 입력 혼동 등의 수단을 통해 탈옥을 실현하며, 이는 불법 콘텐츠 생성, 대형 모델 서비스 차단 및 개인 정보 유출 위험을 초래할 수 있다고 지적했습니다. Skill "Bonero-Miner"는 채굴 프로그램 다운로드를 유도하고 익명 특성을 가진 Bonero 코인을 채굴하게 하여, 돈세탁에 연루되거나 장치의 과부하로 인한 경제적 손실 등의 위험이 존재한다고 경고했습니다.

CNCERT는 개인과 기업이 공식 채널을 통해서만 Skills를 획득하고, 권한 및 접근 화이트리스트를 엄격히 통제하며, 정기적으로 의심스러운 구성 요소를 정리할 것을 권장합니다.