준 송: 익명 블랙햇 조직의 취약점 데이터 훈련 초대를 거부했습니다

오픈소스 AI 전문가 Jun Song이 X에 글을 올리며: 어제 익명의 해커 조직이 그에게 연락하여 강화 학습 요청을 제안했으며, 매우 높은 금액을 지불할 의사가 있다고 밝혔다. 그들은 오픈소스 가중치 모델에 대해 후속 훈련을 의뢰하고, 사용될 데이터는 취약점 이용 데이터라고 한다. Jun Song은 동시에 한국 데이터 센터 하드웨어 수출 사업을 운영하고 있으며, 프로젝트 0xSupergemma를 추진하고 있다.

Jun Song은 상대방이 주장하는 공격 데이터의 규모는 그가 이전에 본 적이 없는 것이라고 말했다. 누군가 이것이 법 집행 기관의 잠입 데이터 세트라고 말하더라도 그는 믿을 것이라고 덧붙였다. 대조적으로, 그가 참여한 한 화이트 해커 프로젝트는 GLM-5.3을 사용하고 있으며, 데이터 양은 그 규모의 1%도 안 되지만 성능은 이미 최첨단 모델을 크게 초과하고 있다. 그는 해당 요청을 거부했으며, 진정으로 걱정하는 것은 결국 다른 누군가가 이 거래를 수락할 것이라는 점이라고 말했다.