Sentient가 첫 번째 개방형 기준을 출시하여 AI 모델이 자신의 출처를 증명할 수 있는지 테스트합니다

Sentient 연구원들은 Sentient 자체 솔루션을 포함하여 테스트를 받은 거의 모든 모델 지문 기술이 우회될 수 있음을 발견했습니다. 이를 위해 새로운 Fingerprinting Leaderboard가 공개 평가를 통해 어떤 기술이 모델 복제, 미세 조정, 증류 및 공격의 시험을 실제로 견딜 수 있는지를 검증할 것입니다.

AI 모델을 훈련하는 데 수백만 달러가 소요될 수 있지만, 모델이 복제되거나 미세 조정되거나 다른 모델로 증류된 후에는 그 출처를 증명하는 것이 매우 어려워질 수 있습니다.

Sentient 연구원들은 최근 이 문제를 해결하기 위해 고안된 10가지 기술 솔루션을 테스트했으며, 그 결과 모델의 실용성에 영향을 미치지 않더라도 충분히 복잡한 공격 수단이 거의 모든 솔루션을 우회할 수 있음을 발견했습니다. 여기에는 Sentient이 자체 개발한 모델 지문 기술도 포함됩니다.

현재 Sentient Foundation은 Fingerprinting Leaderboard를 공식 출시하였으며, 이는 어떤 모델 지문 기술이 실제로 효과적인지, 그것들이 모델 성능에 얼마나 큰 영향을 미치는지, 그리고 이러한 지문이 제거 공격을 받을 때 계속 유지될 수 있는지를 측정하기 위한 공개 평가 기준입니다.

점점 더 많은 강력한 AI 모델이 출시되고 미세 조정되며 증류되고 재포장됨에 따라 이 문제는 점점 더 중요해지고 있습니다. 모델 가중치는 복제될 수 있으며 메타데이터는 사라질 수 있어 개발자가 다른 모델이 실제로 자신의 작업 결과에서 유래되었다는 것을 신뢰할 수 있는 방법으로 증명하기 어렵게 만듭니다.

모델 지문 기술은 출처 증명을 모델 자체에 직접 내장하는 다른 접근 방식을 제공합니다.

Sentient Foundation의 벤처 투자 및 성장 이사인 사치 카미야는 "AI 모델은 세계에서 가장 가치 있는 지식 재산 중 하나가 되고 있지만, 모델이 복제되거나 증류되면 소유권을 증명하는 것이 극히 어려워집니다. 모델 지문 기술은 증명을 모델 내부에 직접 내장합니다. 이를 AI 분야의 숨겨진 마크로 이해할 수 있습니다. 마치 르네상스 시대의 화가들이 자신의 창작 정체성을 증명하기 위해 작품에 비밀 마크를 남긴 것처럼요."라고 말했습니다.

모델 내부에 숨겨진 서명

모델 지문 기술은 Sentient Labs와 이 분야의 다른 연구자들이 함께 탐구하고 발전시킨 것입니다. 이는 모델의 고유 신호를 생성, 발견 또는 검증하여 모델의 정체성을 식별하거나 그 출처 및 진화 관계를 추적하는 기술을 포괄합니다.

Sentient의 솔루션은 모델 훈련 과정에서 숨겨진 행동 서명을 내장하는 것입니다. 이후 모델 소유자가 특정 모델이 원래 모델에서 파생된 것이라고 의심할 경우, API를 통해 의심되는 모델에 접근할 수 있는 경우 미리 설정된 비밀 검증 키워드를 전송하고 모델의 응답을 확인하여 원래 모델의 흔적이 여전히 남아 있는지를 판단할 수 있습니다.

간단히 말해, 모델 자체가 그 출처를 증명할 수 있는 증거를 지니고 있습니다.

Sentient Labs AI 연구원인 에두아르도 콘텐테는 "이 마크는 훈련 과정에서 모델의 행동 서명으로 인코딩됩니다. 이후 우리는 특정 검증 키워드를 통해 이를 검사하여 의심되는 모델이 여전히 원래 모델의 흔적을 보유하고 있는지를 판단할 수 있습니다."라고 설명했습니다.

이는 AI에 오랫동안 부족했던 능력을 제공합니다: 모델 자체에서 출처를 직접 검증할 수 있으며, 더 이상 로그, 메타데이터 또는 외부 조사를 단순히 의존하지 않습니다.

단일 모델에 24,576개의 지문 내장

Sentient 연구원들은 모델 지문 기술의 규모가 이전 솔루션을 훨씬 초과할 수 있음을 입증했습니다.

Sentient의 Perinucleus 방법은 NeurIPS 2025에서 주목받았습니다. 이 방법은 Llama-3.1-8B 모델에 24,576개의 지문을 성공적으로 내장했으며, 모델의 실용성 손실은 극히 미미했습니다. 또한 많은 지문이 후속 미세 조정 후에도 여전히 유지되었습니다.

이 규모는 중요한 의미를 가집니다. 더 많은 지문은 더 높은 통계적 신뢰도, 모델 출처를 검증할 기회 증가, 그리고 모델이 복제되거나 배포되는 과정에서 더 강한 저항력을 의미합니다.

하지만 규모는 문제의 절반에 불과합니다. 더 어려운 문제는 누군가가 이러한 지문을 제거하려고 시도할 때, 그것들이 여전히 존재할 수 있는가입니다.

Sentient, 모델 지문을 해독하려고 시도하다, 자신의 솔루션 포함

Sentient Labs의 최신 연구는 기존의 많은 모델 지문 및 워터마크 기술이 복잡한 공격에 직면했을 때 여전히 명백한 취약성을 가지고 있음을 보여줍니다.

SaTML 2026에서 발표된 연구에서 Sentient 연구원들은 최근 제안된 10가지 모델 지문 솔루션에 대해 적응형 공격을 설계했습니다. 그 결과, 충분히 복잡한 공격자는 모델의 실용성을 유지하면서 거의 모든 솔루션을 우회할 수 있음을 발견했습니다.

여기에는 Sentient의 Perinucleus 방법도 포함됩니다.

Sentient은 이러한 약점을 숨기지 않고 연구 결과를 공개했습니다.

Fingerprinting Leaderboard의 목표는 이러한 적대적 테스트 과정을 공개 평가 기준으로 전환하는 것입니다. 첫 번째 버전은 서로 다른 기술이 모델 성능을 저하시키지 않으면서 효과적으로 지문을 내장할 수 있는지를 평가합니다. 곧 출시될 후속 버전은 적대적 강건성 평가를 추가하여 이러한 지문이 의도적으로 제거하거나 회피하려는 공격에 직면했을 때 어느 정도까지 유지될 수 있는지를 검증할 것입니다.

목표는 간단합니다: 모델 지문은 연구 기준 테스트에서만 잘 작동해서는 안 되며, 그것을 파괴하려고 시도하는 공격에 저항할 수 있어야 합니다.

연구 커뮤니티에 테스트 개방

Fingerprinting Leaderboard와 함께 Sentient의 오픈 소스 mlprints 도구 라이브러리가 출시되었습니다. 이 도구 라이브러리는 다양한 모델 지문 기술과 그 공격 방법을 통합하여 통일된 평가 프레임워크로 제공합니다.

연구원들은 이 프레임워크를 활용하여 새로운 지문 솔루션을 구현하고, 새로운 공격 방법을 개발하며, 기존 연구 결과를 재현하고, 통일된 테스트 조건에서 서로 다른 기술의 성능을 비교하여 전체 분야의 지속적인 발전을 촉진할 수 있습니다.

Fingerprinting Leaderboard는 연구 커뮤니티와 함께 발전하며 모델 지문 기술의 연구를 개방된 테스트 환경으로 전환할 것입니다. 여기서 기술 강건성에 대한 모든 주장은 독립적인 검증을 받을 수 있으며, 더 이상 연구자 자신의 결론에만 의존하지 않습니다.

모델을 개방하되, 소유권 유지

모델 지문 기술은 오픈 소스 AI가 직면한 중대한 문제를 해결하는 데 도움을 줄 것으로 기대됩니다.

현재 개발자들은 종종 두 가지 선택 사이에서 균형을 잡아야 합니다: 모델 가중치를 폐쇄적으로 유지하여 모델에 대한 통제권을 유지하거나, 모델 가중치를 개방하되 복제 및 재사용 방식에 대한 가시성을 잃는 것입니다.

모델 지문 기술은 세 번째 가능성을 제공합니다.

이 기술은 모델이 복제되는 것을 막으려 하지 않으며, 복제가 발생한 후에도 모델 출처를 증명할 수 있는 증거를 여전히 보유합니다. 이러한 증거는 향후 출처 귀속 인정, 라이센스 집행, 경제적 권리 보호 및 검증 가능한 모델 출처를 기반으로 한 기타 메커니즘을 지원하는 데 사용될 수 있습니다.

모델 출처를 검증 가능하게 함으로써 Sentient의 모델 지문 연구와 Fingerprinting Leaderboard는 보다 개방적인 AI 생태계 구축을 촉진하는 것을 목표로 합니다. 이 생태계에서 모델은 자유롭게 공유될 수 있으며, 다른 개발자들이 이를 사용하여 추가 혁신을 할 수 있지만, 원래 창작자는 기술 출처를 증명할 수 있는 능력을 자동으로 포기할 필요가 없습니다.

더 장기적인 목표는 더욱 도전적입니다: 모델 지문을 모델 자체의 능력과 깊게 결합하여, 지문을 제거하려는 모든 시도가 모델 본연의 능력을 손상시키도록 만드는 것입니다.

지식 재산, 증거가 있습니다. 당신의 모델을 이해하세요.

Sentient Foundation에 대하여

Sentient Foundation은 일반 인공지능(AGI)이 오픈 소스를 유지하고 인류의 이익과 가치에 부합하도록 보장하는 비영리 조직입니다.

재단은 중립성과 투명성을 핵심 원칙으로 삼아 오픈 소스 AGI의 전 세계적 보급을 촉진하고, AI 정렬 및 안전 기준을 옹호하며, 전 세계 개발자에게 자금을 지원하고, 책임 있는 AI 개발 거버넌스 프레임워크를 구축하는 데 협력합니다.

Sentient Labs에 대하여

Sentient Labs는 Sentient Foundation 산하에서 기술 연구 및 제품 개발을 담당하는 기관입니다.

Sentient Labs는 추론, AI 정렬 및 다중 에이전트 협력 분야의 최전선 응용 연구를 촉진하고, ROMA, OML 및 Arena를 포함한 오픈 소스 프레임워크 및 모델을 개발하여 커뮤니티 주도의 인공지능의 잠재력을 보여줍니다.

그들의 작업은 또한 오픈 소스 도구의 상업화를 지원하고, 전체 생태계 범위 내에서 협력을 통해 오픈 소스 AI 생태계의 품질과 실용성을 향상시키며, 필요한 배포 경로를 제공하여 오픈 소스가 AI 분야의 기본 표준이 되도록 촉진하는 것을 포함합니다.