Anthropic은 제로 지식 증명 기술을 AI 추론에 적용하여 모델이 "바꿔치기"되는 것을 방지합니다

Anthropic은 FlashProve를 오픈 소스하여 암호화폐 분야에서 일반적으로 사용되는 zkSNARK(제로 지식 증명) 기술을 AI 모델 추론에 적용했습니다.

이 기술은 거래 세부 정보를 공개하지 않고도 블록체인 거래의 유효성을 증명할 수 있습니다. Anthropic은 이를 사용하여 또 다른 문제를 해결하고자 합니다: 사용자가 고가의 AI 모델 API를 구매했을 때, 서비스 제공자가 저렴한 모델로 몰래 교체했는지 어떻게 알 수 있을까요?

FlashProve는 서비스 제공자가 모델 가중치에 대한 암호화된 지문을 생성한 후, 추론 결과에 대한 수학적 증명을 제공합니다. 사용자는 모델 가중치를 얻을 필요도 없고, 모델을 다시 실행할 필요도 없이 지정된 출력이 미리 약속된 가중치 집합에서 나온 것인지 확인할 수 있습니다. Claude도 이 시스템의 개발 및 최적화에 참여했습니다.

Anthropic은 이미 Meta의 4000억 매개변수 모델 Llama 4 Maverick에서 실험을 완료했습니다. 1024개의 토큰 컨텍스트를 처리할 때 생성된 증명은 약 19MB이며, 일반 CPU로 검증하는 데 약 17초가 소요됩니다.

하지만 현재 각 증명은 하나의 출력 토큰만 검증할 수 있으며, 전체 답변을 검증할 수는 없습니다. 증명을 생성하는 데 필요한 GPU 계산 시간은 일반 추론의 약 70--95배에 달합니다. 앞으로 이를 통해 몰래 모델을 교체한 API 서비스 제공자를 찾아낼 수 있을지는 증명 비용이 언제 낮아질 수 있을지에 달려 있습니다.