flashprove

Anthropic은 FlashProve를 오픈 소스하여 암호화폐 분야에서 일반적으로 사용되는 zkSNARK(제로 지식 증명) 기술을 AI 모델 추론에 적용했습니다.이 기술은 거래 세부 정보를 공개하지 않고도 블록체인 거래의 유효성을 증명할 수 있습니다. Anthropic은 이를 사용하여 또 다른 문제를 해결하고자 합니다: 사용자가 고가의 AI 모델 API를 구매했을 때, 서비스 제공자가 저렴한 모델로 몰래 교체했는지 어떻게 알 수 있을까요?FlashProve는 서비스 제공자가 모델 가중치에 대한 암호화된 지문을 생성한 후, 추론 결과에 대한 수학적 증명을 제공합니다. 사용자는 모델 가중치를 얻을 필요도 없고, 모델을 다시 실행할 필요도 없이 지정된 출력이 미리 약속된 가중치 집합에서 나온 것인지 확인할 수 있습니다. Claude도 이 시스템의 개발 및 최적화에 참여했습니다.Anthropic은 이미 Meta의 4000억 매개변수 모델 Llama 4 Maverick에서 실험을 완료했습니다. 1024개의 토큰 컨텍스트를 처리할 때 생성된 증명은 약 19MB이며, 일반 CPU로 검증하는 데 약 17초가 소요됩니다.하지만 현재 각 증명은 하나의 출력 토큰만 검증할 수 있으며, 전체 답변을 검증할 수는 없습니다. 증명을 생성하는 데 필요한 GPU 계산 시간은 일반 추론의 약 70--95배에 달합니다. 앞으로 이를 통해 몰래 모델을 교체한 API 서비스 제공자를 찾아낼 수 있을지는 증명 비용이 언제 낮아질 수 있을지에 달려 있습니다.

솔라나 인프라 회사 Helius의 CEO Mert는 Anthropic과 Claude가 Zcash를 사용하여 전 세계에서 최초로 동종 암호학 기술을 적용하고 있다고 발표했습니다.Anthropic 공식 웹사이트에 따르면, Anthropic은 11월 2일 연구 프로토타입 FlashProve를 오픈 소스 형태로 발표했으며, 이를 통해 제로 지식 증명(zkSNARK)을 활용하여 "증명 가능한 추론"을 구현했습니다. 즉, 모델 제공자가 특정 응답이 실제로 그들이 주장하는 모델에 의해 생성되었음을 증명할 수 있으며, 동시에 모델 가중치는 유출되지 않습니다.소개에 따르면, 제공자는 먼저 오프라인에서 모델 가중치의 약속을 발표한 후, 각 요청에 대해 증명을 생성합니다. 사용자는 일반 CPU에서 몇 초 안에 이를 검증할 수 있습니다. 4000억 개의 매개변수를 가진 Llama 4 Maverick을 예로 들면, 단일 H100은 매초 약 110개의 토큰에 대한 증명을 생성할 수 있으며, 1024개의 토큰 요청에 대한 증명은 약 19 MB입니다. 이 시스템은 Claude가 최적화에 참여했으며, 보안 특성은 Lean 형식으로 설명되었습니다.Anthropic은 현재 증명 비용이 일반 추론 GPU 시간의 70-95배에 달하며, 여전히 연구 프로토타입 단계로, 생산 사용에는 이르지 않았다고 밝혔습니다.