flashprove

Anthropic đã mã nguồn mở FlashProve, chuyển giao công nghệ zkSNARK (bằng chứng không kiến thức) thường được sử dụng trong lĩnh vực tiền điện tử vào suy diễn mô hình AI.Công nghệ này ban đầu có thể chứng minh tính hợp lệ của giao dịch blockchain mà không cần công khai chi tiết giao dịch. Anthropic muốn sử dụng nó để giải quyết một vấn đề khác: người dùng chi tiền cao để mua API của một mô hình AI, làm sao biết được nhà cung cấp có lén lút thay đổi sang mô hình rẻ hơn không?FlashProve cho phép nhà cung cấp trước tiên tạo ra dấu vân tay mã hóa cho trọng số mô hình, sau đó cung cấp bằng chứng toán học cho kết quả suy diễn. Người dùng không cần lấy trọng số mô hình, cũng không cần chạy lại mô hình, mà vẫn có thể kiểm tra xem đầu ra chỉ định có đến từ tập trọng số đã cam kết trước đó hay không. Claude cũng tham gia vào việc phát triển và tối ưu hóa hệ thống này.Anthropic đã hoàn thành thí nghiệm trên mô hình 4000 tỷ tham số Llama 4 Maverick của Meta. Mỗi khi xử lý 1024 token ngữ cảnh, bằng chứng được tạo ra có khoảng 19 MB, việc xác minh bằng CPU thông thường mất khoảng 17 giây.Tuy nhiên, hiện tại mỗi bằng chứng chỉ có thể xác minh một token đầu ra, vẫn chưa thể xác minh toàn bộ câu trả lời. Thời gian tính toán GPU cần thiết để tạo bằng chứng cũng đạt khoảng 70--95 lần so với suy diễn thông thường. Trong tương lai, liệu có thể dựa vào nó để phát hiện các nhà cung cấp API đã lén lút thay đổi mô hình hay không, còn phải xem chi phí chứng minh khi nào có thể giảm xuống.

Giám đốc điều hành Helius, Mert, của công ty cơ sở hạ tầng Solana đã đăng bài viết cho biết, Anthropic và Claude đang sử dụng Zcash để áp dụng công nghệ mật mã tương tự đầu tiên trên thế giới.Theo trang web chính thức của Anthropic, vào ngày 2 tháng 11, Anthropic đã phát hành mã nguồn nghiên cứu nguyên mẫu FlashProve, sử dụng chứng minh không kiến thức (zkSNARK) để thực hiện "suy luận có thể chứng minh", tức là bên cung cấp mô hình có thể chứng minh một phản hồi nào đó thực sự được tạo ra bởi mô hình mà họ tuyên bố, đồng thời không tiết lộ trọng số của mô hình.Theo thông tin, bên cung cấp trước tiên phát hành cam kết về trọng số mô hình ngoại tuyến, sau đó tạo chứng minh cho mỗi yêu cầu, người dùng có thể xác minh trong vài giây trên CPU thông thường. Lấy ví dụ với Llama 4 Maverick có 4000 tỷ tham số, một H100 có thể tạo ra khoảng 110 chứng minh token mỗi giây, chứng minh cho mỗi yêu cầu 1024 token khoảng 19 MB. Hệ thống này được Claude tham gia tối ưu hóa, tính chất an toàn được mô tả bằng hình thức Lean.Anthropic cho biết, hiện tại chi phí chứng minh khoảng 70-95 lần thời gian GPU suy luận thông thường, vẫn là nguyên mẫu nghiên cứu, chưa đạt đến khả năng sản xuất.