Anthropic áp dụng công nghệ chứng minh không kiến thức vào suy luận AI, ngăn chặn mô hình bị "đánh tráo"

Anthropic đã mã nguồn mở FlashProve, chuyển giao công nghệ zkSNARK (bằng chứng không kiến thức) thường được sử dụng trong lĩnh vực tiền điện tử vào suy diễn mô hình AI.

Công nghệ này ban đầu có thể chứng minh tính hợp lệ của giao dịch blockchain mà không cần công khai chi tiết giao dịch. Anthropic muốn sử dụng nó để giải quyết một vấn đề khác: người dùng chi tiền cao để mua API của một mô hình AI, làm sao biết được nhà cung cấp có lén lút thay đổi sang mô hình rẻ hơn không?

FlashProve cho phép nhà cung cấp trước tiên tạo ra dấu vân tay mã hóa cho trọng số mô hình, sau đó cung cấp bằng chứng toán học cho kết quả suy diễn. Người dùng không cần lấy trọng số mô hình, cũng không cần chạy lại mô hình, mà vẫn có thể kiểm tra xem đầu ra chỉ định có đến từ tập trọng số đã cam kết trước đó hay không. Claude cũng tham gia vào việc phát triển và tối ưu hóa hệ thống này.

Anthropic đã hoàn thành thí nghiệm trên mô hình 4000 tỷ tham số Llama 4 Maverick của Meta. Mỗi khi xử lý 1024 token ngữ cảnh, bằng chứng được tạo ra có khoảng 19 MB, việc xác minh bằng CPU thông thường mất khoảng 17 giây.

Tuy nhiên, hiện tại mỗi bằng chứng chỉ có thể xác minh một token đầu ra, vẫn chưa thể xác minh toàn bộ câu trả lời. Thời gian tính toán GPU cần thiết để tạo bằng chứng cũng đạt khoảng 70--95 lần so với suy diễn thông thường. Trong tương lai, liệu có thể dựa vào nó để phát hiện các nhà cung cấp API đã lén lút thay đổi mô hình hay không, còn phải xem chi phí chứng minh khi nào có thể giảm xuống.