Sentient ra mắt tiêu chuẩn mở đầu tiên, kiểm tra xem mô hình AI có thể chứng minh nguồn gốc của chính nó hay không

Các nhà nghiên cứu của Sentient phát hiện rằng, bao gồm cả giải pháp của Sentient, hầu hết các công nghệ dấu vân tay mô hình được thử nghiệm đều có thể bị vượt qua. Để giải quyết vấn đề này, Bảng xếp hạng Dấu vân tay hoàn toàn mới sẽ thông qua đánh giá công khai, kiểm tra công nghệ nào thực sự có thể chịu đựng được sự sao chép, tinh chỉnh, chưng cất và tấn công mô hình.

Để đào tạo một mô hình AI có thể tốn hàng triệu đô la, nhưng một khi mô hình đã bị sao chép, tinh chỉnh hoặc chưng cất thành một mô hình khác, việc chứng minh nguồn gốc ban đầu của nó có thể trở nên vô cùng khó khăn.

Các nhà nghiên cứu của Sentient gần đây đã thử nghiệm mười công nghệ nhằm giải quyết vấn đề này, và kết quả cho thấy, ngay cả khi không ảnh hưởng đến tính hữu dụng của mô hình, các phương pháp tấn công đủ phức tạp vẫn có thể vượt qua hầu hết các giải pháp, bao gồm cả công nghệ dấu vân tay mô hình do Sentient phát triển.

Hiện nay, Quỹ Sentient chính thức ra mắt Bảng xếp hạng Dấu vân tay, đây là một tiêu chuẩn đánh giá mở, nhằm đo lường công nghệ dấu vân tay mô hình nào thực sự hiệu quả, ảnh hưởng của chúng đến hiệu suất mô hình là bao nhiêu, và liệu những dấu vân tay này có thể tiếp tục được giữ lại khi gặp phải các cuộc tấn công loại bỏ.

Khi ngày càng nhiều mô hình AI mạnh mẽ được phát hành, tinh chỉnh, chưng cất và tái đóng gói, vấn đề này ngày càng trở nên quan trọng. Trọng số mô hình có thể bị sao chép, siêu dữ liệu cũng có thể biến mất, khiến cho các nhà phát triển khó có thể chứng minh một cách đáng tin cậy rằng một mô hình khác thực sự xuất phát từ công việc của họ.

Công nghệ dấu vân tay mô hình cung cấp một cách tiếp cận khác: nhúng chứng minh nguồn gốc trực tiếp vào chính mô hình.

Giám đốc đầu tư mạo hiểm và tăng trưởng của Quỹ Sentient, Sachi Kamiya, cho biết: "Mô hình AI đang trở thành một trong những tài sản trí tuệ có giá trị nhất trên toàn cầu, nhưng một khi mô hình đã bị sao chép hoặc chưng cất, việc chứng minh quyền sở hữu trở nên cực kỳ khó khăn. Công nghệ dấu vân tay mô hình sẽ nhúng chứng minh trực tiếp vào trong mô hình. Bạn có thể hiểu nó như một dấu hiệu ẩn trong lĩnh vực AI, giống như các nghệ sĩ thời Phục hưng đã để lại những dấu hiệu bí mật trong tác phẩm của họ để chứng minh danh tính sáng tạo của mình."

Chữ ký ẩn bên trong mô hình

Công nghệ dấu vân tay mô hình (Model Fingerprinting) được Sentient Labs và các nhà nghiên cứu khác trong lĩnh vực này cùng khám phá và phát triển. Nó đề cập đến một loại công nghệ nhận diện danh tính mô hình hoặc truy nguyên nguồn gốc và mối quan hệ tiến hóa của nó thông qua việc tạo ra, phát hiện hoặc xác minh các tín hiệu đặc trưng của mô hình.

Giải pháp của Sentient nhúng chữ ký hành vi ẩn vào trong quá trình đào tạo mô hình. Sau đó, khi chủ sở hữu mô hình nghi ngờ một mô hình nào đó là do mô hình gốc phát sinh, họ chỉ cần có thể truy cập mô hình nghi ngờ đó qua API, gửi từ khóa xác minh bí mật đã được thiết lập trước và kiểm tra phản hồi của mô hình, từ đó xác định xem liệu nó có còn giữ lại dấu vết của mô hình gốc hay không.

Nói một cách đơn giản, chính mô hình mang theo bằng chứng có thể chứng minh nguồn gốc của nó.

Nhà nghiên cứu AI của Sentient Labs, Eduardo Contente, giải thích: "Dấu hiệu này được mã hóa vào chữ ký hành vi của mô hình trong quá trình đào tạo. Sau đó, chúng tôi có thể kiểm tra nó thông qua các từ khóa xác minh cụ thể, để xác định xem mô hình nghi ngờ có còn giữ lại dấu vết của mô hình gốc hay không."

Điều này mang lại cho AI một khả năng mà từ lâu đã thiếu: xác minh nguồn gốc của nó trực tiếp từ chính mô hình, thay vì chỉ dựa vào nhật ký, siêu dữ liệu hoặc điều tra bên ngoài.

Nhúng 24,576 dấu vân tay vào một mô hình

Các nhà nghiên cứu của Sentient đã chứng minh rằng quy mô của công nghệ dấu vân tay mô hình có thể vượt xa các giải pháp trước đó.

Phương pháp Perinucleus của Sentient đã được chú ý tại NeurIPS 2025. Phương pháp này đã thành công trong việc nhúng 24,576 dấu vân tay vào mô hình Llama-3.1-8B, trong khi chỉ gây ra tổn thất rất nhỏ về tính hữu dụng của mô hình, và nhiều dấu vân tay trong số đó vẫn được giữ lại sau khi tinh chỉnh tiếp theo.

Quy mô này có ý nghĩa quan trọng. Nhiều dấu vân tay hơn có nghĩa là độ tin cậy thống kê cao hơn, nhiều cơ hội hơn để xác minh nguồn gốc mô hình, và khả năng kháng cự mạnh mẽ hơn khi mô hình bị sao chép hoặc phân phối.

Nhưng quy mô chỉ là một nửa của vấn đề. Vấn đề khó khăn hơn là: khi ai đó cố gắng loại bỏ những dấu vân tay này, chúng có thể tiếp tục tồn tại không?

Sentient cố gắng phá vỡ dấu vân tay mô hình, bao gồm cả giải pháp của chính mình

Nghiên cứu mới nhất của Sentient Labs cho thấy nhiều công nghệ dấu vân tay và watermark hiện có vẫn tồn tại những điểm yếu rõ ràng khi đối mặt với các cuộc tấn công phức tạp.

Trong nghiên cứu được công bố tại SaTML 2026, các nhà nghiên cứu của Sentient đã thiết kế các cuộc tấn công thích ứng nhằm vào mười giải pháp dấu vân tay mô hình được đề xuất gần đây. Kết quả cho thấy, những kẻ tấn công đủ phức tạp gần như có thể vượt qua tất cả các giải pháp này, đồng thời vẫn giữ được tính hữu dụng của mô hình.

Trong số đó cũng bao gồm phương pháp Perinucleus của Sentient.

Sentient không chọn cách che giấu những điểm yếu này, mà công khai công bố kết quả nghiên cứu.

Mục tiêu của Bảng xếp hạng Dấu vân tay là biến quy trình thử nghiệm đối kháng này thành một tiêu chuẩn đánh giá mở. Phiên bản đầu tiên chủ yếu đánh giá xem các công nghệ khác nhau có thể nhúng dấu vân tay một cách hiệu quả mà không làm giảm hiệu suất mô hình hay không. Các phiên bản tiếp theo sắp ra mắt sẽ bổ sung các đánh giá về khả năng kháng cự đối kháng, kiểm tra xem những dấu vân tay này có thể được giữ lại đến mức nào khi đối mặt với các cuộc tấn công cố ý loại bỏ hoặc tránh chúng.

Mục tiêu rất đơn giản: dấu vân tay mô hình không chỉ nên hoạt động tốt trong các bài kiểm tra chuẩn nghiên cứu, mà còn phải có khả năng chống lại những cuộc tấn công cố gắng phá hoại chúng.

Mở thử nghiệm cho cộng đồng nghiên cứu

Cùng với Bảng xếp hạng Dấu vân tay, còn có thư viện công cụ mlprints mã nguồn mở của Sentient. Thư viện này tích hợp các công nghệ dấu vân tay mô hình khác nhau và các phương pháp tấn công vào một khung đánh giá thống nhất.

Các nhà nghiên cứu có thể sử dụng khung này để thực hiện các giải pháp dấu vân tay mới, phát triển các phương pháp tấn công mới, tái hiện các kết quả nghiên cứu đã có, và so sánh hiệu suất của các công nghệ khác nhau trong các điều kiện thử nghiệm thống nhất, thúc đẩy sự phát triển liên tục của toàn bộ lĩnh vực.

Bảng xếp hạng Dấu vân tay sẽ cùng cộng đồng nghiên cứu tiến hóa, biến nghiên cứu công nghệ dấu vân tay thành một môi trường thử nghiệm mở. Tại đây, bất kỳ tuyên bố nào về khả năng kháng cự của công nghệ đều có thể được xác minh độc lập, thay vì chỉ dựa vào kết luận của chính các nhà nghiên cứu.

Mở mô hình, đồng thời giữ quyền sở hữu

Công nghệ dấu vân tay mô hình có khả năng giúp giải quyết một vấn đề lớn mà AI mã nguồn mở đang phải đối mặt.

Hiện nay, các nhà phát triển thường phải cân nhắc giữa hai lựa chọn: hoặc giữ trọng số mô hình kín để duy trì quyền kiểm soát đối với mô hình; hoặc mở trọng số mô hình, nhưng đồng nghĩa với việc mất đi khả năng nhìn thấy cách thức mô hình được sao chép và tái sử dụng.

Công nghệ dấu vân tay mô hình cung cấp một khả năng thứ ba.

Nó không cố gắng ngăn chặn việc sao chép mô hình, mà là giữ lại bằng chứng có thể chứng minh nguồn gốc của mô hình ngay cả sau khi việc sao chép xảy ra. Những bằng chứng này có thể được sử dụng trong tương lai để hỗ trợ xác định quyền sở hữu nguồn gốc, thực thi cấp phép, bảo vệ quyền lợi kinh tế, và các cơ chế khác xoay quanh việc xây dựng nguồn gốc mô hình có thể xác minh.

Bằng cách làm cho nguồn gốc mô hình trở nên có thể xác minh, nghiên cứu dấu vân tay của Sentient và Bảng xếp hạng Dấu vân tay nhằm thúc đẩy việc xây dựng một hệ sinh thái AI mở hơn. Trong hệ sinh thái này, mô hình có thể được chia sẻ tự do và được các nhà phát triển khác sử dụng để đổi mới hơn nữa, trong khi các nhà sáng tạo gốc không cần phải tự động từ bỏ khả năng chứng minh nguồn gốc công nghệ.

Mục tiêu lâu dài hơn thì thách thức hơn: làm cho dấu vân tay mô hình gắn bó sâu sắc với khả năng của chính mô hình, đến mức bất kỳ hành động nào cố gắng loại bỏ dấu vân tay đều sẽ đồng thời làm tổn hại đến khả năng của chính mô hình.

Quyền sở hữu trí tuệ, có chứng cứ xác thực. Hiểu về mô hình của bạn.

Về Quỹ Sentient

Quỹ Sentient là một tổ chức phi lợi nhuận, cam kết đảm bảo trí tuệ nhân tạo tổng quát (AGI) giữ nguyên mã nguồn mở và phù hợp với lợi ích và giá trị của nhân loại.

Quỹ lấy tính trung lập và minh bạch làm nguyên tắc cốt lõi, thúc đẩy sự phổ biến của AGI mã nguồn mở trên toàn cầu, cổ vũ tiêu chuẩn an toàn và căn chỉnh AI, cung cấp tài trợ cho các nhà phát triển trên toàn cầu, và phối hợp xây dựng khung quản trị phát triển AI có trách nhiệm.

Về Sentient Labs

Sentient Labs là cơ quan chịu trách nhiệm nghiên cứu công nghệ và phát triển sản phẩm thuộc Quỹ Sentient.

Sentient Labs cam kết thúc đẩy nghiên cứu ứng dụng tiên tiến trong các lĩnh vực suy luận, căn chỉnh AI và hợp tác đa tác nhân, và phát triển các khung và mô hình mã nguồn mở bao gồm ROMA, OML và Arena, thể hiện tiềm năng của trí tuệ nhân tạo do cộng đồng điều khiển.

Công việc của họ cũng bao gồm hỗ trợ thương mại hóa các công cụ mã nguồn mở, nâng cao chất lượng và tính hữu dụng của hệ sinh thái AI mã nguồn mở thông qua sự hợp tác trong toàn bộ hệ sinh thái, và cung cấp các kênh phân phối cần thiết, thúc đẩy mã nguồn mở trở thành tiêu chuẩn mặc định trong lĩnh vực AI.