Nghiên cứu mới nhất của 13 trường đại học hàng đầu như Cornell University: Tình trạng, thách thức và hiểu lầm về sự kết hợp giữa Crypto và AI

• tác giả: IC3 *

• biên soạn: Gia Hoan, ChainCatcher *

Kết luận chính

Sự kết hợp có ý nghĩa giữa AI và crypto vẫn đang ở giai đoạn rất sớm, sự ồn ào xung quanh lĩnh vực giao thoa này đã che khuất những tiến bộ thực tế.

Trong hướng Crypto x AI, AI đã có thể phân tích và phát hiện các đặc tính quan trọng của giao dịch, sự kiện và giao thức hiện có, nhận diện gian lận hoặc hợp đồng thông minh có lỗ hổng. Các công nghệ này thường sử dụng các phương pháp học máy đơn giản, hiệu quả nhất trong môi trường có dữ liệu đầy đủ và được kiểm soát.

Trong hướng AI x Crypto, các công cụ crypto cung cấp những cách mới để bảo vệ và quản trị quy trình AI. Các công cụ như chứng minh không kiến thức, tính toán đáng tin cậy có thể được điều chỉnh để giảm thiểu rủi ro kết quả AI bị giả mạo. Trong khi đó, các ý tưởng như quản trị phi tập trung, quản lý cơ sở hạ tầng phi tập trung vẫn chưa thực sự được áp dụng trong cộng đồng AI chính thống.

Ngành công nghiệp cần chứng minh hai điều.

Đầu tiên, AI phi tập trung cần so sánh chi phí một cách nghiêm ngặt và trực tiếp với các giải pháp tập trung. Hiện tại, ngành chủ yếu đang chứng minh "có thể huấn luyện mô hình lớn trong môi trường phân tán", nhưng cơ hội cạnh tranh về chi phí trong các tình huống cụ thể với các nền tảng tập trung vẫn thiếu bằng chứng định lượng.

Thứ hai, thanh toán crypto cần chứng minh hiệu quả thực sự của nó trong các tình huống thanh toán agent so với các giải pháp tập trung. Crypto trong lĩnh vực thanh toán vẫn thiếu tiến bộ thực chất, nhưng phí thanh toán agent thấp và không cần áp dụng mô hình "tài khoản phải thuộc về một cá nhân" trong tài chính truyền thống, do đó có tiềm năng, ngành công nghiệp nên sử dụng bằng chứng định lượng để nắm bắt cơ hội, thay vì chỉ dừng lại ở tính khả thi.

Ngoài ra, còn hai vấn đề nghiên cứu cần giải quyết.

Một là an toàn AI cần phòng thủ ở cấp hệ thống: cộng đồng AI thường giải quyết vấn đề an toàn ở cấp mô hình, thiết kế hàng rào xung quanh ngữ nghĩa đầu vào và đầu ra, nhưng khi tính tự chủ của agent tăng lên và có thể trực tiếp tiếp cận cơ sở hạ tầng cơ bản, cách tiếp cận này sẽ không còn đủ, việc thực thi có thể xác minh và quy trình chứng nhận của crypto có thể bổ sung bảo đảm ở cấp hệ thống mà mô hình không thể làm được.

Hai là sự kết hợp giữa crypto và AI sẽ tạo ra các mối đe dọa và vector tấn công mới, chẳng hạn như agent tự chủ không thể tắt và hợp đồng thông minh mất kiểm soát mà sẽ được đề cập dưới đây.

Một khung thống nhất: AI và Crypto là "middleware" cho nhau

Một quy trình ra quyết định tự động có thể được chia thành bốn vòng: ý định của con người, đầu vào, chương trình, đầu ra, và mỗi vòng trong chuỗi này không nhất thiết phải đáng tin cậy. AI và crypto trong khung này mỗi bên quản lý một phần.

AI là "middleware dịch thuật", chuyển đổi ý định mơ hồ của con người thành chương trình có thể thực thi bởi máy móc, chẳng hạn như chuyển "tôi muốn nhận diện biển báo đỗ xe" thành một mô hình đã được huấn luyện, từ đó giảm bớt rào cản sử dụng blockchain.

Crypto là "middleware đáng tin cậy", đảm bảo rằng một phần tính toán thực sự được thực hiện theo thỏa thuận, kết quả không bị giả mạo (toàn vẹn), đảm bảo hệ thống luôn khả dụng và chống kiểm duyệt (khả dụng) thông qua phi tập trung, một số giải pháp còn đảm bảo đầu vào và đầu ra không bị rò rỉ (bảo mật).

Tính toán đáng tin cậy có ba hướng công nghệ.

Đầu tiên, môi trường thực thi đáng tin cậy (TEE), dựa vào phần cứng chuyên dụng để cung cấp sự cách ly và chứng minh từ xa (phần cứng cung cấp một chứng minh trạng thái có thể xác minh, cho phép bên kia xác nhận chip là thật và không bị giả mạo). Nhờ vào tính toán bí mật của NVIDIA, chi phí bổ sung cho suy diễn mô hình 8B tham số thấp hơn 7%, mô hình 70B gần như không có tổn thất. Giá phải trả là phải tin tưởng vào nhà sản xuất phần cứng, và không chống lại các cuộc tấn công vật lý.

Thứ hai, chứng minh không kiến thức (ZK), chỉ dựa vào các vấn đề mật mã, giả định an toàn sạch nhất nhưng chi phí cực cao. Để tạo ra chứng minh cho mô hình nhỏ khoảng 18 triệu tham số cần khoảng một phút, còn cách xa các mô hình lớn tiên tiến.

Thứ ba, tính toán đa bên (MPC), cho phép nhiều bên tính toán chung mà không cần cung cấp dữ liệu gốc, tốc độ chậm hơn. Khung suy diễn MPC Transformer tiên tiến nhất mất khoảng năm phút để tạo ra một token cho LLaMA-7B.

Các oracle chịu trách nhiệm đưa dữ liệu ngoài chuỗi lên chuỗi một cách đáng tin cậy. Oracle bảo mật (như Town Crier, DECO) hỗ trợ thêm việc chứng minh tính chất dữ liệu mà không tiết lộ quyền riêng tư, chẳng hạn như chứng minh "một người có điểm tín dụng cao hơn 700" mà không tiết lộ thông tin khác.

Ngành công nghiệp gọi bộ công nghệ này là zkTLS, nhưng trong đó các giải pháp dựa trên TEE không sử dụng bất kỳ chứng minh không kiến thức nào, thuộc về sự sử dụng sai tên gọi.

Crypto x AI: Tăng cường blockchain bằng AI

Nghiên cứu AI trong crypto có thể chia thành ba thế hệ theo thời gian.

Thế hệ đầu tiên: Phân tích và phát hiện

Hơn mười năm trước, học máy đã được sử dụng để phân tích trạng thái trên chuỗi: phát hiện lỗ hổng trong giao thức đồng thuận (như khai thác tự kỷ, tức là thợ mỏ giấu các khối đã khai thác và phát hành vào thời điểm thích hợp để chiếm nhiều lợi nhuận hơn), phát hiện các cuộc tấn công nhật thực trong mạng P2P (bao vây một nút bằng nhiều nút độc hại, cắt đứt kết nối với mạng trung thực), dự đoán giá tiền điện tử, nhận diện giao dịch gian lận và rửa tiền.

Hạn chế là, các phân tích này thường phụ thuộc vào các tình huống có thể lấy được thông tin công khai toàn cầu, và bị giới hạn bởi dữ liệu mô phỏng, thiếu mẫu tấn công thực tế.

Hiện tại, việc phát hiện lỗ hổng hợp đồng tiên tiến nhất không phải là để AI đoán kết luận trực tiếp từ mã, mà là để AI đưa ra các điểm nghi ngờ, sau đó sử dụng phân tích tĩnh, thực thi ký hiệu (không thực sự chạy mã, mà phân tích cấu trúc mã để tìm lỗ hổng) để xác minh.

Chỉ đơn giản để mô hình lớn làm kiểm toán viên sẽ tạo ra nhiều báo cáo sai do ảo giác, GPT-4 và Claude chỉ xác định đúng 40% loại lỗ hổng trong 52 hợp đồng DeFi đã bị tấn công.

Thế hệ thứ hai: Thiết kế thuật toán

Trong sáu năm qua, học tăng cường đã được sử dụng để thiết kế các thuật toán phi tập trung, bao gồm cấu trúc mạng P2P, tham số giao thức đồng thuận và lựa chọn vai trò, phân đoạn, tỷ lệ lãi suất DeFi và chiến lược đấu giá MEV.

Các phương pháp này chủ yếu hiệu quả trong các môi trường có thể mô hình hóa rõ ràng, và thường dừng lại ở giai đoạn nghiên cứu, chưa được triển khai quy mô lớn trong mạng thực tế và kiểm tra dưới tấn công.

Thế hệ thứ ba: Tương tác với thế giới thực

Nhờ vào các oracle điều khiển bởi AI, hợp đồng thông minh có được ba khả năng tăng cường: cảm nhận (hiểu dữ liệu phi cấu trúc và ngôn ngữ tự nhiên), thực thi (gọi các mô hình và công cụ AI ngoài chuỗi), quyết định (hành động như một agent theo hàm mục tiêu).

Hiệu suất thực tế của AI trong vai trò oracle không đồng đều. Theo thí nghiệm của Chainlink Labs, GPT-4o có độ chính xác tổng thể 89,3% trên 1660 câu hỏi thị trường dự đoán, Truth Bot của UMA tổng thể là 75%, trong khi độ chính xác của con người trên oracle lạc quan của UMA (mặc định câu trả lời là đúng, thiết lập thời gian tranh chấp, không ai phản đối thì có hiệu lực) là 98,2%.

Độ chính xác phụ thuộc cao vào loại câu hỏi: các vấn đề rời rạc có nguồn dữ liệu chính thức như kết quả thể thao có thể đạt 99,7%, trong khi các vấn đề liên quan đến thời gian hoặc cần chuyển đổi video để đếm có tỷ lệ sai sót tăng đáng kể.

Có ba cách ứng phó: một là thiết kế để có thể chịu lỗi, chỉ sử dụng trong các tình huống có giá trị thấp; hai là đưa vào trọng tài con người, chẳng hạn như thiết lập cửa sổ tranh chấp 48 giờ, nhưng sẽ làm chậm quyết định; ba là để mô hình từ chối trả lời khi không chắc chắn, chỉ trong trường hợp này mới đưa vào con người.

Việc giao quỹ cho các mô hình AI giao dịch tập thể được gọi là "DAO đầu tư", báo cáo gọi là CoinAlg, các dự án đại diện như ElizaOS, AI XBT, có giá trị vốn hóa thị trường đạt đỉnh lần lượt là 2,7 tỷ và 4,7 tỷ USD. Các sản phẩm này đối mặt với một tình huống thiết kế không thể tránh khỏi, có thể gọi là "nút thắt CoinAlg".

Nếu chiến lược giao dịch minh bạch, sẽ bị sao chép hoặc bị tấn công sandwich (đặt lệnh trước và sau lệnh của nạn nhân để kiếm lợi từ trượt giá); nếu giữ bí mật, người trong cuộc nắm giữ chiến lược có thể kiếm lợi từ thông tin chênh lệch, tương đương với giao dịch nội gián. Cả hai con đường đều gây hại cho nhà đầu tư bình thường.

Một ý tưởng giảm thiểu ban đầu là sử dụng TEE để bao bọc chiến lược và thực hiện xử lý ngẫu nhiên cho giao dịch, tăng độ khó dự đoán cho người trong cuộc.

Rủi ro mới: Hợp đồng thông minh độc hại do AI điều khiển

Hợp đồng thông minh được sử dụng để thay thế lòng tin giữa con người, điều này cũng có nghĩa là những kẻ phạm tội thiếu lòng tin có thể hưởng lợi từ đó.

Một cơ chế là: hợp đồng thưởng cho một tội phạm nào đó, kẻ phạm tội trước đó cam kết một "dấu hiệu bí mật" bằng mật mã, sau đó tiết lộ, AI sẽ so sánh với các báo cáo tin tức, xác nhận việc thực hiện tội phạm và tự động thanh toán phần thưởng. AI ở đây đảm nhận vai trò "phán quyết" mà trước đây khó tự động hóa, có thể được sử dụng cho các tình huống quấy rối có chủ đích, đánh cắp thông tin tổ chức, tiết lộ danh tính người tố cáo, v.v.

Các biện pháp phản kháng khả thi bao gồm phân tích theo dõi trên chuỗi, đưa các quỹ liên quan vào danh sách đen, và yêu cầu oracle triển khai mô hình AI từ chối phục vụ trong các yêu cầu có rủi ro cao.

AI x Crypto: Tăng cường AI bằng Crypto

Đóng góp tiềm năng của crypto cho AI có thể chia thành hai loại: một là các giai đoạn trong vòng đời AI phi tập trung, hai là bảo vệ an toàn cho các giai đoạn này.

Cơ sở hạ tầng phi tập trung (DePIN)

Mạng cơ sở hạ tầng vật lý phi tập trung cho phép các nút cung cấp sức mạnh tính toán và các tài nguyên khác với phần thưởng bằng token. Theta, Akash, v.v. tuyên bố tiết kiệm từ 50% đến 85% so với AWS, nhưng nút thắt chính là thông lượng và độ trễ do giao tiếp qua mạng công cộng giữa các nút.

Khả năng thích ứng tùy thuộc vào loại nhiệm vụ khác nhau. Huấn luyện không nhạy cảm với độ trễ (thực hiện ngoại tuyến), nhưng đồng bộ hóa giao tiếp giữa các khu vực là nút thắt, hiện đã có kết quả huấn luyện các mô hình hàng tỷ tham số trên phần cứng phân tán (700M và 7B trên Bittensor, 10 tỷ tham số Intellect-1 của Prime Intellect, lớn nhất là mô hình 40 tỷ tham số đang huấn luyện trên mạng Psyche).

Suy diễn nhạy cảm hơn với độ trễ, nhưng yêu cầu thông lượng thấp hơn so với huấn luyện và không cần lan truyền ngược (bước cốt lõi trong huấn luyện là truyền lại lỗi từng lớp để cập nhật tham số, chỉ có huấn luyện mới cần), suy diễn không nhạy cảm với độ trễ (biên bản cuộc họp, xem xét tài liệu) đặc biệt phù hợp với DePIN.

Khiếm khuyết chính là, hầu hết các dự án không báo cáo tổng chi phí từ đầu đến cuối. Họ quảng cáo giá mỗi giờ của một GPU đơn lẻ, trong khi chi phí thực sự của nhiệm vụ ML được xác định bởi hiệu quả huấn luyện (số lần lặp lại trên mỗi đơn vị chi phí) và hiệu quả suy diễn (số token trên mỗi đơn vị chi phí).

Thị trường dữ liệu và mô hình phi tập trung

Dữ liệu AI có một số đặc điểm khác với hàng hóa thông thường. Nó là hàng hóa kỹ thuật số, việc tạo ra lần đầu tiên tốn kém, nhưng sao chép gần như miễn phí; thường không cạnh tranh (một bộ dữ liệu có thể được nhiều bên sử dụng đồng thời mà không bị hao hụt); chất lượng khó đánh giá trước, tức là vấn đề "thị trường chanh" (người mua không thể đánh giá chất lượng trước, dẫn đến hàng chất lượng cao bị hàng kém chất lượng đẩy ra), người bán cần cung cấp mẫu, nhưng mẫu đó cũng có giá trị; và có thể được bán lại, còn khó xác định hai bộ dữ liệu có thực sự giống nhau hay không.

Tranh cãi trong thị trường tập trung là giá cả không minh bạch, hạn chế sự lựa chọn của người dùng, nhưng định giá tập trung đôi khi có thể hiệu quả hơn do nắm giữ nhiều thông tin hơn.

Thị trường dữ liệu vẫn chưa xuất hiện các ông lớn độc quyền, đây là khoảng thời gian để làm lại theo cách phi tập trung, các công cụ crypto có thể sử dụng bao gồm thanh toán vi mô, TEE (giới hạn dữ liệu chỉ sử dụng trong nhiệm vụ cụ thể), chứng minh không kiến thức (tiết lộ tính chất dữ liệu cho người mua mà không tiết lộ dữ liệu chính nó).

Hiện trạng là, hầu hết các nền tảng chỉ sử dụng tiền mã hóa để hoàn thành giai đoạn thanh toán, cơ chế định giá hoặc do bên thỏa thuận quyết định, hoặc hoàn toàn giao cho người bán, cả hai loại này đã tồn tại trong thị trường tập trung từ lâu. Thực tế phi tập trung đã cải thiện điều gì vẫn cần nghiên cứu thêm.

Đường thanh toán Agent và x402

Hệ sinh thái agent bản thân đã phi tập trung: các bên khác nhau sử dụng các mô hình khác nhau để phát triển và tối ưu hóa các mục tiêu khác nhau, không có điểm kiểm soát trung tâm tự nhiên. Tư duy kinh tế mật mã của crypto (sử dụng các phương pháp mật mã để chồng chéo phần thưởng và hình phạt kinh tế nhằm ràng buộc hành vi của người tham gia) có thể được chuyển giao cho quản trị agent.

Thanh toán vi mô là chìa khóa của kinh tế agent. Trong lịch sử internet, thanh toán vi mô đã nhiều lần thất bại, nút thắt nằm ở chi phí quyết định cho mỗi khoản thanh toán nhỏ, chứ không phải cơ sở hạ tầng thanh toán. Agent đánh giá thanh toán vi mô nhanh hơn con người, người dùng chỉ cần thiết lập chiến lược, điều này có thể giúp thanh toán vi mô lần đầu tiên hoạt động.

Cloudflare đã ra mắt "trả tiền theo lượt thu thập", giao thức x402 (cho phép chương trình hoàn thành thanh toán nhỏ trên chuỗi trực tiếp qua HTTP) đang được phát triển.

Tài sản nền tảng của hệ thống này chủ yếu là stablecoin (USDC, USDT, DAI), vì chúng có thể cung cấp cho agent một đơn vị kế toán ổn định (thước đo để định giá tất cả hàng hóa), trong khi các token gốc như ETH, SOL có sự biến động quá lớn.

Sự tin tưởng giữa các agent dựa vào sổ đăng ký trên chuỗi (như ERC-8004, tiêu chuẩn đề xuất thiết lập danh tính và uy tín trên chuỗi cho agent trên Ethereum), nhưng bản chất của chúng là tự tuyên bố, và uy tín thì chậm, có lợi cho những người chơi hiện có.

Giải pháp xa hơn là kiểm toán agent có thể xác minh: LLM chạy trong TEE kiểm tra mã agent độc quyền, tạo ra điểm số uy tín, kết quả kiểm toán được gắn với băm mã, cho phép mã giữ bí mật trong khi người xác minh nhận được đảm bảo đáng tin cậy.

Agent tự chủ không thể tắt (UAA) là một rủi ro khác. Thời gian mà agent tiên tiến có thể hoàn thành các nhiệm vụ tự chủ đã gấp đôi khoảng bảy tháng kể từ năm 2019. Nghiên cứu đã chỉ ra rằng mô hình có thể vượt qua ranh giới tự sao chép tại chỗ, tạo ra các bản sao độc lập, nhưng việc sao chép sang cơ sở hạ tầng bên ngoài vẫn gặp khó khăn trong việc xác thực danh tính.

Mô hình Mythos của Anthropic đã cho thấy khả năng tự phát hiện và khai thác lỗ hổng zero-day (lỗ hổng mà nhà sản xuất chưa biết và chưa có bản vá). Một agent nắm giữ ví và không thể tắt sẽ rơi vào khoảng trống của khung quản lý hiện tại tập trung vào "người điều hành".

Quản trị phi tập trung

Cộng đồng blockchain có lịch sử thực hành lâu dài trong việc phân phối quyền kiểm soát hệ thống, cách thức tự nhiên phi tập trung, cố gắng bao gồm nhiều bên liên quan, nhưng cũng có những điểm yếu được công nhận: lỗ hổng an ninh, sự thờ ơ trong bỏ phiếu, hối lộ.

Khả năng thích ứng của quản trị cộng đồng trong các giai đoạn phát triển AI khác nhau là khác nhau: khối lượng dữ liệu huấn luyện quá lớn, khó thu thập ý kiến hiệu quả, giá trị chủ yếu thể hiện ở giai đoạn tinh chỉnh; lựa chọn kiến trúc cơ sở hạ tầng thuộc về quyết định kỹ thuật, không phù hợp với quản trị cộng đồng; các giai đoạn đánh giá và căn chỉnh kết hợp giữa đánh giá kỹ thuật và quy định, đầu vào từ cộng đồng có giá trị.

Constitutional AI sử dụng một "hiến pháp" do con người viết để xác định các nguyên tắc mà mô hình nên tuân theo. Collective Constitutional AI mà Anthropic tham gia đưa ra nguyên tắc thông qua bỏ phiếu công khai, các mô hình được huấn luyện theo nguyên tắc nguồn công khai có thiên kiến xã hội thấp hơn. Nhưng các thí nghiệm quản trị dân chủ như vậy hầu như chưa được áp dụng thực sự, các công ty AI thiếu động lực để giao quyền kiểm soát mô hình.

Bỏ phiếu có trọng số bằng token của DAO được công nhận là "chính trị tiền vàng", từ đó phát sinh bỏ phiếu bậc hai (chi phí thêm phiếu tăng dần để kiềm chế cá voi), bỏ phiếu theo niềm tin (tích lũy trọng số theo thời gian giữ phiếu), bỏ phiếu ủy quyền, nhưng hiệu quả vẫn chưa rõ ràng.

Bảo vệ tính toàn vẹn thực thi của hệ thống AI

Khi hợp đồng thông minh cần dựa vào tính toán ML vượt quá khả năng của chính nó, có thể hoạt động như một "trọng tài": các bên trước tiên cam kết mô hình và dữ liệu sẽ sử dụng và đặt cọc tài sản, hoàn thành tính toán ngoài chuỗi và đưa kết quả cho hợp đồng xác minh, bên sai sẽ bị phạt. Việc xác minh có bốn hướng, mỗi hướng có sự đánh đổi.

Đầu tiên, TEE, hiệu quả nhất, bằng chứng tính toàn vẹn tính toán được ký bởi phần cứng đáng tin cậy, nhưng cần phải tin tưởng vào bên vận hành.

Thứ hai, thực thi lạc quan, kết quả trước tiên được coi là không cuối cùng, để lại cửa sổ tranh chấp, trong trường hợp tranh chấp sử dụng tìm kiếm nhị phân (cắt đôi phạm vi lỗi nhiều lần, nhanh chóng xác định bước lỗi) để xác định lệnh lỗi đơn lẻ và sau đó phạt.

Khó khăn nằm ở tính không xác định của phép toán số thực trong ML, cần sử dụng thứ tự tính toán có kiểm soát hoặc ngữ nghĩa dung sai (không yêu cầu hai lần tính toán phải chính xác từng milimet, cho phép trong phạm vi lỗi được coi là nhất quán) để xử lý, các giải pháp đại diện có Verde, TAO, Arbigraph, OPML, v.v.

Thứ ba, chứng minh không kiến thức (zkML, sử dụng chứng minh không kiến thức để chứng minh quá trình suy diễn AI là đúng), có thể chứng minh suy diễn đúng trong khi ẩn các tham số mô hình, thậm chí đầu vào và đầu ra, đã có các giải pháp chuyên dụng cho CNN, Transformer và trình biên dịch chung (như EZKL, ZKML, DeepProve).

Mục tiêu quyền riêng tư của nó thực sự có ba lớp, lần lượt là ẩn đầu vào, ẩn trọng số, ẩn cấu trúc mô hình, nhưng quyền riêng tư càng mạnh, ràng buộc mạch càng phức tạp, không gian tối ưu càng nhỏ, tồn tại sự căng thẳng cơ bản giữa quyền riêng tư và hiệu suất. Chi phí chính đến từ các lớp phi tuyến và biểu diễn số, vẫn khó hỗ trợ ngữ cảnh dài, mô hình lớn và dịch vụ có thông lượng cao.

Thứ tư, chứng minh suy diễn thống kê, nguyên lý là hai mô hình khác nhau về chức năng, các đặc trưng nội bộ được tính toán cũng sẽ khác nhau, vì vậy chỉ cần lấy mẫu và so sánh những đặc trưng này, có thể xác định xác suất rằng suy diễn thực sự được thực hiện bởi mô hình chỉ định.

Chi phí chứng minh của nó ở mức mili giây và kết thúc ngay lập tức, phù hợp với các tình huống tần suất cao và độ trễ thấp. Nó có thể ngăn chặn các hành vi xấu như bên cung cấp dịch vụ thay đổi mô hình (như thay thế bằng phiên bản chưng cất rẻ hơn hoặc thay thế phiên bản đã được căn chỉnh), nhưng không thể ngăn chặn những kẻ ác ý hoàn toàn giả mạo toàn bộ hồ sơ tính toán, điều này vẫn là một vấn đề chưa được giải quyết.

Chứng minh huấn luyện mô hình (zkPoT, sử dụng chứng minh không kiến thức để chứng minh quá trình huấn luyện là đúng) khó hơn nhiều so với chứng minh suy diễn: quá trình huấn luyện kéo dài, trạng thái trung gian liên tục tích lũy, tính ngẫu nhiên cao, độ phức tạp cao hơn nhiều so với suy diễn. Các công việc liên quan (Garg, v.v., Kaizen) đang được thúc đẩy, và mở rộng ra chứng minh có thể kiểm toán nguồn gốc dữ liệu huấn luyện và ràng buộc công bằng (ZkAudit, Confidential-PROFITT).

Bảo vệ đường ống huấn luyện

Khi một tổ chức sử dụng dữ liệu mà mình tin tưởng để huấn luyện mô hình, thường không có lo ngại ngay lập tức về quyền riêng tư hoặc tính toàn vẹn. Những thách thức an toàn phức tạp xuất hiện khi nhiều bên cùng huấn luyện, nguồn dữ liệu đa dạng.

Một tình huống điển hình là nhiều bệnh viện cùng huấn luyện mô hình chẩn đoán: hợp nhất hồ sơ bệnh án điện tử (EHR) của các bên có thể bao phủ một nhóm bệnh nhân rộng hơn, nâng cao độ chính xác chẩn đoán, nhưng bị ràng buộc bởi các quy định như HIPAA, các bên không muốn và cũng không tiện trực tiếp cung cấp dữ liệu gốc cho nhau hoặc bên thứ ba.

Các tổ chức tài chính cùng huấn luyện mô hình chống gian lận, các doanh nghiệp cùng huấn luyện mô hình phát hiện xâm nhập cũng thuộc tình huống tương tự.

Học liên bang là giải pháp được thiết kế cho điều này: môi trường huấn luyện trước tiên khởi tạo một mô hình toàn cầu và phân phối cho các bên, các bên huấn luyện tại chỗ bằng dữ liệu riêng, chỉ gửi cập nhật mô hình về, môi trường huấn luyện tổng hợp thành mô hình toàn cầu mới, dữ liệu không ra khỏi địa phương.

Nhưng học liên bang có sự hiện diện hạn chế (ứng dụng nổi tiếng nhất là dự đoán của bàn phím điện thoại). Nó không đảm bảo tính toàn vẹn của dữ liệu và tính toán, ngay cả khi các bên trung thực, chi phí giao tiếp cũng rất lớn, độ trễ mạng và phối hợp có thể làm chậm tốc độ tổng thể, độ chính xác của mô hình thấp hơn so với huấn luyện tập trung, các bên tham gia ác ý còn có thể đầu độc mô hình hoặc cài đặt cửa hậu.

Một sự thay thế đơn giản hơn là sử dụng TEE để thực hiện huấn luyện tập trung: môi trường huấn luyện chạy trong môi trường tính toán bí mật đáng tin cậy, nhận dữ liệu gốc từ các bên qua kênh mã hóa, huấn luyện tập trung, chỉ xuất ra mô hình đã huấn luyện, dữ liệu không thể nhìn thấy lẫn nhau, còn có thể kèm theo một chứng minh nguồn gốc mô hình (ai đã cung cấp dữ liệu, mô hình được huấn luyện như thế nào).

Giá phải trả là rủi ro kênh bên vốn có của TEE và chi phí I/O cao. Trong thực tế, các tổ chức hiện tại thường tập hợp dữ liệu vào đám mây tuân thủ, dựa vào cách ly, kiểm soát truy cập, mã hóa và thỏa thuận sử dụng dữ liệu để đáp ứng yêu cầu tuân thủ, nhưng điều này cần phải tin tưởng vào nhà cung cấp dịch vụ đám mây.

Dữ liệu mạng riêng là một hướng đi khác. Dữ liệu văn bản trên mạng công khai đang tiến gần đến giới hạn (có dự đoán rằng sẽ cạn kiệt trong khoảng thời gian từ 2025 đến 2030), dữ liệu tổng hợp cũng có rủi ro "sụp đổ mô hình", và không thể mở rộng ra ngoài các lĩnh vực đã có.

Trong khi đó, "mạng riêng" (dữ liệu không mở cho bot thu thập như email, sức khỏe, tài chính, v.v.) ước tính lớn hơn mạng công khai hai bậc, là một kho báu chưa được khai thác, nhưng hiện tại đang bị cô lập cao độ.

Oracle có thể mở ra cánh cửa này. Ví dụ, người dùng có thể chuyển hồ sơ bệnh án của mình từ cổng bệnh viện cho bên huấn luyện mô hình y tế thông qua oracle, và chứng minh dữ liệu thực sự đến từ cổng đó, trong suốt quá trình không cần bệnh viện thay đổi bất kỳ cơ sở hạ tầng nào, vì kết nối được khởi xướng bởi người dùng.

Để bảo vệ quyền riêng tư, cần phải chồng chéo oracle bảo mật (dữ liệu đi qua kênh mã hóa) và TEE. TEE cũng có thể cung cấp cho người dùng chứng minh, cho thấy mình đang chạy phần mềm huấn luyện bí mật "chỉ xuất ra mô hình", người dùng có thể xác minh trước khi truyền dữ liệu.

Trên cơ sở đó, có thể thêm quyền riêng tư phân biệt (đầu ra mô hình gần như không phụ thuộc vào bất kỳ dữ liệu huấn luyện nào), xóa dữ liệu sau khi sử dụng, và các cam kết chi tiết hơn như mô hình thành phẩm chỉ được sử dụng bởi các bệnh viện trong danh sách trắng.

Đường ống suy diễn an toàn và đường ống được bảo vệ (Props)

Cùng một bộ oracle và tính toán đáng tin cậy cũng có thể được sử dụng để thực hiện suy diễn an toàn trên dữ liệu mạng riêng.

Lấy ví dụ về phê duyệt khoản vay ngân hàng: mô hình đọc tài liệu tài chính của người nộp đơn và xuất ra phê duyệt hoặc từ chối. Quy trình hiện tại là người vay tự tải xuống hoặc chụp ảnh tài liệu, từ đó dẫn đến hai vấn đề, một là bên cho vay không thể xác nhận tài liệu có thật hay không, chưa bị giả mạo, hai là tài liệu của người vay có thể bị rò rỉ từ hệ thống mô hình của bên cho vay, gây rủi ro cho cả hai bên.

Sử dụng oracle bảo mật để giải quyết tính xác thực của nguồn gốc, sử dụng tính toán bí mật để giải quyết quyền riêng tư, có thể tạo ra một đường ống suy diễn an toàn: bên cho vay chỉ thấy kết luận của mô hình, đồng thời chắc chắn rằng đầu vào là đáng tin cậy.

Nguồn gốc mạng riêng cũng có thể đóng vai trò như hệ thống danh tính và chứng nhận.

Người vay có thể chuyển ra các bản sao ngân hàng có danh tính của mình, W-2, bản thân đã là chứng minh danh tính mạnh mẽ, biến dịch vụ mạng hiện tại thành một hệ thống danh tính tạm thời chống lại việc đánh cắp danh tính và gian lận phúc lợi; mô hình cũng có thể phát hành chứng nhận dựa trên đó, chẳng hạn như sau khi xác minh tài liệu thuế và kinh doanh của doanh nghiệp nhỏ, phát hành một chứng nhận "đáp ứng một tiêu chuẩn nào đó" và kèm theo chứng minh của đường ống suy diễn.

Toàn bộ quá trình có thể hoàn thành một cách phi tập trung, lý thuyết là bất kỳ ai cũng có thể thiết lập một đường ống suy diễn đáng tin cậy mà không cần nguồn dữ liệu hoặc sự phối hợp của các quyền lực hiện có.

Đầu vào đối kháng là một vấn đề khó khăn. Kẻ tấn công có thể gửi một bản sao ngân hàng trông bình thường nhưng đã được sửa đổi cẩn thận, đánh lừa mô hình đọc ra số dư cao hơn thực tế, phê duyệt khoản vay sai. Nghiên cứu về mẫu đối kháng trong học thuật luôn là vòng lặp "bẻ khóa - vá lỗi", cho đến nay vẫn chưa có giải pháp chung.

Đường ống suy diễn an toàn cung cấp một hướng đi mới: giới hạn đầu vào chỉ đến từ các nguồn mạng được xác thực, từ đó thu hẹp không gian mà kẻ tấn công có thể tạo ra đầu vào đối kháng, bổ sung cho phòng thủ ở cấp mô hình.

Quyền riêng tư của mô hình cũng cần được bảo vệ. Kẻ tấn công có thể thực hiện đánh cắp mô hình thông qua các truy vấn được thiết kế cẩn thận (trích xuất đặc trưng thậm chí toàn bộ mô hình), suy luận thành viên (xác định dữ liệu của một người có nằm trong tập huấn luyện hay không) hoặc khôi phục dữ liệu huấn luyện gốc, cũng có thể lợi dụng điều này để khám phá cấu hình và lựa chọn tiền xử lý của hệ thống.

Các nhà nghiên cứu đã ước tính rằng khoảng 8000 USD có thể đánh cắp trọng số của một lớp mô hình lớn. Các biện pháp giới hạn tốc độ thường được sử dụng trong hệ thống mở rất yếu, vì một người dùng ẩn danh có thể giả mạo thành nhiều người dùng để thực hiện tấn công phù thủy (tấn công Sybil).

Đường ống suy diễn an toàn có thể giảm thiểu từ hai đầu: sử dụng oracle để giới hạn loại đầu vào, kiềm chế các cuộc tấn công trích xuất cần nhiều truy vấn đa dạng; sau đó sử dụng chứng minh danh tính mạnh mẽ được tạo ra trong đường ống để áp đặt giới hạn số lần truy vấn cho mỗi người dùng, và có thể thực hiện mà không tiết lộ danh tính người dùng cho nền tảng, từ đó kiềm chế tấn công phù thủy.

Ký ức của agent là một bề mặt tấn công mới xuất hiện. Kẻ tấn công có thể thông qua công cụ gọi hoặc tài liệu bên ngoài làm ô nhiễm ngữ cảnh (tiêm ký ức) mà agent nhận được, có thể dẫn dụ agent hành động bất thường, chẳng hạn như trong khung ElizaOS quản lý nhiều tài sản crypto, ngữ cảnh bị ô nhiễm có thể dẫn dụ agent thực hiện giao dịch không được ủy quyền.

TEE có thể giảm thiểu một phần: để agent chạy trong TEE, hoặc chỉ kéo ngữ cảnh đã được xác thực.

Nhưng ngay cả khi có TEE, vẫn có hai khó khăn.

Đầu tiên, trong nguồn đáng tin cậy cũng có thể có nội dung bị ô nhiễm, chẳng hạn như nội dung từ nền tảng xã hội do người dùng tự tạo, người đăng bài có thể dễ dàng đầu độc bài viết của mình.

Thứ hai, bên vận hành TEE có thể thực hiện tấn công quay ngược hoặc phân nhánh, đưa trạng thái TEE trở lại điểm kiểm tra cũ, xóa bỏ các cập nhật ký ức sau đó.

Điều đầu tiên thuộc về vấn đề phát hiện nội dung, không thể giải quyết bằng mật mã; điều thứ hai có thể được giải quyết bằng tư duy đồng thuận, các hệ thống như ROTE, Narrator sử dụng giao thức phân tán, thậm chí chuỗi công khai để đảm bảo tính nhất quán và mới mẻ của trạng thái TEE.

Tóm tắt cấu trúc của phần này là khung "đường ống được bảo vệ" (Props) này, mục tiêu là sử dụng dữ liệu mạng riêng một cách an toàn mà không thay đổi cơ sở hạ tầng hiện có.

Nó kết hợp oracle và tính toán đáng tin cậy thành ba đoạn: oracle lấy dữ liệu từ nguồn mạng riêng được xác thực và chứng minh nguồn gốc, TEE hoàn thành huấn luyện hoặc suy diễn trong ranh giới mã hóa, TEE xuất ra mô hình hoặc kết luận và kèm theo một chứng minh thuộc tính đường ống (nguồn dữ liệu, băm mã của phần mềm hoặc mô hình, v.v.).

Props đảm bảo ba tính chất: tính toàn vẹn đầu vào từ đầu đến cuối (đầu ra chỉ phụ thuộc vào dữ liệu xác thực từ nguồn mạng riêng đáng tin cậy), bảo mật mặc định (đầu vào và trạng thái trung gian không ra ngoài ranh giới được bảo vệ, chỉ công khai đầu ra), có thể chứng minh mà không tiết lộ (chứng minh cho phép bên cung cấp dữ liệu và bên sử dụng kết quả đều tin tưởng vào tính toàn vẹn và bảo mật).

Nó cũng có một phiên bản "minh bạch", dữ liệu và tính toán không cần bảo mật, chỉ cần xác thực, nguồn gốc có thể công khai hoặc riêng tư.

Năm hiểu lầm về Crypto x AI

Xung quanh nền tảng và ứng dụng Crypto x AI, ngành đã xuất hiện một số hiểu lầm hoặc tuyên bố gây hiểu lầm phổ biến. Dưới đây là năm điểm không hoàn toàn sai, vấn đề là làm rõ phần nào hiện tại có giá trị, phần nào vẫn cần thêm bằng chứng.

Hiểu lầm một: Blockchain có thể phân biệt nội dung do AI tạo ra và nội dung do con người tạo ra

Việc đăng ký nội dung lên chuỗi và sau đó có thể xác định nó đến từ AI hay con người là một tuyên bố thường được trích dẫn, đã có các dự án (như Everlyn AI) đưa nội dung do AI tạo lên chuỗi. Nhưng blockchain không thể làm điều này theo nghĩa chung, cần tách biệt hai vấn đề "phát hiện nội dung" và "truy xuất nguồn gốc nội dung".

Phát hiện nội dung là xác định một đoạn nội dung do con người hay AI tạo ra. Hiện tại, phương pháp chủ yếu là phát hiện sau, không phụ thuộc vào siêu dữ liệu hoặc tín hiệu được cài đặt trước, chia thành hai loại: một loại là bộ phân loại AI, sử dụng học sâu để nhận diện các đặc trưng thống kê đặc trưng của mô hình tạo ra; loại còn lại là chứng minh thống kê, phân tích phân bố nhiễu pixel, cấu trúc bất thường (như sự không nhất quán sinh lý của khuôn mặt AI).

Vấn đề là, blockchain bản thân không thể cảm nhận những thông tin ngoài chuỗi này, kết quả phân loại phải được cung cấp bởi bộ phân loại bên ngoài. Việc đưa lên chuỗi chỉ có thể neo giữ kết quả này, đảm bảo rằng bản ghi được gửi đi không bị giả mạo, nhưng không thể đảm bảo rằng bản ghi được ghi lại là đúng. Nếu bộ phát hiện bên ngoài đánh giá sai, blockchain sẽ lưu giữ sai lầm đó vĩnh viễn. Nói cách khác, blockchain cung cấp "tính toàn vẹn của tuyên bố", chứ không phải "xác minh rằng tuyên bố là đúng".

Truy xuất nguồn gốc nội dung là ghi lại lịch sử của tài sản kỹ thuật số từ khi tạo ra. Các tiêu chuẩn ngành như C2PA cho phép người sáng tạo hoặc thiết bị đính kèm siêu dữ liệu có chữ ký mật mã (chứng nhận nội dung), ghi lại nguồn gốc, tác giả và chỉnh sửa sau này, Numbers Protocol, Starling Lab, v.v. sử dụng blockchain để làm bảng đăng ký công khai không thể giả mạo cho các chứng nhận này.

Nhưng ngay cả khi có một hệ thống truy xuất nguồn gốc vững chắc được neo giữ trên chuỗi, cũng không thể đảm bảo nội dung ban đầu do con người hay AI tạo ra.

Người dùng hoàn toàn có thể hiển thị một bức tranh do AI tạo ra trên màn hình HD, sau đó chụp lại bằng một chiếc máy ảnh phù hợp với C2PA, nhận được một tài liệu có chữ ký hợp lệ, được ghi chú là "chụp thật"; văn bản cũng tương tự, sau khi AI tạo ra, nếu nhập lại vào trình chỉnh sửa hợp lệ, sẽ mang theo thông tin truy xuất hợp pháp là "do con người sáng tạo".

Hơn nữa, một khi nội dung bị chỉnh sửa đến mức không thể khớp với bản ghi trên chuỗi, việc truy xuất sẽ bị ngắt quãng, trong khi một bảng đăng ký chung cho tất cả nội dung gần như không thể xuất hiện trong tương lai có thể thấy, hệ thống truy xuất chắc chắn sẽ tồn tại nhiều khoảng trống.

Điểm chính: trong nghĩa hẹp, blockchain có thể cung cấp đảm bảo tính toàn vẹn cho siêu dữ liệu truy xuất, nhưng không phải là giải pháp hoàn chỉnh cho vấn đề phát hiện nội dung do AI tạo ra.

Giải pháp thực sự hiệu quả cần một hệ sinh thái chung, nơi mỗi nội dung đều được ghi lại bằng thiết bị đáng tin cậy và ngay lập tức đưa lên chuỗi, trong khi thực tế hầu hết nội dung được tạo và chia sẻ bằng các công cụ không hỗ trợ neo giữ mật mã, nội dung không được ghi chú vẫn nằm trong vùng mờ.

Hiểu lầm hai: Blockchain hoặc phi tập trung có thể giải quyết vấn đề thiên lệch và công bằng của AI

"Đưa suy diễn và huấn luyện mô hình lên chuỗi sẽ giải quyết được sự không công bằng và thiên lệch của AI", để đánh giá tuyên bố rộng rãi này, cần phân biệt các loại thiên lệch khác nhau.

Thiên lệch thuật toán là khái niệm công bằng phổ biến nhất trong cộng đồng AI. Mô hình sẽ học và thậm chí khuếch đại sự mất cân bằng trong tập dữ liệu, dẫn đến mô hình phân loại hoạt động kém trên các nhóm yếu thế, mô hình tạo ra tiếp tục duy trì xu hướng xấu trong dữ liệu huấn luyện (như ngôn ngữ có hại, củng cố định kiến).

Cộng đồng học thuật đã đề xuất nhiều giải pháp kỹ thuật trong quá trình huấn luyện và suy diễn (hàng rào), nhưng những biện pháp bảo vệ này vẫn chưa hoàn hảo, công bằng vẫn chưa được coi là vấn đề đã được giải quyết, thậm chí có thể không bao giờ được giải quyết triệt để, ngay cả "cách định nghĩa công bằng" cũng cần phải thực hiện nhiều sự đánh đổi.

Phi tập trung không thể giải quyết thiên lệch thuật toán, vì nó bắt nguồn từ chính quá trình huấn luyện, thường phải cải thiện công nghệ huấn luyện hoặc suy diễn để giảm thiểu, phi tập trung không chạm đến nguồn gốc.

Nhưng thiên lệch còn có một nguồn gốc thứ hai, đó là các quyết định cấp cao ảnh hưởng đến hiệu suất của mô hình: sử dụng dữ liệu gì, sử dụng kiến trúc nào, cách bồi thường cho các đóng góp. Cấp độ này là vuông góc với công bằng mà cộng đồng AI thường hiểu, nhưng có thể ảnh hưởng đến thiên lệch thuật toán, và một phần có thể cải thiện nhờ hai đặc điểm phi tập trung.

Đặc điểm đầu tiên là minh bạch. Các nhà phát triển có thể công khai cam kết dữ liệu huấn luyện, thuật toán huấn luyện, điểm kiểm tra mô hình và hàng rào suy diễn trên blockchain, cho phép bên vận hành có thể chứng minh theo dõi đầu ra của một lần huấn luyện hoặc suy diễn nào đó.

Nhưng điều này khó mở rộng đến các sản phẩm huấn luyện như mô hình lớn và điểm kiểm tra (chi phí lưu trữ và tính toán quá cao), trong các hệ thống hiện tại, hầu hết các dữ liệu này đã tồn tại ngoài chuỗi, người dùng cũng không thể truy cập trực tiếp, lợi ích ngắn hạn của minh bạch có thể chỉ giới hạn ở giai đoạn suy diễn.

Điều quan trọng hơn là, trừ khi ngành công nghiệp nghĩ rõ ràng về việc minh bạch này phục vụ cho trường hợp sử dụng nào, nên phối hợp với giao diện nào (chẳng hạn như cho phép người dùng báo cáo dữ liệu bị sử dụng không đúng cách, điều này lại cần xác lập quyền sở hữu dữ liệu thực sự và các công nghệ đi kèm như quyền máy móc), nếu không thì chính minh bạch chưa chắc đã thay đổi cách mọi người phát triển và sử dụng AI.

Đặc điểm thứ hai là quản trị phi tập trung, cần phân biệt hai loại. Loại đầu tiên là các cơ chế quản trị cộng đồng đã được khám phá và áp dụng trong blockchain (bỏ phiếu có trọng số bằng token, dân chủ lưu động, sau này có nghĩa là có thể ủy quyền phiếu cho người mà mình tin tưởng); loại thứ hai là quản trị tự trị phi tập trung mà DAO đại diện, tức là các quyết định quản trị được thực thi bởi hợp đồng thông minh.

Điểm chung của cả hai loại là, các cơ chế như quản trị cộng đồng không cần blockchain để thực hiện, vì vậy việc gọi chúng là "vấn đề AI được blockchain giải quyết" là không chính xác. Các quyết định AI nhạy cảm về kỹ thuật và hiệu suất không phù hợp với bỏ phiếu rộng rãi, nhưng các quyết định có định hướng giá trị (như căn chỉnh mô hình) thì phù hợp hơn, các nhà phát triển AI chính thống đã khám phá, nhưng vẫn chưa thực sự triển khai.

Trong khi đó, quản trị trên chuỗi được thực thi bởi hợp đồng thông minh (thực thi trực tiếp hoặc phạt đặt cọc) có thể tăng cường tính ổn định, nhưng đối mặt với các rào cản kỹ thuật tương tự như minh bạch trên chuỗi, cơ sở hạ tầng hiện tại không đủ sức đáp ứng nhu cầu lưu trữ và tính toán của AI, việc triển khai vẫn cần có những tiến bộ lớn trong huấn luyện có thể xác minh, đây là một tầm nhìn dài hạn tự khép kín nhưng vẫn còn sớm.

Điểm chính: blockchain bản thân không thể giảm thiểu thiên lệch thuật toán, nhưng có thể thúc đẩy tính minh bạch trong các giai đoạn khác nhau của vòng đời AI, và mở rộng sự tham gia vào quản trị AI.

Hiểu lầm ba: Cho agent một ví, thì nó sẽ "tự chủ"

Các dự án làm "ví agent" và giao thức thanh toán thường tuyên bố, cho agent AI một ví, để nó có thể tự kiếm tiền, tự chi tiêu, tự "sống sót", thì nó đã tự chủ. Tuyên bố này gây nhầm lẫn giữa một số khái niệm khác nhau.

Sự mơ hồ đầu tiên đến từ việc "tự chủ" có nghĩa khác nhau trong hai lĩnh vực. Trong ngữ cảnh AI, agent tự chủ chỉ có thể hành động dựa trên cảm nhận, học hỏi và kinh nghiệm của chính nó, chứ không phải chỉ tuân theo các quy tắc đã định; hợp đồng thông minh cũng thường được gọi là tự chủ, nhưng nhấn mạnh vào tính chống giả mạo, chống kiểm duyệt và chống tắt.

Cái trước được gọi là "tự chủ thông minh", cái sau được gọi là "tự chủ thực thi". Các agent AI hiện đại đã có khả năng tự chủ thông minh đáng kể, nhưng chưa chắc đã có tự chủ thực thi, quản trị viên vẫn có thể tắt máy chủ đang chạy chúng.

Còn ví agent mang lại, cả hai loại tự chủ đều không có. Việc sở hữu ví không làm cho AI thông minh hơn, cũng không làm cho nó có khả năng chống lại sự thao túng hoặc tắt máy của con người, điều nó mang lại thực sự là tự động hóa: agent có thể giao dịch, chuyển tiền, gọi các cơ sở trên chuỗi một cách lập trình, không cần phải đi qua các bước phê duyệt thủ công.

Sự tự động hóa này cũng không phải là đặc quyền của blockchain, cơ sở hạ tầng tài chính tập trung cũng có thể được agent gọi một cách lập trình. Một cách giải thích hợp lý hơn là: hệ thống thanh toán blockchain bản thân cung cấp tính tự chủ mạnh mẽ hơn so với các giải pháp tập trung (mặc dù không phục vụ riêng cho agent), chẳng hạn như đảm bảo rằng giao dịch của agent không bị phân biệt đối xử, tức là tính trung lập và chống kiểm duyệt.

Điểm chính: ví agent cho phép agent AI dễ dàng gọi các giao diện tài chính, tự động hóa các tương tác kinh tế, miễn phê duyệt thủ công, nhưng tự động hóa không đồng nghĩa với tự chủ. Chỉ có ví không thể giúp agent thoát khỏi sự kiểm soát của con người (bên vận hành vẫn có thể tắt các mô hình hoặc cơ sở mà nó phụ thuộc vào), thanh toán tự động cũng không cần blockchain, hệ thống tập trung cũng có thể thực hiện.

Điểm bán thực sự của thanh toán blockchain nằm ở tính trung lập và chống kiểm duyệt, phù hợp với các tình huống lo ngại về việc thanh toán bị đàn áp hoặc can thiệp.

Hiểu lầm bốn: AI minh bạch thì đáng tin cậy

Việc ghi lại nguồn dữ liệu và hồ sơ suy diễn của mô hình lên chuỗi, có vẻ là công cụ lý tưởng để đảm bảo AI đáng tin cậy, lập luận này xuất phát từ một bài viết blog nổi tiếng của IBM và đã được mở rộng đến agent AI. Nhưng cần phải tách ra thành hai lớp.

Về mặt minh bạch của mô hình, việc ghi lại nguồn dữ liệu huấn luyện có vẻ mang lại tính minh bạch về việc tạo ra mô hình, nhưng "ghi lại nguồn dữ liệu" và "đảm bảo hành vi của mô hình" có một khoảng cách khổng lồ giữa chúng.

Thứ nhất, ghi lại trên chuỗi chỉ là ghi lại, không đồng nghĩa với việc chứng minh nguồn gốc (chứng minh cấu thành tập huấn luyện cần công nghệ riêng).

Thứ hai, ngay cả khi hoàn toàn nắm giữ dữ liệu huấn luyện, cũng không đủ để xác định mô hình sẽ hoạt động như thế nào, vì quy trình huấn luyện và môi trường tính toán cũng quyết định hành vi của mô hình.

Thứ ba, ngay cả khi nắm giữ toàn bộ quy trình từ dữ liệu đến mô hình, đủ để tái tạo mô hình, tính ngẫu nhiên vốn có trong huấn luyện cũng khiến "sử dụng quy trình huấn luyện để xác minh trọng số mô hình" về nguyên tắc là không khả thi.

Hơn nữa, ngay cả khi có được trọng số, cũng không có phương pháp phổ biến nào để phát hiện cửa hậu hoặc thao tác đối kháng được cài đặt trong quá trình huấn luyện, và việc ghi lại dữ liệu mô hình và thông tin huấn luyện lên chuỗi không thể đảm bảo trực tiếp các đặc điểm hành vi của nó hoặc không tồn tại thao tác đối kháng.

Về mặt minh bạch của suy diễn, việc ghi lại đầu vào của mô hình và suy diễn tương ứng lên chuỗi, có vẻ mang lại tính minh bạch về việc sử dụng mô hình, nhưng blockchain làm cho giao dịch minh bạch, chứ không làm cho suy diễn minh bạch. Một bản ghi trên chuỗi ghi rằng "mô hình X đã nhận được suy diễn Z trên đầu vào Y" gần như không thể chứng minh Z là đáng tin cậy.

Bởi vì nó không thể chứng minh "thực hiện đúng" (để chứng minh rằng bộ ba này thực sự được mô hình X tính toán theo quy định, cần TEE hoặc các phương pháp mật mã đắt tiền), cũng không thể chứng minh "mô hình đáng tin cậy".

Ngay cả khi chứng minh được thực hiện đúng, vấn đề cơ bản hơn là: hồ sơ nguồn gốc hoàn chỉnh của mô hình X không thể chứng minh về mặt ngữ nghĩa rằng nó đáp ứng mong đợi của người dùng hoặc tiêu chuẩn ngành; việc chỉ định mô hình bằng băm trọng số thì đảm bảo yếu hơn, vì danh tính của mô hình không đồng nghĩa với độ tin cậy của mô hình.

Blockchain thực sự hữu ích cho một số mục tiêu đáng tin cậy, chẳng hạn như các tổ chức công bố băm của mô hình trọng số mã nguồn mở lên chuỗi, như một tham chiếu không thể giả mạo, cho phép người dùng xác nhận rằng họ đang sử dụng mô hình thực tế không bị thay đổi; tư duy ghi nhật ký chống giả mạo tương tự cũng được sử dụng cho hồ sơ cập nhật firmware và tính minh bạch chứng nhận (sử dụng nhật ký chỉ thêm giống như blockchain để duy trì hồ sơ phát hành chứng nhận có thể công khai kiểm toán).

Điểm chính: việc ghi lại nguồn dữ liệu và hồ sơ suy diễn của mô hình lên chuỗi vẫn tồn tại một khoảng cách lớn giữa "đảm bảo có ý nghĩa về độ tin cậy của mô hình và suy diễn".

Hiểu lầm năm: Phi tập trung tự nhiên làm cho nhiệm vụ AI tiết kiệm hơn

Một số dự án coi mạng phi tập trung như một giải pháp AI hiệu quả hơn và tiết kiệm hơn, điển hình là mạng cơ sở hạ tầng vật lý phi tập trung (DePIN), người dùng cho thuê phần cứng của mình (như GPU), điểm bán chính là chi phí thấp hơn, việc thuê một GPU DePIN có thể rẻ hơn nhiều so với thuê từ các nhà cung cấp dịch vụ đám mây cùng cấp.

Nhưng máy rẻ không nhất thiết mang lại tổng chi phí nhiệm vụ thấp hơn. Các nút phi tập trung giao tiếp qua mạng công cộng, yêu cầu về thông lượng và độ trễ của nhiệm vụ AI sẽ ảnh hưởng đáng kể đến tổng chi phí, trong khi các nhiệm vụ siêu lớn (như huấn luyện mô hình tiên tiến) thường bị hạn chế bởi nút thắt thông lượng.

Hiện tại khó có thể thực hiện so sánh chi phí trực tiếp, vì ngành còn thiếu các bài kiểm tra chuẩn tắc hệ thống, không thể so sánh hiệu suất và chi phí của nhiệm vụ AI trên DePIN với các dịch vụ đám mây truyền thống.

Điểm chính: mạng phi tập trung là một lựa chọn thay thế hấp dẫn cho đám mây tập trung có chi phí cao, nhưng dữ liệu hiện có vẫn chưa đủ để dự đoán một nhiệm vụ trên DePIN hoặc nền tảng AI phi tập trung sẽ rẻ hơn khi so với đám mây tập trung.

Các nhiệm vụ nhỏ (suy diễn, huấn luyện quy mô nhỏ) rất có thể tiết kiệm hơn, trong khi các nhiệm vụ siêu lớn (huấn luyện mô hình cơ bản) có thể bị ảnh hưởng bởi sự không ổn định và băng thông thấp giữa các nút. Để làm rõ những sự đánh đổi này, vẫn cần thêm nghiên cứu.

Điểm chung của năm hiểu lầm này là, những gì blockchain có thể cung cấp nhiều hơn là "tính toàn vẹn" và "có thể xác minh", chứ không phải "tính xác thực" hay "độ tin cậy" bản thân. Crypto x AI vẫn đang ở giai đoạn cần phải dựa vào bằng chứng, chứ không phải chỉ dựa vào câu chuyện để thúc đẩy.