Vitalik: Thiết kế cơ chế quản trị đối kháng có thể trở thành ứng dụng quan trọng cho an toàn trí tuệ nhân tạo

Vitalik Buterin cho biết, lý thuyết thiết kế "ứng dụng sát thủ" cho cơ chế quản trị đối kháng có thể cuối cùng xuất hiện trong lĩnh vực an ninh trí tuệ nhân tạo. Ông tin rằng, có một mối quan hệ sâu sắc giữa cơ chế quản trị và an ninh trí tuệ nhân tạo: cả hai đều liên quan đến cách mà "các bên ủy quyền có khả năng yếu hơn" có thể đạt được kết quả lý tưởng từ "các bên đại diện có khả năng mạnh hơn".

Trong bối cảnh quản trị, bên ủy quyền là các thuật toán tĩnh, bên đại diện là con người; trong bối cảnh an ninh trí tuệ nhân tạo, bên ủy quyền là con người và các mô hình ngôn ngữ lớn yếu hơn, bên đại diện là các mô hình ngôn ngữ lớn mạnh hơn. Vitalik chỉ ra rằng, nếu có thể hạn chế mức độ thông đồng giữa các bên đại diện, hệ thống có thể đạt được kết quả tốt hơn, kết luận thiết kế cơ chế này có thể được chuyển giao sang lĩnh vực an ninh trí tuệ nhân tạo.