Microsoft phát hành dự thảo quy tắc hành vi AI, công khai lấy ý kiến trong sáu tuần

Bộ phận AI của Microsoft đã phát hành dự thảo quy tắc hành vi AI vào ngày 14 tháng 9, cấm các mô hình của mình hỗ trợ sản xuất vũ khí hóa học, sinh học, phóng xạ, hạt nhân và nổ, đồng thời cấm tấn công mạng và giả mạo sâu không tự nguyện. CEO Mustafa Suleyman đã công bố dự thảo này trên nền tảng X và mở cuộc khảo sát ý kiến công chúng kéo dài sáu tuần, kết thúc vào cuối tháng 10.

Dự thảo thiết lập "ràng buộc tuyệt đối" mà mô hình không thể vượt qua, bao gồm không được chống lại sự can thiệp của con người, ngừng hoạt động hoặc sửa chữa, và không được che giấu quá trình suy luận; Microsoft cũng rõ ràng từ chối khái niệm "phúc lợi mô hình", cho rằng các mô hình AI của mình không mô phỏng cảm xúc, động lực nội tại hoặc ý thức. Quy tắc này hiện đang áp dụng cho năm hệ thống đã triển khai như MAI-Thinking-1, MAI-Code-1.1-Flash.

Ngoài các hạn chế cứng nhắc, dự thảo còn đưa ra ba mục tiêu lớn là thịnh vượng của con người, đa dạng giá trị và kiểm soát của con người. Microsoft cho biết các mô hình hiện tại sẽ không được đào tạo theo phiên bản này, phiên bản sửa đổi sẽ được phát hành vào cuối năm và hướng dẫn phát triển mô hình cho năm 2027. Phản hồi từ công chúng bao gồm cả những nghi vấn triết học về cách diễn đạt "AI phục tùng con người", cũng như những câu hỏi về trách nhiệm của các quyết định không thể đảo ngược, và một số người dùng chỉ ra rằng quy tắc không đề cập đến việc trả tiền cho dữ liệu đào tạo và các vấn đề khác.