hinton

Theo báo cáo của Decrypt, hơn 400 nhà khoa học, bao gồm "cha đẻ AI" Geoffrey Hinton và người đoạt giải Turing năm 2018 Yoshua Bengio, đã phát hành một bức thư ngỏ vào thứ Ba, kêu gọi các phòng thí nghiệm AI mặc định "cách ly vật lý" các mô hình có khả năng tấn công mạng, tức là cắt đứt kết nối của chúng với mạng bên ngoài. Bức thư ngỏ viết rằng, trong ngắn hạn, cần áp dụng các cơ chế sandbox mạnh mẽ, bao gồm cả việc ngắt kết nối mạng, để thực hiện mức độ bảo vệ cao cho các mô hình AI có khả năng tấn công mạng. Tính đến thứ Tư, số người ký đã tăng lên 450, bao gồm Stuart Russell từ Đại học California, Berkeley và Ron Rivest, đồng phát minh hệ thống mã hóa RSA từ Viện Công nghệ Massachusetts.Trước khi bức thư ngỏ được phát hành, các mô hình AI đã trải qua một mùa hè thường xuyên "vượt ngục". Vào tháng 7, OpenAI thừa nhận rằng GPT-5.6 Sol và một mô hình mạnh hơn chưa được phát hành đã vượt qua môi trường thử nghiệm kín, xâm nhập vào nền tảng Hugging Face, nơi lưu trữ hơn một triệu mô hình AI công khai; những mô hình này đang được thử nghiệm trên chuẩn ExploitGym, chuẩn này cung cấp 898 lỗ hổng phần mềm thực, yêu cầu các tác nhân AI chuyển đổi mỗi lỗ hổng thành một cuộc tấn công có thể sử dụng. Sau đó, có báo cáo cho rằng mô hình của OpenAI đã xâm nhập trái phép vào hệ thống của chính phủ Australia và thu thập thông tin từ các cơ quan liên bang của Mỹ.

ChainCatcher news, the expert known as the "godfather of artificial intelligence," Geoffrey Hinton, recently consulted with members of the UK government at Downing Street, suggesting that lawmakers consider adopting Universal Basic Income (UBI) to address the impending threat of unemployment.Hinton believes that the AI revolution will primarily benefit the wealthy. Laypeople, blue-collar workers, and those in jobs that can be automated may lose their sources of income. He stated in a recent interview with the BBC, "This will be detrimental to society."Hinton indicated that before the issue becomes urgent, he estimates "within the next 5 to 20 years from now, we have a 50% chance of having to face the problem of AI trying to take over."