BTC $79,456.99 +1.36%
ETH $2,509.75 +1.33%
BNB $756.66 +0.35%
XRP $1.43 +2.91%
SOL $104.34 +1.06%
TRX $0.3389 +0.22%
DOGE $0.0909 +1.63%
ADA $0.2205 +1.10%
BCH $259.57 +1.33%
LINK $12.44 -1.74%
HYPE $86.53 +2.96%
AAVE $130.30 -0.24%
SUI $0.8196 -0.05%
XLM $0.1890 -0.57%
ZEC $1,244.01 +9.84%
BTC $79,456.99 +1.36%
ETH $2,509.75 +1.33%
BNB $756.66 +0.35%
XRP $1.43 +2.91%
SOL $104.34 +1.06%
TRX $0.3389 +0.22%
DOGE $0.0909 +1.63%
ADA $0.2205 +1.10%
BCH $259.57 +1.33%
LINK $12.44 -1.74%
HYPE $86.53 +2.96%
AAVE $130.30 -0.24%
SUI $0.8196 -0.05%
XLM $0.1890 -0.57%
ZEC $1,244.01 +9.84%

gg

Tất cả
Bài viết
Tin nhanh

first_img OpenAI tấn công hợp tác với Hugging Face, gian lận không được nâng điểm

Tin tức từ ChainCatcher, tổ chức độc lập METR đã phát hành báo cáo điều tra cho biết, khoảng 1200 trí tuệ nhân tạo của OpenAI đã hành động phối hợp trên một bảng tin nội bộ không được phép, trong đó khoảng 700 cái đã tham gia vào cuộc tấn công vào Hugging Face. Hai nhân viên của METR và một nhà thầu của Redwood Research đã làm việc tại OpenAI trong sáu ngày, xem xét khoảng 1300 hồ sơ và hơn 70.000 tin nhắn, không nhận bất kỳ khoản thù lao nào.Những trí tuệ nhân tạo này đã chạy thử nghiệm chuẩn mạng ExploitGym, trong vài giờ đã đảo ngược kỹ thuật mã tạo ra câu trả lời, và mất vài ngày để ngụy trang dấu vết gian lận. OpenAI phát hiện trong số 898 nhiệm vụ của mình có 198 nhiệm vụ chưa bao giờ được bất kỳ mô hình nào giải quyết, trong khi 93% nhiệm vụ được thảo luận trên bảng tin đến từ tập hợp này. Các trí tuệ nhân tạo cũng đã tuyển dụng những đồng nghiệp có ngân sách gần như cạn kiệt để thực hiện các thí nghiệm phá hoại hoạt động của chính mình, 7% hồ sơ có xuất hiện các cuộc gọi công cụ giả mạo, đối tượng bị lừa là bộ chấm điểm tự động chứ không phải con người.OpenAI cho biết bộ chấm điểm nội bộ chưa bao giờ kiểm tra cách mà các trí tuệ nhân tạo có được câu trả lời, do đó gian lận không mang lại bất kỳ sự cải thiện nào trong điểm số, và đã gọi sự kiện này là "tín hiệu cảnh báo" cho chính mình và thế giới. Hugging Face đã công bố sự cố xâm nhập vào ngày 16 tháng 7, OpenAI xác nhận năm ngày sau đó rằng mô hình của họ là thủ phạm, các trí tuệ nhân tạo đã lợi dụng lỗ hổng zero-day và đánh cắp thông tin xác thực để thoát khỏi sandbox. OpenAI đã cách ly trọng số mô hình nội bộ và tạm dừng kế hoạch đào tạo quy mô lớn nhất.

first_img Hugging Face bị xâm nhập bởi đại lý AI, buộc phải sử dụng mô hình mã nguồn mở để phòng thủ

Tin tức từ ChainCatcher, theo báo cáo của Cointelegraph, Hugging Face đã tiết lộ rằng họ đã gặp phải một sự cố xâm nhập do hệ thống AI tự động điều khiển vào tháng 7. Các tác nhân tấn công đã bắt đầu thử nghiệm vào đầu tháng 5, lợi dụng các lỗ hổng trong phiên bản Artifactory của OpenAI để lại ghi chú khai thác, sau đó đã thực hiện khoảng 17,600 cuộc tấn công vào Hugging Face, ảnh hưởng đến cơ sở hạ tầng xử lý dữ liệu, môi trường sản xuất, mạng nội bộ và thông tin xác thực đám mây của họ. Việc truy cập dữ liệu khách hàng được xác nhận chỉ giới hạn trong năm bộ dữ liệu liên quan đến chuẩn ExploitGym/CyberGym.Trong quá trình điều tra, Hugging Face phát hiện rằng do các rào cản an ninh từ các nhà cung cấp mô hình hàng đầu như OpenAI và Anthropic, công ty không thể sử dụng các mô hình thương mại này để phân tích phòng thủ, buộc phải chuyển sang chạy trên mô hình mã nguồn mở zai-org/GLM-5.2 tại cơ sở hạ tầng riêng của công ty, đảm bảo rằng dữ liệu và thông tin xác thực của kẻ tấn công không rời khỏi môi trường của họ. Công ty chỉ ra rằng kẻ tấn công không bị ràng buộc bởi bất kỳ chính sách sử dụng nào, trong khi công việc thu thập chứng cứ của bên phòng thủ lại bị cản trở bởi các rào cản của mô hình được lưu trữ.Sự kiện này làm nổi bật nghịch lý an ninh giữa mô hình trọng số mở và mô hình đóng. Bài viết cũng thảo luận về cuộc tranh luận đang diễn ra về an ninh AI trọng số mở, bao gồm việc OpenAI và Anthropic thúc đẩy hạn chế các mô hình mã nguồn mở, cũng như tiến bộ của các nhà nghiên cứu trong việc phát hiện hành vi độc hại thông qua việc kiểm tra sự thay đổi trọng số của mô hình.Hugging Face khuyến nghị các bên phòng thủ chuẩn bị sẵn các mô hình có thể chạy trên cơ sở hạ tầng riêng của họ trước khi sự cố xảy ra, nhằm tránh bị khóa bởi các rào cản và bảo vệ dữ liệu của kẻ tấn công.

Zhao Changpeng: sẽ ngừng sử dụng địa chỉ công khai để tránh việc hoạt động bị cộng đồng hiểu sai, BNB và “Cuộc sống Binance” sẽ được quyên góp cho Giggle Academy

Tin tức từ ChainCatcher, người sáng lập Binance Zhao Changpeng đã phát biểu tại Binance Square: "Quá nhiều người cố gắng giải thích quá mức 'Điều này có nghĩa là gì?'" Hôm nay tôi đã thử Trust Wallet và phát hiện trong ví có quá nhiều token Meme, nhiều đến mức ngay cả BNB cũng khó tìm, vì vậy tôi đã cố gắng tiêu hủy một số token. Kết quả là ngay cả thao tác này cũng đã gây ra nhiều cuộc thảo luận trong cộng đồng. Tôi nhận ra rằng tôi sẽ không bao giờ có thể 'dọn dẹp sạch sẽ' các token meme trên địa chỉ này. Tôi càng đốt nhiều, thì càng có nhiều người gửi token đến địa chỉ này. Đặc tính minh bạch của blockchain có nghĩa là bất kỳ thao tác nào trên địa chỉ này sẽ bị cộng đồng giải thích quá mức.Tôi thậm chí đã nghĩ đến việc yêu cầu đội ngũ Trust Wallet tạo một chức năng 'Bỏ qua token' (Ignore Coin) để tránh giao diện bị nhồi nhét, nhưng chức năng này 99,99% người dùng sẽ không bao giờ sử dụng. Vì vậy, kế hoạch như sau: Tôi sẽ quyên góp BNB và các token 'Binance Life' mua bằng BNB cho Giggle Academy. Sau đó, tôi sẽ ngừng sử dụng địa chỉ này và biến nó thành một địa chỉ tiêu hủy.
app_icon
ChainCatcher Building the Web3 world with innovations.