Báo cáo của Anthropic cho biết Claude đã được sử dụng trong các cuộc tấn công mạng và hoạt động giám sát

Anthropic đã công bố một báo cáo tình báo về mối đe dọa vào thứ Năm, cho biết người sử dụng tiếng Nga và tiếng Trung đã tận dụng mô hình AI Claude để tự động hóa việc phát động các cuộc tấn công mạng. Trong đó, một người điều hành tiếng Nga mang mã hiệu "JackPoterz" đã tự động hóa hầu hết các khâu trong chuỗi tấn công thông qua quy trình làm việc được điều khiển bởi AI, với mục tiêu bao gồm hơn 20 tổ chức, bao gồm các cơ quan chính phủ và cơ quan tình báo, cũng như các đại sứ quán và phái đoàn ngoại giao của Ukraine và nhiều quốc gia châu Âu.

Người sử dụng tiếng Trung đã sử dụng Claude như một công cụ nghiên cứu lỗ hổng và tổ chức quy trình, trong đó một quy trình làm việc đã sản xuất ra hơn mười lỗ hổng zero-day tiềm năng trong firmware của thiết bị mạng chỉ trong một tháng. Anthropic chỉ ra rằng AI đang thay đổi tính kinh tế của các cuộc tấn công mạng, cho phép một người điều hành hoàn thành việc xâm nhập trong vòng hai đến ba giờ và có thể xử lý đồng thời hàng chục nạn nhân.

Ngoài ra, báo cáo còn tiết lộ rằng một cố vấn độc lập nghi ngờ thường trú tại Bamako, hợp tác với cơ quan tình báo quốc gia Mali, đã sử dụng Claude như một lực lượng chính để xây dựng một hệ thống giám sát nội địa quy mô lớn bao phủ khoảng 25 triệu SIM trên toàn quốc, trải rộng qua cả ba nhà cung cấp dịch vụ di động của đất nước. Hệ thống này được triển khai tại địa phương và sử dụng mô hình địa phương để hoạt động, với phần mềm thiết kế và hỗ trợ kỹ thuật từ Claude, có thể tạo ra hồ sơ tình báo cho các số điện thoại mà không cần lệnh của tòa án.