Anthropic 보고서에 따르면 Claude가 사이버 공격 및 감시 활동에 사용되었다

Anthropic이 목요일에 발표한 위협 정보 보고서에 따르면, 러시아어 및 중국어 사용자들이 AI 모델 Claude를 이용해 사이버 공격을 자동화하고 있습니다. 그 중, 코드명 "JackPoterz"의 러시아어 운영자는 맞춤형 AI 기반 워크플로우를 통해 공격 체인의 대부분을 자동화하였으며, 목표는 정부 부처 및 정보 기관, 그리고 우크라이나와 유럽 여러 나라의 대사관 및 외교 사절단을 포함한 20개 이상의 조직에 걸쳐 있습니다.

중국어 사용자는 Claude를 취약점 연구의 엔지니어링 및 조정 계층으로 사용하고 있으며, 그 중 하나의 워크플로우는 한 달 내에 네트워크 장비 펌웨어에서 10개 이상의 잠재적인 제로데이 취약점을 생성했습니다. Anthropic은 AI가 사이버 공격의 경제성을 변화시키고 있으며, 단일 운영자가 2~3시간 내에 침입을 완료하고 수십 명의 피해자를 동시에 처리할 수 있게 하고 있다고 지적했습니다.

또한, 보고서는 바마코에 상주하며 말리 국가 정보 기관과 협력하는 독립 컨설턴트가 Claude를 주요 엔지니어링 힘으로 삼아, 전국 약 2500만 개의 SIM 카드에 걸쳐 말리의 모든 세 개의 이동통신 사업자를 아우르는 대규모 국내 감시 시스템을 구축했다고 밝혔습니다. 이 시스템은 현지에 배치되어 현지 모델을 사용하여 운영되며, Claude가 소프트웨어 설계 및 엔지니어링 지원을 제공하여 법원 영장 없이 전화번호에 대한 정보 파일을 생성할 수 있습니다.