OpenAI의 새로운 모델 Astra는 소프트웨어 취약점을 자율적으로 발견하고 활용할 수 있으며, "심각한" 네트워크 능력 등급을 받았습니다

OpenAI는 곧 출시될 Astra 모델이 인적 개입 없이 이전에 알려지지 않은 소프트웨어 취약점을 자율적으로 발견하고 이를 사용할 수 있는 공격 수단으로 전환할 수 있다고 밝혔으며, 이는 해당 회사의 첫 번째 "심각한" (Critical) 사이버 보안 능력 수준 기준을 충족하는 모델이 됩니다. OpenAI는 화요일에 발표한 블로그 글에서, Preparedness Framework에 따르면 이 수준에 도달하는 것은 모델이 인적 개입 없이 강화된 실제 시스템에서 제로데이 취약점을 발견하고 사용할 수 있는 익스플로잇 코드를 개발하거나 단지 하나의 고수준 목표만으로 공격을 설계하고 실행할 수 있음을 의미한다고 설명했습니다.

테스트에서 Astra는 알려진 취약점을 기반으로 한 익스플로잇 코드 개발 기준 테스트에서 100%의 성과를 거두었고, 또 다른 내부 테스트에서 두 개의 이전에 알려지지 않은 취약점을 발견했습니다. 또한 이 모델은 강화된 브라우저 샌드박스를 성공적으로 우회하고 호스트 머신에서 명령을 실행했으며, 운영 체제의 여러 취약점을 조합하여 root 권한을 획득했습니다. OpenAI는 보안 방어 조치를 강화하기 위해 Astra의 일부 개발 진행을 연기했으며, 최첨단 사이버 보안 능력을 선별된 테스트 사용자에게만 공개할 계획이라고 밝혔습니다.

이 능력은 암호화 산업과 특히 관련이 깊습니다. 소프트웨어 취약점은 몇 분 안에 자금 손실로 전환될 수 있기 때문입니다. CoinDesk는 올해 6월, 점점 더 강력해지는 AI 모델이 코드 검색, 잘못된 구성 발견 및 공격 조합 과정을 며칠 또는 몇 주에서 기계 속도로 압축할 수 있다고 보도했습니다. 당시 보안 연구원들은 더 큰 변화가 새로운 공격 유형의 출현이 아니라 기존 취약점이 발견되고 이용되는 속도가 크게 향상된 것이라고 지적했습니다.