마이크로소프트, 인공지능을 이용해 유해 콘텐츠를 퍼뜨리는 외국 네트워크 조직을 고소하다

ChainCatcher 메시지에 따르면, Cryptoslate는 마이크로소프트가 1월 10일 버지니아 동부에서 생성적 인공지능 기술의 남용에 대한 사이버 범죄를 단속하기 위해 소송을 제기했다고 보도했습니다. 이 소송은 AI 서비스의 보안 조치를 우회하여 불법 콘텐츠를 제작한 외국 위협 조직을 대상으로 하고 있습니다.

마이크로소프트 디지털 범죄 부서(DCU)는 피고가 도난당한 고객 자격 증명을 이용하여 생성적 AI 서비스에 불법으로 접근할 수 있는 도구를 개발하고, 수정된 AI 기능을 악의적인 사용 설명서와 함께 재판매했다고 밝혔습니다. 이러한 행위는 미국 법률과 마이크로소프트의 《수용 가능한 사용 정책》을 위반합니다.

조사의 일환으로 마이크로소프트는 범죄 행위의 핵심 웹사이트를 압수하여 가해자를 식별하고, 인프라를 파괴하며, 그들의 수익 모델을 분석했습니다. 또한, 마이크로소프트는 AI 보안 방어를 강화하고, 플랫폼에 추가 조치를 배치하여 악의적인 행위자의 접근 권한을 철회하고, 미래의 위협을 방지하기 위한 대책을 시행했습니다.