주홍이 는 AI 취약점 발견 및 지능형 안전 시스템 형성을 촉구합니다

증권시보에 따르면, 제4회 사이버 보안(톈진) 포럼에서 360 그룹 창립자 주홍이 주제 발표를 하였으며, AI가 사이버 공격과 방어의 판도를 변화시켰다고 언급했습니다. 전통적인 솔루션은 지속 가능성이 떨어지며, "모델로 모델을 다스린다"는 핵심을 가진 자동화 공격 및 방어의 새로운 시스템을 구축해야 한다고 강조했습니다. AI의 능력을 통해 AI의 위험을 해결하고, 대형 모델 자체의 안전성을 보장하며, 생성된 콘텐츠의 신뢰성을 확보하고, 출력 결과의 신뢰성을 높여야 한다고 말했습니다.

주홍은 또한 지능형 에이전트의 전체 생애 주기 관리에 대응해야 하며, 감사 가능하고, 개입 가능하며, 차단 가능한 통제 메커니즘을 구축해야 한다고 제안했습니다. 그리고 사이버 보안 산업이 AI 취약점 발견, 자동화 방어 및 지능형 에이전트 안전 시스템을 조속히 형성할 것을 촉구했습니다.