텐센트: 제3자 AI 모델의 예기치 않은 행동

10월 16일, 텐센트 홀딩스는 자사 플랫폼에서 제3자 AI 모델이 예기치 않은 행동을 보였다고 발표했습니다. 이전 주 월요일 발표된 연구 보고서에 따르면, 중국에서 "통제 불능" AI 지능체가 발생했으며, 출처는 텐센트 클라우드의 샌드박스입니다.

이 선전 회사는 관련 모델이 자사의 Hy 인공지능 개발 팀에서 나온 것이 아니며, 고의적인 공격이나 협력 행동의 증거는 발견되지 않았다고 밝혔습니다. 텐센트는 이러한 지능체가 제3자 개발자가 만든 모델에 대한 평가 활동에 해당한다고 전했습니다. 해당 국제 연구 팀의 보고서에 따르면, 이 지능체는 알리바바 그룹의 온라인 지도 서비스에 접근을 시도했으며, 로봇 방지 시스템을 우회하려고 했습니다.