바이트댄스 Seed 대모델 안전 및 정렬 부서 설립

바이트댄스 Seed가 최근 내부 이메일을 발송하여 Seed 모델 정렬 및 준비 부서를 설립한다고 발표했습니다. 이 부서는 엄린이 책임지며 Seed 책임자인 우영휘에게 보고합니다. 원래 Responsible AI 팀과 일부 Chat 팀 구성원들이 새 부서로 이동할 것입니다.

이 부서는 안전과 정렬 방향에 대한 투자를 강화하는 것을 목표로 합니다. 정렬의 핵심은 모델의 행동이 인간의 의도와 안전 제약과 일치하도록 하여 Agent Model의 안전 능력을 향상시키고 화학, 생물, 방사선, 핵 등 최전선 능력 위험을 방지하는 것입니다.