Anthropic 공동 창립자: 오픈 소스 AI는 되돌릴 수 없는 남용 위험이 존재하며, 위험한 경로로 나아갈 수 있다

비트코인 뉴스에 따르면, 앤트로픽 공동 창립자이자 CEO인 다리오 아모데이는 미국 의회에서 입법자들에게 오픈 소스 AI 개발이 "매우 위험한 경로"에 접어들고 있다고 밝혔습니다. 강력한 능력을 가진 AI 모델이 오픈 소스 형태로 출시되면 개발자는 모델 사용에 대한 효과적인 감독 능력을 잃게 되며, 남용 행위를 모니터링하거나 접근 권한을 철회하거나 동적으로 보안 방어 메커니즘을 업데이트하는 것이 불가능해져 잠재적인 위험이 증가한다고 경고했습니다.

다리오 아모데이는 폐쇄형 모델 시스템에 비해 완전히 개방된 모델이 안전 거버넌스에서 지속적인 통제를 시행하기가 더 어렵고, 이는 되돌릴 수 없는 남용 위험을 초래할 수 있다고 언급했습니다.