Anthropic: 올해 여러 차례 생물 무기 시도를 차단했습니다

《금융 시보》에 따르면, Anthropic은 올해 여러 차례 과학자들이 자사의 기술을 이용해 생물 무기 개발에 도움이 될 수 있는 관련 연구를 시도하는 것을 차단했다고 밝혔습니다. 이 회사는 관련 행위자들이 통제 조치를 우회하고 연구 목적을 혼동시켜 안전 보호를 회피했다고 주장하며 다섯 가지 사례를 제시했습니다. Anthropic은 모델이 악의적인 활동에 사용되었다는 보고서에서 이러한 사례를 공유함으로써 AI 산업과 각국 정부가 새로운 생물학적 위험 및 대응 방식에 대해 논의하기를 희망한다고 전했습니다.

사례에는 "지원되지 않는 지역" 출신의 연구자가 Claude를 사용하여 수주 동안 조류 인플루엔자와 관련된 실험을 계획한 것이 포함됩니다. Anthropic은 안전 필터링 메커니즘이 해당 연구를 성능이 가장 낮은 모델로 제한했으며, 위의 과학자가 의도적으로 해를 끼쳤는지 여부는 확인할 수 없다고 강조했습니다. 생물 무기를 개발하는 데 필요한 동일한 정보가 백신 개발에도 사용될 수 있다고 언급했습니다. 이 회사는 보고서에 언급된 관련 계정을 차단했지만, 연구자가 소속된 기관의 이름과 사건 발생 국가에 대해서는 공개하지 않았습니다.