OpenAI와 Anthropic이 대형 모델 상호 테스트에 대해 논의한 것으로 알려졌다

미디어의 보도에 따르면, 앤트로픽과 오픈AI는 서로의 대형 모델에 대해 스트레스 테스트를 수행하기 위해 법적 구속력이 있는 계약을 체결하는 것을 고려했다고 합니다. 올해 초, 두 회사와 그들의 변호사 팀은 이 계획에 대해 논의했으며, 경쟁업체는 서로의 최신 사용 가능한 모델에 대해 심층 테스트를 수행하여 잠재적인 위험이나 보안 취약점을 찾을 수 있습니다. 이러한 테스트는 상업화된 모델에만 적용되며, 양측은 서로의 데이터를 보관하지 않기로 합의했습니다. 이 보도에서는 양측이 최종적으로 이러한 계약을 체결했는지 여부는 명확히 하지 않았습니다.

최근, 최고의 AI 연구소 간에 어떤 형태의 동료 평가를 시행하자는 아이디어가 주목받고 있습니다. 스페이스X CEO 일론 머스크는 지난주 미국의 몇몇 주요 대형 모델 회사와 일부 중국 AI 회사가 경쟁업체가 교차 테스트를 수행할 수 있도록 허용해야 한다고 제안했습니다. 머스크는 모든 AI 회사가 테스트 도구를 갖추고 있으며, 각 회사가 다른 회사의 테스트 도구를 사용해 보는 것이 자사의 안전을 보장하는 데 가장 좋은 방법일 수 있다고 말했습니다.

이번 달 초, 앤트로픽 연구원 제이콥 콕슨이 사직을 발표하고 주요 인공지능 회사들이 적절한 보호 조치 없이 개발을 가속화하는 것에 대해 경고했습니다. 이후 앤트로픽 CEO 다리오 아모데이가 업계에 AI 개발 속도를 늦추고 제3자 평가 메커니즘을 도입할 것을 촉구하는 글을 게시했습니다. 앤트로픽은 지난 금요일 액센츄어와 협력 관계를 맺고 액센츄어가 자사의 최첨단 AI 모델에 대한 안전 준수 평가를 수행하는 제3자 평가 기관이 되기로 했다고 발표했습니다.