DeepMind 공동 창립자는 AGI가 몇 년 내에 실현될 수 있다고 말하며 최전선 AI 표준 규제 기관 설립을 촉구했습니다

구글 딥마인드 공동 창립자 데미스 하사비스가 최근 글을 통해 범용 인공지능(AGI)이 몇 년 내에 실현될 수 있으며, 그 혁신적인 영향력이 산업 혁명의 10배에 이를 것이라고 예측했습니다. 또한 발전 속도는 10배 빨라질 것이라고 지적했습니다. 그는 최전선 모델이 사이버 보안, 원자력 및 생물학 등 분야에서 잠재적 위험이 점점 더 부각됨에 따라, 업계가 자율성과 자기 개선 능력을 갖춘 AI 시스템을 위한 견고한 안전 방어를 구축할 필요가 있다고 강조했습니다.

기술 혁신과 안전 위험의 균형을 맞추기 위해 하사비스는 미국이 금융업 규제 기관(FINRA)과 유사한 "최전선 AI 표준 기관"을 설립하는 데 선도적으로 나서야 한다고 촉구했습니다. 이 기관은 공공-민간 협력 또는 자율 조직 모델을 채택할 예정이며, 독립 기술 전문가와 오픈 소스 커뮤니티 대표가 관리하게 됩니다. 주요 운영 방식은 산업 자금을 통해 이루어집니다. 핵심 기능은 동적인 과학 평가 프로토콜을 수립하는 것으로, 초기에는 최전선 실험실이 모델을 발표하기 30일 전에 자발적으로 검토를 제출하도록 요구하며, 궁극적으로는 강제적인 시장 진입 테스트로 전환할 계획입니다. 초기 기업이나 학술 기관의 비최전선 모델은 면제됩니다. 이 프레임워크는 기술 주도 검토 메커니즘을 통해 미지의 위기에 대응하고, 이를 바탕으로 국제 사회가 글로벌 AI 위험 관리 합의에 도달하도록 촉진하는 것을 목표로 합니다.