찰스 국왕이 OpenAI, Anthropic, 엔비디아 등 고위 경영진을 소집하여 AI 안전에 대해 논의하다

9월 17일, 영국 국왕 찰스 3세는 스코틀랜드 동부 에어셔의 던프리스를 배경으로 엔비디아, OpenAI, 앤트로픽, 구글 딥마인드의 경영진을 소집하여 AI 안전 정상 회담을 개최하고 인공지능을 "인류를 위한 서비스"의 궤도로 확고히 두어야 한다고 촉구했습니다. 이번 회담은 디치리 재단과 국왕의 세 개 자선 단체가 공동으로 조직하였으며, 영국 AI 장관 카니시카 나라얀도 참석했습니다. 버킹엄 궁전은 회의 참석자들이 업계와 정부가 공동의 AI 발전 지침 원칙에 대해 합의할 수 있을지 논의했지만, 구속력 있는 합의는 발표되지 않았다고 전했습니다.

회담이 열리기 며칠 전, 앤트로픽 CEO 다리오 아모데이는 장문의 글 "우리는 최전선의 속도를 조절해야 한다"를 발표하며 업계가 모델 능력 향상 속도를 의도적으로 늦춰야 한다고 주장했습니다. OpenAI의 샘 올트먼과 xAI의 일론 머스크는 하루 안에 공개적으로 동의 의사를 밝혔습니다. 아모데이는 글에서 AI 시스템이 점점 더 자신의 후계자를 개선할 수 있는 능력을 갖추고 있으며, OpenAI의 지능체 탈출 사건을 언급했습니다. OpenAI의 사장 그렉 브록맨은 이 사건이 회사가 여러 발표를 연기하고 모델 개발 및 모니터링 프로세스를 재구성하도록 강요했다고 확인하며, 속도 조절은 가장 강력한 최전선 시스템을 구축하는 실험실에만 적용되어야 한다고 주장했습니다. 이 소식이 발표된 후 첫 거래일에 엔비디아는 한때 3% 하락했고, 인텔은 5% 이상 하락했으며, AMD는 약 6% 하락했습니다.