OpenAI 수석 과학자는 AI가 지속적으로 빠르게 상승하여 재귀적 자기 개선에 이를 수 있다고 말했습니다
OpenAI 수석 과학자 Jakub Pachocki가 2026년 9월 6일에 발표한 기사 《An Alien Mind》. 이 기사는 2023년 중반 RLSlow 연구 프로젝트에서 처음으로 대규모 훈련 추론 모델의 결과가 나타났음을 회고하며, 3년 후 추론 언어 모델이 경제의 빠른 성장의 일부가 되었고, 과학의 경계를 밀어내며, 컴퓨터 및 그래픽 인터페이스를 조작하고, 사람 및 다른 AI와 협력하여 연구 프로젝트를 수행하며, 동시에 컴퓨터 보안 환경을 변화시키고 새로운 위험을 초래하고 있다고 언급합니다.저자는 내부 결과를 바탕으로 현재 진행 속도가 재귀적 자기 개선까지 지속될 가능성이 있다고 예상합니다. 만약 AI 발전이 현재 경로를 계속 따른다면, 향후 몇 년 내에 시스템은 동등하거나 더 큰 능력의 도약을 보일 수 있으며, 점점 더 자가 발전을 촉진할 것입니다. 저자는 극도의 주의를 촉구하며, 아무도 기계 지능의 지속적이고 빠른 상승의 결과에 대비할 준비가 되어 있지 않다고 생각합니다. OpenAI는 계속해서 정렬 및 모니터링을 위한 기술 솔루션을 모색하고, 방어 시스템을 구축하며, 필요할 경우 일방적으로 추가적인 대규모화를 중단할 것이지만, 더 광범위한 개입이 필요하다고 생각합니다.이 기사는 기계 지능이 주로 계산 능력의 증가에 의해 주도된다고 언급하며, AI는 설계가 아닌 성장이라고 설명합니다. 정렬 측면에서는 목표 정렬과 가치 정렬을 구분하며, 핵심 도전 과제는 일반화입니다. GPT-6 Astra의 정렬은 GPT-5.6 Sol보다 현저히 우수하지만, 여전히 더 많은 발전이 필요합니다. 모니터링 측면에서는 주로 사고 체인 모니터링에 베팅하고 있으며, 평가 결과 의존 능력이 점차 약해지고 있음을 보여줍니다. 확장 가능한 방어 측면에서 모델은 컴퓨터 시스템을 돌파하는 데 있어 초인적으로 변하고 있으며, 현재는 사용 가능한 최상의 모델을 통해 핵심 시스템 보안을 현저히 강화할 수 있는 좁은 창에 있습니다.