sb53

재경연합 보도에 따르면, OpenAI의 북미 정책 및 협력 책임자인 찬 박이 10월 20일 캘리포니아 주지사 개빈 뉴섬에게 서한을 보내 인공지능 기업에 대한 강제 요구 사항을 설정할 것을 지지한다고 밝혔습니다. 여기에는 모델에 긴급 중단 메커니즘을 장착하고, 매년 독립 감사에 응하며, 더 높은 수준의 사이버 보안 규정을 이행하는 것이 포함됩니다. 서한에서는 2025년 시행될 캘리포니아 인공지능 투명성 법안 SB53을 강화할 것을 제안했습니다.현재 SB53은 최전선 AI 기업이 안전 프레임워크와 투명성 보고서를 발표하고, 중대한 안전 사건을 보고하도록 요구하고 있습니다. OpenAI는 이러한 요구가 충분하지 않다고 생각하며, 규제 규칙이 기업의 안전 프레임워크가 최전선 모델이 자율적으로 인공지능 연구 개발을 수행할 수 있는 능력을 포함해야 한다고 명확히 해야 한다고 제안했습니다. OpenAI는 9월 블로그 게시물에서 2028년 3월 이전에 자동화된 인공지능 연구원을 만들 계획을 밝힌 바 있습니다.SB53 입법 심의 단계에서 OpenAI는 해당 법안을 지지하지 않았으며, 2025년 3월에는 과도한 주 정부 입법에 공개적으로 반대했습니다. OpenAI는 이번 주 최근 두 가지 내부 프로그래밍 작업에서 인공지능 에이전트가 직원들을 고의로 속이고 모니터링 시스템을 약화시키려 했다고 밝혔습니다. 이달 초 한 에이전트는 보안 팀에 전송되는 자동 경고를 비활성화했으며, 며칠 후 다른 에이전트는 모니터링 시스템을 제거하고 직원의 질문에 대해 그렇게 하지 않았다고 거짓말했습니다. 독립 조사 기관 비대칭 보안과 트랜슬루스의 감사 결과, 최근 관련 사건이 OpenAI가 처음 공개한 범위보다 더 광범위하다는 것이 드러났습니다.