울트라맨

OpenAI 최고 경영자 오트만은 지난주 직원들에게 안전하게 슈퍼 AI를 개발하기 위한 세 가지 방안을 소개했습니다. 첫 번째는 국제 원자력 기구와 유사한 글로벌 규제 조직을 설립하여 고급 모델을 검사하고 안전 조치를 감사하는 것입니다. 소식통에 따르면, 오트만은 이 경로를 선호한다고 합니다.두 번째는 유럽 입자 물리학 연구소를 본따서 주요 AI 연구소들이 하나의 조직으로 통합되거나 통합 기관을 통해 공동 연구를 진행하는 것입니다. 세 번째는 가장 극단적인 방안으로, 그가 "엘리저 방안"이라고 부르는 것입니다: 한 AI 회사가 먼저 재귀적 자기 개선을 실현하고, 압도적인 경제력을 바탕으로 컴퓨팅 파워를 통제하여 다른 개발자들이 따라잡지 못하게 하는 것입니다. 오트만은 이 구상을 "다른 모든 회사의 GPU를 녹여버리는 것"이라고 설명하며, 이 방안이 매우 나쁘다고 언급했습니다. 이는 가능성을 설명하기 위한 극단적인 예일 뿐입니다."GPU를 녹여버리는" 구상은 AI 안전 연구자 엘리저 유드코우스키에서 비롯되었습니다. 그는 2021년에 사고 실험을 제안하며 슈퍼 AI가 스스로 복제할 수 있는 나노 기계를 만들어 전 세계의 GPU를 녹여버리는 것을 제안했습니다. 그는 이것이 개입의 강도를 설명하기 위한 극단적인 사례일 뿐, 실행을 주장하는 방안이 아니라고 밝혔습니다. OpenAI는 2023년에 "AI 버전 국제 원자력 기구" 설립을 제안했으며, Google DeepMind의 책임자인 하사비스도 "AI 버전 CERN" 설립을 주장한 바 있습니다. 현재 OpenAI, Google, Anthropic은 올해 말이나 내년 초에 공동 안전 기준 조직을 설립할 계획이지만, 모델 안전 테스트 책임의 귀속에 대해서는 이견이 있습니다. 오트만은 AI 개발에 속도 제한을 설정하기를 희망하며, OpenAI가 현재 경쟁 우위를 경쟁자에게 양보할 수 없다고 밝혔습니다.

OpenAI 대변인은 OpenAI CEO 샘 올트먼이 다음 주 유엔 총회 기간 동안 뉴욕에서 유엔 안전 보장 이사회 공개 회의에 직접 보고할 것이라고 밝혔습니다. 15개 회원국으로 구성된 안전 보장 이사회는 수요일에 인공지능과 국제 안전에 관한 회의를 개최할 예정입니다. 이 회의는 9월 안전 보장 이사회 의장직을 맡고 있는 프랑스가 소집하며, 프랑스 외무장관 장-노엘 바로가 주재할 것입니다.외교 소식통에 따르면, 앤트로픽 고위 관계자의 참석도 예상되고 있지만 아직 확인되지 않았습니다. 올트먼의 발언은 국제 협력, 안전 기준 공유, 그리고 OpenAI가 전 세계 사람들에게 혜택을 주기 위해 취한 조치에 초점을 맞출 것으로 예상됩니다. 프랑스가 회의를 위해 준비한 개념 설명에서는 인공지능의 악의적 남용 위험과 안전하고 책임 있는 발전을 촉진하기 위한 조치의 긴급성을 언급했습니다. 안전 보장 이사회는 2023년에 인공지능 위험에 관한 회의를 처음으로 개최한 바 있습니다.

OpenAI 최고 경영자 샘 올트먼이 미국 대통령 도널드 트럼프가 중국 지도자 시진핑을 위해 개최하는 국빈 만찬에 참석할 예정입니다. OpenAI는 올트먼이 다음 주 해당 행사에 초대된 명단에 포함되었다고 밝혔습니다.백악관은 올트먼이 이번 국빈 만찬에 참석할 것인지 즉시 확인하지 않았습니다.

엘론 머스크는 "OpenAI가 Cursor를 SpaceX에 인수함에 따라 Cursor와의 협력 관계를 종료할 계획"에 대해 응답했다. 그는 자신이 "전혀 신경 쓰지 않는다"고 말하며 OpenAI CEO 샘 올트먼과 공동 창립자 그렉 브록맨을 신뢰할 수 없다고 비판하며 그들이 "오픈 소스 비영리 조직을 도용했다"고 주장했다.이전에 보도된 바에 따르면, OpenAI는 Cursor와의 협력을 종료할 계획이며 모델 직접 연결 권한은 11월 12일에 종료될 예정이다. Cursor 공동 창립자는 OpenAI 팀과 해결책을 찾기 위해 소통하고 있다고 밝혔다.

상업 인사이드 보도에 따르면, OpenAI CEO 샘 올트먼은 데이비드 센라 팟캐스트에서 AI가 언젠가 소수의 회사, 모델 또는 개인에 의해 통제될까 걱정하고 있으며, 이로 인해 대다수 소비자들이 기술이 세상을 어떻게 형성하는지에 대한 발언권을 잃게 될 것이라고 밝혔습니다. 그는 올바른 방법은 사람들이 미래를 확고히 통제하도록 하는 것이며, 사회와 모델이 함께 진화해야 한다고 말했습니다.올트먼은 또한 AI가 인간의 통제를 벗어날까 걱정하고 있습니다. 그는 후자의 위험에 대한 과도한 두려움이 전자의 상황을 초래할 수 있으며, 긴장으로 인해 많은 자유를 희생하고 안전을 추구하자는 주장이 나올 수 있다고 지적했습니다. 이 기사는 그가 Anthropic CEO 다리오 아모데이를 암시하고 있다고 언급했으며, 후자는 여러 차례 AI 위험을 경고하고 정부 규제를 강화할 것을 촉구했습니다. Anthropic은 공개 가중치 모델 공개 서명에 서명하지 않은 유일한 주류 AI 회사입니다.비록 OpenAI가 최첨단 모델을 오픈 소스화하지 않았지만, 지난해 gpt-oss-120b와 gpt-oss-20b 두 가지 오픈 가중치 모델을 발표했습니다. 올트먼은 또한 미국 AI 리더들이 이 기술이 어떻게 생활 자율성을 향상시키는지를 대중에게 충분히 보여주지 못했다고 언급하며, 규모가 가장 큰 창업 열풍이 다가올 것으로 예상하고 있으며, AI가 더 많은 사람들에게 소규모 기업을 창립할 수 있는 능력을 부여하고 있다고 말했습니다.

ChainCatcher 메시지에 따르면, 금십 보도에 의하면, 관계자는 OpenAI가 CEO 샘 올트먼(Sam Altman)이 회사의 7% 지분을 보유하도록 하고, 영리 기업으로 재편성하는 방안을 논의하고 있다고 전했습니다. 이 중대한 전환은 올트먼이 이 인공지능 스타트업의 소유권을 처음으로 갖는 것을 의미합니다.관계자는 회사가 수익을 내면서 사회에 기여하는 공익 기업으로 전환하는 방안을 고려하고 있다고 밝혔습니다. 관계자는 또한 전환이 여전히 논의 중이며, 일정은 아직 확정되지 않았다고 덧붙였습니다. OpenAI 대변인은 OpenAI가 여전히 "모두에게 이익이 되는 인공지능을 구축하는 데 집중하고 있다"고 말하며, "비영리 조직은 우리의 핵심 사명이며 계속 존재할 것"이라고 덧붙였습니다.

ChainCatcher 메시지에 따르면,界面新闻 보도에 의하면, 5월 22일 새벽, 마이크로소프트 Build 2024 개발자 회의가 미국 시애틀에서 개최되었습니다. 이 회사는 50개 이상의 업데이트를 발표했습니다.그 중 가장 주목할 만한 내용은 다음과 같습니다:Team Copilot, 개인 인공지능 비서가 팀 비서로 변신Microsoft Fabric, 실시간 인공지능을 통한 SaaS 솔루션 제공Azure AI, 새로운 최전선 모델과 다중 모달 기능 제공Cobalt 칩, 자사 개발 AI 칩 업데이트오트먼의 마지막 스포일러 OpenAI 새로운 모델OpenAI CEO 오트먼은 발표회에서 OpenAI의 새로운 모델에 대해 스포일러를 하며, 새로운 모달과 전체적인 인공지능이 OpenAI의 다음 모델의 핵심이 될 것이라고 언급했습니다. 그는 모델이 더 스마트하고, 더 강력하며, 더 안전해질 것이고, GPT-4o는 더 빠르고 비용이 더 낮아질 것이라고 말했습니다. 오트먼은 "지금은 계획을 미루거나 다음 기회를 기다릴 때가 아닙니다. 이는 특별한 순간이며, 앞으로 몇 년 동안 많은 일이 일어날 것이고, 많은 훌륭한 새로운 것들이 시작될 것입니다."라고 밝혔습니다.