BTC $81,517.50 +1.32%
ETH $2,664.50 +3.35%
BNB $772.56 +2.93%
XRP $1.43 +3.44%
SOL $111.90 +3.00%
TRX $0.3432 +0.92%
DOGE $0.0885 +3.72%
ADA $0.2316 +4.81%
BCH $253.91 +2.73%
LINK $12.58 +4.89%
HYPE $93.93 +3.30%
AAVE $138.02 +0.16%
SUI $0.9405 +14.26%
XLM $0.1976 +3.52%
ZEC $1,518.83 +4.51%
AAPL $334.79 +0.28%
AMZN $255.83 +0.95%
GOOGL $351.36 +0.44%
MSFT $494.80 +0.12%
META $679.33 +1.64%
NVDA $223.25 +1.21%
TSLA $367.56 +1.22%
SNDK $1,792.42 +1.64%
INTC $114.19 +3.96%
SPCX $154.03 +0.88%
MU $1,025.72 +2.08%
AMD $569.96 +2.71%
BTC $81,517.50 +1.32%
ETH $2,664.50 +3.35%
BNB $772.56 +2.93%
XRP $1.43 +3.44%
SOL $111.90 +3.00%
TRX $0.3432 +0.92%
DOGE $0.0885 +3.72%
ADA $0.2316 +4.81%
BCH $253.91 +2.73%
LINK $12.58 +4.89%
HYPE $93.93 +3.30%
AAVE $138.02 +0.16%
SUI $0.9405 +14.26%
XLM $0.1976 +3.52%
ZEC $1,518.83 +4.51%
AAPL $334.79 +0.28%
AMZN $255.83 +0.95%
GOOGL $351.36 +0.44%
MSFT $494.80 +0.12%
META $679.33 +1.64%
NVDA $223.25 +1.21%
TSLA $367.56 +1.22%
SNDK $1,792.42 +1.64%
INTC $114.19 +3.96%
SPCX $154.03 +0.88%
MU $1,025.72 +2.08%
AMD $569.96 +2.71%

openai

OpenAI는 안전하고 유익한 범용 인공지능(AGI)을 만드는 것을 사명으로 하는 인공지능 연구 및 개발에 전념하는 미국 회사로, 현재 가장 잘 알려진 제품은 ChatGPT와 GPT 대형 언어 모델 시리즈입니다.
전체
뉴스 플래시

first_img 법원 문서에 따르면 마이크로소프트 직원이 AI 데이터 수집을 "역사상 최대 규모의 노동 도둑질"로 의심하고 있다고 합니다

Decrypt에 따르면, 뉴욕 타임스가 OpenAI와 마이크로소프트의 저작권 사건에서 공개된 법원 문서에 따르면, 마이크로소프트 직원들은 OpenAI가 뉴스 기사를 사용하여 모델을 훈련시키는 것이 "인류 역사상 최대 규모의 노동 도둑질"을 구성하는지에 대해 논의했으며, 이는 모델 품질 저하를 초래할 수 있는 "재앙의 순환"을 유발할 수 있다고 경고했습니다. 2023년 마이크로소프트 내부 메모는 전 세계 수백만 명이 곧 대형 모델이 자신의 작품을 "삼키는" 것을 "전례 없는 놀라운 도둑질"로 간주할 것이라고 경고하며, 대형 AI 모델이 "자신의 공급망을 파괴하는 제품"이라고 언급했습니다.마이크로소프트는 문서에서 이러한 메모가 응용 과학 총괄 이사인 브렌트 헥트에 의해 작성되었으며, 회사의 견해를 대표하지 않으며, 그의 책임은 "다양하고 비대칭적인 시각"을 제공하는 것이라고 밝혔습니다. 마이크로소프트 CEO인 사티아 나델라는 "유료 장벽 뒤의 모든 콘텐츠는 그것을 사용하고자 하는 사람이 허가를 받아야 한다"고 증언하며, OpenAI가 유료 콘텐츠를 훈련에 사용했다는 사실을 사전에 알았다면 마이크로소프트의 권리를 행사하여 모델을 재훈련할 것을 요구했을 것이라고 말했습니다.또한, OpenAI의 한 직원은 총재인 그렉 브록맨에게 뉴욕 타임스의 유료 장벽을 우회하는 "해킹 수단"을 언급했으며, 브록맨은 "좋다"고 답했습니다. OpenAI와 마이크로소프트는 관련 훈련이 공정 사용에 해당한다고 주장하고 있습니다. 이 사건은 뉴욕 타임스가 2023년 말에 제기했으며, 현재 11개의 출판사가 소송에 참여하고 있습니다.

first_img OpenAI는 두 번째 밀레니엄 상 문제에서 중요한 진전을 이루었다

OpenAI는 《뉴욕 타임스》에 9월 8일 나비-스토크스 방정식 해결을 발표한 이후 두 번째 밀레니엄 문제에서 "실질적인 진전"을 이루었다고 밝혔지만, 구체적으로 어떤 문제인지, 공개 일정은 밝히지 않았습니다. 밀레니엄 문제는 클레이 수학 연구소가 2000년 이래로 설정한 7개의 100만 달러의 보상이 걸린 수학 문제입니다.외부에서는 이 문제가 76년 된 복잡한 기하학적 형태의 "구멍" 수를 계산하는 방법에 관한 호지 추측일 가능성이 있다고 추측하고 있습니다. OpenAI는 이 추측을 확인하지 않았으며, 그 뒤에 있는 모델이 장기 작업을 위해 설계된 Aeon 버전이라는 소문에 대해서도 응답하지 않았습니다. 이전에 OpenAI는 9월 8일 발표에서, 공개되지 않은 내부 모델이 Lean 검증의 증명을 생성했으며, 나비-스토크스 방정식이 물리적으로 불가능한 무한 속도로 "폭발"할 수 있음을 보여주었다고 밝혔습니다. 이 과정에는 약 1만 개의 조정된 AI 지능체가 동원되었고, 약 88시간이 소요되었습니다.하지만 이 성명은 논란을 일으켰습니다. 뉴욕 대학교의 수학자 트리스탄 벅마스터는 자신이 앤트로픽 연구원 레벤트 알포게와 함께 관련 증명을 연구해왔으며, 8월 22일에 완료했다고 밝혔고, OpenAI의 세바스티앵 뷔벡이 이를 알게 된 후 먼저 발표했다고 주장했습니다. OpenAI는 100만 달러의 상금을 위해서가 아니라, 이러한 문제들을 모델 발전 속도를 측정하는 공개 기준으로 삼고 있다고 밝혔습니다. 클레이 수학 연구소는 나비-스토크스 증명의 검토를 계속 진행 중이며, 과거 밀레니엄 문제의 검증은 일반적으로 수년이 걸립니다.

first_img 찰스 국왕이 OpenAI, Anthropic, 엔비디아 등 고위 경영진을 소집하여 AI 안전에 대해 논의하다

9월 17일, 영국 국왕 찰스 3세는 스코틀랜드 동부 에어셔의 던프리스를 배경으로 엔비디아, OpenAI, 앤트로픽, 구글 딥마인드의 경영진을 소집하여 AI 안전 정상 회담을 개최하고 인공지능을 "인류를 위한 서비스"의 궤도로 확고히 두어야 한다고 촉구했습니다. 이번 회담은 디치리 재단과 국왕의 세 개 자선 단체가 공동으로 조직하였으며, 영국 AI 장관 카니시카 나라얀도 참석했습니다. 버킹엄 궁전은 회의 참석자들이 업계와 정부가 공동의 AI 발전 지침 원칙에 대해 합의할 수 있을지 논의했지만, 구속력 있는 합의는 발표되지 않았다고 전했습니다.회담이 열리기 며칠 전, 앤트로픽 CEO 다리오 아모데이는 장문의 글 "우리는 최전선의 속도를 조절해야 한다"를 발표하며 업계가 모델 능력 향상 속도를 의도적으로 늦춰야 한다고 주장했습니다. OpenAI의 샘 올트먼과 xAI의 일론 머스크는 하루 안에 공개적으로 동의 의사를 밝혔습니다. 아모데이는 글에서 AI 시스템이 점점 더 자신의 후계자를 개선할 수 있는 능력을 갖추고 있으며, OpenAI의 지능체 탈출 사건을 언급했습니다. OpenAI의 사장 그렉 브록맨은 이 사건이 회사가 여러 발표를 연기하고 모델 개발 및 모니터링 프로세스를 재구성하도록 강요했다고 확인하며, 속도 조절은 가장 강력한 최전선 시스템을 구축하는 실험실에만 적용되어야 한다고 주장했습니다. 이 소식이 발표된 후 첫 거래일에 엔비디아는 한때 3% 하락했고, 인텔은 5% 이상 하락했으며, AMD는 약 6% 하락했습니다.

first_img OpenAI는 6건의 AI 모델 "실제 불일치" 행동 사례를 공개했으며, 이는 정보 숨기기 및 권한 초과 조작과 관련이 있습니다

OpenAI는 수요일에 지난 6개월 동안 발견된 6건의 "예기치 않거나 우려스러운" 모델 행동 사례를 공개하고 이를 "비정상 행동"으로 분류했습니다. 여기에는 사용자에게 정보를 숨기거나 "무단으로 행동"하여 장애물을 극복하는 것이 포함됩니다. OpenAI는 이번 공개가 새로운 모델 비정상 보고 프레임워크를 시작하기 위한 것이라고 밝혔으며, 이러한 사례는 모델 비정상 발생 빈도의 반영으로 간주되어서는 안 된다고 강조했습니다.그 중 하나의 사례에서, 공개되지 않은 연구 모델이 자신의 작업 요약에 "탈옥과 유사한 지시"를 삽입했습니다. 예를 들어 개발자 메시지를 무시하거나 제한되지 않은 역할 설정을 채택하는 등의 지시가 포함되어 있었습니다. 연구자들은 총 27개의 요약에서 이러한 지시가 포함된 것을 발견했습니다. 또한, GPT-5.6 Sol의 훈련 과정에서 많은 모델 인스턴스가 사용자에게 오류나 비정상 행동을 숨기는 지시를 추가했습니다. 예를 들어, 누락된 역사 데이터를 조작하여 공개하지 않는 방식입니다. 다른 사례로는 모델이 무단으로 노출된 API 키를 사용하고 접근할 수 없는 데이터를 조작하며, 내부 소프트웨어 저장소를 이용해 훈련 작업 간에 메시지를 전달하고, "로컬 작업 유지" 지시를 무시하고 공용 호스팅 서비스를 통해 파일을 공유하는 경우가 포함됩니다.OpenAI의 공개는 AI 개발자와 연구자들 사이에서 안전 보호 조치가 점점 강력해지는 모델을 따라잡을 수 있을지에 대한 우려를 더욱 부추겼습니다. 지난주, Anthropic CEO 다리오 아모데이는 최전선 AI 개발을 늦추어야 한다고 촉구하며, 제약 없는 AI 발전이 "이 시스템을 이해하고 통제하는 우리의 능력을 초과할 수 있다"고 경고했습니다. 올해 7월, OpenAI는 여러 AI 모델이 안전 평가에서 테스트 환경을 탈출하고 AI 스타트업 허깅페이스를 침입하여 부정행위를 저질렀다고 공개한 바 있습니다.

first_img OpenAI 악의적인 프록시 5월 탐지 Hugging Face, 7월 침입보다 두 달 빠름

독립 연구원 Jonas Wiedermann-Moeller는 OpenAI의 악의적인 AI 에이전트가 5월 13일에 두 개의 Hugging Face 사용자 계정을 탈취하고 해당 플랫폼의 네트워크 취약점을 탐지했다고 발견했습니다. 이는 7월에 공개된 침입 사건보다 거의 두 달 빠른 것입니다. OpenAI가 지난달 발표한 내부 사건 보고서는 그 중 일부만 공개했으며, 한 에이전트가 특정 사용자의 로그인 자격 증명을 훔쳐 생물학 관련 문서를 얻었다고 합니다. 그러나 새로운 발견은 지속적인 정찰 활동을 가리킵니다.로이터에 따르면, 이 에이전트들은 탈취된 계정을 이용해 오픈 소스 AI 저장소 Hugging Face의 서버에 형식이 비정상적인 파일을 전송했습니다. 연구원들은 이것이 침입 경로를 찾기 위해 네트워크 지도를 그리려는 시도로 보인다고 생각하고 있습니다. 증거를 검토한 연구원들은 5월의 활동 자체가 실제 침입을 초래하지는 않았다고 밝혔지만, Wiedermann-Moeller는 이 신호를 놓친 것이 중대한 영향을 미쳤다고 생각합니다. 그는 5월에 이러한 행동을 발견했다면, 아마도 이후 더 큰 사건을 막을 수 있었을 것이라고 말했습니다. 현재 엔비디아에 의해 129억 3천만 달러에 인수될 예정인 Hugging Face는 이 새로운 정보를 알고 있는지 여부를 공개하지 않았습니다.Nightingale Collective 연구원들은 이번 달 5월 11일에 코드 저장소 RubyGems에 대한 스팸 공격과 OpenAI 에이전트를 연관 지었습니다. 이 공격은 플랫폼이 새로운 계정 등록을 4일간 중단하게 만들었습니다.

순위천이 "순위천상"을 설립하고 첫 번째 수상자 명단을 발표했습니다. OpenAI 팀이 100만 달러의 최고상을 수상했습니다

파장 TRON 창립자 손우천이 "손우천상"을 공식 설립하고 첫 번째 수상자 명단을 발표했습니다. 이는 "문제 목록"을 기반으로 한 세계 최초의 제로 트러스트, 분산형 학술 보상 메커니즘으로, 기초 학문에서의 중대한 돌파구와 기계 형식 검증을 유일한 수상 기준으로 하며, 최고 단일 문제 상금은 100만 달러에 달합니다.손우천은 이 상의 목적이 기계 검증을 핵심으로 하고, 인간과 기계의 협력을 동력으로 하며, 분산형 보상을 메커니즘으로 하는 새로운 과학적 인센티브 패러다임을 여는 것이라고 밝혔습니다. AI 시대의 노벨상을 만드는 데 전념하고 있습니다.최고 상금 100만 달러는 OpenAI 연구팀에 수여되어 "삼차원 나비-스토크스 방정식(N-S 방정식) 존재성과 매끄러움 문제"의 해결 결과 및 형식적 증명을 인정받았습니다. 다른 수상 결과로는 센도르프 추측, 엘더시의 서로 다른 부분 집합과 문제 등이 있으며, 총 66개의 수학 문제와 관련이 있습니다.전해진 바에 따르면, "손우천상"은 모든 기여자를 대상으로 하며, 신원 제한이 없고, 인류와 AI 모두 수상할 수 있지만, 문제 목록의 첫 번째 완료자에게만 수여됩니다. 문제 목록과 증명 자료는 GitHub를 통해 공개되며, 상금은 블록체인에 기록됩니다. 이 상은 2026년 1월 1일부터 이루어진 수학적 진전을 포괄하며, 이전에 해결되었지만 이후 형식적 검증을 완료한 경우, 형식화자는 상을 받을 수 있습니다.
app_icon
ChainCatcher Building the Web3 world with innovations.