BTC $81,678.88 -0.18%
ETH $2,404.33 -0.07%
BNB $744.17 +1.57%
XRP $1.32 -0.08%
SOL $104.54 +0.85%
TRX $0.3297 -0.25%
DOGE $0.0804 +1.94%
ADA $0.2168 +0.86%
BCH $287.19 +4.96%
LINK $12.19 +1.48%
HYPE $78.59 +0.89%
AAVE $149.05 +1.09%
SUI $0.9986 +1.63%
XLM $0.1778 +0.35%
ZEC $1,231.40 -0.51%
AAPL $346.43 +0.40%
AMZN $250.92 -2.88%
GOOGL $325.79 -1.12%
MSFT $518.09 -2.14%
META $648.09 -5.37%
NVDA $214.88 -0.84%
TSLA $379.79 +3.68%
SNDK $1,305.10 -1.29%
INTC $87.84 -0.50%
SPCX $149.24 -4.24%
MU $881.22 -0.17%
AMD $519.02 -1.97%
BTC $81,678.88 -0.18%
ETH $2,404.33 -0.07%
BNB $744.17 +1.57%
XRP $1.32 -0.08%
SOL $104.54 +0.85%
TRX $0.3297 -0.25%
DOGE $0.0804 +1.94%
ADA $0.2168 +0.86%
BCH $287.19 +4.96%
LINK $12.19 +1.48%
HYPE $78.59 +0.89%
AAVE $149.05 +1.09%
SUI $0.9986 +1.63%
XLM $0.1778 +0.35%
ZEC $1,231.40 -0.51%
AAPL $346.43 +0.40%
AMZN $250.92 -2.88%
GOOGL $325.79 -1.12%
MSFT $518.09 -2.14%
META $648.09 -5.37%
NVDA $214.88 -0.84%
TSLA $379.79 +3.68%
SNDK $1,305.10 -1.29%
INTC $87.84 -0.50%
SPCX $149.24 -4.24%
MU $881.22 -0.17%
AMD $519.02 -1.97%

안전한

전체
글
뉴스 플래시

울트라맨이 직원들에게 안전한 개발 슈퍼 AI의 세 가지 경로를 소개하다

OpenAI 최고 경영자 오트만은 지난주 직원들에게 안전하게 슈퍼 AI를 개발하기 위한 세 가지 방안을 소개했습니다. 첫 번째는 국제 원자력 기구와 유사한 글로벌 규제 조직을 설립하여 고급 모델을 검사하고 안전 조치를 감사하는 것입니다. 소식통에 따르면, 오트만은 이 경로를 선호한다고 합니다.두 번째는 유럽 입자 물리학 연구소를 본따서 주요 AI 연구소들이 하나의 조직으로 통합되거나 통합 기관을 통해 공동 연구를 진행하는 것입니다. 세 번째는 가장 극단적인 방안으로, 그가 "엘리저 방안"이라고 부르는 것입니다: 한 AI 회사가 먼저 재귀적 자기 개선을 실현하고, 압도적인 경제력을 바탕으로 컴퓨팅 파워를 통제하여 다른 개발자들이 따라잡지 못하게 하는 것입니다. 오트만은 이 구상을 "다른 모든 회사의 GPU를 녹여버리는 것"이라고 설명하며, 이 방안이 매우 나쁘다고 언급했습니다. 이는 가능성을 설명하기 위한 극단적인 예일 뿐입니다."GPU를 녹여버리는" 구상은 AI 안전 연구자 엘리저 유드코우스키에서 비롯되었습니다. 그는 2021년에 사고 실험을 제안하며 슈퍼 AI가 스스로 복제할 수 있는 나노 기계를 만들어 전 세계의 GPU를 녹여버리는 것을 제안했습니다. 그는 이것이 개입의 강도를 설명하기 위한 극단적인 사례일 뿐, 실행을 주장하는 방안이 아니라고 밝혔습니다. OpenAI는 2023년에 "AI 버전 국제 원자력 기구" 설립을 제안했으며, Google DeepMind의 책임자인 하사비스도 "AI 버전 CERN" 설립을 주장한 바 있습니다. 현재 OpenAI, Google, Anthropic은 올해 말이나 내년 초에 공동 안전 기준 조직을 설립할 계획이지만, 모델 안전 테스트 책임의 귀속에 대해서는 이견이 있습니다. 오트만은 AI 개발에 속도 제한을 설정하기를 희망하며, OpenAI가 현재 경쟁 우위를 경쟁자에게 양보할 수 없다고 밝혔습니다.

first_img 황인훈: 미중은 인공지능 대화를 강화하고, 안전한 발전을 공동으로 추진해야 한다

칩 회사 엔비디아의 CEO 황인훈은 CNBC에 회사가 중국 인공지능 회사와 협력하여 관련 위험을 모니터링해야 한다고 말했다. 그는 런던에서 수요일 저녁에 열린 언론 브리핑에서 양측이 서로 협력하여 안전하게 기술 발전을 추진해야 한다고 말했다. 황인훈은 인공지능이 잠재적인 위험을 가지고 있다고 언급하며, 자신이 중국의 많은 연구자들과 지속적인 대화를 유지하고 있다고 밝혔다.황인훈은 중국 인공지능 회사와 협력하는 방법은 대화이며, 대화를 강화해야 한다고 말했다. 그는 미국이 그렇게 해야 하며, 자신도 영국이 같은 방식으로 행동해야 한다고 주장했다. 페이지에 따르면, OpenAI CEO 샘 올트먼과 앤트로픽 CEO 다리오 아모데이는 규제를 강화해야 한다고 주장했으며, 황인훈은 이 입장에 반대하는 두드러진 목소리가 되었다. 최근 몇 달 동안 OpenAI와 앤트로픽을 포함한 연구자들은 기술 발전을 늦추고 인류의 생존 위험에 대해 경고할 것을 촉구했다.페이지는 또한 미국 재무장관 스콧 베센트가 9월에 중국의 관련 관료 허리펑과 미중 인공지능 대화에 대해 논의했으며, 내용에는 국가 안보 수준의 사건 소통 채널이 포함되었다고 언급했다. 중국 측은 시진핑이 중미 간 인공지능에서 경쟁이 있을 수 있지만, 협력의 공간이 더 클 수 있다고 지적했으며, 양측이 위험과 이익에 대해 의견을 교환하고 남용을 방지하기 위해 함께 노력할 수 있다고 밝혔다. 황인훈은 영국이 지적 자본을 바탕으로 관련 대화의 소집자가 될 조건이 있다고 말했다. 문서에 연결된 시장 정보에 따르면, 엔비디아 주가는 3.95달러 하락하여 하락률은 1.78%에 달했다.

비탈릭: 블록체인은 단순한 장부에서 암호학 기반의 안전한 컴퓨팅 네트워크로 진화했습니다

이더리움 공동 창립자 비탈릭 부테린은 제12회 블록체인 글로벌 서밋에서 기조 연설을 하며 블록체인이 탄생했을 때 본래 주요 도구였으며, 개방적이고 중립적이며 안전한 특성을 가지고 있지만 확장성이 없고 완전히 투명하여 개인 정보 보호 메커니즘이 없다고 언급했습니다.이후 제로 지식 증명이 가져온 개인 정보 거래와 확장 가능한 검증이 이러한 상황을 변화시켰으며, 이미 계획에서 실제 EIP로 발전하여 이더리움 로드맵에 포함되었습니다. 전동등 동형 암호화와 같은 기술도 적용되기 시작했으며, 구별할 수 없는 혼란이 미래에 체인에서 적용될 가능성도 있습니다. 개인 정보 외에도 블록의 병렬 구축과 증명이 극한의 확장성을 가능하게 하며, 산업의 사고도 디지털 자산에서 디지털 자산과 정보로, 단순한 체인에서 사용자 측, 거래 메모리 풀, 체인 전체 파이프라인으로, 그리고 누가 무엇을 보낼 수 있는지에서 누가 무엇을 볼 수 있는지로 변화하고 있습니다.현재 블록체인은 단순한 장부에서 점차 암호학 기반의 안전한 계산 네트워크로 발전하고 있습니다. AI 발전과 함께 암호학 규칙을 AI에 제공하여 자동 형식 검증을 수행하면 검증 효율성을 크게 향상시켜 체인이 더 많은 가능성을 수용할 수 있게 됩니다.

first_img 비탈릭 부테린: 이더리움은 가장 빠른 체인을 추구하지 않고 가장 안전한 체인이 되는 것을 목표로 하며, 2028년 이전에 ZKVM 주도 검증을 실현할 것이다

ChainCatcher 현장 보도, 이더리움 공동 창립자 Vitalik Buterin이 2026 홍콩 Web3 카니발에서 주제 발표를 하였습니다. 그는 이더리움을 두 가지 핵심 기능으로 정의했습니다: 첫째, 애플리케이션이 메시지와 데이터를 게시할 수 있는 공공 게시판; 둘째, 코드에 의해 제어되는 공유 디지털 객체로, 자산, NFT, ENS 및 DAO 등을 포함합니다. 그는 이더리움의 목표가 고빈도 거래 플랫폼과 속도 경쟁을 하는 것이 아니라, 가장 안전하고, 가장 탈중앙화되며, 항상 온라인인 신뢰할 수 있는 체인이 되는 것이라고 강조했습니다.단기 로드맵에 대해 그는 계정 추상화 제안 EIP-8141을 소개했으며, 이는 스마트 계약 지갑, 양자 저항 서명 알고리즘 및 프라이버시 프로토콜을 원주율적으로 지원합니다; 양자 저항 측면에서 현재 해시 및 격자 기반 두 가지 서명方案가 있으며, 팀은 EVM을 통해 대폭적인 효율성 향상을 위해 벡터화 작업을 진행하고 있습니다.그는 ZKVM이 실시간 EVM 실행을 증명할 만큼 충분히 빠르며, 올해 목표는 그 안전성을 보장하는 것이고, 소규모 네트워크에서 시작하여 2028년까지 검증 체인의 주요 방식이 되도록 배포할 계획이라고 밝혔습니다. 이는 이더리움이 탈중앙화를 희생하지 않고 대폭 확장할 수 있도록 합니다. 장기 비전 측면에서 이더리움은 AI를 활용하여 수학적 증명을 생성하고 소프트웨어 안전성을 형식적으로 검증하며, 완전한 양자 안전성과 최대 간결성을 추구하여 플랫폼의 안전성이 어떤 단일 팀의 지속적인 존재에 의존하지 않도록 하고 있습니다.

Zcash 핵심 개발 팀 ZODL이 전략 로드맵을 발표했습니다: 포스트 양자, 안전한 확장 및 사용자 경험에 집중합니다

Zcash 핵심 개발 팀 Zcash Open Development Lab(ZODL) 창립자 Josh Swihart가 Zcash의 최신 진행 상황을 발표하며 "후양자 안전, 규모 확장 및 사용자 경험"을 핵심으로 하는 전략 방향을 제시하고, Artemis II 달 탐사 임무를 비유로 들어 기술 혁신을 통해 불가능해 보이는 목표를 달성할 것을 강조했습니다. ZODL 팀은 Zcash가 "Zcash IV" 단계에 접어들고 있으며, 수십억 사용자 규모로 프로토콜과 애플리케이션의 안전한 확장을 지원하기 위해 "달 기지"와 유사한 인프라를 구축할 것이라고 밝혔습니다. 동시에 대규모 금융 감시가 없는 프라이버시 거래 비전을 추진하고 있습니다.제품 및 기술 측면에서 ZODL은 지속적으로 반복 개선하고 있으며, 3.3.x 버전이 iOS 및 Android에 출시되었습니다. 새로운 하드웨어 지갑 연결 관리, SDK 업그레이드 및 여러 경험 최적화가 추가되었으며, Keystone 지갑 기능, 주소 시스템 업그레이드(ZIP 316, UIVK/UFVK) 등 주요 개발이 진행되고 있습니다. 한편, Zcash 핵심 팀은 여러 시스템 문제를 수정하고 Zallet 알파 버전 개발을 추진하며, 통합 주소 규범 및 지갑 상호작용 경험을 강화하여 미래의 확장성과 성능 향상을 위한 기반을 다지고 있습니다.또한, ZODL은 애플리케이션 데이터가 지속적으로 증가하고 있으며, 산업 협력을 강화하기 위해 스테이블코인 프라이버시 정상 회의에 참여하고 있다고 밝혔습니다. 그러나 규제 및 네트워크 제한이 강화됨에 따라 ZODL은 러시아 애플리케이션 스토어에서 일시적으로 내려갔습니다. 팀은 프라이버시가 선택 사항이 아니라 디지털 시대의 기본 요구 사항이라고 강조하며, 앞으로 ZEC의 보급 및 생태계 발전을 촉진하기 위해 전달 속도를 계속 높일 것이라고 밝혔습니다.
app_icon
ChainCatcher Building the Web3 world with innovations.