BTC $78,366.50 +1.28%
ETH $2,317.86 +1.49%
BNB $699.76 +0.06%
XRP $1.28 -0.40%
SOL $92.81 -0.29%
TRX $0.3187 -0.95%
DOGE $0.0748 -0.52%
ADA $0.1899 -0.47%
BCH $273.66 -0.81%
LINK $11.14 -0.74%
HYPE $84.81 -0.19%
AAVE $130.27 +1.02%
SUI $0.9017 +1.38%
XLM $0.1631 -1.63%
ZEC $1,287.26 +7.30%
AAPL $338.12 +4.03%
AMZN $260.17 +4.19%
GOOGL $282.49 +0.81%
MSFT $533.50 +5.41%
META $624.71 +2.23%
NVDA $204.49 -1.65%
TSLA $381.57 -6.66%
SNDK $1,094.81 -3.72%
INTC $59.24 -5.58%
SPCX $132.74 -3.74%
MU $838.38 -4.06%
AMD $487.34 -0.23%
BTC $78,366.50 +1.28%
ETH $2,317.86 +1.49%
BNB $699.76 +0.06%
XRP $1.28 -0.40%
SOL $92.81 -0.29%
TRX $0.3187 -0.95%
DOGE $0.0748 -0.52%
ADA $0.1899 -0.47%
BCH $273.66 -0.81%
LINK $11.14 -0.74%
HYPE $84.81 -0.19%
AAVE $130.27 +1.02%
SUI $0.9017 +1.38%
XLM $0.1631 -1.63%
ZEC $1,287.26 +7.30%
AAPL $338.12 +4.03%
AMZN $260.17 +4.19%
GOOGL $282.49 +0.81%
MSFT $533.50 +5.41%
META $624.71 +2.23%
NVDA $204.49 -1.65%
TSLA $381.57 -6.66%
SNDK $1,094.81 -3.72%
INTC $59.24 -5.58%
SPCX $132.74 -3.74%
MU $838.38 -4.06%
AMD $487.34 -0.23%

員工

全部
文章
快訊

奧特曼向員工介紹安全開發超級 AI 三條路徑

ChainCatcher 消息,OpenAI 首席執行官奧特曼上週向員工介紹了三種安全開發超級 AI 的方案。第一種是建立類似國際原子能機構的全球監管組織,檢查先進模型並審計安全措施。知情人士稱,奧特曼傾向於這條路線。第二種效仿歐洲核子研究中心,讓各大 AI 實驗室合併到一個組織,或通過統一機構共同研發,而不是繼續各自競速。第三種最極端,被他稱為「Eliezer 方案」:一家 AI 公司率先實現遞歸自我改進,再憑藉壓倒性經濟實力控制算力,使其他開發者無法追趕。奧特曼用「熔毀其他所有公司的 GPU」描述這一設想,同時表示該方案非常糟糕,只是為了把可能性講全。「熔毀 GPU」的設想來自 AI 安全研究者 Eliezer Yudkowsky。他在 2021 年提出思想實驗,讓超級 AI 製造能夠自我複製的納米機器以熔毀全球 GPU,並表示這只是說明干預力度的極端例子,並非主張執行的方案。OpenAI 在 2023 年提出過建立「AI 版國際原子能機構」,Google DeepMind 負責人 Hassabis 也曾主張設立「AI 版 CERN」。目前 OpenAI、Google 和 Anthropic 計劃在今年底或明年初成立聯合安全標準組織,但在模型安全測試責任歸屬上存在分歧。奧特曼希望為 AI 研發設定速度限制,同時表示 OpenAI 眼下不能把競爭優勢讓給對手。

first_img Anthropic 向 METR 開放類員工訪問,推進獨立安全評估

ChainCatcher 消息,10 月 15 日,Anthropic 宣布已開始向非營利組織 METR 的一個團隊提供類員工訪問權限,用於評估其模型與安全實踐。公司稱,上個月已承諾加強獨立第三方評估,並簽署白宮《超級智能協議》,其中包含與獨立外部審計方或評估方合作的承諾。過去一年,Anthropic 已與 METR 合作審查若干份風險報告,METR 將公布其風險評估結果。Anthropic 已為 6 名 METR 員工配備公司硬體、辦公空間,以及與自身風險評估團隊大致相當的內部工具和系統訪問權限。除客戶數據、律師與客戶特權信息、模型架構信息等少數明確類別外,員工被鼓勵像對待從事對齊風險工作的同事一樣分享信息。METR 可發表對風險水平、事件或做法的分析,Anthropic 不能否決發表,但可要求刪除預先界定的狹窄類別信息;METR 可公開說明刪節情況,並在不洩露被刪內容的前提下說明其是否認為刪節合理。該安排僅限於在可執行協議下工作的小團隊,其他 METR 員工與該團隊工作隔離。Anthropic 同時與 SecureBio、Accenture 合作開展評估,並與包括 Hugging Face 在內的其他組織進行早期討論。SecureBio 正在審查 2026 年 8 月風險報告中的化學與生物武器章節,此前已完成並發表對上一份風險報告的試點審查。
app_icon
ChainCatcher 與創新者共建Web3世界