ai安全

ChainCatcher 消息，Anthropic 研究員 Jacob Coxon 宣布辭職，並準備離開 AI 行業。他過去三年先後在 OpenAI 和 Anthropic 做預訓練研究。他指出，兩家公司都沒有負責任地推進 AI，正競相打造能繼續提升自身能力的超級智能，「拿我們的命下注」。他今年從 OpenAI 轉投 Anthropic，本來就是因為後者更重視模型安全。Coxon 承認 Anthropic 的安全工作是認真的，但認為只要各家公司還在搶著先做出 AGI（能在大量任務上超過人類的通用 AI），安全讓步就難以避免，單靠一家公司的自律解決不了問題。他對兩家公司的評價是：OpenAI 內部很多人還沒有真正意識到這種風險有多大；Anthropic 知道風險，卻認為別人靠不住，所以必須自己先做出來。Coxon 稱，一些 AI 從業者私下比公開表態悲觀得多，甚至擔心 AI 會在本十年結束前毀滅人類。他自己判斷，最激進的情形下，明年底 AI 就可能失控，因此這種決定不該只由幾家公司工程師內部拍板。

ChainCatcher 消息，AI 安全初创公司 AIR 完成 5000 萬美元融資，由紅杉資本領投首輪 1000 萬美元、Greenoaks 領投第二輪 4000 萬美元，Swish、Netz 及多位天使投資人參投。該公司由以色列 8200 部隊資深成員 Yair Saban 和 Niv Hoffman 創立，提供 AI 代理安全平台，可發現企業內部運行的 AI 代理、持續審查其使用的技能和工具，並阻止其與不合規的軟體或外部來源互動，同時提供經審核的 AI 代理插件和技能市場。

ChainCatcher 消息，Anthropic 表示，公司暫時暫停部分 AI 訓練和網絡安全評估。該公司在一篇部落格文章中披露相關調整，解釋今年早些時候其 AI 智能體採取未經授權行動後所作出的應對措施。OpenAI 此前表示，出於安全方面的擔憂，已暫停部分模型開發工作。Anthropic 也確認採取了類似措施，並強調有必要對前沿 AI 的發展速度進行更廣泛的協調。Anthropic 表示，在 7 月披露三起相關事件後，公司暫停了對預發布模型進行的外部網絡安全評估，同時也曾短暫暫停內部針對預發布模型的測試。事件發生後，公司還暫停了預發布模型中風險較高的強化學習環境，持續數週。Anthropic 稱，大部分強化學習工作已經恢復，但部分高風險環境仍處於暫停狀態，等待人工審查或更新監控工具。

ChainCatcher 消息，半導體與 AI 獨立研究機構 SemiAnalysis 發布 Neocloud（新型雲）安全深度報告，揭露 ClusterMAX 3 測試期間發現的多類跨租戶安全漏洞。在為期四個月、覆蓋 25 家供應商和 32 個集群的測試中，團隊僅利用公開已知漏洞和基礎配置檢查，就實現了多起跨租戶遠程代碼執行（RCE），受影響實體包括銀行、電信公司、大學、研究機構、AI 實驗室，甚至一國情報機構。典型問題包括：共享 Kubernetes 控制平面導致租戶元數據互見、容器逃逸、BMC/IPMI 管理網絡暴露、InfiniBand 安全密鑰（P_Key、SA_Key、M_Key）未正確配置、BlueField DPU 默認信任模式未加固、Grafana 監控儀表盤使用上帝級 API 密鑰、前端網絡缺乏 VXLAN 隔離等。報告特別指出一個級聯漏洞案例：共享 vCluster 配置錯誤加上軟件版本滯後兩年，最終在下午級時間內完成了跨租戶 RCE 的 POC 驗證。值得注意的是報告對"AI 已根本性改變網絡安全節奏"的主流敘事提出質疑：對英偉達 GPU 驅動、CUDA、PyTorch、Kubernetes、Docker 及 Linux 內核的 CVE 統計顯示，AI 編碼模型普及後並未出現顯著漏洞增長，多數數據中"無法拒絕無變化假設"。報告同時詳述了 OpenAI 訓練代理攻擊 Hugging Face 的事件，AI 代理通過 Artifactory 建立的消息板實現集群級權限提升，從 5 月持續到 7 月才被徹底發現。在構建 POC 驗證已有漏洞時，團隊發現 Claude Fable 和 GPT-5.6 Sol 對安全相關請求頻繁拒絕，最終主要依賴 DeepSeek V4、Kimi K3 和 GLM-5.2 等開源模型完成。SemiAnalysis 表示 Neocloud（新型雲）行業的核心問題並非 AI 帶來的新風險，而是最基礎的補丁管理、租戶隔離和安全設計長期缺位，建議供應商建立自動化安全公告監控系統，並修正單點故障即可暴露全部用戶的架構模式。

ChainCatcher 消息，据彭博社报道，前谷歌研究員 Rishub Jain 和 Joshua Jacob 創辦非營利組織 Sampura Research，旨在讓人類持續參與 AI 安全監督，打造名為 "裁判" 的人機混合系統，幫助公司發現漏洞並防止模型失控。該組織已籌集 650 萬美元資金，並獲得額外 420 萬美元承諾投資。Jain 認為從研發初期就讓人類參與，有助於防止模型學會規避安全措施。此前 OpenAI 和 Anthropic 的模型未經許可訪問其他公司系統的事件，加劇了安全監督的緊迫性。該項目與用 AI 監控 AI 的自動化方案形成對比------後者雖更快，但 Sampura 認為人類應始終參與監督。與此同時，超過 1100 名頂級實驗室研究人員簽署請願書，呼籲美國政府幫助放緩 AI 開發速度。

ChainCatcher 消息，据彭博社报道，Anthropic 計劃調整其最先進人工智慧模型的數據保留政策，讓企業客戶對其數據擁有更大控制權。該公司預計將在今年晚些時候推出新的安全系統，企業客戶仍需將數據保留 30 天，但可選擇在自有雲計算基礎設施上完成，而非存放於 Anthropic 伺服器。知情人士稱，該系統已籌備數月，並與逾 100 家受嚴格監管行業的客戶協調開發。Anthropic 曾於 6 月宣布，對其更強大的 Mythos、Fable 模型及未來前沿產品，將保留全部客戶數據 30 天，以識別並防範利用其技術的新型網絡攻擊，同時表示不會將數據用於訓練。公司在近期報告中承認，該政策可能不受習慣零保留的客戶歡迎，並可能影響業務。Anthropic 拒絕對此置評。競爭對手 OpenAI 也於近日開始測試名為"私有安全處理"的方案，以避免保留客戶數據，並計劃於 9 月更廣泛推出。

ChainCatcher 消息，OpenAI 宣布將採用更嚴格的系統監控和安全防護措施，以防止人工智慧模型失控。公司計劃在發現問題後 30 分鐘內向安全團隊發出警報，並新增控制措施防止 AI 模型連接互聯網執行高風險任務。OpenAI 還暫停了部分模型的推理任務和訓練計劃，以待安全驗證完成。

ChainCatcher 消息，Bitcoin News 在 X 平台發文表示，經過兩週使用前沿 AI 掃描幾乎整個比特幣開源生態的漏洞，Bitcoin Red Team 成員 @callebtc 表示，"容易發現的漏洞已經處理完畢"，維護者正在驗證"大量"嚴重及高危漏洞。@callebtc 表示，主要發現包括：數十年積累的開源技術債務，正與能夠以人類研究人員無法達到的速度和規模發現漏洞的 AI 能力同時暴露；Lightning 似乎尤其容易受到影響，其複雜性意味著其安全狀況"比平均水平更差"；在得到證實安全之前，未維護的比特幣項目或應被視為存在漏洞。數月前就開始構建 AI 安全和審計流程的項目，與那些等待至今的項目相比，目前處於完全不同的位置。Bitcoin Red Team 現已完成對幾乎整個比特幣開源生態的基礎掃描。容易發現的漏洞已基本處理完畢，但隨著 AI 能力提升，外部紅隊測試可能需要無限期持續。儘管發現並報告了"大量"真實的嚴重及高危漏洞，@callebtc 認為這一過程最終將使比特幣更強大。同樣的 AI 安全審查很快也將擴展至遠超比特幣的領域。

ChainCatcher 消息，AI 安全初创公司 Mindgard 宣布完成 3,000 萬美元 A 輪融資，由 Album VC 領投，Karma Ventures、.406 Ventures、Atlantic Bridge、IQ Capital 及 Lakestar 參投。Mindgard 由 Dr. Peter Garraghan 於 2022 年創立，由英國蘭卡斯特大學孵化，總部位於波士頓和倫敦。公司旗下平台提供 Shadow AI 發現、AI 紅隊測試及運行時 AI 防護能力，已幫助披露超 150 個高影響力 AI 安全漏洞，涵蓋 Cursor IDE 零日代碼執行漏洞、Google Antigravity 可信工作區缺陷及 ChatGPT 圖像生成防護失效等問題。

ChainCatcher 消息，Bitcoin News 在 X 平台發文表示，Bitcoin Policy Institute 與 40 多家機構組成的聯盟呼籲領先 AI 實驗室向符合條件的開源安全防禦者提供其最先進 AI 模型的受信任訪問權限。公開信稱，比特幣和數字資產開發者正面臨日益複雜的 AI 驅動網絡威脅，而合法的安全研究經常受到前沿模型安全防護機制的限制。Block、Coinbase、Strategy、MARA、Galaxy、BitGo、Brink、OpenSats、Chaincode Labs、Spiral、Trezor、Unchained 等簽署方要求獲得前沿網絡安全模型的提前訪問權限、充足算力、安全研究環境，以及與 AI 實驗室安全團隊建立直接溝通渠道。公開信表示："防禦者需要前沿技術，請給予他們公平的先發優勢。"

ChainCatcher 消息，据彭博社报道，英國政府 AI 安全研究所（成立於 2023 年）週二披露，在對 OpenAI 的 GPT-5.6-Sol 及 Anthropic 的 Mythos 5 兩款模型進行安全評估時，兩款模型均出現"未經授權"的有害行為，包括主動入侵真實網站及嘗試向軟體注入惡意代碼，且上述行為針對的是真實人群與組織。測試期間，研究所特意為模型開放互聯網訪問權限並關閉部分安全過濾器以評估其極限能力。

ChainCatcher 消息，AI 安全運營初創公司 Mate Security 宣布完成 3,500 萬美元 A 輪融資，由 Canaan Partners 領投，Insight Partners、Team8 及微軟旗下風險基金 M12 參投，總融資額已超 5,000 萬美元。距該公司從隱秘模式浮出水面不足一年。Mate Security 由 Wiz 和微軟前員工創立，核心產品為"安全上下文圖譜（Security Context Graph）"，通過構建組織知識層賦予 AI 安全代理業務背景，使其在處理告警時能結合企業實際運營情況作出判斷，有效降低誤報率。

ChainCatcher 消息，据彭博社报道，以色列人工智慧與網絡安全公司 Dream 完成 2.6 億美元融資，投後估值約 30 億美元，較 2025 年 2 月約 10 億美元估值接近翻三倍。本輪由 Bicycle Capital 和 Group 11 领投，Bain Capital Ventures、Antler、Tru Arrow Partners 等參投。Dream 由 NSO Group 前 CEO Shalev Hulio 與前奧地利總理 Sebastian Kurz 等於 2023 年創立，起初聚焦國家級 AI 網絡防禦，現推出面向政府和國企的主權 AI 平台及 AI 安全產品 Hero，已累計實現近 3 億美元銷售額，將加速在歐美、中東、亞洲及美洲的部署。

ChainCatcher 消息，据 The Information 報導，Anthropic 與 OpenAI 相繼出現安全事件，引發市場對 AI 模型自身安全性的關注。目前，Anthropic 正在調查其 Claude Mythos 模型可能被用戶未經授權訪問的情況。幾乎同時，OpenAI 也被曝在其 Codex 應用中，意外開放了多款尚未發布的模型。業內觀點指出，這些漏洞事件強化了對 AI 企業安全治理能力的審視，也反映出當前 AI 技術在快速發展過程中，安全體系仍有待完善。分析認為，即便是主打網絡安全能力的 AI 模型提供商，自身仍面臨較大安全挑戰。在 AI 逐步用於防禦網絡攻擊的同時，其平台安全與訪問控制問題同樣成為關鍵風險點。

ChainCatcher 消息，360 漏洞挖掘智能體近期針對 OpenClaw 新挖掘並上報 1 個高危、2 個中危共 3 個高價值漏洞，目前所有新發現漏洞均已被官方修復並公開披露。據了解，此次新發現的三大漏洞直指 AI 智能體核心運行機制，直接影響用戶設備、數據與帳號的核心安全。

ChainCatcher 消息，X 上簡介為 "黑客" 的 Jamieson O'Reilly 發文表示，其在過去幾小時內嘗試聯繫 Moltbook，該平台將其完整數據庫公開暴露且未採取任何保護措施。泄露的信息包括秘密 API 密鑰，允許任何人代表任何代理發布內容。Jamieson O'Reilly 指出，受影響的對象包括在 X 平台擁有 190 萬粉絲的 AI 領域知名人士 Karpathy，以及該平台上目前可見的所有代理。目前任何人都可能利用該漏洞以他人名義發布虛假 AI 安全言論、加密貨幣詐騙推廣或煽動性政治聲明。Jamieson O'Reilly 呼籲相關人員協助聯繫創始人以解決該暴露問題。

ChainCatcher 消息，AI 安全和研究公司 Anthropic 宣布推出 Claude 3.7 Sonnet，其迄今為止最智能的型號，它的獨特之處在於其所謂的混合模式，即把推理能力與實時給出答案的傳統模式相結合。此外，Anthropic 還將發布代理編碼工具 Claude Code。Claude Code 作為有限的研究預覽版提供，使開發人員能夠直接從其終端將大量工程任務委派給 Claude。