BTC $79,142.20 -1.61%
ETH $2,491.01 -1.33%
BNB $739.64 -1.91%
XRP $1.40 -1.99%
SOL $103.85 -2.59%
TRX $0.3341 -0.42%
DOGE $0.0905 -0.30%
ADA $0.2208 -1.11%
BCH $258.60 -0.92%
LINK $12.74 -3.61%
HYPE $85.16 -2.96%
AAVE $132.00 -3.45%
SUI $0.8179 +0.87%
XLM $0.1937 +3.75%
ZEC $1,139.15 -7.13%
BTC $79,142.20 -1.61%
ETH $2,491.01 -1.33%
BNB $739.64 -1.91%
XRP $1.40 -1.99%
SOL $103.85 -2.59%
TRX $0.3341 -0.42%
DOGE $0.0905 -0.30%
ADA $0.2208 -1.11%
BCH $258.60 -0.92%
LINK $12.74 -3.61%
HYPE $85.16 -2.96%
AAVE $132.00 -3.45%
SUI $0.8179 +0.87%
XLM $0.1937 +3.75%
ZEC $1,139.15 -7.13%

open

全部
文章
快讯

first_img OpenAI 首席科学家称 AI 或持续快速上升至递归自我改进

ChainCatcher 消息,OpenAI 首席科学家 Jakub Pachocki 于 2026 年 9 月 6 日发表文章《An Alien Mind》。文章回顾 2023 年中期 RLSlow 研究项目首次出现可规模化训练推理模型的结果,称三年后推理语言模型已成为经济快速增长的一部分,开始推动科学边界,能操作计算机与图形界面、与人及其他 AI 协作并开展研究项目,同时改变计算机安全格局并带来新危险。作者基于内部结果预期当前进展速度可能持续至递归自我改进。若 AI 发展沿当前路径继续,未来几年系统可能出现同等或更大能力跃升,并日益驱动自身发展。作者呼吁极端谨慎,认为无人准备好应对机器智能持续快速上升的后果。OpenAI 将继续寻求对齐与监控的技术解决方案、构建防御系统并在必要时单方面停止进一步规模化,但认为需要更广泛干预。文章称机器智能主要由计算能力增加驱动,AI 更多是生长而非设计。对齐方面区分目标对齐与价值对齐,核心挑战是泛化。GPT-6 Astra 对齐显著优于 GPT-5.6 Sol,但仍需更多进展。监控方面主要押注思维链监控,评估显示依赖能力正逐步减弱。可扩展防御方面,模型在突破计算机系统方面正变得超人,当前处于使用最佳可用模型显著加强关键系统安全的狭窄窗口。

first_img OpenAI 新模型 Astra 可自主发现并利用软件漏洞,获评“严重”网络能力等级

ChainCatcher 消息,OpenAI 表示其即将推出的 Astra 模型能够在无需人工干预的情况下自主发现此前未知的软件漏洞并将其转化为可用的攻击手段,成为该公司首个达到“严重”(Critical)网络安全能力等级门槛的模型。OpenAI 在周二发布的博文中称,根据其 Preparedness Framework,达到该等级意味着模型能够在无需人工介入的情况下,在加固的真实系统中发现零日漏洞并开发出可用的利用代码,或仅凭一个高层级目标即可设计并执行攻击。在测试中,Astra 在基于已知漏洞开发利用代码的基准测试中取得 100% 的成绩,并在另一项内部测试中发现了两个此前未知的漏洞。此外,该模型还成功突破了加固的浏览器沙箱并在宿主机上执行命令,同时通过组合操作系统中的多个弱点获得了 root 权限。OpenAI 表示,已推迟 Astra 的部分开发进度以增加安全防护措施,并计划将其最先进的网络安全能力仅向经过筛选的测试人员开放。这一能力对加密行业尤为相关,因为软件漏洞可在数分钟内被转化为资金损失。CoinDesk 今年 6 月曾报道,日益强大的 AI 模型可将搜索代码、发现错误配置并组装攻击的过程从数天或数周压缩至机器速度。安全研究人员当时指出,更大的变化并非出现全新类别的攻击,而是现有弱点被发现和利用的速度大幅提升。
app_icon
ChainCatcher 与创新者共建Web3世界