BTC $81,678.88 -0.18%
ETH $2,404.33 -0.07%
BNB $744.17 +1.57%
XRP $1.32 -0.08%
SOL $104.54 +0.85%
TRX $0.3297 -0.25%
DOGE $0.0804 +1.94%
ADA $0.2168 +0.86%
BCH $287.19 +4.96%
LINK $12.19 +1.48%
HYPE $78.59 +0.89%
AAVE $149.05 +1.09%
SUI $0.9986 +1.63%
XLM $0.1778 +0.35%
ZEC $1,231.40 -0.51%
AAPL $346.43 +0.40%
AMZN $250.92 -2.88%
GOOGL $325.79 -1.12%
MSFT $518.09 -2.14%
META $648.09 -5.37%
NVDA $214.88 -0.84%
TSLA $379.79 +3.68%
SNDK $1,305.10 -1.29%
INTC $87.84 -0.50%
SPCX $149.24 -4.24%
MU $881.22 -0.17%
AMD $519.02 -1.97%
BTC $81,678.88 -0.18%
ETH $2,404.33 -0.07%
BNB $744.17 +1.57%
XRP $1.32 -0.08%
SOL $104.54 +0.85%
TRX $0.3297 -0.25%
DOGE $0.0804 +1.94%
ADA $0.2168 +0.86%
BCH $287.19 +4.96%
LINK $12.19 +1.48%
HYPE $78.59 +0.89%
AAVE $149.05 +1.09%
SUI $0.9986 +1.63%
XLM $0.1778 +0.35%
ZEC $1,231.40 -0.51%
AAPL $346.43 +0.40%
AMZN $250.92 -2.88%
GOOGL $325.79 -1.12%
MSFT $518.09 -2.14%
META $648.09 -5.37%
NVDA $214.88 -0.84%
TSLA $379.79 +3.68%
SNDK $1,305.10 -1.29%
INTC $87.84 -0.50%
SPCX $149.24 -4.24%
MU $881.22 -0.17%
AMD $519.02 -1.97%

质疑

全部
文章
快讯

Anthropic CEO 发长文回应安全质疑,称须保持技术最前沿

ChainCatcher 消息,Anthropic 最近向美国国会议员提交一份 AI 安全法案草案,遭美国 AI 安全派质疑。草案对政府紧急叫停危险模型设置较高门槛,风险须涉及生物武器、网络攻击或 AI 失控等情形,并可能造成超过 50 人死亡或重伤,或超过 10 亿美元损失;部分条款还可能限制州政府监管权限。AI 安全组织 Encode AI 战略负责人 Nathan Calvin 随后梳理 Anthropic 过去一年的决定。今年 2 月,公司修改原本严格的安全政策:过去承诺若安全措施跟不上模型能力就暂停训练或发布,新政策不再要求公司在更高风险阶段独自停止研发,理由是竞争对手可能趁机超车。同期公司投入巨额算力、组建芯片团队,并让 Claude 承担更多 AI 研发任务。10 月 21 日,Anthropic CEO Dario Amodei 在 X 上发长文反驳。他承认公司犯过一些错误,但坚持争夺最先进 AI 能力并未违背安全使命,并称公司奉行向上竞赛,只有保持在技术最前沿,才有能力推动行业提高安全标准。他列举九项曾让公司付出商业代价的安全决定,包括将 Mythos 级模型限制开放数月,以及严格限制生物学相关请求。公司 10 月 19 日更新的安全路线图称,现有政策主要针对危险模型部署,未来可能需要直接限制研发速度,并计划在 2027 年 1 月 15 日前提出相关政策方案,或解释为何没有提出。
app_icon
ChainCatcher 与创新者共建Web3世界