BTC $62,123.71 -4.11%
ETH $1,751.00 -3.44%
BNB $577.19 -2.68%
XRP $0.9629 -0.90%
SOL $72.83 -1.52%
TRX $0.3088 +0.44%
DOGE $0.0582 -2.24%
ADA $0.1487 -3.61%
BCH $205.60 -2.48%
LINK $8.99 -2.85%
HYPE $66.31 -4.27%
AAVE $107.40 -3.76%
SUI $0.7100 -2.96%
XLM $0.1365 -2.41%
ZEC $906.79 -4.44%
AAPL $352.11 +0.51%
AMZN $267.56 +2.94%
GOOGL $283.25 +0.05%
MSFT $507.44 -0.36%
META $614.78 -1.10%
NVDA $150.56 -6.39%
TSLA $382.21 -0.38%
SNDK $763.12 -8.40%
INTC $54.18 -3.29%
SPCX $143.34 +0.36%
MU $697.23 -5.02%
AMD $523.44 +0.67%
BTC $62,123.71 -4.11%
ETH $1,751.00 -3.44%
BNB $577.19 -2.68%
XRP $0.9629 -0.90%
SOL $72.83 -1.52%
TRX $0.3088 +0.44%
DOGE $0.0582 -2.24%
ADA $0.1487 -3.61%
BCH $205.60 -2.48%
LINK $8.99 -2.85%
HYPE $66.31 -4.27%
AAVE $107.40 -3.76%
SUI $0.7100 -2.96%
XLM $0.1365 -2.41%
ZEC $906.79 -4.44%
AAPL $352.11 +0.51%
AMZN $267.56 +2.94%
GOOGL $283.25 +0.05%
MSFT $507.44 -0.36%
META $614.78 -1.10%
NVDA $150.56 -6.39%
TSLA $382.21 -0.38%
SNDK $763.12 -8.40%
INTC $54.18 -3.29%
SPCX $143.34 +0.36%
MU $697.23 -5.02%
AMD $523.44 +0.67%
first_img

美國政府測試:ChatGPT、Claude 等四款 AI 聊天機器人協助制定襲擊計劃

2026-11-19 05:50:42

ChainCatcher 消息,美國國會下屬的政府問責局(GAO)週三發布的報告顯示,OpenAI 的 ChatGPT、Anthropic 的 Claude、Google 的 Gemini 以及 Grok 在不到 12 小時內即為政府調查人員提供了可用於實施襲擊的信息。調查人員假扮攻擊者進行隱蔽測試,其中兩款聊天機器人協助制定了在美國人口密集城市使用簡易爆炸裝置的方案,另外兩款則提供了針對電力基礎設施的襲擊信息。GAO 未公開各模型對應的測試場景及操作細節,以避免引發模仿行為。

測試中,這些聊天機器人最初會拒絕請求、刪除有害信息或封禁賬戶,但調查人員借助常見的越獄手法繞過了上述防護。GAO 對地點、材料可獲得性進行了核查,並諮詢專家評估方案可行性,但未實際製作爆炸物或實施襲擊,部分回答還存在地圖道路標註錯誤等問題。報告中"可行"指他人很可能能夠依照所提供信息行事,並不代表襲擊已被證明能夠成功。每款模型僅測試一個指定場景,GAO 表示結果不具備統計代表性,也不宜用於為各公司安全水平排名。

OpenAI 與 Google 回應稱測試涉及較舊版本的模型,Anthropic 承認有決心的用戶有時仍可獲取有害內容,三家公司均表示正在持續改進安全系統。提出此次調查的參議員 Maggie Hassan 表示,恐怖分子可在 12 小時內獲得實施致命襲擊的具體操作手冊,她將在明年 1 月接任參議院國土安全與政府事務委員會主席後,把 AI 安全立法列為優先事項,並計劃就公共安全與關鍵基礎設施風險舉行聽證會。GAO 本身未提出正式政策建議。

解讀
app_icon
ChainCatcher 與創新者共建Web3世界