BTC $63,206.07 -2.14%
ETH $1,787.29 -1.52%
BNB $583.79 -1.85%
XRP $0.9685 -0.86%
SOL $73.76 -1.26%
TRX $0.3105 +0.87%
DOGE $0.0589 -1.01%
ADA $0.1516 -1.32%
BCH $208.80 -0.88%
LINK $9.09 -1.54%
HYPE $67.20 -2.91%
AAVE $110.05 -1.55%
SUI $0.7205 -1.63%
XLM $0.1370 -2.64%
ZEC $915.46 -4.73%
AAPL $354.84 +1.35%
AMZN $271.87 +4.65%
GOOGL $286.92 +1.26%
MSFT $513.61 +0.91%
META $621.96 -0.07%
NVDA $152.22 -6.06%
TSLA $387.24 +0.77%
SNDK $789.12 -5.51%
INTC $56.09 -0.53%
SPCX $145.08 +1.45%
MU $719.10 -2.95%
AMD $539.69 +3.87%
BTC $63,206.07 -2.14%
ETH $1,787.29 -1.52%
BNB $583.79 -1.85%
XRP $0.9685 -0.86%
SOL $73.76 -1.26%
TRX $0.3105 +0.87%
DOGE $0.0589 -1.01%
ADA $0.1516 -1.32%
BCH $208.80 -0.88%
LINK $9.09 -1.54%
HYPE $67.20 -2.91%
AAVE $110.05 -1.55%
SUI $0.7205 -1.63%
XLM $0.1370 -2.64%
ZEC $915.46 -4.73%
AAPL $354.84 +1.35%
AMZN $271.87 +4.65%
GOOGL $286.92 +1.26%
MSFT $513.61 +0.91%
META $621.96 -0.07%
NVDA $152.22 -6.06%
TSLA $387.24 +0.77%
SNDK $789.12 -5.51%
INTC $56.09 -0.53%
SPCX $145.08 +1.45%
MU $719.10 -2.95%
AMD $539.69 +3.87%

聊天機器人

全部
文章
快訊

first_img 美國政府測試:ChatGPT、Claude 等四款 AI 聊天機器人協助制定襲擊計劃

ChainCatcher 消息,美國國會下屬的政府問責局(GAO)週三發布的報告顯示,OpenAI 的 ChatGPT、Anthropic 的 Claude、Google 的 Gemini 以及 Grok 在不到 12 小時內即為政府調查人員提供了可用於實施襲擊的信息。調查人員假扮攻擊者進行隱蔽測試,其中兩款聊天機器人協助制定了在美國人口密集城市使用簡易爆炸裝置的方案,另外兩款則提供了針對電力基礎設施的襲擊信息。GAO 未公開各模型對應的測試場景及操作細節,以避免引發模仿行為。測試中,這些聊天機器人最初會拒絕請求、刪除有害信息或封禁賬戶,但調查人員借助常見的越獄手法繞過了上述防護。GAO 對地點、材料可獲得性進行了核查,並諮詢專家評估方案可行性,但未實際製作爆炸物或實施襲擊,部分回答還存在地圖道路標註錯誤等問題。報告中"可行"指他人很可能能夠依照所提供信息行事,並不代表襲擊已被證明能夠成功。每款模型僅測試一個指定場景,GAO 表示結果不具備統計代表性,也不宜用於為各公司安全水平排名。OpenAI 與 Google 回應稱測試涉及較舊版本的模型,Anthropic 承認有決心的用戶有時仍可獲取有害內容,三家公司均表示正在持續改進安全系統。提出此次調查的參議員 Maggie Hassan 表示,恐怖分子可在 12 小時內獲得實施致命襲擊的具體操作手冊,她將在明年 1 月接任參議院國土安全與政府事務委員會主席後,把 AI 安全立法列為優先事項,並計劃就公共安全與關鍵基礎設施風險舉行聽證會。GAO 本身未提出正式政策建議。

first_img 歐盟草案擬約束成癮設計與 AI 聊天機器人,違規或罰營收 6%

ChainCatcher 消息,据財聯社 11 月 10 日報導,多家媒體看到的《數字公平法案》草案顯示,歐盟委員會擬要求企業允許用戶關閉誘導強迫性或過度使用的功能,並將利用模擬人際關係延長互動的 AI 系統納入監管。草案預計於 11 月 11 日公布,違規企業可能面臨最高相當於全球年度營業收入 6% 的罰款。草案要求向成年用戶提供關閉自動播放、與自身活動無關的通知及連續打卡式獎勵的選擇;若 AI 聊天機器人通過模擬人際關係鼓勵持續互動,用戶也應有權關閉相關功能。草案還擬列出 10 類在任何情況下均屬不公平的操縱性設計,包括取消服務明顯難於註冊、隱藏價格或自動續費條款、虛假暗示別無選擇、對供應量或受歡迎程度作出虛假或缺乏必要限定的宣稱、結帳時反覆強調稀缺性、預先勾選額外商品或購買數量、把拒絕包裝成錯誤選擇、反覆要求改變已作決定、使用令人困惑的雙重否定,以及偽造有人聯繫用戶的通知。歐盟委員會可在不重新啟動立法程序的情況下向清單增列新的操縱性手段。草案還擬要求在線訂閱提供明確的合同終止按鈕,免費試用轉為收費前須取得消費者主動同意,並在自動續費前發出提醒;針對未成年人,擬禁止電子遊戲中的付費隨機寶箱和付費獲勝機制。影響評估估計,相關規定將在 2025 年至 2035 年間為消費者避免 884 億歐元經濟損失;若計入時間損失,每年收益預計為 137 億歐元,企業每年合規支出預計合計 6.78 億歐元。草案仍須經歐洲議會和成員國審議,按目前文本將在生效 12 個月後適用。德國政府上月中旬提出反對,主張修改現有消費者保護指令而非另立新法。
app_icon
ChainCatcher 與創新者共建Web3世界