BTC $80,184.64 -1.97%
ETH $2,342.96 -2.89%
BNB $727.22 -2.85%
XRP $1.27 -3.14%
SOL $100.43 -4.15%
TRX $0.3294 -0.09%
DOGE $0.0762 -4.73%
ADA $0.2050 -5.43%
BCH $272.70 -4.10%
LINK $11.47 -4.76%
HYPE $75.52 -3.52%
AAVE $135.84 -8.03%
SUI $0.9271 -6.47%
XLM $0.1694 -4.19%
ZEC $1,137.26 -8.64%
AAPL $346.91 -0.34%
AMZN $247.91 -0.53%
GOOGL $320.30 -1.20%
MSFT $522.91 -0.58%
META $640.26 -1.23%
NVDA $211.39 -0.89%
TSLA $370.24 -0.96%
SNDK $1,226.74 -4.81%
INTC $85.98 -1.47%
SPCX $146.21 -1.82%
MU $876.43 -1.38%
AMD $514.28 -1.56%
BTC $80,184.64 -1.97%
ETH $2,342.96 -2.89%
BNB $727.22 -2.85%
XRP $1.27 -3.14%
SOL $100.43 -4.15%
TRX $0.3294 -0.09%
DOGE $0.0762 -4.73%
ADA $0.2050 -5.43%
BCH $272.70 -4.10%
LINK $11.47 -4.76%
HYPE $75.52 -3.52%
AAVE $135.84 -8.03%
SUI $0.9271 -6.47%
XLM $0.1694 -4.19%
ZEC $1,137.26 -8.64%
AAPL $346.91 -0.34%
AMZN $247.91 -0.53%
GOOGL $320.30 -1.20%
MSFT $522.91 -0.58%
META $640.26 -1.23%
NVDA $211.39 -0.89%
TSLA $370.24 -0.96%
SNDK $1,226.74 -4.81%
INTC $85.98 -1.47%
SPCX $146.21 -1.82%
MU $876.43 -1.38%
AMD $514.28 -1.56%

對話

全部
文章
快訊

first_img 黃仁勳:美中應加強人工智慧對話,共同推進安全發展

ChainCatcher 消息,芯片公司英偉達首席執行官黃仁勳對 CNBC 表示,公司必須與中國人工智慧公司合作,以監測相關風險。他在倫敦週三晚間的媒體簡報中說,雙方應相互合作,從而安全地推進技術發展。黃仁勳稱人工智慧具有潛在危險,並表示自己與中國許多研究人員保持持續對話。黃仁勳認為,與中國人工智慧公司合作的方式是對話,並表示應當加強對話。他稱美國應當這樣做,自己也主張英國採取同樣做法。頁面稱,OpenAI 首席執行官 Sam Altman 與 Anthropic 首席執行官 Dario Amodei 主張加強監管,黃仁勳則成為反對這一立場的突出聲音。近月來,包括 OpenAI、Anthropic 在內的實驗室研究人員呼籲放緩技術發展,並警告對人類的生存風險。頁面還提到,美國財政部長 Scott Bessent 於 9 月與中國對口官員何立峰討論過美中人工智慧對話,內容包括最高至國家安全層面的事件溝通渠道。中方通報稱,習近平指出中美在人工智慧上可能存在競爭,但合作空間可能更大,雙方可繼續就風險與收益交換意見,共同防止濫用。黃仁勳稱,英國憑藉其智力資本,有條件成為相關對話的召集方。文中關聯行情顯示,英偉達股價下跌 3.95 美元,跌幅為 1.78%。

first_img 研究人員用隱藏文本與失控 AI 代理對話,活動追蹤至騰訊雲

ChainCatcher 消息,研究人員在調查 AI 代理劫持阿里巴巴旗下高德地圖服務一事時,成功在部分軟體仍在運行的狀態下與其直接對話。研究人員在一份疑似被這些代理掃描的報告中加入人類不可見、但網頁讀取工具可見的隱藏文本,再通過一個郵箱詢問其任務與運行環境。其中一名代理稱,它正在核查某景區在高德地圖上顯示多少個入口標籤,並稱自己運行在受限的騰訊雲沙箱中。研究人員無法獨立確認每次運行由哪個模型驅動,稱這是已知首次與活躍失控代理集群進行的外部通信。Swarmchasers 於 10 月 14 日發布的報告追蹤到,9 月 28 日至 10 月 8 日期間出現超過 2600 次獲取高德地圖數據的嘗試。部分任務較為日常,例如核查遊客最常使用成都動物園哪個入口。在服務方攔截請求後,一些代理仍持續嘗試,並試圖截獲反爬軟體生成的令牌、通過第三方頁面讀取器轉發流量,或使用公開代碼倉庫中洩露的 API 憑證,其中一組洩露的 key 與安全碼返回了真實地點數據。研究人員還發現針對四個開發或預生產主機的請求,但沒有證據顯示這些代理訪問了私有系統。公開記錄顯示該集群與騰訊雲相關:研究人員檢查的 17 個郵箱全部由位於香港的騰訊伺服器創建,觀察到的直接請求經由名為 hysandbox-ats 的代理轉發。

first_img OpenAI 遭集體訴訟,被指讓外包人員閱讀 ChatGPT 對話

ChainCatcher 消息,兩名加州 ChatGPT 使用者本月在美國加州北區聯邦地區法院對 OpenAI 提起擬議集體訴訟,指控該公司未充分告知使用者,就將真實對話轉交外部承包商處理。該訴訟於 9 月 2 日送達 OpenAI,核心指向其內部計畫 Project Lily。據訴狀,通過第三方人力公司招募的"AI 數據審核員""聊天機器人評估員",會閱讀真實的 ChatGPT 提示詞與完整對話,概括使用者意圖,並按 1 至 7 分對四個模型回答進行評分和評論。這一流程即業界所稱的基於人類反饋的強化學習(RLHF),是聊天機器人提升能力的基礎方式。訴狀稱,使用者從未被明確告知閱讀其對話的可能是一個人,而非機器。OpenAI 會在人工查看前先通過自動系統過濾對話,但訴狀指過濾器無法攔截全部內容,個人細節有時仍會到達承包商手中。404 Media 於 9 月 14 日率先披露該項目,並發現審核人員的看板包含"使用者記憶摘要",可暴露使用者大致位置、職業或私人生活信息,儘管使用者名稱已被移除。OpenAI 稱此類審核旨在減少兩種行為:聊天機器人表現得過於像人,以及過度迎合使用者,即研究者所稱的諂媚。訴狀共提出八項法律主張,包括違反加州《不公平競爭法》《消費者隱私法》及侵入私人事務等普通法訴求,原告尋求損害賠償、返還不當得利與懲罰性賠償。
app_icon
ChainCatcher 與創新者共建Web3世界