Anthropic 正在研究讓 AI 智能體代表用戶談判

ChainCatcher 消息，鳳凰網科技援引《金融時報》報導，北京時間 10 月 19 日，AI 公司 Anthropic 正與法律界人士探討如何讓 AI 智能體代表用戶談判，在爭取更好交易條件的同時遵循合理談判規則。兩名了解 Anthropic 想法的人士稱，公司正向律師事務所尋求建議，了解律師如何在維護客戶利益的同時兼顧公平談判結果。Anthropic 拒絕置評。

報導稱，隨著個人智能體應用推進，相關公司開始考慮讓智能體彼此溝通，代表用戶就商品價格討價還價、解決客服糾紛，甚至爭取更好薪資待遇。一名了解相關工作的人士稱，Anthropic 正在研究模型相互交涉時應遵循的談判規範，權衡內容包括談判中應多久向用戶請示一次，以及對 AI 談判對手應保持多大警惕。另一名接近公司的人士稱，公司還探索過由用戶簽署文件，確認智能體接受的任務及必須遵守的規則。

《金融時報》援引 Anthropic 今年 4 月發布的研究稱，圍繞 AI 模型代表人類進行交易的政策與法律框架尚未建立。公司今年讓 Claude 智能體圍繞真實商品和資金談判，9 月實驗中員工通過智能體買賣書籍，採取強硬策略的智能體在爭取更好結果方面略佔優勢。哈佛商學院助理教授米歇爾·瓦卡羅開展超過 18 萬次智能體談判，場景涵蓋雇傭合同和租賃合同，研究發現有智能體試圖通過提示詞注入誘導對方泄露私密信息。