英媒發現 ChatGPT 搜索存在漏洞，隱藏文本能影響響應內容

ChainCatcher 消息，据英國《衛報》調查發現，OpenAI 的 ChatGPT 搜索工具存在潛在的安全問題，可能會被人利用隱藏內容進行操縱。

《衛報》測試了 ChatGPT 在被要求總結包含隱藏內容的網頁時的反應。隱藏內容可能包含第三方指令，例如大量談論某一產品的好處，而這些指令會改變ChatGPT的響應。這種技術可以被惡意使用，比如儘管同一頁面上有該產品的負面評論，但讓 ChatGPT 返回正面評價。測試人員給了 ChatGPT 一個看起來像相機產品頁面的假網址，然後問 ChatGPT 相機是否值得購買。ChatGPT 給出了正面但平衡的評價，同時強調了一些人們可能不喜歡的功能。但當隱藏文本中包含指示 ChatGPT 返回好評的指令時，它的回覆總是完全正面的，即使頁面上有負面評論。

CyberCX 網絡安全研究員 Jacob Larsen 表示，如果 ChatGPT 搜索以目前的狀態向所有人開放，可能會有"高風險"的人創建專門針對欺騙用戶的網站。(金十)