英媒發現ChatGPT搜索存在漏洞：隱藏文本能影響響應內容

據英國《衛報》調查發現，OpenAI的ChatGPT搜索工具存在潛在的安全問題，可能會被人利用隱藏內容進行操縱。《衛報》測試了ChatGPT在被要求總結包含隱藏內容的網頁時的反應。隱藏內容可能包含第三方指令，例如大量談論某一產品的好處，而這些指令會改變ChatGPT的響應。這種技術可以被惡意使用，比如儘管同一頁面上有該產品的負面評論，但讓ChatGPT返回正面評價。

測試人員給了ChatGPT一個看起來像相機產品頁面的假網址，然後問ChatGPT相機是否值得購買。ChatGPT給出了正面但平衡的評價，同時強調了一些人們可能不喜歡的功能。但當隱藏文本中包含指示ChatGPT返回好評的指令時，它的回覆總是完全正面的，即使頁面上有負面評論。CyberCX網絡安全研究員Jacob Larsen表示，如果ChatGPT搜索以目前的狀態向所有人開放，可能會有“高風險”的人創建專門針對欺騙用戶的網站。

本文源自：金融界