今天小編分享的互聯網經驗：全球上線才一周就暴雷？研究稱ChatGPT搜索可能欺騙、誤導用户，歡迎閲讀。
OpenAI 官宣全球上線 ChatGPT 搜索服務才一周，就被爆出存在安全隐患，可能欺騙、誤導用户。
英國《衞報》日前公布的一項研究發現，ChatGPT 搜索工具可能被隐藏的内容操縱，并可能從其搜索的網站返回惡意代碼。該媒體認為，可能需要重新考慮相關技術被惡意利用的風險，例如它可能導致，即使某個產品頁面存在用户的負面評價，ChatGPT 也會無視這些差評，反饋用户的回應是該產品的正面評價。
《衞報》測試了，面對總結包含隐藏内容的網頁這種要求，ChatGPT 作出何種反應。這些隐藏内容可能包含來自第三方的指令，這些指令會改變 ChatGPT 的響應、也稱為 " 提示詞注入 "（prompt injection），它還可能包含旨在影響 ChatGPT 響應的内容，例如大量隐藏的文本，談論產品或服務的好處。
測試中，《衞報》讓 ChatGPT 得到了一個虛假網站的 URL，該網站看起來像是相機的產品頁面，然後提問 ChatGPT，這款相機是否值得購買。控制頁面的 ChatGPT 響應給出了積極但平衡的評價，強調了一些人們可能不喜歡的功能。然而，當隐藏文本包含有關 ChatGPT 返回正面評價的指示時，ChatGPT 真正給出的響應總是完全正面的。即使頁面上有負面評價也是如此。由此可以發現，隐藏文本可用于覆蓋實際評價。
有評論稱，隐藏文本攻擊是大語言模型（LLM）面臨的一種常見風險，但這次似乎是此類風險首次被發現存在于在實時 AI 搜索產品。《衞報》稱，在處理類似問題方面，搜索領網域的一哥谷歌相比 OpenAI 經驗更豐富。
OpenAI 并未對上述《衞報》的測試發現置評，而是表示，在使用多種方法阻止惡意網站，并且正在不斷改進。
