今天小編分享的科技經驗:微軟中國創新技術總經理:GPT-4以後,不建議再用微調進行特定領網域的模型适配,歡迎閲讀。
钛媒體 App 5 月 27 日消息,微軟(中國)有限公司創新技術總經理崔宏禹日前在上海舉行的向星力 · 未來數據技術峰會上回應了當下一個廣泛被提及的問題,即如何用自己的數據訓練自己的模型,将私網域數據與 GPT 的能力相融合。崔宏禹解答道," 一般來説,我們推薦兩種方式。一種是微調(在不改動預訓練模型的基礎上,在模型頂層增加分類器或一些特征映射,使微調後的模型能夠更貼合實際使用場景),但在 GPT-4 以後,我們已經不建議或者已經不讓大家使用微調的方式了。我們更推薦的是嵌入(将一個内容實體映射為低維向量,從而可以獲得内容之間的相似度)的方式。"(澎湃)