(相關(guān)資料圖)
微軟崔宏禹：GPT-4以后，不建議再用微調(diào)進(jìn)行特定領(lǐng)域的模型適配：據(jù)澎湃，5月26日，微軟（中國(guó)）有限公司創(chuàng)新技術(shù)總經(jīng)理崔宏禹在上海舉行的向星力·未來數(shù)據(jù)技術(shù)峰會(huì)（FDTC）上回應(yīng)了當(dāng)下一個(gè)廣泛被提及的問題，即如何用自己的數(shù)據(jù)訓(xùn)練自己的模型，將私域數(shù)據(jù)與GPT的能力相融合。崔宏禹解答道，“一般來說，我們推薦兩種方式。一種是微調(diào)（在不改動(dòng)預(yù)訓(xùn)練模型的基礎(chǔ)上，在模型頂層增加分類器或一些特征映射，使微調(diào)后的模型能夠更貼合實(shí)際使用場(chǎng)景），但在GPT-4以后，我們已經(jīng)不建議或者已經(jīng)不讓大家使用微調(diào)的方式了。我們更推薦的是嵌入（將一個(gè)內(nèi)容實(shí)體映射為低維向量，從而可以獲得內(nèi)容之間的相似度）的方式。”
關(guān)鍵詞：
