零樣本與少樣本學習(Zero-shot / Few-shot Learning)是什麼?
零樣本與少樣本學習是指大型語言模型在不更新參數的情況下,僅憑提示詞中的說明或少量範例完成新任務,也稱為情境學習。OpenAI 2020 年發表 GPT-3 論文〈Language Models are Few-Shot Learners〉,展示 1,750 億參數模型在多種任務上用少樣本方式就有接近微調模型的表現。
基礎概念Few-shotZero-shot少樣本零樣本In-context learning情境學習
一句話說明
不重新訓練模型,只在提示詞裡給零個或幾個範例,就讓模型完成新任務的使用方式。
零樣本與少樣本學習怎麼運作?
- 零樣本:只用文字說明任務,例如「把下面句子翻成英文」。
- 單樣本:附上一個示範輸入與輸出。
- 少樣本:附上幾個示範,讓模型看出格式與規則。
- 模型根據提示中的範例推論,直接產生答案,不需重新訓練。
實際例子
- 給三個「評論→正面/負面」範例,讓模型分類新評論。
- 提供兩封範例信件格式,請模型照格式寫第三封。
- 只說明欄位名稱,就請模型從文章中抽出資料。
常見誤解
誤解:少樣本學習會讓模型永久學會新任務。
事實:範例只在這次對話的上下文中發揮作用,模型參數沒有改變,下次要重新提供。
事實:範例只在這次對話的上下文中發揮作用,模型參數沒有改變,下次要重新提供。
誤解:範例越多一定越好。
事實:範例太多會占用上下文視窗,且品質不一或互相矛盾的範例反而可能降低表現。
事實:範例太多會占用上下文視窗,且品質不一或互相矛盾的範例反而可能降低表現。
常見問題
少樣本和微調要怎麼選?
任務簡單、範例少、需要快速嘗試時用少樣本;需要穩定大量處理、或提示詞放不下所有規則時再考慮微調。
零樣本效果不好怎麼辦?
可以先加上幾個清楚的範例,或要求模型逐步思考(思維鏈),通常能改善結果。
相關名詞
參考來源
查核日期:2026-09-28。API:/api/term?id=few-shot