小型語言模型（Small Language Model (SLM)）是什麼？

小型語言模型（SLM）是參數規模較小、運算成本低，能在個人裝置上執行的語言模型。例如微軟 2024 年發表的 phi-3-mini 只有 38 億參數，MMLU 分數約 69%，技術報告表示它小到可以部署在手機上。

模型技術SLM小模型小語言模型Small Language Model

一句話說明

參數量較少、可在手機或筆電上執行，專注特定任務的輕量語言模型。

小型語言模型怎麼運作？

1. 使用較少參數的模型架構
2. 用精選的高品質資料訓練，或從大模型蒸餾
3. 搭配量化等技術進一步縮小體積
4. 在手機、筆電或邊緣裝置上直接執行

實際例子

• 手機上離線執行的文字摘要功能
• AI 代理系統中負責分類、格式轉換等重複性子任務

常見誤解

常見問題

小型語言模型和大型語言模型怎麼區分？

業界沒有統一的參數門檻，大致以能否在消費級裝置上順利執行來區分。NVIDIA 研究者的論文也是以功能與成本面來討論，而非訂出固定數字。

為什麼有人認為 AI 代理適合用小模型？

NVIDIA 研究者 2025 年的論文主張，代理系統中許多工作重複且專一，小模型已足夠勝任，也更經濟；需要通用對話時再搭配大模型。

延伸閱讀

• LLM 和小型語言模型 SLM 差在哪？

相關名詞

模型蒸餾、模型量化、AI PC 與邊緣 AI、代理式工作流

參考來源

• arXiv：Phi-3 Technical Report（Microsoft, 2024）
• arXiv：Small Language Models are the Future of Agentic AI（NVIDIA, 2025）

查核日期：2026-09-26。API：/api/term?id=slm