AI 與科技名詞白話解釋

LLM 和小型語言模型 SLM 差在哪?

最大差別是規模:LLM 參數動輒數千億以上、能力全面但需要大量運算;SLM 參數約數百萬到數十億,能力較專注,但更省資源、回應更快,可在手機或筆電上執行。

比較表

比較項目LLM(大型語言模型)SLM(小型語言模型)
參數規模數千億甚至上兆數百萬到數十億
執行環境多在雲端資料中心可在手機、筆電、本地伺服器
能力範圍知識廣、擅長複雜推理較專注,複雜任務表現較弱
回應速度與成本延遲較高、費用較高延遲低、成本低
資料隱私通常需把資料送到雲端可在本機或內部環境處理

這些情況選大型語言模型

  • 需要處理開放式、跨領域或高難度推理任務
  • 不想自行管理硬體,直接用雲端服務

這些情況選小型語言模型

  • 任務明確單一,例如分類、摘要、擷取欄位
  • 需要離線運作或資料不能離開公司

常見問題

SLM 的參數要多小才算小型語言模型?

沒有統一標準。IBM 的說法是參數從數百萬到數十億不等,相對於數千億以上的 LLM 而言較小;實務上常指能在單張顯示卡或裝置上執行的模型。

小型語言模型會比較不準確嗎?

在廣泛知識與複雜推理上通常不如 LLM,也同樣可能產生幻覺;但針對特定任務微調後,SLM 在該任務上可以有很好的表現,且成本更低。

名詞解釋

大型語言模型:用大量文字資料訓練、能理解與產生自然語言的超大型 AI 模型,是 ChatGPT 等聊天 AI 的核心。

小型語言模型:參數量較少、可在手機或筆電上執行,專注特定任務的輕量語言模型。

參考來源

查核日期:2026-09-26。API:/api/compare?id=llm-vs-slm