何時使用小型語言模型而非大型語言模型

大型語言模型（LLMs）持續在效率與信任之間走鋼索。用戶認為它有效，但質疑其準確性。

對某些使用場景來說，它也可能過於複雜。例如，考慮到高計算成本，使用LLMs可能不是所有內部人力資源任務的最佳選擇。

在這些衝突中，一種新型模型正在興起：小型語言模型（SLMs）。這些是在較小數據集上訓練的更簡單模型，用於執行非常特定的功能。它滿足了高效率、更多信任和低成本的所有要求。

一些最近的研究也表明小型語言模型是代理人工智能的未來。在本文中，我列出了SLM比LLM更高效的使用案例。

跨不同業務功能的頂級SLM使用案例

如果你想知道從哪裡開始你的SLM之旅，我在下面彙編了跨常見業務功能的最佳SLM使用案例。 

客戶服務

LLM模型可以對客戶服務有所幫助，但有重大警告。這些模型是在龐大的數據集上預先訓練的，通常是從互聯網上抓取的。其中一些知識可能適用於你的客戶服務，也可能不適用，特別是當公司政策很具體時。你面臨著擁有產生幻覺的面向客戶聊天機器人的風險。例如，加拿大航空網站上的客戶服務聊天機器人承諾向客戶提供喪親退款，而這一政策從未存在過。

SLMs對客戶聊天機器人和投訴門戶更有意義。這些門戶通常處理高度重複的問題/查詢，並有有限的公司政策庫可供參考。該模型可以輕鬆地在過去的客戶票據數據和公司政策上進行訓練。這對模型回答客戶已經足夠了。

當然，SLM不能處理所有事情，當機器人無法回答查詢時，你總是可以讓人類參與。如果是聊天機器人，你可以提供支持電話號碼供客戶撥打。如果是票務管理平台，如果是SLM已知的問題，票據可以自動解決，否則分配給客戶支持人員。至少，你可以放心，自動化不會向客戶承諾不可能實現的事情。

​銷售/營銷 

LLMs在銷售和營銷的某些使用案例中確實表現出色，特別是內容創建。更大的訓練數據有助於處理不同的主題。但對於更專業的任務，如潛在客戶資格認證/培養和個性化外展，使用LLMs可能不是最佳選擇。其泛化的回應不會給你的潛在客戶留下好印象。

SLM幫助你創建更個性化的外展信息。它可以在你的專有數據集上進行訓練，以確定潛在客戶資格。你可以起草一些過去對你有效的外展信息，並使用SLM模型基於它們生成更多的外展信息。SLMs幫助你擺脫通用的AI外展信息。

金融 

LLMs可用於一般市場分析。但對於高風險任務如欺詐檢測和合規監控，它落後了。欺詐率正在上升，無論是消費者還是企業賬戶。儘管公司建立了欺詐檢測系統，欺詐者不斷找到新的方法繞過它們。模型需要持續再訓練。這就是SLM閃耀而LLM退居二線的地方。

與SLM相比，重新訓練LLM需要更多的時間和資源。SLM可以持續更新最新的欺詐數據，使系統更加健壯。

合規數據也是如此。LLMs甚至可能有過時的合規信息，導致遺漏。在小數據集上訓練的SLM易於審查和完善，確保知識庫中只有最新的法規。

人力資源 

LLMs非常適合起草一般的職位描述、員工溝通或培訓內容。具有高合規風險的任務（例如：創建政策文件、僱傭協議和移民文件）是事情變得棘手的地方。

國家甚至州都在不斷更新其勞動法。例如，澳大利亞政府將產假增加到了2025年的24週，並將從2026年開始再延長兩週。紐約最近將零工工作者的最低時薪增加了。日本開始推廣工作與生活平衡以及為新父母提供靈活的工作安排。

使用LLMs意味著持續檢查後端知識庫的準確性和時效性。在數據庫中錯誤地遺漏任何舊政策文件都會導致幻覺。  

小型語言模型意味著對知識庫有更多控制，並為合規提供更多保證。例如，Deel AI是由其合規專家策劃的小型語言模型。這些專家持續更新知識庫，因此你可以獲得最新和最準確的答案。

業務運營

G2的一項新AI採用調查顯示，近75%的企業在日常業務運營中使用多種AI功能。AI正在提高運營效率和生產力。SLM和LLM在其中都發揮著作用。

LLMs在戰略任務如風險管理、需求預測、供應商審查等方面表現出色。其廣泛的知識庫幫助它在提出建議前考慮所有角度。另一方面，SLM最適合重複性的基礎工作。想想發票管理、貨物追蹤、路線優化、背景調查或預測性維護。這些任務可以在有限的規則集和公司過去的數據上運行。

公司正從在常規、重複性任務中使用SLM中受益。例如，員工背景篩查平台Checkr從LLM轉向SLM來自動化背景調查，並看到了更好的準確性、更快的響應時間，以及成本降低了5倍。

SLM vs LLM：誰贏得了這場戰鬥？

在SLM和LLM的比較中，答案不是在SLM和LLM之間選擇。更好的方法是將它們一起作為混合模型使用。SLM和LLM都有各自的優勢和劣勢。SLM在範圍明確且數據集有限的任務中表現良好。但對於需要推理的任務，LLM是更好的選擇。

以供應鏈管理為例。混合方法更適合供應鏈管理，其中：

• LLM承擔戰略任務，如風險分析、需求預測等
• SLM自動化高容量和重複性的操作任務，如路線管理、發票處理等

同時使用SLM和LLM創建了一個完整的模型來處理供應鏈的所有細節。​

準備好進行自定義訓練的頂級SLM模型

開始SLM實施的一個好處是有可用於微調的模型。你可以根據你的使用案例選擇以下之一：

1. Meta Llama 3.1（80億參數）：一個高效率模型，在需要多語言支持的使用案例中脫穎而出
2. Microsoft Phi-3（38億參數）：當你有需要強大推理能力的超特定任務時，這是一個完美的微型模型。
3. Google Gemma 2（20億參數）：一個具有多模態能力的輕量級模型，幫助你處理文本和圖像。

使用SLMs從未如此簡單

隨著更多SLM模型的推出，你甚至不必從頭開始創建任何模型。只需選擇適合你使用案例的現有模型，為其建立信息知識庫，你就可以開始了。  

\n