隨著人工智慧技術的飛速發展,大型語言模型(LLM)已成為各行業關注的焦點。IDC提出一種全新觀點,認為LLM將朝向客製化和產業化方向發展,以更好地滿足企業的實際需求。本文將分享IDC研究[1]LLM發展的深層趨勢,並指引企業如何透過合理策略有效利用LLM強大能力。
三種採用LLM的方式
在採用LLM時,企業可選擇三種不同方式
- 1) 購買現成的通用LLM應用方案,如OpenAI或Anthropic提供的服務
- 2) 自行開發模型(BYOM),從頭到尾自已建立LLM mode與endpoint 以供串接
- 3) 採取折衷方案,購買基礎LLM模型後進行客製化優化
企業怎麼選？ | 折衷方案最受企業青睞
在三種方式中,第三種折衷方案被認為是企業最常採用的選擇。透過優化已有模型的方式,不僅可保留模型基礎能力,還能針對特定領域進行改進,提高準確性和可靠度。優化方法包括
- Fine-tuning
- RAG 框架
- Prompt Engineering等技術
LLM將聚焦產業化應用
IDC預測,LLM下一步將更聚焦於產業化應用。也就是說,通用型大型模型將逐漸”被縮小”, 為什麼呢？因為會專注於解決特定行業問題。這不僅能降低模型計算成本,還能提高運算速度和效率。對於金融、製造等複雜流程產業,通過微調對LLM進行優化將是必要之舉。
“OpenBook考試”的解說描述LLM產業化應用
IDC使用”OpenBook考試”的比喻形容”LLM產業化應用”。在考試中,學生可參考指定參考書,回答內容就有可靠來源,避免”AI幻覺”[2]問題,更適合企業級應用要求。通過RAG框架和Prompt Engineering等技術,LLM回答將更準確可靠,生成結果亦可控制特徵。
選擇時條件應該要有？五大策略性考量選擇LLM平台
最後IDC提出五點策略性考量,幫助企業選擇合適的LLM平台:
- 1) 平台開放性
- 2) 微調能力
- 3) RAG框架選擇
- 4) LLM生態系統
- 5) 永續性
合理評估這五點,將有助企業選擇真正滿足其商務、技術和永續需求的LLM解決方案。
總結
總的來說,IDC預見LLM將走向客製化和產業化發展趨勢。企業應根據自身需求,審慎評估採用何種LLM方式,無論直接購買、自行開發或採取優化折衷方案,關鍵是確保LLM應用真正解決企業實際問題,並符合其商務、技術和永續發展需求,才能在企業中發揮最大價值。
一分鐘摘要
本文總結了IDC對大型語言模型(LLM)未來發展趨勢的看法和建議。IDC認為LLM將逐步走向客製化和產業化應用,模型規模將縮小並聚焦特定領域。企業在採用LLM時,可選擇購買現成解決方案、自行開發或採取優化折衷方案。其中透過微調、RAG框架和Prompt Engineering等技術對現有模型進行優化,將是最常見做法。在選擇LLM平台時,平台開放性、微調能力、RAG框架選擇、生態系統和永續性(ESG)是五大主要考量因素。最終,LLM必須真正解決企業實際問題並滿足其商務和技術需求,才能在企業中發揮最大價值。
[1] https://www.netadmin.com.tw/netadmin/zh-tw/trend/8CCF89344B3B4C5AB922B73EEAFC17F2
[2] https://zh.wikipedia.org/zh-tw/%E5%B9%BB%E8%A7%89_(%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD)
[3] Prompt Engineering, RAG, and Fine-tuning: Benefits and When to Use
https://www.youtube.com/watch?app=desktop&v=YVWxbHJakgg
