PinnedChiChieh Huang深入解析 RAG 評估框架:TruLens, RGAR, 與 RAGAs 的比較隨著 RAG 日益發展,有許多 RAG 的變形架構出現,使其成為一個越來越複雜的系統,需要全面性的評估方可監控其效能,提供後續的商業價值。因此,本文旨在探討我們如何全面且廣泛性的評估 RAG 系統,以及 RAG 評估框架的未來方向。Jun 5Jun 5
ChiChieh HuangKnowledge Graph + RAG | Microsoft GraphRAG 實作與視覺化教學探索 Microsoft GraphRAG 結合 Knowledge Graph 與 RAG 的強大技術,提升模型答案品質。了解其實作與視覺化教學,掌握實作步驟與最佳方法,讓您的企業問答系統更精確高效。立即閱讀,快速上手 GraphRAG,掌握資料檢索和問答技術的最新發展。Jul 192Jul 192
ChiChieh Huang互動式 AI 虛擬助理教學:LLMAvatarTalk教學如何整合自動語音識別(ASR)、大型語言模型(LLM)、文字到語音(TTS)、LangChain 和音頻驅動的面部動畫(Audio2Face)與虛幻引擎的 Metahuman等技術,創建你的個人互動式 AI 虛擬助理。Jun 17Jun 17
ChiChieh HuangLLM 評估教學 | EleutherAI LM Evaluation Harness在上一篇文章中,我們探討了評估大型語言模型評估時應考慮的各項指標和細節。而這篇文章中,我們將深入探討如何具體操作去評估 LLM。這篇我們使用的工具框架是 EleutherAI 的 lm-evaluation-harness,以下會帶你一起實機操作。Apr 122Apr 122
ChiChieh HuangLLM 評估方法指南:趨勢、指標與未來方向在過去的幾年裡,LLM 在自然語言處理 NLP 領域取得了驚人的進步,成為許多應用的核心技術,包括自動回答系統、文本生成、翻譯等等。隨著這些模型能力日益增強,確保模型既準確又公正就顯得非常重要,而這就引伸出一個根本性的問題:我們怎麼評估模型好不好?Mar 29Mar 29
ChiChieh HuangLLM 規格比較 | 盤點 ChatGPT, Gemini, Claude, Mistral, llama 等模型最近,Gemini 1.5 和 Claude 3 先後發布使的各種 LLM 的規格變得越來越複雜,因此我決定花時間來整理一份最新的規格比較表,其中包含 OpenAI、Google、Anthropic、Meta 以及 Mistral AI 的模型。Mar 18Mar 18
ChiChieh HuangLLM 各種技巧 | Prompt Engineering 指南截止至今,關於 LLM 的優化與技巧層出不窮,幾乎每個月都有新的技術和方法論被提出,因此本篇主要是要介紹在各種不同情境下,LLM 的各種 Prompt Engineering (提示工程) 技巧,每篇都有附上論文連結與架構圖,方便你快速檢閱,希望能助幫你深入了解。Mar 10Mar 10
ChiChieh HuangRAG 優化技巧| 7 大挑戰與解決方式 | 增進你的 LLM儘管 LLM + RAG 的能力已經令人驚嘆,但我們在使用 RAG 優化 LLM 的過程中,還是會遇到了許多挑戰與難題,包括但不限於檢索器返回不準確或不相關的資料,以及LLM基於錯誤或過時資訊生成答案的情況,因此本文旨在提出 RAG 常見的 7 大挑戰,與其各自的優化方案。Mar 7Mar 7
ChiChieh Huang記憶體不夠? 來看 LLM 的壓縮技術本篇探討 LLM 的 4 種類型的壓縮技術:剪枝(Pruning)、知識蒸餾(Knowledge Distillation)、量化(Quantization)、低秩因子分解(Low-Rank Factorization)Jan 27Jan 27
ChiChieh HuangRAG實作教學,Streamlit+LangChain+Llama2我們將重點放在如何使用 Streamlit 來建立一個視覺化的操作介面,以便 Demo 整個RAG(Retrieval-Augmented Generation)的工作流程。Jan 252Jan 252