RAG

RAG 的瓶頸常常不在模型，而在檢索層是否能從本機原型一路長到生產規模。本文用 Milvus 的官方架構與 quickstart 拆解向量搜尋、metadata filtering、hybrid search，以及從 Milvus Lite 走向 Docker 與 Kubernetes 的實務路線。

LightRAG 將知識圖譜、向量 embeddings 與多種查詢模式整合進同一個 RAG 工作流。本文從雙層索引、文件解析、部署安全到成本評估，整理一條可實作的導入路徑。

Meilisearch 把全文搜尋、語意搜尋、Hybrid Search 與 conversational search 放進同一個 API 導向的搜尋引擎。本文從 Docker 上手、embedding pipeline、權限與評估方法出發，拆解它如何成為 AI 應用可維護的檢索層，也說明哪些情況不適合直接採用。

很多團隊已經會呼叫 LLM，卻仍卡在文件解析、資料切分、檢索、引用與 Agent 工作流程。LlamaIndex 把資料連接器、索引、Retriever、Query Engine 與 Workflow 放進同一個 Python 生態，讓私有資料真正成為可被 Agent 使用的上下文。本文從官方文件出發，拆解它的定位、上手方式、適用情境與不能忽略的限制。

AI Agent 的上下文視窗會重置，但團隊決策、程式碼脈絡與對話不該跟著消失。本文從 MemPalace 的 verbatim 儲存、分層檢索、可插拔後端與 MCP 整合出發，實際拆解如何在本機建立可搜尋、可恢復的 AI 記憶層，也整理安裝版本、非互動初始化、模型下載與資料權限等容易踩坑的細節。

Haystack 3.0 以 component 與 Pipeline 為核心，將 RAG、Agent、檢索、工具呼叫與生成拆成可組合、可測試的資料流。本文從官方 source code 出發，帶你理解它的設計、最小 RAG 實作與適合的落地場景。

RAG 系統最容易被低估的成本，不是第一次把文件塞進向量資料庫，而是之後如何持續接住變動中的資料。Pathway 把串流處理、即時分析與 LLM 管線放進同一個 Python 框架，讓我們可以用接近資料工程的方式建立會自動更新的 RAG 應用。

PaddleOCR 的價值不只在把圖片轉成文字，而是把 PDF 與影像中的版面、表格、公式與多語內容整理成 Markdown 或 JSON，成為 RAG 與 Agent 可以真正消化的輸入。本文從 PP-OCR、PP-StructureV3 到 PaddleOCR-VL，拆解它的架構、上手方式與導入限制。

AnythingLLM 是一套以 local-first 為核心的開源 AI 工作台，將文件問答、RAG、AI Agent、多使用者權限與多種模型／向量資料庫整合在同一個可自架應用中。本文從架構、資料流程、部署選擇與隱私邊界，拆解它適合什麼團隊，以及導入時最容易忽略的工程細節。

文件進入 RAG 或 Agent 工作流前，真正棘手的往往不是向量資料庫，而是如何保留版面、表格、公式與圖片語意。MinerU 將 PDF、圖片、DOCX、PPTX、XLSX 解析成 Markdown 與 JSON，並提供 CLI、API、WebUI 與多服務路由，適合作為文件 AI 管線的前處理層。

PrivateGPT 1.0 不是模型執行器，而是一層 API-first 的 private AI application backend：把本地 inference server 與 RAG、引用、工具、MCP、資料庫查詢及前端應用連接起來。本文拆解其架構、安裝路徑、導入順序與安全邊界。

Dify 讓非技術人員也能透過拖曳元件建立完整的 AI Agent 工作流，從 RAG 檢索、多步驟決策到 API 串接一次搞定。這篇文章帶你了解 Dify 的核心架構、實際上手步驟，以及它如何改變企業導入 AI 的方式。

RAGFlow 不是單純的向量檢索工具，而是一個把文件理解、模板切塊、引用追溯與 Agent 編排整合起來的開源 RAG 引擎。這篇文章會從它的定位、上手方式與部署門檻，快速拆開看。