AI 與工具

本分類整理大型語言模型、AI Agent、模型 Provider、推論架構與自動化工作流程。

主題

Local LLM：架構與使用

從使用目標開始，逐步理解模型權重、量化、硬體容量、推論 runtime、API serving、RAG、Agent 與維運安全。

適合： 本地模型使用者、應用開發者、推論服務維運者
狀態： 主題首頁；已有 4 篇文章發布

建議讀法

若還不確定應從哪裡開始，先看開始閱讀，依「使用者／開發者／維運」選擇路徑。