想法

所有文章
2026年10月29日Text embeddings explained: how they work [+examples]This guide explains what text embeddings are, how they turn text into vectors that capture meaning, and how to choose, evaluate, and apply embedding models to search, RAG, and other real-world use cases.
2026年10月28日基本 RAG 實作:逐步教學這篇適合初學者的教學會說明基本 RAG 實作的運作方式,介紹最佳實踐,並逐步帶你使用 Python、ChromaDB 以及 Perplexity 的嵌入模型和語言模型,構建一個可運作的命令列 RAG 系統。
2026年10月27日LLM 閘道如何運作?工程團隊實用指南LLM 閘道是一種反向代理,負責路由、驗證、快取和記錄你的模型呼叫。本指南會追蹤一個請求如何通過閘道,說明需要預先規劃的安全性和可靠性風險,並比較從零開發、自行架設、託管服務及 API 閘道等選項。
2026年10月26日甚麼是 RAG 架構?完整定義及詳細實際示例RAG 架構是一整套負責儲存、檢索外部資訊並將其提供給 LLM 的組件;本指南將拆解 10 種類型,從基本 RAG、混合式 RAG 到代理式 RAG 和 GraphRAG,並提供兩個逐步示例。
2026年10月22日如何評估 AI 代理程式:測試集、評分器及回歸檢查評估 AI 代理程式的六步實用指南,涵蓋定義成功標準、根據真實失敗案例建立測試集,以至選擇評分器、執行回歸檢查及在生產環境中監察。
2026年10月21日如何追蹤及控制團隊的 Token 支出團隊如何在儀表板和報告中查看 Token 用量、哪類 AI 工作使用最多 Token,以及如何運用控制措施減少用量。
2026年10月20日什麼是 AI 閘道?LLM 與 AI 代理程式流量的路由、成本控制與管治指南AI 閘道是位於你的應用程式或 AI 代理程式與其所呼叫模型之間的中央代理伺服器,在同一處統一處理路由、成本控制、安全性和可觀察性。
2026年10月19日Harness 工程:是甚麼及如何運作以淺白語言介紹甚麼是 AI harness,以及 harness 工程如何影響 AI 代理程式的能力。
2026年10月16日甚麼是 LLM 安全?如何緩解 OWASP 十大安全風險LLM 安全指南,逐一解說 OWASP Top 10 for LLM Applications 2026(LLM 應用程式十大風險),並為每項風險提供一宗真實事故及實用防禦方法。