大型語言模型的一大特點，是它們不再依循舊規則。在運行 GenAI 時，傳統的 MLOps 幾乎無助於事，模型會產生幻覺、安全假設不再成立、監視機制失靈、agent 可能無法正常運作，你會突然進入一片未知的領域。這就是 LLMOps 成為一個獨立領域的原因。

本書將帶領你在真正的使用者面前，以及在現實的商業環境中成功運行這些系統。本書不會教你做出華麗的 demo，而是教你讓 LLM 系統在現實世界中穩定運作。

• 掌握運作 LLM 所需的新角色與流程
• 在傳統指標無法全面反映效能時，監視 LLM 的實際表現
• 針對 GenAI 設計真正有意義的評估、治理、安全稽核機制
• 管理 agent、RAG 系統，與不斷演變的提示詞帶來的營運混亂
• 擴展基礎設施，並且控制運算成本