LLMOps打造穩定運行的大型語言模型系統

的圖書

LLMOps打造穩定運行的大型語言模型系統

作者：Abi Aryan ／譯者：agility studio　
出版社：歐萊禮
出版日期：2026-01-05
語言：繁體書

圖書選購

價格	供應商	所屬目錄
$ 489	TAAZE 讀冊生活	中文書
$ 490	金石堂 KingStone	計算機概論
$ 490	iRead灰熊愛讀書	電腦總論
$ 558	誠品網路書店	電腦資訊總論

圖書名稱：LLMOps打造穩定運行的大型語言模型系統

「使用 AI 來開發應用程式日益簡單，但在將 LLM 部署到生產環境時，才會面臨真正的挑戰。本書是我用來教導學生掌握複雜的 LLMOps，並成功部署大型語言模型的重要指南。本書以清楚、可行的解決方案，幫助讀者將 LLM 原型轉化為穩定、可投入生產的 AI 系統，是一本不可或缺的讀物。」
—— Ammar Mohanna，EDT&Partners 首席 AI 顧問暨貝魯特美國大學講師

「本書透過清楚、可實作的指導揭開 LLMOps 的神秘面紗。這本完美的資源非常適合機器學習工程師、平台團隊，以及想將 LLM 從原型推向生產環境的所有人。」
—— Nirmal Budhathoki，微軟資深資料科學家

大型語言模型的一大特點，是它們不再依循舊規則。在運行 GenAI 時，傳統的 MLOps 幾乎無助於事，模型會產生幻覺、安全假設不再成立、監視機制失靈、agent 可能無法正常運作，你會突然進入一片未知的領域。這就是 LLMOps 成為一個獨立領域的原因。

本書將帶領你在真正的使用者面前，以及在現實的商業環境中成功運行這些系統。本書不會教你做出華麗的 demo，而是教你讓 LLM 系統在現實世界中穩定運作。

• 掌握運作 LLM 所需的新角色與流程
• 在傳統指標無法全面反映效能時，監視 LLM 的實際表現
• 針對 GenAI 設計真正有意義的評估、治理、安全稽核機制
• 管理 agent、RAG 系統，與不斷演變的提示詞帶來的營運混亂
• 擴展基礎設施，並且控制運算成本

作者簡介：

Abi Aryan 是 Abide AI 的創辦人兼機器學習研究工程師，擁有近十年建構生產級 ML 系統的經驗。她受過數學訓練，曾任 UCLA 認知系統實驗室的訪問研究學者，於 Judea Pearl 博士指導下，鑽研智慧型代理開發。目前她的研究重點包括 AI 代理的反思式智慧、多代理系統的分散式自我修復協定，以及超大型 AI 系統的 GPU 工程開發。

第一章　大型語言模型導論
一些關鍵術語
Transformer 模型
大型語言模型
LLM 架構
選擇合適的 LLM
企業級 LLM 應用場景
用 LLM 來開發的十項挑戰
結語
參考文獻

第二章　LLMOps 概論
什麼是運作框架？
LLMOps 團隊與角色
LLM 與你的組織
LLMOps 的四大目標
LLMOps 成熟度模型
結語

第三章　用LLM 來開發應用程式
在應用程式中使用 AI 模型
基礎設施應用
vLLM 與多模態 LLM 的興起
LLMOps 的核心問題
在以 LLM 為核心的應用程式中，你能控制什麼？
內建 LLM 的基礎設施系統「更難」開發
結語
參考文獻

第四章...

顯示全部內容

回上面

贊助商廣告