⭐⭐業界專家推薦⭐⭐
隨著LLM成為現代AI平台的核心，本書提供一份實用的藍圖，教你如何在大規模環境中部署與最佳化LLM服務，以可靠且兼顧成本效益的方式處理龐大的工作負載。
── Bhavesh Doshi，Salesforce AI 雲端事業群副總裁

大型語言模型（large language models，LLM）是現代AI的推理引擎。如今，一個重大的轉捩點已經到來：當全世界競相大規模部署AI，模型推論已移到整個技術堆疊的核心 ── 進入推論時代。
然而，少了適當的最佳化，LLM服務起來可能既昂貴又緩慢。本書深入解析大規模部署與最佳化LLM的種種複雜之處。

在這本以動手實作、工程實務為導向的書中，作者結合實際範例、程式碼與最佳策略，教你打造兼具穩定性、高效能與成本效益的AI Token工廠。無論你是在建構LLM推論的基礎設施，還是在開發運用它的AI應用程式，深入理解LLM服務的核心原理，都將讓你成為更具效率、更能因應未來AI發展的工程師。

本書精彩內容：
• 掌握模型服務的基礎知識，從核心概念、設計典範到業界最佳實務一次學會。
• 理解大規模運行LLM的常見挑戰。
• 平衡延遲與吞吐量，滿足AI應用程式與業務需求。
• 運用結合程式碼範例的實務技巧，以符合成本效益的方式架設LLM。

作者簡介：

Chi Wang 是Salesforce AI事業群的工程總監，負責領導大規模的模型推論與資料科學平台。他在AI與分散式系統領域擁有超過18年的經驗，擁有十多項專利，並撰文分享如何建構實用的AI系統。

Peiheng Hu 是NVIDIA的LLM推論工程師，致力於在最新的GPU架構上推進LLM推論效能的極限。他擁有哈佛大學與喬治亞理工學院的學位，並在NVIDIA、Salesforce與Microsoft累積十多年經驗，專注於大規模分散式AI系統的建構。

退換貨說明：

會員均享有10天的商品猶豫期（含例假日）。若您欲辦理退換貨，請於取得該商品10日內寄回。

辦理退換貨時，請保持商品全新狀態與完整包裝（商品本身、贈品、贈票、附件、內外包裝、保證書、隨貨文件等）一併寄回。若退回商品無法回復原狀者，可能影響退換貨權利之行使或須負擔部分費用。