大AI時代將至，你不可不讀的語言模型獨門祕笈

帶你輕鬆遨遊生成式AI的世界！

本書內容改編自第15屆iThome鐵人賽AI & Data組冠軍系列文章《LLM學習筆記》，這是個生成式AI崛起的年代，其中又以ChatGPT為首的大型語言模型（Large-Scale Language Model, LLM）們最為令人驚豔，但是每當我們提到LLM時，腦中浮現的可能都是一些參數量龐大、架構絢麗又複雜、沒有個幾千幾百張GPU跑不動的超複雜數學模型！

其實掌握語言模型並沒有那麼困難，本書介紹了許多在建立LLM相關應用時會使用到的技術：在雲端可以透過簡單的ChatGPT API打造有趣的塔羅占卜應用；在地端有 Hugging Face TGI、vLLM、llama.cpp等推論框架，就算只有單顯卡也能高速部署、輕鬆玩轉各式各樣Open Source的LLM。透過多種量化技術減少記憶體開銷，小顯卡也能推動大模型！還有許多文本檢索的技巧，帶你一步步構築出RAG實務應用。最後當然少不了，透過LoRA訓練手法輕鬆打造專屬於你的客製化語言模型！

筆者根據自身的實務經驗，介紹深入但是易懂的理論，使用簡單但是務實的技術，帶領大家瞭解如何在低成本、低資源的環境中打造LLM相關應用。無論你是求知若渴的研究員，或是躍躍欲試的工程師，都能從本書中得到滿滿的收穫！

重點摘要：

語言模型

雲有ChatGPT，地有Llama

推論部署

不只高速生成，還要低成本量化

檢索應用

掌握提示工程，徹底瞭解RAG

微調訓練

活用LoRA訓練，打造客製化模型

本書可以學到哪些知識：

量化：減少模型的顯示卡記憶體使用量。

部署：將模型以後端服務的形式進行部署。

推論：如何達到更快速的文字生成速度。

微調：調整訓練模型的權重以符合應用需求。

檢索：從外部知識庫搜尋相關資料輔助模型生成。

應用：結合以上技術搭建出一個實際的應用。

目標讀者：

．對LLM充滿好奇的讀者

．想要嘗試涉足AI領域的初學者

．想要簡單瞭解LLM相關理論的領導者

．想要深入學習LLM相關技術的工程師

．想要一本AI相關的書籍，又不想要內容太深澀難懂的休閒玩家

．擁有自己的機器，想要實際動手玩轉語言模型的深度玩家

．大AI時代來臨，手邊卻還沒有一本AI相關書籍的朋友

【專業推薦】

本書在鐵人賽文章的基礎上增加了更多內容。除了介紹各種常見的語言模型及其使用方式外，還補充了許多細節和實作部分，書中的程式碼附有連結至GitHub供參考。本書內容涵蓋了ChatGPT的各項使用、延伸應用及工具，還有各種神經網路語言模型的說明，例如Transformer、LLaMa，並且介紹了台灣常見的大型語言模型，如Breeze、Taiwan LLM、TAIDE等。當然，書中也詳細指導如何透過開放源碼的語言模型來建立並訓練自己的AI應用。感謝作者花費大量時間編寫此書，清楚地整理及介紹了大型語言模型。對於想學習大型語言模型並打造屬於自己AI的讀者，相信本書可以讓你事半功倍。

──── 徐千洋｜台灣駭客年會創辦人、CYBAVO共同創辦人

威廷在求學時期就是個興趣廣泛的人，一聽到新觀念，會馬上深入研究。頗有心得時，還會將筆記分享給大家，是那種資工系最歡迎的自動自發的學生。長期在網路世界打滾的他也深諳網路語彙，由他來寫這本書真是再適合不過了。這本書有理論、有程式，有實作運用演練，也有趨勢新知的分享。內容論述深入淺出，範例鮮明。整本書居然涵蓋了二十多種主題，簡直物超所值，收穫滿滿！期待這本書能點燃許多人心中對LLM的好奇心，並成為踏入AI世界的最大支援火力！

──── 林川傑｜國立臺灣海洋大學資訊工程學系 助理教授

不管你是什麼原因想要認識AI：是正要開始認識AI的新手小白，或是突然接到一個AI專案導入並且要馬上有一番通盤概念的苦命工程師，都非常適合閱讀這本書。本書中前半的篇章淺顯易懂，讓完全的新手也能夠輕易讀懂難啃的專業術語，後面的篇章有很多實作的專案練習；而我作為一名本科仔，依然可以透過這些實作加深印象，也補足了離校至今的新知。書中同時也穿插了許多情境式的帶入及豐富的額外小知識補充，再搭配詳細的文獻資料可供延伸學習以及深入解析。相信這本書一定可以讓大家更容易進入AI的世界，成為LLM大師指日可待！

──── 林俊廷 JT Lin｜iThome鐵人賽戰友、NZXT軟體工程師、花生大師追隨者