資料來源:
三民書局
館藏資訊
本書共分四部分，第一部分詳細介紹大型語言模型的基礎理論知識，包括語言模型的定義、Transformer 結構，以及大型語言模型框架等內容，並以 LLaMA 所採用的模型結構為例的程式碼。第二部分主要介紹預訓練的相關內容，包括在模型分散式訓練中需要掌握的資料平行、流水線並行和模型平行等技術也介紹了ZeRO 最佳化，介紹預訓練資料分佈和資料預處理，以DeepSpeed 為例，介紹大型語言模型的預訓練。第三部分為大型語言模型在指令理解，如何在基礎模型的基礎上利用有監督微調和強化學習方法，理解指令並給出回答，包括高效微調方法、有監督微調資料構造方法、強化學習基礎和近端策略優化方法，並以 DeepSpeed-Chat和 MOSS-RLHF 為例訓練類 ChatGPT 系統。第四部分重點介紹了大型語言模型的擴充應用和評估。包括與外部工具和知識源連接的LangChain 技術。【本書看點】●LLM基礎，包括GPT、Transformer、LLAMA●常用的模型倉庫Huggingface的介紹●LLM的預訓練資料的介紹及整理●多GPU分散式訓練的基礎及實作●SFT有監督微調的應用實例及基礎，包括LORA、PEFT●強化學習在LLM中的應用，包括獎勵模型及PPO●LLM的應用，包括COT及LLM瑞士刀LangChain●用科學方式來評估LLM的能力
資料來源：
三民書局
延伸查詢
Google Books
Amazon