如果你问，大模型入门看哪本书？
相信无数小伙伴都会推荐这本领域内的神书——《大规模语言模型：从理论到实践》！

自2023年年末上市以来，它不仅持续出现在各大平台AI大模型图书推荐榜单中，并始终位居排行榜前列，而且刷爆全网，被各平台的无数网友深度解读、强烈推荐！

随着近两年大语言模型领域的发展突飞猛进，本书的作者“复旦大学NLP团队”张奇、桂韬、郑锐、黄萱菁几位老师对这本豆瓣评分曾高达8.1分的佳作进行大幅修订升级（增加内容超过40%），系统整合AI领域最新研究成果与技术进展，为广大读者带来更前沿、更实用的知识体系与工程实践指导。

（豆瓣书评）
这就是《大规模语言模型：从理论到实践（第2版）》！

无论你是渴望深入理解LLM原理的学者，还是希望将AI能力融入产品的工程师，亦或是对人工智能充满兴趣的学习者，这本书都将为你提供系统、权威且极具实操价值的知识指引。

第2版核心升级

大语言模型的能力在多个方面实现了显著突破，在推理能力、上下文理解深度及多模态处理能力等方面取得了长足进步。特别是在 2024 年 12 月，DeepSeek-V3的发布，以及 2025 年 1 月 DeepSeek-R1 的问世，更是引发了国内外的广泛关注和强烈反响，我国在大语言模型领域取得了新的里程碑式进展。
与此同时，大语言模型在理论研究、预训练方法、后训练技术及解释性等方面也取得了重要进展。业界对大语言模型的研究更加深入，逐渐揭示出许多与传统深度学习和自然语言处理范式不同的特点。
例如，大语言模型仅需 60 条数据就能学习并展现出强大的问题回答能力，显示了其惊人的泛化性。
然而，本书作者们也发现大语言模型存在一定的脆弱性。例如，在一个拥有 130 亿个参数的模型中，仅修改一个特定参数，就可能导致模型完全丧失生成有意义信息的能力。
因此，第2版在以下几方面进行了内容升级：

01. 聚焦前沿技术

深度剖析MoE（混合专家模型）、强化学习、多模态、智能体、RAG（检索增强生成）、效率优化等技术趋势，紧跟AI最新发展。

02. 重构知识体系

覆盖预训练、微调、强化学习、应用开发、效率优化等全流程，体系更加完善，逻辑更清晰。

03. 提升实践价值

新增逾40%的前沿研究成果与技术案例，增设工程实践指南与评估体系模块，助力理论落地。

04. 扩展章节内容

新增多模态大语言模型、智能体、RAG、大模型效率优化等实用章节，并对指令微调和强化学习部分进行了大幅修改。

本书架构

围绕LLM理论基础、预训练、指令理解、大模型增强、大模型应用五大部分展开。

第1部分介绍大语言模型的基础理论：包括语言模型的定义、Transformer结构、大语言模型框架、混合专家模型等内容，并以LLaMA使用的模型结构为例介绍代码实例。
第2部分介绍大语言模型的预训练，包括大语言模型预训练数据和分布式训练。
第3部分介绍大语言模型如何理解并服从人类指令，包括指令微调和强化学习。
第4部分围绕提升大语言模型的能力展开详细探讨，内容涵盖多模态大语言模型、大模型智能体和检索增强生成。
第5部分围绕如何应用大语言模型展开讨论，内容涵盖大语言模型效率优化、大语言模型评估，以及大语言模型典型应用的开发与部署。

新增章节亮点

1. 多模态大语言模型：介绍典型架构及其与LLM的融合方法、多模态训练策略。
2. 大模型智能体：剖析涵盖感知、规划、记忆机制及工具调用能力的核心架构，训练与实践方法。
3. 检索增强生成（RAG）：解析系统设计模式、训练优化策略、评估体系全流程。
4. 大模型效率优化：围绕模型压缩、低精度训练、高效推理框架（如vLLM）等全链路技术实践展开。
5. 大语言模型基础：新增混合专家模型（MoE）相关内容。
6. 强化学习：新增对“The Bitter Lesson”的理解、长思维链、推理模型的强化学习等内容。
   

专家点评

自《大规模语言模型：从理论到实践》首版问世以来，便受到了学术界与产业界的广泛关注。此次全新升级的第2版，内容更加丰富、体系更加完善，得到了多位人工智能领域权威专家的高度认可（按姓氏拼音排序）：
随着ChatGPT的问世，大语言模型展现出巨大潜力，对人工智能发展产生了深远影响。面对这一迅速发展的技术，如何快速理解其理论并参与实践是我们必须要面对的挑战。本书在第1版的基础上增加了多模态、智能体，RAG等章节，并对指令微调和强化学习部分进行了大幅修改，旨在帮助读者深入理解大语言模型的原理，提供实操指导，值得阅读。
——柴洪峰 中国工程院院士

本书深入解析了大语言模型的基本原理，分析了当前几种有代表性的大语言模型的学理特点，分享了作者在这一领域的实践经验。本书的出版恰逢其时，是学术界和产业界不可多得的读物，将助力读者进一步探索和应用大语言模型。
——蒋昌俊 中国工程院院士

本书全面解析了大语言模型的发展历程、理论基础与实践方法，对大语言模型预训练、指令微调、强化学习、多模态、智能体、RAG等前沿领城的研究进展有较好的覆盖。此外，本书深入探讨了大语言模型的实际应用场景与评价方法，为研究者提供了系统的理论指导与实践经验。相信本书对从事相关研究的学者和大语言模型开发者具有重要的参考价值。
——周伯文 上海人工智能实验室主任、首席科学家、清华大学惠妍讲席教授

《大规模语言模型：从理论到实践（第2版）》的出版上市，希望可以让读者快速掌握大语言模型的研究与应用，更好地应对相关技术挑战，为推动这一领域的进步贡献力量。