深度学习扩展之道：软硬件与数据协同构建可扩展大模型系统

本书聚焦大规模深度学习的实现与扩展，围绕软件、硬件与数据的融合展开，构建了从基础到进阶的完整知识体系。全书共13章，分为三大部分：第一部分 “深度学习基础” 讲解深度学习数据流、计算图、硬件架构等核心概念，通过Python和PyTorch动手练习帮助读者理解模型开发与性能分析；第二部分 “分布式训练” 深入分布式系统通信、数据并行、模型并行等关键技术，提供多场景动手实践；第三部分 “极限扩展” 探讨以数据为中心的扩展、实验管理、大模型微调与基础模型开发，覆盖LoRA微调、数据质量优化等前沿内容。整体以“理论+实践”为核心，配套GitHub代码仓库，助力读者掌握高效扩展深度学习项目的技术与方法。