新書推薦：
《
AI原生应用开发：提示工程原理与实战
》
售價：NT$
407.0
《
孤独消费论
》
售價：NT$
305.0
《
全球史的九炷香：哪吒、龙涎香与坦博拉
》
售價：NT$
500.0
《
画非画：古代绘画中的图像与政治
》
售價：NT$
1010.0
《
催化型领导力：破解新晋领导者的转型困境
》
售價：NT$
347.0
《
英国馆藏中国画
》
售價：NT$
500.0
《
又瘦，又美，又健康：女性减脂塑形避坑指南
》
售價：NT$
347.0
《
遥望与亲历：一个西方家庭眼中的中国（1887—1950）
》
售價：NT$
347.0
|
| 編輯推薦： |
|
深度学习模型必须构建到软件系统中才能实际使用。作为一名软件工程师，你需要对深度学习有深刻的理解才能设计出这样的系统。本书将为你提供这种深刻的理解。本书会教你设计和实现一个生产级的深度学习平台所需的一切知识。首先，它从开发者的角度出发，呈现了深度学习系统的全貌，包括其主要组件及连接方式。然后，它会一步步指导你如何使用工程方法构建一个可维护、高效且可扩展的深度学习平台。本书涵盖：?深度学习开发周期?TensorFlow和PyTorch自动化训练?数据集管理、模型服务和超参数调优?深度学习实践实验室书中提供了Java和Python代码示例，适合软件开发人员和以工程为导向的数据科学家。
|
| 內容簡介： |
|
本书主要从软件开发者的角度探讨如何构建和设计深度学习系统。作者首先描述一个典型的深度学习系统的整体，包括其主要组件以及它们之间的连接方式，然后在各个单独的章节中深入探讨这些主要组件。对于具体介绍的章节，会在开始时讨论需求，接着介绍设计原则和示例服务/代码，并评估开源解决方案。通过阅读本书，读者将能够了解深度学习系统的工作原理，以及如何开发每个组件。本书的主要读者对象是想要从事深度学习平台工作或将一些人工智能功能集成到产品中的软件工程师。
|
| 關於作者： |
王迟
Salesforce Einstein团队的首席软件开发工程师，负责为数百万Salesforce客户构建深度学习平台。此前，他曾在微软必应和Azure工作，负责构建大规模分布式系统。他目前已申请了6项专利，其中大部分涉及深度学习系统。
司徒杰鹏
PredictionIO的联合创始人兼首席技术官。在PredictionIO被Salesforce收购后，他继续从事机器学习和深度学习系统方面的工作。他目前也为技术初创企业提供投资、咨询和指导服务。
|
| 目錄：
|
目 录
译者序
序
前言
深度学习系统架构参考
第1章 深度学习系统介绍 1
1.1 深度学习开发周期 3
1.1.1 深度学习产品开发周期的
阶段 4
1.1.2 开发周期中的角色 7
1.1.3 深度学习开发周期实例
演练 9
1.1.4 项目开发的规模化 10
1.2 深度学习系统设计概述 10
1.2.1 参考系统架构 11
1.2.2 关键组件 12
1.2.3 关键用户场景 16
1.2.4 定制你自己的设计 17
1.2.5 在Kubernetes上构建
组件 19
1.3 构建深度学习系统与开发模型之间
的区别 20
总结 21
第2章 数据集管理服务 22
2.1 理解数据集管理服务 23
2.1.1 为什么深度学习系统需要
数据集管理 23
2.1.2 数据集管理设计原则 26
2.1.3 数据集的悖论特性 28
2.2 浏览一个示例数据集管理服务 29
2.2.1 与示例服务互动 29
2.2.2 用户、用户场景和整体
架构 35
2.2.3 数据摄取API 36
2.2.4 训练数据集获取API 40
2.2.5 内部数据集存储 45
2.2.6 数据模式 48
2.2.7 添加新的数据集类型（IMAGE_CLASS） 50
2.2.8 服务设计回顾 51
2.3 开源方法 52
2.3.1 Delta Lake和Apache Spark
家族的Petastorm 52
2.3.2 基于云对象存储的
Pachyderm 58
总结 61
第3章 模型训练服务 63
3.1 模型训练服务：设计概述 64
3.1.1 为什么要使用模型训练
服务 64
3.1.2 训练服务设计原则 66
3.2 深度学习训练代码模式 67
3.2.1 模型训练工作流 67
3.2.2 将模型训练代码Docker
化为黑盒 68
3.3 一个示例模型训练服务 69
3.3.1 与服务进行交互 69
3.3.2 服务设计概述 70
3.3.3 训练服务API 72
3.3.4 启动新的训练作业 73
3.3.5 更新和获取作业状态 75
3.3.6 意图分类模型训练代码 78
3.3.7 训练作业管理 79
3.3.8 故障排除指标 80
3.3.9 支持新的算法或新版本 81
3.4 Kubeflow训练算子：开源方法 81
3.4.1 Kubeflow训练算子 82
3.4.2 Kubernetes算子/控制器
模式 82
3.4.3 Kubeflow训练算子设计 83
3.4.4 如何使用Kubeflow训练
算子 84
3.4.5 如何将这些算子集成到现有系统中 86
3.5 何时使用公有云 87
3.5.1 何时使用公有云解决
方案 87
3.5.2 何时构建自己的训练
服务 87
总结 89
第4章 分布式训练 90
4.1 分布式训练方法的类型 90
4.2 数据并行 91
4.2.1 理解数据并行 91
4.2.2 多工作节点训练挑战 93
4.2.3 不同训练框架的分布式训练（数据并行）代码编写 94
4.2.4 数据并行–分布式训练中的工程化努力 98
4.3 支持数据并行–分布式训练的示例
服务 100
4.3.1 服务概述 100
4.3.2 与服务进行交互 101
4.3.3 启动训练作业 103
4.3.4 更新和获取作业状态 106
4.3.5 将训练代码转换为分布式
运行 107
4.3.6 进一步改进 108
4.4 训练无法在单个GPU上加载的
大模型 108
4.4.1 传统方法：节省内存 108
4.4.2 流水线模型并行 110
4.4.3 软件工程师如何支持流水线并行训练 115
总结 115
第5章 超参数优化服务 117
5.1 理解超参数 118
5.1.1 什么是超参数 118
5.1.2 超参数为什么重要 118
5.2 理解超参数优化 119
5.2.1 什么是HPO 119
5.2.2 热门的HPO算法 121
5.2.3 常见的自动HPO方法 125
5.3 设计一个HPO服务 126
5.3.1 HPO设计原则 127
5.3.2 通用HPO服务设计 128
5.4 开源HPO库 129
5.4.1 Hyperopt 130
5.4.2 Optuna 131
5.4.3 Ray Tune 133
5.4.4 后续步骤 136
总结 136
第6章 模型服务设计 137
6.1 模型服务的解释 138
6.1.1 什么是机器学习模型 138
6.1.2 模型预测和推理 139
6.1.3 什么是模型服务 139
6.1.4 模型服务的挑战 140
6.1.5 模型服务术语 141
6.2 常见的模型服务策略 142
6.2.1 直接模型嵌入 142
6.2.2 模型服务 143
6.2.3 模型服务器 143
6.3 设计预测服务 144
6.3.1 单一模型应用 144
6.3.2 多租户应用 147
6.3.3 在一个系统中支持多个
应用程序 148
6.3.4 常见的预测服务需求 151
总结 151
第7章 模型服务实践 152
7.1 模型服务示例 152
7.1.1 运行示例服务 153
7.1.2 服务设计 154
7.1.3 前端服务 155
7.1.4 意图分类预测器 159
7.1.5 模型驱逐 165
7.2
|
| 內容試閱：
|
前 言
十多年前，我们有幸参与构建了一些面向最终用户的早期产品功能，这些功能由人工智能驱动，是一个巨大的项目。当时，收集和组织适合模型训练的数据并不是常见的做法。很少有机器学习算法可以被打包为可直接使用的库。进行实验需要手动运行管理，并构建自定义的工作流和可视化，为每种类型的模型定制服务器。除了资源密集型的科技公司外，几乎每个新的人工智能驱动的产品功能都是从头开始构建的。智能应用程序有朝一日会成为商品的梦想似乎遥不可及。
在使用了几个人工智能应用程序后，我们意识到我们每次都在重复着类似的流程，我们发现设计一种通过原型设计将人工智能产品功能交付到生产环境的系统化方式更有意义。这项工作的成果是PredictionIO—一个开源的框架软件套件，它将用于数据收集和检索、模型训练和模型服务的最先进的软件组件整合在一起。它可通过其API进行定制，并且只需几个命令即可部署为服务，还有助于缩短从运行数据科学实验到训练和部署生产模型的每个阶段所需的时间。我们很高兴地得知世界各地的开发者在使用PredictionIO创建自己的人工智能驱动应用程序后，他们的业务得到了惊人的提升。PredictionIO后来被Salesforce收购，以解决更大规模的类似问题。
在我们决定撰写这本书的时候，该行业在健康的AI软件生态系统下蓬勃发展。许多算法和工具可以用来解决不同的用例。一些云供应商，如亚马逊、谷歌和微软，甚至会提供完整的托管系统，使团队能够在一个集中的平台上合作进行实验、原型设计和生产部署。现在，无论你的目标是什么，你都有很多选择和多种方式将它们组合在一起。
然而，当我们与团队合作交付深度学习驱动的产品功能时，我们会不断面对一些问题。为什么我们的深度学习系统会设计成这样？对于其他特定用例，这是不是最佳设计？我们注意到初级软件工程师是最常问这些问题的人，所以我们采访了其中一些人，并试图找出原因。他们透露，传统的软件工程培训并没有使他们能够有效地与深度学习系统一起工作。在寻找学习资源时，他们只能找到关于特定系统组件的零散信息，几乎没有资料讨论软件组件的基本原理、为什么它们以这样的方式组合在一起，以及它们如何共同工作以形成完整的系统。
为了解决这个问题，我们开始构建一个知识库，并将其扩展成一套类似手册的学习材料，其中解释了每个系统组件的设计原则、设计决策的优点和缺点，以及技术和产品角度的基本原理。我们得知，我们的学习材料有助于新的团队成员快速提升能力，并使得没有深度学习系统建设经验的传统软件工程师也能迅速掌握相关技能。因此，我们决定将这些学习材料以书籍的形式分享给更广泛的读者。我们联系了Manning出版社，促成了本书的出版。
关于本书
本书旨在培养工程师设计、构建或调试有效的机器学习系统的能力，并根据他们可能遇到的需求和情况定制这些系统。他们开发的系统将促进、自动化并加快各种机器学习项目（尤其是深度学习项目）的发展。
在深度学习领域，模型是最受关注的。考虑到从这些模型开发的新应用程序不断涌入市场，这种关注可能是合理的—这些应用程序激发了消费者的兴趣，例如，能够检测人形的安全摄像头、在网络游戏中表现得像真人一样的虚拟角色、能够编写代码解决任意提出的问题的程序，以及可能在未来最终实现全自动驾驶汽车的高级驾驶辅助系统。在非常短的时间内，人们对深度学习领域抱有巨大的热情，并将其视作有待被完全实现的潜力领域。
但模型并非是独自运作的。为了实现产品或服务，我们需要将模型置于一个系统或平台中（这两个术语可以互换），该系统或平台为模型提供各种服务和存储支持。例如，它需要一个API、一个数据集管理器以及用于存储工件和元数据的存储空间等。因此，每一个深度学习模型开发团队的背后都有一个负责创建支撑模型及所有其他组件的基础设施的非深度学习开发者团队。
笔者在行业中观察到的问题是，负责设计深度学习系统和组件的开发者往往只对深度学习有浅显的了解。他们不理解深度学习在系统工程中需要满足的那些特定要求，因此在构建系统时倾向于采用通用的方法。例如，他们可能选择将所有与深度学习模型开发相关的工作抽象出来，交给数据科学家，而自己只专注于自动化。因此，他们构建的系统依赖于传统的作业调度系统或商业智能数据分析系统，这些系统并未针对深度学习训练工作的运行方式或深度学习特定的数据访问模式进行过优化。其结果就是，系统难以用于模型开发，模型发布的速度也很慢。造成这些问题的本质原因是，业界选择对深度学习缺乏深入理解的工程师构建支持深度学习模型的系统。其后果自然是，他们构建的工程系统效率低下，不适用于深度学习系统。
关于深度学习模型开发，已有大量从数据科学家的角度出发，涵盖数据收集、数据集增强、编写训练算法等方面的文献。但很少有书籍或者博客对支持所有这些深度学习活动的系统和服务进行讨论。
在本书中，我们将从软件开发者的角度探讨如何构建和设计深度学习系统。我们的方法是首先从整体上描述一个典型的深度学习系统，包括其
|
|
購物車/收銀台(0) | 在線留言板
| 付款方式
| 聯絡我們
| 運費計算
| 幫助中心 |
加入書簽
HOME
新書上架
