推荐序二

收到永会的书稿，非常惊喜。永会在移动端深度学习技术的开发和应用领域深耕多年，积累了丰富的经验，也是飞桨（PaddlePaddle）端侧推测推理引擎的核心建设者之一。我想永会的这本书不论是对移动端的框架开发者，还是对应用开发者来说，都是很有价值的。

深度学习凭借其突出的效果和良好的通用性，正推动着人工智能技术迈进工业化阶段。深度学习早已不局限于学术研究，它正在越来越广阔的实际应用中发挥着重要作用。我们也注意到，深度学习应用已从云端扩展到边缘和终端设备。智能手机的普及使得移动端的深度学习技术引起了广泛关注，当然，用户体验和数据隐私等问题是需要考虑的。

百度作为国内深度学习技术研发和应用的领跑者，早在几年之前就已经开始移动端深度学习计算的框架开发和应用工作了。永会作为最早的开发者之一，见证了百度移动端深度学习框架开发和应用的历史，也收获了丰硕的成果，他所做的工作极大地提升了百度App等诸多产品的体验效果，相关技术沉淀也促使了飞桨端侧推测推理引擎的发展和成熟。

虽然永会及其团队所做的很多工作已经通过开源代码展示出来，但是代码库无法全面展示开发者的开发经验和思考感悟。移动端的深度学习开发有很强的特殊性，并且这个领域相对较新，目前还没有太多讲解深入的书籍和资料。这本书正当其时，很有意义。

永会既是底层框架开发者，也是上层应用开发者，这样的双重经验非常难得，而本书的内容也充分体现了这一特质。本书从移动端深度学习应用讲起，从实际应用需求讲到驱动底层技术的优化，最终又通过产品落地收尾，展示移动端深度学习技术的研发对应用的推动。这样的顺序应该是便于大家阅读和理解的。

在移动端应用深度学习技术，既要考虑深度学习技术应用的一般性问题，又要考虑移动端硬件平台和应用的特殊性，想讲好其实挺不容易的。本书的主体内容全面而又精要，显然是下了功夫的。例如，书中对移动端常用算法和硬件存储计算特点的介绍很清晰，能够帮助没有移动端开发和应用经验的读者快速入门，而对于有经验的开发者，也不失为一次系统学习和思考的机会；后面关于移动端CPU和GPU的性能优化部分，则介绍了作者积累的很多实战经验；此外，关于通用矩阵计算加速、快速卷积算法、模型或框架体积优化、内存分析、编译优化等各方面的描述也都做到了深入浅出、细致周到。可以说，本书凝聚了永会长期在一线开发的心得体会，值得仔细品味。

移动端深度学习应用方兴未艾，硬件平台和算法应用都在快速发展，并且正在向广泛的终端设备和边缘计算设备普及。端侧深度学习的机会更多，挑战也更大。最近，在之前移动端预测引擎的基础上，百度飞桨发布了Paddle-Lite，旨在通过高扩展性架构支持更多硬件平台，提供更高性能的计算，目前还有很多工作要做。可以预见，未来会有更多的端侧AI应用走进我们的生活，这将是非常激动人心的。

期待永会对Paddle-Lite做出更多的贡献，当然也期待永会有更多的技术心得和大家分享。

于佃海

百度深度学习平台飞桨总架构师