人工智能行业:深度学习技术选型白皮书（2018年）

　　（一） 深度学习框架是人工智能产业化落地的核心

　　当前， 基于深度学习的人工智能算法主要依托计算机技术体系架构实现， 深度学习算法通过封装至软件框架1的方式供开发者使用。 软件框架是整个人工智能技术体系的核心， 实现对人工智能算法的封装，数据的调用以及计算资源的使用，起到承上启下的重要作用。

　　人工智能基础性算法理论研究已经较为成熟， 各大厂商纷纷发力建设算法模型工具库，并将其封装为软件框架供开发者使用。软件框架是算法的工程实现。企业的软件框架实现有闭源和开源两种形式：少数企业选择闭源方式开发软件框架，目的是打造技术壁垒；目前业内主流软件框架基本都是开源化运营。 本白皮书主要关注开源软件框架的技术及应用特点，对闭源软件框架不做过多讨论。

　　（二） 深度学习框架的分类

　　基于深度学习技术的服务及产品主要涉及到三类软件框架， 按照应用场景分为云端训练、云端推断以及端侧推断。不同应用场景任务不同，所需承载的计算及限制条件也存在差异，因此针对各场景计算工具的功能及性能要求均有不同。

　　云端训练框架主要完成面向海量数据的模型训练任务， 对算力要求最高，实际应用中需要采用分布式计算等技术，同时对于工业级模型及稳定性也有特殊要求；云端推断框架主要完成训练模型的优化、云端部署及推断计算等工作，对于效率及并发性等具有特殊要求；终端推断框架主要完成训练模型在终端的部署及计算，由于终端功耗、功能、芯片等众多限制，终端推断框架的性能、能耗及自身优化需满足多种限制性要求。