讲导师 | 赵鹏昊 本文编辑 | 师侥
去年3月，智东西公开课推出超级公开课NVIDIA专场，目前已讲解完12场，共12位主讲导师参与。
本次讲解为超级公开课NVIDIA&百度联合专场，也是超级公开课NVIDIA专场第11讲，由百度AI技术生态部高级算法工程师赵鹏昊主讲，主题为《如何借助GPU集群搭建AI训练和推理平台——零算法基础的百度EasyDL定制化图像识别揭秘》。
赵鹏昊老师对百度EasyDL定制化训练和服务平台进行了全面讲解。EasyDL是基于大规模NVIDIA Tesla P4,P40为主的GPU集群搭建而成，使得算法小白也能通过这一平台最快五分钟完成一些小规模数据集的训练，获得一个90%以上的高精度的定制化模型。目前EasyDL主要开放了图像分类、物体检测和声音分类能力。
以下是赵鹏昊老师的主讲实录与大纲，共计9418字，预计10分钟读完。
大纲
1.AI赋能行业的痛点
2.EasyDL服务端和设备端技术解析
3.GPU集群加速EasyDL训练与推理
4.EasyDL赋能行业案例分享
主讲实录
赵鹏昊：大家好，我是百度的工程师，赵鹏昊。今天晚上给大家讲解我们是如何利用GPU集群搭建的一些EasyDL平台的。我们今天会从以下四点给大家进行讲解。第一点是：AI赋能行业的痛点；第二点：我们EasyDL平台的服务端和设备端的技术解析，第三点：我们如何利用GPU集群来加速EasyDL的训练和推理。最后是我们EasyDL对行业的一些案例的分享。
AI已经是大家耳熟能详的名词了，像我们生活中都能见到像人脸识别的技术、像我们百度出的小度在家、小度智能音箱这种智能语音的技术、多轮对话的技术还有我们百度与金龙客车合作的无人驾驶技术。这些都已经慢慢的进入到我们寻常人家并在改变我们的生活。近十几年来，我们在理论上、框架上、芯片上等等各个方面上技术的发展，AI正在成为新时代的电力。
< class="pgc-img">为了让AI成为新时代的电力，百度AI开放平台开放了一些通用的模型来解决一些通用的需求，比方说，我们已经开放了OCR技术、图像识别、自然语言处理等技术。百度AI开放平台使用通用的模型去解决一些同样的问题，比如OCR技术里面会有一些身份证、银行卡的OCR识别。这些技术运用了我们百度内部长期积累的数据和算法，我们希望通过我们积累的这些数据和算法，能够提供高质量的模型来给用户使用。
有些客户会有一些像右边这些图中的需求：比方说：他们想要通过图片去识别出这是哪种中草药，以此来帮助他们的工作人员去进行药品鉴定。再比如说：品牌的零售广告主，他们会签约一些小超市和小卖部，让他们把自己的产品摆放在货架大部分的位置，所以就有了巡检员去巡检摆放合不合规。
< class="pgc-img">但是通用模型解决不了这些需求，这就涉及到AI定制化需求时碰到一些难题，这些客户的核心诉求，第一：通用的API不能够满足他们的业务需求，需要根据他们自己的数据去训练他们独特的模型。第二：这些客户往往对自己的专业的领域知识很了解，但是他们不了解深度学习的理论和模型训练的方法，而且他们也不希望去面对繁琐的训练、部署、运维等工作。第三：他们希望快速的去验证这个模型的效果。
用户在验证效果满意之后，还希望能够拿到一个定制化服务的API或者想要做自由化的部署，拿到一个离线的SDK，去结合他们的产品做成一整套自己的产品和服务。
< class="pgc-img">EasyDL平台正是看到了AI赋能行业的痛点，看到了用户在做定制化需求时的诉求，所以开发了这样一个定制化训练模型和服务的平台，左图是EasyDL平台的整体架构，用户提供自己的数据，这些数据可能是图片、文本、声音或者视频等等。然后放入平台中，由平台做加工学习、部署和服务。最终给用户提供一个云端独立的RestAPI或者是一个离线SDK，让用户能够补充到自己的终端智能设备中。
我们跟普通机器学习和深度学习工具的差异，跟TensorFlow或跟百度自己的PaddlePaddle这些工具的差异是：提供从数据到服务的一站式平台，不需要用户有任何机器学习或深度学习基础，并且我们按能力划分：比如图像分类能力、物体检测能力、声音分类能力以及刚上线的声音分类能力后面还会有更多能力。我们不仅提供了一个云端的RestAPI的服务,还提供了设备端SDK的服务。
并且EasyDL平台使用方便、训练模型更加轻快、精度更高，而且我们有强安全的策略能够保护用户的数据和模型。
< class="pgc-img">下面给大家介绍EasyDL平台服务端和设备端的技术。首先是服务端的核心技术，下面从四个方面给大家介绍。第一个是说我们如何提供从数据到模型到接口的一站式服务。里面就是主要涉及到我们开发的AIworkflow的分布式引擎以及百度的PaddlePaddle深度学习框架。第二是在数据较少的情况下如何做到训练效率的提高，主要涉及到我们迁移学习技术。第三：如何做到更高的精度。主要是Auto Model Search和Early Stopping的机制。最后给大家介绍一下我们EasyDL平台模型效果评估的功能。
< class="pgc-img">一般的深度学习工作流程如下：将大量标注好的数据存在数据仓库中。然后通过一些数据清洗工具做ETL。清洗数据并提取需要的特征，可能还会做一些训练及验证集切分等。用这些清洗好的数据做分布式训练，之后对得到的模型去做一个效果评估。如果满意，最终会把它去做一个部署，然后可以让它上线服务。
我们AI的训练集往往很大。在大数据领域，大家都知道经典的3V原则，无论是数据容量、数据增长速度以及数据多样性都非常大。所以我们在工程上，加入了一个大数据工程系统作为基础设施来提高我们整个EasyDL的效率和便利性。右图是EasyDL的AIworkflow的分布式引擎的解决方案，左图是我们用mongoDB Hadoop HDFS来做的一个分布式存储。
我们后面会用spark集群去对数据做分布式的预处理和模型最后的分布式评估。在训练阶段我们是用kubernetes集群来做调度。模型是用paddlepaddle写的。最后呢，我们把训练好的模型通过docker技术在平台上做一个服务。
< class="pgc-img">我们在paddlepaddle框架的API上做进一步的封装。我们对数据的预处理、模型的训练、模型的评估等阶段，做了进一步的抽象。这样使得工作流可以完全的实现配置化和自动化。
刚才我们也提到了paddlepaddle这种百度开源的深度学习的框架。paddlepaddle上面开源了我们百度一系列的成熟的模型和数据。并且他还有大量的中文的文档视频培训课程等。所以说他可以说是最适合我们中国的开发者的一个框架，以及paddle mobile、可伸缩扩展EDL和可视化VisualDL插件等可伸缩的扩展的、可视化组件等这些功能。右边是我们EasyDL使用paddlepaddle的一个应用事例。从这个事例中我们可以看出来，用paddlepaddle做我们模型的定义和训练是非常方便的。
一般而言，深度神经网络的训练需要大量的标注数据，但是有定制化需求的客户拥有的标注数据往往有限。而且从头训练一个神经网络是很花时间的，但是客户希望更快地得到训练的模型。
< class="pgc-img">为了解决这样的矛盾，我们采用了迁移学习技术。迁移学习通过源领域数据学习到知识，然后将其应用到相关的目标领域中，帮助目标领域的任务完成训练。比如，我们可以在一个通用的植物分类模型中学习到一些识别植物的知识，然后将这种知识应用到前面提到的中草药识别任务中，帮助它更快更好的训练。
举个例子，比如说我们刚才提到的中草药识别。如果说我们有一个通用的植物分类模型。那么我们就可以将这个模型中学习到的一些识别植物的知识运用到中草药分类的任务当中，来帮助他更好的去做训练。具体来说，我们是将百度大规模的标注数据集在深度神经网络上去做预训练，然后我们得到训练的参数，然后我们将这种预测训练的参数加载到我们这个网络中，根据用户的数据在网络得到用户自己的一个模型。
具体的，我们将百度大规模的标注数据集在深度神经网络上做预训练，得到预训练参数，然后将用户的数据在预训练模型中做微调，最终得到用户的定制化模型。训练时间从几十小时降到分钟级别。此外，我们还支持多领域预训练、数据闭环、持续训练等机制。
< class="pgc-img">为了更好的去匹配不同的数据，我们利用Auto model search设施对模型的结构调整，和超参数、优化器等等这些去做自动的搜索，去选取一个最佳的模型。另外，用户提供的数据量有时候比较小，在我们深度神经网络训练中，往往就会出现一个过拟合的现象，对应为了应对这种过拟合的现象，我们就采取了Early Stopping机制来降低过拟合的风险，提高模型的可能性。目前。我们图像分类绝大部分模型的准确率在百分之八十以上。
< class="pgc-img">我们提供了全面的模型效果的评估功能。我们有一个整体模型评估的页面去展现出我们整个模型的像准确率、正确率等指标。比如说图像分类中每个分类的精确度，比如说在物体检测中，我们会展示这个不同阈值下的F1Score。我们会帮助我们的用户去选择一个阈值。我们还提供了BadCase的展示，然后通过BadCase展示我们的模型哪个图片识别错了，然后有一个感性的认识，去发现自己数据当中可能存在的问题，或者去补充一些效果比较差的一些分类的数据。
以上是我们服务端的核心技术。大家也知道我们不仅提供云端的API服务，也提供离线SDK。那么我们为什么要做这样的一个设备端计算呢，这其实是IoT领域提出的一个概念，在智能家居领域里面，每个家庭的局域网内有很多智能的设备。有些计算自己可能就可以在自己的设备上完成。然后，但是计算力不够的时候，有可能需要中间有一层叫做雾计算的结构。所以需要去做一些运算和协调计算。如果再不能满足，便再向上请求到云计算的服务器去做计算和协调这样的一个多层的计算网络的结构。
< class="pgc-img">就是因为云计算和设备端计算他们有不同的特性，就向右边这张表格所展示的，云计算在计算能力方面非常的强大，而且系统的架构非常的开放，非常的集中在一些机房里，而且研发成本相对较低。因为互联网时代已经有非常这样的开发经验。但是设备端计算也有自己的一些优点，虽然算力有限但是可以做到比如模型的前向推理，没有网络的依赖，可以做到实时的响应，而且它的功耗非常的低。
< class="pgc-img">正是由于设备端有这样的响应、没有网络开销，而且方便私有化部署、保护隐私等等这样的优势。所以说我们也支持了设备端计算的能力，并且非常看重这个方向。目前我们EasyDL的平台，已经支持了iOS 利用MPS实现GPU加速和ARM芯片通过NEON技术加速和android方面支持NPU的加速计算，并且还会有计划去支持更多的系统和计算平台。
< class="pgc-img">目前我们提供设备端能力是通过下面两种方式。首先，提供了一个默认的app，用户扫码就可以安装并使用。在这个app里面内嵌了定制模型，还有一些基本的UI界面用户就可以在里面去操作去试使用。另外一种方式是我们提供了离线的SDK，这个SDK里面封装了完善的接口，可以满足开发者去做灵活的二次开发。下面给大家简单介绍一下我们EasyDL设备端的技术。我们的EasyDL设备端也是基于Paddle Mobile设备端深度学习计算框架去做的，并且我们已经广泛支持主流的设备操作系统和芯片，并且还做了设备的模型的转换压缩优化。在设备端计算加速这块，我们就是充分利用的设备端芯片进行加速，比如说我们在IOS上用了MPS库，可以更好的利用IOS上面的GPU进行加速。我们还在ARM芯片上通过NEON技术来做加速。
除了速度时间这个因素之外，我们在设备端去部署模型还要考虑的一个问题是模型的体积。在服务器上，我们都到的机器学习模型往往大小在两百兆到五百兆或者说更大。因为深度学习网络的模型会比较复杂，而且，尤其是如果说你有很多全连接层，参数就会更多，但是设备端的内存容量，计算能力一般都远远低于服务端。我们手机的内存可能就两G，这已经很大了，而且我们也不可能把这个全部都占满，所以说我们必须得做模型压缩，然后减少内存占用，提高计算的效率。
目前，我们通过一些模型加速的技术可以把这个移动端的模型的体积压缩到二、三十兆。我们采用的压缩技术包括把一些不重要的参数去掉，量化，将一些浮点数量化成8bit的数值或者4bit的数值。或者是采用一些更轻量化的网络。
< class="pgc-img">下面呢，给大家介绍一下我们如何利用GPU集群去加速EasyDL的训练和推理。我们EasyDL平台主要就是利用英伟达的特斯拉系列的GPU去做去深度学习的平台。目前主力是p4和p40这样的GPU，我们还用到了这样像V100这样的高端的GPU来做模型的训练实验等。我们用这样的大规模集群去做并发的训练来支撑我们大规模的深度神经网络的并发的训练。能够大幅度缩减我们训练的周期。像这个p4有5.5t的单精度的计算能力。
P40的有12tfloat单精度计算的能力，并且p40的显存是24G，P4的显存只有8GB。所以我们在P4做我们这个模型的部署和服务，在P40，V100上去做模型的训练。
< class="pgc-img">我们模型的线上推理阶段采用了大规模的P4为主的集群。通过我们这里的数据可以看到，利用GPU集群的性能远远超过了CPU的集群。在我们典型的一个业务场景下，我们对集群单点的承载和实验的性能进行了压力的测试，大家可以看到我GPU集群的显著优于CPU的集群。
< class="pgc-img">由于基于GPU集群的训练和服务都足够的快，所以说在用户体验方面，我们EasyDL的用户最快五分钟就可以完成一些小规模的数据集的训练并且获得服务。我们比同样的需求通常需要数天的训练的周期相比我们大幅的提升了效率。这样的就解决了我们定制化模型训练和服务中的一些效率的挑战。
我们用刚才所说的kubernetes来完成了我们GPU集群的搭建。这样我们可以对训练和服务做到统一的资源调度来高效的利用我们的资源。并且也有很好的扩展性，我们还可以通过扩展我们GPU的集群的规模来拓展训练的能力，扩展我们服务的能力。并且我们有这个高可用的特性，如果有故障了，也不会影响到我们集群的一个服务能力，保证我们服务的一个稳定性。
< class="pgc-img">最后，跟大家分享一下我们EasyDL行业的一些案例。目前，我们可以解决两个问题。其实现在已经是三类的问题了，就是后面我会给大家介绍我们第三类的能力。这两个问题是说我们有图像分类的能力，我们可以通过一张图片去识别它到底是属于客厅还是餐厅。这样的话可以方便我们互联网内容的平台去做图片的自动打标签的一些功能。我们还有物品检测的能力，就是说我们可以识别出来这张图片里面有没有空调，空调在什么地方。我们可以将这种能力的应用到我们零售仓储行业的商品货品，检测统计等等这样的场景中。
我们EasyDL平台，从去年十月份上线一测以来就支持了刚才所说的图像分类能力，在今年四月份我们又开放的物品检测的能力。在今年五月底我们支持了刚才介绍的设备端计算能力也就是离线SDK能力。刚刚大家跟大家想到我们有第三个能力，这也就是我们昨天刚刚上线的声音定制化识别的能力，大家有兴趣就可以去我们平台上试用。
< class="pgc-img">第一个给大家分享的案例是蝶鱼科技的案例。这是一家制造键盘的制造商，然后他们的场景是说在键盘的制造过程当中会有一些缺陷或者错装以及不符合规格的情况。他们要把这些识别出来的跟正常的做区别然后再出场。之前这都是通过人工去做的。在利用了我们EasyDL平台去训练了三千多张图片之后，识别率达到了百分之九十九以上。他们就让我们的EasyDL接口和他们自己的供应摄像头做了一个综合的检测系统来帮助他们的生产线每年节省了十二万的人工检测成本。
< class="pgc-img">第二个案例是美国的零售安防的供应商，他在美国的纽约州，新泽西州等等七个州一百多个超市里面有一千多台摄像头设备，主要就是来监控购物车下层有没有没付款的商品。之前他们都是通过传感器去判断的，但是传感器对于一些残疾人购物车或者儿童购物车这些错误的识别率很高，所以他们利用我们的平台去做一个EasyDL模型的训练。最后的准确率能够达到百分之九十五以上，远远超过了这个客户的预期。
< class="pgc-img">前面介绍的都是图像分类的一些案例，这个是物品检测的案例。这家客户是叫做惠合科技，他们有个产品叫做e店佳。就是通过零售部门店去做拍照，然后去看这个摆放的商品合不合规。之前的他们都是巡检员去巡检，然后用人工的方式去统计。这样一方面成本很高，另一方面。作弊的现象也比较多，利用我们EasyDL平台去做这样的一个物品检测的模型训练之后，他们接入了这样的一个自动化的审核的方案使得他们审核效率提升了百分之三十。
< class="pgc-img">最后一个案例，那来自于我们百度的合作伙伴CELLA，CELLA是面向企业客户的一个系统集成商，这是他为圣象地板做的解决方案，圣象地板会有一些瑕疵。利用我们百度EasyDL平台，他对前面两种瑕疵去做图像的分类，对后面两个去做物体检测，整体的测试识别准确率能达到百分之九十五以上。然后。我们将这样的一个方案的离线SDK移植到我们客户的智能摄像头里面，去做成了一个软硬一体的方案。这样的话提高了我们单片木板的产能，现在的处理时间仅为原来的一个四分之一。
EasyDL平台如此多成功的案例。那么他复杂吗？一点都不复杂，只需要简单四个步骤，只需要十分钟就可以获得自己建立模型。第一步就是创建我们的数据和模型。第二个就是模型的训练，第三步是验证模型的效果，第四部是发布模型的服务。在我们EasyDL的首页里面有用户的说明文档，还有教学的视频，大家感兴趣可以去。看看我们这些这个教学的内容去尝试一下使用我们的EasyDL。
提问环节
问题一
朱俊-炙伦云计算-总经理
1、EasyDL是一个教学或学习平台还是一个生产平台？
2、训练后获得的算法，是否可以在离线环境下使用？离线环境需要具备哪些条件
3、EasyDL是否提供训练用的数据集？用户是否可以上传数据集，对上传的内容是否有限制？
赵鹏昊：1、我们没有定义EasyDL平台一定是一个什么样的平台。EasyDL平台无论是针对普通的开发者还是商家都是可以用的，如果你是一个学生，你可以在上面去做些实验或者去跑一些好玩的东西。如果你是一个传统行业的从业者，你也可以去发现有哪些是希望借助人工智能去解决的问题，在我们平台上去寻求一个模型的解决方案。因此，它是什么平台取决于用户怎么用，同时目前也是完全免费的。
2、目前支持离线环境下的使用，我们已经有了提供离线SDK服务的能力，用户不需要在网络环境上去请求云端的API，完全可以把离线的SDK集成到自己的环境中去做私有化的部署。
3、EasyDL平台没有提供数据集的，因为我们是针对那些有定制化需求的用户，这些用户有自己特有的数据集，我们提供的是上传数据集功能的，可以根据他们自己行业里面或者自己需要解决的问题去上传属于自己的数据集。另外，我们对上传内容的限制也仅仅是图片的大小，比如每张图片小于四兆。
问题二
李平-中油瑞飞-工程师
1.EasyDL能否训练模型，识别阀门开关状态，数字仪表的示数，以及指针仪表读数？
2.还有个问题，就是EasyDL和百度的boteye一体机是什么关系，两者怎么协同工作？能否根据设备指示灯判断设备工作状态？
赵鹏昊：1、这个是可以识别的。比如，你可以把这个数字仪表都拍下来，用物体检测模型将上面的示数1、2、3、4、5框起来，然后给它一个对应的类别，是类别一还是类别二或者是类别三。当后面有新的数字仪表的图片进来放到物体检测时，就可以直接给你返回相应的示数和对应示数的位置。当然，百度AI平台还有其他相关的识别，你也可以了解下这方面相关的一些技术。
2、Boteye是百度视觉技术部门做的一个智能摄像头，主要是用于视觉巡航。目前来说我们还没有跟Boteye有深度的结合，但是我们跟Boteye的团队做的另外一款产品叫做Xeye有一些后面的合作，因为Xeye是做端上的AI相机，我们可以用端的能力去做一些比如图像分类、物体检测等工作。大家也可以去关注一下我们后面跟Xeye的一些合作。
问题三
王绍迪-知存科技-CEO
EasyDL未来的发展定位是什么？提供更多样数据，支持更多的算法开发，甚至支持其他非深度学习类脑算法开发？
赵鹏昊：对于EasyDL平台未来的发展肯定是要提供更多的模型和能力。目前已经有了图像能力，包括图像分类、图像检测等，另外，我们也提供了声音分类的能力。后面还需要去支持更多的能力，比方，文字分类、情感分析以及视频监控等等的能力。
这是在我们平台内部的发展，另外我们还想与外部（百度其他的部门）有更多的合作。比方，我们百度有AutoDL部门，我们不需要用人工去设计一个网络了，而是用算法去自动搜索一个网络，这跟我们定制化地去训练模型有一些共同之处，我们正在打算跟他们去沟通合作，如何将AutoDL的能力应用到EasyDL上来，帮助用户更好地去训练他们的数据，得到一个更好的模型。同时，我们百度开放平台会提供一个叫做AIstore的平台，在上面，可以让开发者去做开发，也可以让一些有需求的买家去购买算法应用到自己的平台上。而我们EasyDL平台会跟AI市场有进一步的合作，将整个上下游的关系都打通，建立起一个整体的生态。
问题四
王猛-大华-开发
EasyDL对模型和数据安全保护方面有什么措施，如何保证训练结果与数据的安全？
赵鹏昊：目前对用户上传的数据是有多重的保护的。一方面我们会对请求的数据做多方的鉴权，去核实你是不是当前对应的用户；另外一方面，我们在数据保存的时候也会做进一步的加密。因此我们对数据和模型的安全性是非常看重的，而且也做了非常多的保护工作。
问题五
涂文哲-电子科技大学-研究生
EasyDL与其他平台有什么突出优势？
赵鹏昊：就像刚才所说的，EasyDL平台已经提供了设备端能力，目前为止，我们的一些竞品平台，比如Google的平台还没有提供设备端能力的一种解决方案，而且EasyDL平台非常的简单易用，只需要十分钟就可以去完成，不需要任何的机器学习基础。
问题六
王慧丽-湖南飞腾-工程师
EasyDL定制化平台，主要是软件算法定制吗？还是支持针对特定应用和算法加速的硬件定制？
赵鹏昊：EasyDL平台主要是模型的定制，而刚才我们也介绍了EasyDL平台设备端的能力，我们会根据一些设备端异构的芯片去做一些特定的加速。因此，也可以认为会针对这个特点支持硬件定制。
问题七
文奴-中科智能-产品总监
工业检测中，检测目标更有多样性，比如：裂痕、划痕、凹陷。且检测目标的大小不一，深度学习方式的分类训练样本如何高质量获得，又如何准确具有高泛化能力？
赵鹏昊：EasyDL平台提供了目标检测的能力以及数据标注的能力，但是训练的样本还是需要我们客户自己来进行标注，如果您在行业里面碰到了裂痕、划痕和凹陷等问题，相对而言，您对这个方面最为了解，那么你就需要把您自己的情况将图片拍下来，然后去我们平台上进行标注。当然，由于标注成本比较高，因此，后续也会有跟一些众包商进行合作，为大家提供众包的标注服务。
关于模型的性能，在物体检测中，我们有很多优秀的模型，从最开始的FastR-CNN到SSD、YOLO、FPN、RetinaNet等等，EasyDL平台也会紧跟学界最先进的模型去做开发，让我们的用户能够体验到深度学习最前沿的发展带给大家的便利。
问题八
姜毅-中科院-算法
1.EasyDL云端训练好的模型及参数可否导出，并部署到其它系统中？如何进行？
2.关于Easy AI Workflow Solution，其中以下几点是否有专门的设计用意？PaddlePaddle使用kuberbetes容器，Inget task使用hadoop和mongodb，Pre&eval task使用Spark框架。
3.PaddlePaddle框架在定义网络模型时支持动态图吗？
4.PaddlePaddle框架相对TensorFlow，Caffe等开源框架有什么显著的优点？
赵鹏昊：1、像我刚才所说，EasyDL支持设备端的SDK，用户可以利用设备端的SDK来部署到你自己的服务中，只要有SDK的开发能力就可以了，但是目前我们不支持模型参数的导出。
2、关于Easy AI Workflow Solution的设计，我们主要考虑到稳定性、可扩展性以及成熟性等方面。在数据存储上，我们用的是hdfs,mongodb，这些都是在分布式系统和分布式DB中比较公认的，而且有很多实践经验的系统，在数据处理方面，spark也是这样的一个分布式系统。我们之所以使用Kubernetes和PaddlePaddle，是由于它们有很成熟的解决方案，同时也非常稳定和易用。
于祥：3、4：PaddlePaddle是我们国产的一个框架，和其他行业相比，它的设计最大优势在于易学易用，首先是易学，我们官方已经上线了将近四百套相关的课程，这些课程从底层的数学理论到最后实战项目和一些可以落地应用的项目。整个流程都是非常完善的，按照这个课程，一步一步入门Paddle，也不会是一条很陡的学习曲线。
其次，Paddle周边的生态环境非常的丰富，对于刚入门的同学来说，我们可以有n种方式去安装Paddle，最简单的方式就是使用一个Docker，但对于学生群体来说，会有一个问题，就是我们没有那么多的钱去买云的GPU服务器或者带GPU自用服务器，那么就可以使用我们的AI Studio平台，它直接提供了免费的计算资源供我们使用，而且还免去了安装这一步。易用是指它的编程范式抛弃了像TensorFlow中一些新的概念，它还是用原有的一些过程性的程序编程范式，比如循环、判断、分支等来构建神经网络，这样就会比较贴近我们学习编程时的一些思维，也不会去学习很多新的概念。
新课预告
8月9日（下周四）晚8点，AI芯片系列课第七节将开讲，由鲲云科技CEO牛昕宇主讲，主题为《基于数据流定制化架构的AI应用与实践》，扫码报名，免费入群听课！
往期课件获取
第一讲，NVIDIA大中华区高性能计算及Applied Deep Learning部门技术总监主讲赖俊杰，主题为《如何搭建适合自己的深度学习平台》
第二讲，NVIDIA高级系统架构师吴磊主讲，主题为《如何为深度学习和HPC提供更高算力》
第三讲，NVIDIA DLI认证讲师侯宇涛主讲，主题为《不需要写代码，如何用开源软件DIGITS实现图像分类》（线上实践课程，无课件）
第四讲，图玛深维首席科学家陈韵强、NVIDIA高级系统架构师付庆平共同主讲，主题为《深度学习如何改变医疗影像分析》
第五讲，NVIDIA DLI认证讲师侯宇涛主讲，主题为《手把手教你使用开源软件DIGITS实现目标检测》（线上实践课程，无课件）
第六讲，西安交大人工智能与机器人研究所博士陶小语、NVIDIA高级系统架构师易成共同主讲，主题为《智能监控场景下的大规模并行化视频分析方法》
第七讲，清华大学计算机系副教授都志辉、NVIDIA高级系统架构师易成共同主讲，主题为《GPU加速的空间天气预报》
第八讲，希氏异构人工智能首席科学家周斌主讲，主题为《如何利用最强GPU搭建医疗人工智能计算平台——医学图像AI领域最强超级计算机首次解密》
第九讲，NVIDIA中国GPU应用市场总监侯宇涛主讲，主题为《揭秘深度学习》
第十讲，NVIDIA高级系统架构师张景贵主讲，主题为《在你的桌面端通过NVIDIA云端GPU开展深度学习》
第十一讲，百度AI技术生态部高级算法工程师赵鹏昊主讲，主题为《如何借助GPU集群搭建AI训练和推理平台——零算法基础的百度EasyDL定制化图像识别揭秘》
第十二讲，NVIDIA 深度学习解决方案架构师罗晟主讲，主题为《医疗领域的深度学习》
< class="pgc-img">< class="pgc-img">< class="pgc-img">< class="pgc-img">< class="pgc-img">< class="pgc-img">< class="pgc-img">< class="pgc-img">< class="pgc-img">< class="pgc-img">< class="pgc-img">< class="pgc-img">< class="pgc-img">门方便蔡品牌管理有限公司专注为企业提供优质团膳服务，打造智慧餐饮团餐模型，新鲜、安全、卫生、高效，时刻保证客户的用餐质量，更懂企业的用餐需求！
1、新鲜现炒品质餐
我们使用现炒团餐模式，使用新鲜的食材，米饭选用的是五常大米，订单当日制作配送，能够完好保留食材的营养和美味，专业的保温设备和运输，送到的饭菜都能保证热腾腾的。
2、打破顿顿千篇一律
家常菜里的扛把子这里都有！菜品一周五天不重样，且每周更新一次菜单，可根据企业员工口味习惯不同进行匹配菜单。我们拥有研发团队持续创新开发，实现团餐菜谱的百变口味，长期享用也不会出现吃几道菜吃腻的现象，满足长期合作需求。
3、标准化操作和管理
我们对食品加工操作流程一直有着严格的管理标准，从食材切配、菜品制作、打包装箱、留样、运输、现场开餐的每一个环节都有标准SOP。餐品制作的时间和温度都有把控，采用智能设备烹饪方式，口味标准有保障。
4、食品安全有保障
严把原材料到餐桌每道关口，食材的供货商资质、合格证明、检测合格报告等资质材料齐全，确保“舌尖上的安全”。
请放心将您的需求交付予我们，我们郑重承诺：采购食材品质新鲜、规范的价格，明厨亮灶制餐环境，每一步都确保用餐的品质。
如果您有意向，欢迎与我联系，可提供免费试吃！
|特约观察员 汤明磊
在产业互联网众多模式由轻入重的演进趋势中，有一种模式在产业整合效率和价值纵深上体现出了模式的领先性，它就是基于曾鸣教授S2b2c模型基础上提出的b2f产业路由器模型，概念由盛景集团合伙人颜艳春首创。
产业路由器顾名思义，作为连接两个碎片化网络之间的超级接口，以打造赋能型产业共同体为己任，通过b2f模式，团结并全面赋能碎片化的b端（各类商户，承担销售服务职责的小b），深度精准连接闲置的f端头牌资源，从高频、刚需和海量的流量端场景切入，通过实时连接、智能配对，形成流量垄断和价值洼地，进入低频、低量和低需求的利润区获取较高利润，最终通过降低全产业成本和提升全产业效率，形成赋能型的产业共同体。
如果把产业看成是由上下游数以百万计的企业组成的“企业超个体”，产业路由器就是我们看到的这只超个体的中枢神经系统,也是产业互联网时代最大的整合碎片化市场的平台级机会。相比之下，SAAS更像是呼吸系统，B2B更像是循环系统，而作为中枢神经系统的产业路由器，是产业的组织者与整合者,它的威力很大,是一个超级接口,平台一旦动起来,就带动上万家b端销售方和f端生产方形成协同网络,f端生产方通过接入路由器实现新供给,b端销售方通过接入路由器实现新通路,从而形成一个庞大的共同体。
如何打造产业路由器？它的商业模型如何设计规划？横向对比了多个行业的产业路由器后,作为产业路由器理论的传道者和实践者，我将产业路由器具像化地拆解为一个树状中枢系统，从根业务、叶业务、花业务和果业务四个维度分析产业路由器的生长过程。
根业务:协同网络的奇点
根业务是产业路由器的前提和立身之本,也是产业协同的原点。
单纯的在线化切入不能打动小b,“在线化+根业务”才是产业路由器“打动”并“留下”小b的关键。我常常和项目说，SAAS行不通，SAAS+X才叩得开小b的信任之门，这个X就是根业务。
根业务的前提是利他性，而不是打着赋能的旗号，赚通道费广告费，放加盟骗分销，利他是协同网络的初心所在。
在种类上，根业务可以分为基础设施赋能、商品赋能和运营赋能三个方向：
基础设施赋能包括信息化系统、证书授权、安全牌照等等；
商品赋能包括半成品加工服务、背书作用的IP大牌全网最低价的硬通品、引流作用的目的地爆品、延长用户周期的产品订阅制组合等；
运营赋能包括物流服务、库存共享、空间共享、员工管理、交易管理、客户激活管理、培训在线化等。
无论从哪个角度切入，我把根业务的选择与打造总结为三位、三化和三高。
三位指的是时间顺位、频率顺位和心智顺位，核心是找到根业务的第一场景。
兵无常势，水无常形，但流量却依据场景天然有高低势能。有的场景天然就比另外的场景和c端接触更早，有的场景天然就比另外的场景和c端接触更高频，而有的场景在用户心智上天然就比另外的场景更容易形成c端的会员入口，我们把这样的场景称为第一场景。比如妇幼保健院相比家政月嫂机构就更早，幼儿园相比儿童教育机构就更高频，美容店相比医美店、宠物店相比宠物医疗店就更容易形成 c 端会员入口。打造产业路由器，首先团结作为第一场景存在的b端，就意味着团结了更高势能的流量。
三化指的是可视化、可量化、可优化，核心是根业务要有药到病除的实效。
实际投资过程中我们形成了一个更简单粗暴的标准，“3+1”的指标，这是一个四选一的指标，第一个“3”是指根业务是否能够让它的收入或者利润提高3倍以上；第二个“3”是根业务是否帮助小b成本降低30%；第三个“3”是根业务是否帮助小b周转效率提高3倍以上；另外一个“1”，是指根业务是否帮助小b解决了1个糟糕体验，比如申请各类许可证时线下频繁的流程，比如菜贩凌晨需要牺牲睡眠来进货等，如果说谁能做到其中某一项，小b对平台的粘性就会很强，谁就成功了。
三高指的是高频业务、高标准化业务和高门槛业务。
高频指平台和小b 最高频接触的业务，高标准化指平台复制化程度最高的业务，高门槛指平台拥有独家核心竞争力的业务。如果你的赋能业务中有同时符合三高的，那一定是根业务的不二选择。
叶业务：高毛业务的栖息地
叶业务是产业路由器的利润来源，可以看成是产业路由器的变现层，在根业务和花业务之间发挥着承上启下的作用。
光拥有根业务的产业路由器，即使对小b有强粘性，也会因为没有足够的变现能力而丧失竞争力，两者恰如根与叶的关系，根负责吸收水分、矿物质和氮素，让植物有立身之本，固着土壤，叶负责光合作用合成有机物创造价值。
比如，盛景投资的农村家电产业路由器汇通达根业务是大家电，叶业务是小家电、光伏、装配式住房等等；大搜车根业务是二手车，叶业务是弹个车金融和新车交易。根业务与叶业务的关系类似“击穿业务”与“变现业务”。不同的根适合生长不一样的叶，从目前的经验看，依照变现对象不同，我把叶业务分为“存量叶业务”和“增量叶业务”。
存量叶业务一般发生在对b端存量供应链的改造上，在根业务和b端已经取得初步协同效应之后，路由器根据b端存量供应链给出更好的替代方案，比如通过集合分布式的b端向上获得厂家或品牌方更有利的条件。
比如之前我们看到的五金家修店路由器修修，在对小b赋能的过程中发现，由于新房整装市场与旧房局装市场的区别，旧房翻新场景没有专用腻子和墙纸胶，用的都是以前整装的标准，干燥时间慢，至少需要十个小时，远远超过用户的心理预期，旧房翻新场景的速干腻子和速干胶便成为了存量叶业务，自然嫁接采购需求。我之前投过一家外卖店路由器吉刻联盟，一年时间实现估值数十倍跃升，它的存量叶业务之一也是嫁接外卖小b端的供应链食材集采服务、大型半成品食材加工设备租赁服务和统一物流配送服务。
增量叶业务一般发生在对b端增量供应链的补充上，在不改变b端原有供应链体系的情况下，补充针对b端服务的终端人群的好物严选。
比如我投资的幼儿园产业路由器壹点壹滴在叶业务层推出儿童保险、育儿内容宝典、儿童智能手环、儿童素质教育馆等，都是基于幼儿园服务的儿童人群的二次变现；又比如我投资的早教路由器微早教在叶业务层即将推出金融分期和父母课堂，是针对早教机构服务的儿童家长群体，我作为战略顾问的母婴零售店路由器积纳有品在叶业务层推出精品严选，比如生鲜水果、景区年卡、民宿会员、美妆套装都是基于母婴店服务的宝妈人群的二次变现，这些都是增量叶业务的典型代表。
但需要注明的是,增量是针对b端而言，产生的收入是增量收入，而对c端来说，其中的产品服务则无所谓存量还是增量，只要能激发c端的购买冲动。
叶业务对产业路由器的商业价值不言而喻，火锅产业路由器锅圈食汇把火锅食材供应链作为根业务，选择在中小社区餐饮边上开设冻品食材供应链门店，用面向c端的叶业务迅速实现盈利；盛景投资的工业品产业路由器国联股份，公司2019年实现营业总收入72亿，同比增长95.9%，增幅连续5年保持在60%以上的高速增长，从年利润一两千万到年利润有望冲击十亿元，其核心在于从服务收费模型到供应链叶业务盈利模型到转变，“服务”永远规模不经济，而“货”是规模经济的。
根业务和叶业务的关系是先根后叶、一根多叶，但值得重点提及的是，从实际经验来看，在叶业务的设置上，要务必秉承“克制”的原则，特别是在根业务部分已经通过SAAS向小b收过费的路由器，小b的反转化能力极强，对二次付费存在强烈的心理排斥，在路由器团结小b形成产业共同体的过程中，如果在存量叶业务的设置上，故意设置多道价格或高价收割小b，或者在增量叶业务的设置上，不懂得向小b分享利润，都会让路由器和b端之间的信任功亏一篑。
比如K12教育机构产业路由器校宝在线，曾经发生过诸多校长联名抵制的情况，原因就在于曾经直接在系统上向c端推荐过一个在线课程，越过小b变现c，将直接引起不可逆的信任危机。
除此以外，还需要在“根叶距”上保持足够的克制，根叶距是我创造的一个概念，意指产业路由器根业务和叶业务场景之间的天然关联性。
如果根业务和叶业务天然在品类上或场景上关联性越强，低频高毛的叶业务就越容易切入变现；如果根业务和叶业务天然在品类上或场景上关联性越弱，则需要考虑重新设计优先变现的叶业务矩阵。
根业务的基础设施赋能、商品赋能和运营赋能三个方向，确定完根业务方向后的首个变现叶业务的选择很重要。比如汇通达的根业务是大家电，首个叶业务设置为小家电；大搜车根业务是二手车匹配，首个叶业务设置为先租后买的弹个车。幼儿园路由器联合幼教机构向家长推荐绘本和课程可以，但是推荐食品和美妆就显得不妥，家政公司路由器联合护理机构向用户推荐健康和卫生类产品显得合情合理，但如果推荐玩具或者服装就显得不伦不类。天然关联的根叶距能让变现行为变得顺畅自然，相隔较远的根叶距则会让小 b 有被蓄意收割的抗拒感。大量服务类小b没有零售基因，虽然牢牢抓住了线下流量，但却没有备货的习惯和压货的意识，除了一件代发的支持以外，轻量级的会员类知识付费类虚拟产品可能是更好的选择。
花业务与果业务：产业巨头的二次曲线
在根业务和叶业务之后，如何进一步增强路由器对网络的协同效应，属于每一家路由器的二次增长曲线在哪里。在我看来，高毛业务带来的丰厚利润不应该成为路由器建设的终点，路由器进阶成为产业巨头还需要在叶业务上加设一层花业务，战略上依循一个更宏大的故事,也让路由器本身的市值和影响力提升十倍以上。
依据不同的行业场景和不同的原生基因，按照人、货和场的逻辑，路由器会拥有“超级会员平台”、“超级供应链平台”和“超级连锁平台”三种巨头的进化方向。
“超级会员平台”是“人”的集大成体现，一般通过单一业态门店会员叠加相近业态门店服务而来，需要会员积分等底层基础设施打通流量交换，聚焦在各个不同平行世界的人群里。由于年龄、性别、收入、活动场景、消费时间、消费区域等等的差异性，不同的细分人群逐渐形成，彼此间的消费三观将越来越凸显差异性。在中国，任何一个过亿甚至过千万的“细分人群”都是一个千亿级甚至万亿级的市场。
当产业路由器走到花业务层，将不仅仅是垂直产业的综合赋能平台，而将联合产业里的小b为覆盖到的c端提供“全天候、全场景、全马斯洛需求”的全套超级会员解决方案，那时将会是垂直赛道路由器之间的一次跨界竞争，第一场景的选择、击穿业务的实效、变现业务的克制当中的微妙差距都将成为路由器与路由器之间“圈人大战”的关键。
举个例子，母婴店路由器、早教路由器、幼教路由器、产康路由器最终都会切入宝妈“养育场景”超级会员平台之争，医美路由器、美妆店路由器和美容美发路由器最终都会切入新中产女性“变美场景”超级会员平台之争。畅想一下，宝妈超级会员平台联合母婴店共同服务作为c端的宝妈，用户不仅可以享受母婴店的服务，更可以凭借母婴店的会员积分，畅享同城区域内的游乐场、早教中心甚至健身房的服务，更可以获得来自线上生鲜平台、新零售平台的好物特卖优惠。
“超级供应链平台”是“货”的集大成体现，一般通过单一业态门店供应链共享到多业态门店而来，简单理解就是成为多业态门店的“共享叶业务”。
为了突破地理半径的有限性、边际成本的有限性和服务场景的有限性，每一个独立的服务业态的门店正在成长为一个个直播间、前置仓和混业场，从有限门店升级到无限门店。升级路径大致可以归纳为，第一步，线下用户的线上化，第二步，线上用户的运营化，第三步，变现。一旦变现，就涉及到供应链的重构，越复杂的供应链协作体系，链条中的企业交互也往往存在巨大的沟通成本和信息损耗，而大量线下零售业态供应链的僵化，以及线下服务业态供应链的缺失，共同呼唤轻量级的超级供应链平台的出现。超级供应链平台首先实现“中央供应链”的共享，让各种业态的小b可以通过自己门店衍生的私域流量池一件代发轻松变现；之后超级供应链平台还可以实现“地方供应链”的共享，各种作为前置仓的小b可以自由上传商品，共享彼此间的库存，一旦成交，可以通过数字化系统快速实现跨门店的调运配送。共享食材供应链可以赋能餐厅、生鲜水果店和菜场，共享3C家电供应链可以赋能超市、便利店和大卖场，作为一个人口四倍于美国的市场，中国理应出现世界级的供应链公司。
“超级连锁平台”是“场”的集大成体现，一般通过翻牌改造或衍生再造赋能门店中的头部集群而来。如果超级会员平台是深挖用户增加平台收益，超级供应链平台是扩大供给增加平台收益，那么超级连锁平台就是通过和头部门店融为一体共享门店的收益。
过去的加盟制度是先有“名”后有“实”，会销能力是核心竞争力，先发一块牌子，收上加盟费后再逐步输出选址、运营、管理、营销和供应链等支持，前提是先收钱来保证自己的生存，无论黑猫白猫，能交加盟费的就是好猫，放出去的加盟自然而然良莠不齐、生死在天；未来的合能制度则是先有“实”后有“名”，赋能能力是核心竞争力，先通过根业务深度连接门店获取数据，再通过叶业务精准变现，当门店的供应链、库存、营销、业务交付、员工管理和用户运营都需要通过产业路由器实现对用户的联合服务后，不仅门店的基因、能力和未来一目了然，改造翻牌还是再造新牌也变得顺理成章，成为“合能”画龙点睛的最后一步。产业路由器不仅可以通过融合不同业态改造翻牌不同的品牌，如母婴店路由器中，母婴店和手机店、母婴店和水育店、母婴店和产康店可以翻牌形成不同的融合店品牌；产业路由器更可以利用赋能体系联合店主再造新品牌，从奈雪的茶到奈雪酒屋，从瑞幸咖啡到小鹿茶，从呷浦呷浦到凑凑，招牌虽换，内核依旧，无论城头如何变幻大王旗，然而真正的“城主”永远和超级连锁平台站在一起。
根深助叶茂，春华结秋实，我把产业路由器的最高阶业务称为果业务，它是产业路由器“皇冠上的明珠”——产业银行。
作为占据银行业半壁江山的公司业务一直是中国银行业的核心优势业务和压舱石，然而，随着经济进入存量时代，一方面，银行不良贷款率逐年攀升，依靠息差的传统信贷模式一去不复返，但由于产业经验缺失和数据缺位，银行产业专业化能力始终无法得到实质性提高；另一方面，中小企业融资难日益加剧，被产业链上下游三角债和账期拖死的企业越来越多，比银行更理解产业痛点和掌握产业数据的，是连接b端和f端的产业路由器，未来十年，银行90%的公司业务将会向产业互联网平台衍生的供应链金融业务迁移，每一个产业路由器都会结出一枚分布式“产业银行”的果实，每个产业路由器的顶层都会孕育一家垂直产业的蚂蚁金服。产业银行不仅可以推动整条产业链转型升级，还可以利用累积的产业资源和信息优势，解决上下游中小企业融资痛点，对上游供应商可以提供保理、票据贴现等业务，对中游中间商可以提供流动资金贷款、应收帐款融资等服务，对下游经销商提供融资租赁、定向担保等服务，对次终端门店扩张提供融资服务，通过产融数字化提升产业整体的抗风险能力。除此之外，产业路由器能延伸消费金融的场景，利用垂直场景的精准数据联合金融机构开发新的定向金融产品，如场景保险、消费分期等，小b天然离c更近，是消费金融产品在消费互联网外另一重视角的资审员和风控员，辅以数字化系统可以让现有消费金融覆盖人群进一步扩大和下沉，真正实现普惠金融。
