通用深度学习框架的在线和离线Inference服务实现

所属职位

架构设计

时间

12月08日 13:30 - 16:30

关注热度

2852

互联网

我是开发经理

课程大纲

深度学习是目前非常流行的机器学习建模技术,但训练得到的深度学习模型上线还需要额外的开发支持。本次议题会介绍通用的深度学习Inference服务实现,不同业务领域的模型可以使用统一的预估服务上线,提供高性能RPC或HTTP接口,同时介绍深度学习模型在移动端部署和离线预估的实现。对于TensorFlow、MXNet、PyTorch、Caffe2、CNTK、XGBoost、Scikit-learn等开源机器学习框架以及ONNX等深度学习模型格式,开发通用的高性能在线预估服务让模型应用落地更加简单。

1. 深度学习基础介绍
2. 认识深度学习框架的模型格式
3. 实现通用的模型预估功能
4. 实现高性能在线预估服务
5. 实现移动端离线预估服务

目标收益

通过此课程可以了解目前深度学习领域的技术发展和最佳实践,熟悉主流深度学习框架如TensorFlow、MXNet等模型格式,能够学习开发对应的在线预估服务实现应用落地,了解移动端部署深度学习模型的基础知识,从工程和架构的角度思考深度学习应用的发展。

陈迪豪

第四范式

先知平台架构师

评分

暂无

关注度

0

目前担任第四范式先知平台架构师,活跃于开源社区,维护容器管理平台Seagull等项目。大二加入小米从事移动端开发,然后接触基础架构并且参与了HBase、ZooKeeper等项目开发,开源了NewSQL依赖的全局严格递增Timestamp服务Chronos。后来加入云服务公司UnitedStack,负责存储、容器、大数据业务,参与了OpenStack、Docker、Ceph等开源项目,在Austin OpenStack Summit上分享了Cinder多后端存储相关的技术,期间获得了AWS Solution Architect认证。目前从事云深度学习方向,负责深度学习平台的架构和实现,同时参与容器调度系统Kubernetes和深度学习框架TensorFlow的开发。

MPD成都

单人票    4200

目前可以以优惠的价格,选择一个你想要参与的课程进行购买。日期有限,请尽快下单。

即日起-12月08日前

获取体验票