视频回顾 | 旷视天元Beta版重大技术升级与生态建设

7 月 11 日,旷视研究院在 2020 WAIC · 开发者日「深度学习框架与技术生态论坛」上围绕 6 月底发布的天元深度学习框架(MegEngine)Beta 版本核心技术升级与开源生态建设进行了首次深度解读。目前,论坛回放视频已上线B站,欢迎大家收看。

作为一款训练推理一体化、动静合一、兼容并包、灵活高效的新型深度学习框架,天元能够帮助企业与开发者的产品从实验室原型到工业部署平均节省 90% 的流程,真正实现小时级的转化能力。

另外,随着天元Beta版的发布,天元MegEngine贡献者计划」(点击查看)也全面启动,大量福利助你在开源贡献之路上乘风破浪!

完整视频回顾

点击上方图片回看论坛直播

在这场论坛上,旷视研究院高级技术总监田忠博分享了《天元深度学习框架的创新与探索》。旷视研究院AI系统高级技术总监许欣然对正式发布的旷视天元Beta版进行了技术概述与特性解读,包括量化训练功能与设计,Arm 推理性能展示、优化点剖析,新增模型解读以及深度学习生态合作成果展示等内容。

 

随后,小米AI实验室高级软件工程师卢旭辉、OPEN AI LAB Tengine产品负责人程实、中科院计算所高性能计算机研究中心主任、博士生导师谭光明分别分享了《MACE--面向AIoT的深度学习推理框架》、《嵌入式深度学习框架的现状发展与Tengine实践》和《高性能计算中的深度学习问题》三场精彩内容。

 

最后,旷视服务器算法SDK高级架构师高鹏远和旷视嵌入式算法SDK研发负责人武庚晨从旷视算法SDK的实际产品出发,分享了基于MegEngine天元深度学习框架进行算法SDK的开发和优化,包括SDK的云端图计算框架、云端性能优化,嵌入式优化实例等相关工程化的实践经验,展示AI算法如何更好的落地产生价值。

欢迎大家关注天元的 Github 项目 MegEngine,并参与贡献者计划。另外,也可以在 Github 、QQ 群或论坛中进行技术交流与讨论。

天元 Beta 版三大特性升级

从 3 月份开源到 6 月底 Beta 版发布,天元共经历了 5 个版本的迭代,得到了旷视内部与外部开发者们的宝贵建议与支持。天元 Beta 版核心技术升级包括三大特性:

1. 完善量化训练和量化推理功能。天元Beta版本提供了灵活的量化训练和高效的量化推理的能力,让开发者可以快速的完成高精度的量化训练并直接部署到推理侧,以最小的精度代价获得最高的推理性能。

2. 添加对ARM CPU的支持。天元添加了对ARM CPU的支持,在ARM、CUDA、X86三个主流计算平台上都提供了经过深度优化的 kernel 实现,结合天元优异的计算图优化技术,在量化、浮点模型上均提供了业界领先的计算性能和内存显存占用。

3. 优化推理功能。天元对推理功能做了一系列的功能优化,提供 Profile工具、上手指南、性能优化教程等内容,帮助开发者快速上手,获得更高的推理性能,让开发者在推理的时候可以使用更方便,开发更高效。

另外,天元 Beta 版新增 10 余个 SOTA 模型,并正式提供中文版 API 文档,还新增了 Objects 365 Dataset 的 API 和多机训练参数打包等功能。

除了功能和性能上的改进之外,天元框架还与小米 MACE、OPEN AI LAB(开放智能) Tengine 等推理框架进行了深度集成。

延伸阅读

传送门 

欢迎大家关注如下 旷视研究院 官方微信号????