您的位置:银河至尊娱乐注册>>业界动态

飞桨端侧推理引擎重磅升级为Paddle Lite,更高扩展性更极致性能!

发布时间:2019-08-21 17:39:46  来源:互联网    背景:

  百度深度学习平台飞桨(PaddlePaddle)再放大招!端侧推理引擎全新升级,重磅发布Paddle Lite,旨在推动人工智能应用在端侧更好落地。该推理引擎在多硬件、多平台以及硬件混合调度的支撑上更加完备,是飞桨在Paddle Mobile的基础上进行的一次大规模升级迭代。通过对底层架构设计的改进,拓展性和兼容性等方面实现显著提升。目前,Paddle Lite已经支撑了ARM CPU,Mali GPU,Adreno GPU,HUAWEINPU以及FPGA等诸多硬件平台,是目前首个支撑HUAWEINPU在线编译的深度学习推理框架。

  随着技术进步,手机等移动设备已成为非常重要的本地深度学习载体,然而日趋异构化的硬件平台和复杂的终端侧的使用状况,让端侧推理引擎的架构能力颇受挑战。端侧模型的推理往往面临着算力和内存的限制,为了能够完整的支撑众多的硬件架构,并且实现在这些硬件之上人工智能应用性能的性能优化,百度飞桨基于Paddle Mobile预测库,融合Anakin等多个相关项目的技术优势,全新发布端侧推理引擎Paddle Lite,通过建模底层计算模式,加强了多种硬件、量化方法、Data Layout 混合调度实行的能力,从而保障了宏观硬件的支撑能力,满足人工智能应用落地移动端的严苛要求。

  Paddle Lite在架构上全新升级,并重点增加了多种计算模式(硬件、量化方法、Data Layout)混合调度的完备性设计,可以完整承担深度学习模型在不同硬件平台上的的推理部署需求,具备高性能、多硬件、多平台、扩展性强等优势。不同于其他一些独立的推理引擎,Paddle Lite依托飞桨训练框架及其对应的丰富完整的算子库,底层算子计算逻辑与训练严格一致,模型完全兼容无风险,并可快速支撑更多模型。

  Paddle Lite架构由四层次组成:第一层model 层直接接受Paddle训练的模型,通过模型优化工具转化为NaiveBuffer特殊格式,以便更好地适应移动端的部署场景;第二层Program层是operator序列构成的实行程序;第三层是一个完整的分析模块,主要包括TypeSystem、SSA Graph和Passes等模块;第四层是实行层,由Kernel序列构成的Runtime Program。

  Paddle Lite具有以下重要特性:

  与其他端侧引擎相比,Paddle Lite扩展性更高,框架层硬件抽象层次的描述能力强,容易对新的硬件进行集成,可以模块化地对硬件和模型进行更细致的分析和优化。

  在模型支撑方面,Paddle Lite现已支撑Paddle图像分类、检测、分割及图像文字识别等领域的模型预测,官方发布了18个模型的benchmark。此外,可以通过X2Paddle工具将由Caffe和TensorFlow训练的模型转换后进行预测。

  在硬件支撑方面,目前Paddle Lite已支撑ARM CPU, ARM GPU、HUAWEINPU和FPGA等硬件平台,正在优化支撑的有寒武纪、比特大陆等国产AI芯片,并会兼容支撑的Intel、NVIDIA等主流云端芯片,与硬件厂商的广泛深入合作使得lite具有高性能表现,并可紧跟新硬件发展步伐提供先于其他框架的性能表现领先优势。

  模型支撑和硬件平台支撑的广泛性,整体保证了框架的高通用性

  在性能方面,Paddle Lite针对不同微架构,进行了kernel的深度优化,支撑INT8量化计算,在主流移动端模型上展现出领先的速度优势。值得一提的是,在“国货”HUAWEI NPU上也具有很好的性能表现。

  与此同时,Paddle Lite可针对端侧设备特点进行深度定制及优化,无第三方库依赖,让部署过程更轻量化。整个推理过程分为模型加载解析、计算图的优化分析及设备上的高效运行。移动端可以直接部署经过优化分析的图,实行预测。Android平台上,ARMV7 动态库只需要800k,ARMV8动态库仅有1.3M,也可以根据需要,进行更深度的剪裁。

  此外,还进一步完善提供了Web前端开发接口,支撑javascript调用 GPU,可在网页端快捷运行深度学习模型。

  端侧推理引擎在人工智能应用落地环节有着重要影响,直接关系到用户的体验,在自动驾驶等人工智能应用领域,端侧推理引擎甚至关乎用户的生命财产安全。百度飞桨推出Paddle Lite对端侧推理引擎性能进行大幅优化提升,对于人能智能应用的落地起到关键的推动作用。未来,Paddle Lite将支撑更多硬件,覆盖更广泛的应用领域。

  更多详情:

  欢迎加入官方QQ群:696965088

  官网地址:

  https://www.paddlepaddle.org.cn

  项目地址:

  https://github.com/PaddlePaddle/Paddle-Lite

特别提醒:本网内容转载自其他媒体,目的在于传递更多信息,并不代表本网赞同其观点。其原创性以及文中陈述文字和内容未经银河至尊娱乐注册证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性银河至尊娱乐注册不作任何保证或承诺,并请自行核实相关内容。银河至尊娱乐注册不承担此类作品侵权行为的直接责任及连带责任。如若本网有任何内容侵犯您的权益,请及时联系大家,银河至尊娱乐注册将会在24小时内处理完毕。


返回银河至尊娱乐注册 本文来源:互联网

本文评论
HUAWEI云“目录区块链”助力北京市精准防治疫情
在过去的一个月里,全国人民都在用自己的方式与“看不见”的病毒作战,随着返程复工大军的...
日期:02-25
联通阿里联合抗疫:暖心流量包、精灵智慧课
受到疫情影响,在线教育、在线健身/娱乐、在线办公等在线服务迎来爆发,这些原本不属于家庭场景的新...
日期:02-25
同济大学附属东方医院通过HUAWEI云WeLink连线武汉
位于东湖区宏图路8号的武汉客厅曾是武汉的学问地标建筑。从半个月前开始,这里成为了“方舱医...
日期:02-25
教学新方法get,天津大学通过HUAWEI云WeLink开启远程教学
2020年2月18日,由HUAWEI与天津大学智能与计算学部合作开设的《人工智能应用基础》校级选修课采用HUAWEI...
日期:02-25
合肥市产业项目“云签约”通过HUAWEI云WeLink圆满完成
随着全国各地复工复产的有序推进,社会整体经济也在全面恢复。2月25日,合肥市2020年重大产业项目集...
日期:02-25
vivo发布新海报:APEX 2020支撑高倍率连续光学变焦技术
2月25日消息 今日午间vivo官方微博再度放出APEX 2020预告:全新APEX 2020将支撑高倍率“连续光...
日期:02-25
英特尔发布全新第二代英特尔至强可扩展处理器
英特尔今天正式发布全新第二代英特尔至强可扩展处理器。全新第二代英特尔至强金牌处理器相比第一代...
日期:02-25
王自健回应“玄乎”手机没做成:投了钱但放弃了 怕给国产机丢人
2月25日下午消息,vivo旗下iQOO今日举行新品发布会,推出了5G手机iQOO 3。
日期:02-25
终于可以用游戏手柄弹出光盘了:MicroSoft正测试Xbox One新功能
MicroSoftXbox One游戏主机终于可以通过按击游戏手柄上的按钮来弹出光盘了。根据部分参与Xbox Insider项...
日期:02-25
SAMSUNG宣布全球首发量产16GB LPDDR5内存 将用于旗舰手机
2月25日消息 据SAMSUNG官方透露,SAMSUNG电子今天宣布已经开始大规模生产业内第一个16GB 的 LPDDR5移动 DR...
日期:02-25
科达智慧教室 | 清华、浙大、交大等双一流高校如何正确打开在线课堂?
宅家战疫情,停课不停学
  连日来,各大高校陆续线上开学
  而线上教学对师生双方都...
日期:02-25
HUAWEI快服务智慧平台,重构手机信息服务路径
时至移动互联时代,大家获取信息依然需要经过某些必要的路径。种类繁多的APP给大家提供了更加多元化...
日期:02-25
Intel眼中的“假7nm” 台积电:N7制程节点命名遵循惯例、确非物理尺度
基于SAMSUNG5nm工艺的高通骁龙X60基带已发布,台积电下半年也将基于5nm(N5)为苹果代工A14、HUAWEI代工麒...
日期:02-25
擎朗智能响应一线需求 送餐机器人助阵武汉新华产业园方舱医院
继武汉体育馆方舱医院后,硚口区第二座方舱医院——新华产业园方舱医院即将建成,预计近...
日期:02-25
SAMSUNGGalaxy Chromebook正式发布 售价999美金
今年1月初在拉斯维加斯举行的CES 2020展会上,英特尔曾表示与GOOGLE扩大合作,将Chromebook加入&ldquo...
日期:02-25
外国媒体:苹果 12可能支撑全新短距离WiFi标准 数据传输更快
2月25日消息,据国外国媒体体报道,消息人士透露,苹果的下一代智能手机预计将被命名为苹果 12,iPhon...
日期:02-25
国美美店精选复工必备神器 助力无忧健康生活
随着疫情形势的逐渐好转,各行各业也逐渐开始进入复工状态。全新的生活即将开始,也更要保持自身及身...
日期:02-25
海尔、美的、GREE、西门子等全面响应苏宁24期免息
2月24日晚8点,苏宁召开了一场特殊的线上发布会。苏宁易购侯恩龙戴着口罩,化身主播,宣布自27日起...
日期:02-25
复工防疫需求猛增,苏宁帮客上线企业消杀专项服务
近日,全国各地进入复工高峰期。苏宁帮客大数据显示,自消杀功能上线以来,北京、上海、南京、广州...
日期:02-25
  专栏先容
徐彬 的专栏
徐彬发表的文章
积分:
自我先容 :

微信扫一扫
下载ITBearAPP

XML 地图 | Sitemap 地图