首页 / 行业
昆仑芯科技产业级AI模型部署全攻略
2022-12-28 10:27:00
12月28日,昆仑芯科技将联合百度飞桨FastDeploy团队带来“产业级AI模型部署全攻略 -昆仑芯科技专场”直播课程,就产业AI硬件部署解决方案进行交流,届时会详细讲解昆仑芯AI加速卡R200特性,并实战昆仑芯科技硬件与FastDeploy如何快速完成AI模型部署。
共同探讨AI部署相关话题!
关于FastDeploy
为了解决AI部署落地难题,百度飞桨发布了新一代面向产业实践的推理部署工具FastDeploy,旨在为AI开发者提供模型部署最优解。FastDeploy具备全场景、简单易用、极致高效两大特点,可满足开发者对高性能部署的需求,大幅提升AI产业部署的开发效率。
全场景:多端部署,统一部署API,一行代码切换不同推理后端和推理硬件;多框架支持,一行命令实现其他深度学习框架到飞桨以及ONNX的相互转换;多硬件适配,目前支持X86 CPU、NVIDIA GPU、Jetson、昆仑芯XPU、GraphcoreIPU、ARM CPU(联发科、瑞芯微、树莓派、高通等硬件)、瑞芯微NPU、晶晨NPU、恩智浦NPU等十多类AI硬件。
简单易用:多语言统一模型API,三行代码搞定AI模型部署。模型丰富,预置飞桨和生态的150+产业级SOTA模型,覆盖Text、Vision、Speech、Cross-modal四大领域;覆盖20+主流应用场景,算法场景包括图像分类、图像分割、语义分割、物体检测、字符识别(OCR)、人脸检测、人脸关键点检测、人脸识别、人像扣图、视频扣图、图像超分、姿态估计、文本分类、信息抽取、文图生成、行人跟踪、语音合成等。
极致性能:联合自动压缩工具与推理引擎深度联动的能力以及AI模型前后预处理加速库的优化,实现AI模型端到端极致的推理性能。
关于昆仑芯科技
昆仑芯科技深耕AI加速领域10余年,专注打造拥有强大通用性、易用性和高性能的通用人工智能芯片。目前,昆仑芯科技已实现两代通用AI芯片产品的量产及落地应用,在互联网、智能制造、智慧交通、智慧金融等领域均已实现规模部署。在云端推理训练均有完备覆盖的基础上,应用于边缘场景的昆仑芯AI加速卡R100已正式发布,进一步扩充落地场景。更先进的第三代、第四代芯片产品正在研发中。
昆仑芯科技致力于构建软硬一体化的AI芯片生态,打造从芯片到终端、应用、云端、服务的生态闭环。此前,昆仑芯2代AI芯片及AI加速卡与飞桨完成III级兼容性测试,兼容性表现良好。
昆仑芯和飞桨的适配自2018年启动,目前双方已共同完成框架层面的适配,支持XPU Device及大部分算子。在双方合作的训练部分中,昆仑芯XPU和飞桨的适配在一些场景下能够做到通过仅切换一行代码便可指定到昆仑芯XPU的后端,低成本地从CPU/GPU切换到昆仑芯,满足绝大部分用户的需求。目前,昆仑芯软件栈已集成到飞桨上,完成对接与支持。此外,双方已经完成了多款主流CPU及操作系统的适配,方便广大开发者和用户更高效、更便捷地开发。
昆仑芯科技的使命是“让计算更智能”,愿景是“成为划时代,全球领先的智能计算公司”。昆仑芯科技始终致力于成为芯片创新链、产业链的“赋能者”,与上下游企业携手,通过用算力赋能不同场景中的AI应用,驱动千行百业的智能化转型。
最新内容
手机 |
相关内容
DigiKey 推出《超越医疗科技》视频
DigiKey 推出《超越医疗科技》视频系列的第一季,推出,医疗科技,健康,需求,产品,诊断,全球供应品类丰富、发货快速的现货技术元器件台积电1.4nm,有了新进展
台积电1.4nm,有了新进展,台积电,行业,需求,竞争力,支持,芯片,近日,台积电(TSMC)宣布将探索1.4纳米技术,这是一项令人振奋的举措,将有望为E阅流智作:一种全新的生成式AI视频制
阅流智作:一种全新的生成式AI视频制作方式,或将颠覆专业视频生产,生成式,全新,视频制作,数据,学习,用户,阅流智作是一种全新的生成式A可穿戴传感器能够实现准确的实时检
可穿戴传感器能够实现准确的实时检测,检测,实时,传感器,可穿戴,高精度,数据传输,可穿戴传感器(Wearable Sensors)是一种集成在人体上探秘英伟达显卡的制造之路 | 英伟
探秘英伟达显卡的制造之路 | 英伟达断供GPU,中国大模型何去何从?,英伟达,模型,中国大,显卡,方案,能力,英伟达(NVIDIA)是全球领先的图形先在汽车市场爆发,UWB雷达进一步商
先在汽车市场爆发,UWB雷达进一步商业化,汽车市场,汽车安全,市场,汽车行业,高精度,性能,随着技术的不断进步,汽车市场不断爆发,而UWB雷浅谈芯片常用的解密器
浅谈芯片常用的解密器,芯片,评估,修复,安全性,硬件,解密,ad7705brz芯片解密器是一种用于解密芯片内部信息的设或软件。芯片解密器在DigiKey 凭借品牌更新荣获四项 Mar
DigiKey 凭借品牌更新荣获四项 MarCom 大奖,四项,机构,明尼苏达州,公司,行业,产品,全球供应品类丰富、发货快速的商业现货技术元件