首页 / 行业
Torch-TensorRT软件更新 HF BERT性能提升40%
2022-05-16 15:56:00

我们十分高兴地宣布,Torch-TensorRT 1.1.0 版本正式发布!
软件版本
PyTorch 1.11
CUDA 11.3(在 x86_64 上,默认设置下,兼容的 PyTorch Build 支持较新版本的 CUDA 11)
cuDNN 8.2.4.15
TensorRT 8.2.4.2
由于最近 JetPack 的升级和其发布流程的变化,Torch-TRTv1.1.0 版本不支持Jetson(Jetpack 5.0DP 或其他)。将在中期版本(Torch-TensorRT1.1.x)同时支持 Jetpack 5.0DP 和 TensorRT 8.4。
重要变更
HF BERT性能
算子和性能的进一步优化使 HF BERT 的性能比 V1.1 版本提升了 40%
更多的算子
18 个新的 aten 算子转换器提高了 TensorRT 的模型覆盖范围和性能
查看全部 250+ 个算子
Triton 后端支持
21.12 版本以上的 Triton 现已支持 Torch-TensorRT
将在不久后提供工作流程教程
调试工具
上下文管理器现在允许使用更简洁清晰的调试工作流程
不支持的算子已降级为警告,建议使用上下文管理器进行调查
API 变更
max_batch_size 和 strict_types 由于在 TRT 中不被遵守已被删除
所有与 Torch-TensorRT 相关的 Bug 都应被归入新的 “MachineLearning – TorchTRT” nvbugs 模块。
原文标题:Torch-TensorRT 1.1.0 版本正式发布
文章出处:【微信公众号:NVIDIA英伟达企业解决方案】欢迎添加关注!文章转载请注明出处。
审核编辑:汤梓红最新内容
- Efuse是什么?聊聊芯片级的eFuse
- 英飞凌推出XENSIV胎压传感器,满足智能胎压监测系统的需
- FPGA学习笔记:逻辑单元的基本结构
- 创造多样信号的万能工具:函数/任意波形发生器
- 位移传感器结构类型及工作原理与应用
- 开关电源供应器的功能、应用场景以及重要性
- 重庆东微电子推出高性能抗射频干扰MEMS硅麦放大器芯片
- 拒绝一次性芯片,新技术:无线升级芯片
- 芯片迈向系统化时代:EDA软件的创新之路
- 智能安全帽功能-EIS智能防抖摄像头4G定位生命体征监测
- 卫星应用受关注,GNSS导航芯片/模块发展加速
- AI边缘智能分析设备:智慧食堂明厨亮灶的智能化应用
- 美光低功耗内存解决方案助力高通第二代骁龙XR2平台
- 浅谈芯片常用的解密器
- 电路板技术水平和质量水平,影响着机器人赛道的发展前景
- 直播回顾 | 宽禁带半导体材料及功率半导体器件测试
- 写flash芯片时为什么需要先擦除?
- DigiKey 凭借品牌更新荣获四项 MarCom 大奖
- 高精度3D视觉技术,助力工业机器人实现汽车零部件高效上
- 不只是芯片 看看传感器技术我们离世界顶级有多远
- 加特兰毫米波雷达SoC芯片赋能室内安防新应用
- 所有遥不可及,终因AI触手可及
- 一种基于聚合物的化学电阻式传感器使患者检测更容易
- MTK天玑9300重磅发布:全大核时代到来,330亿参数AI大模型
- 如何测量温度传感器的好坏?
- ACCEL光电芯片,性能超GPU千倍,新一代计算架构将更早来临
- 如何利用示波器快速测量幅频特性?有何注意事项?
- 射频连接器使用技巧与注意事项
- STC15W芯片A/D、D/A转换的简单使用
- 群芯微车规级认证的光电耦合器备受电池BMS和电驱电控
- 芯朋微:服务器配套系列芯片已通过客户验证 可应用于AI
- 新能源高压连接器高压互锁(HVIL)功能详解
- FPGA和AI芯片算哪一类?芯片的不同分类方式
- MPS全系列电机驱动产品,助力新能源汽车实现更好的智能
- 基于穿隧磁阻效应(TMR)的车规级电流传感器
- 豪威发布新款 4K 分辨率图像传感器,适用于安防摄像头
- 苹果发布M3系列新款MacBook Pro/iMac:业界首批PC 3nm芯
- 硅谷:设计师利用生成式 AI 辅助芯片设计
- 电容式触摸按键屏中应用的高性能触摸芯片
- DigiKey 推出《超越医疗科技》视频系列的第一季

手机 |
相关内容
VHF信号的确良KHz调制器电路
VHF信号的确良KHz调制器电路,电路图,信号处理电子电路图,VHF信号的确良KHz调制器电路 信号,VHF信号的确良KHz调制器电路VHF波段压控振荡器电路图
VHF波段压控振荡器电路图,电路图,信号处理电子电路图,VHF波段压控振荡器电路图 电路图,VHF波段压控振荡器电路图VHF频率调制电路图
VHF频率调制电路图,电路图,信号处理电子电路图,VHF频率调制电路图 电路图,VHF频率调制电路图DT830A,CM3900,DT840型测量hFE的电
DT830A,CM3900,DT840型测量hFE的电路图,电路图,电工仪表电路图,DT830A,CM3900,DT840型测量hFE的电路图 电路图,DT830A,CM3900,DT840DT830型用NPN热测量hFE的电路图
DT830型用NPN热测量hFE的电路图,电路图,电工仪表电路图,DT830型用NPN热测量hFE的电路图 电路图,DT830型用NPN热测量hFE的电路图DT830型用NPN挡热测量hFE的简化电
DT830型用NPN挡热测量hFE的简化电路图,电路图,电工仪表电路图,DT830型用NPN挡热测量hFE的简化电路图 电路图,DT830型用NPN挡热测量hDT890、DT890A型晶体管hFE测量电路
DT890、DT890A型晶体管hFE测量电路图,电路图,电工仪表电路图,DT890、DT890A型晶体管hFE测量电路图 电路图,DT890、DT890A型晶体管hFDT890B型晶体管hFE测量电路图
DT890B型晶体管hFE测量电路图,电路图,电工仪表电路图,DT890B型晶体管hFE测量电路图 电路图,DT890B型晶体管hFE测量电路图