推理

NVIDIA携手腾讯云共同打造高性能的音视频解决方案

NVIDIA携手腾讯云共同打造高性能的音视频解决方案，NVIDIA,腾讯云,AI，音视频,解决方案,增强,推理，NVIDIA携手腾讯云共同打造高性能的音视频解决方案-腾讯云音视频 PaaS 平台与 NVIDIA 团队合作，利用 NVIDIA TensorRT 加速视频直播和点播业务中视频增强 AI 模型的推理效率；借助 NVIDIA Maxine Video Effects SDK 的 AI 绿幕功能实现高性能高精度的人像分割，提升云导播台...

2022-09-01 09:39:00行业信息音视频解决方案增强
腾讯云与NVIDIA仍持续为AI推理加速进行合作

腾讯云与NVIDIA仍持续为AI推理加速进行合作，NVIDIA,腾讯云,gpu,AI，推理,优化,业界,提升，腾讯云计算加速套件 TACO Kit 包含 TACO Train 和 TACO Infer 两个 AI 组件。基于 GPU 异构计算平台针对业界 AI 训练和推理任务进行了全方位的加速优化。TACO Kit 不仅大大提升了 GPU 集群上多机多卡分布式训练的效率，对于 GPU 上的模型推理也通过集成 NVIDIA TensorRT...

2022-08-31 09:24:00行业信息推理优化业界
存间计算或将解决AI加速的痛点

存间计算或将解决AI加速的痛点，AI,芯片,存储,控制器，控制器,芯片,计算,推理，存间计算或将解决AI加速的痛点-存算一体技术需要解决的，往往都是AI运算上的问题，比如训练和推理等等，所以不少做存算一体公司与AI芯片公司并无二致。"...

2022-08-29 09:14:00行业信息控制器芯片计算
AI端云一体化产品与华为Atlas 300I/V Pro推理卡完成兼容性测试

AI端云一体化产品与华为Atlas 300I/V Pro推理卡完成兼容性测试，AI,华为,数字化,昇腾，推理,产品,兼容性测试,云一，‍近日，昇腾万里认证级应用软件伙伴软通动力基于昇腾AI推出的AI端云一体化产品（昇腾版）与华为Atlas 300I/V Pro推理卡完成兼容性测试。据测试数据显示，该产品可使单卡算力达88 TOPS INT8，支持80路高清视频实时分析，让企业降本增效，助力全行业数字化转型升级。" /...

2022-08-27 09:42:00行业信息推理产品兼容性测试
跃昉科技发布NB2系列芯片实现边缘端高级机器学习推理

跃昉科技发布NB2系列芯片实现边缘端高级机器学习推理，跃昉科技,芯片,机器学习，芯片,机器学习,边缘,推理，正如跃昉科技VP袁博浒所言，“目前的RISC-V芯片产品市场里，95%以上芯片集中在MCU级别，200MHz算力以下的MCU级别的产品大约500款，中端200MHz到1.5GHz的范围内不足10款。”" /...

2022-08-25 15:12:00行业信息芯片机器学习边缘
星环科技一站式模型平台与华为Atlas 300I Pro推理卡完成兼容性适配

星环科技一站式模型平台与华为Atlas 300I Pro推理卡完成兼容性适配，星环科技,华为,AI,硬件，兼容性,模型,平台,推理，近日，基于昇腾AI，星环信息科技（上海）股份有限公司的一站式模型生产应用平台 Sophon AutoCV与华为Atlas 300I Pro推理卡完成兼容性适配。该方案能够有效解决AI在落地过程中面临的海量数据处理实时响应、原始数据价值密度低、多模态数据离散处理等问题，助力视觉AI工业化生产。" /...

2022-08-17 10:15:00行业信息兼容性模型平台
边缘AI推理将覆盖60%设备，莱迪思FPGA+sensAI 4.1组合拳如何打？

边缘AI推理将覆盖60%设备，莱迪思FPGA+sensAI 4.1组合拳如何打？，AI,莱迪思，覆盖,推理,边缘,数据，ABI的研究调查表明，预计到2024年设备端的AI推理功能将覆盖近60%的设备。FPGA作为实现边缘AI的技术方式之一受到了青睐。要知道AI的算法灵活多变，FPGA硬件可编程可以适应快速变化的机器学习算法，它可以做灵活的计算资源，包括预处理、后处理、图像处理和滤波等数据。还能进行性能扩展，可实现高速并行处理。因此，我们看到...

2022-08-12 16:39:00行业信息覆盖推理边缘

2024年设备端AI推理功能将覆盖近60%的设备

2024年设备端AI推理功能将覆盖近60%的设备，AI,PC,边缘计算，边缘,用于,覆盖,推理，去年莱迪思发布了sensAI 4.1解决方案，当时介绍的一个典型案例是用于PC智能和感知体验。如今，这一方案已经落地于品牌笔记本电脑。凭借其优异特性和不断增强的性能，莱迪思sensAI 4.1解决方案还可广泛应用于工业、安防等众多领域，可挖掘的边缘智能应用非常之多。" /...

2022-08-11 09:32:00行业信息边缘用于覆盖
华为基于昇腾AI基础软硬件平台为智慧高速发展不断注入蓬勃动力

华为基于昇腾AI基础软硬件平台为智慧高速发展不断注入蓬勃动力，华为,昇腾,AI,软硬件，平台,推理,长沙,第二，近日，在长沙，基于昇腾AI的公路人工智能融合赋能平台华丽亮相第二十四届中国高速公路信息化大会暨技术产品博览会。面向智慧高速领域，凭借全栈自主创新、推理训练一体化、平台开放生态繁荣等优势，该平台可实现将AI的主导权、发展空间交给高速公路本身，为高速公路行业数字化转型助力。" /...

2022-08-03 09:55:00行业信息平台推理长沙
2022年人工智能推理的发展趋势

2022年人工智能推理的发展趋势，人工智能,AI,机器人，人工智能,推理,发展趋势,归入，2022年人工智能推理的发展趋势-加入快速发展的人工智能行业是一个激动人心的时刻，尤其是在推理领域。一旦简单地归入高端和极其昂贵的计算系统，人工智能推理就一直以超快的速度向边缘迈进。如今，来自医疗、工业、机器人、安全、零售和成像等各行各业的客户正在评估或实际将 AI 推理功能设计到他们的产品和应用程序中。"...

2022-07-15 17:57:00行业信息人工智能推理发展趋势
天数智芯成功点亮通用GPU推理产品—智铠100

天数智芯成功点亮通用GPU推理产品—智铠100，gpu,人工智能,天数智芯，通用,人工智能,产品,推理，6月17日下午，中共上海市经济和信息化工作委员会副书记张义带队就复工复产后的企业发展情况线上调研上海天数智芯半导体有限公司（以下简称“天数智芯”），天数智芯执行董事长兼总裁蔡全根、通用产品线总裁邹翾以及政府事务总监雷禹等人陪同调研。" /...

2022-06-20 11:06:00行业信息通用人工智能产品
国产深度学习框架的挑战和机会

国产深度学习框架的挑战和机会，推理,AI,操作系统，推理,深度学习,训练,框架，电子发烧友网报道（文/李弯弯）深度学习框架是一种底层开发工具，是集深度学习核心训练和推理框架、基础模型库、端到端开发套件、丰富的工具组件于一体的平台。有了深度学习框架，工程师在工作时调试算法，就可以更快速、更高效。通俗一点讲，深度学习框架相当于是AI时代的操作系统，如同PC时代Windows，移动互联网时代的iOS和安卓。国内外都有哪些深度学习框架...

2022-06-07 00:01:00行业信息推理深度学习训练
Ampere AI优化框架如何加速 AI 推理

Ampere AI优化框架如何加速 AI 推理，处理器,AI,虚拟机,Ampere，框架,处理器,推理,前沿，Microsoft Build 是为来自全球各地的开发人员、工程师、IT 专业人员、学生和初创公司打造的年度技术盛会。今年的会议采用线上的方式，展示 Microsoft 技术、Windows、Office 等技术及应用的最新前沿资讯。" /...

2022-05-26 10:01:00行业信息框架处理器推理
NVIDIA自动驾驶网络会议将6月9日举办

NVIDIA自动驾驶网络会议将6月9日举办，NVIDIA,dnn,自动驾驶，驾驶,性能,推理,优化，NVIDIA DRIVE Orin 现已投产，可在深度神经网络推理性能方面实现重大飞跃。6 月 9 日，NVIDIA 将举办一场网络会议，介绍 DNN 架构设计以及 NVIDIA TensorRT 的范围，旨在为生产提供经过优化的推理引擎。" /...

2022-05-21 10:24:00行业信息驾驶性能推理
天数智芯首款7纳米通用GPU智铠100成功点亮

天数智芯首款7纳米通用GPU智铠100成功点亮，gpu,硬件,天数智芯，硬件,通用,推理,公司，5月8日，天数智芯首款７纳米通用GPU推理产品———智铠100成功点亮，这标志着天数智芯成为国内唯一同时拥有GPU架构下云端训练+推理完整解决方案的硬科技公司。" /...

2022-05-09 11:29:00行业信息硬件通用推理
MLPerf V2.0推理结果放榜，NVIDIA表现抢眼

MLPerf V2.0推理结果放榜，NVIDIA表现抢眼，MLPerf, 推理,AI,NVIDIA，人工智能，推理,人工智能,测试,性能，不久前，AI性能基准评测平台MLPerf公布了2022年首次推理（Inference v2.0）测试成绩，NVIDIA的AI平台表现依然抢眼。" /...

2022-04-15 22:12:00行业信息推理人工智能测试

NVIDIA Triton助力腾讯构建高性能推理服务

NVIDIA Triton助力腾讯构建高性能推理服务，数据,NVIDIA,腾讯，数据,公司,推理,服务，通过将 Triton 编译为动态链接库，可以方便地链入公司内部框架，对接公司的平台治理体系。符合 C 语言规范的 API 也极大降低了用户的接入成本。" /...

2022-04-10 10:08:00行业信息数据公司推理
Microsoft使用NVIDIA Triton加速AI Transformer模型应用

Microsoft使用NVIDIA Triton加速AI Transformer模型应用，NVIDIA,gpu,AI,Microsoft，模型,目标,推理,用途，Microsoft 的目标是，通过结合使用 Azure 与 NVIDIA GPU 和 Triton 推理软件，率先将一系列强大的 AI Transformer 模型投入生产用途。" /...

2022-04-02 13:04:00行业信息模型目标推理
NVIDIA助力微软将AI Transformer模型投入生产用途

NVIDIA助力微软将AI Transformer模型投入生产用途，微软,AI,NVIDIA,gpu，模型,目标,推理,助力，Microsoft 的目标是，通过结合使用 Azure 与 NVIDIA GPU 和 Triton 推理软件，率先将一系列强大的 AI Transformer 模型投入生产用途。" /...

2022-03-28 09:43:00行业信息模型目标推理
NVIDIA AI 大力推进语音、推荐系统和超大规模推理领域的发展

NVIDIA AI 大力推进语音、推荐系统和超大规模推理领域的发展，NVIDIA,AI,机器学习，机器学习,推理,推荐系统,语音，NVIDIA AI 大力推进语音、推荐系统和超大规模推理领域的发展-NVIDIA AI 可供开发者免费使用，包括用于语音 AI 的 NVIDIA Riva 和用于智能推荐系统的 NVIDIA Merlin™，这两款软件均已正式全面上线。而整个软件套件也进行了更新，包括 NVIDIA Triton、NeMo、Max...

2022-03-23 14:27:00行业信息机器学习推理推荐系统
NVIDIA Triton助力腾讯构建高性能推理服务

NVIDIA Triton助力腾讯构建高性能推理服务，数据,NVIDIA,腾讯，数据,公司,推理,服务，通过将 Triton 编译为动态链接库，可以方便地链入公司内部框架，对接公司的平台治理体系。符合 C 语言规范的 API 也极大降低了用户的接入成本。" /...

2022-04-10 10:08:00行业信息数据公司推理
Microsoft使用NVIDIA Triton加速AI Transformer模型应用

Microsoft使用NVIDIA Triton加速AI Transformer模型应用，NVIDIA,gpu,AI,Microsoft，模型,目标,推理,用途，Microsoft 的目标是，通过结合使用 Azure 与 NVIDIA GPU 和 Triton 推理软件，率先将一系列强大的 AI Transformer 模型投入生产用途。" /...

2022-04-02 13:04:00行业信息模型目标推理
NVIDIA助力微软将AI Transformer模型投入生产用途

NVIDIA助力微软将AI Transformer模型投入生产用途，微软,AI,NVIDIA,gpu，模型,目标,推理,助力，Microsoft 的目标是，通过结合使用 Azure 与 NVIDIA GPU 和 Triton 推理软件，率先将一系列强大的 AI Transformer 模型投入生产用途。" /...

2022-03-28 09:43:00行业信息模型目标推理
NVIDIA AI 大力推进语音、推荐系统和超大规模推理领域的发展

NVIDIA AI 大力推进语音、推荐系统和超大规模推理领域的发展，NVIDIA,AI,机器学习，机器学习,推理,推荐系统,语音，NVIDIA AI 大力推进语音、推荐系统和超大规模推理领域的发展-NVIDIA AI 可供开发者免费使用，包括用于语音 AI 的 NVIDIA Riva 和用于智能推荐系统的 NVIDIA Merlin™，这两款软件均已正式全面上线。而整个软件套件也进行了更新，包括 NVIDIA Triton、NeMo、Max...

2022-03-23 14:27:00行业信息机器学习推理推荐系统