首页 / 行业
GTC 2023:英伟达的三大云计划
2023-03-23 17:51:00
在过去十年中,云计算每年增长20%,成为了价值1万亿美元的巨大行业大约3000万台CPU服务器完成大部分处理工作,另外,减少碳排放这任务从根本上与增加数据中心的需求相悖,未经过加速的工作负载都将会在CPU上进行处理在AI和云服务中。
在GTC 2023开发者大会上,英伟达向我们介绍了关于他在云计算领域的三个大动作。
首先,英伟达与微软Azure、Google GCP和Oracle OCI三家云厂商合作推出了NVIDIA DGX Cloud。NVIDIA DGX Cloud是一项人工智能超级计算服务,它可以让企业快速访问为生成式人工智能和其他开创性应用训练高级模型所需的基础设施和软件。通过一个浏览器,客户就可以将英伟达DGX AI超级计算机实时接入公司。
其次,面向具有构建、优化和运营定制大语言模型和生成式AI需求的客户,英伟达推出云服务NVIDIA AI Foundations,提供语言、数据和生物学模型的定制服务。
同时,针对ChatGPT等大语言模型的推理训练,英伟达推出了新的GPU H100。H100配备有94GB HBM3的显存,可以支持参数规模达到1750亿的GPT-3,并将大语言模型的处理成本降低一个数量级。
NVIDIA DGX Cloud将透过多个云端服务供应商提供,微软Azure预计于下一季起托管DGX Cloud服务,包括Google Cloud等业者也将陆续开始供应服务,DGX Cloud执行个体价格为每个执行个体每月36,999美金起。
每个DGX Cloud执行个体皆有8个NVIDIA H100或NVIDIA A100 80GB Tensor GPU,单一节点具备640GB 的GPU记忆体,并透过NVIDIA Networking技术提供高效能、低延迟网路,使多个执行个体等同一个超大型GPU。
文章综合和讯 、格隆汇APP、CNMO手机中国
最新内容
手机 |
相关内容
DigiKey 推出《超越医疗科技》视频
DigiKey 推出《超越医疗科技》视频系列的第一季,推出,医疗科技,健康,需求,产品,诊断,全球供应品类丰富、发货快速的现货技术元器件台积电1.4nm,有了新进展
台积电1.4nm,有了新进展,台积电,行业,需求,竞争力,支持,芯片,近日,台积电(TSMC)宣布将探索1.4纳米技术,这是一项令人振奋的举措,将有望为E英伟达芯片开发过程引入聊天机器人
英伟达芯片开发过程引入聊天机器人,扩展更多AI应用,聊天机器人,扩展,芯片,英伟达,开发过程,调试,英伟达是一家全球领先的半导体公司,英特尔不应该担心英伟达Arm架构的P
英特尔不应该担心英伟达Arm架构的PC芯片?恰恰相反,芯片,英伟达,英特尔,调整,研发,推出,英特尔目前是全球最大的半导体公司之一,主要以阅流智作:一种全新的生成式AI视频制
阅流智作:一种全新的生成式AI视频制作方式,或将颠覆专业视频生产,生成式,全新,视频制作,数据,学习,用户,阅流智作是一种全新的生成式A英伟达系列芯片设计的高阶自动驾驶
英伟达系列芯片设计的高阶自动驾驶系统启动时序流程,启动,自动驾驶系统,芯片,英伟达,控制,车辆,英伟达(NVIDIA)是一家全球领先的人工探秘英伟达显卡的制造之路 | 英伟
探秘英伟达显卡的制造之路 | 英伟达断供GPU,中国大模型何去何从?,英伟达,模型,中国大,显卡,方案,能力,英伟达(NVIDIA)是全球领先的图形先在汽车市场爆发,UWB雷达进一步商
先在汽车市场爆发,UWB雷达进一步商业化,汽车市场,汽车安全,市场,汽车行业,高精度,性能,随着技术的不断进步,汽车市场不断爆发,而UWB雷