首页 / 电子技术
Broadcom 推出业界最高性能的 AI 网络结构
2023-04-26 15:12:28
据环球通讯社最新报道:
——博通公司(纳斯达克股票代码:avgo)宣布已交付 jericho3-ai,为人工智能 (ai) 网络提供业界最高性能的结构。
jericho3-ai 通过一流的功能彻底改变了 ai 网络,例如完美的负载平衡、无拥塞操作、超高基数和零影响故障转移,所有这些都最终显着缩短了任何 ai 工作负载的作业完成时间。
jericho3-ai 在 ai 的使用激增之际进入市场。
根据来自的新预测国际数据公司 (idc),全球人工智能支出将达到1540亿美元2023年和3000亿美元到 2026 年或更多。2023 年的数字比 2022 年增长 26.9%。
基于 jericho3-ai 的结构将帮助网络运营商处理 ai 需求将呈现的不断扩大的工作负载。
“ai 网络的基准是减少完成大规模 ai 模型的训练和推理所需的时间和精力,”说拉姆维拉加, 高级副总裁兼总经理,核心交换组,博通。“与市场上的任何其他替代方案相比,jericho3-ai 显着缩短了工作完成时间。”
ai 工作负载具有独特的特征,例如数量少的大型、长期流,所有这些都在 ai 计算周期完成后同时开始。jericho3-ai 结构为这些工作负载提供最高性能,具有专为 ai 工作负载设计的独特功能:
完美的负载均衡将流量均匀分布在结构的所有链路上,确保在最高网络负载下实现最大网络利用率。
端到端流量调度的无拥塞操作可确保无流量冲突和抖动。
超高基数独特地允许 jericho3-ai 结构将连接扩展到单个集群中的 32,000 个 gpu,每个 800gbps。
零影响故障转移功能可确保在 10 纳秒内自动收敛路径,从而不会影响作业完成时间。
利用这一独特的功能,与 all-to-all 等关键 ai 基准测试的替代网络解决方案相比,jericho3-ai 结构的工作完成时间至少缩短了 10%。这种性能改进对降低运行 ai 工作负载的成本具有乘法效应,因为它意味着昂贵的 ai 加速器的使用效率提高了 10%。实际上,网络是为自己买单的。
jericho3-ai 结构提供每秒 26 pb 的以太网带宽,几乎是上一代带宽的四倍,同时每千兆比特的功耗降低 40%。
“云运营商将升级他们的人工智能基础设施,以应对带宽的大幅增长,这是由新一代大容量 gpu 和大型语言模型的出现所推动的,”他说。鲍勃惠勒, wheeler's network 的首席分析师。“jericho3-ai 为连接数万个 gpu 的网络提供了高带宽、低延迟和低功耗的选择,为这个激动人心的新时代彻底改变了构建和维护 ai 集群的经济性。”
jericho3-ai 结构的一个独特之处在于它提供了最高的性能,同时还实现了最低的总拥有成本。这是通过长距离 serdes、分布式缓冲和高级遥测等属性实现的,所有这些都使用行业标准以太网提供。这些因素为最大的硬件和软件提供商生态系统提供了网络架构和部署选项的高度灵活性。
关于 broadcom
broadcom inc.(纳斯达克股票代码:avgo)是一家总部位于加利福尼亚州圣何塞的特拉华州公司,是设计、开发和提供范围广泛的半导体和基础设施软件解决方案的全球技术领导者。broadcom 类别领先的产品组合服务于关键市场,包括数据中心、网络、企业软件、宽带、无线、存储和工业。我们的解决方案包括数据中心网络和存储、企业、大型机和专注于自动化、监控和安全、智能手机组件、电信和工厂自动化的网络安全软件。如需更多信息,请访问 https://www.broadcom.com。
要了解有关 jericho3-ai 的更多信息,请点击此处。jericho3-ai 现在可供合格客户使用。有关所有 broadcom 产品的更多信息,请访问www.broadcom.com。
最新内容
手机 |
相关内容
逆变器技术对新能源汽车市场增长的
逆变器技术对新能源汽车市场增长的重要性,市场,新能源汽车,逆变器,控制,高效率,能和,随着全球对环境保护和可持续发展的关注不断增多用途可回收纳米片面世,可用于电子
多用途可回收纳米片面世,可用于电子、能源存储、健康和安全等领域,能源,健康,传感器,结构,用于,芯片,近年来,纳米技术的快速发展给各分离式光电液位传感器与电容式液位
分离式光电液位传感器与电容式液位传感器对比,传感器,值会,温度,检测,测量,介电常数,分离式光电液位传感器与电容式液位传感器是常从概念到生产的自动驾驶软件在环(Si
从概念到生产的自动驾驶软件在环(SiL)测试解决方案,测试,解决方案,自动驾驶,传感器,评估,车辆,自动驾驶软件在环(SiL)测试是一种在计算悄然席卷企业级SSD市场的RISC-V主
悄然席卷企业级SSD市场的RISC-V主控,市场,企业级,性能,功耗,支持,低功耗,随着计算机技术的不断发展,企业级SSD(Solid State Drive)市场什么是空心电抗器,空心电抗器的基本
什么是空心电抗器,空心电抗器的基本结构、技术参数、工作原理、类型、执行标准、绝缘等级及适用环境,类型,等级,工作原理,执行,结构什么是带阻三极管,带阻三极管的基本
什么是带阻三极管,带阻三极管的基本结构、工作原理、电阻比率、常用型号、应用、检测、操作规程及发展历程,三极管,检测,工作原理,什么是射流继电器,射流继电器的基本
什么是射流继电器,射流继电器的基本结构、技术参数、工作原理、负载分类、如何选用、操作规程及发展历程,继电器,工作原理,分类,负