首页 / 行业

天数智芯正式发布通用GPU推理产品“智铠100”，峰值算力高达384TOPS@int8

2022-12-22 01:03:00

12月20日，天数智芯在全新通用GPU产品线上发布会上正式发布该公司第二款产品——智铠100，面向人工智能推理应用。

“2021年3月，天数智芯发布了公司第一款产品天垓100，是国内第一款通用GPU训练产品，实现了我国高端通用GPU从0到1的突破。目前，天垓100已经覆盖20多个行业，适配300多个应用模型。”天数智芯总裁盖鲁江表示，“智铠100作为公司第二款产品，瞄准推理应用市场，可广泛应用于金融、医疗、教育、安防、互联网、智能语音、车路协同、智能中心等领域，标志着天数智芯成为国内唯一拥有云边协同、训推组合的完整通用算力系统全方案提供商。”

天数智芯于今年5月成功点亮智铠100，在2022世界人工智能大会上，智铠100首次公开亮相，被誉为“镇馆之宝”，吸引了众多行业用户的关注。

那么，智铠100的真实性能如何呢？在本次发布会上，天数智芯产品线总裁邹翾对智铠100进行了全面的介绍。根据他的介绍，智铠100具有计算性能高、应用覆盖广和使用成本低三大特点。

在计算性能高方面，智铠100支持FP32、FP16、INT8等多精度混合计算，峰值算力表现为384TOPS@int8、96TFlops@FP16、24TFlops@FP32。

此外，智铠100加速卡提供32GB的HBM存储配置，800GB/s的理论峰值带宽，16路PCIe 4.0通道，以及128路并发的多种视频规格解码能力。

邹翾指出，和目前行业内的主流方案相比，智铠100在CV/自然语言处理，以及推荐/滤波/统计分析等方面，基本都能提供2-3倍实际使用性能。

在应用覆盖广方面，上面已经提到，智铠100能够满足多个行业的推理应用需求。同时，为了让这些行业的用户更好地使用智铠100，天数智芯在智铠100上做了专门的优化。智铠100能够提供多达800余条通用指令集，500多个算子函数，支持国内外主流深度学习开发框架，拥有丰富编程接口拓展和高性能函数库，可以灵活支持各种算法模型，便于客户自定义开发。

在使用成本低方面，智铠100具备开发易迁移的特点，全面支持推理及训练一体化方案，能够在不额外增加购置成本的情况下完成增量训练工作，有效减少用户的成本支出。发布会上，有嘉宾在分享时讲到，智铠100带来了非常好的使用体验，在实际的算法迁移过程中，并不需要对上层算法做太多修改就能够完成迁移。并且，智铠100不仅迁移速度快，而且性能表现稳定，可以满足相关应用的需求。

目前，天数智芯在国内通用GPU市场已经打开局面。2022年4月，天垓100累计订单金额已经接近2亿元，目前这一数字已经超过了5亿元。智铠100的出现进一步丰富了天数智芯的产品阵容，并吸引了产学研多方面的关注。发布会上，极视角生态合作负责人叶炤阳介绍，该公司已经在算法开发训练、算法推理部署平台上部署天垓100和智铠100产品。让我们期待2023年天数智芯在智铠100上拿出亮眼的成绩单。