AI时代下自研芯片的优势

据报道，自主研发芯片目前似乎已经成为一种趋势，消费电子厂商、互联网公司和汽车厂商都在自主研发芯片。作为一个一直在处理计算的云端，自然也参与其中，甚至是先进工艺自主研发芯片的主力军。

自研芯片能省多少钱？

早在芯片行业就有布局，或者几乎所有通过收购来掌握芯片设计实力的云服务厂商都选择了自主研发服务器芯片BYT231PIV-1000的路线，比如亚马逊、谷歌、阿里巴巴等等。自主研发芯片的范围也从网络芯片到一般计算的CPU，再到AI计算的ASIC芯片。

亚马逊通过自主研发芯片节省了大量成本，这是其他云服务制造商目前未能复制的成功。首先，自主研发芯片通过架构创新为其定制实例提供了更高的性能。例如，Nitro芯片可以通过卸载任务节省两个CPU内核。其次，对于一些特定的工作负荷，自主研发芯片带来了更容易掌握的战略控制和硬件锁定；最后，找第三方fabless设计公司的成本自然省了。

考虑到云服务制造商在硬件投资方面的规模，以及亚马逊作为世界上最大的云服务制造商的规模，节省了相当大的成本。这也是亚马逊自主研发芯片可行的原因。其他云服务厂商可能可以通过自主研发降低设计成本，但制造成本绝对不能像亚马逊那样低，这也是AWS过去可以频繁降价的原因。

自研芯片在AI时代有优势，但不多。

在收购之后，亚马逊先后推出了Trainium和Inferentia这两个训练和推理加速器，并将其集成到自己的云实例中，以优异的性能为客户提供高性价比的AI硬件解决方案。但是，微软凭借英伟达的GPU率先以ChatGPT开始了这场激烈的战斗，而谷歌的Bard也紧随其后。

另一方面，亚马逊选择与HuggingFace合作，作为云供应商的首选，用户可以利用SageMaker托管服务、Trainium和Inferentia硬件等AWS上的先进工具，对模型进行训练、微调和部署，从而为社区创造更开放、更易用的AI。

但事实上，这种合作激起的水花很快就淹没在AI应用中，像倾盆大雨一样落地。而对于HuggingFace来说，他们想要打造一个开放的生成AI模型，也就是说其他厂商也可以从中受益，也就是两家公司共同提到的机器学习民主化。

此外，在部署方面，HuggingFace已于2022年与微软Azure达成合作，并在AzureML终结点部署HuggingFace机器学习推理服务。因此，即使这次合作充分利用了亚马逊自主研发的AI芯片，它的优势也不大。现有的自主研发芯片，无论是性能还是软件生态，都存在于喉咙里，这并不局限于亚马逊这样的大厂商，很多创业AI芯片公司或多或少都面临着这样的困境。

结语

事实上，自研芯片并非真的没有灵活性，例如亚马逊的Graviton和阿里的倚天710，虽然是自研芯片，但是使用的还是Arm的Neoverse公版方案，还有很多第三方方案，比如英伟达的Gracerse、Altra等AmpereComputing。

事实上，开发灵活性仍然很高，例如英伟达为Grace铺路，也为同类产品的软件栈提供了支持。例如，英伟达的HPCSDK完全支持AWS的Graviton3，同时也支持SVE和NEON的自动矢量化。而且英伟达推出的ArmHPC开发套件，也是Ampere的AltraQ80-30CPU和A100GPU的组合，与Grace芯片共享同一个软件环境。

只是在AI领域，这种自主研发路线的优势会小一些。毕竟AI模型和算法发展很快，自主研发的GPU有各种难以突破的专利壁垒，自主研发的ASIC存在迭代适应和软件生态移植的问题。对于云服务厂商来说，一个为客户提供更快产品上市速度的企业来说，也许在AI还在快速发展的时候，GPU会是一个更好的解决方案，这也是云服务厂商即便选择了自研AI芯片，主打的却依然是GPU实例的原因。

芯片时代硬件计算亚马逊研发

免责声明：本网信息来自于互联网，目的在于传递更多信息，并不代表本网赞同其观点。其原创性以及文中陈述文字和内容未经本站证实，对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺，并请自行核实相关内容。本站不承担此类作品侵权行为的直接责任及连带责任。如若本网有任何内容侵犯您的权益，请及时联系我们，本站将会在24小时内处理完毕。