在边缘部署AI有哪些注意事项

边缘计算的增长一直是许多行业的热门话题。智能基础设施的价值意味着整体运营效率、安全性甚至能提高收益。但是，并非所有工作负载都需要，甚至不应该部署在边缘。

企业在开发和部署人工智能应用程序时结合使用边缘计算和云计算。人工智能培训通常在云端或数据中心进行。当客户评估在哪里部署 AI 应用进行推理时，他们考虑诸如延迟、带宽和安全要求等方面。

边缘计算专为具有低延迟要求的实时、始终在线解决方案量身定制。始终在线的解决方案是传感器或其他不断工作或监控其环境的基础设施。“常开”解决方案的例子包括用于防损的网络摄像机、用于手术支持的 ERs 中的医学成像或工厂中的装配线检查。许多客户已经接受了用于 AI 应用的边缘计算。阅读他们如何创造更智能、更安全的空间。

当客户评估他们的人工智能策略和边缘计算对他们的业务有意义时，他们必须考虑的因素有很多，以确保优化部署。这些考虑因素包括延迟、可扩展性、远程管理、安全性和恢复能力。

减少延迟

大多数人都熟悉将计算机应用于数据的想法，而不是相反。这有许多优点。其中最重要的是延迟。企业不会浪费时间将数据发送回数据中心或云，而是实时处理数据，并立即生成智能 i NSight 。

例如，部署人工智能防损解决方案的零售商不能等待数秒或更长时间才能从其系统返回响应。他们需要对异常行为发出即时警报，以便能够立即对其进行标记和处理。类似地，为仓库设计的 AI 解决方案需要即时响应，以检测工人何时在错误的位置或未佩戴适当的安全设备。

扩展性

创建智能空间通常意味着公司希望在数万到数千个地点运行人工智能。这种规模的一个主要挑战是移动和处理信息的云带宽有限。带宽上限通常会导致更高的成本和更小的基础设施。通过边缘计算解决方案，数据收集和处理在局域网上进行，带宽与局域网（ LAN ）相连，具有更广泛的可扩展性。

远程管理

当扩展到数百个远程位置时，组织必须解决的关键问题之一是如何管理所有边缘系统。虽然今天一些公司试图雇佣熟练的员工或承包商来处理边缘位置的供应和维护，但大多数公司很快意识到他们需要集中管理以扩大规模。边缘管理解决方案使 it 能够轻松地提供边缘系统、部署 AI 软件和管理所需的持续更新。

安全性

与数据中心的传统安全策略相比，边缘计算的安全模型几乎完全颠覆了。虽然组织通常可以维护其数据中心系统的物理安全性，但边缘系统几乎总是可供更多人自由访问。这需要物理硬件安全过程以及能够保护这些边缘设备上的数据和应用程序安全的软件安全解决方案。

弹力

E边缘系统通常由很少或没有熟练的 IT 专业人员来管理，以在发生崩溃时提供帮助。因此，边缘管理需要能够自行修复问题的弹性基础设施，以及在需要人工干预时安全的远程访问。在系统出现故障时迁移应用程序并自动重新启动这些应用程序是许多云原生管理解决方案的核心功能，使边缘计算环境的持续管理变得无缝。

推动客户将其计算系统移动到更靠近远程位置数据源的位置有许多好处。客户需要考虑边缘计算是如何与传统上依赖的数据中心或云计算不同的，并投资于提供、保护和管理这些环境的新方式。

关于作者

Amanda Saunders 在 NVIDIA 负责 Edge 和企业计算解决方案集团的 Edge AI 产品营销。她为医院、商店、仓库、工厂等带来了智能的边缘计算解决方案。除了从事 edge 解决方案之外， Amanda 还在 NVIDIA 担任销售和营销角色，与 AI 、数据科学、虚拟 GPU 和许多不同行业合作。

审核编辑：郭婷

边缘计算有哪些数据源

免责声明：本网信息来自于互联网，目的在于传递更多信息，并不代表本网赞同其观点。其原创性以及文中陈述文字和内容未经本站证实，对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺，并请自行核实相关内容。本站不承担此类作品侵权行为的直接责任及连带责任。如若本网有任何内容侵犯您的权益，请及时联系我们，本站将会在24小时内处理完毕。