边缘AI：可以在无线模块上运行么？

本文作者 |Magnus Johansson，u-blox短程通信产品战略部

导言

人工智能(AI)的实效性、与物联网设备的适用性以及边缘计算的性能都在近期取得了显著的进步，这也释放了边缘AI的潜能。本文深度探讨了其中的原因。

在过去的十年里，人工智能(AI)已由一个概念转变为人们生活中必不可少的一项技术。Google搜索、社交媒体源、在线广告等服务都使用AI算法，并在云端对海量数据进行多元化处理，进而为每位用户量身打造定制服务。

此外，AI的自主学习能力在网络应用中也无处不在，包括优化用户体验、业务流程和技术解决方案等。

与此同时，AI在联网设备中也开始得到广泛应用，例如通过人脸识别解锁手机，语音激活Siri或Google助理并与之对话，以及拍摄照片等应用。

但值得一提的是：这些应用的AI计算在终端设备上就可实现，即边缘AI算法。

AI及相关的机器学习技术逐渐普及和成熟，越来越多的产品集成了边缘AI，帮助改善用户服务体验并能支持全新的应用场景。语音及人脸识别等手机标配功能仅仅是边缘AI应用的很小一部分，未来将会有更多场景使用到边缘AI技术。

01.边缘AI技术优势

理解边缘AI的工作原理有助于我们了解边缘AI的优势。与标准人工智能类似，边缘AI依赖于模拟人脑神经网络结构创建的数学模型，并通过训练完成各种任务。

例如，在接触过网络上大量红绿灯图片之后，这些神经网络就会轻而易举地识别此类图片。

训练AI算法的过程需要大量数据，并且涉及大量的计算。但最终得到的是体积小、功能强的AI模型，可以轻松部署到任意数量的终端设备上。如果这些设备具有足够的计算资源，那么运行算法时就不需要云端连接。

独立于云端的边缘AI技术优势：

通信要求

由于不必将语音或图像数据上传到云端，设备在本地运行AI算法，节约的带宽可以用来满足其他方面的需求，或者只需要低带宽无线通信技术就可以运行。当然，云端连接仍然具备其特有的优势，例如在新版、改进版模型发布之后，可以远程更新AI模型。

延迟

由于是在设备上直接运行AI算法，不必将感测数据上传到云端再将输出结果回传到终端设备，这样就可以大幅降低延迟，实现流畅、无延迟的用户体验。

隐私

如果连最尖端的联网设备都不能幸免于数据遭黑客拦截的风险，那么很显然，位于中低价格区间的消费电子设备受到此类威胁的风险会更高。而边缘AI设备是在本地处理所有数据（包括语音、图像或其他数据），这些数据在本地设备中处理，因此不会遭到拦截。

02.边缘AI应用场景

人脸识别除了可以在智能手机上使用，也可以在其他场景中用于用户验证。

例如，商业门禁解决方案通过人脸识别来确保进入限制区域的员工均经过授权，而安保摄像头则可以利用人脸识别功能在检测到陌生人进入建筑时触发警报。同样，在健身房、医疗诊所或商业场馆，人脸识别还可以用来辨别客户。

与此同时，语音用户界面也越来越流行。毕竟，直接与智能设备对话（并且单方面被理解）应该是最方便的互动方式了。语音识别技术可以验证用户身份，处理输入的语音指令，近年来在智能手机和智能个人助理的应用中被逐渐完善，现在已经开始出现在汽车和智能家居设备应用中，同时还为无法打字的残疾人士带来了便利。

在工业领域，边缘AI可用于标记设备的异常行为，例如电机出现故障的早期特征或轴承的磨损迹象。

针对此类异常检测应用场景，我们使用包含正常行为的数据集对AI模型进行训练。只要检测到任何偏离标准的情况，工厂操作人员就会收到警报，从而能够了解机械设备潜在的故障并且尽早进行处理，避免停机所造成的高昂经济和时间损失。

03.携手u-blox部署边缘AI技术

在无线智能设备中部署边缘AI应用场景已经变得非常便捷，而且其性能也更强大。

u-blox刚刚推出了NORA-W10 Wi-Fi 4和蓝牙低功耗5.0模块（点击下划线处了解更多内容），专为实现和加速边缘AI应用部署而设计。

NORA-W10模块除了采用高性能open CPU来支持功能丰富的客户应用，还支持语音和人脸识别的AI计算。用于边缘神经网络推理（8位和16位模型）的AI矢量指令可以带来额外的性能提升，显著加快AI算法速度，降低感知延迟，并且还能减少耗电量。

审核编辑：汤梓红

无线模块边缘计算运行