边缘AI能够为数十亿台设备实现实时、低功耗的本地智能，为物联网带来前所未有的创新空间。
如今，人们一听到 “人工智能” 或 “AI”，往往会想到像ChatGPT、DeepSeek和Google Gemini这些流行的大型语言模型和文本转图像生成系统。但现实中还存在着另一种举足轻重的AI，存在于构成物联网的数十亿台互联设备内部。
对实时决策、更强隐私保护以及在应用端产生海量数据和决策的需求，推动了将AI融入物联网设备的趋势。高效、特定任务的模型不再必须依赖云，而是可以在本地运行，仅占用极少资源和能耗，从而使智能可以扩展到数百亿台超低功耗设备。
实际应用
为了理解这个丰富商机的巨大规模，不妨想想实际应用的情况。例如，建筑能耗约占全球能源消耗的30%，其中制冷和暖通空调 (HVAC) 系统消耗的能源相当可观。传统的智能温控器可能仅根据简单的日程安排或手动输入来调节温度，而真正的智能温控器则会考虑人体感应器、外部气象数据以及电网实时电价信号的信息，并且能够学习建筑物的热动态和居住者的活动规律，在用电低谷时段 (此时能源价格更低、更清洁) 进行预热或预冷，并在空间无人时降低能耗。当这些优势在全球数十亿个系统中得到落实时，在许多应用中的潜在节能效果可达20%至40%，整体效益十分巨大，可直接节省运营成本和减少碳排放量。
另一方面，目前全球医疗体系已不堪重负，而AI驱动的可穿戴设备不仅能生成丰富的患者健康指标数据集，还能判断和筛选不相关的数据，只将重要信息传递给患者的医疗服务提供者，从而帮助工作繁重的医护人员减低工作压力。这不仅节省了资源，还能帮助医生提供更个性化的健康决策、更早地做出诊断、远程监测患者并确保患者遵医嘱用药。
据德勤估计，工业制造商每年因为计划外的机器停机而损失约500亿美元。仅仅是一台泵发生故障就可能导致生产线停工，每小时损失数万美元。通过在电机和泵上安装振动和温度传感器，并运行异常检测模型 (有些模型小至5KB) ，企业可以提前数天甚至数周识别潜在故障。该设备执行持续推理 (实时运行机器学习模型并做出决策)，仅在检测到偏离正常模式时才发出警报。这样，维护工作就可以安排在计划停机期间进行，从而避免发生灾难性故障。
这些场景代表我们对AI的看法出现了重大转变，从依赖庞大的云端模型，变为更分布式、更贴近终端应用、影响力更深远的模型。
智能转型
在物联网发展历程中的大部分时间里，各行各业的联网设备都是先收集原始数据，然后将其发送到云，等待处理，最后根据处理结果采取行动。这种方法虽然总体上有效，但却消耗大量带宽，并引入了从数百毫秒到数秒不等的延迟，对于需要近乎实时响应的应用来说，这实在是太漫长了。
解决方案是将智能处理能力从云转移到数据生成的地方，即是设备本身。这种 “边缘AI” 是AI领域增长最快的细分市场，因为它让即使最平凡的物联网设备也变得更智能、更自主、更节能。
超低功耗边缘AI可以通过同一生态系统内提供的互补技术来实现，例如 Nordic Semiconductor 的定制 Neuton 模型和 Axon 神经处理单元 (NPU)。Neuton 模型可灵活应用于 Nordic 的全线产品，它采用自动化的逐神经元构建流程，能够生成高度紧凑的高效神经网络，省却了传统架构的额外开销；这显着降低了内存和计算需求，使其成为资源受限设备的理想之选。Axon NPU 是 Nordic 的AI加速器核心，直接集成到 nRF54LM20B SoC 等特定设备中，能够以更高速度和更佳能效来加快繁重的工作负载。
如果没有像 Nordic 的 nRF54L 系列这样的先进芯片所内置的超低功耗处理能力，这一切都无法实现。这些超低功耗处理能力包括 SoC 能够在 99% 的时间中都处于深度睡眠状态，并在微秒级的时间内唤醒以读取传感器数据、进行推理，并在必要时发送一个小数据包。
Nordic Semiconductor AI主管 Arjun Chandra 解释道：“对边缘AI的需求正在加速增长，因为智能正在转移到数据来源地，即是边缘，就在捕获现实世界信号的传感器和设备内部。”
多个因素推动这一转变：首先，互联产品需要实时感知周围环境，比如运动、声音、用户存在、健康信号还是异常情况。在设备本地处理这些信息可以实现即时响应，而无需依赖网络可用性和避免云延迟。其次，持续向云传输数据会消耗大量能源和成本，通过在设备端运行AI，开发人员可以大幅减少数据传输，从而延长电池续航时间。第三，隐私和安全正成为重要的设计标准。将数据保留在设备端，而不必将原始传感器数据发送到云，可以提高用户信任度，并降低监管复杂性。
构建物理AI
要充分驾驭AI这种演进趋势，需要能够简化整个开发流程的解决方案，涵盖数据收集、模型训练、部署和无线更新等各个环节；这里的问题不再是边缘AI可以做什么，而是工程师该如何实际构建它。
Nordic并没有将AI视为必须依赖云的功能，而是将其重新设计为嵌入式系统的原生功能，在严格的功耗、内存和延迟限制下运行，同时又不影响性能。Chandra说道：“Nordic专注于实现这一物理AI层，即是感知、计算和现实世界交互的融合点。”
Nordic Semiconductor 首席执行官 Vegard Wollan 补充道：“AI工厂负责训练智能，而 Nordic 负责把智能部署在设备端、在边缘端，在世界运转的地方。Nordic 的边缘 AI解决方案能够实现毫秒级决策，无需把数据传输往返云而引致延迟，不仅通过本地处理确保合规性，并为数十亿台联网设备带来显着提升的电池续航能力。这就是Nordic 正在定义的超低功耗边缘 AI 新标准。”
Nordic 致力消除开发生命周期各个阶段的障碍，并通过 Neuton 模型和 Axon NPU 产品进一步践行这一理念。借助 Nordic 独有的 Neuton 模型，嵌入式开发人员无需具备机器学习专业知识，即可利用自身数据集生成占用内存极小的优化模型。而 Axon NPU 则为他们提供针对常见 AI 工作负载优化的硬件。
与此硬件相辅相成，Nordic 的软件环境为开发人员提供了入门的康庄大道。
凭借对 TensorFlow Lite/LiteRT 模型的支持以及与 Nordic Edge AI Lab 的紧密集成，嵌入式工程师可以无缝、轻松地构建、优化、测试和部署模型。
Neuton 模型的尺寸紧凑而且效率出色，能够在任何 Nordic SoC 或蜂窝模块的 CPU 上运行边缘 AI 应用，应对基于时间序列传感器数据 (例如加速度计、惯性测量单元 (IMU)、光电容积脉搏波描记法 (PPG) 或温度和电量测量传感器的输出) 的 AI 挑战。异常检测、手势识别、活动分类和生物特征监测可以持续实时地执行，而不会耗尽电池电量或云连接资源。
尽管 Neuton 模型能够在 CPU 上实现高效的 AI 运算，但某些应用需要更强大的计算能力，比如高频传感器数据、音频处理和图像分类等应用对处理速度、内存和能效的要求更高。在这种情况下，Axon NPU 能够在资源受限的设备上发挥高性能 AI 工作负载的潜力。Axon NPU 专为超低功耗环境而设计，可为 TensorFlow Lite 级模型提供专用的硬件加速，与 CPU 执行相比，推理速度最高可提升 15 倍，且能耗更低。
这种加速不仅仅是速度加快，并且从根本上为边缘计算带来了新的可能性。以前在电池供电设备上难以完成的任务，例如关键词识别、声音分类和基于图像的检测，现在可以在本地执行，且延迟和能耗都极低。
一个常见的问题是，Axon NPU 能否为Neuton 模型加速。Chandra 解释说 “答案是否定的，而这是设计有意为之。Neuton 模型的计算量已经非常轻盈，因此不需要硬件加速。它们具有出色的高效性，可以完全在 MCU 的 CPU 上运行，同时保持极低功耗。”
“这为各种实际应用打开了大门，包括基于 Neuton 的定制模型，例如手势遥控、活动识别、异常检测、预测传感等等，所有这些功能都可以在资源非常有限的设备上实现。”
完美匹配
Nordic 灵活且可扩展的边缘 AI 架构使开发人员能够根据硬件、应用和能耗预算来匹配合适的智能级别，确保事半功倍地把概念中的智能转化为现实。通过将超高效模型与专用加速器相结合，Nordic 的边缘 AI 解决方案可应用于部署物联网设备的各种场景，并且在所有应用场景中实现一致的优势，包括更低的延迟、更低的能耗、更高的隐私保护和更强的系统韧性。
重要的是，开发者并非受困于单一方法。相反，他们可以根据每个应用场景选择最合适的技术，甚至可以在单个系统中组合使用多种技术。例如，一个设备可以使用 Neuton 模型进行持续异常检测，然后在检测到事件后利用 Axon NPU进行更详细的分析。这种分层方法确保智能技术能够精准地应用于刀口上，从而发挥最大价值。
下一个时代
多年来，为无线物联网设备添加AI功能，意味着要在电池续航时间和性能之间作出取舍。现在，开发者可以两者兼得了。
简单传感器的时代正逐渐终结，取而代之的是一个由数十亿台设备组成的新世界：这些设备不仅收集数据，还能理解数据、采取行动，并只传递我们需要的信息。构建这些设备的技术如今已经存在，任何嵌入式工程师都能轻松获取相关工具，而且藉此在经济和竞争方面取得显着优势。