1. Home
  2. 博客

    真正的扩展现实

真正的扩展现实

Nordic Semiconductor

借助先进的无线和 Edge AI 智能技术,扩展现实正从一个小众平台发展成为主流平台,并将改变教育、医疗保健和行业的根本。Nordic 独有的 Neuton 模型可在 CPU 上实现 Edge AI,用于处理来自加速度计、惯性测量单元和光电容积脉搏波描记法等传感器的时序数据,尤其适用于超低功耗无线应用。

借助先进的无线和 Edge AI 智能技术,扩展现实正从一个小众平台发展成为主流平台,并将改变教育、医疗保健和行业的根本。

人机交互领域的先驱作家、研究员、设计师和企业家 Brenda Laurel 在 1993 年说:"现实总是无法满足人类的想象力"。但今天的世界已经与当时截然不同。那时,VR 街机游戏还是一种新奇的概念,互联网泡沫距离破裂还有七年。快进到 2025 年 5 月,西班牙一间灯光明亮的手术室里,一组外科医生成功地使用无线头戴设备完成了一项复杂的脊柱手术。该设备将 3D 解剖数据直接叠加到患者身上。数千公里之外,澳大利亚的一群学员通过沉浸式混合现实眼镜实时观察了同样的手术过程,并按照步骤进行操作,仿佛身临其境。与此同时,在欧洲各地的教室里,学生们正在通过完全交互式的虚拟环境漫步于古代文明,学习历史。而在繁忙的制造工厂里,工程师们在接触实物之前,正在使用复杂机器的数字孪生模型进行培训。欢迎来到扩展现实 (XR) 和 “元宇宙” 的世界。这是一个支持3D的数字空间,其中互联的 XR 环境网络创造出栩栩如生的个人和职业体验。这个沉浸式互动世界由无线技术的隐形引擎驱动。XR 技术与超可靠、低延迟无线连接的快速融合,正以前所未有的方式为人们的工作、学习、康复和娱乐开辟新的维度。曾经听起来像是科幻小说里的场景,如今已成为现实。

不同的多重现实

除了 VR 之外,XR 还包括增强现实 (AR) 和混合现实 (MR)。VR 将用户完全沉浸在计算机生成的环境中,通常通过头戴式设备体验,从而隔绝现实世界。AR 将数字内容叠加到现实世界场景中,通常通过智能手机、智能眼镜或轻便的头戴式显示器观看。MR 则融合了两者,允许数字对象和物理对象实时互动。这些技术正在融合,带来日益无缝的体验。例如,现场技术人员可以使用 AR 接收叠加在机器上的分步维修说明,而远程专家则通过 MR 加入,以交互式方式指导维修过程。市场预测描绘了 XR 领域未来的发展前景。IDC 预测,到 2027 年,全球在 AR 和 VR 解决方案上的支出将达到 509 亿美元,复合年增长率超过 30%。分析人士指出,XR 的下一个飞跃不仅来自更先进的头戴式设备,还来自无线基础设施和芯片创新,这些创新使这些体验变得无缝、自由和智能。

游戏以外

早期的 XR 创新主要由游戏和娱乐行业推动。随着消费者对沉浸式环境的需求不断增长,头戴式设备的销量也随之飙升。但在过去五年里,XR 已经从客厅扩展到教室、医院、建筑工地和工厂车间。其中最具影响力的应用之一是教育和培训领域。沉浸式模拟使学习者能够以直观、空间感知的方式与复杂的主题进行互动。医学生可以在进入手术室之前,在 VR 中练习外科手术。工程学徒可以拆卸和重新组装昂贵设备的数字孪生模型,而无需担心损坏真正的物理部件。这些应用不仅更具吸引力,还能显着降低培训成本并提高知识保留率。医疗保健行业也在以惊人的速度拥抱 XR。外科医生正在使用AR 在手术过程中叠加患者的影像数据,从而实现更精准的切口和更短的手术时间。治疗师正在将 VR 融入康复计划,为患者提供可控且引人入胜的环境,以促进身体或认知康复。工业领域是另一个前沿阵地,制造工厂正在部署 XR 技术用于远程协作和维护。结合物联网传感器数据,AR 头显可以将实时诊断信息和操作说明直接叠加在机器上,供工程师查看。这不仅加快了维修速度,还减少了停机时间,提高了安全性。

无线核心

尽管 XR 和元宇宙的前景十分广阔,但其成功与否取决于无线体验的质量。高分辨率 3D 渲染、实时运动追踪、触觉反馈和空间音频都需要极低的延迟和可靠的连接。哪怕几毫秒的延迟,都可能令用户感到迷失而失去沉浸感。

Nordic Semiconductor nRF54L15 SoC 这样的新一代芯片,正好在这种情况下脱颖而出。nRF54 系列专为高级无线应用而设计,兼具高性能和超低功耗。nRF54 系列全新的 4 Mbps 专有模式和增强的 TX / RX 切换时间,能够实现超低延迟无线链路的设计,反应速率高达 8 kHz,这意味着,例如,控制器和 VR 头显每毫秒可以发送和接收 8 次数据。在 XR 设备中,这意味着流畅、无线的体验——无论用户身处教室、工厂还是手术室。

例如,采用 Nordic 2.4 GHz 专有无线连接技术 的 VR 头显可以与控制器和音频系统实时通信,实现几乎无延迟的输入和反馈,以确保用户的操作能够即时转化为虚拟空间中的真实体验,而稳定的吞吐量则支持清晰的空间音频,这对于沉浸式体验至关重要。这种无线性能使开发人员能够卸载计算任务,从而打造更轻薄、更时尚、续航时间更长的头显。XR 通常是一个多设备生态系统,包含头显、控制器、手套、音频外设在内,有时甚至边缘计算节点都需要同时进行通信。在这些动态环境中,可靠的连接至关重要,而先进的多协议 SoC 则能够实现无缝的设备编排。

例如,海信的 XR-V3 解决方案包含一个 VR 头显和两个手持控制器,利用Nordic nRF52832 SoC 的低功耗蓝牙连接传输自身的位置和方向。XR-V3 专为游戏、娱乐、教育、培训和模拟应用而设计,它还集成了图像和运动传感器,用于获取头部和身体的位置、旋转和加速度,从而确定用户的姿态定位。2025 年,德国一所领先的技术学院推出了一项雄心勃勃的培训计划,该计划使用通过低功耗蓝牙和 Wi-Fi 6E 连接的 AR 头显来模拟复杂的工业流程。学生们在接触真实设备之前,先在混合现实环境中学习操作数控机床、液压系统和电气系统。最终,该计划缩短了认证时间,减少了事故发生,并降低了设备维护成本。此外,新加坡一家大型医院网络也为其外科团队配备了 MR 头显,以辅助神经外科手术。这些头显通过低延迟无线网络接收高保真成像数据,并将其投射到外科医生的视野中。借助这种设置,手术团队可以实时观察 3D 大脑结构,与远程专家协作,在手术过程中毋须把目光移离患者,也可以调整策略。

只有强大的系统级芯片 SoC 和稳定的无线连接才能实现这些场景。先进的芯片拥有充裕的计算性能,可以直接在设备上运行复杂的传感器融合和人工智能/机器学习算法,无需持续依赖云连接。这不仅提高了响应速度,还增强了隐私保护并降低了带宽成本。

在职场中,XR 正在重塑从入职培训到生产力的方方面面。新员工可以通过沉浸式 3D 互动体验进行入职培训。远程团队可以实时协作进行产品设计,如同身处同一房间般操控 3D 物体。维修人员可以查看故障设备上的 AR 叠加层,获取实时数据和远程支持。

先进的边缘

这些应用与 Edge AI 结合使用,相得益彰。Edge AI 能够将智能更贴近用户。例如,采用 Nordic nRF54 系列控制器的控制器可以实时处理传感器数据,提供洞察信息,使 XR 交互更加自然直观。

Edge AI 是下一代 XR 技术的关键推动因素之一,它不仅能生成内容,还能增强用户界面。例如,在职场培训场景中,Edge AI 可以识别用户在执行特定任务时遇到的困难,并据此调整模拟的难度,或通过 AR 叠加层提供情境指导。在医疗保健领域,头戴式设备可以追踪外科医生的手部动作,预测所需工具,或在恰当的时机显示关键信息。

为了增强用户界面,Edge AI 也需要在控制器或人机交互设备 (HID) 上得到支持。为此,Nordic专利的 Neuton 技术允许开发人员构建小型、快速且高效的人工智能模型,这些模型可以直接在资源受限的设备 (例如控制器或 HID) 上运行,而无需将全部数据发送到头戴式设备。

对于嵌入式开发人员而言,Nordic 独有的 Neuton 模型可在 CPU 上实现 Edge AI,用于处理来自加速度计、惯性测量单元 (IMU) 和光电容积脉搏波描记法 (PPG) 等传感器的时序数据,尤其适用于超低功耗无线应用。Neuton Edge AI 模型的大小通常小于 5 KB,与其他基于 TensorFlow Lite 、 PyTorch 或 Keras 的 CPU 运行模型相比,体积更小、速度更快、效率更高,最高可达 10 倍。该技术适用于解决 Edge AI 的诸多挑战,例如实时手势识别、减少无线链路传输的数据量以及进一步降低系统延迟。

这种边缘 AI 方法与 Nordic 的超低功耗架构相结合,威力尤为强大。XR 设备无需频繁充电即可长时间连续运行,使其在教育和医疗保健等对可靠性要求极高的专业环境中非常实用。对于开发者而言,全新的 XR 领域既带来了令人兴奋的机遇,也带来了技术挑战。XR 应用需要仔细平衡处理能力、无线带宽、电池续航时间和散热限制。必须实时传输高保真传感器数据,同时又不影响用户的舒适度和安全性。Nordic 的 nRF54 系列 SoC 为开发者提供了满足这些需求的工具。其强大的处理能力、对多种无线协议的支持以及 AI 集成,为开发者构建沉浸式且可扩展的应用提供了灵活的基础。实际上,开发者可以设计出性能媲美有线系统的 XR 头显,并配备近乎零延迟的无线多控制器输入系统——并且可以在本地运行机器学习模型,以适应用户行为。

无限潜力

展望未来,XR 将更加普及于日常生活。头戴式设备将持续缩小尺寸,像太阳镜一样舒适且不会惹来别人的奇异目光。低延迟无线网络将使人们能够从地球的任何角落参与到同一个共享的虚拟环境中。边缘 AI 将使这些体验更加智能、情境感知且无缝适应。扩展现实正在从一项小众技术发展成为触及多个领域的主流平台。从有线、高功率系统向轻便、无线、智能的 XR 设备的转变正在加速这一进程。随着物理世界和数字世界之间的界限日益模糊,XR 将重新定义人们学习、协作和体验世界的方式。无线技术和 Edge AI 的协同作用,或许让我们比想象中更接近这一愿景。

 

短距离

适用于短距离物联网的蓝牙低功耗及多协议系统级芯片(支持Thread、Matter、Zigbee协议)

长距离

适用于LTE-M/NB-IoT、GNSS、DECT NR+和NTN的蜂窝物联网系统级封装

Wi-Fi

低功耗Wi-Fi 6协同ICs,支持2.4 GHz/5 GHz频段选项及WPA3加密协议

电源管理ICs

适用于电池供电设备的电源管理IC(PMIC),nPM系列提供充电与稳压功能选项。

AI及软件工具

工具与NPU加速边缘人工智能开发和部署

订阅Nordic新闻简报

了解最新信息!订阅后即可获取最新Nordic及物联网资讯

立即订阅