在大多数关于人工智能的技术讨论中，关注点通常集中在处理能力（Compute）和加速器速度上，考虑到可以通过传统基准轻松衡量性能，这一点是可以理解的。然而，“物理人工智能”（Physical AI）的出现带来了一个新的现实；其任务不仅在于处理数据，还在于如何在真实且复杂的运行约束下协调处理、内存和数据移动之间的工作。
为何仅有处理能力是不够的？
在现实世界中运行的系统（如人形机器人或无人机）依赖于实时感知、解释、决策和执行的能力。在这些环境中，数据移动成为最大的瓶颈；如果正确的数据没有在正确的时间到达正确的引擎，处理单元（如NPU或CPU）就会陷入停顿（Stall），导致功耗增加和延迟（Latency）累积，这在敏感系统中可能是灾难性的。
设计这些系统需要在片上内存（On-chip SRAM/Cache）与容量更大的外部内存（如 LPDDR 或 GDDR）之间进行精确平衡。目标不是消除对外部内存的访问，而是确保最常用且对时间敏感的数据非常靠近处理单元，以降低功耗并确保数据流的连续性。
强制实施不同约束的实际应用
内存架构的需求根据设备的性质及其应用而有所不同，这体现了设计的复杂性：
- 人形机器人（Humanoids）： 面临着在有限功耗与处理来自摄像头、传感器和运动控制的海量数据流需求之间取得平衡的挑战。感知数据到达的任何延迟都可能导致平衡或运动决策的失败。
- 无人机（Drones）： “每瓦带宽”（Bandwidth per watt）的概念在这里成为关键指标，因为数据传输中的任何过度功耗都会直接缩短运行时间。
- 自动驾驶汽车（Autonomous Vehicles）： 由于需要整合来自雷达、激光雷达（Lidar）和摄像头的传感器融合（Sensor Fusion）数据，它们构成了最大的挑战，这在内存访问方面造成了激烈的竞争，以确保即时和预测性的响应。
设计高效内存架构的五个维度
为了在物理人工智能系统中实现稳定的性能，工程师必须在五个关键领域做出战略决策：
- 数据局部性（Data Locality）： 确定哪些数据应保持在靠近处理器的地方以减少延迟，哪些可以存储在外部。
- 流量竞争（Traffic Contention）： 管理传感器流、操作系统软件和安全功能在访问内存时的竞争。
- 外部内存适配： 在 LPDDR（能源效率和容量的理想选择）或 GDDR（视频流高带宽的理想选择）之间进行选择。
- 缓冲策略（Buffering）： 确定重用数据所需的本地存储大小，以避免不必要的片外传输。
- 延迟可预测性（Latency Predictability）： 确保即使在同时运行多个任务时，延迟也能保持在安全范围内。
总之，物理人工智能是对系统集成的一次真正考验；处理性能无法与内存工程的效率分离开来，这使得数据架构设计成为与处理器设计本身同样重要的核心。