2026年9月10日，高通介绍新一代Hexagon NPU的设计思路，将专用加速、共享内存和模型运行方式放在一起讨论。PG关注的核心变化，是手机上的智能体不仅需要快速完成一次推理，还要在持续交互、多种输入和不同应用之间保持响应。
专用加速需要匹配真实运算
高通披露面向Transformer工作负载的Element Accelerator，并强调标量、向量和矩阵计算部件共同工作。这些信息说明平台试图针对模型内部不同类型的运算进行安排，不能简单理解为只增加一个计算速度更快的单元。
模型执行中既有大规模数值处理，也有数据整理、条件判断和任务切换。如果只有某一种运算获得加速，其他环节仍可能限制整体表现。开发者需要了解实际模型的执行路径，判断哪些操作能够利用专用硬件，哪些需要其他处理单元配合，而不是只根据模型名称推测运行效率。
数据靠近计算才能减少等待
原文介绍扩大NPU共享内存，让更多模型状态、中间结果和频繁访问的数据留在片上。这里的意义，是尽量减少计算单元等待数据搬运的时间，而不是意味着完整的大模型都可以永久放在处理器内部。
可以把一次推理理解为不断读取输入、计算并保存中间结果的过程。上下文变长或多个任务同时进行时，需要保留的数据也会变化。片上空间有限，哪些内容值得留下、哪些适合交换到其他存储位置，会影响系统实际效率。因此，内存管理与计算设计需要共同考虑。
资源竞争也值得单独测试。手机同时运行相机、导航或通信应用时，智能体并不是唯一需要处理资源的任务。调度策略需要避免后台推理影响前台交互，并在电量或温度条件变化时作出合理调整。
对于用户，等待不仅发生在答案逐字出现时，也可能发生在系统开始理解长段输入之前。评估体验时，应区分准备输入、生成结果和调用工具等阶段，才能知道改进究竟作用在哪里。
模型分工并不等于所有专家同时运行
高通提到混合专家模型与不同数值精度的支持，希望根据任务选择合适的模型或部分专家参与计算。混合专家的基本思路，是按输入调用相关部分，而不是每次都让全部参数执行相同工作。
不过，减少活跃计算并不会消除模型存储和调入的需要。专家如何缓存、任务切换是否频繁、输入分布是否变化，都可能影响结果。较低精度也需要检验输出质量，在资源需求与任务可靠性之间进行具体取舍，不能把更小的数据表示自动当成更好的应用方案。
设备协同还需要调度与权限
文章将CPU的任务编排与NPU加速放在互补位置。一个智能体可能先读取资料，再做推理，随后调用应用接口；不同阶段需要的数据与处理资源不同。只有保持任务状态一致，加速能力才容易转化为可感知的响应。
本地执行提供了让部分数据留在设备上的可能，但访问范围仍要由应用和系统共同管理。模型不确定、资源不足或任务被打断时，也应有明确的回退方式。评估新架构，既可以观察计算与内存表现，也应测试完整任务在实际手机上的耗时、发热和结果稳定性。硬件提供了基础，软件如何组织这些能力，才决定智能体能否长期可靠地运行。