大语言模型走出单轮问答的对话框、化身为自主执行任务的智能体（Agent）时，立刻撞上了两堵墙。在数字世界里，深度研究或编写代码的智能体需要不断重复“思考、行动、观察”的循环，推理循环、上下文增长与异构工具交互交织在一起，哪怕单次吐字速度再快，多轮累积的系统级延迟也会拖垮实时部署；而在物理世界里，被寄予厚望的视觉-语言-动作模型（VLA）与世界-动作模型（WAM）通常依赖人类示范数据训练或微调，而间接调用通用模型的方案又往往受限于预置技能的颗粒度与控制权限，在通用性与鲁棒性上面临瓶颈。

针对这两大核心瓶颈，华为与苹果的研究团队先后在预印本平台 arXiv 上交出了两份截然不同却彼此呼应的答卷，两篇论文并不同期：前者首发于2025年12月（2026年2月24日修订为 v2），后者是2026年11月新收录的论文。由 华为研究团队 提出的 AgentInfer 统一框架，从推理协同与底层调度的系统级视角出发，将多轮推理中的无效词元（token）消耗减少了逾 50%，在保持准确率的前提下实现了 1.8 倍至 2.5 倍的整体加速；而 苹果（Apple） 研究团队的论文《On Agentic Manipulation Policies》（arXiv:2611.09892）则展示了代号为 AMP1 的智能体操控策略框架，让通用人工智能模型直接接管机械臂控制回路，在无需任何演示或任务特定训练的情况下，于 RoboLab-120 基准测试中（搭配 Gemini 4 Argon）拿下了 85.6% 的零样本成功率，并称在真实机器人试验中将失败率较两类专用基线降低了 15 倍至 20 倍。

为什么大模型“吐字”变快了，智能体干活还是那么慢？

在传统的单轮大模型应用中，用户输入一段提示词，模型生成一段回复后任务即告终止。但在自主智能体的工作流里，情况完全不同。无论是开展深度科学研究、进行迭代式软件工程，还是处理知识密集型决策，智能体都运行在一个持续的“思考—行动—观察”（Think–Act–Observe）循环中。智能体需要先制定计划，接着调用搜索引擎、模拟器或代码解释器等外部工具，观察返回的结果，再基于不断累积的上下文展开下一轮推理。

这就暴露出了传统推理优化与智能体加速之间的根本分歧。过去针对大模型的加速手段——例如量化、剪枝或传统的投机解码（speculative decoding）——大多聚焦于单步之内的效率，核心指标是追求每秒生成的词元数量（TPS）最大化。但在 AgentInfer 论文 的作者看来，将 TPS 作为核心衡量标准在智能体场景下具有极大的误导性。智能体不是被动的文本生成器，而是一个进度具有路径依赖特性的主动推理系统；决定其效率的真正标尺，是多轮任务跨步骤的端到端完成时间（time-to-completion）。

打个比方，这就像派一名采购员去市场买齐一张复杂菜单上的食材。传统的“吐字加速”相当于给采购员换了一双跑得更快的鞋；但如果这名采购员因为匆忙而看错了菜单、买错了调料，或者在市场里迷了路，他就不得不反复折返重买。论文明确指出，一个“速度更快但准确度下降”的模型，往往会在多轮循环中引入事实错误、无效的工具调用或逻辑混乱的摘要。这些错误会在后续轮次中级联传递，迫使系统进行重试与冗余推理；一旦因推理质量下降而需要几十轮额外的修正循环，单步解码速度上的微小收益就会变得微不足道，甚至抵消底层加速省下的时间。

因此，评估智能体性能不能只盯着每秒吐出多少词，而必须采用全局指标：端到端任务延迟（挂钟时间）、总计算成本（累计浮点运算数 FLOPs）以及轮次效率（推理稳定性）。

大小模型分工加“记忆瘦身”，AgentInfer 如何给长程推理提速？

既然单靠压榨底层芯片的吐字速度走不通，华为 的研究人员在 AgentInfer 框架中选择将推理过程优化与推理引擎设计结合起来，拆解出四个协同运作的模块，组成了一套“自演进引擎”（Self-Evolution Engine），并在深度研究智能体（Deep Research Agents）这一高度依赖上下文记忆与工具交互的严苛场景中进行了验证。

首先是负责推理层动态分工的 AgentCollab。在长程任务中，并不是每一个步骤都需要动用庞大笨重的顶级模型。AgentCollab 建立了一套由自我评估驱动的双模型协作机制：把常规的推理和工具执行交给轻量级的小模型去跑，就像科室里的住院医师处理日常化验与记录；而参数量庞大的大模型则扮演主任医师的角色，只在制定战略规划、或者小模型陷入僵局时才出手接管。这种升级交接由结构化的“进度检查”（Progress Check）信号严格控制，仅在必要时触发大模型介入，从而节省了昂贵的算力容量。

其次是负责给上下文“瘦身”的 AgentCompress。智能体在多轮翻找资料和试错后，历史记录里会塞满冗余的推理痕迹。AgentCompress 采用异步语义压缩机制，在不打断当前正在进行的推理的前提下，在后台对智能体记忆进行轻量级摘要、提炼与重组，剔除废话，只保留紧凑且语义完整的历史记录。

在底层的推理引擎层面，另外两个模块同步发力：AgentSAM 引入了基于后缀自动机（suffix-automaton）的投机解码方法，能够跨多个智能体会话复用词元级别的预测与多会话语义记忆，以极低的开销实现推理加速；AgentSched 则是一套感知键值缓存（KVCache-aware）的混合调度策略，通过动态影子价格控制器（shadow-price controller），在“最短作业优先”和“保留缓存”两种模式之间自适应切换，从而在异构请求扎堆时平衡响应延迟与缓存命中率。

在 BrowseComp-zh 和 DeepDiver 两大基准测试中的实验数据表明，这四个模块形成闭环协同后，AgentInfer 将无效词元消耗削减了 50% 以上，并在论文中称准确率得以保持，整体加速1.8 倍至 2.5 倍。

需要说明的是，这些实验用的是华为自家的 openPangu 7B 与 38B 模型，运行在昇腾 910B3 芯片上。以 BrowseComp-zh 为例，大小模型协作（AgentCollab）的准确率为 33.8%，纯大模型为 34.6%，端到端速度约为后者的1.32倍；四个模块全部叠加后，4路并行下的整体吞吐约提升到1.97倍。

抛弃人类示范与预置技能，通用大模型能直接指挥机械臂吗？

当算力系统正在解决数字智能体的“思考延迟”时，具身智能领域的学者们正在攻克另一个难题：如何让智能体在物理世界里灵巧地动手。

自然界中的动物在与物体互动时，会调动记忆、推理和解决问题的综合心智能力，并根据动作展开时的实时反馈不断调整策略。然而在机器人领域，近期的主流路线大多押注于专门针对机器人控制训练的专用策略，比如依赖大量人类示范数据进行训练或微调的视觉-语言-动作模型（VLA）和世界-动作模型（WAM）。另一边，此前尝试将通用大模型引入机械臂控制的做法，也往往局限于两条间接路径：一种是“技能编排”（skill orchestration），即人类先写好抓取、放置等底层技能，大模型只负责像点菜一样挑选和排列这些技能——这导致大模型的控制权限和颗粒度被预置技能死死卡住；另一种是“离线程序合成”（offline program synthesis，即代码即策略），大模型在任务执行前写好一段控制程序就退居幕后，执行过程中一旦出现意外，模型由于不在控制回路中，根本无法推翻重来。

过去阻碍通用前沿模型直接操控机械臂的核心障碍，在于其空间认知能力不足。但随着近期前沿模型在空间规划、传感运动协调和具身流体智力上的进步，第三条道路开始走通：让通用大模型直接留在控制回路（control loop）中，一边观察视觉画面、执行代码，一边直接向机械臂发出运动指令，并随着任务的推进实时修正动作。在 AMP1 论文 中，研究人员将这一范式定义为“智能体操控策略”（Agentic Manipulation Policies，简称 AMP）。

为了验证这一思路，研究团队开发了名为 AMP1 的参考控制框架（harness）。这套基础框架可以不做任何修改地直接运行在单臂、双臂和移动操作机器人上，而且内部没有内置任何抓取、推动或放置的预编程技能。

实验结果打破了“专用模型必定优于通用模型”的固有印象。在无需任何人类演示或任务特定训练的零样本（zero-shot）条件下，搭载前沿大模型的 AMP1 在 CaP-Gym 和 RoboLab-120 基准测试中均取得了论文所称的最高水平：在 RoboLab-120 上，AMP1 搭配 Gemini 4 Argon 的零样本成功率为 85.6%（搭配 Opus 5.5 为 82.8%），而领先的 VLA 和 WAM 专用策略成功率分别仅为 49.2% 和 42.9%。在跨越 12 项任务、3 台真实机器人实体的 108 次真实世界零样本试验中，AMP1 成功了 104 次；相比之下，作为强力基线的世界-动作模型 FLUX 3 Action 仅成功 49 次，视觉-语言-动作模型 $\pi_0.5$ 仅成功 30 次。这意味着 AMP1 将真实物理操作中的失败率较这两类专用基线分别降低了 15 倍和 20 倍。

叉车式铲水果、诊断并补偿相机误差：不教技能的机器人学会了什么？

既然基础框架里连最基本的“怎么抓东西”都没写，AMP1 是如何完成这 104 次真实物理操作的？答案是：通用模型在每个回合内部，通过对几何形状、物理接触以及自身动作后果的实时推理，自己“琢磨”出了策略。

AMP1 论文 记录了大量在实验现场自然涌现的聪明行为：

当一本书平摊在桌面上、机械夹爪无法直接捏起时，智能体没有反复做无用功，而是先把书推到桌子边缘以露出可抓握的表面；当目标物体被挡住看不见时，智能体会主动把遮挡物挪开去搜寻；面对一个体积过大、夹爪张到最大也无法抓拢的水果，智能体先将水果顶在一个更重的物体上固定住，然后把夹爪贴着桌面滑到水果底部，像开叉车一样把它铲起来托举升空。

更有意思的是，失败的动作本身也成了智能体获取环境信息的探针。在一次操作中，机械臂的运动被挡住了，智能体立刻从这次受阻动作中推断出存在一个不可见的搁板，随即改变了抓取和接近方式。在真实机器人试验中，智能体甚至通过对比“下达的运动指令”与“观察到的实际运动”之间的偏差，自行诊断出了相机标定误差，并在随后的动作中进行补偿。论文强调，上述所有行为既没有写在提示词（prompt）里，也没有作为预置技能提供给框架，完全是通用认知能力在物理交互中临场发挥的结果。

如果再给这套系统装上一个持久化的“记忆库”（memory store），让它在模型权重完全固定、不进行任何梯度更新或专家演示的情况下，把每次成功与失败后反思得出的有用观察、策略和代码记录下来，它的表现还会进一步跃升。在包含 42 项双臂操作任务的 RoboDojo 基准测试中，跨回合保留记忆表征的增强版框架将失败率较零样本部署降低了 4.6 倍：针对单一任务的练习使未见布局上的成功率从 26.4% 飙升至 84.1%，超越了该基准排行榜上的所有既有记录；而在按顺序仅尝试每项任务一次的持续学习（continual learning）测试中，单轮遍历就让成功率翻倍不止，达到 57.6%，不仅学到的经验能迁移到尚未尝试的新任务中，也不会遗忘已掌握的技能。同时，拥有记忆的智能体比零样本部署减少了约 35% 的模型调用次数。

控制变量实验进一步揭示了一个关乎行业技术路线选择的现象：模型的底座能力对结果影响最大。在 RoboLab-120 测试中，AMP1 搭配 Opus 5.5 时成功率达到 82.8%，搭配 Haiku 5.5 时为 51.6%，而使用 Opus 4.5 时则为 35.2%。增加推理投入对所有被测模型都有帮助；至于人工编写的辅助抓取和放置程序，只对能力较弱的模型起到帮扶作用，对于强大的前沿模型而言，去掉这些人为设定的条条框框、让模型完全自由发挥，表现反而最好。

需要补一句论文自己的保留：AMP1 目前还不实用，机器人大部分时间都在等模型思考。真实试验里，成功任务的平均总耗时约280秒，其中推理约占211秒；上述 104/108 的成绩还启用了机械臂碰撞后的错误恢复功能，关闭后为 94/108（87.0%）。作者的判断是，通用大模型方案可靠但慢，专用策略较快但不可靠，下一步要让能干的策略变快。

游仕觀察

把 华为的 AgentInfer 与 苹果团队的 AMP1 放在一起看，可以清晰地摸到当前人工智能工程化落地的脉搏：行业正在告别“单点刷榜”的粗放阶段，转向对智能体完整任务生命周期的系统级重构。

在算力与软件架构一端，AgentInfer 的论文质疑“唯每秒词元数（TPS）论”。当企业试图把智能体塞进真实的研发管线或商业决策流时，拖慢效率的往往不只是单步推理速度，还有模型在多轮交互中一旦出错所引发的反复重试、冗余推理，以及不断累积的上下文负担。通过大小模型动态分级诊疗（AgentCollab）与异步记忆蒸馏（AgentCompress），用系统工程的方法把无效词元砍掉一半以上，论文认为这比单纯提高吐字速度更接近真实收益。

在具身智能与硬件控制一端，AMP1 则对当前机器人领域盛行的“收集人类示范数据、训练专用动作模型”的路线提出了挑战。受控实验显示，在所测试的配置中，人工编写的辅助抓取和放置程序虽能帮扶较弱的模型，但能力更强的模型在没有这些辅助程序时反而表现最好。不改模型权重、仅靠控制回路中的实时推理与一个记录观察、策略和代码的持久化记忆库，通用模型就能自己发展出像叉车一样铲起大水果的策略、诊断并补偿相机标定误差，加上记忆库后还少用了约35%的模型调用。

这也给所有正在布局智能体与机器人的研发组织留下了一个值得深思的命题：在未来的智能系统中，人类工程师的职责究竟是继续手把手地教机器每一个具体动作、为每一次单步推理盲目扩容，还是退后一步，去设计那个能让大小模型高效交接、让通用智能在试错中安全沉淀记忆的“系统底座”？当更强大的模型在没有辅助支架时反而表现得更好，学会适时拆掉人为设定的拐杖，或许正是工程团队需要迈过的下一道门槛。

注：文中日期均按事件发生地当地时间计。

来源