苏州炬擎数原科技
Novi Enterprise ↗ 中文 / EN联系我们
← 返回公司动态
公司动态 2026-09-29 · 次阅读

炬核 AgentOS 端侧运行时的五项能力

苏
苏州炬擎数原科技
TorchDigit
炬核 AgentOS 端侧运行时的五项能力

本篇说明炬核 AgentOS 作为端侧智能体运行时所承担的五项能力:模型调度、记忆沙箱、权限隔离、多模态感知与故障回滚。五项能力共同构建在设备本地的感知、决策、执行闭环,本篇逐项说明各能力解决的问题,以及端侧为什么需要独立的运行时组件。

端侧为什么需要独立运行时

端侧模型解决的是推理能力问题,但不能解决运行环境的组织问题。一次完整的端侧智能体任务,需要决定调用哪个模型、如何保存上下文、允许访问哪些数据、如何接收多模态输入,以及出现异常时如何恢复。这些环节在云端通常由平台统一提供,在设备本地则需要一个独立的运行时组件承担。 炬核 AgentOS 的定位即端侧智能体运行时:模型调度、记忆与权限沙箱、多模态感知输入、工具调用与故障回滚,构建在设备本地的感知、决策、执行闭环。这一层的存在,使端侧能力的评价不只看模型本身,还要看运行时能否把模型、数据与权限组织到一次可复现的任务执行中。

fig-1.png

五项能力的构成

模型调度负责在设备上选择并加载合适的模型规格,使同一台终端可以按任务切换不同档位与不同能力方向的模型。记忆沙箱负责保存任务上下文,并把记忆限制在受控范围内,避免跨任务或跨用户串用。 权限隔离负责限定智能体可以访问的文件、数据与工具范围,使设备本地的敏感内容不被越权读取。多模态感知负责接收图像、语音等非文本输入,把它们转换为后续决策可用的输入。故障回滚负责在任务执行异常时恢复到已知状态,使设备可以继续使用而不必人工介入。 五项能力分别对应运行前的准备、运行中的约束与运行后的恢复,覆盖一次任务执行的完整周期。

感知与决策的执行闭环

官网对炬核 AgentOS 的描述是构建在设备本地的感知、决策、执行闭环。感知环节由多模态感知与模型调度承接,决策环节由记忆沙箱与权限隔离约束,执行环节由工具调用与故障回滚保障。 闭环的含义是任务在设备本地完成,不依赖外部服务。对断网环境或数据不出域的场合,这一点决定方案能否落地。闭环也意味着设备本身的状态会影响任务结果,因此运行时的稳定性与恢复能力,与模型能力同等重要。五项能力的组合方式与适用终端范围,以官网产品矩阵页的当期说明为准。

五项能力之间存在依赖顺序。模型调度与多模态感知决定任务能拿到什么输入;记忆沙箱与权限隔离限定这些输入与上下文可以使用到什么范围;工具调用与故障回滚决定任务能对外产生什么影响,以及影响出错时如何收场。前两项放宽,任务的可做范围变大;后三项收紧,可做范围又随之收窄。因此运行时的配置不是在能力清单上逐项勾选,而是要在可用范围与可控范围之间取一个同时成立的组合。这一组合也与终端条件相关:算力与功耗上限更紧的设备,可同时加载的模型更少,调度的可选空间随之变小。

fig-2.png

上一篇 四条模型主线的能力分工
下一篇 燧枢 Agent 平台与炬焰推理引擎的分工

相关阅读