Levanto Labs推出实时决策与结构化提取模型Sage2

核心要点

• 结构化数据提取与溯源：Sage2能够从自然语言对话中精准提取日期、金额、时间周期等类型化字段，并返回其在原始文本中的位置来源以供审计。
• 流式实时决策机制：支持随着对话实时推进动态生成决策结果，单次会话可同时跟踪多达32个问题，无需全量重复计算历史上下文。
• 高吞吐与极低延迟：通过服务端上下文保持与前缀计算复用，流式决策速度大幅提升，将决策延迟压缩至数十毫秒级别。
• SageCraft开源实验验证：同步推出开源工具套件SageCraft，通过《魔兽世界》实机屏幕截屏与操作交互，验证其在复杂动态环境中的自主决策能力。

详细分析

专注运行时决策：重构交互式AI的工作流

传统大语言模型在多轮交互中往往面临调用成本高、上下文重计算导致延迟严重等痛点。Sage2针对这一工程挑战进行了底层架构优化，将重心由单纯的自由文本生成转向精准的决策判断与关键实体提取。开发者可以通过API定义标准问题（如客户是否准备购买、工单紧急程度等），Sage2直接返回校准后的概率分布与判断结果。这种机制避免了传统模型繁重的文本输出过程，大幅减少了Token消耗，同时让下游系统能够直接根据结构化返回值触发对应业务逻辑。

流式增量更新与可溯源提取双轮驱动

在信息提取维度，Sage2允许应用声明结构化字段模式，自动提取日期、金额、时长等具体数值，并附带原始文本区间（Source Spans），确保抽取结果的可解释性与可审计性。更为核心的是其流式（Streaming）决策能力：客户端仅需持续追加最新对话文本，服务端复用前缀计算缓存，即可在对话演进过程中即时更新对多达32个并发问题的判定。测试数据显示，流式决策速度较常规方案显著提升，单次更新延迟低至数十毫秒，为客服、销售转化跟踪及自动化流转提供了极高确定性的执行基础。

SageCraft开源范例：从日常工作流到复杂环境控制

为了进一步验证决策模型在动态变化环境中的适应性，Levanto Labs在GitHub同步开源了名为SageCraft的研究套件。该工具允许Sage模型通过屏幕截图感知游戏状态，评估当前局势并自主选择最佳按键与点击动作，完成《魔兽世界》中的实时探索与任务执行。SageCraft不仅展示了决策模型处理视觉与动态上下文的综合潜力，也为开发具备自主规划与执行能力的AI Agent提供了高可用的工程参考范本。

行业影响

Sage2的发布标志着AI应用架构正从“通用对话生成”加速走向“确定性运行时决策”。在支持客服、销售自动化、交易监控和自动化办公等垂直领域，企业并不总是需要大模型生成冗长的回答，而是需要毫秒级的分类、提取与行动触发能力。Sage2通过流式增量决策与结构化提取，为AI智能体（Agent）的实际落地提供了一种低成本、低延迟的轻量级基础设施，有效降低了大语言模型在生产环境下的工程落地门槛。

常见问题

什么是Sage2的流式决策功能？

流式决策是指在多轮对话或连续文本输入时，客户端仅向服务端发送新增文本，模型利用已缓存的上下文前缀即时更新判定结果，无需每次都重新计算完整历史，从而大幅降低延迟与Token消耗。

Sage2与传统对话大语言模型有什么区别？

传统大模型主要输出非结构化的长文本，响应耗时较长；而Sage2专注于结构化提取与决策判定，直接输出布尔值、分类概率或强类型字段，专为需要即时触发行动的业务流与自动化系统设计。

SageCraft开源套件的主要用途是什么？

SageCraft是Levanto Labs提供的开源研究范例，展示了如何将Sage决策模型应用于《魔兽世界》等动态复杂环境中，通过屏幕感知与按键决策实现自动化控制，供开发者探索Agent自主决策机制。