Genesis · Token 服务

让每一个 Token 都更有价值

懂场景、懂数据、懂 Agent Runtime

围绕成功完成一个业务任务,连接模型、数据、长期记忆与智能体运行。从应用端减少不必要的消耗,在算力端持续优化推理与资源利用,让模型服务更高效、更经济、更透明。

MatrixOne Intelligence 的模型与 Token 服务

围绕业务任务

选择模型,组织上下文与调用策略

看清 Token 消耗

关联模型调用与任务执行过程

从应用到算力

持续优化消耗与生产两侧的效率

从调用成本到任务成本

Token 单价之外, 看清一个任务的完整消耗

当 AI 从简单问答走向复杂智能体,单次调用的价格只解释了部分成本。一个任务带了多少上下文、推理了几次、经历了哪些执行步骤,同样影响最终投入。

01

冗余上下文

大量无关或重复的信息,持续占用模型输入。

02

重复推理

相似内容被反复分析,历史经验未得到充分利用。

03

复杂执行流程

多步调用与调试叠加,需要沿任务过程分析消耗。

看清投入如何换来任务结果

  1. 准备上下文
  2. 模型推理
  3. 执行与调试
  4. 任务结果

将多次模型调用与完整执行过程关联,观察冗余输入、重复推理和高成本步骤,围绕成功完成任务持续优化。

Genesis 关注完成一个成功任务的总成本,让优化有业务目标,也有分析依据。

Genesis 的效率路径

把场景、数据与运行过程一起考虑

依托矩阵起源在数据、长期记忆与智能体运行方面的技术积累,把 Token 优化放回真实的应用链路。

01懂场景

让模型与调用策略适合业务任务

不同的 AI 应用,对模型能力、输入信息与执行方式的要求并不相同。围绕业务任务调整模型选择、上下文组织和调用策略,减少不必要的消耗。

  • 从业务目标与任务特点出发选择模型
  • 按任务需要组织输入,减少冗余上下文
  • 检查重复推理与调用,调整执行策略
  1. 01

    业务任务

    明确需要完成的工作

  2. 02

    模型与上下文

    匹配能力,组织相关信息

  3. 03

    调用策略

    减少不必要的消耗

围绕任务需求使用模型能力
02懂数据

让模型获得更准确、更精炼的信息

依托 MatrixOne、MatrixPipeline 与 Memoria 长期记忆能力,连接业务数据、应用上下文和历史经验,减少重复输入与无效推理。

  • 用业务数据支撑当前任务
  • 通过数据处理组织可用的应用上下文
  • 利用长期记忆与历史经验,减少重复输入
  1. 01

    业务数据与历史经验

    MatrixOne · Memoria

  2. 02

    上下文组织

    MatrixPipeline

  3. 03

    模型输入

    更准确、更精炼的信息

减少重复输入与无效推理
03懂 Agent Runtime

把 Token 消耗对应到任务步骤

依托 Astra 的智能体运行与调试能力,将模型调用与任务执行过程关联起来,帮助开发者分析消耗、定位高成本步骤,让成本更透明,优化更有依据。

  • 关联模型调用与任务执行过程
  • 沿执行步骤分析 Token 消耗
  • 通过运行与调试记录,定位可优化的环节
  1. 01

    任务规划

    围绕目标拆解工作

  2. 02

    模型调用

    记录与任务相关的消耗

  3. 03

    执行与调试

    定位高成本步骤

用执行过程解释 Token 投入

从应用到算力

消耗侧与生产侧,一起优化

应用如何使用 Token,算力如何生产 Token,共同影响模型服务的效率与成本。Genesis 从这两侧持续推进优化。

应用侧

减少不必要的 Token 消耗

围绕业务场景、数据上下文与 Agent 执行过程,让每次调用更贴近任务需要。

  • 模型选择与调用策略
  • 业务上下文与长期记忆
  • 任务执行与调试分析
算力侧

提升 Token 生产效率

矩阵起源持续投入高性能 GPU 算力基础设施,围绕推理、调度与服务效率开展优化。

  • 模型推理效率
  • 算力资源调度
  • 资源利用与服务效率

以提高算力利用率、降低 Token 服务成本为持续优化方向。

统一模型服务

把模型接入与使用管理放在一起

通过统一服务入口使用模型,并结合路由、访问控制与用量记录管理日常调用。

统一模型 API

兼容 OpenAI SDK,接入语言、视觉、嵌入与重排序等模型能力。

模型路由

集中管理上游渠道与调用路径,结合延迟、成本和可用性调整策略。

访问与额度

通过访问凭据、额度、速率限制和有效期管理应用使用范围。

用量与费用

统一查看模型调用、Token 消耗与费用,为持续分析提供依据。

开始使用

从一个真实业务任务开始

先明确要完成什么,再接入模型,结合上下文与执行过程观察消耗,在实际使用中持续调整。

  1. 1

    确定任务目标

    选择一个真实场景,明确预期结果与成功完成的判断标准。

  2. 2

    接入模型服务

    进入 Genesis,准备访问凭据、服务地址与可用模型,沿用熟悉的 SDK 发起调用。

  3. 3

    围绕任务迭代

    结合数据、记忆与 Agent 运行过程,检查重复输入、推理及高成本步骤。

查看 API 接入示例
Python · OpenAI SDK
import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["GENESIS_API_KEY"],
    base_url=os.environ["GENESIS_BASE_URL"],
)

response = client.chat.completions.create(
    model=os.environ["GENESIS_MODEL"],
    messages=[
        {"role": "user", "content": "Hello, Genesis"}
    ],
)

print(response.choices[0].message.content)

示例从环境变量读取实际服务地址、访问凭据与模型标识。请勿将密钥写入代码。

关于 Genesis

Genesis 为什么关注成功任务的总成本?

Token 单价只解释了部分开销。冗余上下文、重复推理与复杂执行流程也会带来额外消耗。将模型调用与任务结果、执行过程一起分析,才能判断投入是否有效,并找到可以改进的步骤。

数据、长期记忆与 Agent Runtime 如何参与优化?

MatrixOne、MatrixPipeline 与 Memoria 连接业务数据、应用上下文和历史经验,帮助模型获取更准确、更精炼的信息。Astra 的运行与调试能力则把模型调用放回任务执行过程,帮助分析 Token 消耗和高成本步骤。

可以单独调用 Genesis 的模型 API 吗?

可以。自有应用可以通过统一 API 使用模型服务,沿用 OpenAI SDK 的调用方式。也可以结合 MOI 的数据、知识与智能体能力,进一步分析和优化完整业务任务。

如何判断 Token 使用是否更有效?

从同一类业务任务出发,保持明确的成功标准,同时观察任务结果、Token 消耗、重复输入与执行过程。将上下文、模型选择和调用策略的变化与任务表现对应起来,持续评估优化效果。

让每一个 Token 都更有价值

从一次真实任务开始,了解模型调用如何转化为业务结果,找到下一步可以优化的环节。

了解 MOI 平台