上下文预算规划

将 system、tools、history、user 四段分别估算 Token,对照所选模型上下文上限。设计 Agent 对话结构时更直观。

阅读完整指南: RAG 分块优化指南:如何平衡嵌入维度与上下文预算 →

隐私提示:本地解析,不上传服务器。

↓ 在下方输入区粘贴内容,结果会立即显示

按 system / tools / history / user 四段估算 Token 占用与剩余窗口。

System
Tools
History
User

System

7

Tools

0

History

0

User

5

合计 Token

12

剩余

127988

占用率

0.0%

注释说明

与上下文检查的区别

本工具按对话槽位拆分预算; 上下文检查器对整段文本按模型窗口对比。均为启发式估算。

将 system、tools、history、user 四段分别估算 Token,对照所选模型上下文上限。设计 Agent 对话结构时更直观。

快速开始

  1. 选模型

    上下文上限来自模型列表。

  2. 填四段文本

    查看合计、剩余与占用率。

槽位含义

System 为系统提示; Tools 为 function 定义; History 为过往消息; User 为当前用户输入。

典型工作流

当设计AI对话代理时,首先在工具中选择目标模型(如GPT-4)。系统会自动显示该模型的上下文窗口上限。接着分别在system、tools、history和user四个槽位输入内容,实时查看各部分的token占用比例。通过调整提示词长度,确保总token不超过限制,同时为后续对话预留空间。

例如开发客服机器人时,在system槽位写入角色定义(50 token),tools槽位添加API描述(200 token),测试对话历史占用300 token,最后为用户输入预留500 token。工具会以彩色进度条直观展示占比,当总token接近上限时会触发警告,这时就需要精简tools描述或缩短历史记录。

示例

示例

Input

gpt-4o-mini + 4 slots

Output

Per-slot tokens + remaining

FAQ

和上下文检查器一样吗?

检查器对整段文本; 本工具按槽位拆分,适合规划多轮对话结构。

为什么user槽位需要单独预留token?

用户输入长度不可控,提前预留可避免超限。例如GPT-4-32k模型总上限32768 token,若其他部分占用32000 token,用户就只能发送768 token的内容。建议至少预留15-20%空间给用户输入和AI回复,复杂场景需留更多。