Contexto Planificador de Presupuesto

Estima los tokens para el sistema, las herramientas, el historial y las ranuras de usuario contra un límite de contexto del modelo. Útil al diseñar el diseño del chat del agente.

Read the full guide: Guía de optimización de RAG: Equilibrar el chunking, las dimensiones de incrustación y el presupuesto de contexto →

Privacidad: procesado localmente, nunca cargado.

↓ Pega en el área de entrada de abajo para ver los resultados al instante

按 system / tools / history / user 四段估算 Token 占用与剩余窗口。

System
Tools
History
User

System

7

Tools

0

History

0

User

5

合计 Token

12

剩余

127988

占用率

0.0%

Notas

与上下文检查的区别

本工具按对话槽位拆分预算; 上下文检查器对整段文本按模型窗口对比。均为启发式估算。

Estima los tokens para el sistema, las herramientas, el historial y las ranuras de usuario contra un límite de contexto del modelo. Útil al diseñar el diseño del chat del agente.

Inicio rápido

  1. Seleccionar modelo

    El límite de contexto proviene de la lista de modelos.

  2. Llenar cuatro ranuras

    Ver total, restante y porcentaje utilizado.

Significados de ranura

El sistema es el sistema prompt; Herramientas es función defs; Historia son mensajes anteriores; El usuario es el turno actual.

Flujo de trabajo típico

Al diseñar un agente de diálogo de IA, seleccione primero el modelo objetivo (por ejemplo, GPT-4) en la herramienta. El límite de ventana de contexto se mostrará automáticamente. A continuación, introduzca contenido en las cuatro ranuras (sistema, herramientas, historial, usuario) respectivamente para ver el uso de tokens en tiempo real para cada sección. Ajuste la longitud del mensaje para mantenerse por debajo del límite mientras reserva espacio para los diálogos posteriores.

Por ejemplo, al crear un bot de servicio al cliente, puede asignar 50 tokens para la definición de roles en la ranura del sistema, 200 tokens para las descripciones de API en la ranura de herramientas, 300 tokens para el historial de conversaciones y reservar 500 tokens para la entrada del usuario. Las barras de progreso codificadas en color muestran visualmente las proporciones, activando alertas cuando se acerca al límite, indicando cuándo simplificar las descripciones de la herramienta o acortar el historial.

Ejemplos

Ejemplo

Input

gpt-4o-mini + 4 slots

Output

Per-slot tokens + remaining

FAQ

¿Igual que el verificador de contexto?

Checker utiliza texto completo; esto se divide por ranura para la planificación de turnos múltiples.

¿Por qué reservar tokens específicamente para la ranura de usuario?

La longitud de entrada del usuario es impredecible. La reserva evita desbordamientos - por ejemplo, con el límite de 32.768 de GPT-4-32k, si otras secciones usan 32.000 fichas, solo quedan 768 fichas para los usuarios. Recomendamos reservar un 15-20% para la entrada del usuario + respuesta de IA, más para escenarios complejos.