Kontext Budgetplaner

Schätzen Sie Token für System-, Tools-, Historie- und Benutzerslots gegen eine Modellkontextgrenze. Nützlich bei der Gestaltung von Agent Chat Layout.

Read the full guide: RAG-Optimierungsanleitung: Balancing Chunking, Embedding Dimension und Context Budget →

Datenschutz: lokal verarbeitet, nie hochgeladen.

↓ Fügen Sie in den Eingabebereich unten, um sofort Ergebnisse zu sehen

按 system / tools / history / user 四段估算 Token 占用与剩余窗口。

System
Tools
History
User

System

7

Tools

0

History

0

User

5

合计 Token

12

剩余

127988

占用率

0.0%

Hinweise

与上下文检查的区别

本工具按对话槽位拆分预算; 上下文检查器对整段文本按模型窗口对比。均为启发式估算。

Schätzen Sie Token für System-, Tools-, Historie- und Benutzerslots gegen eine Modellkontextgrenze. Nützlich bei der Gestaltung von Agent Chat Layout.

Schnellstart

  1. Modell auswählen

    Kontextgrenze kommt aus der Modellliste.

  2. Füllen Sie vier Slots

    Siehe gesamt, verbleibende und verwendete Prozent.

Slot Bedeutungen

System ist System prompt; Werkzeuge ist Funktion defs; Geschichte sind frühere Botschaften; Der Benutzer ist die aktuelle Reihe.

Typischer Workflow

Wählen Sie beim Entwurf eines KI-Dialogagents zunächst das Zielmodell (z.B. GPT-4) im Tool aus. Die Kontextfenstergrenze wird automatisch angezeigt. Dann geben Sie Inhalte in die vier Slots (System, Tools, History, User) ein, um die Echtzeit-Token-Nutzung für jeden Abschnitt zu sehen. Passen Sie die Aufforderungslänge an, um unter der Grenze zu bleiben, während Sie Platz für nachfolgende Dialoge reservieren.

Beispielsweise können Sie beim Erstellen eines Kundendienstbots 50 Token für die Rollendefinition im Systemslot, 200 Token für API-Beschreibungen im Toolslot, 300 Token für den Gesprächsverlauf zuweisen und 500 Token für die Benutzereingabe reservieren. Die farbkodierten Fortschrittsleisten zeigen die Proportionen visuell an und lösen Warnungen aus, wenn sich die Grenze nähert - um anzuzeigen, wann die Werkzeugbeschreibungen vereinfacht oder der Verlauf verkürzt werden sollen.

Beispiele

Beispiel

Input

gpt-4o-mini + 4 slots

Output

Per-slot tokens + remaining

FAQ

Wie der Kontext-Checker?

Checker verwendet den ganzen Text; Dies teilt sich nach Slot für die Multi-Turn-Planung auf.

Warum Token speziell für den Benutzerplatz reservieren?

Die Länge der Benutzereingabe ist unvorhersehbar. Reservierung verhindert Überflusse - z.B. mit GPT-4-32k's 32.768 Limit, wenn andere Abschnitte 32.000 Token verwenden, bleiben nur 768 Token für Benutzer. Wir empfehlen, 15-20% für Benutzereingaben + KI-Reaktion zu reservieren, mehr für komplexe Szenarien.