模擬和可視化 LLM 上下文視窗使用情況 — 追蹤令牌、對話輪次,保持在限制範圍內
是的,PivaBox 上下文視窗模擬器完全免費使用。所有計算均在瀏覽器本機執行。
它使用每令牌字元數的啟發式方法(英文預設為 4 字元/令牌)。要獲得更精確的估算,請調整滑桿(3-5 字元/令牌)。該工具提供粗略估算用於規劃目的。要獲得精確計數,請使用特定於模型的分詞器。
每個 LLM 都有最大上下文視窗 — 它一次可以處理的總令牌數(系統提示 + 對話歷史 + 當前輸入)。超出此限制會導致截斷或錯誤。將提示計劃在上下文視窗內可確保模型能夠存取所有必要資訊以獲得高品質回應。