This commit is contained in:
@@ -116,7 +116,7 @@ Lessons は最大 2000 文字程度に抑えられ、古いものから削られ
|
||||
|
||||
## コンテキスト逼迫時の動作
|
||||
|
||||
`ContextManager` は LLM の usage が取れる場合は `prompt_tokens`、取れない場合は文字数推定で使用率を見ます。
|
||||
`ContextManager` は LLM が有効な `prompt_tokens` を返した場合はその実測値を使い、返さない場合や空・不正な usage の場合は文字数推定で使用率を見ます。明示的に返された 0 は実測値として扱います。iteration 番号 3 以降(4 回目以降)は、以前の反復で実測値が取れていても、現在の反復で欠測した場合は現在の messages から推定し直します。
|
||||
|
||||
デフォルト閾値:
|
||||
|
||||
@@ -129,9 +129,9 @@ Lessons は最大 2000 文字程度に抑えられ、古いものから削られ
|
||||
|
||||
```mermaid
|
||||
flowchart TD
|
||||
LLM[LLM 応答完了] --> Usage{usage あり?}
|
||||
Usage -->|あり| Tokens[prompt_tokens を記録]
|
||||
Usage -->|なし・3 iteration 以降| Chars[messages 文字数から推定]
|
||||
LLM[LLM 応答完了] --> Usage{有効な prompt_tokens あり?}
|
||||
Usage -->|あり・明示0を含む| Tokens[prompt_tokens を記録]
|
||||
Usage -->|欠損・不正・iteration番号3以降| Chars[現在の messages 文字数から推定]
|
||||
Tokens --> Ratio[context 使用率を計算]
|
||||
Chars --> Ratio
|
||||
Ratio --> Warn{70%以上?}
|
||||
|
||||
Reference in New Issue
Block a user