B1, B14 und B3 beheben: Compaction-Paarung und Token-Semantik
B1 — Die Compaction behielt blind die letzten 6 Nachrichten. Fiel diese Grenze mitten in eine Tool-Sequenz, entstand eine tool-Antwort ohne zugehoerigen assistant-tool_call; die API lehnt das mit HTTP 400 ab. FindSafeTailStart verschiebt die Grenze jetzt rueckwaerts auf eine Blockgrenze. B14 — Bei Konversationen mit hoechstens 6 Nachrichten enthielt der Tail auch die system-Nachricht, die anschliessend ein zweites Mal angehaengt wurde. Ergebnis war ein doppelter System-Prompt und eine duplizierte Konversation — die Compaction vergroesserte den Kontext, statt ihn zu verkleinern. Der Tail beginnt nun grundsaetzlich hinter dem System-Prompt; liegt davor nichts Nennenswertes, wird die Kompaktierung uebersprungen. Gefunden durch den Property-Test. Nebeneffekt: Zusammengefasst wird nur noch der Teil, der tatsaechlich wegfaellt. Der Tail bleibt woertlich erhalten und musste bisher doppelt bezahlt werden. B3 — maxTokens zaehlte kumulativ ueber alle Schritte, wurde aber wie eine Kontextgrenze konfiguriert. Da jeder Schritt den vollen Kontext erneut sendet, brach ein Chat mit 20k Kontext nach vier Schritten ab. Aufgeteilt in maxCumulativeTokens (Kostenbudget, Default 500k) und maxContextTokens (Kontextgroesse). Alte Konfigurationen werden beim Laden migriert, die Fehlermeldungen unterscheiden jetzt Schritt- und Kostenlimit. Alle 31 Tests gruen. Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com>
This commit is contained in:
co-authored by
Claude Opus 4.8
parent
667cecce25
commit
eae13771cf
@@ -66,12 +66,15 @@ public sealed class AgentSettingsViewModel
|
||||
}
|
||||
|
||||
[Category("2 - Loop-Schutz")]
|
||||
[DisplayName("Max. Tokens pro Run")]
|
||||
[Description("Maximale Token-Anzahl pro einzelnem Run (Summe aller Schritte). Schützt vor unkontrollierten Kosten.")]
|
||||
public int MaxTokens
|
||||
[DisplayName("Kostenbudget pro Run (Tokens)")]
|
||||
[Description("Summe ALLER abgerechneten Tokens eines Runs über alle Schritte. " +
|
||||
"Da jeder Schritt den kompletten Kontext erneut sendet, wächst diese Summe " +
|
||||
"überproportional — der Wert liegt deutlich über der Kontextgröße. " +
|
||||
"Für die Kontextgröße ist 'Max. Kontext-Tokens' zuständig.")]
|
||||
public int MaxCumulativeTokens
|
||||
{
|
||||
get => _config.LoopGuard.MaxTokens;
|
||||
set => _config.LoopGuard.MaxTokens = Math.Max(1000, value);
|
||||
get => _config.LoopGuard.MaxCumulativeTokens;
|
||||
set => _config.LoopGuard.MaxCumulativeTokens = Math.Max(10_000, value);
|
||||
}
|
||||
|
||||
[Category("2 - Loop-Schutz")]
|
||||
|
||||
Reference in New Issue
Block a user