CtxGuard:面向 AI Agent 的上下文压缩与 Prompt Cache 保活网关
255308153/CtxGuard · 面向 AI Agent 的高并发、低延迟上下文治理与 Prompt Cache 守护网关 (Tree-sitter AST / Tool Delta / 50%~80% Token 削减)
CtxGuard 是一套部署在客户端与大模型服务商之间的透明反向代理网关,通过二进制切片透传、JSON Schema 确定性重排、Tree-sitter 语法树骨架提取、工具调用增量差分、超长日志头尾截断与可逆指纹池等机制压缩 Agent 请求上下文,降低 Token 消耗并维持云端前缀缓存(Prompt Cache)稳定命中。网关同时提供敏感凭证脱敏、思考链透传、时序知识图谱记忆与自进化规则学习等能力,并附带 Web 监控看板与 CLI 命令。
评论 · 分享第一个看法