CtxGuard：面向 AI Agent 的上下文压缩与 Prompt Cache 保活网关

255308153/CtxGuard · 面向 AI Agent 的高并发、低延迟上下文治理与 Prompt Cache 守护网关 (Tree-sitter AST / Tool Delta / 50%~80% Token 削减)

GitHub原文发布未知首次收录 2026-10-04上架 2026-10-04 07:01

ELI5：它是什么，解决什么问题

CtxGuard 是一套部署在客户端与大模型服务商之间的透明反向代理网关，通过二进制切片透传、JSON Schema 确定性重排、Tree-sitter 语法树骨架提取、工具调用增量差分、超长日志头尾截断与可逆指纹池等机制压缩 Agent 请求上下文，降低 Token 消耗并维持云端前缀缓存（Prompt Cache）稳定命中。网关同时提供敏感凭证脱敏、思考链透传、时序知识图谱记忆与自进化规则学习等能力，并附带 Web 监控看板与 CLI 命令。

# Claude-code # ai-agent # token-optimization # prompt-cache # proxy

核心能力与快速开始

★ 167 · Python

能做什么: 以反向代理方式中转 OpenAI / Anthropic / Gemini / Grok / DeepSeek 等协议请求，对出向上下文进行优化：对未变更历史消息做二进制切片透传、对 tools 与 JSON Schema 做确定性重排序以保活前缀缓存；Tree-sitter 语法树引擎提取 9+ 语言函数/类签名与 Docstring，函数体折叠存入 SQLite 指纹池并支持 ctx_expand 还原；ToolDeltaCompressor 以会话级影子状态机与 Jaccard 相似度增量差分折叠目录/git 状态输出；LogTruncator 对构建与测试长日志保留头 25 行与尾 75 行并清洗 ANSI 控制码；ThinkingManager 对思考链默认全量透传；SecretRedactor 对 API 密钥、JWT、PEM 私钥与数据库连接串脱敏；内容指纹池支持单会话去重与内存 LRU 检索，并在网关层拦截 ctx_expand tool_calls 自闭环续写。另提供 Web Dashboard、CLI（wrap / env / stats / savings / learn）以及跨 Agent 插件化扫描与多级推理分析器用于规则学习与知识图谱记忆检索。
适用场景: 适用于使用 Claude Code、Cursor、Pi Agent、Codex 等编码类 Agent 执行复杂长链路任务时，因大段未修改代码差异、冗长构建日志、重复状态探测输出与历史思考链导致上下文膨胀、Token 费用升高以及云端前缀缓存频繁失效的场景；也适用于需要在网关侧统一做敏感凭证脱敏、并沉淀项目级避坑规则与记忆的用户。
项目形态: 可直接使用的工具
部署方式: 本地部署；默认监听 127.0.0.1:8787，可通过 ctxguard start --port 8787 -w 4 启动多 Worker；支持 wrap 一键拉起 Agent、env --eval 注入环境变量、env --patch 改写客户端配置或手动配置代理端点。未说明容器化、集群或托管部署方式。
主要依赖: Python 3.10+；README 标注依赖 FastAPI 0.115+ 与 Tree-sitter 绑定；需自行准备上游大模型服务商的 API 地址与密钥。具体硬件、并发规模与依赖清单未说明。
使用限制: README 未说明已知缺陷与不支持边界；基准与生产数据均为项目方自述，未提供第三方复现结果；仅声明基于 MIT 许可证开源，未说明托管服务、企业合规与 SLA；LiteLLM / 本地 CLI 等学习路径的实际凭证与订阅限制未说明。
许可证: MIT
最近推送: 2026-09-19 13:16

官方入门核对 README 依据 ↗

资料检查：2026-10-04 07:00 · 卡片整理：2026-10-04 07:00
卡片由 AI 根据仓库资料整理，未进行安装或运行验证 · 本次更新未完成，保留上次成功内容

职业应用

程序员

在程序员使用 Claude Code、Cursor、Codex 等 AI Agent 进行编码、代码审查、单元测试时，作为透明反向代理网关压缩请求上下文（如 Git Diff、构建日志、重复文件引用），降低 Token 消耗并维持 Prompt Cache 稳定命中，同时提供敏感凭证脱敏和可逆代码折叠。

查看内容依据

在现代 AI Agent（如 Claude Code、Cursor、Pi Agent、Codex）的复杂编码与长链路自动化任务中，随着工具调用的频繁执行，请求上下文呈指数级膨胀：大段未修改的代码差异、冗长的构建日志、重复的状态探测输出以及历史思考链迅速消耗宝贵的上下文窗口，产生高昂的 Token 费用

官方使用入口 ↗

由 AI 根据来源材料整理，未进行安装或运行验证

相似资源

MCPProxy：在 AI Agent 与多个 MCP 服务器之间提供统一安全代理端点

MCPProxy 是一个用 Go 编写的单一二进制代理，位于 AI Agent 与所有 MCP 服务器之间，提供统一、安全的 MCP 端点。它通过工具检索（BM25 搜索）让 Agent 只加载一个 retrieve_tools 函数而非数百个工具模式，从而节省 token 并突破客户端工具数量限制；同时提供自动隔离（阻断 Tool Poisoning）、可插拔安全扫描器、敏感数据检测、意图校验、活动日志审计与预检命令，支持 macOS、Linux、Windows 及内嵌 Web UI。

Ripple HUD：为 Claude Code 更低成本模型注入前沿模型工作方式的插件

Ripple HUD（前身 fable-mode）是一个 Claude Code 插件，通过约 1500 token 的行为层让 Haiku、Sonnet、Opus 等较便宜模型采用类似前沿模型的工作方式：自动分流任务强度（lite/full/deep）、先理解再执行、执行后验证、保持输出精简、控制 token 消耗。它还提供终端状态栏 HUD（显示上下文窗口与用量限额）、基于本地会话记录的习惯纠正闭环、用项目状态文件替代长对话历史，并可将 AGENTS.md 导出到 Cursor、Codex、Zed 等工具。仓库附带的 A/B 评测显示 Sonnet 加装插件后在 6 项评分任务上与对照模型持平，成本更低；插件本身是行为层，不能增加模型原生能力。

madnesswright：为《MADNESS: Project Nexus》构建 AI 智能体模组与关卡制作技能

madnesswright 提供三项“常青”智能体技能，供 Claude Code、Codex、Cursor、Copilot 等 AI 编码代理按开发者预期为《MADNESS: Project Nexus》制作模组和关卡；内容覆盖 MadCards 与模组文件夹、SceneTools 场景与关卡、ModTools 资源与 Harmony 代码，并附带仅用 Python 标准库实现的辅助脚本 mpn.py。该脚本可以检查并部署模组，读取游戏模组日志，检查场景规则。项目还说明：官方模组支持仅在 Steam 的 releasebeta 分支提供，社区工具项目没有许可证文件，代理无法直接看到游戏画面。

agent-skills：为编码 Agent 提供基于真实故障经验的可复用技能集

agent-skills 是一组面向编码智能体（主要为 Claude Code，格式为带 YAML frontmatter 的 Markdown，多数 Agent 框架可读取）的技能集合，每个技能都源于生产环境中反复出现的具体失败。技能覆盖无人值守运行与分诊、PR 评论线程审计、对抗式审查、审查分诊、Agent 编排、任务启动、代码质量、缺陷核查、语音记录与开源贡献等场景，强调用工具而非提示词强制执行约束、为质量循环设置成本刹车、区分主张与证据、明确标注未验证结论，并在权限问题上失败关闭。

这是基于来源内容整理的摘要。原文链接失效后，本页摘要和讨论仍会保留。