数据处理AI 资源
DataPulse:马来西亚公共数据的信任与互操作验证层
r3dz4r/datapulse-my · Open-source trust & interoperability layer for Malaysian public data: freshness monitoring, schema validation, and health reports for official datasets.
ELI5:它是什么,解决什么问题
DataPulse 是面向马来西亚公共数据的开源只读验证层,持续探测官方数据集的可达性、时效性、许可证与 schema 变化,并输出可机读的健康状态与证据。它提供 418 个官方数据集目录(含 30 个 GTFS 公交数据源)和只读 MCP 服务器,方便 AI 智能体在引用数据前核查新鲜度、许可证与来源。观察结果通过 Ed25519 签名、Git 源记录与公开透明日志提供可验证的存证。
核心能力与快速开始
★ 0 · Python
- 能做什么
- 对马来西亚官方数据集进行持续探测,记录可达性、新鲜度信号、schema 形态、记录数与采集特性;采用十种健康状态(fresh、aging、stale、discontinued、degraded、browser-dependent、unreachable、unknown、unknown-freshness、reference)而非笼统的绿色勾选;为每个数据集声明机器可读的许可证;提供签名观察信封(Ed25519)、Git 源记录与 Rekor/Sigstore 公开日志纳入证明;发布 RSS 订阅以通知健康状态变化;提供只读 MCP 服务器(Streamable HTTP,无需认证)暴露 19 个工具,涵盖搜索、获取数据集、查找 stale/异常/schema 漂移、获取溯源与证据、验证数据集与证据等。
- 适用场景
- AI 智能体与开发者可在模型引用马来西亚数据前核查其新鲜度与许可证;研究人员、分析师与记者可用可验证的时效与许可证信息支撑论文、仪表盘或公开报道;合规与监管监测团队可保留数据被核查时刻的防篡改轨迹;公民技术与公共部门人员可查看公共数据的可发现性与描述可靠性。
- 项目形态
- 可直接使用的工具
- 部署方式
- MCP 端点 https://mcp.data-pulse.my/mcp(Streamable HTTP,无需认证)可直接接入 Claude Desktop、Cursor、Cline 等 MCP 客户端;浏览器依赖型探测需要自托管 Camofox headless-Chromium sidecar,并通过 CAMOFOX_BASE_URL 环境变量配置。
- 主要依赖
- Python 环境;浏览器依赖型数据源探测需要 Docker 运行 Camofox sidecar(默认 http://localhost:9377);接入 MCP 客户端无需 API key。
- 使用限制
- 仅证明官方来源在已知时刻被观察到的状态,不保证上游政府数据在语义上真实;五个数据源需真实浏览器探测,缺少 Camofox 时保持 browser-dependent 状态;未知部署条件、硬件、API 成本与使用限制未说明。
- 许可证
- MIT
- 最近推送
- 2026-09-19 07:00
资料检查:2026-09-19 07:00 · 卡片整理:2026-09-19 07:00
卡片由 AI 根据仓库资料整理,未进行安装或运行验证 · 本次更新未完成,保留上次成功内容
讨论 0
登录后参与讨论,阅读资讯无需注册。
还没有评论,来分享第一个看法。