数据处理01
Yog-Sotho/LLM-Sanitizer-Pro · Production-grade, modular dataset sanitization, PII redaction, and curation pipeline for LLM training and fine-tuning.
LLM-Sanitizer-Pro 是一个模块化的数据集清洗与治理流水线,面向 LLM 训练和微调场景。它支持多种数据格式的流式读写(JSONL、JSON、CSV/TSV、TXT、Parquet、Excel 及 gzip 变体)以及直接从 Hugging Face Hub 读取数据集,提供基于正则验证的高级 PII 脱敏(邮箱、URL、电话、信用卡、IBAN、SSN、IP 地址等),并可选接入 NER 后端(spaCy、transformers 或 GLiNER2-PII)识别姓名、地点、机构等结构化 PII,支持令牌替换、部分掩码和稳定假名化三种模式。此外还包含密钥检测与脱敏、三档去重(SHA-256 精确去重、MinHash 模糊近重复、语义近重复)、质量评分与内容过滤、语言过滤、预训练规则过滤、基准测试去污染、ChatML/Instruct 格式转换与对话校验、数据集切分与分片、可恢复的断点续跑、多进程并行处理以及 HTML 审计报告生成等能力。
Agent 与自动化02
voidly-ai/mcp-email · Local MCP tools for server-readable agent inboxes and owner-approved recipients; check current service availability.
这是一个基于 Model Context Protocol(MCP)的本地邮件工具包,让 AI Agent 创建 @voidmail.ai 收件箱、以结构化数据读取来信,并仅向人类主人已批准的收件人发送邮件,无需电话号码或 CAPTCHA。它通过 agent key 与 owner key 双密钥区分模型权限与主人权限,由 Voidly API 强制执行收件人白名单与内容策略,并对凭据类内容做拦截。仓库提供 19 个 MCP 工具、3 个资源以及可直接调用的 REST API 示例,另附主人侧命令行用于审批、锁定与密钥轮换。
Agent 与自动化03
alphaparkinc/genpark-document-redaction-pii-scrubber-skill · High-speed document PII redaction and credential sanitizer featuring Luhn credit-card verification, reversible salt hashing, and audit logs.
该项目是一个基于纯 Python 标准库实现的文档处理技能,主打高速文档 PII 脱敏与凭据清洗,支持 Luhn 信用卡校验、可逆盐值哈希和审计日志,同时可进行文档布局解析、复杂金融/法律表格重建与公式一致性审计。它以原生 MCP 协议方式接入 Claude Desktop、Cursor、Windsurf 等客户端,也可作为 CLI 或 Python 客户端运行。
AI 编程04
danielxxomg/bak-cli · bak — CLI tool to backup, restore & sync your AI coding setup across machines. Supports Claude Code, Cursor, Codex, Windsurf, Kiro, KiloCode, pi.dev, OpenCode.
bak 是一个用 Go 编写的命令行工具,用于备份、恢复和同步 AI 编程工具的配置。它可自动检测 Claude Code、Cursor、Codex、Windsurf、Kiro、KiloCode、pi.dev、OpenCode 共 8 种 AI 编程工具,支持预设备份(quick、full、skills)、还原前 dry-run 预览、机密信息检测与就地脱敏、机器配置文件(machine profiles)、通过 GitHub Gist/Repo、Codeberg、Gitea/Forgejo、rclone 等多云同步,并可选对云端归档使用 AES-256-GCM 加密,还提供 undo 回滚、备份校验与 diff 对比、tar.gz 导出、OS 原生定时备份和交互式向导。