推理与部署工具
Aura-1B:CPU 原生的神经符号混合推理系统
Simonc44/aura-1b · Hybrid neuro-symbolic AI: Llama 3.2 1B + exact math + verified facts — instant CPU-native answers in 807 MB, no GPU. Sealed .aef distribution
ELI5:它是什么,解决什么问题
Aura-1B 将语言生成、精确数学计算与事实记忆拆分成多个专用模块,而不是让单个小模型包办全部任务。系统以 Llama 3.2 1B Instruct(Q4_K_M,807 MB)为语言核心,配合安全的 AST 数学求值器、TF-IDF+逻辑回归路由器、遗传编程符号专家、DuckDuckGo 联网检索、事实图、PAL 计算、程序化思维(PoT)、逻辑求解器与轻量认知 Agent,在无 GPU 的机器上给出精确且可验证的答案。项目提供 .aef 密封分发格式(含 SHA-256 校验与可选 Ed25519 签名、AES-256-GCM 加密),并支持硬件自动调参。
核心能力与快速开始
★ 1 · Python
- 能做什么
- 神经符号混合推理系统:Llama 3.2 1B Instruct(Q4_K_M,807 MB)+ llama.cpp 作为语言核心;安全 AST 数学求值器(不使用 eval)与 TF-IDF 语义缓存实现 Level 0 精确数学;TF-IDF + 逻辑回归路由器做意图分类;遗传编程(gplearn)符号专家发现精确公式;DuckDuckGo RAG(ddgs,无需 API key)提供实时事实;事实图以 JSONL 三元组存储经网络验证的知识;PAL 处理日期、单位与复合百分比;程序化思维用安全 AST 逐步验证数值推理;纯 Python 迷你 SAT 逻辑求解器处理骑士与骗子类逻辑题;PoT-code 在受限沙箱中执行生成代码并校验断言;CRITIC 校验机制与认知 Agent(任务规划、RAG 压缩、风格清洗、递归调试、人格路由);LoRA 热插拔(AURA_ADAPTATEURS=1);自动改进(记录错误答案注入后续提示);.aef 密封格式与加密分发;硬件自动调参(CPU、核心、内存、AVX2 检测,可选 CUDA/Vulkan 卸载)。
- 适用场景
- 在无 GPU、内存约 1 GB 的普通 PC 上本地运行 AI 问答;需要精确可验证答案的数学、日期、单位换算场景;需要实时事实而非训练截止知识的事实性问答;法语与英语双语问答场景;离线或隐私敏感的本地部署;需要密封、带完整性校验与加密分发形态的 AI 交付;希望通过反馈(修正记录、事实图补充)逐步改进而不重训的本地助手。
- 项目形态
- 可直接使用的工具
- 部署方式
- 本地运行;Windows 提供 PowerShell 一键安装脚本(安装包复制到 %LOCALAPPDATA%\Aura、创建 venv、下载 807 MB 模型并注册 aura 命令);开发安装使用 uv sync;无 GPU 也可运行,可选 CUDA/Vulkan 加速。其余平台部署条件未说明。
- 主要依赖
- Python 3.11 或 3.12;Windows PowerShell(一键安装路径);首次需下载 807 MB GGUF 模型;运行内存约 1 GB;可选 CUDA/Vulkan 构建与独立 GPU 用于卸载;具体 API 成本与配额未说明。
- 使用限制
- 在深度分析、长尾知识与抽象逻辑上,经过微调的 8B 模型仍更优,这些能力存在于权重中,为路线图目标;.aef 加密只能阻止被动复制,无法抵御有决心的逆向工程;富模式(写作质量)延迟约为 2 倍,参考机器上长文写作耗时 66 秒;模型仅支持法语与英语;LoRA 微调、MEMIT 事实编辑、lm-evaluation-harness 评测、Hugging Face 发布均在路线图中尚未完成。
- 许可证
- MIT
- 最近推送
- 2026-09-22 03:31
资料检查:2026-09-22 07:00 · 卡片整理:2026-09-22 07:00
卡片由 AI 根据仓库资料整理,未进行安装或运行验证 · 本次更新未完成,保留上次成功内容
职业应用
程序员
在无 GPU 的本地机器上运行 CPU 原生的神经符号推理系统,用于精确数学计算、事实检索和代码生成验证;其 PoT-code 模块可让 1B 模型编写函数与断言并在沙箱中执行,失败的断言不会交付代码,适合辅助代码编写与排错。
查看内容依据
the 1B writes a function + asserts, a sandbox (restricted builtins + instruction budget via `settrace`) executes everything; a failing assert = the code is never delivered
由 AI 根据来源材料整理,未进行安装或运行验证
讨论 0
登录后参与讨论,阅读资讯无需注册。
还没有评论,来分享第一个看法。