AI 资源库 · 已整理 3 项

模型微调

查看与模型微调相关的 AI 资讯、工具、Skill、工作流和开源项目。

AI Foundation Models Lab:从产品管理视角动手探索基础模型的零样本预测、评测、RAG 与 LoRA 微调

kousalya-pm/ai-foundation-models-lab · Hands-on experiments across time-series and security foundation models: zero-shot forecasting, evaluation, RAG, and LoRA fine-tuning — from a product management perspective.

该项目是一组以 Jupyter Notebook 形式记录的动手实验,从产品管理视角探索基础模型的生命周期:使用 Cisco CTSM 进行单变量零样本时序预测并测试噪声、缺失数据和异常下的鲁棒性;在本地以 Q4_K_M GGUF 量化运行 Cisco Foundation-Sec-1.1-8B-Instruct 安全领域模型,构建评测数据集并从分类准确率、MITRE 技术映射、证据完备性、延迟等多维度评分;用 TF-IDF 与语义向量检索对比实现安全策略 RAG,诊断检索、生成与拒答等失败模式;并在 Qwen2.5-0.5B 与 Foundation-Sec 上对比 LoRA 微调效果。仓库保留了每项实验的原始数字、失败模式与局限性说明,并给出面向产品团队的经验总结和平台能力建议。

☆ 收藏查看来源 ↗

TinyCeNN-LM:用细胞神经网络循环状态核替代 Transformer 层的小模型研究

vtavakkoli/TinyCeNN-LM · Tiny language-model research lab exploring Cellular Neural Network (CeNN) recurrent state cores as alternatives to Transformer layers, with distillation, shared-weight iteration, and efficiency benchmarks.

TinyCeNN-LM 是一个小型语言模型研究项目,探索用细胞神经网络(CeNN)循环状态核作为 Transformer 注意力层的替代方案,尝试在保留预训练语言模型能力的前提下减少部分注意力层的开销。仓库覆盖 SmolLM2、Qwen3.5、FunctionGemma 和 Gemma 4 等模型,包含蒸馏、共享权重迭代、缓存解码、质量/速度/内存对比评测,并保留负面结果与消融实验;当前主张先做选择性替换,通过表示相似度与模型级损失门控逐个接受替换层。

☆ 收藏查看来源 ↗

Needle:面向微型设备的端侧自动化基础模型

cactus-compute/needle · Automation foundation model for tiny devices: 2-bit, 8-29 MB, tool calls, structured extraction and embeddings on phones, wearables, smart homes, robots, cars and microcontrollers.

Needle 是 Cactus Compute 推出的面向手机、可穿戴设备、机器人、智能家居、汽车和微控制器的端侧基础模型。整个模型是单个 8-29 MB 的二进制文件,基于 Simple Attention Network,牺牲通用聊天能力,换取在移动端工具调用上超越体积大 10 倍的模型,并在结构化抽取上比肩 2-3 倍大的模型。它支持工具调用、结构化抽取和文本嵌入,逐 token 受字节级语法约束,每次响应附带校准后的置信度分数。项目提供 Python 包、预构建的部署引擎、本地微调工具以及多篇使用指南。

☆ 收藏查看来源 ↗