AI 资源库 · 已整理 4 项

模型回退

查看与模型回退相关的 AI 资讯、工具、Skill、工作流和开源项目。

Portfolio AI Assistant:基于简历知识库的招聘问答助手

VidhiDixit2000/portfolio-ai-assistant · Recruiter-facing chat assistant grounded in my resume — answers questions about my experience with classification routing and streaming responses, built so it can't invent experience I don't have. FastAPI on Render, React on Vercel.

面向招聘方的对话式助手,从作者简历知识库中作答,支持按职位描述(JD)评分、上传或设置 JD、以 NDJSON 流式返回答案,并借助每次会话的状态与求职知识库缓存来避免编造简历中没有的经历;后端采用 FastAPI(主用 OpenAI,自动回退到 Groq),前端采用 React 并部署在 Vercel,后端部署在 Render。

☆ 收藏查看来源 ↗

vernLLM:面向 LLM 调用的容错、可观测与管控框架

LakBud/vernLLM · The LLM call framework. Resilience, observability, and control for AIs.

vernLLM 是一个 TypeScript 的 LLM 调用框架,为每次模型调用提供统一接口与运行时治理能力。它通过适配器接入 OpenAI 兼容服务、Anthropic、Gemini、AWS Bedrock 以及任何可经 HTTP 访问的提供方,并在本进程内内置重试预算、熔断、多提供方回退、限流、缓存与中间件。仓库还包含 Redis 集成(熔断、限流、缓存)、OpenTelemetry 追踪与指标、Bedrock 适配器,以及日志、用量成本、路由、策略、输入输出检查等开发中的扩展包。

☆ 收藏查看来源 ↗

TalentPilot:招聘候选人筛选与面试评分表生成的多智能体系统

amandahervol-alt/TalentPilot-AI-Recruitment-Agent

TalentPilot 是一个用 Python 构建的多智能体招聘评估系统:Agent 1 对职位描述与简历进行候选人筛选,识别技能差距并输出结构化状态;Agent 2 依据差距生成 5 道针对性追问及 1-5 分评分矩阵。系统通过 Pydantic 校验 JSON 结构,支持 Anthropic Claude 在线推理并在无 API Key 时回退到离线启发式模式,输出 Markdown 评估卡与可交互 HTML 仪表盘,并附带 AI 工程、AI 产品经理和医疗数据分析三类示例数据集与 Pytest 测试。

☆ 收藏查看来源 ↗

LangSmith LLM Gateway:为智能体提供运行时控制

LangChain 推出了 LangSmith LLM Gateway,目前处于公开测试阶段。它解决的是生产环境智能体的一个麻烦:智能体调用模型时可能因重试失控产生高额账单,或遇到模型服务商宕机就报错。这个网关夹在智能体和模型之间,统一执行花费上限、速率限制、模型回退和敏感信息(如个人隐私、密钥)脱敏,不用在每个智能体里各写一遍,也不必绑定某一家供应商。工程师可以在组织、工作区、API 密钥、用户四个层级设限额;敏感信息脱敏功能目前只对 Enterprise 套餐开放。

文中可用工具

  • LangSmith LLM Gateway居中管理智能体模型调用的花费、限速、回退与脱敏的网关服务,现为公开测试
  • LangSmith记录网关事件与调用链路追踪的平台
  • Fireworks为开放权重模型提供快速推理,并通过网关提供托管推理
☆ 收藏查看来源 ↗