AI 资源库 · 已整理 2 项

限流

查看与限流相关的 AI 资讯、工具、Skill、工作流和开源项目。

Agent 与自动化

AI-Resume-Agent：面向招聘方的对话式简历问答 Agent

Rayhanpatel/AI-Resume-Agent · Conversational AI agent for recruiter Q&A — raw HTTP to Gemini (no SDK), 5 LLM-as-a-Judge evaluators, graceful degradation across 6 services, SSE streaming, Mem0 memory, Langfuse tracing. FastAPI + React 18 on Railway.

这是一个面向招聘方的对话式 AI Agent，用于回答关于个人职业背景的问题。项目以 profile.json 作为知识来源，提供多轮对话、SSE 流式输出、模型回退与真实模型健康检查、意图分类、提示注入防护、服务端会话与配额限流、Job URL 抽取与结构化解析，以及基于 Langfuse 的追踪和 5 项 LLM-as-a-Judge 评测。技术栈为 FastAPI + React 18，后端部署在 Railway，前端在 Vercel，Gemini 通过 Vertex AI / AI Studio 调用。

# 限流# Vertex AI# 流式响应# LLM 编排# agent-evaluation
☆ 收藏查看来源 ↗
评论 · 分享第一个看法
应用工具

vernLLM：面向 LLM 调用的容错、可观测与管控框架

LakBud/vernLLM · The LLM call framework. Resilience, observability, and control for AIs.

vernLLM 是一个 TypeScript 的 LLM 调用框架，为每次模型调用提供统一接口与运行时治理能力。它通过适配器接入 OpenAI 兼容服务、Anthropic、Gemini、AWS Bedrock 以及任何可经 HTTP 访问的提供方，并在本进程内内置重试预算、熔断、多提供方回退、限流、缓存与中间件。仓库还包含 Redis 集成（熔断、限流、缓存）、OpenTelemetry 追踪与指标、Bedrock 适配器，以及日志、用量成本、路由、策略、输入输出检查等开发中的扩展包。

# 缓存# 模型回退# 多模型# 观测性# 限流
☆ 收藏查看来源 ↗
评论 · 分享第一个看法