AI 资源库 · 已整理 4 项

模型接入

查看与模型接入相关的 AI 资讯、工具、Skill、工作流和开源项目。

Cloudflare Auto Router 按风险为每个请求评分,评分依据最近的对话轮次

Cloudflare 通过 AI Gateway 公开发布了 Auto Router 的测试版。它会在每次请求时自动挑一个模型来回答:一个分类器先给请求打四个分——复杂不复杂、意思含糊不含糊、做错了代价大不大(原文叫“stakes”,也就是风险高低)、有多依赖前文上下文。Cloudflare 自己做的测试显示,它比 Claude Opus 5.5 的成功率低约十个百分点,但成本只有后者的三分之一。有从业者提出疑问:在很长的智能体会话里,风险这个因素该怎么持续判断。目前是公开测试阶段,哪些模型会被调用、测试怎么做的,原文没有细说。

文中可用工具

  • Auto Router按请求自动选择合适模型的工具,目前是公开测试版
  • AI GatewayCloudflare 提供的 AI 网关,Auto Router 通过它发布
  • Claude Opus 5.5用作对比基准的模型,原文未说明其具体用途
☆ 收藏查看来源 ↗

Spring AI 2.1.0-RC1 与 2.0.2 现已发布

Spring AI 团队发布了两个新版本:2.1.0-RC1(候选发布版,尚未正式定稿)和 2.0.2,都已在 Maven Central 上可下载。以前只有 OpenAI 的一种接入方式能原生处理结构化"消息片段",现在 OpenAI、Anthropic、Google GenAI、Amazon Bedrock、Ollama、Mistral AI、DeepSeek 等主流模型接入也都能做到,并保持推理过程、工具调用的原有顺序。新版本还内置了"会话记忆":把对话保存成只追加的事件日志,历史太长时按轮次压缩或摘要,且不会把工具调用和结果拆开,数据可存 PostgreSQL、MySQL 等数据库;原来基于 ChatMemory 的方案被标记为弃用,计划在 3.0.0 移除。另外新增工具调用确认机制,比如订机票、删文件前可先让应用批准;还支持用查询向量检索预先算好的嵌入。需要注意这只是候选版和补丁版,部分旧存储(Cassandra、Redis 等)的会话替代方案官方称将在 3.0.0 前补齐。

文中可用工具

  • Spring AI面向 Java 的 AI 应用开发框架,用于接入聊天模型、管理对话记忆和工具调用
  • OpenAiResponsesChatModelSpring AI 中对接 OpenAI Responses API 的聊天模型实现
  • ChatMemory旧的对话记忆组件,按会话 id 存消息列表,现已弃用
  • SessionService新会话记忆的服务接口,供聊天客户端注册会话顾问
  • JdbcSessionRepository把会话事件存到 PostgreSQL、MySQL、MariaDB、H2 的 JDBC 存储实现
  • InMemorySessionRepository内存版会话存储,主要用于测试
  • WindowCompactionStrategy历史过长时决定保留哪些近期事件或轮次的压缩策略
  • ChatModelSummarizer压缩时可选的摘要器,把被丢弃的内容总结掉
  • spring-ai-starter-model-session-jdbc启用 JDBC 会话记忆的 Spring Boot starter
  • ToolCallingManager执行工具调用,并在需要确认时按决策允许或拒绝
  • MCP原文仅在工具确认策略举例中提及,未说明具体用途
☆ 收藏查看来源 ↗

Pick Your AI Android:用于发现、配置、检查、估价、比较和分享 AI 技术栈的 Android 规划客户端

Pick-Your-AI/pick-your-ai-android · Android planning client for Pick Your AI; delivery tracked in Project 4.

该项目提供一个可测试的 Kotlin/JVM 核心,以及一个不可变的冻结 v1 合同和参考包,用于规划 AI 技术栈:发现、配置、检查、估价、比较和分享 AI 技术栈。仓库还包含可选的 Android 诊断预览,用未签名的调试 APK 验证合成的测试数据;目前没有签名可安装的产品、生产后端或发布版本,移动设备也并非自动作为推理目标。

☆ 收藏查看来源 ↗

Yunshu:面向 Apple Silicon 的本地 LLM/VLM 推理引擎

YuhuanStudio/Yunshu · Fast local LLM / VLM inference engine for Apple Silicon (MLX). OpenAI- and Anthropic-compatible, lossless speculative decoding (DFlash2 / MTP), hybrid-model prefix cache with RAM/SSD tiers, native Claude Code / Codex / opencode support. Qwen3.8-27B tuned first.

Yunshu 是一个基于 MLX、在 Apple Silicon 上本地运行的 LLM 与 VLM 推理引擎,单进程提供 OpenAI、Anthropic 和 Ollama 兼容 API。它支持无损的推测解码(DFlash2、MTP、prompt-copy drafting)、面向混合模型的前缀缓存(RAM、SSD 及可选存储层级)、结构化输出、多模态输入、Web 搜索与 MCP、编码代理(Claude Code、Codex、opencode)接入,以及包含密钥配额、主机遥测和评测的本地 Web 控制台。首个完整调优模型为 Qwen3.8-27B。

☆ 收藏查看来源 ↗