什么是 Jev?TypeSafe AI 的 System One 模型指南
这件事讲了什么
TypeSafe AI 发布了一个叫 Jev 的新模型。它和普通聊天大模型不同,不写文章式回答,而是专门对一段内容做快速判断,比如“这条客服消息急不急”,并给出概率。这能解决 AI 助手每做一步都要调用一次大模型、又慢又贵的问题:Jev 在分类任务上号称推理快 200 倍、成本低 400 倍。它现在可以通过 LangChain 的 TypeSafeClassifier 调用,适合做模型路由、自动判断危险操作等场景;但它不能替代会写代码、会推理的大模型。
可以使用的工具
文中可用工具
- JevTypeSafe AI 的 System One 模型,对给定内容做快速分类判断并返回概率,不生成文本
- LangChain用来接入各种模型和工具的框架,这里通过它调用 Jev
- TypeSafeClassifierLangChain 集成中调用 Jev 的接口类,传入状态和问题,返回分类结果
- langchain-typesafeLangChain 与 TypeSafe 集成的安装包
讨论 0
登录后参与讨论,阅读资讯无需注册。
还没有评论,来分享第一个看法。