Llama：在浏览器中运行 Llama 模型的网页聊天机器人

beeracs/Llama · Run Llama models in your web browser using JavaScript and WebAssembly. Explore light and dark modes easily. 🌐🐱👤

GitHub原文发布未知首次收录 2026-09-25上架 2026-09-25 09:02

☆ 收藏查看项目 ↗

ELI5：它是什么，解决什么问题

Llama 是一个基于 JavaScript 和 WebAssembly 的浏览器端 AI 聊天机器人项目，用户无需安装即可在现代浏览器中打开页面并与 Llama 模型对话。它提供简洁的聊天界面、多种可选角色以及明暗主题，README 说明其使用 HTML/CSS 构建前端，并借助 WebAssembly 提升运行性能。项目以 MIT 许可证开源，鼓励社区贡献，未来计划加入多语言支持、更强的 AI 能力以及移动端适配。

# Llama # 本地推理 # 浏览器 # webassembly # chatbot

核心能力与快速开始

★ 0 · HTML

能做什么: 提供浏览器内运行的 Llama 聊天机器人，无需安装即可在网页中与模型交互；支持从多种角色中进行选择以个性化体验；提供明暗模式切换；使用 JavaScript、WebAssembly 与 HTML/CSS 构建界面和推理逻辑。README 称其使用先进 AI 算法理解并回应用户查询。
适用场景: 适合在浏览器中进行休闲对话、就技术/历史/科学等主题进行信息查询，以及请求日程规划或活动建议等简单任务协助；也可用于希望不安装本地软件、直接在网页中使用 Llama 模型的场景。
项目形态: 可直接使用的工具
部署方式: README 说明无需安装：从 Releases 区下载最新版本、解压后打开 HTML 文件即可在浏览器中使用。未说明是否提供在线托管版本、服务器部署方式或其他运行环境要求。
主要依赖: 需要一个现代 Web 浏览器（如 Chrome、Firefox、Safari）；README 称具备 JavaScript 和 Web 技术基础知识为可选。未说明具体硬件配置、内存占用或模型文件大小要求。
使用限制: README 未说明可用的具体 Llama 模型版本、参数量或量化格式；未说明性能上限、上下文长度、API 成本与使用限制；未来计划中的多语言支持、增强 AI 能力与移动端适配尚未实现。材料未提供经实际安装或验证的结果。
许可证: 未说明
最近推送: 2026-09-24 14:34

官方入门项目文档核对 README 依据 ↗

资料检查：2026-09-25 07:00 · 卡片整理：2026-09-25 09:00
卡片由 AI 根据仓库资料整理，未进行安装或运行验证 · 本次更新未完成，保留上次成功内容

职业应用

程序员

在浏览器中直接运行 Llama 模型进行对话，可用于本地测试聊天机器人交互或作为前端 AI 聊天界面的参考实现。

查看内容依据

Llama is an innovative AI chatbot that runs directly in your web browser.

官方使用入口 ↗

由 AI 根据来源材料整理，未进行安装或运行验证

相似资源

outturn：多租户 Agent 平台的 Rust 运行时基础

outturn 是一个用 Rust 构建的多租户 Agent 平台基础框架，面向需要让每个客户都能运行各自 Agent 的公司。它内置租户隔离、按租户用量归因、在 WebAssembly 沙箱中运行 Agent 代码、默认拒绝的出站访问规则、网关集中保管凭证、每轮签名令牌，以及防止单个租户故障影响其他租户的断路器。项目处于早期开发阶段，接口可能变动，提供本地 Kubernetes 集群的开发与演示流程，以及面向真实部署的密钥与清单生成脚本。

llama.cpp：面向多种硬件的本地 LLM 与 VLM C/C++ 推理引擎

llama.cpp 是用 C/C++ 实现的 LLM（并支持 VLM）推理项目，目标是在尽量少的配置下，于本地或云端多种硬件上获得高性能推理。它基于 ggml 库，支持 Apple Silicon、x86、RISC-V，以及 CUDA、HIP、MUSA、Vulkan、SYCL 等多种后端，并提供 1.5 位到 8 位的整数量化、CPU+GPU 混合推理、命令行工具 llama cli、兼容 OpenAI 接口的 llama serve 服务以及内置 Web UI。

oxinfer：纯 Rust 实现的本地 LLM、扩散模型与嵌入推理引擎

oxinfer 是一个用纯 Rust 编写的本地推理项目，不依赖 BLAS 或 ML 框架，直接读取 safetensors（含 HuggingFace 与 MLX 4-bit 权重）并自行实现矩阵乘、注意力、归一化、RoPE 与采样等算子，并带有手写 SIMD 内核与线程池。它面向文本生成、多模态输入（图像/视频/音频）、嵌入、Stable Diffusion 图像生成、Whisper 语音转文字和 Orpheus 文字转语音等场景，自动在运行时检测 Metal、CUDA 与浏览器 WebGPU 加速，CPU 路径作为始终可用的回退。支持 Gemma 4/3、Qwen 3.x、JEV 决策模型、sentence-transformers 等模型，输出与 transformers 参考实现进行比对，并支持工具调用与权重流式加载。

Nexus Adapter Studio：在浏览器 WebGPU 中为 GGUF 模型训练 LoRA 适配器

Nexus Adapter Studio 是一个实验性的浏览器 WebGPU 应用，用于在受支持的 GGUF 模型上训练和评估 LoRA 适配器。用户自带模型和 JSONL 语料，在训练前进行架构、分词器、张量格式与内存检查，并可导出可恢复的 Nexus 适配器检查点。浏览器版将界面、JavaScript、CSS 与 WGSL 内核打包为单个 HTML 文件，无需 Python 或 PyTorch 后端；另提供需完整下载、基于 PyTorch 的原生后端。项目不内置基础模型，兼容性需由用户输入实际满足，验证仅限于界面启动、前端与包完整性检查，不代表完整模型正确性或真实硬件性能。

这是基于来源内容整理的摘要。原文链接失效后，本页摘要和讨论仍会保留。