在人工智能技术日新月异的今天，AI 领域再次迎来一项里程碑式的突破——
Bonsai 27B。这款基于 Qwen3.6 架构的多模态模型，成为全球首个能够在手机上运行的 27B（270 亿参数）级别 AI 模型，标志着大模型轻量化部署技术取得了重大飞跃。
📱 两大版本，兼顾性能与便携
Bonsai 27B 创新性地提供了两种不同压缩技术的版本，以满足不同场景下的需求：
- 三元变体 (Ternary Bonsai 27B)：采用三进制权重技术，模型大小为 5.9GB。该版本侧重于性能，能够在普通笔记本电脑上流畅运行。
- 1-bit 变体 (1-bit Bonsai 27B)：通过更极致的二进制权重压缩技术，将模型大小进一步缩小至仅 3.9GB。这一版本专为移动端优化，能够适配如 iPhone 17 Pro 等设备，首次让 27B 级别的强大模型在手机上成为可能。
📊 性能卓越，保留绝大部分能力
尽管模型体积大幅减小，但 Bonsai 27B 的性能表现依然出色。根据 15 项基准测试的综合结果：
- 三元变体保留了全精度基线模型 95% 的性能。
- 1-bit 变体也达到了 90% 的性能水平。
在数学、编程和工具调用等核心能力上几乎没有损失。具体基准测试分数如下：
类别 (基准测试) | Qwen 3.6 27B | 三元 Bonsai 27B | 1-bit Bonsai 27B |
| 数学 (GSM8K, MATH-500 等) | 95.3 | 93.4 | 91.7 |
| 编程 (HumanEval+, MBPP+ 等) | 88.7 | 86.0 | 81.9 |
| 智能体与工具调用 (BFCL v3, TauBench) | 80.0 | 74.0 | 66.0 |
| 指令遵循 (IFEval, IFBench) | 78.4 | 71.8 | 65.8 |
| 知识 / 科学 (MMLU-Redux, MuSR) | 83.1 | 77.0 | 73.4 |
| 视觉 (MMMU Pro, OCRBench) | 72.6 | 65.2 | 59.6 |
| 综合得分 (15 项基准) | 85.0 | 80.5 | 76.1 |
🚀 推动本地 AI 智能体发展
Bonsai 27B 不仅支持多步推理和结构化调用工具，还具备处理视觉任务和智能体循环的能力。它的问世将推动 AI 工作负载从简单的单次响应，转向更复杂的本地智能助手和离线工作流。
与传统的云端执行相比，在设备本地部署智能体具有显著优势：
- 降低成本：减少了每一步云端计算的成本。
- 保护隐私：用户数据无需上传至云端，确保了隐私安全。
- 摆脱网络限制：执行任务不再受网络状况影响，更加灵活高效。
Bonsai 27B 的成功，不仅打破了 27B 级别模型在设备端部署的壁垒，也为未来“智能密度”的进一步提升开辟了新的道路。
