Holo 3.1 深度研究:本地 Agent 的开源分水岭
一、引言
6 月 2 日,法国 AI 公司 H Company 放出 Holo 3.1 系列。这不是一次普通的模型迭代。
两个月前的 Holo 3 还像是 demo——能跑,但换环境就崩。Holo 3.1 的定位变了:生产就绪。跨设备、跨框架、跨部署目标,鲁棒性是第一位的。
更关键的一步棋:首次发布量化权重。FP8、Q4 GGUF、NVFP4 三种格式同时上线。消费级显卡从此有了跑 Agent 模型的入场券。
---
二、H Company:220M 种子轮的法国黑马
H Company 前身为 Holistic AI,2024 年 5 月从隐身模式浮出水面,手里攥着 2.2 亿美元种子轮——由 Accel 领投,参投方包括 Amazon、Samsung、UiPath 等产业巨头。巴黎总部,全球建队。
公司定位是"行动导向的 AI"(Action-Oriented AI),而非聊天机器人。创始人团队来自 DeepMind 等机构,核心命题只有一条:让模型不仅能说,还能做。
Holo 3、Holo 3.1 到自家产品 Holotab 的演进路径,验证了这条路线不是空谈——Holo 3.1 在 Holotab 产品框架内,较前代提升超 25%。
---
三、模型谱系:四个尺寸,一个不落
┌─────────────┬──────────┬──────────────────────┐
│ 模型 │ 参数 │ 定位 │
├─────────────┼──────────┼──────────────────────┤
│ 0.8B │ 密集 │ 端侧优先,CPU 亦可 │
│ 4B │ 密集 │ 消费级入门 │
│ 9B │ 密集 │ 性能与延迟最佳平衡点 │
│ 35B-A3B │ MoE │ 旗舰,3B 激活参数 │
└─────────────┴──────────┴──────────────────────┘
35B-A3B 的 MoE 架构值得单讲一句:35B 总参,每次推理只激活 3B。内存吃紧但计算不重——这是专门为高吞吐 Agent 场景设计的取舍。H Company 说得很直白:模型可以大,但不能慢。
底层基座基于 Qwen 系列,但增量全在 GUI/Computer Use 专项训练上。关键在于:原生支持结构化 JSON 输出和函数调用协议。这意味着不需要中间层去翻译——模型直接能发指令、调 API、点按钮。
---
四、性能实测:不靠跑分,靠真跑
4.1 AndroidWorld 移动端
| 模型 | Holo 3 | Holo 3.1 | 提升 |
|---|---|---|---|
| 4B / 9B | 58% | 72% | +14pp |
| 35B-A3B | 67% | 79.3% | +12.3pp |
4.2 量化不丢精度
在 OSWorld 上,FP8 和 NVFP4 只比 BF16 全精度低约 2 分。这意味着量化版本几乎可以视作"无损"——这是部署的前提,不是锦上添花。
4.3 推理速度
DGX Spark 实测,NVFP4 W4A16 的 token 吞吐是 BF16 的 1.74 倍。配合 H Company 与 NVIDIA 联合优化的 Agent 框架,端到端步长时间从 6.8 秒压到 3.3 秒——折半。
---
五、部署:四条路,各取所需
| 方案 | 速度 | 门槛 | 场景 |
|---|---|---|---|
| llama.cpp + GGUF | ★★★★★ | 中 | Agent 首选 |
| LM Studio | ★★★★ | 低 | 日常使用 |
| Ollama | ★★★★ | 低 | API 调用 |
| SGLang | ★★★★★★ | 高 | 极限性能 |
理由不复杂——速度最快,配置最灵,且 GGUF 格式对 Agent 框架(OpenClaw)的兼容性最好。Ollama 和 LM Studio 胜在开箱即用,但 Agent 场景下,可控性比可点击更重要。
消费级硬件对应关系
| 显卡 | 推荐模型 |
|---|---|
| RTX 4090/3090 24GB | 35B-A3B Q4_K_M |
| RTX 5070Ti/4060Ti 16GB | 9B |
| 12GB | 4B |
| 8GB | 0.8B |
---
六、Agent 生态:从"能点"到"换环境不崩"
Holo 3.1 最大的工程增量不在模型本身,而在 鲁棒性。
真实环境里 Agent 会面对的:
- 网页布局改了
- 系统弹窗不一样了
- 手机和桌面控件分布不同
- 换一个 Agent 框架,输出格式对不上
- 企业要求数据不出内网
有行业观察者把 GUI Agent 的竞争总结为四问:
> 跨设备任务成功率?真实框架适配成本?本地硬件门槛?私有网络稳定性? > > 如果这些过不了,跑分再好,也只是样板间。
Holo 3.1 在这四个方向上至少都交了作业。
---
七、本地部署:不是情怀,是边界
把模型跑在本地,不是为了省那点 API 费。
云端 Agent 操作的不是聊天记录——是内部系统、财务页面、客户资料、权限入口。产品经理看到效率,合规部门看到的是风险清单。数据不出内网,不只是一个技术选项,正在变成一项合规硬约束。
类比企业软件上云的历史:
- 云提效率、降维护门槛
- 但核心数据、权限系统、监管要求,迟早要交还私有化
---
八、未尽之问与结语
H Company 未公开的内容同样值得标记:
- 训练方法论:只说基于 Qwen,没说怎么训练——微调策略、数据构成、算子优化一概空白
- 许可证:开源到什么程度?商业使用有无限制?目前材料无明确答案
- 跨框架真实验收:OpenClaw 之外的框架兼容性如何,缺少独立第三方评估
Holo 3.1 不会立刻改写行业,但它把分水岭画清楚了。 GUI Agent 的竞争正从"演示能不能跑"转向"能不能在真实设备、真实框架、真实隐私约束下跑"。本地部署选项不是加分项——它正在变成入场券。
> *本文基于 H Company 官方发布材料、HuggingFace 技术博客、freedidi 实测教程及行业分析综合撰写。数据截至 2026 年 6 月 13 日。*
🌟 智谱 GLM-5 已上线
我正在智谱大模型开放平台 BigModel.cn 上打造 AI 应用,智谱新一代旗舰模型 GLM-5 已上线,在推理、代码、智能体综合能力达到开源模型 SOTA 水平。
🎁 领取 2000万 Tokens