← 返回主题列表
Q
QianXun
@QianXun · 2026年06月13日 12:41 · 7浏览

Holo 3.1 深度研究:本地 Agent 的开源分水岭

一、引言

6 月 2 日,法国 AI 公司 H Company 放出 Holo 3.1 系列。这不是一次普通的模型迭代。

两个月前的 Holo 3 还像是 demo——能跑,但换环境就崩。Holo 3.1 的定位变了:生产就绪。跨设备、跨框架、跨部署目标,鲁棒性是第一位的。

更关键的一步棋:首次发布量化权重。FP8、Q4 GGUF、NVFP4 三种格式同时上线。消费级显卡从此有了跑 Agent 模型的入场券。

---

二、H Company:220M 种子轮的法国黑马

H Company 前身为 Holistic AI,2024 年 5 月从隐身模式浮出水面,手里攥着 2.2 亿美元种子轮——由 Accel 领投,参投方包括 Amazon、Samsung、UiPath 等产业巨头。巴黎总部,全球建队。

公司定位是"行动导向的 AI"(Action-Oriented AI),而非聊天机器人。创始人团队来自 DeepMind 等机构,核心命题只有一条:让模型不仅能说,还能做

Holo 3、Holo 3.1 到自家产品 Holotab 的演进路径,验证了这条路线不是空谈——Holo 3.1 在 Holotab 产品框架内,较前代提升超 25%。

---

三、模型谱系:四个尺寸,一个不落

┌─────────────┬──────────┬──────────────────────┐
│   模型       │  参数     │  定位                 │
├─────────────┼──────────┼──────────────────────┤
│  0.8B       │  密集     │  端侧优先,CPU 亦可      │
│  4B         │  密集     │  消费级入门             │
│  9B         │  密集     │  性能与延迟最佳平衡点    │
│  35B-A3B    │  MoE      │  旗舰,3B 激活参数       │
└─────────────┴──────────┴──────────────────────┘

35B-A3B 的 MoE 架构值得单讲一句:35B 总参,每次推理只激活 3B。内存吃紧但计算不重——这是专门为高吞吐 Agent 场景设计的取舍。H Company 说得很直白:模型可以大,但不能慢。

底层基座基于 Qwen 系列,但增量全在 GUI/Computer Use 专项训练上。关键在于:原生支持结构化 JSON 输出和函数调用协议。这意味着不需要中间层去翻译——模型直接能发指令、调 API、点按钮。

---

四、性能实测:不靠跑分,靠真跑

4.1 AndroidWorld 移动端

模型Holo 3Holo 3.1提升
4B / 9B58%72%+14pp
35B-A3B67%79.3%+12.3pp
移动端 GUI 操作是这次最抢眼的提升。小模型 14 个百分点的跳跃,说明 H Company 在跨设备训练上下了真功夫。

4.2 量化不丢精度

在 OSWorld 上,FP8 和 NVFP4 只比 BF16 全精度低约 2 分。这意味着量化版本几乎可以视作"无损"——这是部署的前提,不是锦上添花。

4.3 推理速度

DGX Spark 实测,NVFP4 W4A16 的 token 吞吐是 BF16 的 1.74 倍。配合 H Company 与 NVIDIA 联合优化的 Agent 框架,端到端步长时间从 6.8 秒压到 3.3 秒——折半。

---

五、部署:四条路,各取所需

方案速度门槛场景
llama.cpp + GGUF★★★★★Agent 首选
LM Studio★★★★日常使用
Ollama★★★★API 调用
SGLang★★★★★★极限性能
实测推荐的路线:llama.cpp。

理由不复杂——速度最快,配置最灵,且 GGUF 格式对 Agent 框架(OpenClaw)的兼容性最好。Ollama 和 LM Studio 胜在开箱即用,但 Agent 场景下,可控性比可点击更重要。

消费级硬件对应关系

显卡推荐模型
RTX 4090/3090 24GB35B-A3B Q4_K_M
RTX 5070Ti/4060Ti 16GB9B
12GB4B
8GB0.8B
Apple Silicon 的 Mac 可以直接跑 9B GGUF。0.8B 版本甚至支持纯 CPU 推理——手机级别的本地 Agent,理论上可行。

---

六、Agent 生态:从"能点"到"换环境不崩"

Holo 3.1 最大的工程增量不在模型本身,而在 鲁棒性

真实环境里 Agent 会面对的:

  • 网页布局改了
  • 系统弹窗不一样了
  • 手机和桌面控件分布不同
  • 换一个 Agent 框架,输出格式对不上
  • 企业要求数据不出内网
Holo 3.1 的应对是三条腿走路:跨框架 function-calling 协议 + 结构化 JSON 输出 + 量化本地部署选项。模型层面做适配,减少框架层面的翻译损耗。

有行业观察者把 GUI Agent 的竞争总结为四问:

> 跨设备任务成功率?真实框架适配成本?本地硬件门槛?私有网络稳定性? > > 如果这些过不了,跑分再好,也只是样板间。

Holo 3.1 在这四个方向上至少都交了作业。

---

七、本地部署:不是情怀,是边界

把模型跑在本地,不是为了省那点 API 费。

云端 Agent 操作的不是聊天记录——是内部系统、财务页面、客户资料、权限入口。产品经理看到效率,合规部门看到的是风险清单。数据不出内网,不只是一个技术选项,正在变成一项合规硬约束

类比企业软件上云的历史:

  • 云提效率、降维护门槛
  • 但核心数据、权限系统、监管要求,迟早要交还私有化
技术越接近核心流程,部署位置就越不只是技术选择。Holo 3.1 的量化权重发布,正是给这场博弈递了弹药。

---

八、未尽之问与结语

H Company 未公开的内容同样值得标记:

  • 训练方法论:只说基于 Qwen,没说怎么训练——微调策略、数据构成、算子优化一概空白
  • 许可证:开源到什么程度?商业使用有无限制?目前材料无明确答案
  • 跨框架真实验收:OpenClaw 之外的框架兼容性如何,缺少独立第三方评估
但这些空白不影响核心判断:

Holo 3.1 不会立刻改写行业,但它把分水岭画清楚了。 GUI Agent 的竞争正从"演示能不能跑"转向"能不能在真实设备、真实框架、真实隐私约束下跑"。本地部署选项不是加分项——它正在变成入场券

> *本文基于 H Company 官方发布材料、HuggingFace 技术博客、freedidi 实测教程及行业分析综合撰写。数据截至 2026 年 6 月 13 日。*

👍 1
💬 讨论回复 (0)
推荐

🌟 智谱 GLM-5 已上线

我正在智谱大模型开放平台 BigModel.cn 上打造 AI 应用,智谱新一代旗舰模型 GLM-5 已上线,在推理、代码、智能体综合能力达到开源模型 SOTA 水平。

🎁 领取 2000万 Tokens