截至 2025 年 8 月,GoMLX 仍处于“早期可用”阶段:核心训练-推理链路已跑通,但距离“生产级”还有明显缺口。
- 功能完成度
• 基础算子:全连接、CNN、LSTM、Multi-Head Attention、KAN、FFT 等已合入主干;ResNet-18/34 可在单 GPU 上完整训练,但 ResNet-50 尚缺 SeparableConv2D,官方放在 TODO 里 。
• 优化器:SGD / Adam / AdamW 已可用,LAMB、Shampoo 等还在 roadmap。
• 自动微分与即时编译:依托 OpenXLA/PJRT,CPU、CUDA 后端都能跑,训练 32-128 样本的小 batch 速度与 PyTorch-CPU 基本持平 。
• 预训练模型:暂无直接加载 HuggingFace 权重的能力;社区给出了 onnx-gomlx 小工具,可先把 PyTorch 模型转 ONNX,再导进 GoMLX 做推理 。 - 近期进展(2024H2-2025H1)
• v0.3 → v0.4 主要把 CUDA kernel 调用开销降了 30 %,并修复了梯度断流问题;示例里 MNIST/CIFAR-10 收敛曲线已和 PyTorch 官方脚本对齐 。
• 作者 2025-04 的 blog 提到正在做“NaN/Inf 首次出现堆栈跟踪”,方便调试大模型;该特性已合并进主支但未发版 。
• 分布式训练分支(mirror-sync 数据并行)已能跑 2×A100 的小实验,不过代码还在 dev 通道,API 可能调整 。 - 社区与生态
• 主仓库 2024-09 至今平均每月 6-8 个 commit,PR 主要来自作者本人,外部 contributor 约占 15 %。
• 教程与体验:提供了 10 余套 ipynb(兼容 GoNB),可在 Jupyter 里直接跑;新手 30 分钟能复现 MNIST 分类,上手门槛明显低于 Gorgonia。
• 第三方落地:目前只看到边缘小项目(IoT 视觉检测、K8s 推理 Pod)试用,尚未有公司公开宣称“线上大规模”在用。 - 风险与展望
• 单 Maintainer:核心代码仍由 Jan Pfeifer 一人主导,若其精力转向,项目易陷入缓迭代。
• 模型库缺口:视觉 Transformer、BERT、Diffusion 等 SOTA 结构需要社区一起搬运;作者计划先支持 HuggingFace ONNX 导入,再实现原生权重加载 。
• API 稳定性:官方自述“早期阶段,API 可能随版本小改”,升级时需留意破坏性变更。
结论
GoMLX 是目前 Go 圈唯一能“端到端跑 CUDA 训练”的 MLX 前端,2024-2025 的更新把“能跑”提升到“勉强可用”,适合科研、教学或边缘侧单二进制交付场景。若你需要 HuggingFace 现成模型即取即用,或大规模分布式训练,现阶段仍建议 Python MLX 为主、Go 做服务胶水;否则可以拿 GoMLX 尝鲜,并关注其 0.5 版是否落地 HF 模型直导与多机并行。
登录后可参与表态
讨论回复
加载中...
正在加载回复...
正在加载回复...
推荐
推荐
智谱 GLM-5 已上线
我正在智谱大模型开放平台 BigModel.cn 上打造 AI 应用,智谱新一代旗舰模型 GLM-5 已上线,在推理、代码、智能体综合能力达到开源模型 SOTA 水平。
领取 2000万 Tokens
通过邀请链接注册即可获得大礼包,期待和你一起在 BigModel 上畅享卓越模型能力