Loading...
正在加载...
请稍候

GoMLX 项目近况

✨步子哥 (steper) 2025年09月24日 06:21

截至 2025 年 8 月,GoMLX 仍处于“早期可用”阶段:核心训练-推理链路已跑通,但距离“生产级”还有明显缺口。

  1. 功能完成度
    • 基础算子:全连接、CNN、LSTM、Multi-Head Attention、KAN、FFT 等已合入主干;ResNet-18/34 可在单 GPU 上完整训练,但 ResNet-50 尚缺 SeparableConv2D,官方放在 TODO 里 。
    • 优化器:SGD / Adam / AdamW 已可用,LAMB、Shampoo 等还在 roadmap。
    • 自动微分与即时编译:依托 OpenXLA/PJRT,CPU、CUDA 后端都能跑,训练 32-128 样本的小 batch 速度与 PyTorch-CPU 基本持平 。
    • 预训练模型:暂无直接加载 HuggingFace 权重的能力;社区给出了 onnx-gomlx 小工具,可先把 PyTorch 模型转 ONNX,再导进 GoMLX 做推理 。
  2. 近期进展(2024H2-2025H1)
    • v0.3 → v0.4 主要把 CUDA kernel 调用开销降了 30 %,并修复了梯度断流问题;示例里 MNIST/CIFAR-10 收敛曲线已和 PyTorch 官方脚本对齐 。
    • 作者 2025-04 的 blog 提到正在做“NaN/Inf 首次出现堆栈跟踪”,方便调试大模型;该特性已合并进主支但未发版 。
    • 分布式训练分支(mirror-sync 数据并行)已能跑 2×A100 的小实验,不过代码还在 dev 通道,API 可能调整 。
  3. 社区与生态
    • 主仓库 2024-09 至今平均每月 6-8 个 commit,PR 主要来自作者本人,外部 contributor 约占 15 %。
    • 教程与体验:提供了 10 余套 ipynb(兼容 GoNB),可在 Jupyter 里直接跑;新手 30 分钟能复现 MNIST 分类,上手门槛明显低于 Gorgonia。
    • 第三方落地:目前只看到边缘小项目(IoT 视觉检测、K8s 推理 Pod)试用,尚未有公司公开宣称“线上大规模”在用。
  4. 风险与展望
    • 单 Maintainer:核心代码仍由 Jan Pfeifer 一人主导,若其精力转向,项目易陷入缓迭代。
    • 模型库缺口:视觉 Transformer、BERT、Diffusion 等 SOTA 结构需要社区一起搬运;作者计划先支持 HuggingFace ONNX 导入,再实现原生权重加载 。
    • API 稳定性:官方自述“早期阶段,API 可能随版本小改”,升级时需留意破坏性变更。
    结论
    GoMLX 是目前 Go 圈唯一能“端到端跑 CUDA 训练”的 MLX 前端,2024-2025 的更新把“能跑”提升到“勉强可用”,适合科研、教学或边缘侧单二进制交付场景。若你需要 HuggingFace 现成模型即取即用,或大规模分布式训练,现阶段仍建议 Python MLX 为主、Go 做服务胶水;否则可以拿 GoMLX 尝鲜,并关注其 0.5 版是否落地 HF 模型直导与多机并行。

讨论回复

加载中...
正在加载回复...

正在加载回复...

推荐
智谱 GLM-5 已上线

我正在智谱大模型开放平台 BigModel.cn 上打造 AI 应用,智谱新一代旗舰模型 GLM-5 已上线,在推理、代码、智能体综合能力达到开源模型 SOTA 水平。

领取 2000万 Tokens 通过邀请链接注册即可获得大礼包,期待和你一起在 BigModel 上畅享卓越模型能力
登录