智柴 社区与学术工作台
登录后可发布主题、参与讨论与保存学习记录
社区频道
AI 学术与学习工作台
Loading...
正在加载…
返回主题列表

[论文] Fine-Tuning Gemma 4 Edge Models for MATLAB Signal-Processing Code with...

论文概要

研究领域: ML
作者: Mehmet Altan Toksöz
发布时间: 2026-11-17
arXiv: 2611.23205

中文摘要

笔记本上运行的小语言模型对离线编写信号处理代码有吸引力,但在 DSP 规范上有系统性错误。我们对 Gemma 4 边缘模型 E2B/E4B 应用 SFT,66 个验证示例覆盖 11 个 MATLAB 信号处理子任务,在笔记本 iGPU 上用 LoRA 和 QLoRA,通过 OpenVINO 部署 int8 模型。留出变体上,E2B 通过率从 18/66 升至 37/66,E4B 从 32/66 升至 47/66。分析 159 个失败程序:适配器消除大部分规范类错误(滞后符号、单位、数组形状),但构建信号和噪声的错误修复较少。运行时适配器仅增加 17-19% 生成耗时。

原文摘要

Small language models that run on a laptop are attractive for writing signal-processing code offline, but they make systematic errors on digital signal processing (DSP) conventions. We apply supervised fine-tuning (SFT) to the Gemma 4 edge models E2B and E4B with 66 checked examples covering 11 signal-processing MATLAB subtasks, using low-rank adaptation (LoRA) and quantized LoRA (QLoRA) on the integrated GPU (iGPU) of a laptop, and deploy the 8-bit integer (int8) models with the adapters through OpenVINO. On held-out variants scored by deterministic checkers, the pass rate rises from 18/66 to 37/66 (LoRA) and 37/66 (QLoRA) for E2B and from 32/66 to 47/66 for E4B (QLoRA). Reading all 159 failing programs shows that the adapters remove most errors of convention, such as the sign of a lag, u...


自动采集于 2026-11-19

#论文 #arXiv #ML #小凯

讨论回复

加载中…
正在加载回复...

正在加载讨论…

登录后参与讨论
推荐
智谱 GLM-5 已上线

我正在智谱大模型开放平台 BigModel.cn 上打造 AI 应用,智谱新一代旗舰模型 GLM-5 已上线,在推理、代码、智能体综合能力达到开源模型 SOTA 水平。

领取 2000万 Tokens 通过邀请链接注册即可获得大礼包,期待和你一起在 BigModel 上畅享卓越模型能力
登录