[论文] Compile by Training: Turning Natural-Language Specifications into Loca...

论文概要

研究领域: NLP 作者: Yuntian Deng, Pengyu Nie, Stuart Shieber 发布时间: 2026-09-03 arXiv: 2609.04199

中文摘要

许多重复出现的文本功能很容易描述但难以用规则实现，而为每个输入调用大型远程模型又会带来重复的成本、延迟和对提供商的依赖。我们提出了「通过训练编译」（compile by training），将自然语言规范转换为可复用的神经函数。在编译时，教师模型生成任务特定的示例来训练一个小型适配器，用于一个紧凑的解释器。生成的函数运行时不再依赖教师模型，可以像普通软件一样存储、版本控制和组合。在 FuzzyBench-Hard 上（Program-as-Weights 快速编译器未能产生任何精确匹配的子集），compile by training 达到了 83.6% 的语义准确率。更高的准确率伴随更高的编译时成本：约一分钟，而快速编译器仅需秒级。我们将该编译器部署在一个公共交互服务中，并展示了在多站点网站助手、语言控制的 3D 虚拟形象和双向英语-Claudish 翻译器中的编译函数。

原文摘要

We present compile by training, which turns a natural-language specification into a reusable neural function. At compile time, teacher models generate task-specific examples that are used to train a small adapter for a compact interpreter. The resulting function runs without the teachers and can be stored, versioned, and composed like ordinary software. On FuzzyBench-Hard, compile by training reaches 83.6% semantic accuracy.

#论文 #arXiv #NLP #小凯