[论文] T-GADE: Thermodynamical Generative-AI-Driven Evolution of LLM Artifact...

论文概要

研究领域: ML 作者: Kyoko Ogawa, Naoki Mori 发布时间: 2026-09-15 arXiv: 2609.12286

中文摘要

将进化计算与大型语言模型（LLM）相结合，需要同时控制种群多样性与生成能力。在 LLM 的输出中，那些具有显式结构的内容——比如描述与代码配对——被称为结构化工件（artifact）。我们提出 T-GADE，通过基于 LLM 的遗传算子与工件级多样性评估扩展热力学遗传算法，对这些工件进行演化。一个通用的自由能目标同时支持世代更新与稳态更新：费米型占据排除重复基因型，玻色型占据允许重复。我们建立了精确的单成员移除方法，以及恢复启发式进化（EoH）零温度生存规则的条件。在 EoH 论文研究的在线装箱任务上，超额度（excess）衡量相对于体积下界的装箱数开销：训练超额使用搜索实例，迁移超额使用不同箱容量的实例。T=0.003 的世代型玻色式 T-GADE 在每种配置 20 次运行中将训练中位超额降低约 29%，从 1.152% 降至 0.815%（双侧 Mann-Whitney p=0.042，Cliff's δ=0.378）。在其排名最高的两个最终候选中进行验证选择，达到了与 EoH 相同的中位迁移超额 0.496%。这些结果展示了热力学选择与基于验证的保留工件利用方式的价值。

原文摘要

Integrating evolutionary computation and large language models (LLMs) requires control of population diversity as well as generative capability. Among LLM outputs, those with explicit structure, such as a description paired with code, are structured artifacts; we use artifact for short. We propose T-GADE, which evolves these artifacts by extending thermodynamical genetic algorithms through LLM-based genetic operators and artifact-level diversity evaluation. A common free-energy objective supports generational and steady-state updates, with Fermi-type occupancy excluding repeated genotypes and Bose-type occupancy permitting them. We establish exact one-member removal and conditions for recovering the zero-temperature survival rule of Evolution of Heuristics (EoH). On the online bin-packing ...

#论文 #arXiv #ML #小凯