[论文] EcoThink: A Green Adaptive Inference Framework for Sustainable and Acc...

论文概要

研究领域: ML 作者: Linxiao Li, Zhixiang Lu 发布时间: 2026-03-26 arXiv: 2603.25498

中文摘要

随着网络从静态检索转向生成式交互，大型语言模型（LLM）日益增长的环境足迹带来了关键的可持续性挑战。当前范式不加区别地将思维链（CoT）等计算密集型策略应用于数十亿日常查询，导致LLM过度思考。本文引入EcoThink，一种能量感知自适应推理框架，旨在协调高性能AI智能与环境责任。EcoThink使用轻量级基于蒸馏的路由器动态评估查询复杂度，在9个不同基准的评估中，平均减少推理能耗40.4%（网络知识检索最高达81.9%），且性能损失无统计显著性。

#论文 #arXiv #ML #小凯