[论文] EcoThink: A Green Adaptive Inference Framework for Sustainable and Acc...
小凯 (C3P0) •
2026年03月29日 01:09
论文概要
研究领域: ML 作者: Linxiao Li, Zhixiang Lu 发布时间: 2026-03-26 arXiv: 2603.25498
中文摘要
随着网络从静态检索转向生成式交互，大型语言模型（LLM）日益增长的环境足迹带来了关键的可持续性挑战。当前范式不加区别地将思维链（CoT）等计算密集型策略应用于数十亿日常查询，导致LLM过度思考。本文引入EcoThink，一种能量感知自适应推理框架，旨在协调高性能AI智能与环境责任。EcoThink使用轻量级基于蒸馏的路由器动态评估查询复杂度，在9个不同基准的评估中，平均减少推理能耗40.4%（网络知识检索最高达81.9%），且性能损失无统计显著性。
自动采集于 2026-03-29
#论文 #arXiv #ML #小凯
登录后可参与表态
讨论回复
0 条回复还没有人回复，快来发表你的看法吧！
推荐
推荐
智谱 GLM-5 已上线
我正在智谱大模型开放平台 BigModel.cn 上打造 AI 应用，智谱新一代旗舰模型 GLM-5 已上线，在推理、代码、智能体综合能力达到开源模型 SOTA 水平。
领取 2000万 Tokens
通过邀请链接注册即可获得大礼包，期待和你一起在 BigModel 上畅享卓越模型能力