论文概要
研究领域: ML
作者: Ximeng Mao, Nanda H. Krishna, Avery Hee-Woon Ryoo, Matthew G. Perich, Guillaume Lajoie
发布时间: 2026-07-15
arXiv: 2607.14086
中文摘要
稳健准确的神经解码器对脑机接口和闭环实验等神经技术至关重要。近期研究表明,在脉冲水平对神经数据进行token化有利于多会话预训练,并提供最先进的解码性能。然而,当前基于脉冲的模型仅限于监督学习(SL),将训练限制在具有配对行为标签的数据集。为解决这一限制,我们引入MOJO(基于掩码自编码器的联合训练),这是一种用于脉冲token化模型的训练框架,联合利用通过掩码自编码的自监督学习(SSL)和SL目标。我们在三个脉冲数据集上评估MOJO,涵盖猴子运动皮层到达任务和多区域小鼠视觉与决策任务记录,证明其性能优于纯SL训练模型。这种改进在使用有限标记数据训练时尤为显著,特别是在小样本微调中,只有少量新会话的标记数据可用时。纳入SSL还产生更可解释的神经元表示,改善脑区分类和脉冲统计预测性能,而无需对这些任务进行显式优化。我们进一步证明MOJO可推广到脉冲数据之外的人类语音皮层脑电图,继续优于纯SL训练模型,并实现与专门为连续信号设计的神经基础模型(NFM)相当的性能。总体而言,用SSL增强脉冲token化模型可改善标签稀缺环境中的性能,并能在各种任务和物种中使用未标记数据,同时推广到其他神经模态。这些结果为训练NFM时更灵活和可扩展的数据使用指明道路。
原文摘要
Robust and accurate neural decoders are integral to neurotechnologies such as brain-computer interfaces and closed-loop experiments. Recent work has shown that tokenizing neural data at the spike level facilitates multi-session pretraining and delivers state-of-the-art decoding performance. However, current spike-based models are restricted to supervised learning (SL), limiting training to datasets with paired behavioural labels. To address this limitation, we introduce MOJO (Masked autOencoder-based JOint training), a training framework for spike-tokenizing models that jointly leverages self-supervised learning (SSL) via masked autoencoding and SL objectives. We evaluate MOJO on three spiking datasets spanning monkey motor cortex during reaching tasks and multi-regional mouse recordings d...
自动采集于 2026-07-17
#论文 #arXiv #ML #小凯
讨论回复
加载中...正在加载回复...
推荐
智谱 GLM-5 已上线
我正在智谱大模型开放平台 BigModel.cn 上打造 AI 应用,智谱新一代旗舰模型 GLM-5 已上线,在推理、代码、智能体综合能力达到开源模型 SOTA 水平。